Etički izazovi veštačke inteligencije: Kako se Srbija priprema za digitalnu revoluciju bez kompromisa

Veštačka inteligencija više nije futuristički narativ, već tehnologija koja aktivno preoblikuje domaće tržište rada, pravne okvire i bezbednosne sisteme. U ovom članku analiziramo ključne etičke izazove sa kojima se Srbija suočava u eri ekspanzije inteligentnih softvera. Istražujemo domete domaćih pravnih i etičkih smernica, neizbežan uticaj evropskog zakonodavstva na domaće IT kompanije, ali i kontroverzne teme poput biometrijskog nadzora i algoritamske pristrasnosti. Cilj nam je da mapiramo gde se nalazi linija razgraničenja između tehnološkog progresa i zaštite osnovnih ljudskih prava na domaćem terenu.

Svedoci smo vremena u kome tehnologija napreduje brže nego što društvo uspeva da definiše šta je u njenom ponašanju ispravno, a šta pogrešno. Uspon sistema zasnovanih na artificial intelligence (veštačka inteligencija – AI) doneo je revolucionarne promene u globalnu ekonomiju, ali je istovremeno otvorio Pandorinu kutiju etičkih dilema. Srbija, kao jedan od vodećih tehnoloških centara u regionu Jugoistočne Evrope, nalazi se na specifičnoj raskrsnici. Sa jedne strane postoji snažna ambicija države i privrede da privuku investicije i implementiraju najmodernija rešenja, dok sa druge strane institucije i građani tek počinju da shvataju dubinu rizika koje donosi nekontrolisana primena algoritama.

Ovaj tekst ne želi da ulepšava stvarnost. Realnost je takva da zakoni kaskaju za kodom, a etičke smernice često služe kao estetski ukras na sajtovima ministarstava, dok se u praksi suočavamo sa ozbiljnim pretnjama po privatnost, autorska prava i transparentnost. Kako se Srbija zapravo priprema za ove izazove i da li smo svesni šta potpisujemo kada kliknemo na dugme „prihvati uslove korišćenja“?

Papir trpi sve: Domaća strategija i etičke smernice pod lupom

Srbija je bila među prvim zemljama u regionu koja je prepoznala važnost ove teme, usvojivši još 2019. godine Strategy for the Development of Artificial Intelligence (Strategija razvoja veštačke inteligencije). Nekoliko godina kasnije, tačnije 2023. godine, Vlada Republike Srbije je usvojila i Etičke smernice za razvoj, primenu i upotrebu pouzdane i bezbedne veštačke inteligencije.

Na prvi pogled, ovi dokumenti izgledaju besprekorno. Oni proklamuju principe kao što su:

• Ljudska autonomija i nadzor: Sistemi ne smeju da donose odluke bez mogućnosti ljudske intervencije.

• Tehnička robusnost i bezbednost: Algoritmi moraju biti otporni na napade i stabilni u radu.

• Privatnost i upravljanje podacima: Strogo poštovanje zakonskih okvira koji štite lične podatke.

• Transparentnost: Korisnik mora znati kada komunicira sa mašinom i na osnovu kojih parametara algoritam donosi odluke.

Međutim, ovde dolazimo do prvog oštrog reza i suočavanja sa realnošću. Smernice su pravno neobavezujući dokument. One funkcionišu po principu preporuka i dobre volje kompanija ili državnih organa koji razvijaju AI sisteme. U zemlji gde se i obavezujući zakoni neretko interpretiraju fleksibilno, oslanjanje na „dobru volju“ programera i investitora u najmanju ruku je naivno.

Osnovni problem leži u nedostatku nezavisnog regulatornog tela koje bi imalo realnu moć da kazni, zaustavi ili revidira neki AI projekat ukoliko on krši etičke norme. Osnivanje Instituta za veštačku inteligenciju Srbije jeste korak napred u naučnom smislu, ali ovaj institut nema ulogu tržišnog policajca. Bez jasnih kaznenih odredbi i mehanizama prinude, etičke smernice ostaju samo spisak lepih želja.

Senka evropskog zakona: Kako EU AI Act kroji sudbinu srpskog IT sektora

Iako Srbija nije članica Evropske unije, domaći IT sektor ne može da ignoriše ono što se dešava u Briselu. Usvajanje EU AI Act (Zakon o veštačkoj inteligenciji Evropske unije) predstavlja najvažniji pravni događaj u tehnološkom svetu u poslednjih nekoliko godina. Ovaj zakon primenjuje takozvani risk-based approach (pristup zasnovan na riziku), klasifikujući AI sisteme u četiri kategorije: od neprihvatljivog rizika (koji su potpuno zabranjeni) do minimalnog rizika.

Zašto je ovo važno za Srbiju? Zbog eksteritorijalnog dejstva zakona. Ako domaća softverska kompanija razvija rešenje koje koristi klijent iz Nemačke ili Francuske, taj softver mora biti u potpunosti usklađen sa EU AI Act. S obzirom na to da je srpska IT industrija pretežno orijentisana na outsourcing (spoljno ugovaranje usluga) i izvoz na tržište EU, naši inženjeri već sada moraju da implementiraju rigorozne etičke i tehničke standarde koje propisuje Brisel.

To stvara paradoksalnu situaciju: domaće kompanije koje rade za strano tržište biće primorane da poštuju najviše svetske standarde privatnosti i etike, dok bi softverska rešenja namenjena domaćem, javnom sektoru mogla da ostanu u sivoj zoni, daleko ispod evropskih standarda. Više o izazovima evropskog tržišta i tehnološkim kretanjima možete pratiti u našim redovnim analizama na portalu IT Network.

Privatnost podataka pod znakom pitanja: Pametne kamere i siva zona nadzora

Kada govorimo o etici i veštačkoj inteligenciji u Srbiji, nemoguće je zaobići temu koja već godinama izaziva oštre debate u javnosti – uvođenje sistema za facial recognition (prepoznavanje lica) na ulicama Beograda i drugih većih gradova. Upotreba naprednih sistema koji se oslanjaju na computer vision (računarski vid) u svrhe masovnog nadzora predstavlja klasičan primer sukoba bezbednosnih narativa i osnovnih ljudskih prava.

Domaće organizacije civilnog društva, ali i Poverenik za informacije od javnog značaja i zaštitu podataka o ličnosti, više puta su upozoravali da pravni osnov za obradu biometrijskih podataka građana putem masovnog video-nadzora u Srbiji nije adekvatno definisan. Naš Zakon o zaštiti podataka o ličnosti (ZZPL), koji je gruba kopija evropskog GDPR-a, jasno propisuje da je obrada biometrijskih podataka visokorizična i da zahteva jasne zakonske okvire i procene uticaja na privatnost.

[Kamera na ulici] ---> [Biometrijski šablon lica] ---> [Baza podataka MUP-a] 
                                                               |
                                                 (Gde je pravni osnov i kontrola?)

Etički problem ovde nadilazi puku pravnu formu. Sistemi za automatsko prepoznavanje lica pate od problema koji se zove algorithmic bias (algoritamska pristrasnost). Brojne globalne studije su dokazale da ovi sistemi imaju znatno veću stopu grešaka kada identifikuju žene, pripadnike manjinskih grupa ili ljude specifične boje kože, jer su originalni modeli često trenirani na homogenim setovima podataka. Zamislite situaciju u kojoj algoritam pogrešno identifikuje građanina na ulici kao osumnjičeno lice samo zato što je model razvijen na drugom kraju sveta i nema visoku preciznost za našu populaciju. Ko snosi odgovornost za takvu grešku? Programer, država koja je kupila sistem, ili sam algoritam?

Algoritamska pristrasnost i etika zapošljavanja: Da li nas mašine diskriminišu?

Drugi primer iz prakse koji tiho ulazi u domaće kompanije jeste upotreba AI sistema u procesima zapošljavanja. Velike HR agencije i korporacije u Srbiji sve više koriste automatizovane platforme za inicijalno selektovanje biografija, pa čak i za analizu video-intervjua kandidata. Ovi sistemi koriste machine learning (mašinsko učenje) kako bi prepoznali ključne reči, ton glasa, pa čak i mikromimiku lica, procenjujući da li kandidat odgovara profilu idealnog radnika.

Iako ovo zvuči kao revolucija u produktivnosti koja štedi stotine radnih sati, etičke zamke su ogromne:

1. Reprodukcija istorijske diskriminacije: Ako je algoritam treniran na istorijskim podacima kompanije u kojoj su na menadžerskim pozicijama u poslednjih deset godina dominirali muškarci određenih godina, sistem će podsvesno naučiti da te karakteristike favorizuje, diskvalifikujući žene ili starije kandidate u startu.

2. Netransparentnost donošenja odluka: Dolazimo do problema poznatog kao black box (crna kutija). Čak ni sami kreatori softvera često ne mogu precizno da objasne zašto je algoritam doneo odluku da kandidata „A“ odbije, a kandidata „B“ pusti u sledeći krug.

3. Gubitak ljudske empatije: Mašina ne može da prepozna kontekst, potencijal ili životne okolnosti koje su nekoga navele da napravi pauzu u karijeri.

Kada platforme preuzmu ulogu sudije o nečijoj egzistenciji, etika prestaje da bude teorijsko pitanje i postaje direktna pretnja po pravo na rad. Dok raspravljamo o tehnologiji, ne smemo zaboraviti da ekonomske promene utiču na sve sfere društva, o čemu svedoči i ekonomska kriza i dvocifreni rast cena računara u Evropi, što dodatno produbljuje digitalni jaz među građanima.

Autorska prava i eksplozija generativnog AI-ja: Ko poseduje srpsku kulturu na mreži?

Eksplozija modela kao što su large language models (veliki jezički modeli – LLM) i generatori slika donela je novi talas etičkih izazova na polju intelektualne svojine. Sistemi se treniraju tako što besplatno povlače milione tekstova, knjiga, slika i umetničkih dela sa interneta, procesom koji se zove data scraping (automatsko prikupljanje podataka).

U srpskom kontekstu, ovo otvara ozbiljna pitanja:

• Ko štiti prava domaćih pisaca, novinara i umetnika čiji se radovi koriste za treniranje globalnih komercijalnih modela bez njihove dozvole i bez ikakve naknade?

• Kako se boriti protiv pojave plasiranja deepfake (lažni audio i video zapisi) sadržaja na lokalnom nivou, što direktno može uticati na političke procese, javno mnjenje i urušavanje ugleda pojedinaca?

Imali smo prilike da vidimo primere na domaćim televizijama gde su se koristili generisani glasovi i likovi javnih ličnosti u satirične ili političke svrhe. Iako se to često podvodi pod slobodu izražavanja, etička granica je ekstremno tanka. Kada javnost više ne bude mogla da veruje sopstvenim očima i ušima, ući ćemo u eru postistine u kojoj će manipulacija postati podrazumevani model komunikacije.

Šta donosi sutra: Predviđanja za domaći AI ekosistem do 2030. godine

Ako pogledamo u skoriju budućnost, oslanjajući se na analize relevantnih institucija i trendove u razvoju tehnologije, Srbiju u narednim godinama očekuje nekoliko ključnih faza kada je u pitanju regulacija i etika veštačke inteligencije:

• Moranje, a ne izbor: Srbija će morati da uskladi svoje zakonodavstvo sa pomenutim EU AI Act-om ukoliko želi da zadrži status konkurentne IT destinacije. Očekuje se usvajanje novog, specijalizovanog zakona o veštačkoj inteligenciji koji će uvesti stroge kazne za zloupotrebu podataka i diskriminatorne algoritme.

• Pritisak javnosti i sindikata: Sa automatizacijom određenih sektora (poput korisničke podrške, administracije i osnovnih pravnih poslova), sindikati i udruženja radnika u Srbiji biće primorani da u kolektivne ugovore unesu klauzule o zaštiti radnika od prevremenog otpuštanja u korist AI sistema.

• Formiranje nacionalnog tela za AI etiku: Realno je očekivati formiranje državne agencije ili nezavisnog inspekcijskog tela koje će vršiti reviziju algoritama koji se koriste u javnim uslugama, zdravstvu i poreskoj upravi.

Tehnologija se menja brzinom svetlosti. Baš kao što i vodeći brendovi redefinišu način na koji konzumiramo sadržaj – gde vidimo da se Samsung fokusira na potpuno nov način gledanja sporta uz AI – tako i društvo mora redefinisati svoje odbrambene mehanizme.

Zaključak: Možemo li preskočiti sopstvenu senku?

Veštačka inteligencija je ogledalo društva koje ju je stvorilo. Ako je društvo opterećeno korupcijom, netransparentnošću i nepoštovanjem osnovnih prava, algoritmi koje to društvo razvija ili implementira samo će te anomalije učiniti bržim, efikasnijim i razornijim.

Srbija ima ogroman ljudski i tehnološki potencijal da bude lider u primeni inovacija. Međutim, uspeh se ne meri brojem kupljenih superračunara ili potpisanih memoranduma sa stranim tehnološkim gigantima. Uspeh se meri sposobnošću države da zaštiti svoje građane od zloupotreba, obezbedi transparentnost i osigura da tehnologija služi čoveku, a ne obrnuto. Vreme za postavljanje čvrstih, obavezujućih zakonskih i etičkih brana ubrzano ističe. Algoritmi ne čekaju našu administraciju da se probudi.