Svet tehnologije je poslednjih godina postao opsednut jednim naizgled filozofskim pitanjem – da li će veštačka inteligencija postati svesna? Mediji su prepuni bombastičnih naslova o tome kako su četbotovi počeli da pokazuju emocije, a inženjeri iz kompanija kao što je Google izlaze u javnost sa tvrdnjama da su njihovi jezički modeli živi. Međutim, dok se mi bavimo holivudskim scenarijima, pred našim očima se odvija mnogo ozbiljnija i opasnija kriza.
Pravi problem nije da li mašina ima dušu, već ko preuzima odgovornost kada ta mašina napravi katastrofalnu grešku. Zato je krajnje vreme da diskusiju preusmerimo sa naučne fantastike na pravnu i etičku stvarnost.
Zabluda o svesnim mašinama i holivudski scenario
Kada komunicirate sa naprednim AI modelima, lako je upasti u zamku antropomorfizacije – pripisivanja ljudskih osobina nečemu što nije čovek. Algoritmi su trenirani na milijardama tekstova koje su napisali ljudi, pa je sasvim logično da zvuče empatično, uplašeno ili čak zaljubljeno. Ali ispod te uverljive površine ne krije se svest, već isključivo napredna matematika i statističko predviđanje sledeće reči.
Fokusiranje na svest veštačke inteligencije zapravo ide na ruku velikim korporacijama. Dok se javnost i zakonodavci bave apstraktnim pitanjima o „pravima robota“, tehnološki giganti nesmetano lansiraju polu-testirane proizvode na tržište, izbegavajući ozbiljne razgovore o tome ko snosi pravne posledice kada njihov softver prouzrokuje štetu.
Ko je zapravo kriv kada algoritam pogreši
Da bismo razumeli zašto je odgovornost (eng. accountability) ključna, moramo pogledati stvarne primere iz prakse, koji se dešavaju već danas:
-
Autonomna vozila: Zamislite situaciju u kojoj automobil kojim upravlja veštačka inteligencija udari pešaka. Da li je kriv vozač koji nije reagovao na vreme, kompanija koja je proizvela automobil, programer koji je pisao kod, ili sam AI model?
-
Zapošljavanje i diskriminacija: Mnoge svetske korporacije koriste softvere za automatsko skeniranje biografija. Ukoliko se dokaže da algoritam sistemski odbacuje kandidatkinje ženskog pola (što se već dešavalo u praksi), ko plaća odštetu za diskriminaciju?
-
Medicina i pogrešne dijagnoze: AI se sve više koristi u zdravstvu za analizu rendgenskih snimaka. Ako algoritam propusti rane znakove teške bolesti, pacijent trpi nenadoknadivu štetu. Koga on može da tuži?
Kada veštačka inteligencija napravi grešku, ona ne oseća krivicu, niti može da ode u zatvor. Ne možete kazniti linije koda. Zato odgovornost mora uvek, bez izuzetka, pasti na ljude i organizacije koje stoje iza tog koda.
Pravni vakuum tehnoloških giganata
Kompanije poput OpenAI, Microsoft i Google razvijaju sisteme neverovatne složenosti. Često se dešava da ni sami kreatori ne mogu tačno da objasne kako je model došao do određenog zaključka – fenomen poznat kao „crna kutija“ (black box).
Međutim, kompleksnost ne sme biti izgovor za aboliciju od odgovornosti. Zakonodavstvo u svetu, uključujući i nedavni EU AI Act, počinje da prepoznaje ovaj problem. Uvode se kategorizacije rizika, gde sistemi koji donose odluke o ljudskim sudbinama (zapošljavanje, krediti, pravosuđe) moraju proći rigorozne provere. Ipak, praksa još uvek kaska za tehnološkim razvojem.
Dok god korporacije mogu da se zaklone iza uslova korišćenja (Terms of Service) u kojima piše da „ne garantuju za tačnost informacija“ ili da „korisnik snosi svu odgovornost“, imaćemo ozbiljan društveni problem.
Kako izgraditi sisteme kojima možemo da verujemo
Da bi veštačka inteligencija postala alat koji zaista unapređuje čovečanstvo, a ne rizik koji izmiče kontroli, industrija mora da usvoji nekoliko ključnih principa:
-
Potpuna transparentnost: Korisnici moraju znati kada komuniciraju sa mašinom, na kojim podacima je ona trenirana i koje su njene granice.
-
Čovek u petlji (Human-in-the-loop): Kritične odluke – posebno u zdravstvu, pravosuđu i bezbednosti – nikada ne smeju biti prepuštene isključivo algoritmu. Konačnu reč mora dati stručnjak od krvi i mesa.
-
Nezavisne revizije: Baš kao što finansijske institucije prolaze kroz stroge revizije, AI modeli moraju biti redovno testirani od strane nezavisnih tela na pristrasnost, bezbednost i tačnost.
Na kraju dana, priča o svesti veštačke inteligencije je odličan materijal za filozofske debate i književnost. Ali u realnom svetu, algoritmi već sada donose odluke koje direktno utiču na naše živote, finansije i slobode. Zato naš glavni zahtev prema kreatorima ovih tehnologija ne sme biti pitanje: „Da li tvoj kod može da oseća?“, već isključivo: „Ko će platiti štetu ako tvoj kod pogreši?“
