Možemo li verovati veštačkoj inteligenciji – granica poverenja i rizika

Najvažnije stavke: Raskorak između funkcionalnosti i pouzdanosti

• Iluzija nepogrešivosti: Veštačka inteligencija uspešno pomaže u medicini, finansijama i svakodnevnom radu, ali njena korisnost ne znači da je ona automatski neutralna, tačna ili bezbedna.

• Performans naspram razumevanja: AI modeli često generišu uverljive i jezički besprekorne odgovore čak i kada su oni čisto svedočanstvo „halucinacije“ ili faktičke neistine.

• Koncept opravdanog oslanjanja: Filozofski gledano, mašinama ne možemo verovati na isti način kao ljudima jer one nemaju svest, nameru niti moralnu odgovornost. Umesto toga, treba razvijati sisteme opravdanog oslanjanja (justified reliance).

• Imperativ ljudskog nadzora: Ljudska kontrola ne sme biti puka formalnost i simbolični klik na kraju procesa. Čovek mora imati stvarnu moć da razume, ospori i zaustavi algoritamsku odluku.

Savremeni čovek je postao neobično spreman da slepo veruje sistemima koje ne razume do kraja. Svakodnevno se oslanjamo na GPS navigaciju, algoritme za preporuku sadržaja, automatizovane bankarske procene rizika, filtere protiv prevara i sisteme koji umesto nas odlučuju šta je važno, sumnjivo ili korisno. U tom smislu, veštačka inteligencija nije zakoračila u svet koji je skeptičan prema mašinama, već u društvo koje je uveliko naviklo da digitalnim alatima delegira sopstvenu sposobnost prosuđivanja.

Zato je pitanje poverenja u veštačku inteligenciju znatno ozbiljnije nego što se to na prvi pogled čini. Mi se zapravo ne pitamo samo da li AI može da uradi nešto korisno, već da li sistemu koji ne razmišlja kao čovek, ne razume posledice svojih akcija i ne snosi nikakvu odgovornost, smemo da prepustimo prostor u kome se odlučuje o ljudskim sudbinama, novcu, bezbednosti i javnom diskursu.

Tu dolazimo do prve kritične tačke: AI model može biti izuzetno koristan čak i kada nije potpuno pouzdan. Ljudi ovu činjenicu prečesto zaboravljaju. Softver može savršeno da ubrza pretragu podataka, uoči skrivene šablone ili sažme masovne tekstove, a da pritom ostane sklon sistemskim greškama, pristrasnosti i generisanju izmišljenih informacija. Pravi problem nastaje kada se visoka funkcionalnost alata u javnosti protumači kao dokaz njegove apsolutne istinitosti. Na toj tački tehnologija polako dobija status neprikosnovenog autoriteta.

Najveći rizik ne leži u tome što će AI povremeno pogrešiti, već u tome što ljudi, kada joj previše veruju, potpuno prestaju da proveravaju njene izlaze. Granica između korisne asistencije i pasivne predaje kontrole ne prelazi se naglo, već neprimetno – kroz jedan automatski generisan sažetak, jednu preporuku ili jedno algoritamsko rangiranje. Pre nego što postanemo svesni, sistem koji je projektovan da nam služi počinje aktivno da oblikuje naš način razmišljanja i procene sveta.

Poverenje nije isto što i korisnost

Jedna od najvećih zabluda u debatama o veštačkoj inteligenciji jeste pretpostavka da sistem zaslužuje naše poverenje samo zato što često isporučuje dobre rezultate. Običan džepni kalkulator je odličan primer tehnologije kojoj bezuslovno verujemo jer tačno znamo šta radi, u kom dometu operiše, kako možemo proveriti rezultat i u kojim uslovima može da otkaže.

Kod naprednih AI sistema situacija je potpuno drugačija. Prosečan korisnik nema uvid u to koji su podaci korišćeni za trening, kako je model kalibrisan, zašto je generisan baš određeni odgovor i pod kojim uslovima sistem postaje potpuno nestabilan.

[Korisnički unos] ──> [Neprozirni AI model (Crna kutija)] ──> [Uverljiv, ali neproverljiv izlaz]

Veštačka inteligencija nas konstantno navodi da pomešamo spoljni performans sa stvarnim razumevanjem suštine. Generativni modeli zvuče izuzetno uverljivo, pišu gramatički besprekornim jezikom i nastupaju sa tonom apsolutnog autoriteta i onda kada plasiraju čiste istorijske ili naučne neistine. Uverljivost forme nije i nikada ne može biti garancija istinitosti sadržaja. Zato je jedini zdrav pristup sledeći: AI sistemu ne treba verovati zato što „deluje pametno“, već isključivo onoliko koliko smo u stanju da empirijski proverimo njegove izvore i zadržimo mogućnost ljudske korekcije. Sve preko toga predstavlja tehnološku naivnost.

Filozofski problem: Poverenje u mašinu ili u sistem iza nje

Kada izjavimo da verujemo ili ne verujemo veštačkoj inteligenciji, mi zapravo nesvesno govorimo o čitavom nizu različitih karika u lancu:

• Poverenju u matematički model kao tehničko rešenje,

• Poverenju u tehnološku kompaniju koja je taj model plasirala na tržište,

• Poverenju u setove podataka koji su korišćeni za obuku koda,

• Poverenju u instituciju koja je taj sistem implementirala u rad sa građanima.

Izgradnja poverenja u AI nije samo inženjerski, već kompleksan sociotehnički proces. Američki institut NIST, u svom referentnom okviru AI Risk Management Framework, jasno naglašava da se pouzdanost ne dokazuje marketingom, već merljivom otpornošću (robustness), transparentnošću, objašnjivošću (explainability), privatnošću, pravičnošću i jasnim mapiranjem odgovornosti kroz celokupan životni ciklus sistema.

Filozofski gledano, ljudsko poverenje tradicionalno počiva na svesnoj nameri, iskustvu i moralnoj odgovornosti. Drugim ljudima verujemo jer znamo da oni razumeju težinu i posledice svojih postupaka. Veštačka inteligencija nema nameru, svest niti moralni kompas – ona isključivo optimizuje funkcije i računa statističke verovatnoće. Kada sistem generiše netačnu informaciju, to nije laž u ljudskom smislu, jer mašina nema koncept istine, ali je krajnja posledica po obmanutog korisnika potpuno ista.

Stoga, umesto o klasičnom poverenju, u sferi tehnologije moramo govoriti o opravdanom oslanjanju (justified reliance). Veštačkoj inteligenciji ne treba verovati na način na koji verujemo lekaru, prijatelju ili partneru. Naš zadatak je da izgradimo stroge inženjerske i zakonske uslove pod kojima je u određenom momentu razumno osloniti se na softverski izlaz, uz striktno definisane granice i zaštitne ograde (guardrails).

Gde veštačka inteligencija najčešće gubi kredibilitet

Gubitak poverenja u sisteme veštačke inteligencije retko se dešava kroz velike, katastrofalne i medijski atraktivne slomove. Ono se uglavnom urušava tiho, kroz sitne operativne pukotine koje vremenom prerastaju u sistemski rizik:

• Netransparentnost „crne kutije“: Ukoliko ne možemo da rekonstruišemo logički put kojim je algoritam došao do određene presude, nemoguće je proceniti da li je ta odluka bezbedna, zakonita ili utemeljena na činjenicama.

• Skrivena pristrasnost (Bias): Algoritmi koji uče iz istorijskih podataka koji sadrže ljudske predrasude postaju tihi multiplikatori društvene nejednakosti, pakujući diskriminaciju u ruho objektivnog računarskog proračuna.

• Ranjivost podataka: AI sistemi procesuiraju masovne količine osetljivih poslovnih i ličnih informacija. Svaki bezbednosni proboj, curenje podataka ili manipulacija modelom momentalno uništavaju reputaciju platforme.

• Proizvodnja dezinformacija: Sposobnost generativnih modela da kreiraju hiperrealistične lažne video-zapise (deepfake), falsifikovane dokumente i uverljive lažne vesti ubrzano urušava poverenje u celokupan digitalni prostor i verodostojnost dokaza uopšte.

Da li je model „crne kutije“ prihvatljiv ako dobro radi

Ovo je jedno od centralnih pitanja moderne primene tehnologije. Kompleksni modeli dubokog učenja često postižu fascinantne rezultate na testovima performansi, ali je njihova unutrašnja arhitektura previše složena da bi se mogla jednostavno objasniti korisnicima. Da li nam je objašnjivost zaista potrebna ako sistem u praksi završava posao?

[Ulaz] ──> [CRNA KUTIJA (Nepoznat proces)] ──> [Izlaz (Prihvatljiv samo za niske rizike)]

Odgovor direktno zavisi od nivoa operativnog rizika. Ukoliko AI sistem ispravlja slovne greške u tekstu, predlaže muzičke numere ili pomaže u internom sortiranju dokumenata unutar firme, niska objašnjivost je potpuno prihvatljiv inženjerski kompromis.

Međutim, u sistemima visokog rizika – tamo gde algoritam odlučuje o ljudskim pravima, bezbednosti, plasiranju novca, medicinskim dijagnozama ili državnoj administraciji – princip „dobro radi“ apsolutno nije dovoljan. Međunarodne organizacije, uključujući OECD, s pravom insistiraju na transparentnosti i sledljivosti (traceability) podataka i procesa. Bez objašnjivosti modela nemoguće je blagovremeno detektovati sistemsku grešku, adresirati pravnu odgovornost i zaštititi korisnika od algoritamske nepravde.

Bezbednost: Mit o savršenom kodu

Jedini pošten i naučno utemeljen pristup sferi veštačke inteligencije jeste otvoreno priznanje da apsolutno bezbedna veštačka inteligencija ne postoji. Javnost od softverskih modela često zahteva nivo bezbednosti i savršenstva koji nikada u istoriji nismo tražili od ljudskih stručnjaka.

AI sistemi mogu biti izuzetno otporni, redovno testirani i zaštićeni naprednim algoritmima, ali nikada ne mogu biti potpuno imuni na rizike. Model može zakazati zbog loših ili namerno zatrovanih podataka za trening, neočekivanih promena u realnom okruženju, hakerskih upada ili proste statističke prirode na kojoj počiva. Kod generativnih sistema, fenomen halucinacija je trajna tehnička karakteristika, a ne privremeni bag koji će nestati sa sledećim ažuriranjem softvera.

To ne znači da tehnologiju treba u potpunosti odbaciti; to znači da joj se ne sme verovati sa religioznim fanatizmom. Skepsa i oprez nisu znaci tehnofobije, već odlika zrele digitalne pismenosti. Poverenje se ne sme graditi na praznim korporativnim obećanjima da je neki sistem „stopostotno siguran“, već na transparentnim dokazima da su svi operativni rizici mapirani, da se anomalije redovno prijavljuju i da u svakom trenutku postoji opcija za ljudsko preuzimanje kontrole (human override).

Zašto je ljudski nadzor jedini stvarni korektivni faktor

Bez obzira na to koliki stepen autonomije i inteligencije AI sistemi dostignu u budućnosti, jedno etičko pravilo mora ostati nepromenljivo: kada odluke proizvode ozbiljne posledice po ljude, čovek mora imati poslednju reč. UNESCO u svojim globalnim preporukama jasno naglašava da su ljudska prava i dostojanstvo neprikosnoveni temelj etičkog razvoja, dok OECD smernice zahtevaju da svaki sistem poseduje jasne mehanizme za bezbedno gašenje ili povlačenje iz upotrebe onog trenutka kada počne da generiše štetu.

Ovo nije samo filozofski apel, već pre svega praktična potreba. Algoritam može uspešno da sortira podatke, predloži strategiju ili signalizira anomaliju. Ali onog trenutka kada odluka uđe u sferu pravnih posledica, reputacionog rizika i društvene osetljivosti, mašinski izlaz gubi legitimitet bez ljudske verifikacije.

[AI Predlog] ──> [Ljudski nadzor (Evaluacija konteksta)] ──> [Konačna izvršna odluka]

Posebno je opasna skrivena manipulacija kroz takozvani efekat uokviravanja (Framing effect). Čak i kada formalno ne donosi konačnu odluku, AI usmerava pažnju čoveka – ono što algoritam rangira na vrh liste prioriteta, ljudski operater će automatski tretirati kao najvažnije, dok će stavke koje je sistem označio kao sumnjive biti posmatrane sa unapred ugrađenim nepoverenjem. Zbog toga ljudski nadzor ne sme biti sveden na prosto, mehaničko kliktanje dugmeta „odobri“ na kraju automatizovanog procesa. Čovek mora imati dovoljno vremena, znanja i resursa da mašinski predlog kritički preispita, ospori i, ukoliko je potrebno, potpuno odbaci.

Gde je pozicija Srbije i domaćeg IT sektora

Ova tema nije rezervisana isključivo za globalne tehnološke centre u Silicijumskoj dolini ili regulatorna tela u Briselu. Srbija i region se nalaze u fazi ubrzane digitalne transformacije i masovne implementacije AI alata u sferama e-uprave, bankarstva, e-trgovine i bezbednosti. Zvanični državni portali, poput portala ai.gov.rs, jasno navode da su etična i bezbedna primena veštačke inteligencije primarni ciljevi nacionalne Strategije razvoja, uz direktno oslanjanje na smernice organizacije UNESCO.

Za domaći IT sektor i kompanije koje razvijaju ili integrišu AI rešenja, odgovoran pristup zahteva poštovanje strogih operativnih minimuma:

1. Obavezne procene rizika pre puštanja u rad bilo kog sistema koji upravlja podacima građana ili utiče na njihova prava.

2. Rigorozni eksterni auditi i provere kvaliteta podataka kako bi se eliminisala diskriminatorna pristrasnost u modelima.

3. Jasno definisani pragovi autonomije iznad kojih softver ne može samostalno izvršavati operacije bez ljudske potvrde.

4. Ulaganje u interpretabilnost koda i vođenje detaljnih tehničkih dnevnika (logs) o svakoj algoritamskoj odluci.

Bez ovih koraka, uvođenje veštačke inteligencije u radne procese predstavlja organizovanu neodgovornost koja pre ili kasnije vodi do poslovnih gubitaka i narušavanja poverenja javnosti.

Zaključak: Kako definisati zdravu granicu poverenja

Najkraći i najpošteniji odgovor na pitanje koliko smemo da verujemo veštačkoj inteligenciji glasi: dovoljno da vam ubrza i olakša rad, ali nikada toliko da umesto nje prestanete sami da razmišljate. Ovo jednostavno inženjersko pravilo predstavlja najbolji štit od tehnoloških zabluda.

Ukoliko tehnologiju na vreme ne uslovimo strogim etičkim i pravnim zahtevima, rizikujemo da izgradimo društvo u kome ćemo se postepeno i neprimetno navići na mehanizme digitalnog autoritarizma. Najveća opasnost nije u tome što ćemo se jednog dana probuditi pod vlašću zlih mašina, već u tome što ćemo dobrovoljno ugasiti sopstvenu kritičku svest, verujući da je algoritam uvek u pravu. Poverenje se ne poklanja na osnovu marketinških obećanja; ono se mukotrpno dokazuje kroz transparentnost, bezbednost i spremnost da se u svakom trenutku polože računi pred ljudima.

Relevantni spoljni izvori:

• OECD AI Principles – međunarodni standardi i preporuke za razvoj pouzdane veštačke inteligencije.

• UNESCO Recommendation on the Ethics of Artificial Intelligence – globalni etički dokument usmeren na zaštitu ljudskih prava i dostojanstva.

• NIST Trustworthy and Responsible AI Program – zvanične smernice i profili rizika za proveru pouzdanosti AI modela.

Često postavljana pitanja (FAQ)

Možemo li u potpunosti verovati odlukama veštačke inteligencije?

Apsolutno ne. Veštačkoj inteligenciji se može verovati samo uslovno, ograničeno i u strogo kontrolisanim procesima. Poverenje u sisteme direktno zavisi od njihove transparentnosti, objašnjivosti koda, kvaliteta podataka za trening i prisustva ljudskog nadzora.

Zašto se AI sistemima ne sme dodeliti potpuna operativna autonomija?

Zato što mašine nemaju ljudsku svest, empatiju niti moralnu odgovornost. AI funkcioniše na bazi statističkih verovatnoća i može generisati netačne rezultate ili doneti štetne odluke unutar kompleksnih društvenih i pravnih situacija koje ne može kontekstualno da razume.

Šta predstavlja pojam „halucinacija“ kod AI modela?

Halucinacija je tehnička karakteristika, pre svega velikih jezičkih modela (LLM), gde sistem sa tonom apsolutne sigurnosti i uverljivosti generiše odgovore koji su faktički potpuno netačni, izmišljeni ili bez ikakvog utemeljenja u realnim izvorima podataka.

Da li je koristan AI alat ujedno i pouzdan AI alat?

Ne. Sistem može biti izuzetno koristan za ubrzavanje pretrage, pisanje šablonskih kodova ili analizu tržišnih trendova, a da istovremeno ostane podložan greškama, curenju podataka ili pristrasnosti u radu, zbog čega se njegovi izlazi moraju uvek dodatno proveravati.

Šta podrazumeva koncept opravdanog oslanjanja (Justified reliance)?

To je inženjerski i filozofski pristup koji nalaže da mašinama ne treba verovati na bazi emocija, već da se moraju uspostaviti proverljivi tehnički i zakonski uslovi pod kojima je bezbedno osloniti se na softverski proračun za tačno definisan zadatak, uz zadržavanje ljudske kontrole.

Kako građani i kompanije mogu proveriti da li je neki AI sistem bezbedan?

Kroz insistiranje na transparentnosti i uvidu u takozvane audit tragove. Bezbedan i pouzdan sistem mora posedovati jasnu tehničku dokumentaciju, prođene eksterne bezbednosne provere (red teaming) i razvijene protokole za hitno ljudsko isključivanje u kriznim situacijama.