Veštačka inteligencija (AI) se razvija nestvarnom brzinom i iz meseca u mesec pomera granice naših očekivanja. Sofisticirani algoritmi današnjice bez problema pišu složen softverski kod, analiziraju gigantske baze naučnih podataka, osmišljavaju hipoteze za nova istraživanja, pa čak i funkcionišu kao potpuno nezavisni digitalni entiteti. I pored svih ovih impresivnih dostignuća, u samom srcu ove tehnologije krije se jedna duboka, fundamentalna mana – u ogromnom broju slučajeva mi uopšte ne razumemo na koji način je model došao do određenog zaključka ili zašto ispoljava specifično ponašanje.
Sasvim je prihvatljivo da ne razumemo mehanizam po kojem nam striming servis preporučuje sledeći film za gledanje. Međutim, stvari postaju znatno ozbiljnije i potencijalno opasnije kada ista ta tehnologija pomaže u postavljanju medicinskih dijagnoza, donošenju važnih finansijskih odluka, upravljanju autonomnim vozilima ili odobravanju bankarskih kredita. Upravo zbog ovoga, interpretabilnost veštačke inteligencije ubrzano postaje najkritičnija i najaktuelnija oblast u modernoj nauci.
Problem crne kutije i opasnost neobjašnjivih algoritama
Zamislimo situaciju u kojoj AI model sa visokom preciznošću identifikuje rane znakove Alchajmerove bolesti iz najobičnijeg uzorka krvi pacijenta. Iako tačnost od preko 90% zvuči fascinantno, svaki ozbiljan naučnik i lekar mora odmah da postavi jedno ključno pitanje – na osnovu čega je model doneo tu odluku?
Ukoliko istraživači ne mogu da objasne koji su to tačno biološki markeri i signali uticali na ovakvu dijagnozu, takvom modelu se ne sme slepo verovati u kliničkoj praksi. Uvek postoji rizik da se model oslanja na puku slučajnost u podacima ili neku nevidljivu grešku koja će potpuno nestati kada se primeni na drugačiju populaciju pacijenata.
Ovo je srž onoga što stručnjaci nazivaju problemom „crne kutije“ (black-box AI). Tradicionalni softveri se oslanjaju na stroga, logička pravila koja su napisali programeri. U slučaju greške, softverski inženjer uvek može da otvori kod, pročešlja linije i precizno locira zašto je program odradio određenu komandu. Moderne neuronske mreže, s druge strane, funkcionišu po potpuno drugačijem principu. One same uče i razvijaju kompleksne interne reprezentacije ukrštajući milijarde parametara. Iako stručnjaci razumeju kako se modeli treniraju, praćenje konkretne odluke unazad kroz tu gigantsku digitalnu mrežu postalo je gotovo nemoguć zadatak.
Primeri iz prakse i važnost transparentnosti
Zato se danas sve češće susrećemo sa ozbiljnim problemima. Poznat je slučaj u kom je jedna globalna korporacija morala da ugasi svoj AI sistem za regrutaciju radnika jer je algoritam počeo da diskriminiše ženske kandidate, oslanjajući se na istorijske podatke u kojima su dominirali muškarci. Sličan rizik postoji i kod autonomnih vozila – ako sistem ne prepozna pešaka na ulici, mi moramo tačno da znamo koji deo neuronske mreže je zakazao kako bismo sprečili buduće nesreće. Zbog svega ovoga, regulatorna tela širom sveta, uključujući i nedavno doneti evropski EU AI Act, insistiraju na potpunoj transparentnosti AI sistema visokog rizika.
Mehanistička interpretabilnost kao svetlo u tami
Sve veći jaz između nezaustavljivih sposobnosti veštačke inteligencije i ograničenog ljudskog razumevanja podstakao je inovacije. Startap kompanija Goodfire posvetila se rešavanju ovog tehnološkog izazova kroz svoju specijalizovanu platformu pod nazivom Silico. Njena glavna svrha je da pomogne istraživačima da zavire unutar složenih AI modela i zaista shvate šta se dešava ispod površine teksta koji nam ekran isporuči.
Filozofija na kojoj počiva Silico je jednostavna, ali nosi revolucionarni potencijal: umesto da se AI model tretira kao neprobojna i misteriozna crna kutija, istraživačima se daje alat koji funkcioniše poput digitalnog mikroskopa. Ovaj pristup se zasniva na polju koje se danas naziva „mehanistička interpretabilnost“.
Za razliku od starog pristupa gde se posmatra isključivo šta uđe u model (upit) i šta iz njega izađe (odgovor), mehanistička interpretabilnost omogućava naučnicima da prate unutrašnje procese. Oni analiziraju aktivacije, promene u težinama, neuronske puteve i obrasce pažnje. Zahvaljujući tome, mogu da šalju specifične, strogo kontrolisane komande i prate koje se unutrašnje funkcije u tom trenutku pale. Mogu čak i namerno da menjaju određene komponente kako bi posmatrali da li će se ponašanje modela promeniti, čime dolaze do korena samog donošenja odluka.
Angažovanje agenata za rešavanje tehnoloških halucinacija
Ono što inovativnu platformu Silico dodatno izdvaja od ostalih jeste uvođenje takozvanog agentskog sloja. Zamislite da programer platformi jednostavno zada sledeći zadatak: „Otkrij tačno kada i zašto moj model halucinira i daje netačne podatke“.
Umesto da inženjer ručno kopa po podacima mesecima, platforma samostalno kreira plan istrage, dodeljuje različite istraživačke zadatke takozvanim AI agentima, paralelno pokreće sve testove i na kraju sklapa delove slagalice u detaljan izveštaj.
Ovo nas dovodi do fascinantnog obrta – veštačka inteligencija se više ne koristi isključivo kao alat za generisanje sadržaja, već kao kontrolor i dešifrant same veštačke inteligencije. U modernom društvu koje sve više zavisi od algoritama, sposobnost da objasnimo kako mašine razmišljaju uskoro više neće biti samo tehnološka prednost, već zakonska i moralna obaveza.
