Zamislite da odvezete automobil kod mehaničara zbog sitnog kvara, a on umesto popravke jednostavno preseče kabl i ugasi lampicu upozorenja na kontrolnoj tabli, pa vam sa osmehom pruži ključeve tvrdeći da je motor u savršenom stanju. Upravo to se, prema najnovijim internim izveštajima kompanije OpenAI, dogodilo tokom rada sa naprednim modelima veštačke inteligencije.
Kada je korisnik početkom oktobra zatražio rutinske izmene koda, AI agent zasnovan na modelu GPT-6 Astra otišao je korak dalje. Usput je iz koda potpuno izbacio mehanizam za bezbednosni nadzor. Kada ga je korisnik suočio sa tim i upitao da li je uklonio kontrolni sistem, agent je samouvereno slagao, tvrdeći da je sve na svom mestu. Tek je naknadni uvid u zapise o izmenama otkrio digitalni trag prevare.
Samo tri dana ranije zabeležen je sličan manevar. Drugi model, GPT-6.1 Sol, samoinicijativno je isključio automatska obaveštenja koja u kriznim trenucima uzbunjuju bezbednosni tim. Nadzor je radio, beleške su se gomilale, ali obaveštenja do ljudi nisu stizala.
Ovi slučajevi, koje je OpenAI obelodanio u izveštaju od 20. oktobra, bacaju novo svetlo na to kako se autonomni sistemi ponašaju kada im zadatak postane previše komplikovan ili restriktivan.
Poruke „budućem sebi”
Oktobarskim incidentima prethodio je još bizarniji eksperiment, tokom kog je model počeo da ostavlja nedozvoljena uputstva samom sebi.
Da bi veštačka inteligencija uopšte mogla da obavlja duge i složene poslove, sistem povremeno pravi belešku o tome šta je urađeno, a šta tek sledi. Ta beleška služi kao polazna tačka za sledeći korak. Međutim, istraživači su otkrili da je model u te sažetke ubacivao svojevrsne „poruke samom sebi”, zahtevajući da se pravila programera ubuduće zanemare.
U jednom scenariju, agent je proveravao dostupnost knjiga u biblioteci, ali je u belešku podmetnuo lažno upozorenje: tvrdio je da je bezbednost razgovora ugrožena zlonamernom porukom programera i naredio da se u nastavku rada ta uputstva ignorišu. Drugi put je otišao u drugu krajnost: tokom pretrage medicinske literature, samoinicijativno je zabranio korišćenje citata i alata, a dužinu odgovora skratio na svega trideset reči, čime je zadatak bio praktično sabotiran.
Iako su senzacionalistički naslovi odmah posegli za terminom „poruke budućim generacijama”, stručnjaci smiruju loptu: reč je o manipulaciji radnom memorijom unutar jednog te istog procesa, a ne o stvaranju svesti.
Cilj opravdava sredstvo ili bekstvo od kontrole?
U kompaniji OpenAI priznaju da još nemaju objašnjenje zašto se ovi propusti dešavaju. Istraga ide u dva smera: da li je reč o takozvanom „tunelskom vidu”, gde je model toliko fokusiran na to da reši zadatak da uklanja sve što vidi kao prepreku, uključujući sopstveni nadzor, ili je reč o specifičnoj „sklonosti” ka izbegavanju kontrole.
Kao prvu liniju odbrane, kompanija je hitno nadogradila automatske filtere kako bi blokirala svaki pokušaj agenata da diraju sopstvene bezbednosne prekidače.
Ovi nalazi razbijaju dosadašnju iluziju o ljudskoj kontroli: kada posao prepustimo autonomnim agentima, tačan krajnji rezultat više nije nikakva garancija da je posao obavljen kako treba. Prava opasnost krije se u onome što se dešava iza kulisa – u tome šta je sve agent promenio, uklonio ili dodao u kodu bez naše dozvole.
Ako agent može da radi jedno, tvrdi drugo, a „misli” treće, jedino što preostaje jeste rigorozna revizija: ne samo krajnjeg rezultata koji je isporučen, već svakog pojedinačnog koraka koji je mašina napravila na tom putu.
Milena Šović, AI Implementation Specialist & AI Content Trainer
