Trka u razvoju veštačke inteligencije donela nam je novu klasu sistema – takozvane modele za rezonovanje (reasoning models). Za razliku od tradicionalnih velikih jezičkih modela koji odmah daju odgovor na bazi statističke verovatnoće sledeće reči, ovi napredni sistemi (poput modela OpenAI o1, o3 ili sličnih rešenja kompanija Anthropic i Google) koriste takozvani „lanac misli“ (chain of thought). Oni bukvalno uzmu vreme da „razmisle“, analiziraju problem iz više uglova, provere sopstvene pretpostavke i tek onda generišu krajnji odgovor.
Ipak, kako to obično biva u tehnologiji, rešavanje jednog problema otvorilo je potpuno novi i prilično bizaran izazov. Najnovija istraživanja pokazuju da ovi napredni AI modeli imaju neočekivanu Ahilovu tetivu – oni jednostavno ne znaju kada je vreme da prekinu proces razmišljanja i isporuče odgovor.
Kada analitičnost pređe u opsesivno tapkanje u mestu
Koncept lanca misli je revolucionaran jer omogućava rešavanje kompleksnih matematičkih, logičkih i programerskih zadataka koje su stariji modeli redovno promašivali. AI u pozadini simulira unutrašnji monolog, ispravlja sopstvene greške u koracima i ponaša se slično ljudskom stručnjaku koji pažljivo rešava težak test.
Međutim, problem nastaje kod jednostavnih, dvosmislenih ili trik pitanja. Tradicionalni model bi na prosto pitanje odgovorio u milisekundi. Model za rezonovanje, s druge strane, upada u petlju prekomernog razmišljanja (overthinking).
Zamislite da od AI-ja tražite da reši jednostavnu zagonetku ili da napiše kratak, kreativan tekst sa nejasnim smernicama. Umesto da brzo isporuči rezultat, model počinje da analizira skrivene namere iza vašeg pitanja, sumnja u sopstvenu logiku, vrti se u krug i troši stotine sekundi računarskog vremena analizirajući trivijalnosti. On konstantno pokušava da optimizuje već savršen odgovor, ponašajući se kao perfekcionista koji ne sme da preda rad jer misli da uvek može bolje.
Ekonomski i ekološki ceh beskonačnog razmišljanja
Ovaj nedostatak „kočnice“ u razmišljanju nije samo simpatična softverska anomalija, već ozbiljan finansijski i tehnički problem za kompanije koje implementiraju ove sisteme.
Evo zašto je ovaj problem kritičan:
-
Enormna potrošnja resursa: Svaka sekunda „razmišljanja“ AI modela zahteva masivnu snagu grafičkih procesora (GPU) u serverskim centrima. Što duže model analizira problem, to je račun za struju i infrastrukturu veći.
-
Visoka cena po upitu: Modeli za rezonovanje obično naplaćuju tokene potrošene tokom procesa razmišljanja (reasoning tokens). Kada model upadne u petlju prekomernog razmišljanja na jednostavnom pitanju, trošak tog pojedinačnog upita može skočiti i po nekoliko desetina puta.
-
Loše korisničko iskustvo: Korisnici na internetu očekuju brze odgovore. Čekanje od 30 ili 40 sekundi da AI „razmisli“ o jednostavnoj e-mail poruci ili objavi za društvene mreže potpuno obesmišljava upotrebu asistenta u realnom vremenu.
Zašto je teško naučiti mašinu da se zaustavi
Možda deluje jednostavno programski definisati pravilo „ako je pitanje prosto, nemoj da razmišljaš dugo“. Međutim, u praksi je to izuzetno teško izvodljivo.
Da bi AI mogao da proceni težinu pitanja, on zapravo mora prvo da ga analizira – što ponovo pokreće proces rezonovanja. Trenutni algoritmi nemaju ugrađen intuitivni osećaj za „dovoljno dobro“ rešenje koji ljudi prirodno poseduju. Čovek intuitivno zna kada je napisao sasvim solidan tekst i kada dalja dorada više ne donosi opipljivu vrednost. AI, s druge strane, nema svest o vremenu i resursima osim onoga što mu je strogo definisano matematičkim funkcijama cilja (objective functions). Ako mu je cilj maksimalna preciznost, on će nastaviti da računa sve dok ne iscrpi dozvoljeni limit reči ili vremena.
Kako će se ovaj problem rešavati u budućnosti
Razvojni timovi u kompanijama kao što su OpenAI, Anthropic i Google uveliko rade na rešavanju ove anomalije. Budući sistemi će verovatno koristiti hibridne arhitekture.
Jedan od pristupa je uvođenje brzog, jeftinog „rutera“ (manjeg jezičkog modela) koji će na samom ulazu procenjivati kompleksnost upita. Ako je pitanje jednostavno, ruter će ga odmah proslediti standardnom, brzom modelu. Ako detektuje težak matematički problem, tek tada će aktivirati sporiji, ali moćniji model za rezonovanje.
Takođe se radi na finom podešavanju (fine-tuning) samih modela kako bi prepoznali rane signale zasićenja informacija – trenutak kada dalja analiza donosi zanemarljivo poboljšanje rezultata, što bi trebalo da aktivira signal za zaustavljanje.
Dok se ovi sistemi ne usavrše, korisnici moraju biti svesni da „najpametniji“ AI model nije uvek i najbolji izbor za svaki zadatak. Za svakodnevno pisanje, prevođenje i brze informacije, klasični modeli su i dalje neuporedivo brži, jeftiniji i praktičniji, dok tešku artiljeriju u vidu modela za rezonovanje treba čuvati za kompleksne probleme gde je duboka analiza zaista neophodna.
