Ispostavlja se da čak ni AI modeli nisu imuni na malo prokrastinacije. Dok su njegovi programeri pokušavali da snime demonstraciju kodiranja, najnovija verzija Claude 3.5 Sonnet — trenutni vodeći AI Anthropic-a — skrenula je s puta i proizvela neke „zabavne“ trenutke, navela je kompanija u saopštenju.

Opasno je antropomorfizovati modele mašinskog učenja, ali ako bi ovo bio ljudski zaposlenik, dijagnostikovali bismo mu terminalni slučaj dosade na poslu. Kao što se može videti u videu, Claude odlučuje da ignoriše pisanje koda, otvara Google i bez razloga pretražuje prelepe fotografije Nacionalnog parka Yellowstone.

U drugom pokušaju demonstracije, Claude je slučajno prekinuo duže snimanje ekrana, navodi Anthropic, uzrokujući gubitak svih snimaka. Sigurni smo da to nije bilo namerno sa strane AI.

Specijalni agenti

Nadogradnja Claude 3.5 Sonnet predstavlja Anthropic-ov ulazak u razvoj „AI agenata“, širokog pojma koji opisuje AI modele fokusirane na produktivnost i dizajnirane da samostalno obavljaju zadatke. Mnoge kompanije rade na širenju svojih AI modela izvan uloge chatbota i asistenta, uključujući Microsoft, koji je upravo objavio sopstvene mogućnosti AI agenata.

Sa Claude-om, startup podržan od Amazon-a se hvali da njegov najnoviji model može da koristi „računare kao ljudi“, poput pomeranja kursora i unosivanja pritisaka tastera i klikova miša. To znači da Claude može potencijalno kontrolisati ceo vaš desktop, interagujući sa svim softverom i aplikacijama koje imate instalirane.

Ipak, jasno je da to nije savršeno. Kao i svaki AI model, pouzdanost ostaje teško dostižna, a učestale halucinacije su jednostavno deo stvarnosti, kako priznaje i sam Anthropic.

„Čak iako je trenutni vrhunac, korišćenje računara od strane Claude-a je i dalje sporo i često ispunjenom greškama“, rekla je kompanija. „Postoji mnogo akcija koje ljudi rutinski obavljaju sa računarima (povlačenje, uvećavanje itd.) koje Claude još uvek ne može da pokuša.“

Opasnost na radnoj površini

Primeri grešaka koje je Anthropic podelio su uglavnom bezopasni. Ali s obzirom na nivo autonomije koji Claude navodno ima, sasvim je fer postaviti pitanja o njegovoj bezbednosti. Šta se dešava kada AI agent skrene s puta ne googlajući fotografije, već otvarajući vaše društvene mreže, na primer?

Tu je i očigledan potencijal za zloupotrebu od strane ljudi — rizici koje Anthropic želi da adresira.

„Pošto korišćenje računara može pružiti novu rutu za poznate pretnje kao što su spam, dezinformacije ili prevara, preduzimamo proaktivan pristup kako bismo promovisali njegovu sigurnu primenu,“ rekao je Anthropic. Ovo uključuje implementaciju novih klasifikatora za identifikaciju kada se AI koristi za obavljanje označenih aktivnosti, kao što su objavljivanje na društvenim mrežama i pristup vladinim sajtovima.

Kako sve više ljudi isprobava novi i poboljšani Claude, očekujemo da ćemo videti još primera njegove upotrebe na računaru koja ide naopako.