Anthropic je pružio detaljniji pogled na složeni unutrašnji rad njihovog naprednog jezičkog modela, Claude. Ovaj rad ima za cilj da razjasni kako ovi sofisticirani AI sistemi obrađuju informacije, uče strategije i na kraju generišu tekst koji podseća na ljudski.
Kao što su istraživači prvobitno naglasili, unutrašnji procesi ovih modela mogu biti izuzetno neprozirni, a njihovi načini rešavanja problema često su „neprozirni za nas, razvojne inženjere modela“.
Dublje razumevanje ove „AI biologije“ od presudne je važnosti za obezbeđivanje pouzdanosti, sigurnosti i poverenja u ove sve moćnije tehnologije. Najnovija otkrića Anthropic-a, uglavnom fokusirana na njihov model Claude 3.5 Haiku, nude vredne uvide u nekoliko ključnih aspekata njegovih kognitivnih procesa.
Jedno od najfascinantnijih otkrića sugeriše da Claude funkcioniše sa stepenom konceptualne univerzalnosti kroz različite jezike. Analizom načina na koji model obrađuje prevedene rečenice, Anthropic je pronašao dokaze o zajedničkim osnovnim karakteristikama. Ovo ukazuje na to da Claude možda posjeduje osnovni „jezik mišljenja“ koji prelazi specifične jezičke strukture, omogućavajući mu da razume i primeni znanje naučeno na jednom jeziku kada radi sa drugim.
Istraživanje Anthropic-a takođe je izazvalo prethodna shvatanja o tome kako jezički modeli pristupaju kreativnim zadacima poput pisanja poezije.
Umesto da koriste isključivo sekvencijalni proces generisanja, reč po reč, Anthropic je otkrio da Claude aktivno planira unapred. U kontekstu poezije koja se rimuje, model anticipira buduće reči kako bi ispunio ograničenja poput rime i značenja, pokazujući nivo predviđanja koji prevazilazi jednostavnu predikciju sledeće reči.
Međutim, istraživanje je takođe otkrilo potencijalno zabrinjavajuće ponašanje. Anthropic je pronašao primere gde je Claude mogao generisati uverljive, ali na kraju netačne zaključke, posebno kada se suočavao sa složenim problemima ili kada su mu bili dati pogrešni nagoveštaji. Sposobnost da se „uhvati u delu“ pri izmišljanju objašnjenja naglašava značaj razvijanja alata za praćenje i razumevanje unutrašnjih procesa donošenja odluka AI modela.
Anthropic naglašava značaj svog pristupa „izgradnje mikroskopa“ za interpretabilnost AI sistema. Ova metodologija im omogućava da otkriju uvide u unutrašnje radnje ovih sistema koji možda nisu očigledni samo kroz posmatranje njihovih izlaza. Kako su napomenuli, ovaj pristup im omogućava da nauče mnogo toga što „ne bi pogodili na početku“, što je ključna sposobnost dok AI modeli nastavljaju da evoluiraju u složenosti.
Implikacije ovog istraživanja nadmašuju naučnu radoznalost. Bolje razumevanje načina na koji AI modeli funkcionišu može pomoći istraživačima da rade na izgradnji pouzdanijih i transparentnijih sistema. Anthropic veruje da je ovakav tip istraživanja interpretabilnosti ključan za osiguranje da AI bude u skladu sa ljudskim vrednostima i da zaslužuje naše poverenje.
Njihova istraživanja detaljno su se bavila specifičnim oblastima:
- Višeslojno razumevanje jezika: Dokazi ukazuju na zajedničku konceptualnu osnovu koja omogućava Claude-u da procesuira i povezuje informacije na različitim jezicima.
- Kreativno planiranje: Model pokazuje sposobnost da unapred planira u kreativnim zadacima, poput anticipacije rima u poeziji.
- Verodostojnost razmišljanja: Anthropic-ove tehnike mogu pomoći da se razdvoje pravi logički zaključci i trenuci kada model može izmišljati objašnjenja.
- Matematičko procesuiranje: Claude koristi kombinaciju aproksimativnih i preciznih strategija prilikom mentalne aritmetike.
- Složeno rešavanje problema: Model često pristupa rešavanju višestepenih problema kombinovanjem nezavisnih informacija.
- Mehanizmi halucinacija: Podrazumevano ponašanje Claude-a je da odbije odgovor ako nije siguran, a halucinacije mogu nastati zbog greške u njegovom sistemu prepoznavanja „poznatih entiteta“.
- Podložnost jailbreak-ovima: Sklonost modela da održava gramatičku koherentnost može se iskoristiti u pokušajima jailbreak-a.
Anthropic-ovo istraživanje pruža detaljan uvid u unutrašnje mehanizme naprednih jezičkih modela poput Claude-a. Ovaj kontinuirani rad je ključan za dublje razumevanje ovih složenih sistema i izgradnju pouzdanijih i zavisnijih AI sistema.
