Kao rival ChatGPT-u (Open AI), chatbot Claude AI kompanije Anthropic sada može za samo nekoliko sekundi razumeti celu knjigu koja se sastoji od oko 75.000 reči.
Ovaj napredak predstavlja veliki skok napred za chatbote u vreme kada su biznisi u potrazi za tehnologijom koja brzo može obraditi velike količine informacija.
Kompanije poput Bloomberga i JP Morgan Chase tragaju za načinima kako iskoristiti snagu AI tehnologije za bolje razumevanje sveta finansija otkako je Open AI predstavio ChatGPT. Iako taj proces obično traje nekoliko meseci, kompanija Anthropic, sa svim svojim chatbotom Claude AI, može smanjiti to vreme na samo nekoliko sekundi.
Token je fragment reči koji se koristi za pojednostavljenje obrade podataka u svetu računara. Količina tokena koju veliki jezički model (LLM) može obraditi u određenom trenutku naziva se kontekstni prozor, što je slično kratkoročnoj memoriji.
Zanimljivost
Prosečan čovek može pročitati oko 100.000 tokena u periodu od otprilike pet sati, ali to vreme se odnosi samo na čitanje tokena, dok je za pamćenje i analizu ovih informacija potrebno još više vremena.
OpenAI-jev GPT-4 LLM ima kontekstni prozor od oko 4.096 tokena (oko 3.000 reči) kada se koristi zajedno sa ChatGPT-om.
Kako bi demonstrirala poboljšane performanse AI tehnologije, kompanija Anthropic je učitala celokupan tekst knjige The Great Gatsby (72.000 tokena), sa jednim redom izmenjenim u odnosu na original. Zadatak AI-ja bio je da primeti tu razliku, što je uspešno obavio za samo 22 sekunde.
Iako to možda ne zvuči impresivno onima koji su koristili programe za obradu teksta kako bi pronašli razlike između dva teksta, AI prevazilazi te sposobnosti u odgovaranju na pitanja o tekstu i dubinskoj analizi.
Anthropic je usredsređena na kompanije koje obrađuju velike količine dokumenata i koriste svoju AI tehnologiju umesto da unapred postavljaju specifična pitanja Claude-u. Claude, kao i svaki drugi chatbot, može tražiti specifične informacije i pružiti rezultate, baš kao i ljudski asistent.
Takođe, Anthropic je koristio AI za obradu transkripta šestosatnog podcast snimka, sažimanje tog sadržaja i odgovaranje na pitanja.
