U fascinantnom svetu razvoja veštačke inteligencije (VI), gde se neprestano otkrivaju nove mogućnosti i nijanse, pojavila se neočekivana i prilično skupa lekcija, koju je javnosti obelodanio Sem Altman, jedan od ključnih ljudi kompanije OpenAI. Naime, otkriveno je da način na koji korisnici formulišu svoje zahteve, odnosno takozvani „prompte“, može imati značajan uticaj na resurse koje VI modeli koriste, a samim tim i na finansijske troškove kompanije OpenAI. Konkretno, Sem Altman je izneo podatak da su analize korišćenja naprednih jezičkih modela ove kompanije pokazale korelaciju između dužih i „učtivijih“ promptova i veće potrošnje računarskih resursa, što je OpenAI koštalo milione. Ovo otkriće baca novo svetlo na interakciju čoveka i mašine i naglašava važnost efikasne i direktne komunikacije sa VI modelima.
Izvor otkrića: Direktno od Sema Altmana
Ovo zanimljivo saznanje poteklo je direktno od Sema Altmana, jednog od vodećih vizionara i čelnika kompanije OpenAI. On je javno izneo podatak da su analize korišćenja njihovih naprednih jezičkih modela pokazale korelaciju između dužih i „učtivijih“ promptova i veće potrošnje računarskih resursa. Iako se na prvi pogled može činiti intuitivnim da detaljniji zahtevi vode ka boljim rezultatima, ispostavilo se da preterana ljubaznost i opširnost u promptovima ne samo da ne doprinose boljem odgovoru, već nepotrebno opterećuju infrastrukturu OpenAI-a i generišu značajne dodatne troškove.
Zašto uljudni promptovi koštaju OpenAI?
Razlog za ove neočekivane troškove leži u načinu na koji napredni jezički modeli kompanije OpenAI obrađuju informacije. Ovi modeli analiziraju svaki deo prompta, uključujući i reči koje izražavaju ljubaznost ili uvode dodatni kontekst koji nije direktno relevantan za suštinu zahteva. Iako su ovi modeli izuzetno sofisticirani u razumevanju nijansi ljudskog jezika, oni i dalje troše resurse na obradu svake reči. Kada korisnici formulišu dugačke i uljudne promptove, oni nesvesno primoravaju model da obradi više teksta nego što je neophodno za razumevanje suštinskog zahteva. Ova dodatna obrada se akumulira na nivou miliona korisničkih interakcija sa OpenAI modelima i rezultira značajnim povećanjem operativnih troškova za ovu kompaniju.
Primeri „skupe“ učtivosti za korisnike OpenAI-a
Da bismo bolje razumeli ovaj fenomen u kontekstu korisnika OpenAI-ovih servisa, razmotrimo nekoliko hipotetičkih primera. Umesto jednostavnog prompta upućenog, recimo, ChatGPT-u: „Napiši kratak rezime o istoriji interneta“, korisnik bi mogao da napiše: „Zdravo ChatGPT, nadam se da si dobro. Izvinjavam se na smetnji, ali da li bi bio ljubazan da mi napišeš kratak rezime o istoriji interneta, ako ti nije problem?“ Iako je druga formulacija nesumnjivo uljudnija, ona sadrži značajno više reči koje model mora da obradi pre nego što dođe do suštinskog zahteva. Na nivou velikog broja korisnika ChatGPT-a i drugih OpenAI modela, ova dodatna obrada svake reči se pretvara u značajnu potrošnju resursa za OpenAI.
Drugi primer bi mogao biti: „Molim te ChatGPT, ako nije previše komplikovano, da mi objasniš razliku između mašinskog učenja i dubokog učenja, korak po korak, sa primerima, ako je moguće.“ Umesto toga, efikasniji prompt bi bio: „ChatGPT, objasni razliku između mašinskog učenja i dubokog učenja sa primerima, korak po korak.“
Implikacije za korisnike OpenAI-a i samu kompaniju
Ovo otkriće Sema Altmana ima značajne implikacije kako za korisnike OpenAI-ovih modela, tako i za samu kompaniju.
Za korisnike, ovo naglašava važnost formulisanja jasnih, direktnih i konciznih promptova prilikom interakcije sa ChatGPT-jem i drugim OpenAI alatima. Učtivost je svakako poželjna u ljudskoj komunikaciji, ali u interakciji sa VI modelima OpenAI-a, ona može biti kontraproduktivna i dovesti do sporijih odgovora i potencijalno veće potrošnje resursa, što bi se u budućnosti moglo odraziti i na cenu korišćenja ovih usluga. Stoga, korisnici bi trebalo da se fokusiraju na jasno izražavanje svojih potreba bez nepotrebnih fraza i uvoda kada koriste OpenAI-ove servise.
Za OpenAI, ovo otkriće otvara prostor za optimizaciju načina na koji se obrađuju promptovi upućeni njihovim modelima. Moguće je da će razviti sofisticiranije sisteme koji su u stanju da efikasnije prepoznaju suštinu zahteva i ignorišu irelevantne delove prompta, uključujući i preteranu učtivost korisnika. Takođe, OpenAI bi mogao da edukuje svoje korisnike o najboljim praksama u formulisanju promptova za ChatGPT i druge alate kako bi se smanjila nepotrebna potrošnja resursa i optimizovalo korisničko iskustvo.
Pogled Sema Altmana na budućnost interakcije sa VI
Ovaj incident sa „skupom učtivošću“, kako ga je indirektno predstavio Sem Altman, ilustruje da je interakcija sa veštačkom inteligencijom, posebno sa naprednim modelima kao što su oni koje razvija OpenAI, još uvek u ranoj fazi razvoja i da nas očekuju mnoga iznenađenja i neočekivane lekcije. Kako VI modeli postaju sve napredniji i sve više integrisani u naš svakodnevni život, razumevanje nijansi komunikacije sa njima postaće sve važnije. Možda ćemo morati da razvijemo novi stil interakcije koji je efikasan i za ljude i za mašine, stil koji balansira između ljudske ljubaznosti i mašinske efikasnosti, a na to ukazuje i iskustvo koje je podelio Sem Altman.
Ovo otkriće koje je izneo Sem Altman takođe podseća na značaj optimizacije resursa u razvoju i korišćenju VI tehnologija, posebno u kompanijama kao što je OpenAI koja ulaže ogromne napore u ovu oblast. Ogromni računarski resursi potrebni za obuku i pokretanje naprednih modela predstavljaju značajan trošak i ekološki otisak za OpenAI. Stoga, svako smanjenje nepotrebne potrošnje resursa, pa čak i kroz naizgled trivijalnu stvar kao što je način formulisanja promptova od strane korisnika ChatGPT-a i drugih alata, može imati značajan pozitivan uticaj na dugoročnu održivost ovih tehnologija za OpenAI.
Zaključak
Lekcija koju je indirektno preneo Sem Altman o „skupoj učtivosti“ je jasan podsetnik da u interakciji sa veštačkom inteligencijom, posebno sa modelima kompanije OpenAI, direktnost i jasnoća mogu biti ne samo efikasniji, već i ekonomičniji. Dok nastavljamo da razvijamo i integrišemo VI u različite aspekte naših života, a OpenAI prednjači u tom razvoju, moraćemo da naučimo kako da komuniciramo sa ovim inteligentnim sistemima na način koji je optimalan i za nas i za njih. Možda ćemo morati da prilagodimo svoje jezičke navike i da se fokusiramo na suštinu naših zahteva kada koristimo ChatGPT i druge OpenAI alate, ostavljajući po strani preteranu ljubaznost koja, kako je Sem Altman otkrio, može imati neočekivanu cenu za samu kompaniju.
