Da li je moguće da AI bude treniran samo na podacima koje je generisao drugi AI? Možda zvuči kao suluda ideja, ali to je koncept koji postoji već neko vreme — i kako postaje sve teže doći do novih stvarnih podataka, ovaj pristup postaje sve privlačniji.

Anthropic je koristio neke sintetičke podatke za treniranje jednog od svojih vodećih modela, Claude 3.5 Sonnet. Meta je prilagodila svoje Llama 3.1 modele koristeći podatke generisane od strane AI-a. Takođe, navodi se da OpenAI koristi sintetičke podatke iz svog „reasoning“ modela o1 za nadolazeći Orion.

Ali zašto AI-u uopšte trebaju podaci — i kakvi podaci su mu potrebni? Da li se ovi podaci zaista mogu zameniti sintetičkim podacima?

Važnost anotacija

AI sistemi su statističke mašine. Trenirani na velikom broju primera, oni uče obrasce iz tih primera kako bi davali predikcije, poput toga da fraza „kojima se“ u emailu obično prethodi rečima „može ticati“.

Anotacije, koje obično predstavljaju tekst koji označava značenje ili delove podataka koje ovi sistemi obrađuju, ključni su deo tih primera. One služe kao vodiči koji „uče“ model da razlikuje stvari, mesta i ideje.

Uzmimo primer modela za klasifikaciju fotografija koji je prikazan sa mnogo slika kuhinja označenih rečju „kuhinja.“ Tokom treninga, model će početi da povezuje „kuhinju“ sa opštim karakteristikama kuhinja (npr. da sadrže frižidere i radne površine). Nakon treninga, kada mu se da fotografija kuhinje koja nije bila uključena u početne primere, model bi trebao biti u stanju da je prepozna kao kuhinju. (Naravno, ako su slike kuhinja bile označene kao „krava“, model bi ih prepoznao kao krave, što naglašava važnost dobre anotacije.)

Potražnja za AI sistemima i potreba za obezbeđivanjem označenih podataka za njihov razvoj značajno su povećali tržište za usluge anotacija. Prema proceni Dimension Market Research-a, ovo tržište danas vredi 838,2 miliona dolara — i dostići će vrednost od 10,34 milijarde dolara u narednih 10 godina. Iako ne postoje precizne procene o broju ljudi koji se bave radom na označavanju podataka, rad iz 2022. godine procenjuje da ih je na „milion“.

Kompanije svih veličina oslanjaju se na radnike koji su zaposleni u firmama za anotaciju podataka kako bi kreirali oznake za skupove podataka za treniranje AI sistema. Neki od ovih poslova su pristojno plaćeni, posebno ako označavanje zahteva specijalizovano znanje (npr. matematičku stručnost). Međutim, drugi poslovi mogu biti izuzetno naporni. Anotatori u zemljama u razvoju u proseku zarađuju samo nekoliko dolara po satu, bez ikakvih beneficija ili garancija za buduće angažmane.

Izvori podataka presušuju

Pored humanističkih razloga za pronalaženje alternativa ljudski generisanim oznakama, postoje i praktični razlozi.

Ljudima je potrebno vreme za označavanje podataka. Anotatori takođe mogu imati pristrasnosti koje se manifestuju u njihovim oznakama, a samim tim i u modelima treniranim na tim podacima. Anotatori prave greške ili nailaze na teškoće u razumevanju uputstava za označavanje. Osim toga, angažovanje ljudi je skupo.

Generalno, podaci su skupi. Na primer, Shutterstock naplaćuje desetinama miliona dolara AI kompanijama za pristup svojoj arhivi, dok je Reddit ostvario stotine miliona dolara prodajom licenci za podatke Google-u, OpenAI-u i drugima.

Takođe, postaje sve teže doći do podataka.

Većina modela trenira se na ogromnim kolekcijama javnih podataka — koje vlasnici sve češće ograničavaju zbog straha da će im podaci biti plagirani ili da neće dobiti zasluge za njih. Više od 35% najposećenijih 1.000 veb stranica sada blokira OpenAI-evu alatku za pretraživanje interneta. Nedavna studija je pokazala da je oko 25% podataka iz „kvalitetnih“ izvora postalo nedostupno u ključnim skupovima podataka koji se koriste za treniranje modela.

Ako se trenutni trend blokiranja pristupa podacima nastavi, istraživačka grupa Epoch AI predviđa da će programerima ponestati podataka za treniranje generativnih AI modela između 2026. i 2032. godine. Uz strahove od tužbi zbog kršenja autorskih prava i mogućeg uključivanja neprimerenog sadržaja u otvorene skupove podataka, AI kompanije se suočavaju s ozbiljnim izazovima.

Sintetički rizici

Na prvi pogled, sintetički podaci deluju kao rešenje za sve ove probleme. Potrebne su vam oznake? Generišite ih. Trebate više primeraka podataka? Nema problema. Granice praktično ne postoje.

U određenoj meri, ovo je tačno.

„Ako su ‘podaci nova nafta,’ sintetički podaci predstavljaju biogorivo, koje može biti stvoreno bez negativnih sporednih efekata pravih podataka,“ rekao je Os Kiz, doktorant sa Univerziteta Vašington, koji proučava etičke posledice novih tehnologija, u razgovoru za TechCrunch. „Možete uzeti mali početni skup podataka i simulacijom i ekstrapolacijom stvoriti nove unose.“

AI industrija je prihvatila ovaj koncept i krenula u njegovu primenu.

Ove godine, kompanija Writer, fokusirana na generativnu AI tehnologiju za preduzeća, predstavila je model Palmyra X 004, treniran gotovo u potpunosti na sintetičkim podacima. Writer tvrdi da je razvoj ovog modela koštao samo 700.000 dolara — u poređenju sa procenjenim troškom od 4,6 miliona dolara za model slične veličine iz OpenAI-a.

Microsoft-ovi Phi modeli takođe su delimično trenirani na sintetičkim podacima. Isto važi i za Google-ove Gemma modele. Nvidia je ovog leta predstavila porodicu modela dizajniranih za generisanje sintetičkih podataka za obuku, dok je AI startup Hugging Face nedavno objavio najveći skup podataka za obuku sintetičkog teksta na svetu, kako oni tvrde.

Generisanje sintetičkih podataka postalo je zaseban biznis — i procenjuje se da bi do 2030. mogao vredeti 2,34 milijarde dolara. Gartner predviđa da će 60% podataka korišćenih za AI i analitičke projekte ove godine biti sintetički generisani.

Luka Soldaini, viši naučni istraživač u Institutu za AI Allen, naglasio je da se tehnike sintetičkih podataka mogu koristiti za generisanje podataka za obuku u formatu koji se teško može dobiti putem scraping-a (ili čak licenciranja sadržaja). Na primer, prilikom obuke svog video generatora Movie Gen, Meta je koristila Llama 3 da kreira natpise za snimke u podacima za obuku, koje su ljudi zatim dopunili detaljima, poput opisa osvetljenja.

U tom smislu, OpenAI je naveo da je fino podešavao GPT-4o koristeći sintetičke podatke kako bi izgradio funkciju Canvas za ChatGPT, koja se ponaša poput skicirke. Amazon je takođe rekao da generiše sintetičke podatke kao dopunu stvarnim podacima koje koristi za obuku modela za prepoznavanje govora za Alexa uređaje.

„Modeli sintetičkih podataka mogu se brzo koristiti za proširivanje ljudske intuicije o tome koji su podaci potrebni da bi se postiglo specifično ponašanje modela,“ rekao je Soldaini.

Sintetički podaci nisu rešenje za sve probleme. Ovaj pristup ima isti problem kao i svi AI sistemi — „smeće ulazi, smeće izlazi“. Modeli kreiraju sintetičke podatke, a ako su podaci korišćeni za obuku tih modela pristrasni ili imaju ograničenja, njihovi rezultati će biti slični. Na primer, grupe koje su slabo zastupljene u osnovnim podacima biće takođe slabo zastupljene u sintetičkim podacima.

„Problem je u tome što se može učiniti samo do određene tačke“, rekao je Keyes. „Recimo da imate samo 30 crnih ljudi u skupu podataka. Ekstrapolacija može pomoći, ali ako su tih 30 ljudi svi iz srednje klase ili svi svetle puti, takvi će izgledati i podaci koji su ‘predstavnički’.“

U ovom kontekstu, studija iz 2023. godine koju su sproveli istraživači sa Univerziteta Rajs i Stanforda otkrila je da prekomerno oslanjanje na sintetičke podatke tokom obuke može stvoriti modele čiji „kvalitet ili raznovrsnost progresivno opada“. Uzorkovanje pristrasnosti — slaba reprezentacija stvarnog sveta — uzrokuje da raznovrsnost modela postane lošija nakon nekoliko generacija obuke, prema rečima istraživača (iako su takođe otkrili da mešanje sa malo stvarnih podataka pomaže u ublažavanju ovog problema).

Keyes vidi dodatne rizike u složenim modelima kao što je OpenAI-ov o1, za koje smatra da mogu proizvesti halucinacije koje je teže primetiti u svojim sintetičkim podacima. Ove halucinacije mogu smanjiti tačnost modela obučenih na tim podacima — posebno ako izvori halucinacija nisu lako identifikovani.

„Složeni modeli haluciniraju; podaci koje proizvode složeni modeli sadrže halucinacije“, dodao je Keyes. „I kod modela poput o1, sami programeri ne mogu nužno objasniti zašto se artefakti pojavljuju.“

Kumulativne halucinacije mogu dovesti do modela koji proizvode besmislice. Studija objavljena u časopisu Nature otkriva kako modeli, obučeni na podacima sa greškama, generišu još više podataka sa greškama i kako ovaj feedback loop degradira buduće generacije modela. Istraživači su otkrili da modeli gube razumevanje složenijeg znanja kroz generacije, postajući sve generičniji i često proizvodeći odgovore koji su irelevantni za postavljena pitanja.

Naredna studija pokazuje da drugi tipovi modela, poput generatora slika, nisu imuni na ovu vrstu kolapsa:

Soldaini se slaže da „sirovi“ sintetički podaci nisu pouzdani, barem ako je cilj izbeći obuku zaboravnih chatbota i homogenih generatora slika. Korisna upotreba sintetičkih podataka, prema njegovim rečima, zahteva temeljno pregledanje, kuriranje i filtriranje, a idealno bi trebalo kombinovati sa svežim, stvarnim podacima — baš kao što biste to uradili sa bilo kojim drugim skupom podataka.

Ako se to ne učini, to može dovesti do kolapsa modela, gde model postaje manje „kreativan“ — i više pristrasan — u svojim ishodima, što može ozbiljno ugroziti njegovu funkcionalnost. Iako se ovaj proces može identifikovati i prekinuti pre nego što postane ozbiljan, rizik ostaje.

„Istraživači moraju pregledati generisane podatke, iterirati na procesu generacije i identifikovati mere zaštite kako bi uklonili podatke niskog kvaliteta“, rekao je Soldaini. „Sintetički podaci nisu samoprocesirajuća mašina; njihovi rezultati moraju biti pažljivo inspekcijski i unapređeni pre nego što se koriste za obuku.“

Izvršni direktor OpenAI-a, Sam Altman, jednom je tvrdio da će AI jednog dana proizvoditi sintetičke podatke dovoljno dobre da se efektivno obučava sam. Međutim — pod pretpostavkom da je to uopšte izvodljivo — ta tehnologija još ne postoji. Nijedna velika AI laboratorija nije objavila model obučen isključivo na sintetičkim podacima.

Čini se da će, barem u doglednoj budućnosti, ljudi biti potrebni u nekom trenutku kako bi osigurali da obuka modela ne krene pogrešno.