Halucinacije u veštačkoj inteligenciji, posebno kod jezičkih modela poput ChatGPT-a, nastaju kada AI generiše odgovore koji su netačni, izmišljeni ili neodgovarajući. Iako AI sistemi mogu biti izuzetno korisni, njihova priroda i način rada ponekad dovode do generisanja odgovora koji su suštinski pogrešni. Ovaj fenomen je rezultat kombinacije tehnoloških ograničenja, kvaliteta podataka za obuku i složenosti jezika. U nastavku su razlozi zašto AI halucinira i kako se to može prevazići.
1. Način na koji AI modeli funkcionišu
Veštačka inteligencija funkcioniše na osnovu prepoznavanja obrazaca i statističke verovatnoće. Jezički modeli nisu dizajnirani da razumeju značenje reči i koncepata kao ljudi, već koriste obrasce iz podataka na kojima su obučeni kako bi generisali najverovatniji sled reči.
Na primer, ako AI dobije zahtev da objasni naučni koncept koji nije pokriven u podacima za obuku, on može generisati uverljiv, ali potpuno izmišljen odgovor. Ako ga pitate: „Koji su prvi organizmi koji su kolonizovali Mars?“, model može izmisliti odgovor poput: „Bakterije roda Exoplanus su kolonizovale Mars tokom eksperimenata 2035. godine,“ iako takvi eksperimenti nisu ni postojali (odnosno neće ni postojati).
2. Kvalitet podataka za obuku
Podaci na kojima je AI treniran ključni su za njegovu preciznost. Ako su podaci netačni, nepotpuni ili pristrasni, model može „naučiti“ pogrešne informacije koje kasnije koristi za generisanje odgovora.
Na primer, ako model koristi tekstove iz neproverenih izvora na internetu, može usvojiti dezinformacije. Zamislite scenario gde AI daje medicinske savete. Ako je obučavan na podacima koji sadrže pseudonaučne tvrdnje, može preporučiti nepostojeći lek ili neproverenu terapiju.
3. Nepoznata pitanja i situacije
Kada AI dobije pitanje koje ne prepoznaje iz obuke, on pokušava da poveže slične obrasce kako bi generisao odgovor. Ovaj proces, iako često impresivan, može dovesti do izmišljanja činjenica.
Na primer, ako pitate model: „Ko je izumeo solarnu olovku?“, iako solarna olovka nije stvarna, model može „halucinirati“ i odgovoriti: „Solarnu olovku je izumeo fizičar John Stevens 1985. godine kao deo NASA-inog programa.“ Ovo je rezultat algoritamskog pokušaja da „popuni praznine“ u znanju.
4. Kompleksnost jezika i konteksta
Jezik je izuzetno složen, a AI modeli često ne mogu u potpunosti da razumeju nijanse i specifičnosti pitanja ili konteksta. Ovo može rezultirati neprikladnim ili netačnim odgovorima.
Na primer, model može zbuniti različita značenja iste reči. Ako pitate: „Kako funkcioniše banka?“, AI može odgovoriti o obali reke (eng. „river bank“) umesto finansijskoj instituciji, ukoliko je kontekst pitanja nejasan.
5. Nedostatak mehanizama za proveru činjenica
AI sistemi nemaju ugrađeni sistem za proveru tačnosti svojih odgovora. Kada generišu odgovore, oni se oslanjaju na statističku verovatnoću, a ne na proverene činjenice.
Na primer, ako pitate: „Koliko puta je Halleyjeva kometa posetila Zemlju?“, AI može „halucinirati“ broj koji zvuči uverljivo, ali ne mora biti tačan. Bez povezanosti sa bazama podataka u realnom vremenu, modeli ne mogu proveriti svoje odgovore.
6. Pristrasnost i neuravnoteženost u podacima
Ako su podaci za obuku pristrasni ili previše usmereni na jednu perspektivu, model može generisati odgovore koji odražavaju te pristrasnosti. Ovo može biti posebno problematično u društveno osetljivim temama.
Na primer, ako AI analizira podatke samo iz jednog geografskog regiona ili jedne industrije, može zaključiti da je taj obrazac univerzalan, što dovodi do netačnih preporuka ili procena.
Primeri halucinacija AI sistema
- Medicinski odgovori: Kada se model upita o lečenju bolesti, može predložiti nepostojeće lekove ili terapije, jer nema dovoljno znanja ili koristi netačne izvore.
- Istorijske tvrdnje: AI može izmisliti događaje koji se nikada nisu dogodili. Na primer, tvrdnja da je „Galileo otkrio Jupiterovu petu satelit“ iako Jupiter nema pet satelita.
- Lažni citati: Modeli ponekad generišu izmišljene citate koji zvuče kao da su autentični, ali ne pripadaju nijednoj poznatoj osobi.
Kako se boriti protiv halucinacija?
- Unapređenje kvaliteta podataka: Obuka modela na tačnim, proverenim i raznolikim podacima može smanjiti učestalost halucinacija.
- Implementacija mehanizama za proveru činjenica: Integracija AI sa bazama podataka u realnom vremenu omogućava precizniju proveru generisanih odgovora.
- Ograničavanje modela na specifične oblasti: Korišćenje specijalizovanih modela za određene teme može poboljšati tačnost odgovora.
- Obrazovanje korisnika: Informisanje korisnika o ograničenjima AI sistema pomaže u razumevanju da odgovori nisu uvek tačni.
Halucinacije u AI sistemima podsećaju nas da, uprkos njihovoj korisnosti, ovi modeli još uvek nisu savršeni. Njihova tačnost zavisi od kvaliteta podataka, pažljivog dizajna i razvoja dodatnih alata za proveru činjenica. Razumevanjem ovih izazova, možemo bolje iskoristiti potencijal veštačke inteligencije dok radimo na smanjenju njenih slabosti.
Milena Šović, M.Sc.,CSM
Prompt Engineer & AI Educator
