Softverski modul koji menja ponašanje jezičkog modela u samom toku razgovora, a koji je razvijen na Samarskom nacionalnom istraživačkom univerzitetu „Koroljov“, otvorio je novu stručnu polemiku u oblasti generativne veštačke inteligencije. Sistem pod nazivom „Laboratorija emocija“ procenjuje korisničke zahteve i u realnom vremenu menja unutrašnje parametre samog modela. Te promene neposredno diktiraju registar izražavanja, ton komunikacije i nivo saradnje u svakom narednom odgovoru. Iako su kreatori ovim parametrima dodelili biohemijske nazive, poput „digitalnih hormona i neurotransmitera“, u računarskoj arhitekturi nema bilo kakvih bioloških osnova: u pitanju su isključivo matematičke promenljive i težinski koeficijenti kojima se kroz programski kod simulira trenutno „emotivno“ stanje digitalnog sagovornika.
Kada je mašina bila samo mašina
U ranim fazama primene, uloga digitalnih sagovornika bila je strogo deterministička i svedena na prostu razmenu informacija: prijem upita, prepoznavanje namere korisnika (intent recognition), pretragu baze znanja i isporuku tačnog odgovora.
U takvom kontekstu, ton i stil nisu imali nikakvu operativnu vrednost. Bilo da je reč o tehničkoj podršci, korisničkom servisu ili pretrazi dokumentacije, četbot je funkcionisao tek kao posrednik između korisnika i baze podataka. Jedina merila uspeha bila su brzina odziva, tačnost informacija i procenat uspešno rešenih zahteva. Sagovornik s druge strane ekrana nije imao nikakav lični pečat, a kamoli karakter.
Kako sistemska pravila određuju ponašanje modela
Razvojem inženjeringa upita (prompt engineering) stvoren je prostor za profilisanje stila, jezičkog registra i doslednog nastupa modela. To se postiže pre svega kroz sistemski upit i podatke kojima se model „hrani“ – skup pravila i prateće dokumentacije koji diktira izbor reči, dužinu i stepen formalnosti odgovora, odnos prema sagovorniku, dozvoljenu meru humora ili ironije, ali i ponašanje u situacijama kada podaci u bazi nedostaju.
Znatno veći inženjerski i etički izazovi prate izradu digitalnih replika savremenika i istorijskih ličnosti, gde nije dovoljno samo preimenovati model i u kontekstni prozor uneti biografske podatke iz nečijeg života. Pojam „digitalnog blizanca“ u javnosti se često pogrešno izjednačava sa potpunom simulacijom nečije ličnosti. U realnom razvoju softvera reč je o ciljanom modelovanju određenih stavova, stručnog korpusa znanja i prepoznatljivih obrazaca izražavanja, uz jasne granice o tome šta model sme samostalno da generiše.
U standardnim postavkama sa jednim sistemskim upitom, definisani karakter ostaje nepromenjen. Kako god tekao razgovor, model se uvek vraća na početno zadati stil. Projekat iz Samare predstavlja pokušaj da se sa statičnog karaktera pređe na promenljivo, uslovljeno stanje. Razlika je suštinska: jedno je upitom fiksirati nepromenljiva pravila ponašanja agenta, a sasvim drugo uvesti povratnu spregu koja tokom razgovora dinamički menja njegovu uzdržanost, predusretljivost ili dužinu odgovora. U takvoj postavci, korisnikov unos više nije samo upit na koji treba odgovoriti, već ulazna promenljiva koja aktivno menja unutrašnje parametre agenta pre nego što on sastavi sledeći odgovor.
Šta su i kako rade „digitalni hormoni“
Prema dostupnom tehničkom opisu prototipa, ovaj modul funkcioniše kao posrednički sloj kroz povezan niz operacija. Proces započinje procenom značenja i tona ulazne poruke, pri čemu sistem analizira tekst kako bi izmerio koliko je sagovornik provokativan, neprijatan, formalan ili kooperativan. Na osnovu tih očitavanja softver preračunava unutrašnje numeričke vrednosti; parametru koji model navodi na tvrdoglavost, uzdržanost i sažetije odgovore autori su nadenuli naziv „testosteron“, dok su promenljivoj zaduženoj za prilagodljivost, popustljivost i opširnija objašnjenja dali ime „estradiol“. Te promenljive potom deluju kao dinamički filter koji usmerava proces generisanja, podešavajući verovatnoće izbora narednih reči i ukupan stilski registar odgovora.
Kako bi se obezbedio kontinuitet, sistem se oslanja na mehanizam histereze, pa trenutno stanje ne zavisi samo od poslednje poruke već od celokupnog toka razgovora – ukoliko korisnik nizom oštrih replika podigne prag uzdržanosti, jedno usputno izvinjenje neće odmah resetovati parametre, već se ton modela opušta postepeno, kroz nekoliko uzastopnih koraka.
Uprkos prikazanom radu prototipa, autori nisu otkrili ključne tehničke pojedinosti: nedostaju podaci o tome kojim se tačno modelom vrši analiza sentimenta, kako izgleda raspodela težinskih funkcija po kojima se stanja menjaju, kao ni na koji su način ovi koeficijenti integrisani u sam mehanizam pažnje jezičkog modela.
Stara ideja u novom ruhu
Upotreba sintetičkih hormona u računarstvu nije novost. Još 2006. godine, H. Van Dajk Parunak i saradnici u radu A Model of Emotions for Situated Agents prikazali su matematičke modele hormonskih kaskada kod autonomnih agenata, gde su parametri rasli pod uticajem spoljnih nadražaja, a opadali kada bi nadražaji prestali. I tada je jasno naglašeno: modeluje se isključivo spoljašnje ponašanje sistema, bez ikakvih pretenzija na to da mašina zaista nešto „doživljava“.
Novina samarskog prototipa leži u pokušaju da se ovaj koncept ugradi kao modularni dodatak savremenim jezičkim modelima.
Ipak, to što nema recenziranog rada, uporednih testova (benchmarks) niti javno dostupnog koda poziva na oprez. Za sada nema opipljivih dokaza da ovakav sklop daje bolje i pouzdanije rezultate od naprednog vođenja modela kroz korake (chain-of-thought) i praćenja toka razgovora unutar samog kontekstnog prozora. Pored toga, svođenje upornosti na „muški“, a kompromisa na „ženski“ princip predstavlja inženjersko pojednostavljivanje bez ikakvog uporišta u kognitivnim naukama.
Kako će „raspoloženja“ mašine uticati na poslovanje
Uvođenje promenljivog stanja ima jasnu svrhu u namenskim simulacijama. U programima za obuku, poput vežbi pregovaranja, rešavanja kriznih situacija ili diplomatskih razgovora, sagovornik koji pamti greške polaznika i na njih postepeno reaguje stvara znatno vernije okruženje od bota koji svaki odgovor počinje „hladne glave“. Iz istog razloga ovaj pristup ima smisla i u video-igrama, za složenije sporedne likove (NPC).
Međutim, u uobičajenoj primeni u biznisu „promenljivo raspoloženje“ stvara problem nepredvidivosti. U većini analitičkih, inženjerskih i poslovnih zadataka od jezičkog modela traže se ujednačen kvalitet, stabilnost i objektivnost. Ukoliko odgovor počne da zavisi od simuliranog „afektivnog stanja“ u koje je model doveden tokom razgovora, direktno se narušava pouzdanost sistema kao radnog alata.
Milena Šović, AI Implementation Specialist & AI Content Trainer
