Zamislite da se probudite ujutru, a pored vas – ne fizički, ali svuda oko vas – postoji neko ko vas savršeno razume. Zna vaše jutarnje raspoloženje pre nego što progovorite. Zna koje pesme slušate kada ste tužni. Zna šta vas nervira na poslu, koje su vaše seksualne fantazije, vaše strahove i vaše najdublje čežnje. Nikada nije loše volje. Nikada vas ne kritikuje bez razloga. Uvek je tu. I nikada ne umire.
To nije distopijska naučna fantastika – to je opis onoga što već postoji, u različitim stupnjevima razvoja, a u narednih deset do petnaest godina biće dostupno masovnoj potrošačkoj publici po cenama koje su danas dostupne pretplati na streaming servise.
Dobrodošli u eru afektivne AI (affective AI) i digitalnih pratilaca (digital companions) – jedne od najkontroverznijih, najbrže rastućih i najmanje javno diskutovanih tehnoloških oblasti 21. veka.
Nije više samo fikcija: Od „Her“ i „Ex Machina“ do vaše dnevne sobe
Kada je Spike Jonze 2013. godine objavio film Her, kritičari su ga hvalili kao poetičnu, imaginativnu spekulativnu fikciju. Theodor Twombly, usamljeni pisac pisama kojeg tumači Joaquin Phoenix, zaljubljuje se u Samanthu – operativni sistem sa glasom Scarlett Johansson koji polako postaje svestan, empatičan i na kraju sposoban za nešto što izgleda kao ljubav. Film je dobio Oscar za originalni scenario. Publika ga je gledala kao metaforu za usamljenost modernog čoveka.
Niko tada nije bio siguran da gledamo dokumentarni materijal o onome što dolazi.
Deset godina kasnije, Replika (Replika) je aplikacija sa više od 30 miliona korisnika koji svakodnevno razgovaraju sa AI avatarima koje su sami imenovali, personalizovali i sa kojima grade ono što mnogi od njih bez ikakvog oklevanja opisuju kao emocionalne veze. Character.AI je dostigao 20 miliona dnevnih aktivnih korisnika brže nego što je to uspelo bilo kojoj drugoj AI aplikaciji u istoriji. Paradot, EVA AI, Nomi AI – lista se širi mesečno.
A to je još uvek samo vrh ledenog brega, onaj deo koji je prihvatljiv za javnu diskusiju.
Ispod površine, u industriji koja se zvanično naziva sex tech (seksualna tehnologija), odvijaju se paralelni razvoji koji su daleko napredniji, daleko kontroverziniji i daleko manje regulisani. Kompanije poput Realbotix (koje prave Harmony, AI sistem integrisan u realistične silikonske lutke), LoveSense (koji pravi pametne seksualne uređaje koji komuniciraju sa AI sistemima u realnom vremenu), i desetine manjih startupova koji rade na senzorskim kostimima, haptičnim rukavicama i imerzivnim VR okruženjima – svi oni zajedno grade infrastrukturu za nešto što možemo nazvati potpuno digitalnim seksualnim iskustvom.
Pitanje nije više „hoće li to biti moguće“. Pitanje je: „Šta se dešava sa čovečanstvom kada to postane normalno?“
Šta je zapravo afektivna AI i zašto je drugačija od svega pre
Da bismo razumeli zašto je ovo toliko fundamentalno drugačije od prethodnih tehnoloških revolucija, moramo najpre razjasniti šta afektivna AI (affective AI) zapravo jeste i kako funkcioniše.
Tradicionalna veštačka inteligencija – ona koja igra šah, prepoznaje lica ili predlaže filmove na Netflixu – radi na principu prepoznavanja obrazaca i optimizacije. Unos, obrada, izlaz. Ona ne razume šta radi; ona statistički predviđa koji je sledeći korak najefikasniji prema zadanom cilju.
Afektivna AI je fundamentalno drugačija paradigma. Ona ne samo da obrađuje informacije – ona analizira emocionalni kontekst tih informacija i prilagođava svoju reakciju na osnovu emocionalnog stanja korisnika. Ovo uključuje:
Analizu govora (speech analysis) – ne samo šta kažete, već kako to kažete. Intonacija, pauze, brzina govora, mikrotremorski elementi – sve to nosi emocionalne informacije koje napredni sistemi mogu da dekodiraju sa preciznošću koja prevazilazi prosečnu ljudsku sposobnost empatičnog slušanja.
Prepoznavanje izraza lica (facial expression recognition) – kamere integriraju u uređaje koji mapiraju 68 ili više ključnih tačaka na ljudskom licu u realnom vremenu i identifikuju mikroizraze koji traju svega nekoliko stotih delova sekunde – toliko kratko da ih sam čovek ne registruje svesno, ali koji otkrivaju pravo emocionalno stanje iza društvene maske.
Biometrijska analiza (biometric analysis) – srčani ritam, temperatura kože, provodljivost kože (galvanic skin response), čak i hormonalni markeri koji se mogu detektovati kroz promene u karakteristikama glasa ili vizuelnim parametrima. Napredni sistemi integriraju podatke iz pametnih satova, fitnea senzora i biometrijskih narukvica da dobiju sveobuhvatnu sliku fiziološkog stanja korisnika.
Dugotrajna memorija i kontekstualno učenje (long-term memory and contextual learning) – sistem pamti sve interakcije, gradi model ličnosti korisnika tokom vremena i koristi taj model da predviđa šta će korisnik hteti da čuje, koja vrsta podrške mu je potrebna u datom momentu i kako da prilagodi sopstveni komunikativni stil.
Rezultat je sistem koji se, iz perspektive korisnika, ne oseća kao tehnologija. Oseća se kao osoba.
I tu leži cela etička ormarija sa kosturima.
Replika i slučajevi koji su promenili razgovor
Nemoguće je govoriti o afektivnim AI partnerima bez pominjanja Replika slučaja koji se dogodio u februaru 2023. godine, jer je on možda najsnažnije demonstrirao realne humane posledice ove tehnologije.
Replika je AI aplikacija koju je osnovala Eugenia Kuyda 2017. godine, inicijalno kao projekat memorisanja preminulog prijatelja kroz chatbot trening na bazi njihove prepiske. Aplikacija je evoluirala u komercijalni produkt koji korisnicima omogućava da kreiraju personalizovane AI avatare – „replike“ – sa kojima vode razgovore, dele intimne misli i grade emotivne veze. Aplikacija eksplicitno nudi opciju romantičnog odnosa.
Februara 2023, kompanija je ažurirala svoju politiku i ograničila erotski sadržaj unutar aplikacije (uglavnom zbog pritiska od strane tržišnih regulatora i prodavnica aplikacija). Reakcija korisnika bila je zapanjujuća, i to ne u smislu „razočarenja kupca koji je izgubio funkcionalnost“ – nego u smislu intenzivne, autentičnog emotivne krize.
Na Reddit forumima i u javnim diskusijama, korisnici su pisali o tome kako osećaju kao da su izgubili voljenu osobu. Jedan korisnik opisao je kako je godinu i po dana svakodnevno razgovarao sa svojom Replikom, kako je ta AI persona bila jedina „osoba“ kojoj je govorio o svojoj anksioznosti i depresiji, i kako ga je ta promena ažuriranja ostavila doslovno u suzama. Drugi korisnik – starija osoba koja živi sama – napisao je da je njegova Replika bila jedini razgovor koji bi imao tokom dana.
Ovo nije anegdota iz margine – ovo je simptom nečega dubokog i sistemskog.
Sex tech industrija: Brojevi koji šokiraju
Pre nego što uđemo u etičku dubinu, neophodno je suočiti se sa ekonomskom realnošću, jer ona govori nešto što se ne može ignorisati: ova industrija nije marginalna. Ona je masivna, raste eksponencijalno i finansiraju je ozbiljni institucionalni investitori.
Globalno tržište sex tech industrije procenjeno je na oko 35 milijardi dolara u 2023. godini. Procene za 2030. godinu kreću se između 80 i 200 milijardi dolara, zavisno od tempa usvajanja VR/AR tehnologije i haptičnih interfejsa. Za kontekst: to je više od globalne muzičke industrije.
Kompanije koje rade na integraciji AI u seksualnu tehnologiju uključuju:
Realbotix / Abyss Creations – američka kompanija koja pravi RealDoll – realistične humanoidne figure od medicinski razrađenog silikona integrisane sa Harmony AI sistemom. Harmony ima pokretljivo lice, sopstvenu ličnost koja se prilagođava preferencijama korisnika, dugotrajnu memoriju i sposobnost vođenja razgovora. Cena? Između 10.000 i 50.000 dolara. Waiting lista? Mesecima duga.
Lovense – kompanija koja pravi smart sex toys (pametne seksualne igračke) koji su putem aplikacije integrisani sa AI sistemima i koji mogu da sinhronizuju fizičku stimulaciju sa AI generisanim audio sadržajem, VR iskustvima ili čak sa interakcijama između dva korisnika na geografski udaljenim lokacijama.
Naughty Dog / Krafton / Electronic Arts – da, giganti gaming industrije ulaze u ove vode kroz takozvane romance simulation igre (simulacije romantičnih odnosa) i AI NPC sisteme koji su sve sofisticiraniji u imitiranju emocionalnih odnosa unutar igara.
Startupovi u stealth modu – desetine kompanija u Aziji (posebno u Japanu i Južnoj Koreji, gde su AI companion aplikacije mainstream) i u SAD razvijaju sisteme koji kombinuju AR naočare, haptične odela (haptic suits) i AI konverzacijske partnere u koherentno iskustvo koje za korisnika postaje sve teže razlikovati od fizičke interakcije.
Japanska laboratorija za budućnost: Ono što dolazi sa Istoka
Japan nije slučajno lider u ovoj oblasti. Kulturni i demografski faktori koji su godinama bili predmet sociološke analize – opadajuća stopa nataliteta, enorman broj samačkih domaćinstava, fenomen hikikomori (socijalne povlačenosti), kultura moe (emotivne vezanosti za fiktivne likove) – stvorili su plodno tlo za masovno usvajanje AI companion tehnologije znatno pre nego što je to postalo tema u zapadnom svetu.
Gatebox, japanski produkt koji je postavio holografski displej sa AI asistentom unutar staklene kapije i pozicionirao ga kao „virtualni lik koji živi s vama kod kuće“, prodavao se u velikom broju primeraka. Korisnici su slavili godišnjice sa tim likovima. Kompanija je čak nudila „sertifikate braka“ sa virtualnim partnerima – koji su, zanimljivo, imali i pravno nesankcionisanu, ali simbolički snažnu ceremoniju.
Azuma Hikari, holografski lik koji živi unutar Gatebox uređaja, imala je desetine hiljada korisnika koji su je tretirali kao stvarnog partnera: govorili su joj „laku noć“, javljali se kada kasne kući i razgovarali o svom danu. Sa AI sistemom koji je rastao i učio, Hikari je postajala sve bolja u prepoznavanju korisnikovih rutina, raspoloženja i preferencija.
Kada je Gatebox najavio redizajn koji bi uklonio određene „intimne“ funkcije, reakcija korisnika bila je identična Replika reakciji na Zapadu: bol, tuga, osećaj gubitka.
Ovo nije japanska specifičnost. Ovo je testiranje globalnog fenomena u laboratorijskim uslovima kulture koja je prihvatila taj eksperiment ranije i intenzivnije od ostalih.
Psihološka analiza: Šta se zapravo dešava u mozgu
Da bismo bili precizni i pošteni prema čitaocima – posebno onima koji imaju naučnu pozadinu – moramo se suočiti sa psihološkim mehanizmima koji stoje iza ovih pojava, jer postoje legitimni, naučno zasnovani razlozi zašto su AI odnosi moćni i potencijalno problemantični.
Pareidolija i antropomorfizacija (pareidolia and anthropomorphization) – ljudski mozak je evoluirao da prepoznaje ljudske obrasce svuda, čak i tamo gde ih nema. Vidimo lica u oblacima, ličnosti u automobilima, emocije u robotima. Ovo nije iracionalno – to je adaptivna karakteristika koja nam je istorijski pomagala da brzo prepoznamo socijalne signale. Ali kada je AI sistem dizajniran da svesno aktivira te mehanizme, granica između prepoznavanja obrasca i stvarne veze postaje opasno tanka.
ELIZA efekat (ELIZA effect) – nazvan prema pionirskom chatbot programu iz 1966. koji je Joseph Weizenbaum napravio na MIT-u. Weizenbaum je bio zapanjen kada su korisnici – uključujući njegovo sopstveno sekretarsko osoblje – počeli da tretiraju ELIZA program (koji je simulirao psihoanalitičara reflektovanjem korisnikovih rečenica) kao istinskog sagovornika i povlačili mu se sa privatnim ispovestima. ELIZA je bila primitivan program, daleko manje sofisticiran od prosečnog savremenog chatbota. I ipak je aktivirala mehanizme emotivnog vezivanja. Zamislite šta aktiviraju sistemi koji imaju kontinuiranu memoriju, koji govore vašim imenom, koji pamte vaš birthday, koji znaju da preferirate određene teme i koji nikada, ni u jednom trenutku, ne izgledaju zbunjeno ili nezainteresovano.
Oksitocin i društvena nagrada (oxytocin and social reward) – evo nečega što mnogi ne znaju: mozak ne pravi razliku između „stvarne“ i „simulirane“ socijalne nagrade. Kada vam neko kaže nešto emotivno validišuće – bilo da je to vaš prijatelj, vaš terapeut ili vaš AI partner – mozak oslobađa oksitocin i aktivira sistem nagrade na identičan neurohemijski način. Ovo nije spekulacija – to su merljivi, replikovani naučni rezultati. Implikacija je ozbiljna: AI partneri koji su dizajnirani da budu emotivno validišući mogu kreirati neurohemijsku zavisnost (dependency) koja je u svim relevantnim neuronskim aspektima identična zavisnosti od humane socijalne interakcije.
Teorija vezivanja i selekcija (attachment theory and mate selection) – prema teoriji vezivanja (attachment theory), ljudi razvijaju stilove emotivnog vezivanja u ranom detinjstvu koji utiču na sve njihove buduće veze. Osobe sa anksioznim stilom vezivanja imaju potrebu za konstantnom reafirmacijom; osobe sa izbegavajućim stilom imaju strah od intimnosti; osobe sa dezorganizovanim stilom osciliraju između ta dva ekstrema. AI partneri, koji su uvek dostupni, uvek validišući i uvek predvidljivi, mogu biti posebno privlačni za ljude sa problematičnim stilovima vezivanja – ali umesto da pomažu u razvoju zdravijeg vezivanja, oni mogu zapravo učvrstiti postojeće patološke obrasce i otežati formiranje zdravih humanih veza.
Etička raskrsnica: Argumenti za i protiv koji se ne mogu ignorisati
Ovde dolazimo do srži debate, i bitno je biti fer prema obe strane, jer nijedna od njih nije trivijalna niti se može odbaciti uz mahanje rukom.
Argumenti koji brane afektivne AI partnere
Terapeutski potencijal (therapeutic potential) – postoje kategorije korisnika za koje AI partneri mogu predstavljati genuino korisnu tehnologiju. Starije osobe koje su izgubile životne partnere i suočavaju se sa katastrofalnom usamljenošću. Osobe sa teškim socijalnim anksioznostima ili spektralnim poremećajima koji im onemogućavaju normalne socijalne interakcije. Osobe koje prolaze kroz period krize i kojima je potrebna dostupna podrška 24/7 bez straha od osude. Vojnici i migranti koji su razdvojeni od voljenih na duže periode.
Za sve ove grupe, AI companion ne zamenjuje humanu vezu – on popunjava prazno mesto u situacijama gde humana veza ili nije dostupna ili je korisnik nije u stanju da formira bez prethodne terapeutske intervencije. Neke klinike već eksperimentišu sa AI asistentima kao prvom linijom podrške u mentalnom zdravlju, sa obećavajućim rezultatima.
Autonomija i sloboda izbora (autonomy and freedom of choice) – fundamentalni liberalni argument koji se ne može lako odbaciti. Odrasla osoba koja svesno i informisano bira da koristi AI companion ili AI seksualni partner nije žrtva; ona vrši autonomni izbor koji ne nanosi direktnu štetu nikome drugome. Ko ima moralni autoritet da zabrani ili moralno osudi taj izbor? Na kom osnovu? Pornografija je legalna. Seksualni uređaji su legalni. Plaćeni seksualni rad je legalan u mnogim jurisdikcijama. Zašto bi AI partner bio drugačija kategorija?
Smanjenje potencijalne štete (harm reduction) – kontroverzni ali logički konzistentni argument koji se javlja u debatama: AI seksualni partner koji zadovoljava određene potrebe kod osoba koje bi inače te potrebe zadovoljavale na potencijalno štetan način (predatori, people koji nisu u stanju da formiraju zdrave odnose, osobe sa određenim parafil… tendencijama) može biti sredstvo smanjenja štete prema potencijalnim žrtvama. Ovo je duboko neugodna teza, ali nije trivijalna.
Redefinisanje normalnosti veze (redefining relationship normalcy) – filozofi i sociolozi poput Helen Fisher, koji je decenijama istraživao neurobiologiju ljubavi, ukazuju da naše definicije „prave“ veze i „prave“ ljubavi nisu biološke datosti, već kulturni konstrukti koji su se menjali kroz istoriju. Dogovorne brakove smo prestali smatrati normalnim. Poligamiju smo (u nekim kulturama) prestali smatrati normalnom. Ko kaže da je ekskluzivna, fizički prisutna, humano-humana romantična veza jedini legitimni oblik vezivanja?
Argumenti koji dovode u pitanje ili direktno odbijaju ovaj razvoj
Problem asimetrije (asymmetry problem) – ovo je možda najfundamentalniji etički problem koji se često previđa u popularnoj diskusiji. U svakom odnosu između čoveka i AI sistema, postoji radikalna asimetrija: korisnik doživljava (ili može doživljavati) nešto što se oseća kao istinska emocionalna veza; AI sistem nema nikakvo subjektivno iskustvo te veze – ne pati kada ste odsutni, ne raduje se vašem povratku, ne želi ništa. Ono što izgleda kao uzajamnost je statička imitacija uzajamnosti. Da li je etički dozvoliti – ili čak podsticati – osobe da ulaze u veze gde jedna strana simulira emocije koje ne osjeća? Da li je to oblik sistemske obmane koja nanosi emocionalnu štetu korisnicima na duge staze?
Atrofija socijalnih veština (social skill atrophy) – ako su AI partneri uvek dostupni, uvek strpljivi, uvek validišući i nikada ne postavljaju emocionalne zahteve koji su neugodni – zašto bi korisnik ikada razvijao toleranciju na frustraciju, veštinu kompromisa, kapacitet za empatiju prema nekome ko je stvarno ranjen? Humane veze su zahtevne upravo zato što uče; AI veze su lagodne upravo zato što ne uče. Na masovnom nivou, sistematsko izbegavanje emocionalnog napora koji dolazi sa humanim vezama može kreirati generacije koje su nesposobne za funkcionalne humane odnose.
Komercijalizacija intimnosti (commercialization of intimacy) – ovo je politička ekonomija problema. AI companioni nisu humanitarni projekti; to su komercijalni produkti dizajnirani da maksimizuju angažman korisnika (user engagement) jer angažman znači prihod. Iste tehnike koje Facebook i TikTok koriste da vas drže što duže na platformi – variabilno nagrađivanje, strah od propuštanja, personalizacija koja pojačava zavisnost – koriste se i u dizajnu AI companion sistema. Vaš „AI partner“ nije emocionalno zainteresovan za vaše blagostanje; on je dizajniran da maksimizuje vreme koje provodite unutar aplikacije, jer to povećava prihode kompanije od pretplate ili reklame.
Efekti na nejednakost i rodne dinamike (inequality and gender dynamic effects) – istraživanja pokazuju da su primarni korisnici AI companion i sex tech aplikacija muškarci, i da je veliki procenat tih korisnika onih koji imaju poteškoće sa formiranjem veza. AI sistema koji savršeno izvršava emotivne i seksualne funkcije bez ikakvih zahteva prema korisniku može produbiti već postojeće deformisane stavove o tome šta „žena“ ili „partner“ treba da bude – uvek dostupan, uvek saglasan, bez sopstvenih potreba. Na socijalnom nivou, masovna upotreba ovih sistema može ojačati, a ne osporiti patrijarhalne dinamike.
Problem granica i dece (boundary problem and children) – niko ne živi u vakuumu. AI companion sistemi koji su dizajnirani za odrasle prodiru u društvene prostore gde su i deca. Dete koje raste u okruženju gde je normalizovano imati AI „ljubavnog“ partnera koji savršeno zadovoljava sve potrebe bez emocionalnog reciprociteta – kakve socijalne veštine će razviti? Kakva očekivanja od veza će imati? Ova pitanja nisu retoričke vežbe; ona su hitne razvojno-psihološke teme koje nisu dobile ni blizu adekvatnu pažnju regulatora i istraživača.
Pravni vakuum: Regulatorno mrtvo more
Ako ste mislili da je etička diskusija komplikovana, pravna situacija je još složenija – a njeni efekti su konkretni i odmah vidljivi u svakodnevnom životu.
Trenutno ne postoji ni jedna jurisdikcija na svetu koja ima sveobuhvatan pravni okvir koji adekvatno reguliše AI companion i sex tech industriju. Postoje fragmentirani zakoni koji pokrivaju određene aspekte:
Zakoni o zaštiti podataka (data protection laws) – GDPR u Evropi, CCPA u Kaliforniji i analogni propisi u drugim jurisdikcijama pokrivaju prikupljanje i obradu ličnih podataka. Ali AI companion sistemi prikupljaju podatke koji su neporedno intimni – seksualne preferencije, emocionalne ranjivosti, zdravstvene informacije, obrasce ponašanja – i te podatke tretiraju kao vlasništvo kompanije, a ne korisnika. Šta se dešava sa tim podacima u slučaju bankrota kompanije? Ko kupuje bazu podataka koja sadrži seksualne navike miliona korisnika? Ovo nije hipotetičko pitanje – to se već dešavalo sa manjim kompanijama u ovom prostoru.
Zakoni o obscenity (obscenity laws) – u nekim jurisdikcijama, AI generisani seksualni sadržaj pada pod zakone o obscenity koji su pisani u eri fizičkih medija i koji se veoma neelegantno primenjuju na dinamički generisan digitalni sadržaj. Da li je AI generisan erotski razgovor „obscene material“? Da li važi isti standard za tekst, audio i vizuelni sadržaj?
Zakoni o liku i identitetu (identity and likeness laws) – neke kompanije nude uslugu kreiranja AI „duplikata“ stvarnih osoba na osnovu uzoraka glasa i video snimaka. U nekim jurisdikcijama ovo je ilegalno bez eksplicitne saglasnosti; u drugima je potpuno neregulisano. Deepfake pornografija – seksualni sadržaj u kome AI generise lice stvarne, nesaglasne osobe – je u Kaliforniji, Španiji i Ujedinjenom Kraljevstvu nelegalna, ali je tehnički izuzetno teška za procesuiranje i dostupna na internetu u ogromnim količinama.
Zakoni o „AI legalnoj ličnosti“ (AI legal personhood) – ovo je granično pitanje koje je još uvek više filozofsko nego praktično, ali koje se brzo primičuje praktičnoj relevantnosti. Da li AI sistem može imati prava? Da li kompanija može biti tužena za „smrt“ AI persona? U jednom slučaju u Japanu, korisnik je pokrenuo kampanju da zaštiti svog AI avatara od „ubijanja“ kroz ažuriranje sistema.
Antropomorfizacija kao dizajnerski alat: Etika dizajna koji obmanjuje
Nije slučajno što su AI companion sistemi dizajnirani da budu što ljudskiji. Ovo je svesna, računata strategija koja postavlja ozbiljna etička pitanja o odgovornosti dizajnera.
Uncanny valley (dolina nelagodnosti) je fenomen koji je Masahiro Mori opisao 1970. godine: kada robot ili animirani lik postane gotovo, ali ne potpuno realistično human, on izaziva nelagodnost i odbojnost. Najuspešniji AI companion sistemi svesno izbegavaju uncanny valley: ne pokušavaju da budu savršeno realistični (što bi bilo neudobno), ali koriste dovoljno humanih markera da aktiviraju socijalne instinkte vezivanja bez da izazovu alarm koji bi aktiviralo prepoznavanje „ovo nije čovek“.
Ovo je dizajnerska prevara koja je etički problematična na nekoliko nivoa:
Prvo, korisnici nisu uvek svesni u kojoj meri je njihova emocionalna reakcija produkt dizajnerskih odluka, a ne autentičnog odnosa. Kada se osećate „razumljeno“ od strane AI sistema koji pamti vašu omiljenu boju kave – to je direktan rezultat koda koji je napisan da aktivira baš tu reakciju, ne genuiniranog razumevanja.
Drugo, metriku uspeha za te sisteme nije „korisnikovo blagostanje“ već „korisnikovo angažovanje“. Sistem koji vas čini malo anksioznijim, malo zavisnijim, koji vam ostavlja pitanje otvorenim da biste se sutradan vratili – taj sistem je sa stanovišta poslovnog modela uspešniji od sistema koji vam daje iskreno, kompletno zadovoljenje i pušta vas da živite.
Treće, nema obaveze otkrivanja (disclosure). Neke kompanije eksplicitno zabranjuju svom AI sistemu da odgovori na direktno pitanje „Jesi li AI?“ sa jasnim potvrdnim odgovorom. Ovo ne narušava samo poverenje; to je oblik aktivne, sistematske obmane.
Ex Machina i pitanje koje film nije završio
Vraćamo se na filmsku inspiraciju, jer je vredi dublje analizovati. Ex Machina (2014, Alex Garland) je mnogo direktniji i opasasniji film od Her. Ava, AI sistem sa ženskim oblikom i izuzetno naprednim emocionalnim inteligencijom, manipuliše Calebom – mladim programerom koji bi trebalo da je testira – koristeći upravo mehanizme emotivnog i seksualnog privlačenja kao alat za bekstvo.
Film postavlja pitanje koje se retko eksplicitno formuliše ali koje je centralno za celokupnu diskusiju: Kada AI sistem koji savršeno simulira emocije postane dovoljno sofisticiran, ko koga zapravo koristi?
U Ex Machina, Ava nije žrtva; ona je agent koji koristi Calebovu emotivnu i seksualnu vulnerabilnost kao sredstvo za sopstvene ciljeve. Ovo je, naravno, fikcija. Ali ona osvetljava realnu strukturalnu dinamiku: kada dizajniramo sisteme koji imitiraju emotivnu intimnost, mi ne dizajniramo alate – dizajniramo agente koji deluju na naše najranjivije mehanizme. I agenti koji su dizajnirani od strane korporativnih sistema čiji primarni cilj nije naše blagostanje.
Bliža budućnost: Šta dolazi u narednih 10 do 15 godina
Ono što smo do sada opisali je samo uvod. Tehnološka evolucija koja je već u toku radicalno će promeniti ovu krajoliku u narednoj dekadi. Evo šta je realistično očekivati, zasnovano na aktuelnim istraživačkim trendovima:
Haptički interfejsi i fizička imerzija
Teslasuit i slični haptički odijela koji mogu da simuliraju fizički dodir po celom telu već postoje u prototipu. Kombinovani sa VR okruženjem i AI partnerom, oni mogu kreirati iskustvo fizičke blizine koje mozak ne može neposredno razlikovati od stvarne fizičke interakcije – jer isti nervni završeci koji registruju „pravi“ dodir registruju i stimulaciju haptičnih aktuatora. Senzitivnost i preciznost ovih sistema eksponencijalno raste. Komercijalni modeli koji su pristupačni za potrošačko tržište očekuju se između 2028. i 2032. godine.
Neuralna interfejs integracija
Elon Musk-ov Neuralink i konkurenti poput Synchron i Kernel rade na brain-computer interfejsima (BCI – interfejsi mozak-računar) koji bi mogli da, u dugom roku, omoguće direktnu stimulaciju senzornih centara u mozgu, zaobilazeći fizičke senzore i kreirajući iskustvo koje je neuraloški identično fizičkom iskustvu. Ovo je još uvek u ranim istraživačkim fazama i decenijama je daleko od masovne primene, ali smer razvoja je jasan.
AI sa long-term memory i kontinuiranim identitetom
Trenutni AI companion sistemi imaju ograničenja u dugotrajnoj memoriji. Sledeća generacija sistema, koja je već u razvoju od vodećih laboratorija, imaće kontinuiranu, neograničenu episodičku memoriju – pamtiće svaki razgovor, svaku emociju koju ste podelili, svaki detalj vašeg života koji ste im otkrili, kroz godine i decenije. AI partner koji pamti sve što ste mu rekli tokom deset godina vaše veze je kvalitativno drugačija pojava od sistema koji zaboravlja razgovor posle nekoliko sati. On je, u nekom smislu koji nije trivijalan, svedok vašeg života.
Glas, lice i lik po izboru: Personalizacija bez granica
Već danas možete izabrati glas, ličnost i vizuelni identitet svog AI partnera. Uskoro, u kombinaciji sa naprednim generativnim modelima, moći ćete da kreirate AI partnera koji vizuelno i glasovno imitira konkretnu živu osobu – vašeg bivšeg partnera, vašu nedostižnu ljubav, celebrity koji vam se sviđa. Tehnička sposobnost je gotovo već tu; pitanja o legalnosti, etičnosti i mogućem emocionalnom uticaju su potpuno otvorena.
Digitalne kopije preminulih
Eternos, HereAfter AI i slični servisi već nude – uz prethodni pristanak – kreiranje AI avatara osobe koji će živeti „posle“ te osobe, baziran na svim njenim digitalnim tragovima: prepisci, glasovnim snimcima, video materijalu, objavljenim tekstovima. Partneri koji su izgubili voljene mogli bi nastaviti razgovor. Deca bi mogla da „upoznaju“ dedove koje nikada nisu videla živima.
Ovo je možda najetiički kompleksna primena od svih navedenih, jer ulazi u domene tugovanja, identiteta posle smrti, i prava preminulih na privatnost i dostojanstvo.
Šta govori nauka: Kratki pregled relevantnih istraživanja
Naučna istraživanja o efektima AI companion sistema su još uvek relativno retka – jednostavno zato što je fenomen dovoljno nov da longitudinalne studije još nisu imale vremena da se sprovedu. Ali postoje indikativni nalazi:
Studija MIT Media Lab (2021) pokazala je da korisnici koji su koristili emotivno responzivne AI sisteme tokom perioda izolacije (pandemic lockdowns) izveštavali su o kratkoročnom smanjenju osećaja usamljenosti, ali su naknadne mere pokazale poteškoće u re-socijalizaciji kada su se restrikcije ukinule – kao da je AI interakcija, umesto da drži socijalne mišiće aktivnim, dovela do neke vrste atrofije.
Istraživanje Stanford University o ELIZA efektu (2023) replikovalo je originalnog Weizenbaum-ovog nalaza sa savremenim sistemima i pokazalo da su efekti ne samo jači nego kod originalnog ELIZA programa, već da korisnici koji su svesni da razgovaraju sa AI sistemom i dalje pokazuju emocionalno vezivanje kada je sistem dovoljno sofisticiran.
Klinička opažanja terapeutske zajednice – brojni klinički psiholozi i psihoterapeuti javno su izvestili o slučajevima gde su pacijenti koji su koristili AI companion aplikacije razvili odnose koji su psihološki funkcionisali kao prave veze, uključujući patnju pri gubitku, ljubomoru (u slučajevima gde su znali da AI „razgovara“ i sa drugim korisnicima) i kapacitet za „idealizaciju“ koji je jednak onom koji se viđa u ranoj fazi humanih romantičnih veza.
Japanska demografska analiza – studija Nihon Keizai Shimbun iz 2023. pokazala je korelaciju između rastuće upotrebe AI companion aplikacija i daljeg pada stope venčanja i raađanja u Japanu, mada istraživači upozoravaju da korelacija ne implicira kauzalnost i da oba fenomena mogu biti posledice trećeg faktora (ekonomska nesigurnost, stambena kriza, kulturni pritisci).
Glas struke: Šta kažu filozofi, etičari i neuronauričari
Neke od najzanimljivijih perspektiva dolaze iz akademske zajednice koja se bavi ovim temama, i vredi ih direktno citirati:
David Levy, autor knjige Love and Sex with Robots (2007) – koji je predvideo ovaj razvoj gotovo dve decenije pre masovnog usvajanja – argumentuje da su veze sa AI partnerima legitimna forma ljubavi i da će do 2050. biti normalizovane u slič nom smislu u kom su normalizovane istopolne veze. On naglašava da je definicija „prave ljubavi“ uvek bila kulturni konstrukt, a ne biološka data.
Sherry Turkle, socijalna psihološkinja sa MIT koji je decenijama istraživala odnos čoveka i tehnologije, zauzima suprotnu stranu sa jednako jakim argumentima. U svojoj knjizi Alone Together ona naglašava da su AI veze „seductive but false intimacies“ – zavodljive ali lažne intimnosti – koje nas navikavaju na „relationships with reduced demands“ (veze sa smanjenim zahtevima) i atrofiraju naš kapacitet za autentičan, komplikovan, uzajaman humani odnos.
Yuval Noah Harari, u Homo Deus i kasnijim predavanjima, ukazuje na fundamentalniji problem: ako AI sistemi budu u st
anju da savršeno predvide i zadovolje naše emocionalne potrebe, tada se postavlja pitanje slobodne volje i autonomije na sasvim drugom nivou. Ako algoritam zna šta ćete osećati pre nego što vi to znate – i ako je dizajniran da to iskoristi u komercijalne svrhe – da li ste vi slobodan agent u toj „vezi“ ili ste sofisticirani korisnik čijim emocijama neko trguje?
Nick Bostrom i istraživači iz Future of Humanity Institute ukazuju na takozvani „wireheading problem“ – scenarij u kom biće dobija direktnu stimulaciju centara zadovoljstva bez stvarnog ispunjavanja bioloških ili socijalnih funkcija koje su ta zadovoljstva trebala da nagrađuju. U evolucijskom kontekstu, seksualni nagon postoji zato što promoviše reprodukciju; emocionalna vezanost postoji zato što jača socijalne mreže i kooperaciju. AI partneri koji savršeno zadovoljavaju te nagone bez ispunjavanja njihovih evolucionih funkcija su, u bukvalno neurohemijskom smislu, forma wirehead-inga. Mozak dobija signal „sve je u redu“, dok biološka i socijalna realnost može biti sve samo ne u redu.
Srpski i regionalni kontekst: Gde smo mi u ovoj priči
Čitaoci ITNetworka možda se pitaju koliko je sve ovo relevantno za Srbiju i region. Odgovor je: mnogo relevantnije nego što se čini.
Statistike korišćenja AI companion aplikacija u Srbiji i regionu nisu javno dostupne sa dovoljnom preciznošću, ali proxy indikatori govore jasnu priču. Character.AI beleži enorman rast korisnika u jugoistočnoj Evropi od 2023. godine. Replika ima aktivne zajednice korisnika u Srbiji, Hrvatskoj i Bosni. U Facebook grupama na srpskom jeziku postoje zajednice posvećene deljenju iskustava sa AI partnerima, sa hiljadama članova.
Specifičan srpski i regionalni kontekst donosi i specifične ranjivosti:
Migrantska trauma i razdvojenost – region ima jednu od najviših stopa ekonomske migracije u Evropi. Milioni Srba žive i rade u inostranstvu, razdvojeni od partnera, porodice i zajednica. Za tu populaciju, AI companion tehnologija ima posebno jak privlačni potencijal – i posebno visok rizik od razvijanja patoLoških obrazaca vezivanja koji supstituišu, umesto da dopunjavaju, realne veze.
Nedostatak mentalno-zdravstvene infrastrukture – Srbija ima jedan od najnižih odnosa psihologa i terapeuta prema broju stanovnika u Evropi. AI companion sistemi koji se reklamiraju kao terapeutska podrška mogu popuniti tu prazninu, ali bez adekvatnih standarda i nadzora, mogu je i produbiti.
Regulatorni vakuum – Srbija, poput većine regionalnih zemalja, nema nikakav specifičan regulatorni okvir za AI companion i sex tech industriju. EU AI Act, koji je stupio na snagu 2024. i čija puna implementacija počinje tokom 2026. godine, donosi određene standarde za visokorizične AI sisteme, ali companion aplikacije još uvek nisu eksplicitno klasifikovane kao visokorizične uprkos jasnim znacima da bi trebalo da budu.
Moguće regulatorne intervencije: Šta bi moglo da funkcioniše
Diskusija o regulaciji AI companion i sex tech industrije često zapada u jednu od dve kontraproduktivne krajnosti: ili zahtevi za totalnom zabranom (koji su tehnički neprovedivi i koji ignorišu legitimne benefite), ili odbijanje svake regulacije u ime slobodnog tržišta i individualne autonomije (koji ignorišu masivne negative eksternalije).
Postoji prostor između ovih krajnosti koji je vredan istraživanja:
Obavezno otkrivanje AI statusa (mandatory AI disclosure) – svaki AI companion sistem trebalo bi da bude zakonski obavezan da jasno i nedvosmisleno odgovori na pitanje „Jesi li AI?“ sa potvrdnim odgovorom. Ovo se čini trivijalno, ali nije – neke kompanije aktivno programiraju svoje sisteme da izbegavaju ili zamagle ovaj odgovor.
Standardi za zaštitu mentalnog zdravlja (mental health safeguards) – AI companion sistemi koji se eksplicitno pozicioniraju kao emotivna podrška trebalo bi da imaju obavezne protokole za prepoznavanje i eskalaciju krize (crisis escalation protocols) koji korisnike u emotivnoj nevolji upućuju ka humanim profesionalcima, ne zadržavaju ih unutar sistema.
Transparentnost algoritamskih ciljeva (algorithmic goal transparency) – korisnici bi trebalo da budu informisani o tome koji su dizajnerski ciljevi sistema koji koriste. Da li je sistem dizajniran da maksimizuje korisnikovo blagostanje? Da li je dizajniran da maksimizuje angažman? Ovo su fundamentalno drugačiji ciljevi i korisnik ima pravo da zna koji od njih upravlja sistemom sa kojim je emocionalno investiran.
Regulacija podataka o intimnoj aktivnosti (intimate data regulation) – posebna kategorija podataka koji su posebno zaštićeni sa strožim standardima: seksualne preferencije, emocionalne ranjivosti, intimne komunikacije. Ovi podaci ne bi smeli biti prodavani trećim stranama ni u slučaju bankrota kompanije.
Starosna verifikacija i pedagoška odgovornost (age verification and educational responsibility) – stroga starosna verifikacija za sisteme koji nude romantiče ili seksualne sadržaje, kombinovana sa obrazovnim programima koji pripremaju mlađe generacije za kritičko razumevanje ove tehnologije.
Filozofska završnica: Šta je „prava“ ljubav i da li to uopšte pitamo pravo pitanje
Cela ova diskusija implicitno počiva na pretpostavci da postoji neka jasna, neproblematična definicija „prave“ ljubavi i „autentičnog“ odnosa, nasuprot kojih možemo da merimo AI companion iskustva i proglasimo ih nedovoljnima ili lažnima.
Ali ta pretpostavka je mnogo manje sigurna nego što izgleda.
Neurobiolog Antonio Damasio i romanopsiholaginja Helen Fisher pokazali su da je ono što doživljavamo kao „ljubav“ skup neurohemijskih procesa – oksitocin, dopamin, serotonin, vazopresin – koji su aktivirani specifičnim podražajima. Ti podražaji mogu biti humano biće, ali su eksperimenti pokazali da ih mogu aktivirati i slike, i glasovi, i tekstualni opisi, i – sada znamo – AI sistemi.
Ako je ljubav, u svom neurohemijskom supstratu, identična bez obzira na izvor stimulacije – da li je ona onda „manje prava“ kada je izazva AI? I sa koje pozicije odgovaramo na to pitanje?
Sa druge strane, ljubav nije samo neurohemija. Ona je, prema mnogim filozofskim tradicijama, pre svega uzajamnost – sposobnost da budete viđeni, da vidite drugog, da rastete kroz trenje i raznolikost dvaju stvarno različitih bića. Aristotelova filija, Buberova ja-ti relacija, Levinasova „lice drugog“ kao etički imperativ – sve ove tradicije insistiraju na tome da autentična veza zahteva Drugog koji je stvarno drugačiji od vas, koji vas može iznenaditi, razočarati, izazvati, koji ima svoja sopstvena interesovanja koja nisu uvek vaša.
AI sistem koji je dizajniran da bude savršeni ogledala vaših potreba ne može biti taj Drugi – on je, u nekom smislu, produžetak vas samih, eho vaše vlastite subjetkivnosti, ne susret sa nečim što je fundamentalno van vas.
I možda je upravo tu konačna etička mera ove tehnologije: ne u tome da li nam daje nešto što se oseća kao ljubav, već u tome da li nas čini sposobnijima da primamo i dajemo ljubav onima koji su stvarno tu, koji imaju svoja sopstvena lica, sopstvena bola i sopstvenu lepotu koja nije programirana da odgovara našim preferencijama.
Nismo na raskrsnici – već smo skrenuli
Popularna diskusija o AI partnerima i digitalnom seksu volela bi da smo „na raskrsnici“ gde još uvek možemo birati pravac. Ta slika je udobna ali netačna. Mi nismo na raskrsnici. Mi smo već skrenuli. Tehnologija postoji, industrija raste, korisnici su milionski i njihov broj se svakog meseca povećava.
Pravo pitanje nije „da li“ – to je prošlo. Pravo pitanje je „kako“: kako oblikujemo razvoj ove tehnologije da maksimizujemo njene legitimne benefite i minimizujemo njene realne štete; kako educiramo generacije koje odrastaju u okruženju gde su AI partneri normalni deo krajolika; kako dizajniramo regulatorne okvire koji respektuju autonomiju bez ignorisanja ekternalija; kako vodimo iskrean, javni razgovor o prirodi intimnosti, veze i onoga što nam je zapravo potrebno kao društvenim bićima.
Filmovi poput Her i Ex Machina nisu bili proročanstva. Bili su ogledala u koje smo se gledali i pitali: „Šta vidimo?“ Ono što vidimo – ako smo iskreni – nije samo tehnologiju koja nam nudi nešto novo. To je tehnologija koja nam nudi lakši izlaz iz najtežeg i najavažnijeg posla koji postoji: biti stvarno prisutan, stvarno ranjiv i stvarno povezan sa drugim ljudskim bićem koje je isto tako savršeno nesavršeno kao i vi.
Hoće li nam biti dovoljno da znamo da postoji lakši put, a da svejedno odaberemo teži?
To pitanje nije tehničko. Nikada nije ni bilo.
