Novi regulatorni front: Uticaj EU AI Akta na razvoj igara i AI likova

Sećate li se onog trenutka u Red Dead Redemption 2? Stojite u blatnjavoj ulici Valentina. Pada kiša. Ulazite u salun. Prilazite šanku, a NPC (Non-Player Character), koga nikada ranije niste videli, podiže pogled sa svoje čaše i promrmlja: „Teško napolju, a?“

Okrenete se, slučajno gurnete drugog lika, on vas opsuje. Izvinite se. On prihvati izvinjenje, ali vas gleda popreko do kraja večeri.

Taj trenutak. Ta magija. To nije bio skriptovan događaj. To je bio emergence – iluzija života stvorena kompleksnim AI sistemima koji reaguju na vas, na vreme, na svet.

Kao neko ko je proveo život na raskrsnici između gejminga i razvoja AI, ja živim za te trenutke. Kao neko ko je kodirao pathfinding algoritme za bića koja sada izgledaju smešno primitivno i kao neko ko sada radi sa Generativnim AI modelima koji mogu da napišu sonet o tom istom NPC-ju, ja sam u ekstazi. Mi smo na ivici zlatnog doba. Na ivici smo igara gde će svaki NPC imati pamćenje, ciljeve i jedinstvenu ličnost.

A onda. TUP.

To je zvuk koji sam čuo u glavi pre nekoliko meseci. To nije bio zvuk inovacije. Bio je to zvuk masivnog, teškog, prašnjavog pravnog dokumenta od 800 strana koji je pao na sto svakog developera u Evropi.

Zove se EU AI Akt (Zakon o veštačkoj inteligenciji).

I dok se svet fokusira na to kako će on regulisati samovozeće automobile i medicinsku dijagnostiku, ja vrištim mesecima: „Jeste li vi pročitali šta ovo znači za gejming?!“

Zovu me paranoičnim. Moji kolege developeri odmahuju rukom: „Ma, to je za ‘visok rizik’, to se ne odnosi na igre.“ Greše. Oh, kako fundamentalno greše.

Kao „doktor za gejming“ i AI analitičar za www.itnetwork.rs, moj posao je da čitam ta sitna slova. I ono što sam tamo pronašao me je nateralo da se preznojim. Ne pišem ovo kao neutralni posmatrač. Pišem ovo kao strastveni gejmer i kao uplašeni kreator.

Brisel je upravo otvorio regulatorni front na našem terenu. Pitanje je: da li su došli da nas spasu od predatorskih korporacija ili da birokratijom sahrane inovacije zauvek?

Poglavlje 1: Šta je, dođavola, EU AI Akt? (Vodič za gejmere)

Pre nego što počnemo da paničimo, hajde da objasnimo neprijatelja. Ili spasioca?

Pročitao sam ga (dobro, većinu) da vi ne biste morali. EU AI Akt nije jedan zakon. To je okvir. To je prva velika svetska regulativa koja pokušava da stavi uzde na AI. Njen cilj je „siguran i pouzdan AI“ u Evropi.

Zvuči lepo. Ali kako to radi? Radi kroz pristup zasnovan na riziku. Oni su podelili AI u četiri korpe:

1. Neprihvatljiv rizik (Unacceptable Risk): ZABRANJENO. Kraj priče.
   • Šta je to? AI koji manipuliše ljudima da bi im naneo štetu. AI za „socijalno bodovanje“ (kao u Kini). AI koji eksploatiše ranjive grupe.
   • Moja prva pomisao: Čekajte… „manipuliše ljudima“? „Eksploatiše ranjive“? Da li ste vi ikada videli Diablo Immortal? Vraćamo se na ovo.
2. Visok rizik (High Risk): DOZVOLJENO, ali uz tone birokratije.
   • Šta je to? AI koji utiče na vaš život. Medicinska dijagnostika, zapošljavanje (AI koji čita CV), krediti, policija, obrazovanje.
   • Moja druga pomisao: Obrazovanje? Da li se gejming ponekad smatra „edukativnim“? O, da. Šta je sa AI alatima za E-Sport trening? Šta ako AI u igri prati vaše mentalno stanje? Ulazimo u sivu zonu.
3. Ograničen rizik (Limited Risk): DOZVOLJENO, ali uz obavezu transparentnosti.
   • Šta je to? AI sistemi koji direktno interaguju sa ljudima. Chatbotovi. Deepfake.
   • Moja treća pomisao: „Interaguju sa ljudima“? To je definicija svakog NPC-ja! Ovo je direktan pogodak.
4. Minimalan rizik (Minimal Risk): Većina stvari.
   • Šta je to? AI u spam filterima. AI za preporuke na Netflixu. I verovatno… AI pathfinding (kako se neprijatelj kreće od tačke A do tačke B).
   • Moja četvrta pomisao: Hvala bogu, AI u Pac-Man-u je verovatno siguran.

Sada kada imamo mapu, hajde da vidimo gde se gejming, naša voljena industrija vredna stotine milijardi dolara, uklapa u ove birokratske korpe.

Poglavlje 2: „Manipulativni AI“ – Da li je vaš Loot Box sistem upravo postao ilegalan?

Idemo odmah na glavu Aždaje. Korpa broj 1: Neprihvatljiv rizik.

Član 5 Akta je muzika za moje uši i apsolutni horor za advokate kompanija EA, Activision-Blizzard i svakog Free-to-Play mobilnog studija.

Zabranjuje se AI koji koristi:

„…subliminalne tehnike van svesti osobe ILI eksploatiše bilo koju od ranjivosti određene grupe osoba zbog njihovih godina, fizičkog ili mentalnog invaliditeta… kako bi materijalno iskrivio ponašanje osobe… na način koji toj osobi… nanosi ili će verovatno naneti značajnu štetu.“

Prevod za gejmere: Čestitam, upravo ste pročitali savršenu definiciju psihologije loot boxova i dinamičke monetizacije.

Ja sam ovo kodirao. Ja znam kako se ovo radi.

• „Eksploatiše ranjivosti (godina)“: Bukvalno svaka mobilna igra sa loot boxovima koja cilja decu.
• „Subliminalne tehnike“: Šta je „dinamičko podešavanje težine“ (Dynamic Difficulty Adjustment)? To je AI koji primeti da gubite i postajete frustrirani. I šta uradi? Postoje dva puta:
  1. Stari dobri put: Olakša igru da vas zadrži.
  2. Predatorski put: Upravo u tom trenutku frustracije, kada vam je kontrola impulsa najniža, ponudi vam „specijalnu ponudu“ – 50% popusta na mač koji će rešiti vaš problem.

Ovo je materijalno iskrivljavanje ponašanja koje nanosi finansijsku štetu.

Kao gejmer, ja sam euforičan! Ovo je bomba! Ovo znači da bi regulatorna tela mogla, konačno, da unište najgore Pay-to-Win i Pay-to-Loot sisteme. Ako ste ikada potrošili 100 evra na FIFA (sada EA FC) paketiće i niste dobili ništa, znate o kojoj psihološkoj šteti pričam.

Ovo je pobeda za potrošače. Advokati giganata se trenutno znoje i lobiraju kao ludi da dokažu da njihovi „mehanizmi iznenađenja“ (kako ih cinično zovu) ne spadaju pod „manipulaciju“.

Da li EU AI Akt zabranjuje loot boxove? Ne direktno. Ali daje regulatorima savršeno oružje da zabrane AI sisteme koji upravljaju tim loot boxovima na predatorski način.

Ovo je svetla strana Akta. Nažalost, postoji i mračna.

Poglavlje 3: „Visokorizični“ AI – Birokratska zamka za gejming

Hajde da pogledamo korpu broj 2: Visok rizik (High Risk).

Ovde developer u meni počinje da paniči. AI sistemi koji spadaju ovde moraju da prođu kroz pakao birokratije: procene uticaja, registracija u EU baze podataka, rigorozno testiranje, stalni monitoring… To su milioni evra troškova pre nego što ste i napisali prvi red koda.

„Ali to je samo za medicinu i policiju!“, viču moje kolege. O, ne. Pogledajte Aneks III Akta. Visok rizik je, između ostalog, i AI za…

• „…obrazovanje i stručno osposobljavanje…“

Uh-oh.

Ja sam u sred razvoja „ozbiljne igre“ (Serious Game) za obuku hirurga. To je, po definiciji, obrazovanje. Moj AI koji simulira operaciju? Visok rizik. Moram da prođem celu proceduru. A šta je sa Microsoft Flight Simulatorom? Igra koja se koristi za stvarnu obuku pilota? Visok rizik. Šta je sa AI trenerom u E-Sportu koji analizira vašu igru i daje vam preporuke za mentalno zdravlje i trening? Obrazovanje. Visok rizik.

Birokratija Brisela je upravo ušla u tutorial nivoe naših igara.

Još gore. Visok rizik je i AI koji se koristi za „…zapošljavanje, upravljanje radnicima i pristup samozapošljavanju…“. Šta mislite, kako matchmaking algoritam u League of Legends spaja timove? A šta je sa E-Sportom, gde vas algoritam rangira i odlučuje da li ulazite u profesionalnu ligu (pristup zaposlenju)?

Šta je sa gig economy platformama unutar igara, kao što je Roblox ili Second Life, gde AI algoritam odlučuje koji kreator će biti vidljiv i time mu direktno utiče na zaradu?

Upali smo u zamku. Ne mislim da su pisci zakona mislili na World of Warcraft kada su pisali o „upravljanju radnicima“, ali jezik je toliko širok da advokat korporacije može da uništi konkurenta prijavom da njihov AI matchmaking nije prošao sertifikaciju.

Ovo je mesto gde inovacija umire. Veliki studiji (EA, Ubisoft) će imati armije advokata i novac da plate sertifikate. Ali indie studio iz Novog Sada koji pravi inovativnu edukativnu igru? Sahranjeni su. Ne mogu da priušte tu birokratiju.

Poglavlje 4: „Ograničen rizik“ – Smrt imerzije i noćna mora za NPC-jeve

Ovde dolazimo do srca problema. Korpa broj 3: Ograničen rizik (Limited Risk).

Ovde zakon ne zabranjuje, ali zahteva TRANSPARENTNOST.

Zakon kaže da ako AI sistem…

1. Direktno interaguje sa ljudima (kao Chatbot)…
2. Generiše sadržaj (kao Deepfake ili GenAI)…

…korisnik mora biti JASNO OBAVEŠTEN da interaguje sa mašinom.

Noćna mora br. 1: Smrt NPC-ja

Sećate se onog lika u salunu iz Red Dead Redemption 2? Po EU AI Aktu, scenario bi morao da izgleda ovako:

Prilazite šanku. [POP-UP PROZOR]: „PAŽNJA: Spremate se da interagujete sa AI sistemom (‘NPC-Salun-Pijanica-034’). Njegovi odgovori su generisani algoritmom. Nastaviti?“

Jezivo.

Ovo je smrt imerzije. To je ubistvo „magičnog kruga“ gejminga. Mi znamo da nisu stvarni, ali umetnost igre je da nas natera da zaboravimo.

Ja, kao developer, proveo sam godine usavršavajući AI koji se neprimetno uklapa u svet. A sada Brisel traži od mene da na svako svoje remek-delo okačim fluorescentni znak: „LAŽNO!“

Da li će ovo važiti za svakog neprijatelja koji promrmlja nešto pre nego što vas napadne? Verovatno ne. Ali za kompleksne NPC-jeve? Za vašeg saputnika u Baldur’s Gate 3 (Astarion, Shadowheart)? Za AI koji vodi narativ? Vrlo verovatno.

Noćna mora br. 2: Generativni AI (GenAI) i kraj slobode

Ovo je još gore. Mi smo na ivici revolucije Generativnog AI u igrama. Alati kao što su Nvidia ACE ili Inworld AI obećavaju NPC-jeve koji ne ponavljaju iste tri rečenice. Obećavaju NPC-jeve sa kojima možete da vodite stvarne razgovore.

Pitate lika u Skyrimu „Kakvo je vreme?“, a on vam ne odgovori „Nekada sam i ja bio avanturista…“. On pogleda u nebo, analizira meteorološke podatke u igri i kaže: „Oblaci dolaze sa zapada, mislim da će kiša pre večeri. Bolje požuri.“

To je budućnost za koju živim!

Ali EU AI Akt kaže:

1. Moraš da kažeš igraču da je ovo AI (već smo ubili imerziju).
2. Sadržaj koji AI generiše (slike, audio, tekst) mora biti označen vodenim žigom kao „AI-generisan“ (e.g., C2PA standard).
3. Moraš da pružiš detaljan sažetak podataka na kojima je tvoj GenAI model treniran.

Ovo poslednje je katastrofa za developere.

• Inovacija: Mali indie tim ne može da priušti treniranje sopstvenog modela. Oni koriste OpenAI (ChatGPT) ili Llama modele. Šta ako OpenAI ne želi da podeli svoj „tajni recept“ (podatke za trening)? Indie tim je blokiran.
• Autorska prava: Šta ako ste trenirali AI na slikama sa interneta? Sada morate da objavite taj sažetak, i armija advokata će vas tužiti za kršenje autorskih prava.
• Kreativnost: Zamislite da vaš GenAI NPC treba da generiše hiljade dinamičkih dijaloga. Da li to znači da svaka rečenica mora da prođe kroz filter „etičke provere“ i da nosi vodeni žig? Šta ako NPC, u žaru borbe, treba da opsuje? Da li će mu AI filter (treniran na „sigurnim“ podacima) to zabraniti?

Mi nećemo dobiti realistične NPC-jeve. Dobićemo dosadne, lobotomizovane, korporativno-sigurne asistente koji se plaše da kažu bilo šta kontroverzno. To nije Red Dead Redemption. To je LinkedIn.

Poglavlje 5: Minimalni rizik i naša AI budućnost

„Ali, Srbija nije u EU!“

Čujem vas. I ja sam to pomislio. Kao developer iz Beograda, zašto bi me bilo briga za Brisel?

Evo zašto:

1. Tržište: Gde prodajete svoju igru? Na Steam-u? Na PlayStation Store-u? Gde je najveće tržište na svetu (pored Kine)? Evropska Unija. Ako vaša igra nije u skladu sa EU AI Aktom, ona neće biti prodata u Francuskoj, Nemačkoj, Italiji… To je tržišni game over.
2. Kandidatura: Srbija je zemlja kandidat. Mi usklađujemo naše zakone sa EU. Pitanje je kada, a ne da li će sličan zakon doći i kod nas.
3. Globalni Standard: Kao što je GDPR (Zakon o zaštiti podataka) postao globalni standard koji čak i američke kompanije poštuju, tako će i EU AI Akt postati de facto „Briselski efekat“.

Kao neko ko vodi timove i piše za www.itnetwork.rs, moj savet svim mladim developerima u Srbiji je: Počnite da čitate ovaj zakon odmah. On je vaša budućnost, sviđalo se to vama ili ne.

Naš pathfinding algoritam? Naša fizika? Naš AI koji balansira težinu? To je verovatno „minimalan rizik“. Niko neće regulisati Pac-Man duhove.

Ali čim taj duh počne da priča sa vama… upali ste u „Ograničen rizik“. A čim taj duh počne da vam prodaje nešto na osnovu vašeg psihološkog profila… upali ste u „Neprihvatljiv rizik“.

Spas ili sahrana?

Vraćam se u onaj salun u Red Dead Redemption 2. Gledam tog NPC-ja. Taj tračak života.

EU AI Akt je stigao sa plemenitom namerom. Došao je da nas spase od predatorske monetizacije koja je zagadila našu industriju. Došao je da spreči AI da nas manipuliše i eksploatiše našu decu (Poglavlje 2). I na tome sam mu, kao gejmer, beskrajno zahvalan.

Ali, kao kreator, kao AI entuzijasta, ja sam u žalosti.

Jer isti taj zakon, pisan od strane birokrata koji ne razumeju magiju, preti da tu magiju ubije. Preti da nametne toliko birokratskog tereta (Poglavlje 3) i toliko pravila o transparentnosti (Poglavlje 4) da će svaki budući NPC, svaki dinamični dijalog, svaka GenAI inovacija, biti ugušena u kolevci.

Bojim se budućnosti u kojoj će velike korporacije plaćati sertifikate za svoje dosadne, korporativne AI, dok će mali, inovativni timovi propadati pod težinom papirologije.

Mi smo na regulatornom frontu. EU je ispalila prvi hitac. I pogodila je i tiranina i heroja. Naš posao, kao gejmera i kao IT stručnjaka, jeste da budno pratimo. Moramo da se borimo za regulativu koja nas štiti od eksploatacije, ali ne i od inovacije.

Budućnost gejminga je AI. Ali kakva će ta budućnost biti… to više nije u rukama developera. U rukama je advokata. A to je, prijatelji moji, najstrašnija horror igra od svih.