Jedan klik. Nekoliko sekundi. To je sve što je potrebno da se nečiji život, nečije dostojanstvo i osećaj sigurnosti pretvore u digitalni pakao. U najmračnijim uglovima interneta, ali i na lako dostupnim platformama, cveta nova, zastrašujuća forma zloupotrebe tehnologije: aplikacije i botovi zasnovani na veštačkoj inteligenciji koji uzimaju obične fotografije žena i devojaka i, bez njihovog znanja ili pristanka, generišu lažne, ali jezivo realistične nage slike.
Ovo nije bezazlena šala ili „samo tehnologija“. Ovo je digitalno nasilje. To je duboko kršenje ljudskih prava i problem koji zahteva hitnu i odlučnu reakciju čitavog društva, od tehnoloških giganata do svakog od nas.
Tehnologija u službi zloupotrebe: Kako ovo funkcioniše?
U osnovi ovog problema leži moćna generativna veštačka inteligencija, ista ona tehnologija koja stoji iza fascinantnih AI umetničkih dela ili naprednih čet-botova. U ovom slučaju, AI modeli se „treniraju“ na ogromnim bazama podataka koje sadrže milione slika, kako obučenih, tako i nagih osoba. Kroz taj proces, AI „uči“ obrasce ljudske anatomije.
Kada korisnik unese fotografiju obučene osobe – najčešće žene – AI koristi svoje naučene obrasce da „predvidi“ i digitalno iscrta kako bi ta osoba izgledala bez odeće. Rezultat je digitalni falsifikat (deepfake) koji, iako nije stvaran, može biti gotovo nemoguće razlikovati od prave fotografije.
Ono što je posebno alarmantno je dostupnost. Nekada je za ovako nešto bilo potrebno napredno tehničko znanje. Danas, zahvaljujući botovima na platformama kao što su Telegram ili Discord, i brojnim sajtovima, svako sa internet konekcijom može postati počinilac za samo nekoliko minuta.
Ljudska cena digitalne iluzije: Više od lažne slike
Ključno je razumeti da, iako su slike lažne, šteta koju nanose je apsolutno stvarna. Za žrtve, ovo iskustvo je razorno na više nivoa:
- Psihološka trauma: Osećaj gađenja, sramote, anksioznosti i duboke povređenosti je univerzalan. Žrtve se osećaju kao da je njihova najdublja intima ukradena, izložena i ismejana. Mozak često ne pravi razliku između digitalnog i fizičkog napada – osećaj ugroženosti je identičan.
- Društvena i profesionalna šteta: Ove slike se često koriste za maltretiranje (cyberbullying), osvetničku pornografiju ili ucenjivanje („sextortion“). Mogu uništiti nečiju reputaciju, ugroziti radno mesto i naneti nepopravljivu štetu ličnim odnosima.
- Gubitak kontrole i sigurnosti: Saznanje da bilo ko može uzeti vašu sliku sa društvenih mreža i zloupotrebiti je na ovaj način uništava osećaj sigurnosti u digitalnom prostoru. Žrtve počinju da se plaše objavljivanja bilo kakvih fotografija i povlače se iz online života.
Ovo je fundamentalni napad na pristanak i telesnu autonomiju. To što se napad dešava u digitalnom, a ne fizičkom svetu, ni na koji način ne umanjuje njegovu težinu.
Digitalno nasilje u Srbiji: Zakonski okviri i realnost na terenu
Ovo se ne dešava „tamo negde“ u svetu. Žrtve mogu biti vaše komšinice, koleginice sa fakulteta u Nišu, devojke čije su slike sa Instagrama preuzete bez dozvole. Srpsko zakonodavstvo se, kao i zakonodavstva širom sveta, trudi da uhvati korak sa tehnologijom. Krivični zakonik Republike Srbije nudi određene osnove za procesuiranje:
- Član 138a – Polno uznemiravanje: Mogao bi se primeniti ako se slike koriste za uznemiravanje.
- Član 145 – Neovlašćeno objavljivanje i prikazivanje tuđeg spisa, portreta i snimka: Direktno se bavi objavljivanjem materijala bez pristanka, ali je pitanje da li se „falsifikat“ može tretirati kao „tuđi snimak“.
- Ugrožavanje sigurnosti, ucena, prinuda…
Ključna adresa za prijavu ovakvih dela je Tužilaštvo za visokotehnološki kriminal. Međutim, izazovi su ogromni: anonimnost počinilaca, serveri koji se nalaze u drugim državama i brzina kojom se sadržaj širi čine istragu i uklanjanje materijala izuzetno teškim. Potrebno je osavremeniti zakone tako da eksplicitno prepoznaju i strogo kažnjavaju stvaranje i distribuciju lažnih intimnih sadržaja. Organizacije civilnog društva, poput Share Fondacije, takođe pružaju važnu podršku i podižu svest o ovom problemu.
Kako se boriti? Odgovor mora biti sveobuhvatan
Ne postoji jedno rešenje za ovaj kompleksan problem. Borba zahteva zajedničku akciju na više frontova:
- Odgovornost tehnoloških platformi: Kompanije koje stoje iza društvenih mreža i aplikacija za dopisivanje moraju agresivnije da investiraju u tehnologije za detekciju, da pojednostave proces prijave i da trajno uklanjaju naloge i botove koji omogućavaju ovakve zloupotrebe.
- Zakonodavna akcija: Države moraju hitno da donesu jasne zakone koji ovo delo definišu kao teško krivično delo, sa strogim kaznama koje će služiti kao sredstvo odvraćanja.
- Obrazovanje: Digitalna pismenost i etika moraju postati ključni deo obrazovnog sistema od najranijeg uzrasta. Mladi moraju da uče o pristanku u digitalnom svetu, o posledicama nasilja i o tome kako da budu odgovorni digitalni građani.
- Društvena osuda: Kao društvo, moramo prestati da okrećemo glavu. Moramo osuditi ovakvo ponašanje, odbiti da učestvujemo u deljenju takvog sadržaja, prijavljivati ga i, što je najvažnije, pružiti bezrezervnu podršku žrtvama, a ne osuđivati ih.
Zaključak: Tehnologija bez etike je pretnja za sve
Razvoj veštačke inteligencije doneo je neslućene mogućnosti, ali je istovremeno otvorio i Pandorinu kutiju novih načina za nanošenje bola. Aplikacije koje „svlače“ žene nisu samo nusprodukt tehnologije; one su simptom dubljih društvenih problema – mizoginije i kulture nepoštovanja pristanka.
Naša sposobnost da se kao društvo izborimo sa ovom mračnom stranom tehnologije biće test naše zrelosti. Jer tehnologija sama po sebi nije ni dobra ni loša. Ali tehnologija bez etike, bez empatije i bez jasnih granica, prestaje da bude alat napretka i postaje oružje.
