Digitalni divlji zapad, kako mnogi nazivaju društvenu mrežu X (nekadašnji Twitter) od dolaska Elon Muska, upravo se suočio sa možda najvećom preprekom do sada. Vlada Ujedinjenog Kraljevstva odlučila je da povuče jasnu crvenu liniju kada je u pitanju zaštita najranjivijih kategorija na internetu. Zvanični London je uputio oštro upozorenje tehnološkom gigantu: ili ćete odmah zaustaviti širenje seksualizovanih, lažnih slika (deepfake) žena i dece kreiranih pomoću veštačke inteligencije, ili ćete se suočiti sa posledicama koje mogu ugroziti vaš opstanak na britanskom tržištu.
Ovaj sukob nije samo još jedna birokratska čarka; on predstavlja prekretnicu u globalnoj borbi protiv „AI zlostavljanja“ i testira granice novih zakona koji bi mogli postati model za ostatak sveta, pa i za naše regione.
Pređena granica tolerancije
Problem je eskalirao nakon niza incidenata u kojima su platformu X preplavile fotorealistične, ali potpuno lažne slike poznatih ličnosti, ali i običnih građana, pa čak i maloletnika, u eksplicitnim pozama. Ovi materijali, generisani naprednim i lako dostupnim AI alatima, šire se brzinom svetlosti zahvaljujući algoritmima koji često favorizuju kontroverzan sadržaj.
Britanski ministri i regulatorno telo Ofcom ističu da platforma ne čini dovoljno da spreči ovaj talas digitalnog nasilja. Iako X u svojim pravilima zabranjuje ovakav sadržaj, praksa pokazuje da su njihovi mehanizmi moderacije, koji su drastično smanjeni nakon Maskovih otpuštanja, potpuno nemoćni pred najezdom botova i zlonamernih korisnika.
Mač nad glavom: Zakon o onlajn bezbednosti
Ono što ovu pretnju čini ozbiljnom jeste pravni okvir koji sada stoji iza nje. Velika Britanija je nedavno usvojila Online Safety Act (Zakon o onlajn bezbednosti), jedan od najstrožih zakona te vrste na svetu. Prema ovom aktu, tehnološke kompanije imaju zakonsku obavezu da proaktivno sprečavaju širenje ilegalnog sadržaja, a ne samo da ga uklanjaju kada neko to prijavi.
Ukoliko Ofcom utvrdi da X sistemski krši ova pravila, kazne su drakonske:
-
Novčana kazna u iznosu do 10% globalnog godišnjeg prihoda kompanije (što se meri u milijardama dolara).
-
Krivična odgovornost za direktore kompanije, što znači da bi menadžeri mogli završiti u zatvoru.
-
U krajnjem slučaju, potpuno blokiranje pristupa platformi na teritoriji Velike Britanije.
Zašto je baš X na udaru?
Iako se problem deepfake pornografije javlja i na drugim mrežama poput onih koje drži Meta ili na TikToku, X je specifičan slučaj. Kritičari tvrde da je filozofija „apsolutne slobode govora“ koju promoviše Elon Musk stvorila plodno tlo za zloupotrebe.
Smanjenje timova za poverenje i bezbednost (Trust and Safety), vraćanje prethodno banovanih naloga i uvođenje AI alata kao što je Grok (koji, doduše, ima ograničenja, ali je deo šireg AI ekosistema na platformi), doprineli su percepciji da je X postao sigurna luka za one koji žele da kreiraju i distribuiraju štetan sadržaj bez straha od brzih sankcija.
Posledice po žene i decu
Fokus britanske vlade nije samo na tehnologiji, već na žrtvama. Deepfake pornografija nije „samo slika“; to je oblik seksualnog zlostavljanja zasnovanog na slikama (image-based sexual abuse). Za žene i devojčice čija su lica „nalepljena“ na tela porno glumica, psihološke posledice su razorne i stvarne, identične onima koje trpe žrtve osvetničke pornografije.
Vlada zahteva da X implementira bolje sisteme za verifikaciju godina i naprednije AI filtere koji će automatski prepoznavati i blokirati ovakav materijal pre nego što on postane viralan.
Zaključak
Ovaj potez Velike Britanije predstavlja jasan signal da je era samoregulacije društvenih mreža završena. Države više nisu spremne da tolerišu izgovore tehnoloških giganata o „tehničkim poteškoćama“ dok se životi stvarnih ljudi uništavaju digitalnim falsifikatima. Ukoliko X ne uspe da dovede u red svoju platformu i zaštiti žene i decu od seksualizovanog AI nasilja, mogao bi se suočiti sa finansijskim udarcem koji će boleti više od bilo koje kritike na internetu. Ovo je bitka između prava na profit i prava na dostojanstvo, a ishod će definisati pravila interneta u godinama koje dolaze. Oči sveta su sada uprte u London i reakciju Elon Muska, jer će ovaj presedan uticati na bezbednost svih nas u digitalnom prostoru.
