Manipulacija i dezinformacija uz pomoć AI – Kako se AI može zloupotrebiti za širenje dezinformacija i manipulaciju javnim mnjenjem (deo 10) – https://www.itnetwork.rs/manipulacija-i-dezinformacija-uz-pomoc-ai-kako-se-ai-moze-zloupotrebiti-za-sirenje-dezinformacija-i-manipulaciju-javnim-mnjenjem-deo-10/

Društvene mreže su postale neizostavan deo savremenog života, omogućavajući ljudima da se informišu, komuniciraju i razmenjuju ideje na globalnom nivou. Ipak, ove platforme takođe pružaju plodno tlo za širenje dezinformacija, često uz pomoć veštačke inteligencije (AI) za generisanje i distribuciju manipulativnog sadržaja. U kombinaciji, AI i društvene mreže postaju moćan mehanizam za uticaj na javnost, a suočavanje sa ovim izazovima zahteva složene tehnološke, regulatorne i etičke mere.

Uloga AI u kreiranju manipulativnog sadržaja na društvenim mrežama

AI je omogućio razvoj naprednih tehnika za automatsko kreiranje sadržaja, uključujući tekstove, slike i video zapise koji deluju uverljivo. Ovi alati omogućavaju stvaranje lažnih vesti, deepfake sadržaja i personalizovanih poruka koje mogu manipulisati korisnicima ili čak većim grupama. Na društvenim mrežama, gde je sadržaj dostupan milionima ljudi u samo nekoliko sekundi, AI omogućava da se lažne informacije brzo i efikasno šire.

Kroz algoritme za analizu podataka, AI prati navike i interesovanja korisnika i na osnovu toga im prikazuje sadržaj koji izaziva najviše angažovanja – lajkove, komentare i deljenja. Kada je reč o manipulativnim informacijama, ovo znači da algoritmi često favorizuju senzacionalistički sadržaj koji privlači pažnju, čak i ako je netačan ili namerava da obmane. Na ovaj način, AI algoritmi mogu nenamerno doprineti širenju dezinformacija, jer im je primarni cilj zadržavanje pažnje korisnika, a ne istinitost sadržaja.

Kako društvene mreže omogućavaju širenje dezinformacija

Društvene mreže su dizajnirane tako da podstiču angažovanje korisnika kroz algoritme koji preporučuju sadržaj na osnovu njihovih interesovanja i prethodnih ponašanja. Ovakvo funkcionisanje vodi ka formiranju „eho-komora,“ gde korisnici uglavnom vide informacije koje potvrđuju njihova postojeća uverenja. Ova pojava dovodi do polarizacije i povećava podložnost korisnika manipulaciji i dezinformacijama.

Algoritmi na društvenim mrežama ne prave razliku između pouzdanih i nepouzdanih izvora – jedina metrika je privlačenje pažnje. Kada lažna informacija postane „virulentna,“ algoritmi je preporučuju sve većem broju korisnika, stvarajući tako „lavinu“ dezinformacija koja može da promeni stavove i ponašanje ljudi. Ovakav rad omogućava manipulatorima da sa minimalnim troškovima i u kratkom vremenskom roku prošire svoje poruke do velike publike.

Pokušaji društvenih mreža da ograniče manipulativni sadržaj

Društvene mreže su svesne problema dezinformacija i manipulacija i preduzimaju mere za smanjenje njihovog uticaja. Jedan od najčešćih pristupa je upotreba AI alata za otkrivanje lažnog sadržaja. Ovi alati mogu da analiziraju tekstove, slike i video zapise kako bi identifikovali karakteristike koje ukazuju na manipulaciju. Na primer, AI algoritmi mogu prepoznati deepfake analizom piksela ili neobičnih obrazaca u slikama i video zapisima, omogućavajući obeležavanje i uklanjanje lažnog sadržaja.

Mnoge platforme takođe sarađuju sa nezavisnim proveriteljima činjenica koji pregledaju sadržaj i upozoravaju korisnike kada je reč o spornim informacijama. Kada AI algoritmi identifikuju potencijalnu dezinformaciju, ona se šalje na proveru ljudskim moderatorima, koji mogu detaljnije analizirati sadržaj i odrediti njegovu pouzdanost. Ova kombinacija tehnologije i ljudskog znanja omogućava preciznije određivanje istinitosti informacija.

Ograničenja i izazovi u suzbijanju manipulacije na društvenim mrežama

I pored napora, suzbijanje manipulativnog sadržaja predstavlja veliki izazov. AI alati za prepoznavanje lažnog sadržaja nisu savršeni i često prave greške. Ponekad ne uspevaju da prepoznaju suptilne manipulacije, dok u drugim slučajevima obeležavaju legitiman sadržaj kao lažan. Ove greške utiču na poverenje u tehnologiju i mogu stvoriti dodatne tenzije među korisnicima.

Još jedan izazov je brzina širenja dezinformacija. Čak i kada algoritam ili ljudski moderator identifikuje lažan sadržaj, taj sadržaj se često već proširio među velikim brojem korisnika. Uklanjanje sadržaja nakon što je postao viralan ne može uvek poništiti štetu koju je dezinformacija prouzrokovala. Pored toga, pojedini korisnici mogu ponovo deliti već uklonjene informacije, što zahteva kontinuiranu pažnju i napor platformi da kontrolišu štetni sadržaj.

Regulatorni i etički pristupi za budućnost

S obzirom na složenost problema, neophodne su regulatorne mere za efikasniju borbu protiv manipulativnog sadržaja. U nekim zemljama, zakonodavci predlažu propise koji zahtevaju transparentnost algoritama i odgovornost platformi za sadržaj koji se deli. Platforme bi mogle biti u obavezi da označe AI generisan sadržaj i jasno navedu kada su podaci prilagođeni ili izmenjeni uz pomoć AI-a.

Pored regulative, važno je raditi na edukaciji javnosti o tome kako funkcionišu društvene mreže i kako prepoznati manipulacije. Obrazovanje korisnika o tehnikama koje AI i društvene mreže koriste za preporuke i prilagođavanje sadržaja može povećati svest i otpornost na manipulacije. Ovo je posebno značajno za mlade korisnike, koji su često najizloženiji uticaju društvenih mreža.

Potreba za saradnjom između platformi, zakonodavstva i korisnika

Efikasna borba protiv manipulativnog sadržaja na društvenim mrežama zahteva blisku saradnju između tehnoloških kompanija, vlada i samih korisnika. Dok društvene mreže mogu poboljšati svoje algoritme i primeniti AI alate za otkrivanje dezinformacija, vlade mogu postaviti jasne pravne okvire koji zahtevaju transparentnost i odgovornost od kompanija koje upravljaju ovim platformama.

Korisnici takođe igraju ključnu ulogu u borbi protiv manipulacija. Obrazovanje i podizanje svesti o tome kako prepoznati lažne vesti i manipulativni sadržaj pomažu korisnicima da razviju kritički odnos i otpornost na dezinformacije. Uz odgovarajuću digitalnu pismenost, korisnici će biti u mogućnosti da prave razliku između pouzdanih i manipulativnih izvora i da se ne oslanjaju isključivo na preporuke koje dobijaju od algoritama.

Zaključna razmatranja

Upotreba AI na društvenim mrežama nosi veliki potencijal za društvenu dobrobit, ali i značajan rizik od manipulacija i širenja dezinformacija. Samo kroz sveobuhvatan i koordinisan pristup, koji uključuje regulatorne mere, poboljšanje algoritama i edukaciju javnosti, moguće je osigurati da društvene mreže i AI ostanu korisni alati, a ne mehanizmi manipulacije. Razvojem odgovornih i transparentnih tehnologija, društvo može izgraditi okruženje koje podržava istinu i sprečava zloupotrebu AI-a za manipulaciju javnim mnjenjem.

Nastaviće se…
Milena Šović, M.Sc.,CSM
Prompt Engineer & AI Educator