Manipulacija i dezinformacija uz pomoć AI – Kako se AI može zloupotrebiti za širenje dezinformacija i manipulaciju javnim mnjenjem (deo 3) – https://www.itnetwork.rs/manipulacija-i-dezinformacija-uz-pomoc-ai-kako-se-ai-moze-zloupotrebiti-za-sirenje-dezinformacija-i-manipulaciju-javnim-mnjenjem-deo-3/

U savremenom digitalnom svetu, veštačka inteligencija (AI) ima značajnu ulogu u kreiranju personalizovanih preporuka sadržaja. Na društvenim mrežama i novinskim platformama, AI algoritmi prilagođavaju sadržaj na osnovu interesovanja i ponašanja korisnika, sa ciljem da im pruže relevantne i zanimljive informacije. Iako ovaj pristup poboljšava korisničko iskustvo, on može imati i negativne efekte na društvo, jer može doprineti pojačanoj polarizaciji.

Kako AI algoritmi stvaraju eho-komore?

AI algoritmi za preporuke analiziraju aktivnosti korisnika – njihove pretrage, lajkove, komentare i podeljene sadržaje. Na osnovu tih podataka, algoritmi otkrivaju teme i tipove sadržaja koji privlače pažnju korisnika i zatim im preporučuju slične informacije. Ova strategija se zasniva na pretpostavci da će korisnici duže ostati na platformi ako im se prikazuje sadržaj u skladu sa njihovim interesovanjima.

Međutim, ovakav pristup često dovodi do stvaranja „eho-komora,“ gde korisnici uglavnom dobijaju informacije koje se poklapaju sa njihovim postojećim stavovima. Algoritmi „uče“ koja mišljenja i teme korisnici preferiraju i neprestano im preporučuju sadržaje sa sličnim idejama i narativima, smanjujući izloženost suprotnim ili alternativnim mišljenjima, stavovima i idejama. Kada su izloženi isključivo sadržajima koji potvrđuju njihove stavove, ljudi postaju sve uvereniji u ispravnost svojih mišljenja i veruju da je njihov stav „pravi“ i dominantan. Ova situacija dovodi do manje tolerancije prema drugačijim mišljenjima i izolacije pojedinaca u grupama istomišljenika, što može ugroziti društvenu koheziju i harmoniju.

Jačanje ekstremnih stavova i uticaj na društvenu koheziju kroz preporuke sadržaja

Jedan od najvećih problema sa AI preporukama je to što ekstremna mišljenja često izazivaju veći nivo angažovanja korisnika – takvi sadržaji se češće dele, komentarišu i lajkuju od umerenih stavova. Algoritmi koji su fokusirani na angažovanje korisnika prepoznaju ovaj obrazac i, kao rezultat, sve više preporučuju sadržaje sa radikalnim stavovima, bilo da su politički, društveni ili kulturni.

Nenamerni uticaj AI na polarizaciju društva

Iako AI algoritmi nisu kreirani sa ciljem da izazovu polarizaciju, njihov dizajn i način rada često imaju takve posledice. Algoritmi su optimizovani za angažovanje korisnika, a ne za balansiranje informacija ili promovisanje raznolikih mišljenja. AI algoritmi ne razumeju prirodu sadržaja koji preporučuju – oni samo reaguju na metrike koje pokazuju koliko dugo korisnici ostaju na platformi.

Kako smanjiti polarizaciju?

Smanjenje polarizacije zahteva promene u načinu na koji AI algoritmi funkcionišu. Jedan od pristupa je redizajn algoritama koji bi promovisao raznolikost sadržaja i podsticao korisnike da istražuju različite perspektive.

Takođe, važno je da algoritmi budu transparentni i da korisnici razumeju kako preporuke funkcionišu. Ako korisnici shvate kako algoritmi rade i znaju za efekat eho-komora, mogu biti svesniji potrebe za raznolikošću u sadržaju. Osim toga, društvene mreže mogu sarađivati sa nezavisnim organizacijama kako bi analizirale i razumele uticaj svojih algoritama na društvo i na taj način usavršile sisteme preporuka.

Edukacija korisnika je ključni deo u borbi protiv polarizacije. Razumevanje kako AI algoritmi preporučuju sadržaj može pomoći ljudima da razviju kritički odnos prema informacijama i izbegnu „zamke“ algoritama. Obrazovanje o digitalnoj pismenosti, uključujući procenu izvora i prepoznavanje manipulacija, omogućava korisnicima da razmatraju različite perspektive i ne prihvataju sadržaj bez rezerve.

Zaključak

Iako AI algoritmi preporučivanja sadržaja imaju za cilj poboljšanje korisničkog iskustva, njihova primena može dovesti do polarizacije društva. Stvaranje eho-komora i pojačavanje ekstremnih stavova mogu dovesti do smanjenja tolerancije prema drugačijim mišljenjima i do društvenih tenzija. Odgovornost je na tehnološkim kompanijama, institucijama i celom društvu da pronađu načine za smanjenje polarizacije i kreiraju digitalno okruženje koje podržava dijalog i raznolikost stavova.

Nastaviće se…
Milena Šović, M.Sc.,CSM
Prompt Engineer & AI Educator