Manipulacija i dezinformacija uz pomoć AI – Kako se AI može zloupotrebiti za širenje dezinformacija i manipulaciju javnim mnjenjem (deo 4) – https://www.itnetwork.rs/manipulacija-i-dezinformacija-uz-pomoc-ai-kako-se-ai-moze-zloupotrebiti-za-sirenje-dezinformacija-i-manipulaciju-javnim-mnjenjem-deo-4/

S porastom digitalnih medija, širenje lažnih vesti postalo je značajan problem. Uz napredak veštačke inteligencije (AI), posebno tehnika prirodne obrade jezika (Natural Language Processing – NLP), kreiranje lažnih vesti postalo je lakše nego ikada. Savremeni AI sistemi mogu automatski generisati sadržaje koji su uverljivi i teško ih je razlikovati od autentičnih vesti. Ovaj fenomen otvara važna etička i praktična pitanja o pouzdanosti informacija, poverenju u medije i mogućnosti manipulacije javnim mnjenjem.

Kako AI koristi prirodnu obradu jezika za kreiranje lažnih vesti

AI modeli, poput GPT i drugih naprednih alata za generisanje teksta, koriste tehnike prirodne obrade jezika kako bi imitirali ljudski jezik i kreirali tekstove koji izgledaju kao da su napisani od strane ljudi. Ovi modeli su obučeni na ogromnim količinama podataka, što im omogućava da razumeju gramatičke strukture, sintaksu i ton različitih žanrova teksta, uključujući vesti. Kada dobiju zadatak da generišu lažne vesti, oni mogu „prepoznati“ kako taj sadržaj treba da izgleda, koji stil treba da koristi, i koja rečenica će zvučati uverljivo.

Na primer, AI model može generisati naslov i sadržaj koji izgledaju kao izveštaj pouzdanog izvora o tekućem događaju. Korišćenjem NLP tehnika, AI može automatski kreirati tekst koji zvuči legitimno i informativno, često uključujući detalje i pojedinosti koji stvaraju iluziju istinitosti. Zbog toga, ove lažne vesti često izgledaju kredibilno, zbog čega ih je teško razlikovati od pravih vesti.

Jedna od ključnih prednosti koju AI ima u kreiranju lažnih vesti je sposobnost generisanja emocionalno nabijenog sadržaja. NLP tehnike omogućavaju AI modelima da razumeju koje reči i fraze izazivaju jake emocije kod čitalaca, kao što su strah, bes ili radoznalost. Kada se takvi elementi koriste u generisanom sadržaju, to može povećati verovatnoću da će čitaoci deliti i verovati u vesti, što je ključno za širenje lažnih informacija na društvenim mrežama i drugim platformama.

Lažne vesti često sadrže dramatične naslove ili senzacionalističke izjave koje „privlače“ pažnju, kao i preterane tvrdnje koje zvuče i deluju istinito. Na ovaj način, AI može prilagoditi sadržaj tako da bude veoma uverljiv i lako prihvatljiv za publiku, posebno za one korisnike koji već imaju predrasude ili stavove koji su u skladu sa sadržajem lažne vesti. Ovakve vešto kreirane lažne vesti ne samo da lažno informišu, već i utiču na stavove i i izazivaju emocionalne reakcije publike, čime pojačavaju njihovu efikasnost.

Izazovi u razlikovanju stvarnog od lažnog

Zbog naprednih tehnika AI u prirodnoj obradi jezika, lažne vesti mogu izgledati isto toliko profesionalno kao i one koje su napisane od strane novinara. Na prvi pogled, nije uvek moguće prepoznati razlike, jer AI modeli mogu generisati tekst koji izgleda objektivno i informativno. Čak i obrazovani korisnici, koji imaju iskustva sa medijima i kritičkim razmišljanjem, mogu biti prevareni ovakvim sadržajem.

Platforme kao što su društvene mreže često nemaju dovoljno mehanizama za automatsko razlikovanje lažnih od pravih vesti. Mnogi korisnici se oslanjaju na vizuelni izgled, naslove i ton teksta kako bi procenili kredibilitet informacije, što je postalo manje pouzdano u eri AI-generisanog sadržaja. Pored toga, lažne vesti se često šire brže od demantovanih ili proverenih informacija, što stvara dodatni pritisak na korisnike da brzo reaguju, čime se povećava šansa da poveruju u lažne vesti.

AI kao alat za prepoznavanje lažnih vesti

AI se takođe koristi kao alat za prepoznavanje lažnih vesti i borbu protiv dezinformacija. Napredni algoritmi za obradu jezika mogu analizirati stil, rečnik i druge karakteristike teksta kako bi utvrdili da li postoje indikatori koji ukazuju na lažan sadržaj. Algoritmi za proveru činjenica mogu u realnom vremenu upoređivati tvrdnje sa zvaničnim izvorima informacija i otkrivati potencijalne nedoslednosti.

Na primer, AI sistemi mogu koristiti tehnike za analizu konteksta i strukture rečenica kako bi prepoznali senzacionalizam ili nedoslednosti koje su karakteristične za lažne vesti.

Edukacija kao važan faktor u borbi protiv lažnih vesti

Dok tehnologija može pomoći u detekciji lažnih vesti, edukacija korisnika ostaje jedan od najefikasnijih načina za borbu protiv njih. Razumevanje kako funkcioniše AI u kreiranju i širenju lažnih vesti može pomoći korisnicima da razviju kritičko razmišljanje i ne prihvataju sve informacije zdravo za gotovo. Digitalna pismenost koja uključuje veštine procene pouzdanosti izvora, kritičko razmišljanje i prepoznavanje senzacionalističkog sadržaja može smanjiti broj onih koji nasedaju na lažne vesti.

Edukacija i informisanost o tehnikama koje veštačka inteligencija koristi za stvaranje uverljivih lažnih vesti može pomoći korisnicima da prepoznaju moguće manipulacije. Korisnici mogu naučiti da prepoznaju znake kao što su izostanak kredibilnih izvora i senzacionalizam,koji su često indikatori lažnog sadržaja.

Kolaboracija tehnologije i ljudskog faktora u borbi protiv lažnih vesti

Efektivna borba protiv lažnih vesti zahteva kombinaciju tehnologije i ljudskog faktora. Dok AI alati mogu automatski prepoznavati obrasce lažnih informacija, ljudski moderatori, novinari i korisnici igraju ključnu ulogu u finalnoj proceni i verifikaciji. Ljudska intervencija je posebno važna kada je reč o analizi konteksta i namere teksta – elementima koje AI algoritmi ne mogu uvek precizno proceniti.

Na primer, dok AI može prepoznati česte obrasce u lažnim vestima, ljudski moderatori mogu da razmotre kulturni ili politički kontekst u kome se pojavljuju takve vesti. Ovakva saradnja omogućava da ne dođe do uklanjanja legitimnog sadržaja koji je potencijalno nepravedno označen kao lažan.

Zaključna razmatranja

Lažne vesti su jedan od najvećih izazova modernog digitalnog doba, a sa sve moćnijim alatima AI za generisanje teksta i sadržaja, taj izazov postaje sve složeniji. U eri AI, važnost kritičkog razmišljanja i digitalne pismenosti nikada nije bila veća. Dok AI tehnologija može biti zloupotrebljena za širenje lažnih vesti, ona može takođe biti i efikasan saveznik u njihovom prepoznavanju i suzbijanju.

Imajući na umu složenost ovog problema, odgovornost je na svima, od tehnoloških kompanija i medija do pojedinaca, da zajednički rade na na tome da se odupru dezinformacijama. Obrazovanje, razvoj transparentnih algoritama i kritička pismenost korisnika predstavljaju najjači okvir u kome možemo odgovoriti na izazove lažnih vesti i osigurati budućnost u kojoj su istinite i proverene informacije dostupne svima.

Nastaviće se…
Milena Šović, M.Sc.,CSM
Prompt Engineer & AI Educator