Manipulacija i dezinformacija uz pomoć AI – Kako se AI može zloupotrebiti za širenje dezinformacija i manipulaciju javnim mnjenjem (deo 8) – https://www.itnetwork.rs/manipulacija-i-dezinformacija-uz-pomoc-ai-kako-se-ai-moze-zloupotrebiti-za-sirenje-dezinformacija-i-manipulaciju-javnim-mnjenjem-deo-8/

U današnjem digitalnom svetu, dezinformacije i lažne vesti predstavljaju ozbiljnu pretnju po pouzdanost informacija i stabilnost društva. Razvoj veštačke inteligencije (AI) otvorio je nove mogućnosti ne samo za kreiranje sadržaja, već i za prepoznavanje i borbu protiv dezinformacija. Moderni AI alati omogućavaju analizu, verifikaciju i filtriranje sadržaja, čime se platforme i korisnici bolje štite od manipulacija i netačnih informacija.

Kako AI prepoznaje dezinformacije?

AI algoritmi za otkrivanje dezinformacija koriste napredne tehnike mašinskog učenja i obrade prirodnog jezika (NLP) za analizu teksta, slika i video sadržaja. Ovi modeli se najpre obučavaju na velikim količinama podataka koji sadrže primere lažnih vesti i proverenih informacija, čime algoritmi mogu prepoznati karakteristike koje su česte u dezinformacijama, poput senzacionalističkih naslova, nepouzdanih izvora i manipulativnog jezika.

AI može analizirati lingvističke i semantičke aspekte teksta, kao što su vokabular, stil i struktura, kako bi identifikovao sadržaje koji predstavljaju visok rizik od dezinformacija. Ova analiza omogućava algoritmima da brzo uoče sadržaj koji odstupa od objektivnih i proverenih informacija, što je korisno za platforme koje dnevno obrađuju milione postova i članaka. Na primer, ako tekst sadrži dramatičan i emotivan ton koji nije uobičajen za vesti, algoritam može označiti taj sadržaj kao sumnjiv.

Primena AI u borbi protiv dezinformacija na društvenim mrežama

Društvene mreže igraju važnu ulogu u širenju dezinformacija, pa mnoge platforme sve više koriste AI za otkrivanje i sprečavanje lažnog sadržaja. AI algoritmi mogu analizirati obrasce deljenja i komentarisanja kako bi identifikovali sadržaje koji se brzo šire – što je često znak da se radi o senzacionalističkim ili lažnim vestima. Ova mogućnost omogućava platformama da brzo uoče potencijalno štetan sadržaj i ograniče njegovo širenje, smanjujući time uticaj dezinformacija.

Pored toga, AI može otkriti botove i automatizovane naloge koji šire dezinformacije. Prepoznavanjem ponašanja koje je karakteristično za botove, kao što su visoka učestalost objava ili sinhronizovane aktivnosti, AI algoritmi mogu identifikovati mreže naloga osmišljenih za manipulaciju javnim mnjenjem i blokirati ih ili smanjiti njihovu vidljivost.

Verifikacija činjenica uz pomoć AI

Jedan od najvažnijih načina borbe protiv dezinformacija je verifikacija činjenica, a AI može igrati značajnu ulogu u ovom procesu. AI alati za proveru činjenica omogućavaju automatsku verifikaciju informacija u realnom vremenu, upoređujući tvrdnje sa bazama podataka proverenih informacija i zvaničnih izvora. Na primer, ako neki tekst tvrdi da je određeni događaj održan na specifičnom mestu i datumu, AI alati mogu pretražiti relevantne izvore kako bi proverili tačnost te tvrdnje.

Osim provere činjenica u tekstualnom sadržaju, AI može analizirati fotografije i video zapise kako bi otkrio manipulacije. Ovo uključuje tehnike kao što su otkrivanje izmena u slikama, prepoznavanje deepfake sadržaja i analiza metapodataka. AI može da uoči elemente koji ukazuju na manipulaciju, kao što su nepravilnosti u osvetljenju ili neprirodne promene na licima, što pomaže korisnicima da saznaju da li je sadržaj izmenjen.

Označavanje sumnjivog sadržaja i edukacija korisnika

AI se koristi i za označavanje sumnjivih sadržaja, čime korisnicima pomaže da prepoznaju potencijalno lažne informacije. Na primer, kada AI algoritam otkrije sadržaj koji ima obeležja dezinformacija, platforma može obeležiti taj sadržaj kao „potencijalno netačan“ ili prikazati obaveštenje koje ukazuje na potrebu za proverom činjenica. Ova praksa smanjuje verovatnoću širenja dezinformacija, jer korisnici postaju oprezniji i manje skloni deljenju sumnjivog sadržaja.

Edukacija korisnika takođe igra ključnu ulogu u borbi protiv dezinformacija. AI alati mogu pružiti korisnicima savete i uputstva o tome kako da prepoznaju lažan sadržaj i manipulaciju, što povećava svest o problemu dezinformacija i ojačava otpornost korisnika na manipulativni sadržaj. Na primer, platforme mogu koristiti AI za prikazivanje poruka koje korisnicima savetuju da provere izvore i kritički razmišljaju pri čitanju vesti.

Izazovi u primeni AI za borbu protiv dezinformacija

Iako AI ima veliki potencijal za otkrivanje i suzbijanje dezinformacija, postoje izazovi koji ograničavaju njegovu efikasnost. Jedan od glavnih izazova je složenost u prepoznavanju lažnog sadržaja, jer neke dezinformacije mogu izgledati kao prave vesti, koristeći ubedljiv ton i realistične detalje. AI algoritmi mogu propustiti takve sadržaje ili, sa druge strane, pogrešno označiti legitimne informacije kao lažne.

Još jedan izazov je potreba za stalnim ažuriranjem i obučavanjem AI sistema, budući da se taktike manipulacije i šeme dezinformacija brzo menjaju. Kako bi bili efikasni, AI modeli moraju se redovno prilagođavati i poboljšavati kako bi pratili nove trendove u manipulaciji.

Potreba za saradnjom između AI tehnologije i ljudskih moderatora

Iako AI ima značajnu moć u otkrivanju dezinformacija, saradnja između tehnologije i ljudskih moderatora ostaje neophodna. Ljudski faktor je ključan za procenu konteksta i složenosti nekih informacija, posebno u slučajevima političkih i društvenih tema. Ljudski moderatori mogu pružiti završnu proveru sadržaja koji AI označi kao sumnjiv, čime se smanjuje rizik od lažnih pozitivnih rezultata i povećava tačnost.

Nastaviće se…
Milena Šović, M.Sc.,CSM
Prompt Engineer & AI Educator