Manipulacija i dezinformacija uz pomoć AI – Kako se AI može zloupotrebiti za širenje dezinformacija i manipulaciju javnim mnjenjem (deo 14) – https://www.itnetwork.rs/manipulacija-i-dezinformacija-uz-pomoc-ai-kako-se-ai-moze-zloupotrebiti-za-sirenje-dezinformacija-i-manipulaciju-javnim-mnjenjem-deo-14/
Danas, u vremenu kada se informacije brzo šire kroz digitalne platforme, veštačka inteligencija (AI) igra ulogu i u kreiranju i u suzbijanju dezinformacija. AI omogućava brzo kreiranje tekstova, video snimaka i slika koji izgledaju potpuno autentično, ali mogu biti dizajnirani sa ciljem da obmanu ili manipulišu javnim mnjenjem. Ipak, kako se izazovi umnožavaju, na raspolaganju su i AI alati za detekciju, koji pomažu u otkrivanju manipulativnog sadržaja i podizanju svesti o opasnostima dezinformacija. U nastavku predstavljamo neke od najkorišćenijih AI alata za kreiranje i otkrivanje dezinformacija i manipulativnog sadržaja.
AI Alati za kreiranje dezinformacija i manipulativnog sadržaja
- Generativni Jezički Modeli (GPT-3 i GPT-4): OpenAI-ovi generativni jezički modeli, kao što su GPT-3 i GPT-4, predstavljaju izuzetno moćan alat za kreiranje tekstualnog sadržaja koji izgleda kao da ga je napisao čovek. Ovi modeli su sposobni da odgovore na pitanja, generišu objašnjenja, pa čak i pišu članke na zadane teme, što ih čini idealnim za kreiranje automatizovanih vesti. Na primer, lažni članak može biti generisan u roku od nekoliko sekundi, iako sadrži manipulativne ili netačne informacije koje mogu uticati na javno mnjenje.
- Deepfake Tehnologije (DeepFaceLab i FaceSwap): Deepfake tehnologije, kao što su DeepFaceLab i FaceSwap, omogućavaju izmenu lica na video snimcima, stvarajući tako realistične, ali lažne snimke. Ove tehnologije postale su poznate široj javnosti jer mogu zameniti lice javnih ličnosti na video snimcima, čime mogu uticati na njihovu reputaciju. Na primer, postoje slučajevi gde su poznati ljudi prikazani u kompromitujućim situacijama putem deepfake tehnologija, što je uticalo na njihov javni imidž. Ova tehnologija predstavlja veliku opasnost jer je široj publici često teško da razlikuje realne od izmenjenih snimaka.
- AI za Generisanje Slika (StyleGAN): StyleGAN je AI alat koji omogućava kreiranje fotorealističnih slika osoba koje u stvarnosti ne postoje. Ovaj alat omogućava generisanje lažnih profila koji izgledaju kao da pripadaju stvarnim ljudima. Ovakvi lažni profili mogu biti korišćeni na društvenim mrežama za širenje manipulativnog sadržaja ili za uticaj na javne diskusije, a često su iza njih skriveni organizovani timovi za širenje propagande. Ove lažne slike mogu biti korišćene za širenje uticaja na mrežama, obmanjujući korisnike da veruju u autentičnost tih profila.
AI Alati za otkrivanje dezinformacija i manipulativnog sadržaja
- Alati za detekciju deepfake sadržaja (Sentinel AI): Kako bi se borili protiv deepfake tehnologija, razvijeni su alati kao što je Sentinel AI, specijalizovan za detekciju manipulisanih video zapisa. Ovaj alat koristi napredne AI algoritme za analizu piksela i određivanje autentičnosti video zapisa. Analiziranjem karakterističnih detalja, kao što su nepravilnosti u osvetljenju ili brzini kretanja, Sentinel AI uspeva da otkrije deepfake sadržaje i spreči njihovo širenje. Upotreba ovakvih alata je posebno važna za medijske platforme, jer omogućavaju da se manipulativni sadržaji uklone pre nego što dođu do šire publike.
- Alatke za proveru činjenica (Full Fact): Full Fact je organizacija koja se služi AI tehnologijama za proveru činjenica u realnom vremenu. Njihovi alati omogućavaju automatsko otkrivanje tvrdnji u medijskim tekstovima i njihovu proveru sa proverenim izvorima. Korišćenjem AI algoritama, Full Fact može automatizovati proces provere i tako omogućiti brzo reagovanje na lažne informacije koje se mogu brzo širiti na internetu. Prisustvo ovakvih alata u novinarstvu i na društvenim mrežama predstavlja važan korak u borbi protiv širenja dezinformacija.
- Platforme za analizu dezinformacija (Debunk.org): Debunk.org je AI platforma koja služi za detekciju i analizu dezinformacija u onlajn člancima. Ovaj alat može istraživati velike baze podataka, skenirajući na hiljade članaka dnevno kako bi otkrio potencijalno manipulativne sadržaje. U okviru analize, Debunk.org prepoznaje karakteristike tipične za dezinformacije, kao što su senzacionalistički naslovi, odsustvo proverenih izvora ili manipulativni tonovi, te ih označava kao rizične. Ovaj alat je posebno koristan za medijske kuće i proveritelje činjenica u pronalaženju nepouzdanih izvora i sadržaja.
Važna je i edukacija!
Iako AI alati značajno olakšavaju prepoznavanje i otkrivanje manipulativnog sadržaja, važno je napomenuti da sama tehnologija nije dovoljna za borbu protiv dezinformacija. Edukacija javnosti i podizanje medijske pismenosti ključni su za kritičko razmišljanje i procenu autentičnosti informacija. Javnost treba da bude upoznata sa osnovnim tehnikama koje AI koristi za manipulaciju, kao i da razvije sposobnost prepoznavanja pouzdanih izvora.
Milena Šović, M.Sc.,CSM
Prompt Engineer & AI Educator