Manipulacija i dezinformacija uz pomoć AI – Kako se AI može zloupotrebiti za širenje dezinformacija i manipulaciju javnim mnjenjem (deo 11) – https://www.itnetwork.rs/manipulacija-i-dezinformacija-uz-pomoc-ai-kako-se-ai-moze-zloupotrebiti-za-sirenje-dezinformacija-i-manipulaciju-javnim-mnjenjem-deo-11/
Sa razvojem veštačke inteligencije (AI), postalo je moguće kreirati virtuelne influensere i lažne profile koji izgledaju gotovo isto kao stvarni korisnici. Ovi profili, koje pokreću napredni AI algoritmi, sve su češći na društvenim mrežama, gde komuniciraju sa publikom, ostvaruju interakcije i deluju kao pravi uticajni pojedinci. Iako ovaj fenomen predstavlja nove mogućnosti u digitalnom marketingu, on istovremeno nosi značajne etičke izazove, posebno u smislu manipulacije mladim korisnicima i uticaja na njihovo mišljenje i ponašanje.
Kreiranje lažnih profila pomoću AI
Koristeći tehnike mašinskog učenja i obrade prirodnog jezika, AI može kreirati lažne profile koji uključuju uverljive slike, biografije i objave koje izgledaju autentično. Ovi lažni profili često deluju kao mladi, popularni korisnici ili javne ličnosti, ostavljajući utisak da pripadaju stvarnim osobama. AI modeli mogu generisati realistične fotografije lica koja ne postoje i objave koje podsećaju na sadržaj koji bi postavila prava osoba.
Kreiranje ovakvih profila omogućava korisnicima koji stoje iza njih da šire određene stavove, proizvode ili ideje – bilo da su komercijalnog, političkog ili društvenog karaktera. Mladi korisnici, koji su često aktivni na društvenim mrežama, posebno su podložni ovakvim oblicima manipulacije, jer teže da se identifikuju sa popularnim profilima i da usvajaju stavove koji su predstavljeni kao moderni i poželjni.
Virtuelni influenseri i manipulacija mišljenjem mladih
Pored lažnih profila, AI omogućava i stvaranje virtuelnih influensera – potpuno digitalnih ličnosti koje mogu komunicirati sa korisnicima, kreirati objave i izražavati stavove kao da su stvarne osobe. Ovi influenseri, nalik popularnim „instagram“ i „jutjub“ zvezdama, često imaju hiljade ili čak milione pratilaca, što im omogućava značajan uticaj na javnost, posebno na mlade. Oni se oslanjaju na AI da analizira interesovanja i sklonosti svoje publike, prilagođavajući poruke tako da privuku pažnju i izazovu reakcije.
Iako su neki od ovih virtuelnih influensera otvoreno predstavljeni kao digitalni, mnogi korisnici nisu svesni da ove „ličnosti“ zapravo ne postoje. Mladi ljudi koji prate ovakve influensere često veruju da su u interakciji sa stvarnim osobama koje dele njihove interese i imaju slična iskustva, što ovu manipulaciju čini posebno zabrinjavajućom.
AI i personalizovana manipulacija sadržajem
Jedna od najvećih prednosti koju AI nudi u kreiranju lažnih profila i influensera je mogućnost personalizacije sadržaja. AI algoritmi mogu analizirati podatke o mladim korisnicima – njihove lajkove, komentare i deljene sadržaje – i na osnovu toga prilagoditi poruke.
Na primer, ako AI algoritam primeti da neki mladi korisnik pokazuje interesovanje za ekološke teme, virtuelni influenser može kreirati objave koje promovišu proizvode ili stavove povezane sa ekologijom. Slično tome, ako algoritam otkrije interesovanje za određeni način života ili modu, influenser može predstaviti proizvode koji podstiču takav stil. Ova strategija čini manipulaciju manje očiglednom i povećava verovatnoću da će korisnici usvojiti određene stavove ili obaviti kupovinu.
Etički izazovi i regulatorne mere
Kreiranje lažnih profila i influensera vođenih AI-em donosi značajne etičke izazove. Prvo, korisnici, naročito mladi, često nisu svesni da komuniciraju sa digitalnim ličnostima koje ne postoje u stvarnosti, što ih čini podložnijima manipulaciji. Drugo, personalizovani pristup koji AI omogućava kreira poruke koje podstiču emocionalne reakcije i promenu ponašanja, što otvara mogućnost zloupotrebe mladih u komercijalne ili ideološke svrhe.
Zbog ovih izazova, sve je veća potreba za regulacijom. Zakoni i smernice mogu zahtevati da AI profili i virtuelni influenseri budu jasno obeleženi kao digitalne ličnosti, kako ne bi ostavljali utisak da su pravi korisnici. Transparentnost je ključna za to da korisnici znaju da komuniciraju sa AI modelom, što omogućava kritičkiji pristup informacijama koje dobijaju.
Takođe, neophodno je razvijati etičke smernice koje ograničavaju upotrebu personalizovanih podataka u manipulativne svrhe. Kompanije koje stoje iza ovih AI influensera trebalo bi da odgovorno koriste podatke i da izbegavaju zloupotrebu koja ugrožava dobrobit i psihološku stabilnost mladih korisnika.
Obrazovanje kao zaštita od digitalne manipulacije
Obrazovanje mladih i razvijanje kritičkog razmišljanja predstavljaju važan korak u izgradnji otpornosti na manipulaciju. Kroz obuke i edukativne programe, mladi mogu naučiti kako da prepoznaju znake lažnih profila, kako da procene pouzdanost izvora i kako da postave pitanja o autentičnosti sadržaja. Ova vrsta obrazovanja omogućava mladima da steknu neophodne veštine za bezbedno korišćenje digitalnih platformi i zaštitu od manipulacija.
Zaključak
AI profili i virtuelni influenseri predstavljaju novi fenomen na društvenim mrežama koji donosi i izazove i prilike. Iako mogu biti koristan alat u digitalnom marketingu, njihova upotreba mora biti obazriva i u skladu sa etičkim standardima. Transparentnost, odgovornost i obrazovanje su ključni za zaštitu mladih od manipulacije i za izgradnju digitalnog okruženja u kome AI služi najboljim interesima korisnika i društva u celini.
Nastaviće se…
Milena Šović, M.Sc.,CSM
Prompt Engineer & AI Educator