Manipulacija i dezinformacija uz pomoć AI – Kako se AI može zloupotrebiti za širenje dezinformacija i manipulaciju javnim mnjenjem (deo 9) – https://www.itnetwork.rs/manipulacija-i-dezinformacija-uz-pomoc-ai-kako-se-ai-moze-zloupotrebiti-za-sirenje-dezinformacija-i-manipulaciju-javnim-mnjenjem-deo-9/

Veštačka inteligencija (AI) omogućila je revoluciju u marketingu i informacionim kampanjama, ali takođe nosi rizik od zloupotrebe. Kroz analizu velike količine podataka o korisnicima – njihovih navika, interesovanja, emocionalnih reakcija i socijalnih interakcija – AI može kreirati izuzetno prilagođene kampanje koje na jedinstven i efikasan način ciljaju pojedince. Iako ovo omogućava efikasnije marketinške strategije, istovremeno otvara mogućnost za manipulaciju i uticaj na korisničke odluke na suptilan, ali efektivan način.

Prikupljanje i analiza podataka kao osnova za manipulaciju

Glavni aspekt AI koji omogućava kreiranje personalizovanih kampanja je sposobnost obrade i analize ogromne količine podataka. Sa napredovanjem tehnologija poput mašinskog učenja i obrade prirodnog jezika, AI modeli mogu prikupljati podatke iz različitih izvora – društvenih mreža, pretraživanja na internetu, istorije kupovine, geolokacije i čak interakcija sa drugim ljudima. Ovi podaci se zatim koriste za kreiranje profila korisnika koji uključuje njihove lične sklonosti, interesovanja i psihološke karakteristike.

Na osnovu ovih podataka, AI algoritmi mogu doći do zaključaka o tome šta podstiče pojedinca na akciju, šta ga motiviše i koje vrste poruka izazivaju najjaču reakciju. Ovakvo ciljanje, poznato kao „mikrotargetiranje,“ omogućava kreatorima kampanja da svakom pojedincu prikazuju poruke koje su osmišljene tako da utiču na njegove emocije i ponašanje. Takve kampanje su veoma ubedljive i teške za ignorisanje, jer deluju kao da se obraćaju lično korisniku.

Mikrotargetiranje u političkim i komercijalnim kampanjama

Mikrotargetiranje je postalo popularno u političkim i komercijalnim kampanjama, gde AI algoritmi koriste prikupljene podatke kako bi kreirali poruke prilagođene specifičnim grupama birača ili potrošača. U političkom kontekstu, kampanje mogu kreirati različite poruke za birače različitih političkih uverenja, društvenih klasa ili lokalnih zajednica. Na primer, biračima sa konzervativnim stavovima mogu se prikazivati poruke koje naglašavaju nacionalnu sigurnost, dok se biračima sa liberalnim uverenjima prikazuju poruke koje se fokusiraju na socijalnu pravdu.

U komercijalnom kontekstu, AI se koristi za kreiranje reklama koje „govore“ o individualnim potrebama kupaca. Na primer, ako algoritam otkrije da neko često pretražuje proizvode za sportske aktivnosti, prikazivaće mu se reklame za sportsku opremu ili teretane. Ovaj vid oglašavanja povećava verovatnoću da korisnik reaguje na reklamu i obavi kupovinu, ali otvara pitanja o uticaju na korisničke odluke i slobodu izbora.

Manipulacija korisničkim emocijama i odlukama

Jedna od najmoćnijih karakteristika AI personalizovanih kampanja je mogućnost manipulacije korisničkim emocijama. AI algoritmi mogu analizirati emocionalne reakcije korisnika na različite vrste sadržaja i kreirati poruke koje izazivaju strah, radost, tugu ili bes, u zavisnosti od ciljeva kampanje. U političkim kampanjama, ovakve tehnike mogu biti posebno opasne jer mogu dovesti do polarizacije javnog mnjenja i uticati na odluke koje su donošene na osnovu emocija umesto razuma.

Na primer, ako AI algoritam zaključi da strah od ekonomske nestabilnosti može pokrenuti ljude da glasaju za određenu stranku, kampanja će sadržati poruke koje naglašavaju ekonomske rizike. U komercijalnom kontekstu, manipulacija emocijama može navesti korisnike da kupuju proizvode koji im nisu potrebni, motivisani osećanjima poput straha od propuštanja ili nezadovoljstva trenutnim načinom života.

Etički izazovi i potreba za regulativama

S obzirom na potencijal AI da utiče na ponašanje i odluke pojedinaca, etički izazovi su značajni. Mnogi korisnici nisu svesni koliko su njihove odluke oblikovane personalizovanim porukama. Lišeni informacija o načinu rada AI algoritama, korisnici su izloženi manipulaciji koja može dovesti do promene njihovih stavova, izbora ili ponašanja bez njihove svesti.

Ovi rizici naglašavaju potrebu za regulativama koje bi osigurale transparentnost i odgovornost u primeni AI u personalizovanim kampanjama. Zakoni bi mogli propisati da kompanije moraju obeležavati sadržaj generisan uz pomoć AI i jasno naglasiti kada je poruka prilagođena na osnovu korisničkih podataka. Takođe je potrebno razviti etičke smernice koje će osigurati da se AI ne koristi za manipulaciju osetljivim pitanjima, kao što su politička uverenja ili psihološke slabosti korisnika.

Obrazovanje korisnika kao zaštita od manipulacije

Edukacija javnosti je takođe važan deo borbe protiv manipulacije kroz personalizovane kampanje. Korisnici bi trebalo da budu upoznati sa tehnikama koje AI koristi za personalizaciju sadržaja i da razviju kritički odnos prema reklamama i informacijama koje dobijaju. Kada su svesni kako AI funkcioniše, korisnici su u boljoj poziciji da prepoznaju manipulativne poruke i izbegnu odluke koje nisu u skladu sa njihovim stvarnim interesima.

Uloga medija, obrazovnih institucija i državnih organa u ovom procesu je ključna, jer oni mogu doprineti podizanju svesti javnosti i razvoju digitalne pismenosti. Obrazovanje o AI tehnologijama i manipulativnim tehnikama pomaže korisnicima da budu otporniji na personalizovane kampanje koje imaju za cilj da utiču na njihove emocije i izbore.

Zaključak

AI pruža moćne alate za kreiranje personalizovanih kampanja, ali istovremeno nosi rizik manipulacije i uticaja na odluke pojedinaca. Korišćenjem podataka i mikrotargetiranja, AI može ciljano uticati na ponašanje i stavove korisnika, što postavlja važna etička i pravna pitanja.

Uspostavljanje regulativa i etičkih smernica, zajedno sa edukacijom javnosti, može pomoći u sprečavanju zloupotrebe AI za manipulaciju u personalizovanim kampanjama. Regulacije koje zahtevaju transparentnost u korišćenju AI i obeležavanje prilagođenih poruka, kao i etičke smernice koje postavljaju granice upotrebe ličnih podataka, značajno doprinose zaštiti korisnika.

Edukacija i digitalna pismenost igraju ključnu ulogu u osnaživanju pojedinaca da prepoznaju i odole manipulativnim tehnikama. Kada su korisnici svesni kako AI funkcioniše i kako se njihovi podaci koriste za kreiranje prilagođenih poruka, postaju kritičniji prema sadržajima koji im se prikazuju i sposobniji da donose odluke zasnovane na stvarnim informacijama i sopstvenim interesima.

Uspostavljanje etičkog i regulatornog okvira, uz podizanje svesti i obrazovanje korisnika, predstavlja važan korak ka odgovornoj i transparentnoj upotrebi AI. Na ovaj način, AI može postati koristan alat za komunikaciju i informisanje, umesto sredstava manipulacije koje ugrožava poverenje i integritet korisničkog iskustva. Zajedničkim naporima kompanija, zakonodavnih tela i obrazovnih institucija moguće je izgraditi digitalno okruženje u kome je uticaj AI na izbore i stavove pojedinaca transparentan, etičan i u službi javnog interesa.

Nastaviće se…
Milena Šović, M.Sc.,CSM
Prompt Engineer & AI Educator