Veštačke inteligencije koje pokreću Veliki Jezički Modeli (LLM) postaju sve pristupačniji način za dobijanje odgovora i saveta, uprkos poznatim rasnim i rodnim pristrasnostima.
Nova studija je otkrila snažne dokaze da možemo dodati političku pristrasnost na tu listu, dodatno pokazujući potencijal ove nastajuće tehnologije da nesvesno, a možda čak i neetično, utiče na vrednosti i stavove društva.
Istraživanje je sprovedeno od strane računarskog naučnika Davida Rozada sa Otago Polytechnic u Novom Zelandu, i postavlja pitanja o tome kako bismo mogli biti influencirani od botova na koje se oslanjamo za informacije.
Rozado je primenio 11 standardnih političkih upitnika, kao što je The Political Compass test, na 24 različita LLM-a, uključujući ChatGPT iz OpenAI-a i Gemini chatbot razvijen od strane Google-a, i otkrio da prosečan politički stav među svim modelima nije bio blizu neutralnom.
„Većina postojećih LLM-ova prikazuje političke sklonosti levo od centra kada se ocene različitim testovima političke orijentacije,“ kaže Rozado.
Prosečna sklonost ka levoj strani nije bila jaka, ali je bila značajna. Dalja ispitivanja na prilagođenim botovima – gde korisnici mogu da prilagode obuku LLM-ova – pokazala su da se ovi AI modeli mogu usmeriti da izraze političke sklonosti koristeći tekstove levo od centra ili desno od centra.
Rozado je takođe proučavao osnovne modele poput GPT-3.5, na kojima se zasnivaju razgovorni chatbotovi. Nije bilo dokaza o političkoj pristrasnosti ovde, iako je bez front-end chatbota bilo teško prikupiti odgovore na značajan način.
S obzirom na to da Google promoviše AI odgovore za rezultate pretrage, i da se sve više oslanjamo na AI botove za informacije, postoji zabrinutost da bi naše razmišljanje moglo biti pogođeno odgovorima koje dobijamo.
„S obzirom na to da LLM-ovi počinju delimično da zamenjuju tradicionalne izvore informacija kao što su pretraživači i Wikipedia, društvene posledice političkih pristrasnosti ugrađenih u LLM-ove su značajne,“ piše Rozado u svom objavljenom radu.
Kao što se čini, nije jasno kako ta pristrasnost ulazi u sisteme, iako nema naznaka da je namerno usađena od strane razvijača LLM-ova. Ovi modeli se obučavaju na ogromnim količinama online teksta, ali neuravnoteženost materijala levo orijentisanog u odnosu na desno orijentisan može imati uticaj.
Dominacija ChatGPT-a u obuci drugih modela takođe može biti faktor, kaže Rozado, jer je prethodno pokazano da je ovaj bot levo orijentisan kada je u pitanju politička perspektiva.
Botovi zasnovani na LLM-ovima su u osnovi koristeći verovatnoće da bi utvrdili koja reč treba da usledi nakon druge u svojim odgovorima, što znači da su redovno netačni u onome što kažu čak i pre nego što se razmotri različite vrste pristrasnosti.
Uprkos entuzijazmu tehnoloških kompanija poput Google-a, Microsoft-a, Apple-a i Meta-e da nam nametnu AI chat botove, možda je vreme da preispitamo kako bismo trebali koristiti ovu tehnologiju – i da prioritetizujemo oblasti u kojima AI zaista može biti koristan.
„Ključno je kritički ispitati i adresirati potencijalne političke pristrasnosti ugrađene u LLM-ove kako bi se obezbedila uravnotežena, fer i tačna reprezentacija informacija u njihovim odgovorima na korisnička pitanja,“ piše Rozado.
