Korisnici interneta ostali su zbunjeni kada su otkrili da OpenAI-jev ChatGPT odbija da prizna postojanje imena „David Mayer.“
Ako pitate chatbot za ovo ime, dobijate zagonetan odgovor: „Nisam u mogućnosti da proizvedem odgovor.“
Nakon toga, razgovor se naglo prekida, što korisnike primorava da otvore novi prozor kako bi nastavili da koriste asistenta.
Nažalost, OpenAI još uvek nije komentarisao ovaj problem, a pitanja o njemu i dalje ostaju bez odgovora. Najpoznatija ličnost sa ovim imenom je David Mayer de Rotšild, britanski avanturista i ekolog, koji verovatno nema razloga za sukob sa AI chatbotom.
On je takođe naslednik bankarske dinastije Rotšild, koja je iznedrila brojne teorije zavere.
Ovaj incident ukazuje na to koliko malo znamo o načinu rada velikih jezičkih modela, o sadržaju na kojem su obučeni i o ograničenjima koja postavljaju njihovi tvorci.
Već smo videli mnogo primera gde AI chatbotovi haluciniraju činjenice, ne uspevaju da reše jednostavne zadatke, pa čak i podstiču opasno ponašanje — što znači da je problem sa jednostavnim imenom daleko od najneobičnijeg ponašanja na koje smo naišli.
Dok čekamo zvaničan odgovor od OpenAI-a — Futurism je kontaktirao kompaniju za komentar — mnogi korisnici društvenih mreža intenzivno istražuju kako bi pronašli odgovore.
Na primer, AI investitorka Džastin Mur pronašla je najmanje još šest imena koja izazivaju sličnu reakciju, uključujući nekoliko osoba koje su podnele zahteve za „pravo na zaborav“ prema Opštoj uredbi o zaštiti podataka (GDPR) u EU. Drugim rečima, ovaj problem možda ima veze sa njihovim naporima da uklone svoje prisustvo sa interneta.
Drugi su sugerisali da je ime David Mayer možda blokirano zbog postojanja člana ISIS-a iz Čečenije koji je koristio to ime kao pseudonim.
Kako izveštava 404 Media, ChatGPT se takođe „ruši“ kada se postavi pitanje o dvojici pravnih profesora po imenu Džonatan Zitrain i Džonatan Terli.
Zanimljivo je da je Zitrain napisao članak za The Atlantic u kojem je govorio o potrebi za „kontrolom AI agenata odmah.“
Jedan korisnik je čak promenio svoje ime u ChatGPT-u u David Mayer, što je dovelo do toga da alat odbija da prepozna njihovo novo ime.
Da li je ime blokirano zbog zaštitnih mera OpenAI-a, koje su osmišljene da štite privatnost pojedinaca? Da li je David Mayer — ko god to bio — podneo pravne dokumente kompaniji?
Ovo je zbunjujući problem koji naglašava koliko je ChatGPT zapravo „crna kutija.“ Takođe, podseća na važnu lekciju u vezi sa AI proizvodima: nikada ne prihvatajte njihove odgovore zdravo za gotovo.
