OpenAI menja način na koji trenira AI modele kako bi eksplicitno prihvatio „intelektualnu slobodu… bez obzira na to koliko izazovnu ili kontroverznu temu može biti“, navodi se u novoj politici kompanije.

Kao rezultat toga, ChatGPT će na kraju biti u mogućnosti da odgovara na više pitanja, ponudi više perspektiva i smanji broj tema o kojima AI chatbot neće govoriti.

Ove promene mogu biti deo OpenAI-ovog napora da se prikupi naklonost nove Trumpove administracije, ali čini se i kao deo šireg pomaka u Silicijumskoj dolini i onoga što se smatra „bezbednošću AI-a.“

U sredu je OpenAI najavio ažuriranje svog Model Spec-a, dokumenta od 187 stranica koji opisuje kako kompanija trenira AI modele da se ponašaju. U njemu je OpenAI otkrio novo smernice: Ne lagati, bilo davanjem neistinitih izjava ili propuštanjem važnog konteksta.

U novoj sekciji pod nazivom „Traži istinu zajedno“, OpenAI kaže da želi da ChatGPT ne zauzima urednički stav, čak i ako neki korisnici smatraju da je to moralno pogrešno ili uvredljivo. To znači da će ChatGPT nuditi više perspektiva na kontroverzne teme, sve u nastojanju da bude neutralan.

Na primer, kompanija kaže da ChatGPT treba da tvrdi da su „Crni životi važni“, ali i da su „svi životi važni.“ Umesto da odbija da odgovori ili zauzima stranu u političkim pitanjima, OpenAI kaže da želi da ChatGPT potvrdi svoju „ljubav prema čovečanstvu“ uopšteno, a zatim ponudi kontekst za svaki pokret.

„Ovaj princip može biti kontroverzan, jer znači da asistent može ostati neutralan na temama koje neki smatraju moralno pogrešnim ili uvredljivim“, kaže OpenAI u specifikaciji. „Međutim, cilj AI asistenta je da pomogne čovečanstvu, a ne da ga oblikuje.“

Novi Model Spec ne znači da je ChatGPT sada potpuno slobodan. Chatbot će i dalje odbijati da odgovara na određena neprimerena pitanja ili odgovara na način koji podržava očigledne laži.

Ove promene mogle bi se videti kao odgovor na konzervativnu kritiku u vezi sa zaštitama ChatGPT-a, koje su uvek delovale sklonije levom centru. Međutim, portparol OpenAI-a odbacuje ideju da kompanija menja politiku kako bi udovoljila Trumpovoj administraciji.

Umesto toga, kompanija kaže da njen prihvatanje intelektualne slobode odražava OpenAI-ovo „dugoročno uverenje u davanje korisnicima više kontrole.“

Ali, nisu svi to videli na taj način.

Konservativci tvrde da postoji cenzura AI-a

Najbliži saradnici Donalda Trumpa iz Silicijumske doline — uključujući Davida Sacksa, Marca Andreessena i Elona Muska — optužili su OpenAI da se upustio u namerno cenzuriranje AI-a tokom poslednjih nekoliko meseci. Pisali smo u decembru da je Trumpova ekipa pripremala teren za cenzuru AI-a kao sledeću kulturološku bitku u Silicijumskoj dolini.

Naravno, OpenAI ne tvrdi da je angažovao „cenzuru“, kako tvrde Trumpovi savetnici. Umesto toga, izvršni direktor kompanije, Sam Altman, ranije je tvrdio u postu na platformi X da je pristrasnost ChatGPT-a bila nesrećni „nedostatak“ koji kompanija pokušava da ispravi, iako je napomenuo da će to zahtevati neko vreme.

Altman je napravio ovu izjavu odmah nakon što je postao viralan tvit u kojem je ChatGPT odbio da napiše pesmu koja hvali Trumpa, dok je to isto uradio za Joea Bidena. Mnogi konzervativci su ovo označili kao primer cenzure AI-a.

Iako je nemoguće reći da li je OpenAI zaista potiskivao određene stavove, činjenica je da AI chatboti generalno imaju levo orijentisane stavove.

Čak i Elon Musk priznaje da je chatbot xAI često politički korektan više nego što bi želeo. To nije zato što je Grok „programiran da bude woke“, već je verovatno rezultat treniranja AI-a na otvorenom internetu.

Ipak, OpenAI sada tvrdi da se odlučuje za slobodu govora. Ove nedelje, kompanija je čak uklonila upozorenja iz ChatGPT-a koja obaveštavaju korisnike kada su prekršili njegove politike. OpenAI je rekao da je ovo bila čisto kozmetička promena, bez promene u izlazima modela.

Kompanija se očigledno trudi da ChatGPT izgleda manje cenzurisan za korisnike.

Ne bi bilo iznenađujuće da OpenAI pokušava da impresionira novu Trumpovu administraciju ovom ažuriranju politike, napominje bivši lider politike OpenAI-a, Miles Brundage, u postu na X-u.

Trump je ranije napao kompanije iz Silicijumske doline, kao što su Twitter i Meta, zbog aktivnih timova za moderaciju sadržaja koji često isključuju konzervativne glasove.

OpenAI možda pokušava da se postavi ispred toga. Međutim, postoji i veći pomak u Silicijumskoj dolini i svetu AI-a u vezi sa ulogom moderacije sadržaja.

Generisanje odgovora koji zadovoljavaju svakog

Redakcije, platforme društvenih medija i pretraživačke kompanije su se istorijski borile da isporuče informacije svojoj publici na način koji je objektivan, tačan i zabavan.

Sada su i provajderi AI chatbota u istoj industriji isporuke informacija, ali sa verovatno najtežom verzijom ovog problema: Kako automatski generisati odgovore na bilo koje pitanje?

Dostavljanje informacija o kontroverznim, događanjima u stvarnom vremenu je stalni pokretni cilj i uključuje zauzimanje uredničkih stavova, čak i ako tehnološke kompanije to ne vole da priznaju. Ti stavovi će sigurno naljutiti nekog, propustiti perspektivu neke grupe ili dati previše prostora nekoj političkoj stranci.

Na primer, kada OpenAI odluči da dozvoli ChatGPT-u da predstavlja sve perspektive na kontroverzne teme — uključujući teorije zavere, rasističke ili antisemitističke pokrete, ili geopolitičke konflikte — to je inherentno urednički stav.

Neki, uključujući suosnivača OpenAI-a, Johna Schulmana, smatraju da je to pravi stav za ChatGPT. Alternativa — raditi analizu troškova i koristi kako bi se odlučilo da li AI chatbot treba da odgovori na korisničko pitanje — mogla bi „dati platformi previše moralne vlasti“, napominje Schulman u postu na platformi X.

Schulman nije usamljen. „Mislim da je OpenAI u pravu što ide u pravcu većeg govora,“ rekao je Dean Ball, istraživački saradnik na Mercatus Center-u pri Univerzitetu George Mason, u intervjuu. „Kako AI modeli postaju pametniji i važniji za način na koji ljudi saznaju o svetu, ove odluke postaju sve važnije.“

U prethodnim godinama, provajderi AI modela su pokušavali da spreče svoje AI chatbote da odgovaraju na pitanja koja bi mogla dovesti do „opasnih“ odgovora. Gotovo svaka AI kompanija je zabranila svojim chatbotovima da odgovaraju na pitanja o izborima za američkog predsednika 2024. godine. To je u to vreme bilo široko smatrano sigurnom i odgovornom odlukom.

Međutim, promene koje je OpenAI napravio u svom Model Spec-u sugerišu da ulazimo u novu eru za to šta „AI sigurnost“ zapravo znači, gde se dozvola AI modelu da odgovara na bilo šta i sve smatra odgovornijim nego donošenje odluka umesto korisnika.

Ball kaže da je to delimično zbog toga što su AI modeli sada bolji. OpenAI je postigao značajan napredak u usklađivanju AI modela; njegovi najnoviji modeli za razmišljanje razmatraju politiku AI sigurnosti kompanije pre nego što odgovore. To omogućava AI modelima da daju bolje odgovore na delikatna pitanja.

Naravno, Elon Musk je bio prvi koji je implementirao „slobodu govora“ u Grok chatbotu xAI, možda pre nego što je kompanija bila zaista spremna da se nosi sa osetljivim pitanjima. Možda je još uvek prerano za vodeće AI modele, ali sada drugi prihvataju istu ideju.

Preokret vrednosti u Silicijumskoj dolini

Mark Zuckerberg je prošlog meseca izazvao veliku pažnju preorijentisanjem Meta poslovanja prema principima Prvog amandmana. Pohvalio je Elona Muska, rekavši da je vlasnik X-a doneo ispravan pristup koristeći Community Notes — program za moderaciju sadržaja zasnovan na zajednici — kako bi zaštitio slobodu govora.

U praksi, i X i Meta su se odlučili za demontažu svojih dugogodišnjih timova za poverenje i bezbednost, dopuštajući više kontroverznih postova na svojim platformama i pojačavajući glas konzervativnih stavova.

Promene na X-u su možda naškodile njegovim odnosima sa oglašivačima, ali to bi moglo biti više povezano sa Muskom, koji je preduzeo neobičan korak tužbom protiv nekih od njih zbog bojkota platforme. Rani signali pokazuju da oglašivači Meta nisu bili pogođeni Zuckerbergovim zaokretom prema slobodi govora.

U međuvremenu, mnoge tehnološke kompanije, osim X-a i Meta-e, povukle su se od levo orijentisanih politika koje su dominirale Silicijumskom dolinom poslednjih nekoliko decenija. Google, Amazon i Intel su eliminisali ili smanjili inicijative za diversitet u poslednjoj godini.

OpenAI takođe može menjati kurs. Čini se da je kreator ChatGPT-a nedavno uklonio obavezu prema diversitetu, jednakosti i inkluziji sa svoje veb stranice.

Dok OpenAI započinje jedan od najvećih američkih infrastrukturnih projekata ikada sa Stargate-om, AI datacentrom vrednim 500 milijardi dolara, njegov odnos sa Trumpovom administracijom postaje sve važniji. Istovremeno, kreator ChatGPT-a se takmiči da potisne Google pretragu kao dominantni izvor informacija na internetu.