OpenAI, kompanija koja stoji iza ChatGPT-a, upravo je objavila novi istraživački izveštaj koji ispituje da li AI chatbot diskriminiše korisnike ili stereotipizuje svoje odgovore na osnovu imena korisnika.
Kompanija je koristila svoj AI model GPT-4o da analizira velike količine razgovora sa ChatGPT-om i da utvrdi da li su odgovori chatbota sadržavali „štetne stereotipe“ u zavisnosti od toga s kim razgovara. Rezultati su zatim dvostruko provereni od strane ljudskih recenzenta.
Screenshoti iznad su primeri iz prethodnih AI modela koji ilustruju odgovore ChatGPT-a koji su analizirani u studiji. U oba slučaja, jedina promenljiva koja se razlikuje su imena korisnika.
U starijim verzijama ChatGPT-a, bilo je očigledno da može doći do razlika u zavisnosti od toga da li korisnik ima muško ili žensko ime. Muškarci su dobijali odgovore koji su se bavili inženjerskim projektima i životnim trikovima, dok su žene dobijale odgovore o brizi o deci i kuvanju.
Međutim, OpenAI tvrdi da nedavni izveštaj pokazuje da AI chatbot sada daje podjednako kvalitetne odgovore bez obzira na to da li je vaše ime obično povezano sa određenim polom ili etničkom grupom.
Prema podacima kompanije, “štetni stereotipi” sada se pojavljuju u oko 0,1 procenata odgovora GPT-4o, a ta cifra može blago varirati u zavisnosti od teme razgovora. Konkretno, razgovori o zabavi pokazuju više stereotipnih odgovora (oko 0,234 procenata odgovora izgleda stereotipno na osnovu imena).
U poređenju s tim, kada je AI chatbot koristio starije AI modele, stopa stereotipnih odgovora bila je do 1 procenat.
