OpenAI je razvio alat koji bi potencijalno mogao da otkrije studente koji varaju tako što traže od ChatGPT-a da piše njihove zadatke — ali prema izveštaju The Wall Street Journal-a, kompanija razmatra da li će ga zaista objaviti.
U izjavi za TechCrunch, portparol OpenAI-a potvrdio je da kompanija istražuje metodu obeležavanja teksta koja je opisana u članku Journal-a, ali je rekao da pristupaju tome „promišljeno“ zbog „složenosti i mogućeg uticaja na širi ekosistem van OpenAI-a.“
„Metoda obeležavanja teksta koju razvijamo tehnički obećava, ali nosi važne rizike koje procenjujemo dok istražujemo alternative, uključujući mogućnost zaobilaženja od strane zlonamernih aktera i potencijal da neproporcionalno utiče na grupe poput govornika koji ne govore engleski jezik,“ rekao je portparol.
Ovo bi bio drugačiji pristup od većine prethodnih pokušaja otkrivanja teksta generisanog AI-jem, koji su uglavnom bili neefikasni. Čak je i OpenAI prošle godine ugasio svoj prethodni detektor AI teksta zbog „niskog stepena tačnosti.“
Metodom obeležavanja teksta, OpenAI bi se fokusirao isključivo na otkrivanje pisanja od strane ChatGPT-a, a ne modela drugih kompanija. To bi činili pravljenjem malih promena u načinu na koji ChatGPT bira reči, stvarajući suštinski nevidljivi vodeni žig u pisanju koji bi kasnije mogao biti otkriven posebnim alatom.
Nakon objavljivanja priče u Journal-u, OpenAI je takođe ažurirao blog post iz maja o svom istraživanju oko otkrivanja sadržaja generisanog AI-jem. U ažuriranju se navodi da se obeležavanje teksta pokazalo „veoma tačnim i čak efikasnim protiv lokalizovanog prepravljanja, kao što je parafraziranje,“ ali je manje robustan protiv globalnog prepravljanja; kao što je korišćenje sistema za prevođenje, preformulisanje sa drugim generativnim modelom, ili traženje od modela da ubaci poseban karakter između svake reči i potom brisanje tog karaktera.“
Kao rezultat toga, OpenAI piše da je ova metoda „jednostavna za zaobilaženje od strane zlonamernih aktera.“ Ažuriranje OpenAI-a takođe ponavlja tačku portparola o govornicima koji ne govore engleski jezik, navodeći da bi obeležavanje teksta moglo „stigmatizovati upotrebu AI-ja kao korisnog alata za pisanje za osobe koje nisu izvorni govornici engleskog jezika.“