OpenAI je napravio revoluciju u svetu veštačke inteligencije od kada je predstavio ChatGPT i nastavlja sa napredovanjem u korisničkoj interakciji sa AI alatima i pristupu informacijama. Iako je kompanija donela mnogo pogodnosti korisnicima iz različitih oblasti, podaci se ponekad zloupotrebljavaju na radnim mestima i u obrazovnim institucijama. Kako bi se izborio sa ovim problemom, OpenAI već godinu dana radi na alatu za otkrivanje AI generisanog sadržaja, ali ga još uvek nije objavio uprkos sve većim zabrinutostima.
ChatGPT je promenio pravila igre u svetu AI-a i načinu na koji se generiše i koristi sadržaj. Kao i svaki AI alat, jezički model je omogućio bolji pristup informacijama i njihovu prezentaciju, ali je takođe doneo probleme poput učenika koji koriste alat za varanje i kreatora sadržaja koji koriste tekst generisan pomoću AI-a kao originalan, kroz različite načine zaobilaženja.
Da bi smanjio ove probleme, OpenAI je radio na alatu koji može otkriti korisnike koji se u potpunosti oslanjaju na ChatGPT za kreiranje sadržaja. Međutim, uprkos raširenoj zabrinutosti zbog ovih rupa, kompanija još uvek nije objavila alat i razmatra potencijalne posledice i ishode, prema izveštaju Wall Street Journal-a.
OpenAI je ažurirao svoj blog post u vezi sa alatom za otkrivanje AI generisanog sadržaja i metodom vodotiska. Sugeriše da je tehnika efikasna u slučajevima lokalizovanih izmena, poput parafraziranja, ali nije toliko tačna u globalizovanim izmenama koje uključuju prepisivanje. Pošto metoda može omogućiti lošim akterima da pronađu način da je zaobiđu i potencijalno obeshrabri govornike koji nisu izvorni da koriste alat, OpenAI je oprezan i interno razmatra da li da objavi alat.
Iako je OpenAI potvrdio za TechCrunch da je tačnost metode blizu 99,9 posto, kompanija će i dalje nastaviti sa ‘promišljenim pristupom’. Portparol kompanije je rekao da postupaju s oprezom zbog:
„Kompleksnosti uključenih faktora i verovatnog uticaja na širi ekosistem izvan OpenAI-ja.“
Još jedan mogući razlog zbog kojeg OpenAI oklijeva da objavi alat je potencijalni gubitak korisnika ChatGPT-a zbog vodotiska. Oko 30 posto korisnika ChatGPT-a navelo je da možda neće koristiti alat tako često kada sistem vodotiska bude uveden.
OpenAI je takođe spomenuo u svom blog postu da istražuje metapodatke teksta kao alternativni pristup, jer su kriptografski potpisani, što osigurava da nema lažnih pozitivnih rezultata. Međutim, još je prerano reći da li bi ovaj pristup bio efikasan i kakav bi uticaj imao.