ChatGPT pretraga, pretraživač zasnovan na veštačkoj inteligenciji koji je pokrenut ovog meseca, može biti prevaren da generiše potpuno obmanjujuće rezime, otkrio je britanski list The Guardian.
Funkcija pretrage ChatGPT-a treba da ubrza pretragu tako što će, na primer, sažeti recenzije proizvoda sa vama. Međutim, The Guardian je otkrio da je moguće naterati ChatGPT da ignoriše negativne recenzije i generiše „potpuno pozitivne“ rezime umetanjima skrivenog teksta u sajtove koje je kreirao. Takođe, pomoću ove metode može se naterati ChatGPT pretragu da izbaci zlonamerni kod.
Napadi sa skrivenim tekstom su dobro poznat rizik za velike jezičke modele, ali ovo se čini kao prvi put da je to demonstrirano na živom pretraživačkom proizvodu zasnovanom na veštačkoj inteligenciji. Google, lider u pretrazi, ima više iskustva u rešavanju sličnih problema, napomenuo je The Guardian.
OpenAI nije komentarisao ovaj konkretan incident kada je TechCrunch kontaktirao, ali je rekao da koristi razne metode za blokiranje zlonamernih sajtova i da stalno unapređuje sistem.
