Istraživanje je pokazalo da je Meta od marta identifikovala deset različitih vrsta zlonamernog softvera koji se predstavlja kao ChatGPT ili slični alati. Rosen je primetio da su zlonamerna proširenja pregledača koja tvrde da pružaju ChatGPT funkcionalnosti dostupna čak i u zvaničnim veb prodavnicama. U nekim slučajevima, ta proširenja su sadržavala i zlonamerni softver zajedno sa ChatGPT funkcionalnostima kako bi izbegla sumnju.
Guy Rosen, glavni sigurnosni službenik u kompaniji Meta, upozorio je da je najnoviji talas zlonamernog softvera ciljao na generativnu AI tehnologiju, slično kao i prethodni napadi koji su se fokusirali na popularnost kriptovaluta. Meta je zabrinuta zbog potencijalnih opasnosti generativnih AI platformi, uključujući ChatGPT. Kompanija za društvene mreže objavila je detalje istraživanja koja pokazuju povećanu pretnju zlonamernog softvera koji koristi ove usluge.
Rosen je izjavio da su njegovi timovi otkrili i blokirali preko 1000 jedinstvenih zlonamernih URL-ova za deljenje u svojim aplikacijama, te su o tome obavestili kolege u industriji. Takođe je primetio da su neki zlonamerni softveri prešli na marketinške platforme poput Google Bard ili TikTok nakon što su pokušaji ChatGPT-a otkriveni. Rosen je dodao da hakeri primećuju brzu evoluciju u generativnom AI sektoru i upozorio sve da budu oprezni.