Iako će ova nova revolucija veštačke inteligencije ponuditi uzbudljive mogućnosti za budućnost, Europol iskazuje zabrinutost potencijalne zloupotrebe mogućnosti LLM-a (velikih jezičnih modela) za kibernetički kriminal, širenje dezinformacija i krađu identiteta.
Primera radi, kibernetički kriminalci mogu koristiti sposobnost ChatGPT-a da proizvedu vrlo realističan tekst kako bi oponašali stil govora određenih pojedinaca ili grupa i ciljali na žrtve koje ništa ne sumnjaju. Isto tako sposobnost ChatGPT-a da izbaci tekst koji zvuči autentično kriminalcima omogućava stvarati i širiti poruke specifičnog narativa dovodeći time ljude u zabludu ili manipulisati javnim mnenjem. Štoviše, ističu potencijalnu upotrebu chatbota za generiranje zlonamernog koda i njegovu upotrebu u kibernetičkim napadima.
Agencija Europske unije za implementaciju zakona zato smatra da je ključno rešiti potencijalne rizike povezane s zloupotrebom. U izveštaju naglašavaju potrebu za čvrstim regulatornim okvirom koji uravnotežuje inovacije, a istovremeno sprečava zlonamernu upotrebu. Nadalje, kompanije poput Microsofta i OpenAI moraće postaviti zaštitne mere kako bi sprečile zlonamernu upotrebu.
