U digitalnom dobu, dubinske prevare (deepfake) su postale značajna pretnja autentičnosti online sadržaja. Ove sofisticirane video snimke generisane veštačkom inteligencijom ubedljivo mogu imitirati stvarne ljude, što sve više otežava razlikovanje istine od fikcije. Međutim, kako se tehnologija dubinskih prevara razvijala, tako su se razvijali i alati i tehnike dizajnirani za njihovo otkrivanje. U ovom blogu istražićemo pet najboljih alata i tehnika za otkrivanje dubinskih prevara koji su danas dostupni.
Sentinel
Sentinel je vodeća AI platforma za zaštitu koja pomaže demokratskim vladama, odbrambenim agencijama i preduzećima u suzbijanju pretnje dubinskih prevara. Sentinelova tehnologija se koristi od strane vodećih organizacija u Evropi. Sistem radi tako što korisnicima omogućava da putem svoje veb stranice ili API-ja otpreme digitalne medije, koje se zatim automatski analiziraju radi otkrivanja veštačke manipulacije. Sistem dređuje da li su mediji dubinske prevare ili ne i pruža vizualizaciju manipulacije.
Sentinelova tehnologija za otkrivanje dubinskih prevara je dizajnirana kako bi zaštitila integritet digitalnih medija. Koristi napredne AI algoritme za analizu otpremljenih medija i utvrđivanje da li su bili manipulisani. Sistem pruža detaljan izveštaj o svojim rezultatima, uključujući vizualizaciju područja medija koja su izmenjena. To omogućava korisnicima da vide tačno gde i kako su mediji manipulisani.
Ključne funkcije Sentinel-a:
- AI bazirano otkrivanje dubinskih prevara
- Koristi se od strane vodećih organizacija u Evropi
- Omogućava korisnicima da otpreme digitalne medije radi analize
- Pruža vizualizaciju manipulacije
Intel’s Real-Time Deepfake Detector
Intel je predstavio detektor dubinskih prevara u stvarnom vremenu poznat kao FakeCatcher. Ova tehnologija može otkriti lažne video zapise sa tačnošću od 96%, prikazujući rezultate u milisekundama. Detektor, koji je razvijen u saradnji sa Umur Ciftci sa State University of New York u Binghamtonu, koristi Intel hardver i softver, koji se izvršava na serveru i komunicira putem veb platforme.
FakeCatcher traži autentične tragove u stvarnim video zapisima, procenjujući ono što nas čini ljudima – suptilni „protok krvi“ u pikselima video zapisa. Kada naše srce pumpa krv, naše vene menjaju boju. Ovi signali protoka krvi se sakupljaju sa celog lica, a algoritmi pretvaraju ove signale u prostorno-vremenske mape. Zatim, koristeći duboko učenje, može odmah detektovati da li je video pravi ili lažan.
Ključne funkcije Intelovog detektora dubinskih prevara u stvarnom vremenu:
- Razvijen u saradnji sa State University of New York u Binghamtonu
- Može otkriti lažne video zapise sa tačnošću od 96%
- Prikazuje rezultate u milisekundama
- Koristi suptilni „protok krvi“ u pikselima video zapisa za otkrivanje dubinskih prevara
WeVerify
WeVerify je projekat koji ima za cilj razvoj inteligentnih metoda i alata za verifikaciju sadržaja i analizu dezinformacija uz uključivanje ljudi u proces. Projekat se fokusira na analizu i kontekstualizaciju sadržaja na društvenim mrežama i vebu unutar šireg online ekosistema kako bi otkrio lažirani sadržaj. To se postiže putem verifikacije sadržaja preko različitih modaliteta, analize društvenih mreža, mikro-ciljanog obaranja dezinformacija i korišćenja javne baze podataka na blockchain-u o poznatim falsifikatima.
Ključne funkcije WeVerify-a:
- Razvija inteligentne metode i alate za verifikaciju sadržaja i analizu dezinformacija uz uključivanje ljudi u proces.
- Analizira i kontekstualizuje sadržaj na društvenim mrežama i vebu.
- Otkriva lažirani sadržaj putem verifikacije sadržaja preko različitih modaliteta, analize društvenih mreža i mikro-ciljanog obaranja dezinformacija.
- Koristi javnu bazu podataka na blockchain-u o poznatim falsifikatima.
Microsoft’s Video Authenticator Tool
Video Authenticator Tool kompanije Microsoft je moćan alat koji može analizirati fotografiju ili video zapis kako bi pružio ocenu poverenja koja ukazuje da li je medij manipulisan. On detektuje granicu stapanja dubinskih prevara i suptilne nijanse sive boje koje su neuhvatljive ljudskom oku. Takođe, pruža ovu ocenu poverenja u stvarnom vremenu, što omogućava trenutno otkrivanje dubinskih prevara.
Video Authenticator Tool koristi napredne AI algoritme za analizu medija i detekciju znakova manipulacije. Traži suptilne promene u nijansama sive boje u mediju, što često ukazuje na dubinsku prevaru. Alat pruža ocenu poverenja u stvarnom vremenu, omogućavajući korisnicima da brzo utvrde da li je medij autentičan ili ne.
Ključne funkcije Microsoftovog Video Authenticator Tool-a:
- Analizira fotografije ili video zapise
- Pruža ocenu poverenja u stvarnom vremenu
- Detektuje suptilne promene u nijansama sive boje
- Omogućava trenutno otkrivanje dubinskih prevara
Deepfake Detection Using Phoneme-Viseme Mismatches
Otkrivanje dubinskih prevara korišćenjem neslaganja fonema i vizema je inovativna tehnika koju su razvili istraživači sa Stanford univerziteta i Univerziteta u Kaliforniji. Ova tehnika koristi činjenicu da su vizemi, koji označavaju dinamiku oblika usta, ponekad različiti ili neskladni sa izgovorenim fonemima. Ova neskladnost je čest nedostatak u dubinskim prevarama, jer veštačka inteligencija često ima poteškoće da savršeno uskladi pokrete usta sa izgovorenim rečima.
Tehnika neslaganja fonema i vizema koristi napredne algoritme veštačke inteligencije za analizu videa i detekciju ovih neskladnosti. Upoređuje pokrete usta (vizeme) sa izgovorenim rečima (fonemima) i traži bilo kakve neslaganja. Ako se detektuje neslaganje, to je jak pokazatelj da je video dubinska prevara.
Ključne funkcije otkrivanja dubinskih prevara korišćenjem neslaganja fonema i vizema:
- Razvijeno od strane istraživača sa Stanford univerziteta i Univerziteta u Kaliforniji
- Koristi neslaganja između vizema i fonema u dubinskim prevarama
- Koristi napredne algoritme veštačke inteligencije za detekciju neslaganja
- Pruža jak pokazatelj da je video dubinska prevara ukoliko se detektuje neslaganje
Budućnost otkrivanja dubinskih prevara
Dok se krećemo kroz digitalni pejzaž 21. veka, senka dubinskih prevara visi nad nama. Ovi video zapisi generisani veštačkom inteligencijom, koji ubedljivo mogu oponašati stvarne ljude, predstavljaju značajnu pretnju autentičnosti onlajn sadržaja. Imaju potencijal da poremete sve, od ličnih odnosa do političkih izbora, što čini potrebu za efikasnim alatima i tehnikama za otkrivanje dubinskih prevara sve važnijom.
Pet alata i tehnika za otkrivanje dubinskih prevara koje smo istražili u ovom blogu predstavljaju najnovija dostignuća u ovoj oblasti. Koriste napredne algoritme veštačke inteligencije za analizu i detekciju dubinskih prevara sa impresivnom tačnošću. Svaki alat i tehnika nudi jedinstven pristup otkrivanju dubinskih prevara, od analiziranja suptilnih nijansi sive u videu do praćenja izraza lica i pokreta subjekata.
Sentinel, na primer, koristi veštačku inteligenciju za analizu digitalnih medija i utvrđivanje da li je manipulisano, pružajući vizualizaciju manipulacije. S druge strane, Microsoft-ov alat Video Authenticator pruža u realnom vremenu ocenu poverenja koja ukazuje da li je fotografija ili video zapis manipulisan. Ovi alati, zajedno sa ostalima o kojima smo razgovarali, predvode borbu protiv dubinskih prevara, pomažući u očuvanju autentičnosti onlajn sadržaja.
Međutim, kako tehnologija dubinskih prevara nastavlja da napreduje, tako se i naši metodi otkrivanja moraju prilagođavati. Razvoj dubinske prevara je brzo pokretna meta, i naši alati i tehnike moraju se razvijati kako bi održali korak. To će zahtevati kontinuirana istraživanja i razvoj, kao i saradnju između istraživača, tehnoloških kompanija i donosilaca odluka.
Osim toga, važno je zapamtiti da tehnologija sama po sebi ne može rešiti problem dubinskih prevara. Obrazovanje i svest su takođe od ključne važnosti. Svi moramo postati svesni potrošači onlajn sadržaja, dovoditi u pitanje izvor informacija i tražiti znakove manipulacije. Informisanje o najnovijim dostignućima u tehnologiji i otkrivanju dubinskih prevara omogućava nam da svi doprinesemo borbi protiv ove pretnje.
