Zoom želi da vas pretvori u AI-animirani, fotorealistični avatar — ali ne pre sledeće godine.
Najavljena funkcija, predstavljena danas na godišnjoj dev konferenciji Zoom-a, omogućiće da se video klip koji korisnici snime pretvori u digitalni klon — sa glavom, gornjim delom ruku i ramenima. Korisnici će moći da unesu tekst onoga što žele da njihov digitalni dvojnik izgovori, a Zoom će generisati audio koji će se sinhronizovati sa pokretima usana avatara.
Smita Hašim, glavni produkt menadžer Zoom-a, izjavila je za TechCrunch da su prilagođeni avatari dizajnirani kako bi pomogli ljudima da razgovaraju „asinhrono“ sa kolegama na „brži i produktivniji“ način.
„Avatari štede korisnicima dragoceno vreme i trud prilikom snimanja klipova, i omogućavaju im da povećaju obim kreiranja video sadržaja,“ rekla je Hašim.
Međutim, oni takođe mogu predstavljati rizik od deepfake tehnologije.
Brojne kompanije su razvile AI tehnologiju koja digitalno „klonira“ lice osobe i spaja taj klon sa sintetičkim govorom koji zvuči prilično prirodno. Na primer, Tavus pomaže brendovima da kreiraju virtuelne persone za personalizovane video oglase, dok je Microsoft prošle godine lansirao uslugu koja može generisati ubedljive digitalne zamene za neku osobu.
Međutim, mnogi od ovih alata implementiraju specifične i stroge mere zaštite kako bi se sprečila zloupotreba. Tavus zahteva verbalne izjave o pristanku, dok Microsoft nalaže da njihovi korisnici dobiju pisanu dozvolu i saglasnost od bilo koje osobe koja se pojavljuje kao avatar.
Zoom je bio nešto neodređeniji u vezi sa svojim sigurnosnim merama.
Pozivajući se na Zoom-ove politike korišćenja koje zabranjuju zloupotrebu, Hašim je rekla da kompanija gradi „brojne zaštitne mere“ u svoju funkciju prilagođenih avatara, uključujući „naprednu autentifikaciju“ i vodene žigove.
„Nastavićemo da pregledamo i dodajemo zaštitne mere po potrebi u budućnosti,“ rekla je Hašim. „Koristimo (…) tehnologiju kako bi bilo očigledno kada je klip generisan avatarom, i (…) kako bismo osigurali integritet sadržaja generisanog avatarom.“
Zoom-ove digitalne sličnosti uklapaju se u širu viziju izvršnog direktora Erika Juana o kreiranju AI koji bi jednog dana mogao govoriti u Zoom sastancima umesto vas, odgovarati na mejlove i primati telefonske pozive.
Ali ove sličnosti dolaze u trenutku kada se deepfake sadržaji šire kao požar na društvenim mrežama, otežavajući razlikovanje istine od dezinformacija.
Do sada ove godine, deepfake sadržaji sa predsednikom Džoom Bajdenom, Tejlor Svift i potpredsednicom Kamalom Haris prikupili su milione pregleda i deljenja. Najnovije lažne generativne AI slike uništenja i ljudske patnje preplavile su internet nakon uragana Helene.
Deepfake tehnologija je takođe korišćena za ciljanje pojedinaca — na primer, imitiranjem voljenih osoba. Gubici povezani sa prevarama usmerenim na lažno predstavljanje premašili su milijardu dolara prošle godine, prema podacima FTC-a.
Kako će tačno Zoom sprečiti prevarante da koriste njihov alat za generisanje video snimaka ljudi koji govore nešto što nisu rekli u zlonamerne svrhe? Još nije jasno. Maketa koju je kompanija prikazala pokazuje vidljivi vodeni žig u gornjem desnom uglu video klipa sa prilagođenim avatarom. Međutim, ovakvi vodeni žigovi lako se mogu izrezati pomoću alata za snimanje ekrana.
Očekuje se da ćemo saznati više bliže prvoj polovini 2025. godine, kada Zoom planira da lansira prilagođene avatare za Zoom Clips, svoj asinhroni video alat, kao deo premium dodatka od 12 dolara po korisniku mesečno.
Bez obzira na korake koje Zoom preduzme — ili ne preduzme — postoje tekući regulatorni napori da se pokuša zaustaviti bujica deepfake sadržaja.
U nedostatku zakona koji kriminalizuje deepfake na saveznom nivou u SAD-u, više od 10 država usvojilo je statute protiv imitacije uz pomoć AI tehnologije. Zakon Kalifornije — koji je trenutno na čekanju — bio bi prvi koji bi omogućio sudijama da nalože autorima deepfake sadržaja da ih uklone ili da se suoče sa potencijalnim novčanim kaznama.
