Prošlog meseca, OpenAI se usprotivio zakonu u Kaliforniji koji još nije stupio na snagu, a koji ima za cilj postavljanje osnovnih bezbednosnih standarda za programere velikih modela veštačke inteligencije (AI). Ovo je bio promenjen stav kompanije, čiji je izvršni direktor Sam Altman ranije govorio u prilog regulaciji AI.
Bivša neprofitna organizacija, koja je postala poznata 2022. godine objavljivanjem ChatGPT-a, sada je procenjena na čak 150 milijardi dolara. Ostaje na čelu razvoja AI, sa objavljivanjem novog „modela razmišljanja“ prošle nedelje, dizajniranog za rešavanje složenijih zadataka.
Kompanija je u poslednjim mesecima preduzela nekoliko koraka koji sugerišu rastuću potrebu za akvizicijom podataka. To nisu samo tekstovi ili slike korišćene za obuku trenutnih generativnih AI alata, već bi moglo uključivati i intimne podatke vezane za online ponašanje, lične interakcije i zdravlje.
Nema dokaza da OpenAI planira da objedini ove različite tokove podataka, ali bi to omogućilo jake komercijalne koristi. Čak i mogućnost pristupa tako širokom spektru informacija postavlja značajna pitanja o privatnosti i etičkim implikacijama centralizovane kontrole podataka.
Medijski poslovi
Ove godine, OpenAI je potpisao više partnerstava sa medijskim kompanijama uključujući Time magazin, Financial Times, Axel Springer, Le Monde, Prisa Media i najnovije Condé Nast, vlasnika magazina kao što su Vogue, The New Yorker, Vanity Fair i Wired.
Ova partnerstva omogućavaju OpenAI-u pristup velikim količinama sadržaja. Proizvodi OpenAI-a takođe se mogu koristiti za analizu korisničkog ponašanja i metrika interakcije, kao što su navike čitanja, preferencije i obrasci angažovanja na različitim platformama.
Ako bi OpenAI stekao pristup tim podacima, kompanija bi mogla dobiti sveobuhvatan uvid u to kako korisnici interaguju sa različitim vrstama sadržaja, što bi se moglo koristiti za dubinsko profilisanje i praćenje korisnika.
Video, biometrika i zdravlje
OpenAI je takođe investirala u startup za veb kamere pod imenom Opal. Cilj je unaprediti kamere naprednim AI mogućnostima.
Video snimci prikupljeni od strane veb kamera sa veštačkom inteligencijom mogli bi se pretvoriti u osetljivije biometrijske podatke, kao što su izrazi lica i izvedeni psihološki statusi.
U julu, OpenAI i Thrive Global pokrenuli su Thrive AI Health. Kompanija tvrdi da će koristiti AI za „hiperpersonalizaciju i skaliranje promena ponašanja“ u zdravstvu.
Dok Thrive AI Health tvrdi da će imati „robustne mere zaštite privatnosti i sigurnosti,“ nije jasno kako će te mere izgledati.
Prethodni AI projekti u zdravstvu uključivali su opsežno deljenje ličnih podataka, kao što je partnerstvo između Microsoft-a i Providence Health u Sjedinjenim Američkim Državama, kao i partnerstvo između Google DeepMind-a i Royal Free London NHS Foundation Trust u Ujedinjenom Kraljevstvu. U drugom slučaju, DeepMind je suočen s pravnim postupkom zbog korišćenja privatnih zdravstvenih podataka.
Sam Altmanov projekat skeniranja očiju
Altman takođe ima investicije u druge projekte koji zahtevaju podatke, najistaknutiji među njima je kontroverzni kriptovalutni projekat WorldCoin (koji je suosnivač). WorldCoin ima za cilj da stvori globalnu finansijsku mrežu i identifikacioni sistem koristeći biometrijsku identifikaciju, posebno skeniranje beonjače.
Kompanija tvrdi da je već skenirala oči više od 6,5 miliona ljudi u skoro 40 zemalja. U međuvremenu, više od deset jurisdikcija je ili suspendovalo njeno poslovanje ili preispitalo njeno procesiranje podataka.
Bavarske vlasti trenutno razmatraju da li WorldCoin ispunjava evropske propise o zaštiti podataka. Negativna odluka mogla bi da rezultira zabrana poslovanja kompanije u Evropi.
Glavne brige koje se istražuju uključuju prikupljanje i čuvanje osetljivih biometrijskih podataka.
Hoće li sigurnost biti zapostavljena?
Nedavna istorija OpenAI-a malo umanjuje brige o sigurnosti i privatnosti. U novembru 2023. godine, Altman je privremeno smenjen sa mesta izvršnog direktora, navodno zbog unutrašnjih sukoba oko strateškog pravca kompanije.
Altman je bio snažan zagovornik brze komercijalizacije i primene AI tehnologija. Često se izveštava da je prioritetizovao rast i prodor na tržište na uštrb mera sigurnosti.
Altmanova smena je bila kratka, nakon čega je usledila brza reintegracija i značajna preuređenja u upravnom odboru OpenAI-a. To sugeriše da sadašnje rukovodstvo kompanije podržava njegov agresivan pristup primeni AI, uprkos potencijalnim rizicima.
U tom kontekstu, implikacije OpenAI-ovog nedavnog protivljenja kalifornijskom zakonu prevazilaze samo jedno neslaganje o politici. Stajalište protiv regulacije sugeriše zabrinjavajući trend.
OpenAI nije odgovorio na zahtev The Conversation-a za komentar pre roka.