Kalifornija je zvanično postala prva američka savezna država koja je uvela zakonsku regulaciju za rad AI četbotova, čime je otvorila novo poglavlje u kontroli digitalnih tehnologija koje sve više utiču na svakodnevni život. Novi zakon, koji stupa na snagu 1. januara 2026. godine, ima za cilj da zaštiti decu, ranjive korisnike i širu javnost od potencijalno štetnih efekata koje može izazvati interakcija sa naprednim AI sistemima.
Šta zakon podrazumeva?
Zakon zahteva od kompanija koje razvijaju i koriste AI četbotove da implementiraju niz bezbednosnih protokola, među kojima su:
- Verifikacija starosti korisnika, kako bi se sprečio pristup maloljetnika sadržajima koji nisu primereni.
- Upozorenja o prirodi komunikacije, jasno ističući da korisnik razgovara sa AI, a ne sa stvarnim osobama, posebno ne sa zdravstvenim radnicima.
- Prevencija samopovređivanja i samoubistva, uz obavezu da se korisnicima pruže informacije o kriznim centrima i da se statistika o takvim interakcijama deli sa državnim zdravstvenim institucijama.
- Zaštita od seksualno eksplicitnog sadržaja, posebno kada su u pitanju maloljetni korisnici.
- Kazne za zloupotrebu deepfake tehnologije, naročito kada se koristi u komercijalne ili manipulativne svrhe.
Ove mere nisu samo tehničke – one su deo šireg etičkog pristupa razvoju veštačke inteligencije, koji podrazumeva transparentnost, odgovornost i zaštitu korisnika.
Zašto je ovo važno?
AI četbotovi postaju sve prisutniji – koriste se u obrazovanju, zdravstvu, korisničkoj podršci, pa čak i u emocionalnoj asistenciji. Međutim, njihova sposobnost da generišu sadržaj, odgovaraju na lična pitanja i simuliraju ljudsku komunikaciju nosi sa sobom ozbiljne rizike, posebno kada se koriste bez nadzora.
Kalifornijski zakon je prvi pokušaj da se ti rizici sistemski adresiraju. On šalje poruku da tehnologija mora biti u službi čoveka, a ne obrnuto – i da inovacije ne smeju da ugroze osnovna prava i bezbednost korisnika.
Kako će se zakon primenjivati?
Kompanije koje razvijaju AI četbotove moraće da:
- Prilagode svoje sisteme novim pravilima.
- Redovno izveštavaju o interakcijama koje uključuju krizne situacije.
- Obezbede jasne vizuelne i tekstualne indikatore da je komunikacija vođena sa AI.
- Uvedu mehanizme za pauze i ograničenja za mlađe korisnike.
Neke kompanije su već počele da primenjuju slične mere, ali sada će to biti zakonska obaveza – barem u Kaliforniji. Očekuje se da će ovaj potez podstaći i druge države, pa i međunarodne institucije, da razmotre slične korake.
AI više nije neregulisani prostor
Kalifornija je pokazala da je moguće uspostaviti pravni okvir za odgovornu upotrebu veštačke inteligencije, bez gušenja inovacija. Ovaj zakon je prvi, ali verovatno ne i poslednji – jer kako AI postaje deo svakodnevice, potreba za regulacijom postaje sve hitnija.
Ako želite da saznate više o tome kako AI utiče na društvo, ili kako se slični zakoni razvijaju u Evropi i Aziji, mogu vam pripremiti uporednu analizu – samo mi recite.
