Evropska unija (EU) je 2021. godine predstavila predlog AI Act-a, prvog sveobuhvatnog pravnog okvira za regulaciju veštačke inteligencije (AI) u svetu. Ova regulativa ima za cilj da postavi jasne standarde za razvoj i upotrebu AI sistema u EU, istovremeno promovišući inovacije i zaštitu osnovnih prava građana. AI Act je deo šire strategije EU za digitalnu transformaciju i regulaciju tehnologija, sa fokusom na etičke, pravne i društvene aspekte veštačke inteligencije.
Šta je AI Act?
AI Act je predložena regulativa koja postavlja pravila za dizajn, razvoj, implementaciju i upotrebu veštačke inteligencije u državama članicama EU. Cilj regulative je da osigura da AI sistemi budu sigurni, transparentni i u skladu sa osnovnim pravima građana EU, kao što su zaštita privatnosti, jednakost i nediskriminacija.
Predlog AI Act-a uvodi okvir zasnovan na analizi rizika, gde se AI sistemi klasifikuju prema nivou rizika koji predstavljaju za pojedince ili društvo. Ovaj pristup omogućava da se resursi usmere na regulaciju visokorizičnih sistema, dok se manje rizični sistemi podvrgavaju blažim zahtevima.
Kategorije rizika prema AI Act-u
- Zabranjeni AI sistemi
Ova kategorija uključuje AI sisteme koji se smatraju neprihvatljivima jer narušavaju osnovna prava i slobode. Na primer:
o Sistemi za društveno bodovanje građana, slični onima koji se koriste u Kini.
o Sistemi koji koriste manipulativne tehnike za podsticanje ponašanja štetnog po korisnike.
o Biometrijska identifikacija u realnom vremenu u javnim prostorima, osim u posebnim slučajevima (poput nacionalne bezbednosti). - Visokorizični AI sistemi
Ovo su sistemi koji mogu značajno uticati na živote ljudi, a regulativa predviđa stroge zahteve za njihovu upotrebu. Primeri uključuju:
o AI u medicinskim uređajima.
o Sistemi za zapošljavanje ili rangiranje kandidata.
o Algoritmi za odobravanje kredita.
o Sistemi za upravljanje kritičnom infrastrukturom, poput energetskih mreža.
Za ove sisteme se zahtevaju rigorozne provere pre puštanja na tržište, uključujući procenu rizika, obezbeđivanje transparentnosti i usklađenosti sa pravilima o zaštiti podataka.
- Sistemi sa ograničenim rizikom
Ova kategorija uključuje AI sisteme koji zahtevaju osnovne obaveze transparentnosti, ali ne podležu strogim zahtevima kao visokorizični sistemi. Na primer:
o AI alati za kreiranje sadržaja (poput deepfake tehnologija) moraju jasno označiti da su generisani pomoću AI. - Minimalni rizik
Sistemi poput AI čat-botova, preporučivača filmova ili muzike spadaju u ovu kategoriju. Na njih se ne primenjuju specifični regulativni zahtevi, ali je preporučeno da se pridržavaju osnovnih etičkih smernica.
Ključni principi AI Act-a
- Sigurnost i pouzdanost: AI sistemi moraju biti bezbedni za korisnike i razvijeni uz rigorozno testiranje kako bi se izbegli nepredviđeni rizici.
- Transparentnost: Sistemi moraju biti transparentni, što znači da korisnici treba da budu informisani kada komuniciraju s AI-jem i da razumeju osnovne principe rada sistema.
- Zaštita osnovnih prava: AI sistemi moraju biti usklađeni sa osnovnim pravima EU, uključujući zaštitu privatnosti, jednakost i nediskriminaciju.
- Podsticanje inovacija: Regulativa predviđa „sandbox“ okruženja u kojima kompanije i startapovi mogu testirati AI sisteme u kontrolisanim uslovima bez straha od kazni, kako bi se podstakle inovacije.
Kako će AI Act uticati na industrije?
AI Act će imati značajan uticaj na različite industrije, uključujući zdravstvo, finansije, obrazovanje i tehnologiju. Na primer:
- Zdravstvo: AI alati za dijagnozu ili predikciju zdravstvenih stanja moraće da ispunjavaju stroge standarde sigurnosti i preciznosti, kako bi se osigurala zaštita pacijenata.
- Finansije: Algoritmi za odobravanje kredita moraće da budu transparentni i nediskriminatorni, čime će se povećati poverenje korisnika u finansijske institucije.
- Zapošljavanje: AI sistemi za regrutaciju kandidata moraće da dokažu da ne favorizuju određene grupe i da pružaju fer ocene svih kandidata.
- Tehnologija: Kompanije koje razvijaju AI proizvode moraće da implementiraju mehanizme za objašnjivost i odgovornost, što može povećati troškove razvoja, ali i povoljno uticati na poverenje korisnika.
Kritike i izazovi AI Act-a
Iako je AI Act pionirski okvir za regulaciju veštačke inteligencije, suočava se sa brojnim kritikama i izazovima koji mogu otežati njegovu primenu i efikasnost. Jedan od najvećih problema leži u kompleksnosti implementacije. Propisi su tehnički zahtevni i često iziskuju značajne resurse za usklađivanje sa novim pravilima. Ovo posebno pogađa mala i srednja preduzeća, koja nemaju kapacitete i sredstva da se pridržavaju strogih zahteva, što ih može staviti u nepovoljan položaj.
Pored toga, mnogi kritičari ukazuju na potencijalni negativan uticaj na inovacije. Strogi zahtevi i visoki troškovi usklađivanja mogu obeshrabriti kompanije da razvijaju AI proizvode za tržište EU, što bi moglo usporiti tehnološki napredak u regionu. Postoji bojazan da bi kompanije mogle preusmeriti svoja ulaganja u zemlje s manje strogim regulativama, što bi ugrozilo konkurentnost evropskog tržišta.
Globalna konkurencija predstavlja još jedan značajan izazov. Evropske kompanije mogle bi biti u nepovoljnom položaju u odnosu na svoje konkurente iz SAD-a ili Kine, gde regulative nisu tako stroge ili su usmerene na podsticanje inovacija bez značajnih pravnih ograničenja. To bi moglo dovesti do situacije u kojoj evropske firme zaostaju u globalnoj trci za tehnološkim liderstvom.
Još jedan problem leži u širokom obuhvatu AI Act-a. Iako okvir postavlja univerzalna pravila za AI sisteme, različite industrije imaju specifične potrebe i izazove koji zahtevaju prilagođena pravila i smernice. Na primer, zdravstvena industrija ima vrlo specifične zahteve za bezbednost i privatnost, dok finansijski sektor zahteva stroge standarde za sprečavanje diskriminacije i objašnjivost sistema. Trenutno se pravila još uvek razvijaju, što stvara neizvesnost među kompanijama koje posluju u ovim sektorima.
Sve ove kritike ukazuju na potrebu za fleksibilnijim pristupom u implementaciji AI Act-a kako bi se osigurala njegova uspešna primena, bez ugrožavanja inovacija i konkurentnosti evropskog tržišta.
Zaključak
AI Act predstavlja revolucionaran korak u regulaciji veštačke inteligencije, postavljajući standarde koji mogu poslužiti kao model za druge zemlje. Njegov fokus na sigurnost, transparentnost i zaštitu osnovnih prava građana pruža osnovu za odgovornu primenu AI tehnologija. Iako izazovi u implementaciji ostaju, uspešna primena AI Act-a može postaviti EU u centar globalnih diskusija o etičkoj i regulisanoj upotrebi veštačke inteligencije, obezbeđujući balans između inovacija i zaštite građana. Ovaj okvir ne samo da oblikuje budućnost AI u Evropi, već i postavlja osnov za globalni pristup odgovornoj primeni tehnologije.
Milena Šović, M.Sc.,CSM
Prompt Engineer & AI Educator
