EU AI Act je na snazi: Vodič za IT kompanije i developere u Srbiji – šta morate da znate i primenite?

Evropska unija je 1. avgusta 2024. godine uvela EU AI Act, prvi sveobuhvatni zakon o veštačkoj inteligenciji (AI) na svetu. Ovaj zakon, zvanično poznat kao Regulativa (EU) 2024/1689, postavlja standarde za razvoj, distribuciju i upotrebu AI sistema, sa ciljem da osigura njihovu bezbednost, transparentnost i etičku primenu. Za IT kompanije i developere u Srbiji, posebno one koje izvoze softver ili usluge u EU, razumevanje i usklađenost sa ovim zakonom su ključni za izbegavanje kazni i izgradnju poverenja na evropskom tržištu.

Kazne za neusklađenost su značajne – do 35 miliona evra ili 7% globalnog godišnjeg prometa – ali usklađenost donosi i prilike, poput povećanja poverenja klijenata i konkurentske prednosti. Ovaj vodič objašnjava EU AI Act na jednostavan način, detaljno opisuje kategorije rizika i pruža praktičnu checklistu za usklađenost, posebno prilagođenu srpskim IT kompanijama koje posluju na EU tržištu.

Šta je EU AI Act?

EU AI Act je zakon koji reguliše kako se AI sistemi razvijaju, distribuiraju i koriste unutar Evropske unije. Objavljen je u Službenom listu EU 12. jula 2024. godine, stupio na snagu 1. avgusta 2024, a većina njegovih odredbi će se primenjivati od 2. avgusta 2026. godine. Ovo daje kompanijama period za pripremu, ali delovanje treba započeti odmah.

Ko je pogođen?

Zakon se odnosi na:

• Provajdere: Kompanije koje razvijaju AI sisteme.

• Korisnike (deployers): One koji koriste AI sisteme u svom poslovanju.

• Distributere i uvoznike: One koji plasiraju AI sisteme na EU tržište.

• Kompanije van EU: Ako njihovi AI sistemi utiču na korisnike u EU, uključujući srpske IT kompanije koje izvoze softver ili usluge.

Ciljevi zakona

• Bezbednost: Zaštita zdravlja, bezbednosti i osnovnih prava građana.

• Transparentnost: Osiguravanje da korisnici znaju kada interaguju sa AI.

• Etička upotreba: Sprečavanje diskriminacije i zloupotrebe AI.

• Inovacije: Podsticanje razvoja pouzdanih AI sistema.

Prema izveštaju Deloitte-a iz 2025, skoro polovina kompanija se oseća nespremnom za EU AI Act, što naglašava potrebu za proaktivnim pristupom.

Kategorije rizika u EU AI Act

EU AI Act koristi rizik-based pristup, deleći AI sisteme u četiri kategorije prema njihovom potencijalnom uticaju na zdravlje, bezbednost, osnovna prava ili okruženje. Razumevanje ovih kategorija je ključno za određivanje vaših obaveza.

1. Neprihvatljiv rizik

• Definicija: AI sistemi koji predstavljaju ozbiljnu pretnju i stoga su zabranjeni.

• Primeri:

  • Sistemi koji koriste subliminalne tehnike za manipulaciju ponašanjem.

  • Sistemi koji eksploatišu ranjivosti dece, osoba sa invaliditetom ili drugih grupa.

  • Real-time biometrijska identifikacija u javnim prostorima za potrebe javnog reda (osim u izuzetnim slučajevima, poput traženja nestalih osoba).

  • Socijalno rangiranje na osnovu ponašanja ili ličnih karakteristika.

  • Sistemi za predviđanje kriminala putem profilisanja.

  • Sistemi za biometrijsku kategorizaciju na osnovu rase, političkih stavova ili seksualne orijentacije.

• Obaveze: Ovi sistemi su zabranjeni i ne smeju se razvijati, distribuirati ili koristiti.

2. Visok rizik

• Definicija: Sistemi koji značajno utiču na zdravlje, bezbednost ili prava, navedeni u Aneksu III zakona.

• Primeri:

  • AI u zdravstvu (npr. alati za dijagnostiku).

  • AI u zapošljavanju (npr. alati za selekciju kandidata).

  • AI u kritičnoj infrastrukturi (npr. upravljanje saobraćajem).

  • AI u pravosuđu, migracijama ili obrazovanju.

• Obaveze:

  • Registracija u javnoj EU bazi podataka.

  • Implementacija sistema za upravljanje kvalitetom (član 17).

  • Procena uticaja na osnovna prava (FRIA).

  • Održavanje tehničke dokumentacije.

  • Osiguravanje ljudskog nadzora i kibernetičke bezbednosti.

  • Provođenje procene usklađenosti (samoprocena ili treća strana).

3. Ograničen rizik

• Definicija: Sistemi koji zahtevaju transparentnost zbog interakcije sa korisnicima.

• Primeri:

  • Čatbotovi koji odgovaraju na upite korisnika.

  • Generativna AI (npr. ChatGPT) za kreiranje teksta ili slika.

• Obaveze:

  • Obaveštavanje korisnika da interaguju sa AI.

  • Pružanje informacija o funkcionisanju sistema i korišćenim podacima.

  • Dobijanje saglasnosti za obradu podataka, ako je potrebno.

4. Minimalan ili nijedan rizik

• Definicija: Sistemi sa niskim ili nikakvim rizikom, koji čine većinu AI aplikacija.

• Primeri:

  • Filteri za neželjenu poštu.

  • AI u video igrama.

  • Alati za proveru gramatike.

• Obaveze: Nema specifičnih zahteva, ali se preporučuje poštovanje osnovnih prava i bezbednosti.

Checklist za usklađenost sa EU AI Act

Za srpske IT kompanije koje izvoze softver ili usluge u EU, sledeća checklista pruža praktične korake za usklađenost:

Korak 1: Proverite da li vaš AI sistem podleže EU AI Act

• Pitanja:

  • Da li razvijate, distribuirate ili koristite AI sisteme?

  • Da li su ovi sistemi namenjeni EU tržištu ili utiču na EU korisnike?

• Akcija: Ako je odgovor „da“, nastavite sa sledećim koracima. Koristite AI Act Compliance Checker za početnu procenu.

Korak 2: Kategorizujte rizik vašeg AI sistema

• Proverite Aneks III EU AI Act-a da biste utvrdili da li je vaš sistem visokorizičan.

• Ako nije visokorizičan, proverite da li spada u ograničeni rizik (npr. čatbotovi).

• Ako ne spada ni u jednu od ovih kategorija, verovatno je minimalnog rizika.

• Savet: Konsultujte pravnog stručnjaka ako niste sigurni.

Korak 3: Za visokorizične AI sisteme

• Registracija: Prijavite sistem u javnu EU bazu podataka (dostupna do 2026).

• Sistem upravljanja kvalitetom: Implementirajte sistem za osiguranje kvaliteta i usklađenosti (član 17).

• Procena uticaja na osnovna prava (FRIA): Provedite procenu pre stavljanja sistema na tržište.

• Tehnička dokumentacija: Održavajte detaljnu dokumentaciju o usklađenosti.

• Ljudski nadzor: Osigurajte odgovornu osobu i ljudski nadzor gde je potrebno.

• Kibernetička bezbednost: Zaštitite sistem od pretnji.

• Procena usklađenosti: Izvršite samoprocenu ili angažujte treću stranu.

Korak 4: Za AI sisteme sa ograničenim rizikom

• Transparentnost: Jasno obavestite korisnike da razgovaraju sa AI sistemom.

• Informacije: Pružite detalje o funkcionisanju sistema i korišćenim podacima.

• Saglasnost: Ako se obrađuju lični podaci, dobijte saglasnost korisnika.

Korak 5: Za sve AI sisteme

• Osnovna prava: Osigurajte da sistem ne krši prava korisnika.

• Zaštita podataka: Budite u skladu sa GDPR-om ako obrađujete lične podatke.

• Praćenje: Pratite nove smernice i ažuriranja zakona.

Korak 6: Razmotrite sertifikaciju

• Implementirajte standarde poput ISO 42001 za upravljanje AI sistemima kako biste pokazali usklađenost.

Korak 7: Obučite tim

• Educirajte razvojne i implementacione timove o etičkom korišćenju AI i zahtevima zakona.

Korak 8: Kontinuirano praćenje

• Redovno proveravajte usklađenost vaših sistema.

• Prilagođavajte se novim propisima i smernicama.

Praktični saveti za srpske IT kompanije

1. Koristite dostupne alatke

• AI Act Compliance Checker (artificialintelligenceact.eu) pomaže u proceni obaveza.

• Small Business Guide na istom sajtu je prilagođen malim i srednjim preduzećima.

• EU AI Act Explorer omogućava pretragu punog teksta zakona.

2. Konsultujte stručnjake

• Ako niste sigurni u klasifikaciju ili zahteve, angažujte pravne ili compliance konsultante sa iskustvom u AI regulativi.

3. Pridružite se mrežama

• Učlanite se u IT asocijacije u Srbiji ili EU koje pružaju informacije i podršku o EU AI Act-u.

4. Testirajte u regulatornim sandbox-ovima

• EU članice moraju uspostaviti AI regulatorne sandbox-e do 2. avgusta 2026. Ovi sandbox-i omogućavaju testiranje AI sistema u kontrolisanim uslovima.

5. Počnite rano

• Iako većina odredbi počinje 2026, početak priprema sada smanjuje rizik od neusklađenosti.

Primeri iz prakse

Slučaj 1: Srpska kompanija za razvoj čatbotova

Kompanija iz Beograda razvija čatbota za e-commerce platformu u Nemačkoj. Ovaj sistem spada u kategoriju ograničenog rizika. Da bi bila usklađena:

• Obaveštava korisnike da razgovaraju sa AI.

• Pruža informacije o tome kako čatbot obrađuje podatke.

• Dobija saglasnost za obradu ličnih podataka u skladu sa GDPR-om.

Slučaj 2: AI alat za zapošljavanje

IT firma iz Novog Sada razvija alat za selekciju kandidata za klijenta u Francuskoj. Ovaj sistem je visokorizičan jer utiče na zapošljavanje. Kompanija mora:

• Registrovati alat u EU bazi podataka.

• Provesti FRIA procenu.

• Održavati tehničku dokumentaciju i osigurati ljudski nadzor.

Prednosti usklađenosti

• Poverenje klijenata: Usklađenost pokazuje posvećenost etičkom korišćenju AI.

• Pristup tržištu: EU klijenti preferiraju usklađene partnere.

• Konkurentska prednost: Kompanije koje se rano prilagode imaju prednost na tržištu.

Zaključak

EU AI Act je značajan korak ka regulisanju veštačke inteligencije, a za IT kompanije u Srbiji predstavlja i izazov i priliku. Razumevanjem kategorija rizika i praćenjem checkliste iz ovog vodiča, možete osigurati usklađenost, izbeći kazne i izgraditi reputaciju pouzdanog partnera. Počnite sada koristeći dostupne alatke i konsultacije, i budite spremni za punu primenu zakona 2026. godine.