Bezbednosni nadzor i AI: Kada nas zaštita posmatra više nego pretnja

Najvažnije stavke (Ključni zaključci za brzo čitanje)

• Od snimanja do procene: Najveća promena kod modernog nadzora nije bolji kvalitet slike, već sposobnost sistema da autonomno profilise ljude, analizira ponašanje i procenjuje nivo bezbednosnog rizika.

• Širenje namene (Function creep): Infrastruktura koja se inicijalno postavi za bazičnu zaštitu objekata ili kontrolu saobraćaja ima stalnu tendenciju širenja i uvezivanja sa osetljivim biometrijskim bazama podataka.

• Efekat samocenzure: Svest o stalnom prisustvu pametnog nadzora nagoni građane da svesno menjaju svoje navike, kretanje i društvene interakcije, čak i kada ne krše nijedan zakon.

• Regulatorne kočnice: Evropski zakon o veštačkoj inteligenciji (AI Act) postavlja stroge restrikcije na neselektivno skeniranje lica u javnom prostoru i prepoznavanje emocija na radnom mestu.

• Ranjivost samih sistema: Pametne kamere i AI modeli nisu imuni na sajber-napade; kompromitacija nadzorne mreže može pretvoriti alat za zaštitu u opasno oružje za uhođenje i industrijsku špijunažu.

Dugo smo živeli u uverenju da je video-nadzor neprijatan, ali podnošljiv kompromis modernog društva. Kamera na raskrsnici, kamera u banci, kamera u prodavnici ili na ulazu u zgradu – sve je to godinama predstavljano kao neophodna cena bezbednog života. Argument je uvek bio jednostavan i intuitivan: pošten čovek nema čega da se plaši. Ako ne kršite zakon i nemate šta da krijete, prisustvo objektiva iznad vaše glave ne bi trebalo da vam smeta. Ova logika je decenijama prolazila bez ozbiljnijeg otpora jer je delovala praktično, racionalno i pragmatično.

Međutim, integracija veštačke inteligencije u potpunosti je promenila prirodu ove priče. Savremena kamera više nije samo pasivni elektronski uređaj koji nemo beleži svetlost i čuva video-zapis na nekom hard-disku. Ona je postala aktivni čvor u pametnoj mreži sistema koji prepoznaje, upoređuje, meri, rangira, profilise i alarmira.

Više nije reč o tome da je neki događaj prosto zabeležen za slučaj da se desi prekršaj; reč je o tome da algoritam, u realnom vremenu, donosi autonomne zaključke o vašem ponašanju, vašem identitetu i stepenu vaše potencijalne sumnjivosti. To je radikalan tehnološki skok. Na toj tački nadzor prestaje da bude puka tehnička evidencija i transformiše se u moćan mehanizam društvene kontrole.

Upravo u ovom segmentu javnost najčešće promaši suštinu problema. Masovni AI nadzor ne donosi samo rizik od gubitka lične intime. On iz korena menja odnos između pojedinca i sistema moći. Kada se u javni prostor uvedu alati koji mogu automatski da identifikuju vaše lice, spoje sve vaše tačke kretanja kroz vreme, procene vaše emocije ili izdvoje svaku sitnu „anomaliju“ u hodu, vi više niste slobodan građanin koji prosto prolazi ulicom. Vi postajete entitet koji se neprestano prevodi u sirove podatke. A kada se čovek jednom svede na bazu podataka, sledeći korak je donošenje algoritamske presude o njegovoj podobnosti.

Sistem koji vas neprekidno procenjuje ne mora odmah da aktivira kaznu da bi promenio vašu svest. Dovoljno je samo da znate da je on tu. Svest o tome da će vaš prolazak, zadržavanje ispred nekog objekta, smer pogleda ili društvo u kome se nalazite biti trajno zabeleženi i softverski protumačeni, suptilno ali nepovratno menja ljudsko ponašanje.

AI nadzor nije jedna tehnologija, već čitava arhitektura digitalne kontrole

Kada se u medijima pomene izraz „AI nadzor“, većina ljudi automatski pomisli na prepoznavanje lica. Iako je to najpoznatiji i marketinški najatraktivniji deo priče, u praksi se radi o znatno široj i kompleksnijoj tehnološkoj arhitekturi. Savremeni pametni sistemi nadzora danas u tehničkom smislu kombinuju:

• Računarski vid (Computer vision): Sposobnost softvera da prepoznaje i klasifikuje objekte i ljude na video-snimku.

• Video-analitiku i detekciju objekata: Automatsko uočavanje sumnjivih predmeta, automobila ili specifičnih aktivnosti.

• Prepoznavanje obrazaca ponašanja (Pattern recognition): Mapiranje uobičajenih kretanja i alarmiranje kod odstupanja.

• Analizu hoda (Gait analysis): Identifikovanje ljudi na osnovu jedinstvenog biomehaničkog ritma njihovog koraka, čak i kada im je lice potpuno pokriveno.

• Prepoznavanje registarskih tablica i audio-detekciju: Automatsko registrovanje vozila i prepoznavanje zvukova poput povišenog tona glasa, lomljenja stakla ili pucnja.

Sve ove komponente povezuje multimodalna veštačka inteligencija (Multimodal AI), koja spaja različite tipove podataka u jedinstven, dinamičan operativni model.

To znači da moderan nadzor više ne juri samo vaše lice. On pedantno prati dužinu vašeg zadržavanja na određenom mestu, gustinu gužve u kojoj se krećete, vaše gestove, brzinu hoda i vezu između vaših aktivnosti na više različitih lokacija u gradu. Sistem najpre uči šta predstavlja statističku normu na određenoj lokaciji, a zatim automatski pali alarm kada bilo šta odudara od tog naučenog šablona.

Najveći trik ove tehnologije leži u njenoj prividnoj neutralnosti. Kamere su okačene na zidovima, serveri rade u mračnim prostorijama, softver procesuira piksele – sve deluje kao čista, objektivna matematika. Međutim, nijedan algoritam nije neutralan kada treba da donese odluku o tome šta je relevantno, šta je sumnjivo i koga treba izdvojiti iz mase. Sam izbor parametara i kriterijuma za „sumnjivo ponašanje“ predstavlja duboko društvenu i političku odluku. Ko ugrađuje te pretpostavke u kod? I ko preuzima odgovornost kada model počne da greši sistemski, a ne slučajno?

Zašto države i velike kompanije toliko čeznu za AI nadzorom

Ne treba ignorisati činjenicu da AI nadzor donosi realne operativne prednosti u sferi bezbednosti. On može da obradi na hiljade video-kanala u sekundi – što je zadatak koji nijedan tim ljudskih operatera ne može fizički da postigne. Pametni sistem će momentalno podići uzbunu ako uoči ostavljen kofer na aerodromu, neovlašćen upad u zonu visokog rizika, kretanje vozila u suprotnom smeru ili neuobičajene gužve na javnim događajima. U zaštiti kritične infrastrukture, velikih industrijskih kompleksa i saobraćajnih čvorišta, ova tehnologija donosi ubrzanje, skalabilnost i efikasno filtriranje informacija.

Za državne i korporativne institucije, privlačnost ovih sistema je ogromna. Ljudi su spori, skupi, brzo se zamaraju, gube fokus i podložni su greškama. Sa druge strane, algoritmi rade 24 sata dnevno, sedam dana u nedelji, nemaju pauze za kafu i ne traže bolovanja. U politici javne bezbednosti to deluje kao savršen i racionalan napredak.

Međutim, sistemi koji obećavaju maksimalnu efikasnost vrlo brzo rađaju opasnu institucionalnu zavisnost. Kada jednom investirate ogroman novac u mrežu pametnih kamera, serverske kapacitete i skupe softverske licence, javlja se prirodan pritisak da se ta infrastruktura iskoristi do maksimuma.

Tada na scenu stupa fenomen poznat kao širenje namene (Function creep). Ako je sistem prvobitno postavljen samo za bezbednost zgrade, menadžment se zapita: zašto ga ne bismo iskoristili i za praćenje produktivnosti zaposlenih? Ako kamera već kontroliše saobraćaj, zašto je ne bismo povezali sa bazom podataka za prepoznavanje lica radi preventivne kontrole građana? Na ovaj način, tehnologija gotovo neprimetno klizi sa pozicije uskodefinisane bezbednosne mere ka poziciji opšteg, sveprisutnog mehanizma za konstantno praćenje populacije.

Jasna granica između legitimne zaštite i masovnog praćenja

U javnim debatama se često namerno stvara privid da je razlika između prihvatljivog bezbednosnog nadzora i masovnog narušavanja privatnosti maglovita i teška za definisanje. To je manipulacija. Granica je kristalno jasna:

• Legitimni nadzor: Strogo je ciljan, vremenski i prostorno ograničen, pokriven jasnim pravnim osnovom i vezan za istragu konkretne sumnje pod nadzorom pravosudnih organa.

• Masovni nadzor: Predstavlja trajno, neselektivno i preventivno sakupljanje i analiziranje podataka o hiljadama ljudi koji nisu počinili nikakav prekršaj niti su predmet bilo kakve istrage.

Kada sistem u javnom prostoru profilise sve prisutne prolaznike „za svaki slučaj“, to više nije bezbednost – to je mehanizam društvenog mapiranja. Upravo zbog ovog rizika, EU AI Act (Zakon o veštačkoj inteligenciji Evropske unije) postavlja izuzetno stroge barijere i zabrane za sisteme udaljene biometrijske identifikacije u javno dostupnim prostorima, kao i za neselektivno sakupljanje snimaka lica sa interneta radi kreiranja baza podataka. Demokratsko društvo ne sme počivati na pretpostavci da su svi građani unapred sumnjivi dok ne dokažu suprotno.

Izreka da „pošten čovek nema šta da krije“ predstavlja opasnu zamenu teza u digitalnom dobu. Privatnost nije luksuz namenjen onima koji kriju neku ilegalnu aktivnost. Privatnost je fundamentalni uslov ljudskog dostojanstva, individualne autonomije i slobode. Čovek ne zaključava vrata svog doma zato što unutra planira krivično delo, već zato što mu je potreban prostor za život bez publike. Slobodan građanin je onaj koji ima pravo da živi svoju svakodnevicu bez stalne potrebe da mašinama dokazuje da nije bezbednosna pretnja.

Prepoznavanje lica: Tehnološki udar na lični identitet

Facial recognition (prepoznavanje lica) izaziva najveći otpor u javnosti jer pogađa samu srž našeg bića. Vaše lice nije podatak koji možete lako promeniti, poput lozinke, broja telefona ili broja lične karte ako sistem bude hakovan. Vaše lice vas prati svuda – kroz prevoz, posao, ulice, bolnice i stadione. Kada infrastruktura pretvori vaše lice u trajni digitalni identifikator, vaš identitet prestaje da pripada isključivo vama i postaje sirovina kojom raspolaže vlasnik softvera.

Zagovornici ove tehnologije s pravom navode primere gde je prepoznavanje lica pomoglo u lociranju opasnih begunaca ili pronalaženju nestale dece. Ipak, cena tog uspeha je obrada i upoređivanje lica hiljada drugih, potpuno nevinih građana koji su tog dana tuda prošli.

Pored masovnosti, ogroman problem predstavlja i tačnost modela. Sistemi za prepoznavanje lica istorijski pokazuju ozbiljne varijacije u preciznosti u zavisnosti od ugla snimanja, nivoa osvetljenja, rezolucije kamere, ali i demografskih karakteristika (poput rase i pola). Algoritamska greška u bezbednosnom sektoru ima visoku ljudsku cenu – ona može značiti neosnovano privođenje, lažnu sumnju, narušavanje ugleda ili traumu za pojedinca koji se prosto našao na pogrešnom mestu u pogrešno vreme.

Analitika ponašanja: Kada algoritam umesto identiteta traži odstupanja

Dok prepoznavanje lica targetira vaš identitet, behavioral analytics (analitika ponašanja) direktno ugrožava slobodu vašeg kretanja i izražavanja. Ovim sistemima nije nužno potrebno vaše ime i prezime da bi vas označili kao bezbednosni problem. Dovoljno je da njihov matematički model proceni da vaše ponašanje odstupa od uobičajenog.

U teoriji, prepoznavanje ostavljenog ranca na stanici ili panike u masi je korisna opcija. Ali problem nastaje kada se granica između bezbednosnog incidenta i proste ljudske ekscentričnosti potpuno izbriše.

Šta za algoritam znači „sumnjivo zadržavanje“? Koliko minuta smete da stojite ispred javne ustanove pre nego što sistem aktivira policijsku patrolu? Da li osoba koja zbunjeno šeta i zastaje deluje sumnjivo ili je u pitanju samo dezorijentisani turista, osoba koja prolazi kroz emotivni stres ili anksioznost?

AI model ne poseduje empatiju niti razume složenost ljudskog konteksta – on prepoznaje isključivo suve procente i odstupanja od statističkog proseka. Kada se ovakva rešenja instaliraju u škole, fabrike ili gradske trgove, dobijamo ambijent koji tiho kažnjava svako ponašanje koje nije u skladu sa projektovanim prosekom. Društvo u kome mašina definiše šta je normalno ponašanje ubrzo postaje društvo u kome sloboda postaje strogo uslovljena.

Samocenzura kao najefikasnije oružje digitalnog panoptikuma

Otvorena i gruba represija uvek izaziva jasan otpor javnosti, medijsku pažnju i politički bunt. Sa druge strane, tihi, neprimetni nadzor ne izaziva ništa osim postepenog, nesvesnog prilagođavanja građana sistemu. Taj fenomen se u stručnoj literaturi naziva efekat hlađenja slobode (Chilling effect).

Kada građani postanu svesni da su u svakom trenutku pod lupom algoritma koji beleži njihove korake, oni počinju sami da cenzurišu sopstveno ponašanje pre nego što im je bilo šta zvanično zabranjeno. Ne morate nikoga uhapsiti da biste smanjili broj ljudi na nekom protestu ili javnom skupu – dovoljno je da javno demonstrirate instalaciju pametnih kamera sa prepoznavanjem lica na toj lokaciji. Svest o tome da sistem trajno pamti vaše prisustvo i uvezuje ga sa vašim digitalnim profilom nateraće mnoge da odustanu od izražavanja svog stava kako bi predupredili potencijalne buduće probleme sa zaposlenjem ili administracijom.

Korporativni nadzor: Veliki brat često nosi poslovni logo

Najveća greška je posmatrati masovni nadzor isključivo kao pretnju koja dolazi od strane državnog aparata i policije. Privatni sektor i velike korporacije već godinama grade i usavršavaju sopstvenu arhitekturu praćenja koja duboko zadire u privatnost. Kroz koncepte kao što su retail analytics (analitika maloprodaje), biometrijska kontrola pristupa i praćenje kretanja posetilaca unutar tržnih centara, privatne firme prikupljaju dragocene podatke o nama.

Za razliku od države, motiv korporacija nije javni red, već optimizacija poslovanja, profit i apsolutna kontrola resursa. To ovaj nadzor ne čini manje opasnim – naprotiv. Državni sistemi su barem deklarativno podložni zakonima, javnim debatama i parlamentarnoj kontroli. Privatni sektor funkcioniše iza zatvorenih vrata, kroz beskrajne ugovore o uslovima korišćenja koje niko ne čita i kroz autsorsing (outsourcing) obrade podataka eksternim klaud dobavljačima. Građanin najčešće nema nikakvu svest o tome ko tačno obrađuje njegove biometrijske podatke, na kojim serverima i u koje komercijalne svrhe.

Sajber-bezbednost pametnih sistema: Ko zapravo čuva čuvare

U javnosti vlada opasna zabluda da su bezbednosni sistemi sami po sebi apsolutno sigurni samo zato što služe bezbednosti. U realnosti, svaka digitalna mreža koja je povezana na internet predstavlja potencijalnu metu za hakere. AI nadzor je u tom smislu izuzetno atraktivna i ranjiva meta jer operiše sa najosetljivijim mogućim podacima.

Ukoliko napadači uspeju da kompromituju nadzornu mrežu, posledice mogu biti katastrofalne:

• Masovno curenje biometrijskih mapi i snimaka građana,

• Manipulacija video-zapisima i brisanje dokaza o stvarnim krivičnim delima,

• Ubacivanje lažnih uzbuna i sabotaža bezbednosnih protokola.

Takođe, sami AI modeli su podložni specifičnim, naprednim oblicima napada. Fenomeni poput adverzarijalnih napada (Adversarial attacks), trovanja modela (Model poisoning) i manipulacije podacima (Data tampering) omogućavaju hakerima koji razumeju matematiku iza algoritma da prevare sistem. Oni mogu naterati pametnu kameru da postane potpuno „slepa“ za stvarne pretnje ili da unese haos generisanjem lažnih anomalija. Sistem koji nadzire celo društvo, a sam ima ranjivosti u kodu, ne predstavlja zaštitu – on postaje bezbednosni rizik sa objektivom.

Kako definisati i obezbediti odgovornu upotrebu tehnologije

Tehnologija je razvijena, kamere su jeftine i dostupne, a open-source modeli omogućavaju svakome da postavi pametni nadzor uz minimalna ulaganja. Potpuno zaustavljanje ovog razvoja nije realno, ali je njegova stroga kontrola i podređivanje pravnim normama apsolutni imperativ modernog društva.

Ako neka institucija ili kompanija želi da tvrdi da koristi AI nadzor na odgovoran način, ona mora da ispuni niz rigoroznih uslova:

1. Uskost i preciznost svrhe: Sistem se može koristiti samo za strogo definisane bezbednosne scenarije, a ne za opšte profilisanje.

2. Test proporcionalnosti: Jasno dokazati da se isti bezbednosni cilj nije mogao postići manje invazivnim metodama (npr. boljim osvetljenjem ili prisustvom obezbeđenja).

3. Obavezan ljudski faktor (Human-in-the-loop): Nijedna algoritamska procena ne sme automatski proizvesti pravne ili administrativne posledice po građanina bez verifikacije od strane čoveka.

4. Nezavisni eksterni auditi: Redovna provera tačnosti, pristrasnosti i sajber-otpornosti kompletnog softverskog sistema od strane nezavisnih tela.

5. Transparentnost i pravo na pravni lek: Građani moraju biti obavešteni o prisustvu AI nadzora na jasan način i moraju imati zakonsku mogućnost prigovora i uvida u podatke koji su o njima prikupljeni.

Zaključak: Opasnost od tihe normalizacije kontrole

Najveća greška koju pravimo u raspravama o pametnom nadzoru jeste to što gubitak slobode zamišljamo kao nagli, dramatični istorijski preokret koji se dešava preko noći. U realnosti, totalitarna kontrola se uvodi tiho i postepeno – kroz još jedan dodatni modul softvera, kroz pilot-projekat na jednom stadionu, kroz privremenu bezbednosnu meru nakon nekog incidenta ili kroz pametnu kameru u školskom dvorištu.

Nadzor retko ulazi u naše živote kao otvorena pretnja; on gotovo uvek dolazi prerušen u pogodnost, efikasnost, modernizaciju i obećanje apsolutne bezbednosti. Korak po korak, društvene norme se menjaju. Građani se navikavaju na digitalne kaveze, institucije postaju zavisne od dashboard izveštaja, a kritičari se proglašavaju paranoicima koji koče tehnološki napredak.

Ukoliko na vreme ne postavimo neprobojne zakonske i etičke kočnice, rizikujemo da se probudimo u svetu u kome više neće biti čudno to što nas sistem neprekidno prati i meri, već će postati čudno to što neko uopšte postavlja pitanje da li je to ispravno. Prava se retko gube odjednom – ona se najpre pretvore u izuzetak, zatim u suvu formalnost na papiru, a na kraju ostaju samo kao bleda uspomena.

Relevantni spoljni izvori:

• EU AI Act – European Commission – zvanične odredbe o zabrani biometrijskog nadzora i prepoznavanja emocija.

• EDPB Guidelines on Facial Recognition in Law Enforcement – smernice Evropskog odbora za zaštitu podataka o upotrebi biometrije.

• NIST AI Risk Management Framework – globalni standardi za procenu i upravljanje rizicima u sistemima veštačke inteligencije.