Zamislite jutro u gradu u kome nema zločina. Ne zato što su svi ljudi postali dobri – već zato što je svaki metar javnog prostora pokriven senzorima koji beleže sve. Svaki korak, svaki razgovor, svaki pogled upućen u pogrešnom pravcu u pogrešno vreme. Veštačka inteligencija analizira te podatke u realnom vremenu i, kada prepozna obrazac koji statički korespondira sa prethodnim zločinačkim aktima, šalje signal policiji pre nego što se zločin dogodi.
Nema žrtava. Nema pljačke. Nema ubistava. Nema korupcije jer svaka finansijska transakcija javnog funkcionera prolazi kroz automatsku reviziju. Nema nepotizma jer su svi procesi zapošljavanja u javnom sektoru transparentni i algoritmički kontrolisani.
Zvuči privlačno? Naravno da zvuči. Sigurnost i pravda su fundamentalne ljudske potrebe, i svako razumno biće želi svet u kom su deca bezbedna, u kom siromašni ne plaćaju mito za ono što im po zakonu pripada i u kom moćni ne mogu da kradu bez posledica.
Ali sada dodajte sledeće detalje:
Svaki vaš privatni razgovor sa partnerom je snimljen. Vaša seksualna istorija postoji kao baza podataka negde u državnom serveru. Vaše političke simpatije, vaše religiozne nedoumice, vaši financijalni problemi, vaše bolesti – sve je to deo profila koji algoritam neprestano ažurira. I taj isti algoritam koji štiti vas od zločinca, jednog dana može biti usmerjen protiv vas – zato što ste na protestu nesti natpis koji je vlada proglasila ekstremizmom, zato što ste u privatnom razgovoru kritikovali premijer, zato što algoritam, koji nikada ne greši u statistici, greši upravo u vašem konkretnom slučaju.
Da li je to još uvek utopija? Ili je to nešto sa drugim imenom?
Minority Report i pitanje koje film nije završio
Steven Spielberg je 2002. adaptirao kratku priču Philipa K. Dicka u film koji je bio previše tačan da bi bio samo zabava. Minority Report smešta nas u Washington D.C. 2054. godine, gde sistem „Pre-Crime“ (pre-zločin) koristi proročke sposobnosti tri mutirana ljudska bića – „pre-cogs“ – da predvidi ubistva pre nego što se dese. Sistem funkcioniše. Stopa ubistava u Vašingtonu je nula.
Cena je da ljudi bivaju hapšeni za zločine koje nisu počinili – i možda nikada ne bi počinili. Cena je i to da je čitav sistem zasnovan na pretpostavci da budućnost nije promenljiva, što je filozofski problematično: ako znate da će vam neko pokušati da nanese zlo, promenite li vi sopstveno ponašanje i time promenite ishod – je li pre-cog video stvarni budući zločin ili samo jednu od mogućih verzija budućnosti?
Film postavlja to pitanje, ali ne završava razgovor koji otvara. Jer prava diskusija nije o fikcionalnim pre-cogovima iz 2054. Ona je o algoritmima za predikciju zločina koji su već u upotrebi 2024. i 2025. godine u stvarnim gradovima na stvarnim ljudima koji nisu ni svesni da su subjekti tih sistema.
Nismo u budućnosti – već smo tu: Sistemi koji već postoje
Postoji greška u načinu na koji javnost razgovara o ovim temama. Nadzorni AI sistemi i sistemi za predviđanje zločina tretiraju se kao futuristička spekulacija – nešto što „možda dolazi“. Ali oni su ovde. Već se koriste. I mapa njihovog širenja ne izgleda kao naučna fantastika; izgleda kao izveštaj sa terena.
Kina i sistem socijalnih kredita
Nemoguće je početi ovu diskusiju bez Kine, jer ona predstavlja najnapredniji i najsveobuhvatniji primer koji postoji u stvarnom svetu.
Social Credit System (sistem socijalnih kredita) koji Kina razvija i implementira od 2014. nije jedan monolitni sistem, što se u zapadnim medijima često pojednostavljuje. Reč je o skupu različitih, međusobno labavo koordinisanih sistema koje razvijaju lokalne vlasti, sektorski regulatori i privatne kompanije. Ali zajednički efekat je jasan: digitalna infrastruktura koja beleži i evaluira ponašanje individualaca, kompanija i institucija, a zatim primenjuje nagrade i kazne u zavisnosti od te evaluacije.
Niska kreditna ocena u određenim segmentima sistema može znači zabrana kupovine avionskih ili voznih karata, zabrana upisa dece u određene škole, zabrana kandidature za javne funkcije, javno objavljivanje imena „nepouzdanih“ lica.
Sistemom je do 2020. obuhvaćeno više od milijardu ljudi. Algoritmi koji procenjuju ponašanje uzimaju u obzir kršenja saobraćajnih propisa, neizmirene dugove, sudske presude, ali i – i ovo je ono što zabrinjava – online komentare, učešće u protestima i asocijacije sa osobama koje su na listama „nepouzdanih“ lica.
Važno je biti precizan: kineski sistem socijalnih kredita nije u svim aspektima ono što zapadni mediji ponekad prikazuju kao potpuno distopijsku mašinu totalnog nadzora. Neke od njegovih komponenti – poput sistema koji prati korporativno ponašanje u pogledu bezbednosti hrane ili finansijskog izveštavanja – imaju jasne legitime regulatorne funkcije. Ali celina sistema, posebno u dimenzijama koje se tiču individualnog ponašanja i političke ekspresije, predstavlja bezpresedan eksperiment u primeni AI-pojačanog nadzora nad populacijom u realnom vremenu.
Prediktivna policija u SAD: PredPol i naslednici
PredPol (Predictive Policing – prediktivna policija) bio je softver koji su koristile policijske uprave u Los Angelesu, Chicagu, Santa Cruzу i desetinama drugih američkih gradova. Algoritam je analizirao istorijske podatke o zločinu i generisao mape „visoko rizičnih zona“ – kvadrata od 150 kvadratnih metara u kojima je, prema algoritmu, povećana verovatnoća da će se desiti određena vrsta zločina.
Policajci su dobijali instrukciju da povećaju patrole u tim zonama. Logika je bila privlačna: ako algoritam predvidi gde će se nešto desiti, budi tamo i sprečite to.
Problem je bio sistemski i fundamentalan: algoritam je treniran na istorijskim podacima o hapšenjima – koji su reflektovali decenijama duboko ukorenjenu rasnu pristrasnost u policijskom radu. Afroameričke i latinoameričke zajednice bile su istorijski prekomerno patrolirane i prekomerno hapšene za iste prekršaje koji su beleži nižim stopama hapšenja u belim zajednicama. Kada je algoritam naučio iz tih podataka, naučio je i tu pristrasnost. I počeo je da je replicira i amplifikuje: predviđao je visoki rizik u zajednicama boje, policija je povećavala prisustvo, vršila više hapšenja – što je ulazilo u novu seriju podataka kao „dokaz“ visokog rizika, što je generirsalo nove predvikcije. Samoispunjavajuće proročanstvo koje je matematički formalizovalo nepravdu.
Santa Cruz je 2020. postao prvi grad u SAD koji je zabranio prediktivnu policiju. Ne zato što algoritam nije bio efikasan u sopstvenim terminima – već zato što su ti termini bili pogrešni.
Sistem prepoznavanja lica: Ubiquitous i kontroverzni
Facial recognition technology (tehnologija prepoznavanja lica) je možda najkontroverznija i najrasprostranjenija komponenta savremenog AI nadzornog aparata. Sposobnost automatskog identifikovanja osobe iz video snimka ili fotografije transformisala je nadzornu kameru iz pasivnog uređaja koji beleži u aktivni sistem koji identifikuje.
Kina ima više od 500 miliona nadzornih kamera – više od jedne kamere na tri lica. Sistem „Sky Net“ (Tin Wang) i novije inicijative poput „Sharp Eyes“ (Xue Liang) integrišu kamere sa bazama biometrijskih podataka i algoritmima za prepoznavanje lica u realnom vremenu. Sistem je sposoban da identifikuje osobu iz gomile, locira je u gradu i prati njeno kretanje kroz vreme.
Na Zapadu, upotreba je manje sistematska ali rastući. London Metropolitan Police koristila je sistem prepoznavanja lica na javnim događajima, sa stopom lažno pozitivnih identifikacija (pogrešnog prepoznavanja) koja je u nekim testiranjima iznosila više od 80% – što znači da bi osam od deset osoba koje algoritam „prepozna“ kao suspekte zapravo bili nedužni prolaznici.
Amazon Rekognition – komercijalni sistem za prepoznavanja lica kompanije Amazon – testirala je ACLU (American Civil Liberties Union – Američki savez za građanske slobode) 2018. Sistem je pogrešno identifikovao 28 afroameričkih kongresmena SAD kao kriminalce iz policijskih baza podataka. U realnom prepoznavanju lica na protestima, u aerodromima i na graničnim prelazima, lažno pozitivne identifikacije nisu statistička apstrakcija – one su konkretni ljudski životi.
Transparentnost kao vrednost: Argument koji se ne može odbaciti
Pre nego što nastavimo sa analizom rizika, neophodno je biti intelektualno pošten prema argumentu u korist transparentnosti. Jer postoje situacije u kojima je taj argument ne samo validan – on je moralno ubedljiv i teško ga je odbiti.
Korupcija kao ubica bez lica
Korupcija ubija ljude. Ne uvek direktno, ne uvek vidljivo, ali sustavno i merljivo. Bolnica u kojoj se kupuju lekovi nižeg kvaliteta jer je doktor dao ugovor kompaniji koja mu plaća proviziju – pacijenti u toj bolnici imaju niže šanse za preživljavanje. Put koji je sagrađen sa asfaltom koji je dva centimetra tanjim od standarda jer je razliku pojeo podizvođač koji je podmirio inspektora – saobraćajne nesreće na tom putu su statistički predvidljive i izbegljive.
Transparency International procenjuje da korupcija globalno košta više od 2,6 triliona dolara godišnje – blizu 5% globalnog BDP-a. U Srbiji i regionu, korupcija nije apstraktni problem; ona je razlog zbog kojeg dobar lekar ne dobija posao u državnoj bolnici, zbog kojeg mala firma ne dobija javni tender i zbog kojeg pravda u sudskom postupku ponekad zavisi od toga koga poznajete.
Sistem koji bi svaku transakciju javnog novca učinio transparentnom i dostupnom algoritmijskoj reviziji u realnom vremenu – koji bi svaki sastanak funkcionera sa privatnim lobiistima beleži i javno objavljivao, koji bi svaki ugovor sa državom automatski proveravao na nepravilnosti – takav sistem bi mogao da smanji korupciju na nivoe koji su trenutno neostvarivi putem konvencionalnih revizorskih mehanizama.
Ovo nije spekulacija. Estonia (Estonija) ima jedan od najdigitalizovanijih sistema javne uprave na svetu, gde je gotovo svaka transakcija javnog sektora digitalno evidentirana i dostupna transparentnosti reviziji. Rezultat: Estonija je konzistentno rangirana kao jedna od najmanje korumpiranih zemalja u Evropi i svetu.
Zločin i prevencija koja funkcioniše
Postoje i konkretni primeri u kojima je povećani nadzor doveo do merljivog smanjenja zločina:
Project Greenlight u Detroitu – sistem koji pušta poslovne vlasnike da instaliraju kamere visoke rezolucije povezane direktno sa policijskim centrom za nadzor i sa AI sistemom za analizu – pokazao je statistički signifikantno smanjenje stope zločina na lokacijama koje su ušle u program u poređenju sa kontrolnim grupama.
Chicago’s Strategic Subject List (Strateška lista subjekata u Chicagu) – kontroverzni program koji je kreirao „risk scores“ (ocene rizika) za identifikovane pojedince na osnovu AI analize – navodi se od strane zagovornika kao alat koji je pomogao u fokusiranju policijskog rada na osobe sa visokim rizikom od učešća u nasilnim zločinima. Kritičari iste podatke interpretiraju kao primer sistematske diskriminacije.
Nije moguće biti intelektualno pošten prema ovoj temi bez priznavanja da nadzor – kada je primenjen selektivno, ciljano i uz odgovarajuće zaštite – jeste efikasan u smanjenju određenih kategorija zločina. Pitanje nikada nije „da li nadzor funkcioniše“ u ograničenom smislu. Pitanje je uvek „po kojoj ceni, uz kakve garancije, sa kakvim mehanizmima kontrole i prema kome“.
Anatomija totalnog nadzornog sistema: Šta bi „potpuna transparentnost“ stvarno značila
Da bismo ozbiljno procenili utopiju potpune transparentnosti, moramo je konkretno definisati – jer reč „transparentnost“ u apstraktnom smislu zvuči benino, dok njena konkretizacija otkriva pravo lice te vizije.
Zamislimo sistem koji implementira sledeće:
Sveprisutno snimanje javnog prostora (ubiquitous public surveillance): Svaka ulica, svaki park, svaki javni prevoz opremljeni su kamerama visoke rezolucije sa AI identifikacijom lica i analitičkom sposobnošću u realnom vremenu. Ne samo vizuelno – audio senzori hvataju razgovore. Identifikacija se vrši automatski; vaša prisutnost na bilo kom javnom mestu automatski je evidentirana.
Digitalna finansijska transparentnost: Svaka finansijska transakcija – bez izuzetka – digitalno je evidentirana i dostupna algoritmijskoj reviziji. Platili gotovinom? Gotovina više ne postoji. Sve je digitalno, sve je praćeno. Svaki transfer novca pokreće automatsku analizu da li odgovara vašem dohodovnom profilu i poznatim obrascima potrošnje.
Komunikacijska transparentnost: Sve digitalne komunikacije – poruke, emailovi, telefonski pozivi – prolaze kroz automatsku analizu ključnih reči i sentimenta. Ne nužno čita ih čovek; algoritam označava sumnjive obrasce za dalji pregled.
Biosenzorska integracija: Pametni uređaji, pametni gradovi i wearable tehnologije (tehnologije koje se nose) prate biometrijske parametre – srčani ritam, hormone stresa, obrasce spavanja, geolokaciju. Algoritam može prepoznati fiziološke markere koji koreliraju sa povišenim rizikom agresivnog ponašanja.
Profil ponašanja i predikcija: Svi navedeni podaci se integrišu u kontinuirani „behavioral profile“ (profil ponašanja) svakog građanina, koji algoritam koristi za predikciju budućeg ponašanja. Ako vaš profil počne da liči na profil osoba koje su u prošlosti počinile određenu vrstu zločina, možete biti označeni za „povećan nadzor“ ili preventivnu intervenciju.
Kada ovako konkretno formulišemo sistem potpune transparentnosti, postaje jasno da razgovaramo o nečemu što nema preceden u istoriji ljudske civilizacije – i da posledice tog sistema daleko prevazilaze pitanje bezbednosti.
Privatnost nije luksuz – ona je infrastruktura slobode
Najčešći argument koji se iznosi u debatama o nadzoru dolazi od laika koji nemaju poseban razlog da se plaše vlastitih akcija: „Nemam šta da krijem, pa nemam ni šta da se bojim.“ Ovaj argument je emotivno razumljiv, intelektualno neodrživ i historički opovrgnut na najkrvaviji način.
Profesor prava Daniel Solove u esejima koji su postali referentne tačke diskursa objašnjava zašto je ova intuicija pogrešna:
Privatnost nije o skrivanju greha. Privatnost je o autonomiji – o pravu da postoji prostor u kome vi određujete ko zna šta o vama i u kom kontekstu. Vaša medicinska dijagnoza je privatna ne zato što je sramotna, već zato što je vaša i zato što imate pravo da kontrolišete kako ta informacija cirkuliše. Vaša religiozna nedoumica je privatna ne zato što je kriminalna, već zato što je to intimni, razvojni proces koji zahteva zaštićen prostor da bi bio autentičan.
Ali argument ide i dalje od individualne autonomije:
Privatnost kao preduslov demokratije: Demokratija pretpostavlja slobodan izbor. Slobodan izbor pretpostavlja autonomiju razmišljanja i ekspresije. Razmišljanje i ekspresija nisu autonomni kada se odvijaju pod nadzorom koji može imati posledice. Psihološki efekat poznat kao chilling effect (efekat hlađenja) opisuje fenomen u kom samo znanje da si nadziran menja ponašanje u pravcu konformizma, čak i bez eksplicitnih pretnji ili sankcija. Istraživanja Penelope Kyritsis i Jonathana Meyera pokazuju da se online pretraživanja termina vezanih za politički aktivizam, religiozna pitanja i seksualne manjine statistički smanjuju u periodima pojačanog nadzora ili javnih diskusija o nadzoru. Niko nikome nije pretio; sama svest o mogućoj vidljivosti bila je dovoljna da promeni ponašanje.
Privatnost kao zaštita od budućih tiranija: Ovde leži možda najkritičniji argument, koji tehnološki optimisti konzistentno potcenjuju: sistem nadzora ne zadržava karakter zavisno od toga ko ga je napravio. On zadržava karakter zavisno od toga ko ga kontroliše u svakom datom trenutku. Demokratska vlada koja gradi sveobuhvatan nadzorni aparat u svrhe bezbednosti i borbe protiv korupcije ne garantuje da taj isti aparat ne može biti korišćen od strane autoritarne vlade koja dođe na vlast kroz legalne ili nelegalne mehanizme.
Ovo nije hipotetički argument. Nema potrebe da ga ilustrujemo fikcijom.
Istorija govori: Nadzor koji se okrenuo protiv svojih tvoraca
Istorija 20. veka prepuna je primera koji demonstriraju ovu opasnost sa krvavom preciznošću:
Gestapo i kartoteke: Nacistička Nemačka nasledila je i proširila birokratske kartoteke koje je Vajmarska republika gradila za potpuno benigne administrativne svrhe. Iste evidencije koje su vodile o nacionanosti, religijskoj pripadnosti i adresama građana – evidencije koje bi moderni analitičar nazvao „javnim podacima za administraciju“ – postale su infrastruktura za identifikaciju i deportaciju Jevreja, Roma, političkih protivnika i homoseksualaca.
Stasi i 90.000 informatora: Istočnonemačka tajna policija Stasi imala je na vrhuncu gotovo 90.000 zaposlenih i mrežu informatora koja je procenjena na između 170.000 i 600.000 civila. Opseg nadzora bio je takav da su istraživači koji su proučavali Stasi arhive procenili da su u određenim periodima i određenim gradovima suseди međusobno izveštavali jedni o drugima u takvom obimu da bi svaki razgovor potencijalno bio zabeležen. Rezultat: potpuna kolonizacija privatnog prostora, masovna samocenzura i duboka psihološka trauma populacije čije su posledice bile vidljive decenijama posle pada Berlinskog zida.
COINTELPRO i FBI: Američki FBI pod J. Edgarem Hooverom operisao je od 1956. do 1971. program COINTELPRO (Counter Intelligence Program – kontra-obaveštajni program) koji je sistematski nadzirao, infiltrirao i sabotirao organizacije koje je vlada smatrala „subverzivnim“. Na meti su bili komunisti i socijalisti, ali i NAACP (organizacija za građanska prava Afroamerikanaca), Black Panther Party, Southern Christian Leadership Conference – organizacije Martina Luthera Kinga Jr., Women’s Liberation Movement (ženski pokret) i brojni drugi. Program je bio odobren od strane demokratski izabranih vlada, operisao je unutar tehničkih legalnih granica svog vremena i koristio je argument bezbednosti nacionalnih interesa. I sistematski je kršio ustavna prava stotina hiljada Amerikanaca.
Svaki od ovih primera nastao je u sistemu koji je, u svojoj inicijalnoj legitimnoj formi, imao racionalan cilj bezbednosti ili administracije. Nijedan od njih nije odmah počeo kao aparat represije. Svi su postali aparat represije kada su okolnosti – politička, ideološka ili lična – stvorile podmladak koji je imao interes i mogućnost da ih preusmeriti.
Algoritamska pristrasnost i mit o objektivnosti
Postoji jo ш jedan mit koji podupire viziju AI nadzora kao neutralnog arbitra istine i pravde: da algoritmi, za razliku od korumpiranih i pristrasnih ljudi, donose objektivne odluke.
Ovo nije samo pogrešno. To je opasno pogrešno.
Algorithmic bias (algoritamska pristrasnost) nije greška u implementaciji koja se može popraviti boljim programiranjem. Ona je sistemska posledica toga što algoritmi uče iz podataka koje su kreirali ili prikupljali ljudi – sa svim predrasudama, nepravdama i strukturalnim nejednakostima koje su te ljude i njihove institucije karakterisale.
Već smo videli PredPol primer u kontekstu prediktivne policije. Ali pristrasnost nije ograničena na taj jedan sistem:
COMPAS algoritam (Correctional Offender Management Profiling for Alternative Sanctions – profilisanje krivičnih prekršilaca za alternativne sankcije) koriste sudovi u SAD za procenu verovatnoće ponovnog počinjenja zločina kod optuženih, što utiče na odluke o kauciji, kazni i uslovnom otpustu. ProPublica analiza iz 2016. pokazala je da COMPAS sistematski precenjuje rizik recidivizma kod afroameričkih optuženih i potcenjuje ga kod belih optuženih. Algoritam – koji se predstavlja sudijama kao „objektivna naučna procena“ – replicira rasnu pristrasnost koja je istorijski karakterisala kazneni sistem.
Amazon-ov AI alat za zapošljavanje: Amazon je 2018. odustao od razvoja AI alata za automatski pregled biografija kandidata kada je otkriveno da sistem sistematski penalizuje žene. Razlog: algoritam je treniran na biografijama zaposlenih u Amazonu tokom prethodnih deset godina – koji su bili pretežno muškarci, posebno u tehničkim pozicijama. Algoritam je naučio da preferira obrasce koji koreliraju sa muškim karijerama, uključujući vrstu aktivnosti na fakultetu i stručne asocijacije koje su statički češće muške.
Zdravstveni algoritmi i rasna nejednakost: Studija objavljena u Science magazinu 2019. otkrila je da algoritmi koji se koriste u američkim bolnicama za prioritizaciju pacijenata koji treba da dobiju kompleksno upravljanje zdravljem sistematski potcenjuju potrebe afroameričkih pacijenata. Algoritam je koristio troškove zdravstvene zaštite kao proxy za zdravstvene potrebe – ali afroamerički pacijenti istorijski troše manje na zdravstvenu zaštitu zbog sistemskih barijera pristupu, a ne zbog boljeg zdravlja. Rezultat: algoritam koji je trebao da pomogne ravnopravnoj distribuciji zdravstvene nege zapravo je perpetuirao nejednakost.
Kada projektujemo ove nalaze na hipotetički sistem potpune transparentnosti – sistem koji koristi AI da donosi odluke ili preporuke o kome nadzirati, kome uskratiti pristup, koga preventivno intervenisati – dobijamo matematički formalizovanu nejednakost sa svom autoritetnošću nauke i nikakvom odgovornošću ljudskog donosioca odluka.
Panoptikon 21. veka: Foucault, Bentham i digitalni nadzor
Filozofska analiza nadzornih društava ne može zaobići Michela Foucaulta i njegovu interpretaciju Benthamovog Panoptikona – arhitekturnog dizajna zatvora iz 18. veka koji je Foucault koristio kao metaforu za modernu disciplinsku moć.
Jeremy Bentham je 1791. predložio dizajn zatvora u obliku kružnog prstena sa centralnom stražarnicom: svi zatvorenici su stalno vidljivi iz centralne tačke, ali ne mogu videti stražara ni znati da li ih neko trenutno nadgleda. Ključna teza Benthamovog dizajna: zatvorenici počinju da se ponašaju kao da su stalno nadgledani, čak i kada nisu, jer ne mogu znati kada jesu a kada nisu.
Foucault je u „Nadzirati i kažnjavati“ (1975) proširio ovu ideju na čitavo moderno disciplinsko društvo: institucije – škole, bolnice, vojska, radna mesta, ali i mediji i kultura – funkcionišu na principu internalizovanog nadzora. Ne trebate stražara da ste fizički prisutan; ako ste naučili da se ponašate kao da ste uvek nadgledani, disciplinska moć je potpuno integrisana u vaš svakodnevni život.
Digitalni nadzorni aparati 21. veka su Panoptikon koji Bentham nije mogao ni da zamišlja – ne zato što su samo efikasniji od arhitekturnog zatvora, već zato što su nevidljivi, sveprisutni i normalizovani. Ne postoji fizički zid koji vas podseti da ste unutar strukture nadzora. Nosite je u džepu, na ručnom zglobu, ona je ugrađena u svaki uređaj u vašem domu.
Simetrična tačka koja Foucaultov okvir dodaje ovoj diskusiji: sistem totalnog transparentnog nadzora ne mora aktivno kažnjavati da bi imao disciplinarski efekat. Sama svest o svevidećem oku dovoljno je da populacija sama sebe disciplinuje u skladu sa onim što percipira kao normativno ili prihvatljivo. Ovo nije sloboda bez zločina – ovo je konformizam bez zločina. To su dve potpuno različite stvari.
Pravni okvir: Šta kaže međunarodno pravo o privatnosti u eri nadzora
Nivo eksplicitne zaštite privatnosti u međunarodnom pravu je značajno viši nego što prosečan građanin pretpostavlja:
Član 12 Opšte deklaracije o ljudskim pravima (1948): „Niko ne sme biti podvrgnut samovoljnom mešanju u njegovu privatnost, porodicu, dom ili prepisku, niti napadima na njegovu čast i ugled. Svako ima pravo na zaštitu zakona od takvog mešanja ili napada.“
Član 8 Evropske konvencije o ljudskim pravima: Garantuje pravo na poštovanje privatnog i porodičnog života, doma i prepiske. Evropski sud za ljudska prava u Strazburu razvio je bogatu jurispdenciju koja definiše granice prihvatljivog nadzora: svaki nadzor mora imati zakonsku osnovu, mora biti neophodan u demokratskom društvu i mora biti proporcionalan legitimnom cilju koji se želi postići.
GDPR (General Data Protection Regulation – Opšta uredba o zaštiti podataka, EU, 2018): Daje građanima EU eksplicitna prava nad sopstvenim podacima – pravo pristupa, pravo na ispravku, pravo na brisanje („pravo na zaborav“), pravo na ograničenje obrade i pravo na prenosivost. GDPR eksplicitno tretira biometrijske podatke (uključujući prepoznavanje lica) kao posebno zaštićenu kategoriju koja zahteva eksplicitnu saglasnost za obradu.
AI Act (Zakon o veštačkoj inteligenciji, EU, 2024): Zabranjuje određene primene AI u realnom vremenu za prepoznavanje lica na javnim mestima u svrhe upravljanja redom (sa ograničenim izuzecima za terorizam i traženje nestalih), zabranjuje AI sisteme za „social scoring“ (društveno ocenjivanje) i sisteme koji eksploatišu psihološke ranjivosti.
Paradoks: najnapredniji regulatorni okviri postoje upravo tamo gde postoji i najjači pritisak industrije i vlada da ih zaobiđu. EU AI Act je veličanstven pravni dokument koji će se suočiti sa konstantnim pritiscima za izuzetke, proširenja i reinterpretacije.
Tehnička arhitektura nadzora: Kako sistemi zapravo rade
Za čitaoce sa tehničkom pozadinom, korisno je biti precizan o tome šta savremeni AI nadzorni sistemi zapravo čine, jer to omogućava informisaniju procenu i njihovih mogućnosti i njihovih ograničenja:
Computer Vision i prepoznavanje lica
Moderni sistemi za prepoznavanje lica koriste deep learning (duboko učenje) – specifično konvolucione neuralne mreže (convolutional neural networks, CNN) – trenirane na ogromnim skupovima podataka lica da ekstrahuju facial embeddings (facijalne otiske): kompaktne vektore koji reprezentuju geometrijske karakteristike lica na način koji je robustan na promene osvetljenja, ugla i starenja.
1:N identifikacija (jedan prema mnogo) – kakva se koristi u nadzornom kontekstu – poređuje lice sa celom bazom podataka i traži podudaranje. Ovo je fundamentalno teži zadatak od 1:1 verifikacije (jedan prema jedan, kao kod otključavanja telefona). False positive rate (stopa lažno pozitivnih prepoznavanja) u 1:N identifikaciji dramatično raste sa veličinom baze podataka. Sistem koji ima 99,9% tačnost (što je vanredno dobar sistem) pri poređenju sa bazom od 10 miliona lica generiše 10.000 lažno pozitivnih identifikacija – 10.000 pogrešno identificiranih nedužnih osoba.
Sistemi takođe pokazuju konsistentno lošije performanse na licima žena, starijih osoba i osoba tamnijeg tena kože – što je direktna posledica neravnomerne demografske distribucije u trening skupovima podataka.
Analiza videa i detekcija anomalija
Iznad identifikacije lica, napredni video sistemi izvode anomaly detection (detekciju anomalija) – identifikovanje obrazaca ponašanja koji odstupaju od statičke norme za dato vreme i mesto. Algoritam trenira na „normalnom“ ponašanju u danom prostoru i označava deviacije: neko ko predugo stoji na istom mestu, neko ko trči u situaciji kada niko drugi ne trči, grupacija osoba koja se formira na specifičan način.
Problem sa ovim pristupom je epistemološki: algoritam ne razlikuje „anomalija jer je kriminalna aktivnost“ od „anomalija jer je osoba doživela zdravstveni incident“ ili „anomalija jer osoba ima atipičan način kretanja zbog invaliditeta“. Sve su to anomalije; algoritam nema kontekstualno razumevanje koje bi mu omogućilo distinkciju.
Natural Language Processing i analiza komunikacija
NLP (Natural Language Processing – obrada prirodnog jezika) sistemi koji analiziraju tekst ili govorne komunikacije u potrazi za indicijama opasnog ponašanja suočavaju se sa fundamentalnim ograničenjem koje se naziva pragmatic comprehension (pragmatično razumevanje): sposobnost razumevanja ne samo onoga što rečenica doslovno znači, već onoga što govornik zapravo želi preneti u konkretnom socijalnom kontekstu.
„Ubiću ga kada ga vidim“ – da li je to pretnja ili izraz frustracije? Zavisi od konteksta, od tona, od odnosa između govornika i referenta, od kulturnog okvira. Algoritam koji analizira tekst izolovano od konteksta – što je suštinski jedini način na koji takvi sistemi mogu raditi u velikom obimu – ima sistematski visok false positive rate za izražavanja intenzivnih emocija koja se kulturno ne tretiraju kao pretnje.
Novi totalitarizam bez autoritarnih vođa: Korporativni nadzor
Jedna od najzanimljivijih i najmanje diskutovanih dimenzija ove teme je to da najnaprednija infrastruktura nadzora u demokratskim društvima nije vladin projekt – ona je proizvod privatnih kompanija koje su je gradile u komercijalnu svrhu:
Google zna vaše lokacije gotovo u realnom vremenu putem vašeg Android uređaja. Zna vaše interesujuće teme putem pretrage. Zna vašu finansijsku situaciju putem reklama na koje klikćete. Ima pristup vašim emailovima putem Gmail-a. Profil koji Google ima o prosečnom korisniku je, u smislu obuhvatnosti, daleko napredniji od profila koji je Stasi imala o prosečnom Istočnom Nemcu.
Meta (Facebook, Instagram, WhatsApp) – pored evidentnih interakcija – koristi analizu slika koje objavljujete za prepoznavanje lica vaših prijatelja i porodice. Pratit vaš psychographic profile (psihografski profil) – ličnost, vrednosti, stavove – sa tačnošću koja je, prema Cambridge Analytica eksperimentima, bolja od tačnosti prosečnog člana porodice ili dugogodišnjeg prijatelja u predviđanju vaših odgovora na ličnostne testove.
Amazon, putem Alexa uređaja, potencijalno snima audio iz vašeg doma. Amazon Ring mreža kućnih kamera deli podatke sa lokalnim policijskim upravama u SAD, sa zahtevima za video snimke koji su u nekim godinama brojali stotine hiljada.
Ova korporativna nadzorna infrastruktura je, u smislu tehničke sofistikovanosti i dubine prikupljenih podataka, superioriji od svega što vlada može da gradi putem javnih tendera i birokratskih procedura. I ona postoji bez ikakvog demokratskog mandata, bez posebnog zakonskog ovlašćenja i van dosega ustavnih zaštita koje se primenjuju na vladino prikupljanje podataka.
Shoshana Zuboff, profesorica Harvard Business School, nazvala je ovu pojavu surveillance capitalism (nadzorni kapitalizam) u istoimenoj knjizi iz 2019. Njena teza: korporacije su razvile ekonomski model koji se ne oslanja na prodaju proizvoda korisnicima, već na transformaciju korisničkog iskustva i ponašanja u „sirovi materijal“ koji se obrađuje u prediktivne podatkovne proizvode koji se prodaju oglašivačima. Korisnik nije klijent; korisnik je produkt. Nadzor nije sporedni efekat poslovnog modela; on jest poslovni model.
Svet u kome živimo: Konkretne tačke sadašnje prakse nadzora
Kina i Ujguri: Najdokumentovaniji primer savremene primene totalnog nadzora za svrhe represije nalazimo u kineskoj provinciji Xinjiang. Ujgurska muslimanska manjina izložena je sveobuhvatnom digitalnom nadzoru koji uključuje obaveznu instalaciju špijunskog softvera na mobilne uređaje, prepoznavanje lica na svakom uglu ulice, analizu obra
zaca ponašanja, obavezno davanje biometrijskih uzoraka i masovni sistem arbitrarnog pritvora koji je prema procenama UN-a obuhvatio između jednog i dva miliona ljudi. Sistem nije izgrađen kao instrument represije u jednom danu; on je izgrađen postepeno, komponenta po komponenta, uz svaki korak koji je tehnički bio opravdan nekim legitimnim bezbednosnim argumentom. Krajnji rezultat je ono što istraživači zovu „digitalna logika etničkog čišćenja“ – automatizovana identifikacija i kontrola populacije zasnovana na etničkim i religioznim karakteristikama.
Izrael i Zapadna obala: Human Rights Watch i Amnesty International dokumentovali su upotrebu sistema prepoznavanja lica na kontrolnim punktovima i u javnim prostorima na Zapadnoj obali. Sistem koji palestinsko stanovništvo identifikuje i prati – koji može aktivirati automatska ograničenja kretanja na osnovu AI procene „rizika“ – funkcioniše u uslovima potpune pravne asimetrije gde subjekti nadzora nemaju pristup informacijama o tome kako sistem funkcioniše niti mehanizmima žalbe.
Britanija i masovni nadzor: GCHQ (Government Communications Headquarters – Vladin centar za komunikacije), britanska obaveštajna agencija, uz saradnju sa NSA (National Security Agency – Agencija za nacionalnu bezbednost, SAD), operisala je programe masovnog prikupljanja metapodataka o komunikacijama koji su, prema dokumentima koje je obelodanio Edward Snowden 2013, obuhvatili komunikacione obrasce gotovo celog internetski aktivnog sveta. Ovi programi su bili legalni u smislu da su imali tajno sudsko odobrenje; bili su potpuno van demokratskog znanja i kontrole. Javnost je za njihovo postojanje saznala tek kada je jedan čovek odlučio da prihvati lične posledice obelodanjivanja.
Slobodna volja i pretpretnja: Filozofski paradoks prediktivnog nadzora
Čitava arhitektura prediktivnog nadzora počiva na jednoj filozofskoj premisi koja se nikada ne imenuje eksplicitno jer bi, kada bi bila eksplicitno formulisana, odmah otkrila sopstvenu problematičnost:
Premisa: Buduće ponašanje je determinisano prošlim obrascima u dovoljnoj meri da se može predvideti sa dovoljnom pouzdanošću da bi bila opravdana preventivna intervencija.
Ovo je, u najgorem slučaju, čist determinizam primenjen na ljudsko ponašanje. U boljem slučaju, to je probabilistička tvrdnja da određeni profili koreliraju sa određenim vrstama budućeg ponašanja sa statistički signifikantnom verovatnoćom.
Čak i ako prihvatimo probabilistički argument – i zanemarimo filozofski problem determinizma koji je daleko od rešenog – ostaje sledeće:
Problem kolateralnog nadzora: Ako algoritam identifikuje 1.000 osoba sa profilima koji statistički koreliraju sa rizikom nasilja, a samo 100 od njih će zaista počiniti nasilni akt, tada preventivna intervencija nad svih 1.000 znači neopravdanu intervenciju nad 900 nedužnih osoba. Ovo nije hipotetičan efekat – to je matematička nužnost svakog sistema predikcije koji nije savršeno tačan. A savršeno tačan sistem nikada neće postati jer je ljudsko ponašanje fundamentalno kontekstualno i ne-deterministično.
Problem samoispunjavajućeg proročanstva: Kada sistem identifikuje osobu kao „visoki rizik“ i prema njoj postupa drugačije – pojačan nadzor, ograničenja kretanja, preventivno lišavanje slobode – on unosi u život te osobe faktore koji povećavaju stvarnu verovatnoću devijantnog ponašanja (stigma, ograničene mogućnosti, osećaj nepravde, gubitak poverenja u institucije). Sistem čini ono što predviđa.
Problem promene: Fundamentalna pretpostavka da prošlo ponašanje predviđa buduće ignorira kapacitet za promenu koji je jedna od ključnih karakteristika ljudske psihologije i osnova čitavog koncepta rehabilitacije u krivičnom pravu. Osoba koja je bila na putu ka nasilju, a koja je u međuvremenu doživela transformativna iskustvo – ljubavnu vezu, religiozno preobraženje, terapeutski proces, mentorski odnos – i dalje bi bila tretirana kao visoki rizik jer njen prošli profil to kaže, dok njen sadašnji unutrašnji svet nije dostupan algoritmu.
Privatnost i kreativnost: Neočigledna veza koja se ne sme ignorisati
Postoji jedna dimenzija gubitka privatnosti koja se retko pominje u standardnim debatama o bezbednosti i slobodi, a koja je po našem mišljenju podjednako važna: veza između privatnosti i kreativne, intelektualne i duhovne slobode.
Kreativni i intelektualni procesi – pisanje, istraživanje, umetničko stvaranje, filozofsko propitivanje, duhovna potraga – zahtevaju eksperimentisanje, grešku i eksploraciju ideja koje možda nikada neće biti formulisane u finalnu formu. Pesnik piše sto loših nacrta pre dobrog stiha. Naučnik istražuje stotine pogrešnih hipoteza pre ispravne. Mislilac prolazi kroz faze u kojima zastupa stavove koje će kasnije revidirati ili odbaciti.
Kada svaki nacrt, svaka privremena ideja, svako pogrešno usmereno istraživanje postane trajno evidentiran i potencijalno vidljiv, racionalna reakcija je samoograničenje u eksploraciji. „Da li ova pretraga može biti pogrešno shvaćena?“ postaje pitanje koje ljudi sebi postavljaju i koje suptilno suava opseg intelektualnog istraživanja.
Ovo nije apstraktna briga. Već postoje dokumentovani slučajevi novinara, akademika i aktivista koji menjaju svoje online obrasce istraživanja zbog zabrinutosti o nadzoru. Kada novinarski istraživač koji piše o terorizmu ne želi da pretraži određene termine jer se plaši da će biti pogrešno protumačen – i kada taj novinar ima dobre razloge za tu zabrinutost – sistem nadzora je već naneo štetu slobodi informacija i javnom diskursu, bez ijednog eksplicitnog akta cenzure.
Srbija između dva sveta: Nadzorni kapitalizam i demokratski deficit
Srpski kontekst donosi specifičnu kombinaciju faktora koji čine ovu diskusiju posebno relevantnom:
S jedne strane, Srbija je zemlja u kojoj je korupcija sistemski problem, u kojoj vladavina prava ima ozbiljne nedostatke i u kojoj bi transparentnost javnih institucija nedvosmisleno bila pozitivna promena. Argument da bi napredni AI sistem revizije javnih finansija, javnih nabavki i procesa zapošljavanja u javnom sektoru mogao doneti merljive benefite – to je argument koji bi trebalo uzeti ozbiljno.
S druge strane, Srbija je zemlja koja je u proteklim godinama bila predmet dokumentovanih nalaza o zloupotrebi nadzornih sistema u politički motivisane svrhe. Izveštaji istraživačkih novinara o upotrebi Pegasus spajvera (špijunskog softvera) i sličnih alata za praćenje opozicionih aktivista, novinara i civilnog društva nisu spekulacija – oni su dokumentovani nalaziima organizacija poput Amnesty International i Access Now.
U takvom kontekstu, pitanje „ko nadzire nadzorne sisteme“ nije akademsko. Ono je pitanje od neposrednog demokratskog i pravnog značaja.
Srbija je potpisnica Evropske konvencije o zaštiti podataka i u procesu je harmonizacije sa GDPR standardima. EU AI Act će, kroz pritisak na usklađivanje u okviru procesa evropskih integracija, diktirati određene minimalne standarde. Ali harmonizacija na papiru i stvarna implementacija su dve različite stvari, i istorija tranzicionih zemalja nudi dovoljno primera jaza između ta dva nivoa.
Argument sredine: Gradijent između totalne transparentnosti i totalne privatnosti
Bilo bi intelektualno nepošteno završiti ovu analizu bez priznavanja da pitanje nije binaran izbor između totalnog nadzora i totalne privatnosti. Postoji čitav spektar pozicija između tih ekstrema, i razumna diskusija mora locirati gde na tom spektru se nalaze prihvatljivi kompromisi.
Neke distinkcije koje su konceptualno korisne:
Transparentnost institucija vs. transparentnost individua: Postoji fundamentalna asimetrija između zahteva za transparentnošću koja se primenjuje na javne institucije i one koja se primenjuje na privatne osobe. Demokratija zahteva visok stepen transparentnosti od onih koji vrše javnu vlast – ne kao kaznu, već kao preduslov demokratske odgovornosti. Ista logika ne može biti simetrično primenjena na privatne građane koji nisu izabrali da vrše javnu vlast. Zahtevati da funkcioner transparentno objavi prihode i imovinu je demokratski imperativ; zahtevati isto od privatnog građanina je narušavanje privatnosti.
Ciljani nadzor sa sudskim nadzorom vs. masovni nadzor: Postoji fundamantalna razlika između ciljanog nadzora konkretne osobe za koga postoje specifični razlozi sumnje, koji je odobren od strane nezavisnog sudskog organa i koji je vremenski i sadržajno ograničen, i masovnog nediskriminatornog nadzora koji prikuplja podatke o svima bez obzira na individualne razloge. Prva kategorija je kompatibilna sa vladavinom prava; druga kategorija fundamentalno nije.
Agregatni anonimni podaci vs. individualno profilisanje: Podaci koji se koriste u agregiranom, anonimnom obliku za javno planiranje – urbanistički razvoj, saobraćajno planiranje, epidemiološki nadzor – imaju drugačiji etički status od podataka koji se koriste za kreiranje individualnih profila koji prate konkretnu osobu kroz vreme.
Putevi napred: Šta bi odgovoran razvoj AI nadzornih sistema zapravo podrazumevao
Ako potpuna privatnost nije realna opcija u digitalnom svetu, i ako potpuna transparentnost vodi u distopiju, koji su konkretni principi koji bi trebalo da vode razvoj i implementaciju AI nadzornih sistema?
Princip proporcionalnosti: Svaki nadzorni sistem mora biti proporcionalan legitimnom cilju koji pokušava da postigne. Nadzor javnih finansija funkcionera je proporcionalan cilju borbe protiv korupcije. Nadzor seksualnog ponašanja odraslih građana u privatnosti vlastitih domova nije proporcionalan ni jednom legitimnom cilju.
Princip minimizacije podataka (data minimization): Prikuplja se samo ono što je neophodno za specifičnu svrhu, čuva se samo onoliko dugo koliko je neophodnosno i ne koristi se za svrhe za koje nije prikupljeno. Princip koji je ugrađen u GDPR ali koji se konzistentno krši u praksi.
Princip algoritmske odgovornosti (algorithmic accountability): Algoritmi koji donose ili informišu odluke sa značajnim uticajem na živote osoba moraju biti podložni nezavisnoj reviziji, moraju biti transparentni u metodologiji i moraju biti podložni mehanizmima žalbe i ispravke.
Princip demokratskog mandata: Sistemi masovnog nadzora ne smeju biti implementirani bez eksplicitnog demokratskog procesa koji informiše javnost o prirodi, obimu i ciljevima sistema i koji dobija legitiman demokratski mandat za njihovu implementaciju.
Princip sunset klauzula (sunset clauses): Svaki nadzorni sistem treba da ima predviđen datum revizije ili ukidanja, koji zahteva aktivan novi demokratski mandat za nastavak, umesto da se po inerciji perpetuira jednom kada je uspostavljen.
Princip nezavisnog nadzora: Organi koji nadgledaju nadzorne sisteme moraju biti istinski nezavisni od izvršne vlasti – finansijski, kadrovski i institucionalno – jer nadzorni sistem koji nadzire sam sebe ili koji nadzire organ koji je suštinski deo iste izvršne strukture nije stvarni nadzor.
Budućnost koja dolazi: AI i nadzor u horizontu 2030–2040.
Tehnologije koje su danas u laboratorijskoj ili pilot fazi a koje će oblikovati nadzorne sisteme narednih petnaest godina:
Multimodalna fuzija senzora (multimodal sensor fusion): Integracija videa, zvuka, termalnih senzora, RFID-a, mobilnih signala i bihejvioralnih podataka u jedinstven, koherentan nadzorni profil koji je neuporedivo bogatiji od bilo koje pojedinačne vrste podataka. Ono što je danas fragmentirano i silosovano biće integrisano i dostupno u realnom vremenu.
Emotion AI (emocionalna veštačka inteligencija) i affective computing (afektivno računarstvo): Sistemi koji pokušavaju da prepoznaju emocionalno stanje osobe iz mikrofacijalnih ekspresija, govora, postave tela i biometrijskih signala. Ako ovi sistemi dostignu klinički relevantnu tačnost – što je još daleko ali nije nemoguće – nadzorni sistemi bi potencijalno mogli da detektuju „emocionalni rizik“ pre nego što se manifestuje u vidljivom ponašanju.
Brain-Computer Interfaces (interfejsi mozak-kompjuter): Elon Muskov Neuralink je pionir u medicinskim BCI aplikacijama. Ali šire usvajanje BCI tehnologije – čak i u benignim formama kao što su non-invasive (neinvazivni) sistemi za EEG čitanje za kontrolu uređaja – otvara pitanje koje filozofi privatnosti već počinju da postavljaju: da li je mentalna privatnost – pravo da vaše misli budu vaše i samo vaše – sledeća granica koja će biti testirana?
Kvantno računarstvo i kriptografska ranjivost: Post-kvantna kriptografija je aktivan istraživački prioritet upravo zato što se predviđa da će kvantni kompjuteri biti sposobni da razbiju trenutne kriptografske standarde u roku od narednih deset do petnaest godina. Šta to znači za privatnost: sve komunikacije koje su danas šifrovane a koje su prikupljene i arhivirane od strane obaveštajnih agencija – što je dokumentovana praksa – potencijalno postaju dostupne retroaktivno, kada kvantno dekriptovanje postane dostupno.
Epilog: Cena mira i cena slobode
Pitanje s kojim smo počeli – da li je potpuna transparentnost cena za mir – sada možemo da adresiramo sa celokupnim kontekstom koji smo izgradili.
Odgovor nije „ne“ i nije „da“. Odgovor je: pogrešno pitanje.
Framing „mir ili sloboda“ implicitno prihvata da su bezbednost i privatnost u suštinskoj tenziji, da dobijate jednu na račun druge i da je jedino pitanje koliko jedne ste voljni da žrtvujete za drugu. Ova pretpostavka je empirijski pogrešna i politički opasna.
Empirijski pogrešna jer najbezbednije demokratske države – skandinavske zemlje, Švajcarska, Kanada, Estonija – nisu najbezbednije zbog najobimnijeg nadzora. One su najbezbednije zbog kombinacije socijalnih faktora: visok životni standard, nizak nivo nejednakosti, snažne institucije, vladavina prava i – paradoksalno – relativno visoko poverenje u institucije koje izvire iz transparentnosti institucija, a ne iz nadzora individua.
Korupcija ne pada kada se nadziraju građani. Ona pada kada postoje snažne nezavisne institucije, slobodni mediji, zaštita uzbunjivača i transparentnost javnih finansija. Nasilje ne pada kada su ulice pune kamera. Ono pada kada su zadovoljene osnovne socijalne i ekonomske potrebe, kada postoji pristup mentalnozdravstvenim uslugama i kada zajednice imaju poverenja u institucije pravde.
Politički opasna jer svaka vlada koja želi da proširi sopstvenu moć nad građanima ima jaku podsticaj da prihvati i promoviše narativ „mir ili sloboda“ – jer taj narativ legitimizuje upravo ono proširenje moći koje ta vlada želi. Argument „trebamo više nadzora radi vaše bezbednosti“ je, istorijski gledano, jedan od najpouzdanijih retoričkih alata autoritarnih tendencija u demokratskim društvima.
Philip K. Dick, čija kratka priča je nadahnula Minority Report, pisao je u tradiciji autora koji nisu pokušavali da predvide budućnost – oni su pokušavali da upozore na nju. Dystopijska fikcija nije proročanstvo; ona je ogledalo koje nas traži da pogledamo u sebe i pitamo: prepoznajemo li nešto poznato?
Prepoznajemo.
Sistemi predikcije ponašanja već postoje. Prepoznavanje lica u realnom vremenu već radi na javnim mestima u desecima zemalja. Socijalno bodovanje, u raznim formama, već ima pilot implementacije. Korporativni profiling koji zna više o vama nego vaša porodica je normalizovan do te mere da ga smatramo uslugom, a ne nadzorom.
Ono što još uvek nije određeno – i što je još uvek predmet demokratske borbe u kojoj svaki informisani građanin ima ulogu – jeste to u kojoj meri ta infrastruktura ostaje pod demokratskim nadzorom, u čijoj službi funkcioniše i koje granice neće biti pređene.
Odgovor na to pitanje neće dati algoritam. Daće ga kolektivna volja društava koja su dovoljno informisana da znaju šta su u pitanju.
Ili je neće dati, i tada ćemo se naći u svetu koji Philip K. Dick nije izmislio – samo ga je video pre nas.
