U svetu tehnologije često govorimo o „optimizaciji“. Optimizujemo kod, mrežni saobraćaj, potrošnju energije. Ali šta se dešava kada država odluči da optimizuje pravdu? Film „Mercy“, reditelja Timura Bekmambetova (poznatog po vizuelno revolucionarnim filmovima poput Wanted), postavlja nas u blisku budućnost gde je stopa kriminala drastično opala, ali po cenu koja bi mogla biti previsoka za ljudsku slobodu.
Za čitaoce portala IT Network, ovaj film je mnogo više od akcionog trilera – to je duboka studija o Algoritamskoj Pravdi (Algorithmic Justice).
Radnja: Kada algoritam postane „Nepristrasni Sudija“
Chris Pratt tumači detektiva u svetu gde je pravni sistem poveren naprednoj veštačkoj inteligenciji. Ovaj AI sistem ne samo da procesuira dokaze, već predviđa verovatnoću krivice i donosi presude na osnovu milijardi podataka, eliminišući „ljudsku grešku“, korupciju i subjektivnost.
Zaplet nastaje kada glavni junak biva optužen za zločin, a sistem – u koji je i sam verovao – odbacuje svaki njegov pokušaj dokazivanja nevinosti, jer „podaci ne greše“. Ovde film prelazi iz klasičnog trilera u zastrašujuću trku protiv softvera koji vas poznaje bolje nego vi sami.
AI kao sudija: Tehnološka realnost ili SF horor?
Glavno pitanje koje „Mercy“ postavlja je: Može li AI ikada imati milosti (Mercy)? Iz perspektive programera i inženjera, znamo da AI funkcioniše na bazi prepoznavanja obrazaca. Ako sistem zaključi da 99% ljudi sa vašim profilom, kretanjem i istorijom pretrage u datim okolnostima počini zločin, on će vas osuditi.
Gde smo danas u odnosu na film?
-
Compas (USA): Algoritam koji se već koristi u nekim američkim državama za procenu verovatnoće da će prestupnik ponoviti delo. Pokazao se kao kontroverzan jer može naslediti ljudske predrasude iz istorijskih podataka.
-
Pametni sudovi u Kini: Već se testiraju sistemi koji pomažu sudijama u pisanju presuda i analizi presedana.
-
Predictive Policing: Softveri koji šalju patrole u delove grada gde AI „oseća“ da će se desiti zločin.
„Mercy“ kritikuje ideju „Black Box“ algoritma – sistema gde niko, pa čak ni njegovi tvorci, ne može tačno da objasni zašto je doneta određena odluka. To je realna opasnost o kojoj stručnjaci za AI etiku govore već danas.
Futuristički osvrt: Da li nas ovo čeka do 2030?
Kritički gledano, film nas upozorava na „automatizaciju poverenja“. U budućnosti koju „Mercy“ slika, ljudi su prestali da preispituju odluke mašina jer su one „efikasnije“.
Kao IT portal, moramo se zapitati: ako AI sudija donese presudu, ko je odgovoran za bug u kodu? Ako je sistem obučen na podacima koji su pristrasni, da li je „savršena pravda“ zapravo samo automatizovana nepravda? Film sugeriše da će do 2030. godine borba za ljudska prava postati zapravo borba za pravo na ljudsku grešku i ljudsku empatiju, koju nijedan procesor ne može da emulira.
Zašto gledati „Mercy“? (Bez spojlera)
-
Režija: Bekmambetov koristi inovativne tehnike snimanja koje dočaravaju kako AI „vidi“ svet – kroz podatke, termalne skenere i tokove informacija.
-
Glumačka hemija: Chris Pratt donosi potrebnu humanost u hladni, digitalni svet, dok Rebecca Ferguson briljira u ulozi koja testira granice između zakona i morala.
-
Etika iznad akcije: Iako ima vrhunske akcione sekvence, film će vas naterati da nakon gledanja proverite podešavanja privatnosti na svojim uređajima.
Zaključak
„Mercy“ nije samo film o begu od zakona; to je opomena programerima, etičarima i zakonodavcima. Tehnologija bi trebalo da bude alat koji pomaže pravdi, a ne entitet koji je zamenjuje. U svetu gde „podaci ne lažu“, film nas podseća da podaci takođe i ne osećaju.
Ako AI postane sudija, milost postaje anomalija u sistemu. A upravo su te anomalije ono što nas čini ljudima.
