Priča o primeni veštačke inteligencije u oružanim sukobima više nije domen naučne fantastike niti teorijskih razmatranja o dalekoj budućnosti. Savremena ratišta postala su poligon za testiranje naprednih algoritama koji obrađuju ogromne količine podataka sa terena, analiziraju satelitske snimke, presreću komunikacije i u realnom vremenu predlažu vojne ciljeve.
Međutim, dok vojne sile širom sveta naglašavaju kako im AI sistemi pružaju ogromnu taktičku prednost i ubrzavaju donošenje odluka, u pozadini se otvara jedno od najopasnijih pitanja modernog doba: da li komandanti i operateri koji pritisak na dugme odobravaju zaista razumeju na osnovu čega je algoritam došao do konkretnog zaključka?
Ova dilema ne dotiče se samo efikasnosti oružja, već direktno udara u temelje međunarodnog humanitarnog prava, etike i same definicije ljudske odgovornosti u ratu.
Ulazak algoritama na bojno polje i brisanje ljudske kontrole
Tradicionalni proces donošenja odluka u vojsci zasnivao se na lancu komandovanja u kom su ljudi prikupljali informacije, analizirali opcije i preuzimali potpunu odgovornost za svaku preduzetu akciju.
Danas, količina podataka koja stiže sa senzora, dronova, izviđačkih aviona i digitalnih mreža daleko nadmašuje kapacitete ljudskog mozga. U takvom okruženju, vojne komande se sve više oslanjaju na algoritme za obradu podataka i identifikaciju pretnji.
Sistemi zasnovani na veštačkoj inteligenciji mogu u sekundi uporediti hiljade časova video-materijala sa bazama podataka i označiti potencijalne mete. Ali tu nastaje ključni problem – veštačka inteligencija ne „vidi“ i ne „razume“ svet na način na koji to čini čovek. Ona prepoznaje matematičke uzorke i korelaciji u podacima, bez ikakvog svesti o kontekstu, moralu ili posledicama.
Problem crne kutije: zašto vojni komandanti ne znaju kako AI razmišlja
Srž tehničkog i etičkog problema leži u konceptu poznatom kao „crna kutija“ (black box). Napredni modeli dubokog učenja (deep learning) funkcionišu kroz kompleksne neuronske mreže sa milijardama parametara. Kada takav algoritam izbaci procenu da je određeni objekat ili osoba vojna meta sa verovatnoćom od 95%, on ne daje detaljno, ljudski razumljivo objašnjenje kako je došao do tog procenta.
Operater na ekranu vidi verovatnoću i predlog za napad, ali ne može videti logički lanac koji je algoritam do toga doveo. Da li je AI uočio stvarnu oružanu pretnju, ili je pobrkao senku, kamion sa hladnjačom ili profil kretanja civila sa vojnim ciljem?
Ovaj nedostatak interpretabilnosti (XAI – Explainable AI) stvara opasnu situaciju u kojoj se vojni zapovednici oslanjaju na preporuke sistema koje tehnički ne mogu u potpunosti da provere niti da razumeju.
Brzina moderne borbe protiv etike i međunarodnog prava
Zagovornici upotrebe veštačke inteligencije u vojne svrhe često ističu da „čovek uvek ostaje u petlji“ (Human-in-the-loop), što znači da konačnu odluku o upotrebi sile uvek donosi ljudsko biće. Međutim, u uslovima modernog ratovanja, ova tvrdnja sve više postaje puka formalnost.
Kada se odluke na bojnom polju moraju donositi u roku od nekoliko sekundi ili milisekundi, čovek u petlji postaje usko grlo. Izloženi ogromnom pritisku i vremenskom tesnacu, operateri razvijaju takozvanu automatizovanu pristrasnost (automation bias) – prirodnu tendenciju ljudskog mozga da bezuslovno veruje računarskim procenama i predlozima.
U praksi, čovek u petlji često stvara samo privid kontrole, dok u stvarnosti služi kao formalni potpisnik odluka koje je u potpunosti donela mašina.
Ključne opasnosti oslanjanja na algoritamske procene u sukobima
Masovna primena AI sistema koji nisu potpuno razumljivi ljudima nosi sa sobom seriju sistemskih rizika:
-
Sistemske greške i lažni signali: Ako su podaci na kojima je AI treniran bili pristrasni ili nepotpuni, algoritam može napraviti katastrofalne greške i sistematski označavati nevine ljude ili civilne objekte kao pretnje.
-
Gubitak pravne i moralne odgovornosti: Ako AI algoritam napravi grešku koja dovede do stradanja civila, ko snosi odgovornost? Programer koji je napisao kod, vojna kompanija koja je prodala sistem, komandant koji je verovao proceni ili operater koji je pritisnuo dugme? Tradicionalni pravni okviri nemaju jasan odgovor na ovo pitanje.
-
Rizik od brze i nekontrolisane eskalacije: Kada se algoritmi na suprotnim stranama sukoba nađu u direktnoj interakciji, reakcije mogu eskalirati brzinom koju nikakvo ljudsko komandovanje ne može pratiti niti zaustaviti.
Zaključak: gde povući liniju između tehnologije i ljudske odgovornosti
Veštačka inteligencija nesumnjivo redefinitioniše način na koji se vode oružani sukobi, ali brzina razvoja tehnologije ne sme nadmašiti našu sposobnost da nad njom zadržimo smislenu kontrolu.
Uvođenje AI sistema u donošenje odluka koje direktno utiču na ljudske živote bez potpunog razumevanja načina na koji ti sistemi funkcionišu predstavlja opasan presedan. Bez razvoja strogo proverljive, objašnjive veštačke inteligencije i jasnih međunarodnih regulativa koje garantuju stvarnu, a ne samo formalnu ljudsku kontrolu, rizikujemo da donošenje najtežih moralnih odluka u istoriji čovečanstva u potpunosti prepustimo neprozirnim matematičkim formulama.
