AI i ljudski faktor u sajber odbrani: Ko nosi veću odgovornost?

Najvažnije stavke (Ključni zaključci za brzo čitanje)

• Asistent, a ne lider: Veštačka inteligencija je moćan alat za obradu telemetrijskih podataka i brzo uočavanje anomalija, ali nije spremna da samostalno vodi odbranu bez ljudskog nadzora.

• Kontekst je ključ: Ljudski faktor ostaje nezamenljiv u sferama koje zahtevaju razumevanje šireg poslovnog konteksta, stratešku procenu i donošenje odluka sa pravnim ili reputacionim posledicama.

• Slepa automatizacija: Preveliko i nekritičko oslanjanje na sisteme bez adekvatnog modela upravljanja (governance) i obuke tima stvara lažni osećaj sigurnosti i povećava operativni rizik.

• Novi izazovi u 2026. godini: Uspon agentne veštačke inteligencije (agentic AI) donosi opasnosti od eskalacije privilegija i nepredvidivog ponašanja, zbog čega institucije poput CISA-e zahtevaju postavljanje striktnih kočnica.

Sajber bezbednost danas podseća na surovi rat iscrpljivanja u kojem napadači konstantno pokušavaju da budu brži, kreativniji i jeftiniji, dok se od odbrane očekuje da bude neprekidno budna, hirurški precizna i spremna da reaguje bez sekunde zastoja. U takvom napetom okruženju, veštačka inteligencija se prirodno nametnula kao tehnološki spasilac. I to sa dobrim razlogom. Kada se pred vama nađu milioni logova, mrežnih događaja, cloud signala i identitetskih anomalija, ljudski analitičari u centru za bezbednosne operacije (SOC) prosto više ne mogu sami da obrade taj strahovit priliv informacija.

Zbog toga se AI danas masovno koristi za otkrivanje pretnji (threat detection), analizu zlonamernog softvera (malware analysis), prepoznavanje fišing napada i automatizaciju odgovora na incidente (incident response). Na prvi pogled, računica je jasna: ako mašina može da vidi više i reaguje brže, zašto joj ne bismo prepustili volan?

Međutim, sajber odbrana nikada nije bila isključivo tehnička disciplina. Ona je duboko povezana sa procenom rizika, pravnom odgovornošću i kontinuitetom poslovanja. Kada sistem napravi pogrešnu klasifikaciju, previdi sofisticirani napad ili greškom ugasi kritične korporativne servise, otvara se pitanje koje nijedan matematički model ne može da reši – ko je odgovoran? AI može biti vrhunski saveznik, ali on nije pravni subjekt, krizni menadžer niti entitet koji će polagati račune pred upravnim odborom, klijentima i regulatorima. Tehnologija može ubrzati donošenje odluke, ali ne može preuzeti njen moralni i institucionalni teret.

Zašto je AI postao neizbežan u sajber odbrani

Budimo potpuno realni: bez podrške veštačke inteligencije, savremena sajber odbrana na velikoj skali prosto ne bi mogla da funkcionise. Tradicionalni sistemi zasnovani na fiksnim pravilima (rule-based) i ručna analiza odavno su kapitulirali pred napadačima koji koriste automatizaciju i napredne generativne modele za kreiranje pretnji koje se menjaju iz sata u satu.

Implementacija AI modela donosi četiri ključne prednosti:

• Maksimalno ubrzanje: Trenutna obrada masovnih setova podataka i uspešno izdvajanje stvarnih pretnji iz digitalnog šuma.

• Prepoznavanje suptilnih anomalija: Uočavanje neobičnih obrazaca i devijacija koje klasični antivirusni skeneri ne mogu da detektuju jer nemaju fiksni potpis pretnje.

• Pametna prioritizacija: Odvajanje kritičnih i opasnih incidenata od onih koji su prosto „glasni“ ali bezopasni, čime se sprečava zamor analitičara.

• Rasterećenje kadra: Oslobađanje bezbednosnih timova od monotonih, repetitivnih zadataka, čime dobijaju vreme da se posvete dubljim istragama i strategiji.

Ipak, mnoge organizacije ovde prave opasnu grešku. Umesto da veštačku inteligenciju posmatraju kao moćno pojačanje za svoje stručnjake, oni počinju da je tretiraju kao jeftinu zamenu za nedostatak stručnog kadra i procesa. To kratkoročno može delovati finansijski primamljivo, ali dugoročno stvara odbrambeni sistem koji je izuzetno brz, ali ujedno i ekstremno krhak.

Gde je AI zaista bolji od čoveka, a gde gubi bitku

Da bismo izgradili efikasnu odbranu, moramo precizno mapirati snage i slabosti oba aktera. Veštačka inteligencija briljira u sferama koje zahtevaju brzinu, skalabilnost i obradu suvih statističkih verovatnoća.

Jedan od najboljih primera je analitika ponašanja korisnika i entiteta (UEBA). AI sistemi mogu neprekidno da prate ponašanje hiljada naloga na mreži i da momentalno uoče ako neki nivo pristupa resursima ili vreme logovanja odudara od uobičajene istorije tog zaposlenog. Podjednako dobro funkcioniše i u detekciji fišing kampanja, gde prepoznaje suptilne lingvističke obrasce i tehničke indikatore kompromitacije znatno brže od čoveka.

Međutim, bezbednost nije samo prosta igra verovatnoće. U tabeli ispod možemo videti jasnu podelu operativnih sposobnosti:

Iskusni analitičar ili direktor informacione bezbednosti (CISO) ne posmatra bezbednosni incident samo kao skup tehničkih parametara na ekranu. Čovek donosi odluku na osnovu šire slike: koliki je stvarni značaj ugroženog sistema za rad kompanije, kakav je profil napadača, koji su zakonski i regulatorni rokovi za prijavu incidenta i kako će na vest reagovati klijenti i javnost. AI može signalizirati pretnju, ali ne može izvagati da li je u kriznom momentu pametnije potpuno izolovati ključni server i svesno zaustaviti rad kompanije, ili prihvatiti određeni tehnički rizik kako bi se sprečili milionski poslovni gubici.

Zamka slepe automatizacije i uspon agentnih sistema

Automatizacija je koristan alat, ali preveliko i slepo oslanjanje na nju rađa ozbiljan fenomen poznat kao pristrasnost prema automatizaciji (Automation bias). To je psihološka tendencija zaposlenih i menadžmenta da podsvesno veruju odlukama sistema više nego sopstvenoj proceni, samo zato što je softver brz, samouveren i u većini slučajeva tačan. Kada kontrolna tabla (dashboard) postane važnija od glasa inženjera na terenu, greške i suptilni napadi mogu proći potpuno neprimećeni jer su dobili „zeleno svetlo“ od algoritma.

Ovaj rizik je dodatno eskalirao sa usponom agentne veštačke inteligencije (agentic AI) – autonomnih AI agenata koji mogu samostalno da izvršavaju čitave lance povezanih operacija na mreži bez traženja odobrenja.

Vodeće svetske bezbednosne agencije, uključujući i američku CISA-u, izdale su zvanična upozorenja u kojima naglašavaju da autonomni bezbednosni agenti otvaraju opasne praznine u odgovornosti (accountability gaps), rizike od neželjenog ponašanja modela i neovlašćene eskalacije privilegija.

Preporuka regulatora je jasna: ne smemo dodeljivati široka i neograničena prava autonomnim softverima nad kritičnom infrastrukturom. Odbrana mora biti organizovana kroz strogo kontrolisane koncepte kao što su čovek u petlji (human-in-the-loop) ili čovek iznad petlje (human-on-the-loop), gde veštačka inteligencija obrađuje podatke i predlaže korake, ali čovek zadržava eliminatornu reč i ruku na kočnici.

Ko zapravo nosi teret odgovornosti kada sistem zakaže

Ako stvar ogolimo do kraja, odgovor je kristalno jasan – odgovornost uvek i bez izuzetka snose ljudi. Pošto mašina ne može da odgovara pred zakonom i tržištem, odgovornost unutar jedne organizacije mora biti precizno mapirana:

• Razvojni timovi i dobavljači: Odgovorni su za arhitekturu modela, kvalitet podataka za trening i transparentno deklarisanje limita i ranjivosti softvera.

• Bezbednosni inženjeri (SOC tim): Odgovorni su za svakodnevni nadzor, pravilno podešavanje (tuning) sistema i kritičko preispitivanje svake mašinske preporuke.

• Top-menadžment kompanije: Snosi najveći teret jer je dužan da obezbedi adekvatan model upravljanja (AI governance), budžet za kontinuiranu obuku ljudi i jasne bezbednosne protokole.

Formulacija da je „AI doneo pogrešnu odluku“ pravno i operativno ne postoji. Veštačka inteligencija je samo proizvela određeni računarski izlaz. Odluku da se tom izlazu slepo poveruje i da se na osnovu njega uredi odbrambeni sistem uvek donose ljudi.

Primer iz prakse: Kako sitan kontekst menja sve

Zamislimo realan scenario u velikoj korporativnoj mreži. Pametni sistem za detekciju anomalija uočava da administratorski nalog u tri sata ujutru pristupa osetljivim serverima, preuzima sistemske konfiguracione fajlove i pokušava da uspostavi vezu sa eksternom IP adresom. Algoritam ovo ponašanje prepoznaje kao školski primer krađe podataka, momentalno izoluje nalog i blokira kompletan mrežni saobraćaj tog sektora.

• Scenario A (Uspeh odbrane): Tim analitičara hitno proverava alarm, potvrđuje da su akreditivi administratora ukradeni na jednom fišing sajtu i preuzima kontrolu. AI je ovde odradio vrhunski posao jer je skratio vreme reakcije i sprečio katastrofalno curenje podataka.

• Scenario B (Operativni autogol): Ispostavlja se da je reč o stvarnom internom sistem-administratoru koji je morao hitno da pokrene vanrednu migraciju servera nakon iznenadnog pada sistema u toku noći. Pošto AI nije imao informaciju o ovom vanrednom poslovnom kontekstu, njegova automatska blokada je prekinula migraciju, srušila baze podataka i nanela kompaniji ogromnu finansijsku štetu.

Ovaj primer savršeno ilustruje suštinu: veštačka inteligencija je fantastičan alat za prepoznavanje neobičnosti, ali je potpuno slepa za razumevanje stvarni smisla i značenja te neobičnosti.

Edukacija tima je i dalje najjeftinija linija odbrane

Dok kompanije troše milione na kupovinu najsavremenijih softverskih licenci, ulaganja u kontinuiranu edukaciju zaposlenih često ostaju u drugom planu. To je kardinalna greška. Korisnička svest, redovne simulacije napada i razumevanje bezbednosnih rizika ostaju najvažniji i najjeftiniji štit svake organizacije.

Ljudski faktor ne treba posmatrati isključivo kao „najslabiju kariku“ u lancu bezbednosti. Dobro obučeni, svesni i motivisani zaposleni, koji blagovremeno sarađuju sa AI alatima, predstavljaju najjači korektivni faktor i ključ uspeha odbrane. Tehnologija koja se instalira u okruženju gde tim nema dovoljno kapaciteta i znanja da je razume i nadgleda samo maskira organizacione slabosti i stvara opasnu prividnu sigurnost.

Zaključak: Budućnost pripada disciplinovanim sistemima

U bliskoj budućnosti svedočićemo još većoj integraciji AI kopilota, autonomnih bezbednosnih tokova rada i decentralizovanih sistema zaštite. To će doneti ekstremnu brzinu, ali će istovremeno podići i rizik da jedna pogrešna algoritamska procena lančano povuče niz štetnih aktivnosti na mreži.

Zbog toga će pobednici u sferi sajber-bezbednosti biti one organizacije koje ne budu slepo jurile za „maksimalnom automatizacijom“, već one koje uspeju da izgrade savršen balans između mašinske brzine i ljudske discipline i nadzora. Budućnost odbrane ne pripada kompanijama koje najglasnije promovišu apsolutnu autonomiju koda, već onima koje imaju dovoljno profesionalne skromnosti da precizno definišu tačku na kojoj veštačka inteligencija mora da stane i prepusti volan čoveku.

Relevantni spoljni izvori:

• NIST AI Risk Management Framework – zvanične smernice za procenu pouzdanosti i upravljanje rizicima u AI sistemima.

• CISA Guidelines on Careful Adoption of Agentic AI Services – zvanično bezbednosno upozorenje o rizicima autonomnih AI agenata iz 2026. godine.

• ENISA – Artificial Intelligence and Next Gen Technologies – izveštaj Evropske agencije za sajber-bezbednost o novim tehnologijama zaštite.

Često postavljana pitanja (FAQ)

Može li veštačka inteligencija u potpunosti da zameni ljude u sajber odbrani?

Apsolutno ne. Iako AI dramatično ubrza proces detekcije, analize i trijaže masovnih podataka, ljudski stručnjaci ostaju nezamenljivi za razumevanje poslovnog konteksta, donošenje kriznih odluka i preuzimanje pravne odgovornosti.

Gde se AI pokazao kao najefikasniji alat u sajber zaštiti?

AI postiže najbolje rezultate u sferama koje zahtevaju obradu ogromnih količina telemetrijskih podataka u realnom vremenu – kao što su detekcija anomalija u ponašanju korisnika (UEBA), klasifikacija i prioritizacija upozorenja, i prepoznavanje složenih fišing obrazaca.

Šta predstavlja pojam „pristrasnost prema automatizaciji“ (Automation bias)?

To je opasna tendencija bezbednosnih analitičara i menadžmenta kompanije da podsvesno više veruju automatskim izveštajima i odlukama softvera nego sopstvenom iskustvu i proceni, što može dovesti do propuštanja suptilnih hakerskih napada koje je sistem pogrešno odobrio.

Koji su najveći bezbednosni rizici uvođenja autonomnih AI agenata (Agentic AI)?

Prema upozorenjima agencije CISA, autonomni agenti donose opasnosti od nepredvidivog ponašanja modela (emergent behaviors), neovlašćene eskalacije privilegija unutar mreže i stvaranja opasnih praznina u odgovornosti kada sistem napravi kaskadnu štetu.

Šta podrazumeva pristup „čovek u petlji“ (Human-in-the-loop)?

To je hibridni model upravljanja bezbednošću u kojem veštačka inteligencija vrši kompletnu obradu podataka, filtriranje i predlaže akcije, ali čovek ostaje obavezna i finalna instanca koja mora ručno da odobri svaku kritičnu ili visokorizičnu operaciju na sistemu.

Zašto AI ne može samostalno da donosi odluke o kriznom menadžmentu?

Zato što algoritam vidi isključivo procente i tehničke parametre, a nema svest o širem društvenom, finansijskom i pravnom kontekstu. AI ne može da proceni da li je za kompaniju u određenom trenutku prihvatljivije da trpi tehnički rizik ili da potpuno ugasi servise i pretrpi milionske poslovne gubitke.