Ključne poruke: šta je najbitnije u ovom tekstu
-
Human-in-the-Loop Agile nije model u kojem čovek mora da klikne „Approve“ posle svake AI akcije. Takav sistem bi vrlo brzo poništio veliki deo koristi automatizacije.
-
Nije rešenje ni maksimalna autonomija samo zato što su agenti tehnički sposobni da završe zadatak.
-
Praktičan princip: što je odluka reverzibilnija, bolje merljiva i manje rizična, to više autonomije možemo dati AI-ju.
-
Blast Radius određuje ulogu čoveka: što odluka ima veći opseg mogućih posledica – utiče na novac, lične podatke, bezbednost, prava ljudi, produkcionu infrastrukturu ili strateški pravac proizvoda – to je jači argument da čovek ostane u petlji.
Drugim rečima, ispraviti pravopis u dokumentaciji nije isto što i promeniti Authentication sistem. Generisati Draft Release Notes nije isto što i pustiti migraciju baze u produkciju, a predložiti prioritet backlog-a nije isto što i doneti odluku o prekidu šestomesečnog projekta.
To zvuči očigledno, ali u praksi nije. AI sistemi ubrzano prelaze iz uloge pasivnih asistenata u autonomne agente: dobijaju cilj, koriste alate, menjaju fajlove, pozivaju druge servise i izvršavaju višekoračne procese. Ako AI zaista postaje ravnopravan član tima, postavlja se neizbežno pitanje: koje odluke sme da donosi samostalno?
Human-in-the-Loop nije znak da AI još uvek nije dovoljno dobar
Ovo je prva zabluda koju treba ukloniti. Human-in-the-Loop (HITL) se često pogrešno posmatra kao privremena prelazna faza: danas čovek proverava AI, sutra će model biti bolji, a prekosutra ljudski nadzor više neće biti potreban.
To je previše pojednostavljeno gledanje. Kod određenih zadataka ljudska kontrola će se smanjivati kako sistemi budu postajali pouzdaniji, ali kod mnogih drugih prisustvo čoveka nije pitanje tačnosti modela, već pitanje pravne odgovornosti, rizika i poslovne strategije.
Evropski AI Act je jasan primer: njegov član 14 za visokorizične AI sisteme eksplicitno zahteva mogućnost efektivnog ljudskog nadzora tokom korišćenja. Nadzor mora biti proporcionalan riziku, nivou autonomije i kontekstu primene, a osoba kojoj je poveren mora razumeti ograničenja sistema i moći da interveniše ili potpuno zaustavi proces. Pitanje, dakle, nije samo koliko je model precizan, već šta se događa u trenutku kada napravi grešku.
Greška od pet minuta i greška od pet miliona evra
Zamislimo AI agenta koji automatski uređuje format dokumentacije. Ako pogreši, čovek će ispraviti dve rečenice za trideset sekundi i trošak je zanemarljiv.
Međutim, ako agent samostalno odluči da promeni cenu proizvoda u e-commerce bazi, promeni pravila zaštitnog zida (firewall-a), obriše produkcione podatke ili odbije zahtev za kredit, posledica više nije tehnički kuriozitet – ona postaje merljiva šteta. Zato autonomiju u razvoju moramo tretirati isključivo kao funkciju rizika, a ne kao plod tehnološkog entuzijazma.
Praktičan model: verovatnoća × posledica × reverzibilnost
Organizacijama nije potrebna apstraktna filozofska rasprava za svaku AI akciju, već jednostavan okvir koji postavlja tri pitanja:
-
Kolika je verovatnoća da AI pogreši?
-
Kolika je posledica ako do greške dođe?
-
Koliko jednostavno i brzo možemo poništiti tu odluku (Rollback)?
Ako su sva tri faktora povoljna (npr. generisanje internog sažetka sastanka gde originalni transkript uvek postoji), puna autonomija ima smisla. Ako AI menja privilegije pristupa (IAM Policy) na produkciji, potencijalna posledica je ogromna i ljudsko odobrenje je obavezno.
Spektar ljudskog učešća u procesima
U praksi ne postoji crno-bela podela na „odlučuje AI“ ili „odlučuje čovek“. Postoji čitav spektar modela:
-
Human-only: Čovek samostalno obavlja rad i donosi odluke.
-
AI-assisted: AI nudi analizu i predloge, čovek samostalno sprovodi rad.
-
Human-in-the-Loop: AI izvršava veći deo procesa, ali čovek mora da odobri kritičnu tačku pre izvršenja.
-
Human-on-the-Loop: AI radi samostalno, dok čovek pasivno nadgleda sistem i interveniše samo u slučaju anomalije.
-
Human-out-of-the-Loop: Potpuna automatizacija zadatka bez ikakvog neposrednog ljudskog nadzora.
Empirijski pristup preuzet iz Agile okvira
Scrum počiva na transparentnosti, inspekciji i adaptaciji. To je savršena osnova za uvođenje AI autonomije. Ne morate prvog dana prepustiti agentu automatski deployment. Počnite tako što AI samo predlaže rešenje. Merite rezultate. Zatim mu dozvolite da pripremi akciju koju inženjer odobrava. Ponovo merite. Tek kada se sistem pokaže stabilnim na zadacima niskog rizika, prelazite na samostalno izvršavanje uz telemetriju.
Ne automatizujte odluke koje ni ljudi u timu ne razumeju
Ako kompanija ima haotičan proces u kom tri menadžera različito određuju prioritete bez jasnih kriterijuma, prepuštanje backlog-a veštačkoj inteligenciji neće rešiti problem. AI će samo automatizovati nejasnoću i dati joj lažni privid matematičke objektivnosti.
AI model radi isključivo na osnovu podataka, instrukcija i zadate metrike. Ako mu zadate da optimizuje korisnički angažman (engagement), on može predložiti poteze koji dramatično podižu preglede, ali na dugoročnu štetu privatnosti korisnika ili poverenja u brend. Sistem je uradio tačno ono što je traženo, ali je tražena pogrešna stvar. Uloga čoveka u petlji zato nije samo kontrola tehničke greške, već pre svega kontrola smera i poslovnog cilja.
Product Owner ne sme da delegira odgovornost za vrednost. AI može analizirati korisničke tikete, churn i konkurenciju i predložiti šta treba da bude prvi prioritet. Međutim, čovek mora sagledati strateški pravac, raspoložive resurse i reputacioni rizik. Ako tim odbaci ključnu funkcionalnost i izgubi najvećeg klijenta, opravdanje „tako je algoritam predložio“ nije ozbiljno upravljanje poslovanjem.
Zamka formalnog odobravanja: kada čovek postane „pečat“
Uvođenje ljudskog nadzora nosi skrivenu opasnost. Ako sistem ima deklarisanu tačnost od 97%, a inženjer svakog dana dobija 400 notifikacija za odobrenje, vrlo brzo nastupaju zamor od odlučivanja (decision fatigue) i pristrasnost automatizaciji (automation bias). Čovek prestaje da analizira kod i počinje mehanički da klikće „Approve“.
Takav formalni nadzor (Human Rubber Stamp) opasniji je od potpune automatizacije, jer stvara lažan osećaj bezbednosti dok stvarna kontrola ne postoji. Ako operater dnevno dobija stotine zahteva za potvrdu, problem nije u broju zaposlenih, već u lošoj arhitekturi sistema.
Četiri nivoa klasifikacije rizika
-
Nivo 1 – Autonomno (nizak rizik): Formatiranje, nacrti dokumentacije, rutinska kategorizacija, bezbedne izmene koda pokrivene testovima.
-
Nivo 2 – Naknadna provera (niska do umerena posledica): Interne automatizacije i operativne akcije sa dobrom vidljivošću (observability) gde čovek pregleda zbirne izveštaje.
-
Nivo 3 – Obavezno odobrenje (visok uticaj): Izmene kritičnog koda, konfiguracija produkcije, direktne finansijske transakcije.
-
Nivo 4 – Čovek odlučuje, AI savetuje (kritičan rizik): Strateške odluke, pitanja bezbednosti ljudi, odluke sa pravnim posledicama i nepovratne arhitektonske promene.
Primer iz prakse: evolucija Code Review procesa
Tokom 2026. godine GitHub Copilot Code Review prešao je na naprednu agentsku arhitekturu koja koristi širi kontekst repozitorijuma, alate i MCP servere. Već u martu 2026. GitHub je objavio da Copilot učestvuje u više od petine svih pregleda koda na platformi, sa preko 60 miliona izvršenih review-a.
Međutim, masovnost ne znači da je pitanje poverenja rešeno. Predstavljanje alata ReviewBench u oktobru 2026. imalo je za cilj upravo procenu šuma i uspešnosti AI agenata u realnim situacijama. AI recenzent nije jednostavno „dobar“ ili „loš“ – on je fantastičan za pronalaženje sintaksnih propusta, dupliranog koda i poznatih obrazaca, ali senior inženjer mora zadržati fokus na arhitekturi, konkurentnosti, integritetu podataka i bezbednosnim implikacijama.
Tehnički temelji zrelog sistema: Kill Switch i revizijski trag
Autonomija mora dolaziti sa čvrstim inženjerskim ogradama. Pitanje koje svaki tim mora postaviti glasi: koliko štete agent može da napravi pre nego što ga čovek zaustavi?
Zreo Human-in-the-Loop dizajn mora obuhvatiti:
-
Jasne granice dozvola (Permission Boundaries): Definisanje šta agent sme da čita, piše, briše ili pokreće po principu najmanjih privilegija (Least Privilege).
-
Ograničenja resursa: Rate limit za API pozive, budžetska ograničenja potrošnje tokena i timeout-e.
-
Sigurnosne kočnice: Automatske prekidače (Circuit Breakers), mehanizme za rollback i pristupačan Kill Switch.
-
Detaljan revizijski trag (Audit Trail): Zapisivanje korišćenog modela, prompta, konteksta, pozvanih alata i preduzetih akcija. Objašnjenje koje agent naknadno sroči rečima nije dokaz; dokaz su stvarni sistemski logovi.
NIST AI Risk Management Framework, kao i njihovi profili za generativni AI i kritičnu infrastrukturu iz 2026. godine, naglašavaju upravo to: autonomija mora biti praćena merljivim kontrolama pouzdanosti kroz čitav životni ciklus sistema.
Prilagođavanje Agile ceremonija i uloga
Uvođenje AI agenata u razvoj menja i dinamiku tima:
-
Sprint Planning: Kapacitet tima više ne čini samo rad programera, već i kapacitet pregleda AI predloga i rešavanja eskalacija.
-
Daily Scrum: Agent ne mora da podnosi izveštaj, ali tim na tabli mora jasno videti koje su agentske akcije u toku, šta čeka na odobrenje, a gde je sistem blokiran.
-
Retrospective: Retrospektiva mora analizirati lažna odobrenja, situacije u kojima je agent napravio grešku, kao i zadatke niskog rizika koje tim još uvek nepotrebno ručno proverava.
-
Autonomy Debt: Tehnički dug dobija novu dimenziju – procese koje bi AI mogao pouzdano da izvršava, ali ih tim i dalje radi ručno zbog nedostatka testova, logovanja ili infrastrukture za rollback.
Najzreliji AI sistem nije onaj koji slepo preuzima najviše procesa, već onaj koji ima jasnu svest o granicama svojih ovlašćenja i tačno zna u kom trenutku mora da se zaustavi i zatraži odluku inženjera.
Često postavljana pitanja (FAQ)
Šta tačno označava pojam Human-in-the-Loop?
Human-in-the-Loop (HITL) označava sistemski model u kom čovek ostaje aktivna kontrolna tačka u procesu veštačke inteligencije, zadužen za proveru, verifikaciju, korekciju ili odobravanje ključnih odluka pre njihovog trajnog izvršenja.
Da li Human-in-the-Loop podrazumeva ručno odobrenje za svaki korak?
Ne. Zahtevanje potvrde za svaku rutinsku radnju uništava produktivnost i dovodi do zamora operatera. Model se mora primenjivati diferencirano, u zavisnosti od nivoa rizika i mogućnosti oporavka od greške.
Koja je razlika između Human-in-the-Loop i Human-on-the-Loop pristupa?
Kod Human-in-the-Loop modela proces se zaustavlja dok čovek ne da saglasnost za nastavak. Kod Human-on-the-Loop modela AI samostalno izvršava operacije u realnom vremenu, dok čovek nadgleda rad preko telemetrije i interveniše samo ako uoči odstupanje.
Šta predstavlja pojam Blast Radius u kontekstu AI agenata?
Blast Radius označava potencijalni opseg i dubinu štete koju pogrešna AI odluka ili bag mogu proizvesti u sistemu (finansijski gubitak, pad servisa, kompromitovanje baze podataka ili narušavanje bezbednosti).
Da li evropski AI Act nalaže obavezno učešće čoveka?
Da. Član 14 AI Act-a izričito zahteva delotvoran ljudski nadzor za sisteme visokog rizika, uz uslov da osobe koje vrše nadzor poseduju odgovarajuće stručne kompetencije i stvarni autoritet da rad sistema obustave.
Kako prepoznati sindrom formalnog odobravanja (Human Rubber Stamp)?
Kada procenat odbijanja AI preporuka padne na zanemarljiv nivo uprkos velikom broju kompleksnih zahteva, to je jasan signal da inženjeri usled nedostatka vremena samo automatski potvrđuju odluke bez stvarne inspekcije.
Koje metrike tim treba da prati kod uvođenja autonomnih agenata?
Ključne metrike obuhvataju stopu ljudske intervencije (Human Intervention Rate), stopu odbijanja AI rešenja (Override Rate), učestalost eskalacija, broj ponovljenih pokušaja agenta (Retry Rate) i vreme potrebno za rešavanje problema nakon eskalacije.
