U protekle dve godine globalno poslovno okruženje zahvatila je nezapamćena zlatna groznica. Od malih startapa do multinacionalnih korporacija sa liste Fortune 500, svi su ušli u bespoštednu trku implementacije generativne veštačke inteligencije. Kompanije ubrzano integrišu velike jezičke modele u korisničku podršku, automatizuju finansijske analize, prepuštaju algoritmima selekciju kandidata za posao i implementiraju autonomne softverske agente u osnovne poslovne procese. Pokretačka snaga ovog talasa uglavnom je strah od zaostajanja (FOMO) – uverenje da će svako ko odmah ne usvoji nove tehnologije nestati sa tržišta.
Međutim, dok se budžeti prelivaju u razvojna odeljenja, a rukovodioci se utrkuju ko će pre objaviti novo AI partnerstvo, u većini upravnih odbora vlada zaglušujuća tišina oko jednog suštinskog pitanja: ukoliko sistem počne da halucinira, diskriminiše korisnike, generiše lažne finansijske izveštaje ili procuri poverljive podatke klijenata, ko u našoj kompaniji ima ovlašćenje, znanje i odgovornost da pritisne crveni taster i momentalno zaustavi taj proces?
Upravljanje veštačkom inteligencijom (AI governance) više nije teorijska rasprava akademika i etičara. To je postalo pitanje elementarne operativne bezbednosti, pravne odgovornosti i opstanka brenda u digitalnom dobu.
Trka za inovacijama i opasna tišina u vrhu kompanije
Kada posmatramo prosečnu modernu organizaciju, proces uvođenja novih AI alata često se odvija stihijski. Razvojni timovi i produkt menadžeri žele brze rezultate kako bi demonstrirali inovativnost. Marketinška odeljenja traže personalizovane kampanje generisane u sekundi, dok operativni direktori vide priliku za dramatično smanjenje troškova radne snage.
U tom jurišu na efikasnost, kontrolni mehanizmi se često posmatraju kao smetnja:
-
Iluzija nepogrešivosti tehnologije: Mnogi menadžeri netačno pretpostavljaju da su komercijalni modeli tehnoloških giganata već „rešeni“ i bezbedni za upotrebu van kutije, zaboravljajući da su ti modeli u svojoj srži verovatnosne crne kutije sklone nepredvidivim devijacijama.
-
Difuzija odgovornosti: Inženjeri smatraju da je procena rizika posao pravne službe; pravna služba veruje da je to u nadležnosti IT bezbednosti; IT bezbednost se brine samo o spoljnim napadima, dok upravni odbor naivno misli da operativni direktori drže sve pod kontrolom.
-
Pritisak investitora: Zahtevi deoničara za brzim usvajanjem AI tehnologija stvaraju klimu u kojoj se postavljanje neprijatnih pitanja o rizicima doživljava kao nedostatak vizije ili tehnološki pesimizam.
Rezultat je opasan paradoks: kompanije implementiraju tehnologiju koja donosi autonomne odluke, a da pritom nisu definisale jasnu liniju ljudske komande koja te odluke može da poništi.
Sindrom crvenog tastera: ko zapravo sme da povuče ručnu kočnicu
Zamislite scenario u kome automatizovani AI asistent u bankarskom sektoru počne da odobrava kredite po parametrima koji indirektno krše zakone protiv diskriminacije, ili zdravstveni algoritam počne da preporučuje pogrešne protokole lečenja. Šta se dešava u prvim minutima krize?
U većini kompanija nastupa paraliza:
-
Pravna služba (Legal & Compliance): Poseduje svest o regulatornim kaznama, ali nema tehničku ekspertizu da razume šta se zapravo dogodilo u neuronskoj mreži, niti ima pristup serverima da isključi model. Pored toga, njihove procedure su tradicionalno spore i traže dane za analizu.
-
Tehnički direktor (CTO) i IT sektor: Imaju tehničku mogućnost da ugase sistem, ali se plaše operativnog zastoja, pada prihoda i gubitka reputacije pred upravom ukoliko se ispostavi da je reakcija bila preuranjena.
-
Direktor bezbednosti informacija (CISO): Zadužen je za sajber-napade i zaštitu perimetra, ali često nema mandat da interveniše u poslovnoj logici algoritama koje je odobrilo odeljenje za razvoj poslovanja.
-
Izvršni direktor (CEO): Nađe se pred nemogućim izborom, rastrzan između finansijskih gubitaka usled prekida rada sistema i katastrofalne štete po brend ukoliko se incident nastavi.
Ako kompanija pre lansiranja AI rešenja nije precizno definisala protokol za hitno zaustavljanje rada (kill switch protocol) i dodelila jasna ovlašćenja određenoj osobi ili telu, cena neodlučnosti u kriznim trenucima meri se milionima evra i nepovratnim gubitkom poverenja korisnika.
Siva zona senovite inteligencije u svakodnevnom radu
Čak i u organizacijama koje formalno nisu uvele složene AI sisteme, iluzija je misliti da je kompanija zaštićena. Svaka firma danas se suočava sa fenomenom poznatim kao „Shadow AI“ (senovita inteligencija).
Zaposleni na svim nivoima – od pripravnika do srednjeg menadžmenta – svakodnevno koriste javno dostupne alate kao što su ChatGPT, Claude ili Midjourney kako bi ubrzali sopstveni rad. U te alate se unose nerevidirani finansijski izveštaji, nacrti novih patenata, medicinski dosijei, baze podataka klijenata, pa čak i poverljivi delovi programskog koda kako bi ih model optimizovao ili formatirao.
Opasnosti koje izviru iz ove prakse su višestruke:
-
Curenje intelektualne svojine: Podaci uneti u javne modele često se koriste za dalje treniranje sistema, što znači da poslovna tajna vaše firme može postati deo odgovora koji će model sutra ponuditi vašem direktnom konkurentu.
-
Nepouzdani izlazni podaci: Zaposleni nekritički prihvataju halucinirane podatke, netačne proračune ili fabrikovane pravne presude i ugrađuju ih u zvanične izveštaje za klijente.
-
Gubitak kontrole nad tokovima informacija: Menadžment gubi svaki uvid u to koji se podaci nalaze unutar kompanijskih zidova, a koji su poslati na eksterne servere trećih strana.
Zabrana korišćenja ovih alata na nivou kompanije retko donosi rezultate; zaposleni jednostavno prebacuju rad na privatne telefone i kućne računare. Jedini odgovor jeste uspostavljanje zvaničnih, bezbednih internih platformi (enterprise sandboxes) sa strogim pravilima privatnosti i jasnim vodičima šta se sme, a šta nikada ne sme deliti sa modelom.
Regulatorni pritisak i kraj epohe nekontrolisanog eksperimentisanja
Period u kom su tehnološki entuzijasti mogli nekažnjeno da primenjuju krilaticu „kreći se brzo i lomi stvari“ (move fast and break things) nepovratno je završen. Regulatorna tela širom sveta povlače jasne granice, a vodeći primer predstavlja evropski Zakon o veštačkoj inteligenciji (EU AI Act).
Ovaj pravni okvir uvodi strogu kategorizaciju AI sistema prema stepenu rizika:
-
Neprihvatljivi rizik: Sistemi za društveno ocenjivanje (social scoring), manipulativne tehnike koje menjaju ljudsko ponašanje na štetan način i neselektivno biometrijsko prepoznavanje u javnom prostoru su izričito zabranjeni.
-
Visoki rizik: AI sistemi koji se koriste u kritičnoj infrastrukturi, obrazovanju, zapošljavanju (softveri za filtriranje radnih biografija), proceni kreditne sposobnosti i pravosuđu podležu rigoroznim tehničkim i pravnim proverama pre puštanja u rad.
-
Minimalni i ograničeni rizik: Alati poput konverzacijskih botova moraju transparentno obavestiti korisnika da komunicira sa mašinom, dok generisani sintetički sadržaj mora biti jasno označen vodenim žigom.
Kazne za nepoštovanje ovih regulativa dostižu astronomske cifre – do 35 miliona evra ili čak 7% ukupnog godišnjeg prometa kompanije na globalnom nivou. Odbrana pred sudom u stilu „nismo znali da će algoritam tako postupiti“ više nema nikakvu pravnu težinu. Od kompanija se zahteva dokazivo upravljanje, vođenje dnevnika rada modela (audit logs), redovno testiranje na pristrasnost i postojanje stalnog ljudskog nadzora (human-in-the-loop).
Paralelno sa evropskim zakonodavstvom, globalni standardi poput okvira američkog instituta NIST (NIST AI Risk Management Framework) i međunarodnog standarda ISO/IEC 42001 postaju norma koju međunarodni klijenti zahtevaju od svojih dobavljača. Bez formalnog sistema upravljanja, firme će uskoro biti isključene iz ozbiljnih javnih nabavki i poslovnih partnerstava.
Strateški stubovi za uspostavljanje stabilnog AI upravljanja
Kako bi kompanija izgradila okruženje u kom se veštačka inteligencija koristi bezbedno, profitabilno i etički, neophodno je postaviti robusnu strukturu upravljanja. To nije jednokratan projekat, već kontinuirani poslovni proces koji se oslanja na pet ključnih stubova:
-
Popis i klasifikacija svih AI sredstava: Kompanija u svakom trenutku mora imati transparentan registar: koji se modeli koriste, ko je njihov vlasnik u firmi, odakle potiču podaci za njihovo treniranje, sa kojim bazama su povezani i u koju kategoriju rizika spadaju.
-
Interdisciplinarni odbor za AI etiku i bezbednost: Odluka o lansiranju ili gašenju AI projekata ne sme biti prepuštena samo inženjerima ili samo pravnicima. Odbor mora uključivati predstavnike tehnologije, prava, bezbednosti, marketinga, ljudskih resursa, pa čak i spoljne stručnjake za bezbednost podataka.
-
Protokoli validacije i crveni timovi (Red Teaming): Pre puštanja bilo kog modela u produkciju, neophodno je sprovesti simulirane napade. Namerno izazivanje modela upitima koji simuliraju ubacivanje zlonamernih instrukcija (prompt injection), pokušaje izvlačenja poverljivih podataka i testiranje ekstremnih situacija otkrivaju ranjivosti pre nego što do njih dođu zlonamerni akteri ili nezadovoljni korisnici.
-
Neprekidni monitoring i detekcija degradacije (Model Drift): Veliki jezički modeli nisu statični softveri. Njihovi odgovori se mogu promeniti tokom vremena usled promena u podacima ili ažuriranja osnovnog sistema. Automatski sistemi moraju pratiti kvalitet odgovora, stepen tačnosti i frekvenciju anomalija u realnom vremenu.
-
Jasno definisan protokol za zaustavljanje u nuždi: Tačno se mora znati ko ima pravo da donese odluku o prekidu rada sistema, u kom roku inženjeri moraju da je sprovedu, i koji je rezervni plan (fallback mechanism) – da li proces preuzima stariji, deterministički softver ili obučeni ljudski tim.
Novi lider na sceni: uloga vodećeg direktora za veštačku inteligenciju
Kao odgovor na sve veću kompleksnost ove problematike, u modernim korporacijama ubrzano se rađa nova izvršna funkcija: vodeći direktor za veštačku inteligenciju (Chief AI Officer – CAIO).
Ova uloga ne predstavlja samo prepakovanu titulu tehničkog direktora. Dok je CTO fokusiran na infrastrukturu, performanse i skalabilnost, CAIO deluje kao strateški most između nekoliko različitih svetova:
-
Povezuje poslovne ciljeve kompanije sa realnim tehnološkim mogućnostima, sprečavajući ulaganje u nefunkcionalne „hajp“ projekte.
-
Usklađuje tehničku implementaciju sa pravnim regulativama i bezbednosnim standardima.
-
Definiše etičke granice poslovanja i preuzima direktnu odgovornost pred upravnim odborom za integritet svih automatizovanih sistema u firmi.
Prisustvo lidera ovog profila u vrhu organizacije osigurava da veštačka inteligencija dobije strateški nadzor ravnopravan finansijskom ili pravnom sektoru.
Kako izgraditi kulturu odgovornosti bez gušenja tehnološkog rasta
Najveća zabluda sa kojom se lideri suočavaju jeste strah da će uvođenje strogog upravljanja ugušiti inovacije i usporiti rast poslovanja. U praksi se dešava upravo suprotno.
Zamislite automobil bez kočnica. Koliko brzo biste smeli da ga vozite po planinskom putu punom oštrih krivina? Verovatno biste se kretali sporo, u stalnom strahu od sletanja u provaliju. Međutim, kada znate da automobil poseduje vrhunske kočnice, napredne sisteme stabilnosti i vazdušne jastuke, možete sa punim samopouzdanjem pritisnuti gas do optimalne brzine.
Isti princip važi i za upravljanje veštačkom inteligencijom u poslovnom svetu. Čvrsti zaštitni okviri (guardrails), definisane odgovornosti i bezbednosni protokoli nisu prepreka inovacijama; oni su osnovni preduslov koji timovima daje hrabrost da eksperimentišu, grade i skaliraju nova rešenja, sigurni u saznanju da sistem neće ugroziti kompaniju.
Pitanje ko može da zaustavi veštačku inteligenciju zato nije znak nesigurnosti ili straha od budućnosti. To je ultimativni dokaz tehnološke i organizacione zrelosti. Kompanije koje u godinama pred nama budu dominirale svojim industrijama neće biti one koje su stihijski i nekontrolisano prve uvele algoritme u svaki kutak poslovanja, već one koje su naučile kako da tom neobuzdanom snagom upravljaju odgovorno, precizno i bezbedno. Prava kontrola ne leži u sprečavanju napretka, već u sposobnosti da se u svakom trenutku zna ko drži ruku na kormilu.
