Kada je albanski premijer Edi Rama objavio da je Albanija dobila „prvu AI ministarku na svetu“, svetski mediji proglasili su to istorijskim presedanom.
AI ministaka „Dijela”, predstavljena je u liku žene obučene u tradicionalnu albansku nošnju, trebalo je da preuzme upravljanje javnim nabavkama i, prema Raminim rečima, učini tendere „100% slobodnim od korupcije“. Ova smela izjava brzo je privukla pažnju međunarodne javnosti. Međutim, iza glasnih najava krije se medijski spin i politička manipulacija.
Šta je ili ko je „Dijela” zapravo?
Uprkos pompeznim naslovima, „Dijela” nije ministar u pravnom ili političkom smislu.
Radi se o softverskom rešenju integrisanom u državnu platformu e-Albania, prvobitno predstavljenom kao virtuelni asistent za usluge državne uprave. Tek kasnije, kroz politički marketing, „Dijela” je promovisana u „ministarku“ zaduženu za rangiranje ponuda na javnim tenderima. Prema zvaničnim najavama, sistem prikuplja i ocenjuje ponude, ali konačne odluke i dalje ostaju u rukama ljudi. Detalji o ljudskom nadzoru, međutim, nisu javno objašnjeni, što otvara prostor za sumnju u transparentnost procesa.
Albansko zakonodavstvo ne dozvoljava da neživi entiteti, kao što su algoritmi ili softverski programi, budu imenovani za ministre. Stoga je jasno da je premijer Edi Rama koristio marketinške strategije kako bi privukao pažnju Evropske unije i svetske javnosti.
Ko je „Dijelin” kreator?
„Dijela” je razvijena pod okriljem Nacionalne agencije za informatičko društvo Albanije (AKSHI) i integrisana je u platformu e-Albania. Prema izveštajima Associated Press-a, sistem je nastao u saradnji sa kompanijom Microsoft, iako priroda i obim te saradnje nisu precizirani. U ranoj fazi, „Dijela” je funkcionisala kao govorni i tekstualni asistent, obrađujući oko milion digitalnih upita i dokumenata. Kasnije je sistem nadograđen za potrebe javnih nabavki, sa ciljem da rangira ponude na tenderima i time spreči korupciju.
Može li jedna siromašna i tehnološki nerazvijena zemlja sama da iznese projekat ovog obima?
Edi Rama je „Dijelu” predstavio kao „prvog člana kabineta koji nije fizički prisutan“, obećavajući da će ona učiniti tendere potpuno transparentnim, bez mita, pretnji ili sukoba interesa. Prema njegovim rečima, AI će postepeno preuzeti donošenje odluka o pobednicima tendera. Međutim, provera pokazuje da je „Dijela” samo alat u okviru postojeće državne IT infrastrukture, bez jasno definisanih mehanizama za sprečavanje manipulacija ili zaštitu od pristrasnosti. Detalji o ljudskom nadzoru, bezbednosnim merama i odgovornosti ostaju nepoznati.
Takođe, postavlja se pitanje u kojoj meri Microsoft ima pristup osetljivim podacima građana Albanije i da li bi to moglo postati sredstvo za uticaj na političku scenu u zemlji. Osim toga, otvara se pitanje da li Albanija raspolaže dovoljno kvalifikovanim kadrovima koji mogu da održavaju i nadziru ovaj sistem.
Albanska opozicija oštro je kritikovala ovaj potez, nazivajući ga neustavnim. Vođa poslaničke grupe Demokratske stranke, Gazmend Bardi, izjavio je da „premijerov cirkus ne može zameniti pravne akte albanske države“. Čak je i predsednik Bajram Begaj izbegao da „Dijeli” nedvosmisleno pripiše ministarski status, ukazujući na pravnu i političku nejasnoću inicijative.
Problemi transparentnosti i odgovornosti
Ključni problem leži u nedostatku transparentnosti. Nije javno objavljeno koji konkretan model veštačke inteligencije (AI) ili algoritam „Dijela” koristi za procenu ponuda. Da li se radi o modelu mašinskog učenja, pravilo-baziranom sistemu ili kombinaciji različitih pristupa? Da li je model treniran na istorijskim podacima o tenderima ili koristi unapred definisane kriterijume? Bez ovih informacija, nemoguće je proceniti da li je sistem pristrasan, niti da li je u stanju da dosledno i pravedno rangira ponude. Ovaj nedostatak tehničke dokumentacije sprečava nezavisnu proveru i analizu, što je u suprotnosti sa standardima transparentnosti za sisteme veštačke inteligencije koji se koriste u javnom sektoru.
Takođe, ostaje nejasno ko su svi partneri i podizvođači uključeni u razvoj i implementaciju projekta „Dijela”. Istovremeno, nije precizirano ko preuzima pravnu odgovornost u slučaju da algoritam napravi grešku pri dodeli tendera.
Koje obaveze ima Republika Albanija kao kandidat za člana EU
Sistemi koji utiču na ostvarivanje prava ili na odluke organa javne vlasti smatraju se visoko-rizičnim prema AI Act-u Evropske unije i podležu strogim regulatornim zahtevima. Albanija, kao kandidat za člana EU je dužna da poštuje ove zakone.
Na osnovu dostupnih informacija, „Dijela” ne ispunjava ove standarde (postojanje tehničke dokumentacije, nezavisnog audita, mehanizama žalbe…), što postavlja pitanje njene usklađenosti sa evropskim regulativama.
Čak i ugledni svetski mediji naseli na marketinški potez
Globalni mediji, poput Reuters-a i The Guardian-a, preneli su izjave premijera Albanije Edija Rame o „100% čistim tenderima“ i „prvom virtuelnom članu kabineta“, predstavljajući „Dijelu” kao inovativan korak, ali bez dubljeg ulaženja u detalje i provere tehničke i etičke usklađenosti „AI ministarke“ sa važećim zakonima i propisima Republike Albanije i Evropske unije.
Dakle…
„Dijela” je algoritam koji je politički predstavljen kao „ministarka“. S obzirom na dostupne informacije, Ramina obećanja o „100% čistim tenderima“ i Albaniji kao “informatičkoj sili” deluju nerealna i teško ostvariva.
Nije svako rešenje zasnovano na veštačkoj inteligenciji automatski idealno, inovativno, etički ispravno, prihvatljivo i pre svega ostvarivo. To, nažalost, nije sprečilo svet da bez kritičkog osvrta bruji o ovom vešto osmišljenom marketinškom triku.
Milena Šović, M.Sc.,CSM, CSPO
AI Implementation Specialist & Content Trainer
