Pristrasnost u modelima veštačke inteligencije predstavlja jedan od najvećih izazova sa kojima se susreće razvoj ove tehnologije. Ona se javlja kada podaci ili algoritmi koje koristimo nesvesno favorizuju ili diskriminišu određene grupe, što dovodi do nepouzdanih i nepravednih odluka. Ovo može imati dalekosežne posledice, od loših poslovnih odluka do diskriminacije u zapošljavanju i netačnih medicinskih dijagnoza. Da bismo izgradili sisteme koji su pouzdani i fer, neophodno je primeniti više pristupa kako bi se minimizovala pristrasnost u svim fazama razvoja AI.
Prvi korak u suzbijanju pristrasnosti je prepoznavanje izvora podataka koji se koriste za obuku modela. Podaci koji nisu reprezentativni (i ne pdnose se na celu populaciju) mogu uneti pristrasnost u model, čak i ako je algoritam tehnički ispravan. Ako se za obuku modela za unapređenje prodaje koriste istorijski podaci kompanije koja je prethodno poslovala isključivo na jednom specifičnom tržištu, na primer u Zlatiborskom kraju, algoritam će nastaviti da replicira obrasce koji su karakteristični za to područje. Ovo može dovesti do nepravednog favorizovanja određene grupe potrošača, dok će ostali, poput stanovnika Vojvodine, biti zanemareni. Algoritam bi, na osnovu takvog uzorka, mogao zaključiti da je potražnja za planinarskom opremom visoka na nivou cele zemlje, što bi rezultiralo donošenjem odluke o distribuciji koja ne odgovara realnim potrebama većine populacije. Takva odluka počiva na ograničenom i nereprezentativnom uzorku, koji ne uzima u obzir različite potrebe i navike šireg tržišta. Zbog toga je važno analizirati kako su podaci prikupljeni i da li verodostojno odražavaju raznolikost populacije koju model treba da obuhvati. Ako se utvrdi da podaci zapostavljaju jednu grupu na račun druge, neophodno je korigovati ih ili uključiti dodatne podatke koji obezbeđuju da sve grupe budu podjednako zastupljene. Najbolji pristup za prikupljanje podataka je primena stratifikovanog uzorkovanja.
Pored kvaliteta podataka, izuzetno je važno da modeli budu dizajnirani tako da minimizuju šansu za donošenje pogrešnih i nepravednih odluka. Ovo podrazumeva pažljivo biranje karakteristika koje model uzima u obzir prilikom donošenja odluka. Na primer, marketingška agencija koja želi da proceni da li treba da ukine kupone koje šalje na kućne adrese i zameni ih online kuponima, odluči da sprovede anketu na svom sajtu. Međutim, ovakav pristup može rezultirati pristrasnim podacima jer stariji korisnici, koji su manje skloni korišćenju interneta, imaju manju verovatnoću da učestvuju u anketi. Ova pristrasnost može dovesti do odluka koje ne odražavaju potrebe celokupne populacije korisnika. U takvim situacijama, neophodno je identifikovati faktore koji mogu uticati na pristrasnost u modelu i prilagoditi proces prikupljanja podataka kako bi se dobili reprezentativni rezultati.
Jedan od načina da se izbegnu greške je uvođenje redovnih provera, odnosno audita modela i podataka. Ovaj proces uključuje analizu podataka kako bi se osiguralo da su reprezentativni za populaciju na koju se odnose, kao i da algoritam ne favorizuje nijednu grupu. Na primer, kompanije koje koriste AI za zapošljavanje mogu pratiti obrasce odbijenih i prihvaćenih kandidata kako bi utvrdile da li postoje sistematske razlike koje ukazuju na pristrasnost. Ako se otkrije da model favorizuje određenu grupu, neophodno je prilagoditi kako algoritam obrađuje određene informacije ili uključiti više podataka koji osiguravaju pravednost.
Svest o problemu pristrasnosti može se dodatno unaprediti kroz kreiranje diversifikovanih timovima ljudi koji rade na razvoju AI. Timovi sačinjeni od ljudi različititog socio-ekonomskog statusa, pola, porekla ili obrazovanja, mogu dati stručno mišljenje o potrebama populacije kojoj pripadaju i identifikovati potencijalne probleme koje članovi iz sličnih društvenih ili profesionalnih grupa ne bi primetili.
Jedan od najvećih izazova u borbi protiv pristrasnosti je činjenica da su neki modeli „crne kutije“, što znači da je njihovo donošenje odluka veoma teško razumeti. Zato je korišćenje transparentnih modela ključno u oblastima gde mogu nastati ozbiljne posledice. Na primer, jednostavni modeli, poput regresije, mogu biti lakše razumljivi i time pogodniji za primenu u oblastima poput zdravstva ili obrazovanja. U visoko rizičnim scenarijima, transparentnost je ključna za izgradnju poverenja.
Pristrasnost u AI modelima nije samo tehnički problem već i duboko etičko pitanje. Njene posledice mogu uticati na ljudska prava, jednake šanse i1 pravdu. Da bi se obezbedila pravičnost, neophodno je primeniti multidisciplinarni pristup koji uključuje tehnološke, sociološke i etičke perspektive. Sa razvojem AI tehnologije, odgovornost za uklanjanje pristrasnosti pada na programere, istraživače i institucije koje koriste ove sisteme.
Borba protiv pristrasnosti u AI modelima je stalan proces koji zahteva svest, posvećenost i kontinuirano poboljšanje. Iako ne možemo u potpunosti eliminisati rizik od pristrasnosti, možemo ga značajno smanjiti kroz pažljiv izbor podataka, transparentan dizajn i redovne provere.
Milena Šović, M.Sc.,CSM
Prompt Engineer & AI Educator
