AI u medicini i zdravstvu – Etičke implikacije primene AI u medicini (deo 3) – https://www.itnetwork.rs/ai-u-medicini-i-zdravstvu-eticke-implikacije-primene-ai-u-medicini-deo-3/
Upotreba veštačke inteligencije (AI) u medicinskoj dijagnostici donosi brojne prednosti, omogućavajući brže i preciznije otkrivanje bolesti i personalizovano lečenje. Međutim, prisutnost pristrasnosti u AI modelima predstavlja ozbiljan izazov koji može ugroziti tačnost dijagnoza. Pristrasnost u AI modelima najčešće nastaje zbog nepotpunih ili neraznovrsnih podataka na kojima su modeli obučeni, što može dovesti do netačnih rezultata pogrešnih ili nepotpunih dijagnoza.
Kako nastaje pristrasnost u AI modelima?
AI sistemi se treniraju na velikim skupovima podataka kako bi prepoznali obrasce i donosili odluke. Kvalitet i reprezentativnost ovih podataka igraju ključnu ulogu u osiguravanju nepristrasnih dijagnoza. Ako su podaci na kojima je model obučavan nekompletni ili pristrasni prema određenim demografskim grupama, AI može doneti zaključke koji favorizuju ili diskriminišu određene populacije.
Na primer, ako AI model za dijagnostiku kožnih oboljenja nije obučavan na podacima pacijenata iz različitih etničkih grupa, može biti manje precizan u otkrivanju bolesti kod grupa koje su slabije zastupljene. Slično tome, istorijski podaci koji reflektuju neravnomeran pristup zdravstvenoj nezi među polovima ili starosnim grupama mogu uzrokovati da AI modeli reprodukuju te obrasce pristrasnosti.
Posledice pristrasnosti AI modela za pacijente
Pristrasni AI modeli mogu negativno uticati na zdravlje pacijenata, posebno onih iz demografskih grupa koje su nedovoljno zastupljene u podacima za obuku. Takvi pacijenti mogu dobiti netačne dijagnoze ili neprikladne preporuke za lečenje, što može odložiti ili onemogućiti adekvatnu medicinsku intervenciju. Na primer, ako AI model za procenu rizika od srčanih oboljenja precenjuje rizik kod muškaraca, a potcenjuje kod žena, pacijentkinje mogu biti lišene potrebnih preventivnih mera.
Osim individualnih posledica, pristrasni AI modeli mogu dodatno produbiti zdravstvene nejednakosti na sistemskom nivou. Grupe koje su već marginalizovane, poput etničkih manjina ili osoba sa nižim socioekonomskim statusom, mogu ostati neprepoznate u zdravstvenom sistemu. Time se nejednakosti ne samo održavaju, već i intenziviraju, što je suprotno etičkim principima jednakosti u zdravstvenoj zaštiti.
Primeri pristrasnosti u AI medicinskim modelima
Jedan od poznatih primera je AI sistem za procenu rizika od dijabetesa koji nije imao dovoljno podataka o pacijentima afričkog porekla. Zbog toga su predikcije za ovu grupu bile manje precizne, što je dovelo do propuštanja rane intervencije kod pacijenata visokog rizika.
Slično tome, u oblasti radiologije, neki AI modeli za otkrivanje raka kože pokazali su manju tačnost u dijagnostikovanju kod osoba sa tamnijom bojom kože. Ovi modeli su često trenirani na slikama pacijenata sa svetlijom kožom, što je rezultiralo smanjenom preciznošću u prepoznavanju malignih promena kod etničkih manjina.
Ovakvi primeri ističu potrebu za raznovrsnim i inkluzivnim skupovima podataka kako bi se osigurala nepristrasnost i jednak kvalitet zdravstvenih usluga za sve pacijente.
Strategije za smanjenje pristrasnosti u AI medicinskim modelima
Da bi se smanjila pristrasnost u AI modelima, ključno je obezbediti kvalitetne i raznovrsne podatke. Ovo uključuje prikupljanje informacija od pacijenata iz svih etničkih, socioekonomskih i demografskih grupa, kako bi modeli postali precizniji i reprezentativniji. Dodatno, korišćenje tehnika za balansiranje podataka tokom obuke može pomoći u smanjenju rizika od pristrasnosti.
„Objašnjiva veštačka inteligencija“ (Explainable AI) predstavlja još jedno rešenje koje omogućava medicinskim stručnjacima da razumeju procese donošenja odluka u AI modelima. Transparentnost u analizi podataka i odluka AI sistema omogućava lekarima i istraživačima da prepoznaju potencijalne izvore pristrasnosti i preduzmu odgovarajuće korektivne mere.
Transparentnost u razvoju i primeni AI sistema takođe je ključna. Nezavisne revizije i evaluacije mogu pomoći u identifikaciji pristrasnosti pre nego što model uđe u kliničku praksu. Na taj način, zdravstveni sistemi mogu osigurati da AI modeli rade nepristrasno i pružaju jednako kvalitetne usluge za sve pacijente.
Zaključak
Pristrasnost u AI modelima za medicinsku dijagnostiku predstavlja ozbiljan izazov koji može ugroziti tačnost i pravičnost u pružanju zdravstvene nege. Da bi AI sistemi postali pouzdani i pravedni alati u medicini, neophodno je uložiti napore u obezbeđivanje raznovrsnih i kvalitetnih podataka, razvoj objašnjivih algoritama i implementaciju transparentnih procedura.
Kombinacija tehničkih, etičkih i regulatornih strategija omogućava da AI postane nepristrasan i efektivan saveznik lekara u dijagnostici. Samo kroz ovakve mere možemo osigurati da AI doprinese smanjenju zdravstvenih nejednakosti i pruži jednak kvalitet usluga svim pacijentima, bez obzira na njihovu demografsku pripadnost.
Nastaviće se…
Milena Šović, M.Sc.,CSM
Prompt Engineer & AI Educator