Kada se čovečanstvo suoči sa velikim krizama poput pandemija, poplava, požara ili drugih katastrofa, odluke koje se donose u tim trenucima često uključuju težak izbor između različitih zala. Ovakve situacije stavljaju na probu moralne i etičke principe koji vode donosioce odluka, bilo da su to vlade, humanitarne organizacije, medicinski radnici ili tehnološki sistemi.
U slučaju pandemije, jedno od ključnih etičkih pitanja je raspodela ograničenih resursa. Kada je respiratora, vakcina ili lekova manje nego što je potrebno, ko će dobiti prioritet? Mladima ili starijima? Onima sa većim šansama za preživljavanje ili onima koji imaju veće obaveze prema društvu, poput zdravstvenih radnika?
Slično tome, u krizama poput poplava ili požara, humanitarni radnici i spasilačke službe često moraju da odlučuju gde da usmere svoje resurse. Da li spasiti veći broj ljudi u manje ugroženom području ili manji broj onih koji se nalaze u ekstremno rizičnim situacijama? Kako doneti pravednu odluku u trenutku kada je svaki sekund važan?
Ove odluke retko mogu biti potpuno pravedne, jer uvek uključuju žrtvovanje jedne grupe radi spašavanja druge. One postavljaju duboka etička pitanja: da li se vrednost ljudskog života može meriti? Ako može, kako? Ove dileme često zavise od ljudskih sudova, koji su vođeni empatijom, iskustvom, ali i pristrasnostima. Međutim, kako veštačka inteligencija sve više preuzima ulogu u donošenju odluka u kriznim situacijama, ova pitanja dobijaju novu dimenziju.
Veštačka inteligencija i etičke implikacije u kriznim odlukama
U poslednjim decenijama, AI sistemi su počeli da igraju značajnu ulogu u upravljanju krizama. Oni mogu analizirati velike količine podataka, predvideti tok krize i preporučiti najbolje akcije. Na primer, tokom pandemije COVID-19, AI je korišćena za predviđanje širenja virusa, optimizaciju distribucije vakcina i upravljanje resursima u bolnicama. U prirodnim katastrofama, AI se koristi za praćenje požara, predviđanje poplava i koordinaciju spasilačkih napora. Iako je ova tehnologija donela značajne prednosti, njena upotreba postavlja nova etička pitanja.
Ko odlučuje kako AI deluje?
Jedno od najvažnijih pitanja je ko programira algoritme koji će donositi odluke u kriznim situacijama. AI algoritmi deluju na osnovu parametara koje su definisali ljudi. Ko će odrediti šta je prioritet u situacijama kao što su pandemija ili prirodna katastrofa? Na primer:
- Ako bolnica ima samo jedan preostali respirator, da li AI treba da ga dodeli pacijentu koji ima veće šanse za preživljavanje ili mlađoj osobi sa dužim očekivanim životnim vekom?
- U slučaju poplave, da li AI treba da prioritetno evakuiše gusto naseljeno područje ili udaljenu zajednicu koja nema druge resurse za pomoć?
Programeri, vlade i kompanije koje razvijaju AI nose ogromnu odgovornost, jer parametri koje uključe u algoritam mogu imati direktan uticaj na živote ljudi.
Pristrast u algoritmima
Iako AI deluje kao „objektivna“ tehnologija, ona je podložna pristrasnosti koja potiče iz podataka na kojima je obučena. Ako AI dobije podatke koji diskriminišu određene grupe, njene odluke mogu biti pristrasne, čak i ako to nije namerno. Na primer:
- Ako su istorijski podaci o pristupu zdravstvenim uslugama u nekoj regiji neravnomerni, AI može nesvesno favorizovati bogatije regione.
- U kriznim situacijama, sistemi bi mogli favorizovati područja sa većom internet povezanošću, ostavljajući ruralne ili manje razvijene oblasti u nepovoljnom položaju.
Ko snosi odgovornost za odluke AI?
Još jedno ključno pitanje je odgovornost. Ako AI donese odluku koja dovede do smrti ili patnje, ko će biti odgovoran? Da li je to programer koji je dizajnirao algoritam, kompanija koja ga je razvila, ili vlada koja ga je usvojila? Nedostatak jasnog regulatornog okvira ostavlja prostor za neodgovornost, što je naročito problematično u kriznim situacijama.
Gubitak ljudske empatije
Dok je AI veoma efikasan u analizi podataka i optimizaciji procesa, on nema sposobnost empatije. Ljudski sudije često mogu da uzmu u obzir kontekst koji AI ne može. Na primer, medicinski radnik može dati respirator pacijentu ne zato što ima veće šanse za preživljavanje, već zato što ima malu decu koja zavise od njega. AI, zasnovan na statistici, ne bi uzimao u obzir ovakve aspekte.
Kako osigurati etičko korišćenje AI u krizama?
- Transparentnost algoritama: Javnost i nezavisni stručnjaci moraju imati pristup algoritmima kako bi se osiguralo da su odluke koje donosi AI u skladu s etičkim standardima.
- Uključivanje etičara: Razvoj AI za krizne situacije mora uključivati filozofe, etičare i predstavnike različitih društvenih grupa kako bi se obezbedila pravednost.
- Regulacija: Vlade i međunarodne organizacije moraju uspostaviti jasne propise o tome kako AI može biti korišćen u kriznim situacijama.
- Hibridni pristup: Umesto potpunog oslanjanja na AI, najbolje rešenje je saradnja između ljudi i AI, gde ljudi donose konačne odluke uz podršku podataka koje AI obezbeđuje.
Zaključak
Krizne situacije poput pandemija i prirodnih katastrofa zahtevaju donošenje brzih, ali duboko etičkih odluka. Sa rastućom upotrebom AI u ovim kontekstima, moramo se suočiti s pitanjima ko programira te sisteme, koji parametri vode njihove odluke i ko će biti odgovoran za njihove posledice. AI ima ogroman potencijal da spasi živote i optimizuje resurse, ali samo ako je razvijen i korišćen na način koji poštuje ljudsko dostojanstvo i jednakost. U suprotnom, rizikujemo da stvorimo sistem koji, umesto da služi čovečanstvu, postaje njegov sudija i dželat.
Milena Šović, M.Sc.,CSM
Prompt Engineer & AI Educator
