Tramvajska dilema je jedan od najpoznatijih filozofskih eksperimenata koji se koristi za ispitivanje moralnih odluka. Zamislite scenario: nekontrolisani tramvaj juri niz šine. Ako ne učinite ništa, udariće i ubiti petoro ljudi koji se nalaze na pruzi. Međutim, postoji opcija – možete povući polugu i preusmeriti tramvaj na drugu stazu, gde se nalazi jedna osoba koja će biti ubijena. Šta ćete uraditi?
Suština dileme je u izboru između dva zla: aktivnog delanja koje dovodi do žrtvovanja jedne osobe ili pasivnog delanja koje rezultira smrću petoro. Dilema postavlja pitanje da li je opravdano žrtvovati jedan život radi spasavanja više života, što dovodi do suprotstavljanja dve etičke škole mišljenja. S jedne strane, utilitaristi bi tvrdili da je ispravno spasti što više života. S druge strane, deontolozi bi naglasili da je svesno žrtvovanje jedne osobe nemoralno, bez obzira na rezultat.
Ovaj eksperiment je bio teorijski koncept sve dok nas razvoj tehnologije nije doveo u situaciju u kojoj tramvajska dilema više nije samo filozofsko pitanje, već realnost s kojom ćemo se suočiti u bliskoj budućnosti – posebno sa pojavom autonomnih vozila kojima upravlja veštačka inteligencija (AI).
Autonomna vozila i etičke odluke
Kako autonomna vozila postaju sve prisutnija, postaje jasno da će veštačka inteligencija morati da donosi odluke u situacijama sličnim tramvajskoj dilemi. Zamislite automobil koji vozi velikom brzinom i odjednom se nađe u situaciji gde mora da izabere: da udari pešaka koji je pretrčao ulicu ili da skrene i rizikuje život putnika u vozilu. U ovakvim situacijama, AI će morati da proceni ko će preživeti, a ko će stradati.
Ovo otvara pitanja koja nisu samo tehničke prirode, već duboko etička i društvena. Ko će programirati AI koji donosi ovakve odluke? Da li će to biti proizvođač automobila, vlada ili možda sami korisnici? Ko će odlučivati o parametrima koji će se uzimati u obzir pri donošenju odluka – starost, zdravstveno stanje, broj ljudi koji mogu biti spašeni?
Etički izazovi
Jedno od najvećih pitanja je: ko sme da se igra Boga i odlučuje o vrednosti ljudskih života? Zamislite scenario u kojem programeri kompanije odluče da automobil uvek daje prednost pešacima nad putnicima. Kako bi se osećali vlasnici takvih automobila, znajući da je njihov život manje vredan u očima algoritma? Ili obrnuto – ako je vozilo programirano da uvek štiti putnike, šta bi to značilo za sigurnost pešaka?
Još jedan izazov je pitanje starosne dobi. Da li bi AI trebalo da prioritet daje mladima nad starijima? Da li će programeri zaključiti da dete ima veći „potencijal za život“ nego odrasla osoba? Ovo vodi do neprijatnih pitanja o vrednovanju ljudskih života, što direktno dovodi u pitanje ljudsko dostojanstvo.
Pored toga, postoji rizik da vlade ili kompanije koriste algoritme za sprovođenje politika koje mogu biti pristrasne ili diskriminatorne. Ako, na primer, programeri uvedu parametre koji nesvesno favorizuju određene grupe ljudi na osnovu demografskih podataka, to bi moglo dovesti do nepravde.
Ko treba da donosi odluke?
Odgovornost za ovakve odluke leži na više aktera, ali nijedno rešenje nije bez svojih problema. Ako kompanije koje proizvode automobile programiraju algoritme, postoji opasnost da će doneti odluke koje su komercijalno povoljne, ali ne i etički ispravne. Ako vlade preuzmu tu odgovornost, moguće je da će političke pristrasnosti uticati na dizajn algoritama. A ako bi korisnici imali mogućnost da sami biraju kako će AI postupati, rezultat bi mogao biti haos – svako vozilo bi funkcionisalo po različitim etičkim principima, što bi bilo teško regulisati.
Put ka odgovornom rešenju
Najbolje rešenje zahteva interdisciplinarni pristup, gde bi filozofi, etičari, programeri, pravnici i javnost zajednički radili na utvrđivanju standarda. Ovi standardi bi trebalo da budu univerzalni, transparentni i u skladu s osnovnim ljudskim pravima. Autonomna vozila moraju biti programirana tako da smanjuju rizik za sve učesnike u saobraćaju, a ne da favorizuju određene grupe.
Pitanje ko odlučuje ko će preživeti u situacijama nalik tramvajskoj dilemi nije samo tehnološki izazov, već test za celo čovečanstvo. U eri u kojoj AI sve više utiče na naše živote, od vitalnog je značaja da osiguramo da tehnologija bude u službi pravde, jednakosti i poštovanja prema ljudskom životu. Tramvajska dilema, nekada filozofska vežba, sada je stvarnost koja zahteva našu punu pažnju.
Milena Šović, M.Sc.,CSM
Prompt Engineer & AI Educator
