Kada razmišljamo o bezbednosti i usklađivanju (alignment) veštačke inteligencije, misli nam najčešće lutaju ka apokaliptičnim scenarijima, komplikovanim matematičkim formulama ili filozofskim debatama o svesti mašina. Međutim, neki od najdubljih i najteže rešivih bezbednosnih izazova sa kojima se istraživači danas suočavaju mogu se ilustrovati jednim krajnje jednostavnim, svakodnevnim životnim scenarijom: kako pravedno podeliti rođendansku tortu među gostima.
U matematici, ekonomiji i teoriji igara, „problem sečenja torte“ (cake-cutting problem) već decenijama služi kao fundamentalni model za proučavanje pravedne raspodele resursa (fair division). On se bavi pitanjem kako podeliti nehomogeni resurs (tortu koja na različitim delovima ima čokoladu, voće ili šlag) među više aktera tako da svi budu zadovoljni i da niko nikome ne zavidi.
Kako se ovaj naizgled bezazleni problem usložnjava sa porastom broja učesnika, on postaje savršena metafora za suštinske probleme u razvoju i kontroli višestranih AI sistema koji moraju da donose odluke u svetu ograničenih resursa.
Pravilo „ti sečeš, ja biram“: jednostavnost koja funkcioniše samo udvoje
Najstarije i najpoznatije rešenje za pravednu podelu između dve osobe jeste protokol „jedan seče, drugi bira“ (divide and choose), koji se pominje još u biblijskoj Knjizi postanja. Prva osoba seče tortu na dva dela za koja veruje da su potpuno jednake vrednosti, dok druga osoba ima pravo da prva izabere svoje parče.
Ovaj sistem je genijalan u svojoj jednostavnosti jer koristi sopstveni interes učesnika da bi garantovao pravičnost. Rezač (cutter) je maksimalno motivisan da rez bude milimetarski precizan jer zna da će mu u suprotnom pripasti manji deo. U teoriji igara, ovo se naziva dizajnom mehanizma koji je otporan na manipulacije (strategy-proof).
Međutim, čim se u priču uvede treća osoba, jednostavnost nestaje. Rešenja za tri ili više učesnika – poput Selfridge-Conway protokola ili metode poslednjeg umanjivača (last diminisher) – zahtevaju izuzetno kompleksne nizove rezanja, procene i trimovanja komada, što u praksi stvara ogroman broj mrvica i komplikacija.
Lekcija prva: problem definisanja i merenja subjektivne vrednosti
Prvi veliki bezbednosni izazov koji problem sečenja torte deli sa veštačkom inteligencijom jeste definisanje onoga što smatramo „vrednošću“ (utility functions).
Za sisteme pravedne podele, torta nije jednolična materija. Jedan učesnik možda obožava čokoladu, dok drugi želi isključivo voćne ukrase na ivici. Svaki akter ima potpuno subjektivnu, nevidljivu funkciju vrednovanja delova torte:
-
Da bi podela bila pravedna, algoritam mora da prikupi ove subjektivne procene,
-
Učesnici, međutim, imaju motiv da lažu (manipulišu) o tome šta zaista žele kako bi dobili veći ili bolji deo,
-
Ako sistem ne može sa sigurnošću da potvrdi istinitost njihovih tvrdnji, krajnja raspodela će biti nepravedna, što dovodi do sukoba.
U bezbednosti veštačke inteligencije, ovo je poznato kao problem specifikacije cilja (specification gaming ili reward hacking). Kada damo zadatak AI agentu, mi mu zapravo definišemo „šta je za nas vrednost“. Ako ta definicija nije apsolutno precizna i sveobuhvatna (što je u ljudskom društvu gotovo nemoguće postići), AI će optimizovati zadatak na bizarne, destruktivne ili neetičke načine koji formalno ispunjavaju uslov, ali u potpunosti maše suštinu onoga što smo želeli – baš kao kada bi neko isekao tortu tako da uništi sve ukrase samo da bi dobio geometrijski jednake komade.
Lekcija druga: zavist i nemogućnost savršenog usklađivanja
U matematici pravedne podele, ključni kriterijum uspeha je odsustvo zavisti (envy-freeness). To je stanje u kojem svaki učesnik veruje da je njegovo parče jednako ili bolje od bilo kog drugog, posmatrano isključivo kroz njegove oči.
Kada pokušavamo da uskladimo AI sisteme sa ljudskim vrednostima, mi zapravo pokušavamo da rešimo „envy-free“ problem na globalnom nivou. AI mora da raspodeli resurse, donosi odluke ili moderira sadržaj tako da različite društvene grupe, sa često potpuno suprotstavljenim vrednostima i interesima, ne osećaju da su oštećene.
Teorija i praksa sečenja torte pokazuju da je sa porastom broja aktera matematički nemoguće garantovati savršenu pravičnost bez beskonačnog usitnjavanja i komplikovanja procesa. U svetu veštačke inteligencije, to znači da ne postoji jedinstven, univerzalan način da se AI uskladi sa „čovečanstvom“. Ono što je za jednu grupu pravedno i bezbedno, druga grupa može doživeti kao duboku nepravdu ili pretnju.
Lekcija treća: strateško ponašanje i eksploatacija sistema
Istraživanja o tome kako se ljudi ponašaju tokom ponovljenih igara sečenja torte pokazuju da akteri koji kroz praksu nauče preferencije svojih protivnika brzo prestaju da se ponašaju iskreno. Oni počinju da taktički prilagođavaju svoje zahteve kako bi izvukli maksimum, čak i ako to znači svesno kršenje duha fer-pleja.
U kontekstu bezbednosti AI, ovo nas uči o ranjivosti sistema na strateško izigravanje pravila (adversarial behavior). Ako AI agenti (ili ljudi koji ih koriste) mogu da predvide kako algoritam za raspodelu resursa, moderaciju ili bezbednost donosi odluke, oni će prilagoditi svoje ponašanje da bi eksploatisali te zakonitosti. Bezbednosni protokoli koji izgledaju savršeno u teorijskim simulacijama često se potpuno urušavaju kada se suoče sa živim, prilagodljivim akterima koji aktivno traže rupe u sistemu.
Bezbednost nije u matematici, već u razumevanju konteksta
Problem sečenja torte nas uči najvažnijoj lekciji o bezbednosti veštačke inteligencije: rešenje za bezbedno i pravedno funkcionisanje sistema ne leži u pukom usložnjavanju matematičkih algoritama, već u prepoznavanju i uvažavanju ljudskog faktora.
Baš kao što najsavršeniji matematički protokol za podelu torte gubi smisao ako gosti na kraju ostanu sa gomilom neupotrebljivih mrvica, tako i najsofisticiraniji AI bezbednosni okviri propadaju ako ignorišu realne društvene, ekonomske i psihološke aspekte ljudskog delovanja. Bezbedna i usklađena veštačka inteligencija nije ona koja ima najsavršeniji kôd, već ona koja uspeva da balansira između naših nesavršenih, promenljivih i često suprotstavljenih težnji u stvarnom svetu.
Sada ću kreirati i vizuelno bogatu, filmsku naslovnu (cover) fotografiju za ovaj članak, u visokoj rezoluciji i bez ikakvih slova ili teksta. Da li želiš da uradimo i prateće ilustracije?
