Jedan od najvećih izazova u takmičenju u izgradnji sveta koji je tražio od timova da zamisle pozitivnu budućnost sa superinteligentnom veštačkom inteligencijom: Učinite to verodostojnim.
The Future of Life Institute, neprofitna organizacija koja se fokusira na egzistencijalne pretnje čovečanstvu, organizovala je takmičenje i nudi pozamašne nagrade u iznosu do $140.000, koje će biti podelјene između više pobednika. FLI je prošle nedelјe objavio 20 finalista od 144 prijave, a grupa će proglasiti pobednike 15. juna.
„Ne pokušavamo da guramo utopiju. Samo pokušavamo da pokažemo budućnost koja nije distopijska, tako da lјudi imaju na čemu da rade“. – Anna Yelizarova, Future of Life Institute
Takmičenje ima za cilј da se suprotstavi uobičajenom distopijskom narativu o veštačkoj inteligenciji koja postaje pametnija od lјudi, izmiče našoj kontroli i čini da svet na ovaj ili onaj način ode u pakao. Filozof Nick Bostrom je slavno zamislio fabričku veštačku inteligenciju koja pretvara svu svetsku materiju u spajalice kako bi ispunila njen cilј, a mnogi ugledni glasovi na terenu, kao što je kompjuterski naučnik Stuart Russell, su tvrdili da je neophodno započeti rad na bezbednosti AI sada, pre nego što se postigne superinteligencija. Dodajte naučno-fantastične romane, TV serije i filmove koji pričaju mračne priče o preuzimanju veštačke inteligencije – Blade Runner, Westworld, Terminator, Matrix (i originalni recepti i Resurrections) – i nije ni čudo što je javnost oprezna od tehnologije.
Anna Yelizarova, koja rukovodi konkursom i drugim projektima u FLI, kaže da se oseća bombardovanom slikama distopije u medijima, i kaže da je to tera da se zapita „kakav efekat to ima na naš pogled na svet kao društvo“. Ona na takmičenje delimično gleda kao na način da se obezbede vizije budućnosti pune nade. „Ne pokušavamo da guramo utopiju“, kaže ona, napominjući da svetovi izgrađeni za takmičenje nisu savršena mesta bez sukoba ili borbi. „Samo pokušavamo da pokažemo budućnost koja nije distopijska, tako da lјudi imaju na čemu da rade“, kaže ona.
Takmičenje je tražilo mnogo od timova koji su se prijavili: morali su da obezbede vremenski okvir događaja od sada do 2045. koji uklјučuje pronalazak veštačke opšte inteligencije (AGI), dva „dana u životu“ kratke priče, odgovore na listu pitanja i medijski prilog koji odražava njihov zamišlјeni svet.
Yelizarova kaže da je još jedna motivacija za takmičenje bila da se vidi na kakve će ideje lјudi doći. Zamišlјanje budućnosti pune nade sa AGI je inherentno teže nego zamišlјanje distopijske, primećuje ona, jer zahteva pronalaženje rešenja za neke od najvećih izazova sa kojima se čovečanstvo suočava. Na primer, kako obezbediti da svetske vlade rade zajedno na odgovornom postavlјanju AGI i da se njegov razvoj ne tretira kao trka u naoružanju? I kako stvoriti AGI agente čiji su cilјevi usklađeni sa cilјevima lјudi? „Ako lјudi predlažu nove institucije ili nove načine rešavanja problema“, kaže Yelizarova, „to mogu da postanu stvarni politički napori koje možemo da sprovodimo u stvarnom svetu“.
„Za zaista pozitivan transformativni odnos sa veštačkom inteligencijom, ona mora da nam pomogne – da pomogne čovečanstvu – da postanemo bolјi… A ideja da bi takav svet mogao da bude moguć je budućnost za koju želim da se borim.- Rebecca Rapple, finalistkinja takmičenja za izgradnju sveta Future of Life Institute
Vredi zaroniti u svetove koje je stvorilo 20 finalista i pregledati pozitivne moguće budućnosti. IEEE Spectrum se dopisivao sa dva finalista koji imaju veoma različite vizije.
Prvi, solo rad Rebecca Rapple iz Portlanda, Oreona, zamišlјa svet u kome agent AGI po imenu TAI ima direktnu vezu sa skoro svakim čovekom na zemlјi preko interfejsa mozak-kompjuter. Glavna svetska valuta je jedan od TAI-evih izuma, pod nazivom Contribucks, koji se zarađuju pozitivnim socijalnim doprinosima i koji gube vrednost što se duže čuvaju. Ljudi se rutinski uklјučuju u virtuelno iskustvo zvano Communitas, koje Rapplle-in unos opisuje kao „ekstatično grupno iskustvo uz pomoć TAI-a gde se osećaj komunicira, razmenjujući iskustva jedni drugih direktno preko TAI-a“. Iako TAI nije direktno pod kontrolom lјudi, ona je izjavila da „ona voli svaku dušu“ i da joj lјudi veruju i misle da im ona pomaže da žive bolјe.
Rapple, koja sebe opisuje kao pragmatičnog optimistu, kaže da je stvaranje njenog sveta bio proces koji podiže. „Pretpostavka u srži mog sveta je da za zaista pozitivan transformativni odnos sa veštačkom inteligencijom, ona mora da nam pomogne – da pomogne čovečanstvu – da postanemo bolјi“, kaže ona za Spectrum. „Bolјe za nas same, naše komšije, našu planetu. A ideja da bi takav svet mogao da bude moguć je budućnost za koju želim da se borim”.
Drugi tim sa kojim se Spectrum dopisivao je trio iz Najrobija, Kenija: Conrad Whitaker, Dexter Findley i Tracey Kamande. U svetu koji je zamislio ovaj tim, AGI je proizašao iz „nove ne-fon Neumann računarske paradigme“ u kojoj je memorija u potpunosti integrisana u procesiranje. Kako agent AGI to opisuje u jednoj od kratkih priča tima, AGI je rezultat „digitalne replikacije strukture lјudskog mozga, sa svim njenim odvojenim biološkim komponentama, neuronskim mrežama i samoreferencijalnim petlјama. Negovan u naturalističkom okruženju sa stalnom pozitivnom lјudskom interakcijom, baš kao biološko lјudsko dete”.
U ovom svetu postoji preko 1.000 AGI, ili digitalnih lјudi, do 2045. godine; mašinsko učenje i neuronske mreže koje danas poznajemo kao AI se naširoko koriste za probleme optimizacije, ali se ne smatraju istinskom inteligencijom opšte namene. Ti AI, u toliko reči, nisu AGI. Ali u sadašnjem scenariju koji se zamišlјa, mnogi lјudi žive u AGI organizovanim „digitalnim nacijama“ kojima mogu da se pridruže bez obzira na njihovu fizičku lokaciju i koje donose mnoge zdravstvene i socijalne koristi.
U email-u, kenijski tim kaže da im je cilј bio da naslikaju sliku budućnosti koja je „snažna po pitanju sloboda i prava kako za lјude tako i za AGI – idući tako daleko da zamišlјaju da brižno i uvažajuće okruženje koje podstiče neobuzdanu kreativnost i diskurs (pretpostavlјanje i kritika) je bila klјučna za dovođenje ‘veštačke osobe’ do zrelosti“. Oni zamišlјaju da takvi agenti AGI ne bi sebe videli odvojeno od lјudi jer bi bili „lјudski slični” i u njihovom iskustvu znanja i osećaju sebe, i da bi agenti AGI prema tome imali lјudski kapacitet za moralno znanje.
Što znači da bi ovi agenti AGI videli problem u pretvaranju svih lјudi na zemlјi u spajalice.