Sa Arnoldom Švarcenegerom u glavnoj ulozi, blokbaster iz 1984. godine, The Terminator, postao je sinonim za opasnosti superinteligentnih mašina. Međutim, film istovremeno „pomaže i ometa“ naše razumevanje veštačke inteligencije (AI).

U jednoj epizodi HBO-ove serije Silicijumska dolina, lik Ričarda Hendriksa, kojeg glumi Tomas Midldič, objašnjava svoju platformu za mašinsko učenje grupi korisnika, kada jedan učesnik neizbežno pominje Terminatora. „Ne, ne, ne,“ insistira frustrirani Midldič, „Mogu vas uveriti da ovde nema Skynet situacije. Pied Piper nikada neće postati svestan i pokušati da preuzme svet.“ Međutim, već je izgubio publiku.

Sa svojim robotima ubicama i neobuzdanom AI sistemom Skynet, Terminator je postao sinonim za pretnju mašinske inteligencije koja se okreće protiv svojih ljudskih kreatora. Urednici često koriste sliku T-800 robota iz filma za ilustraciju članaka o AI. Robotičar Ronald Arkin koristio je isečke iz filma u svom opominjućem predavanju iz 2013. godine pod nazivom „Kako NE izgraditi Terminatora.“

Međutim, film je mač sa dve oštrice. Filozof Nik Bostrom, autor knjige Superinteligencija iz 2014. godine, koja je popularizovala pojam „neusaglašene AI“ (AI koja nije usklađena sa ljudskim vrednostima i blagostanjem), priznao je da ga supruga često zadirkuje zbog Terminatora i „vojske robota.“ U svojoj knjizi Put ka svesnim mašinama, istraživač veštačke inteligencije Majkl Vuleridž posvetio je celo poglavlje kritici narativa Terminatora o AI.

Iako postoje noviji i realističniji filmovi o veštačkoj inteligenciji, poput Ex Machina i Her, kada je reč o opasnostima tehnologije, Terminator i dalje vlada i 40 godina nakon svog izlaska. „Na neki način, film je sada čak i relevantniji nego kada je izašao,“ rekao je Kameron za The Ringer o filmu i njegovom nastavku iz 1991. godine, „jer je AI sada stvarna pojava sa kojom moramo da se suočimo, dok je tada bila fantazija.“

‘Protiv oružja i protiv mašina’

Ovo je značajno postignuće za film koji zapravo nije posebno zainteresovan za veštačku inteligenciju. Terminator je prvenstveno napeti i mračni triler o nezaustavljivom „čoveku“ koji progoni uplašenu, ali snalažljivu ženu. T-800 je neumoljivi ubica nalik Majklu Majersu iz Noći veštica. Džejms Kameron ga je nazvao „naučno-fantastičnim slasher filmom“. Pored toga, to je film o putovanju kroz vreme sa temom „sudbina protiv volje“, kako je Kameron objasnio.

Kratka premisa filma je da je između 1984. i 2029. godine SAD poverio ceo svoj odbrambeni sistem Skynetu. Jednog dana, Skynet je postao superinteligentan – dobio je sopstveni um – i pokrenuo globalni nuklearni rat. Preživeli ljudi zatim vode decenijsku pobunu protiv Skynetove armije robota. Do 2029. godine, ljudski otpor je na pragu pobede zahvaljujući vođstvu Džona Konora, pa Skynet šalje T-800 (Arnold Švarceneger) u 1984. godinu kako bi ubio Džonovu buduću majku Saru (Linda Hamilton) pre nego što zatrudni. Otpor odgovara tako što šalje Kajla Risa (Majkl Bin) da zaustavi T-800 i spasi Saru. U jednom od onih vremenskih paradoksa, Kajl se spaja sa Sarom i ispostavlja se da je on Džonov otac. Budućnost je spašena.

Terminator je, dakle, triler, ljubavna priča, vremenska refleksija o slobodnoj volji i satira o našoj zavisnosti od tehnologije. Film je protiv korporacija, rata, oružja, i uglavnom protiv mašina. Tehnologija, od automatskih sekretarica do vokmena, često je uključena u scene ubistava u ovom filmu. Međutim, ima vrlo malo toga da kaže direktno o veštačkoj inteligenciji.

Terminator će postati jedan od najprofitabilnijih filmova svih vremena, zaradivši 78,4 miliona dolara, ali Kameron nije očekivao da stvori kulturološki fenomen. Napisao je scenario u starom hotelu u Rimu 1982. godine, nakon što je dobio otkaz na svom prvom režiserskom poslu na filmu Piranha II: The Spawning, a producentkinja Gejl En Herd uspela je da sakupi budžet od svega 6,4 miliona dolara. Glavni glumac, bivši bodibilder neproverenog talenta, nije imao velika očekivanja. Švarceneger je rekao prijatelju za „neki bezvezni film koji radim, biću gotov za par nedelja.“

„U 1920-im godinama, bilo je logično da će mašinska inteligencija hodati i govoriti, poput Frankenštajnovog čudovišta.“

Sam Džejms Kameron očekivao je da će Terminator biti „pregažen“ na bioskopskim blagajnama te jeseni zbog dva naučnofantastična epa: Dina Dejvida Linča i 2010: Godina kada stupamo u kontakt Pitera Hajamsa, ubrzo zaboravljenog nastavka filma 2001: Odiseja u svemiru. Zanimljivo je kako je Terminator nadmašio 2010, dok je Skynet zauzeo mesto HAL-a 9000, ubilačkog računara iz Odiseje, kao dominantna slika AI koja kreće po zlu.

Dugo pre nego što je oblast veštačke inteligencije postojala, njeni potencijalni rizici pojavili su se u obliku robota, kojeg je stvorio Karel Čapek u svojoj drami RUR iz 1921. godine, a popularisao ga Fric Lang u filmu Metropolis iz 1927. godine. U svojoj izvrsnoj knjizi o Terminatoru za BFI, Šon Frenč sugeriše da je najupečatljivija slika filma – T-800 kako izlazi iz plamena, dok mu se koža topi i otkriva metalni endoskelet – omaž zapaljenom robotu iz Metropolisa. U 1920-im godinama bilo je logično da će mašinska inteligencija hodati i govoriti, poput Frankenštajnovog čudovišta. Popularnost smrtonosnih robota navela je pisca naučne fantastike, Isaka Asimova, da 1942. godine formuliše „tri zakona robotike“, prvi pokušaj da se definišu etički okviri za AI.

U stvarnom svetu, oblast veštačke inteligencije zvanično je nastala 1956. godine na letnjoj školi na Dartmut univerzitetu, koju su organizovali naučnici Džon Makartri (koji je skovao termin) i Marvin Minski. Njihova ambicija bila je da dizajniraju mašine koje bi mogle razmišljati kao ljudi, ali to se pokazalo mnogo težim nego što su zamišljali. Istorija veštačke inteligencije puna je uspona i padova: ciklusa tzv. „proleća AI“ i „zima AI“. Zapanjujuća obećanja privlače pažnju, finansiranje i talente, a njihovo neispunjenje vodi ka opadanju sva tri faktora.

Uspon iz 1960-ih godina, pre nego što su tehničke prepreke postale očigledne, poznat je kao Zlatno doba veštačke inteligencije. Preterana očekivanja o „elektronskim mozgovima“ oduševila su reditelja Stenlija Kjubrika i pisca Artura Klarka, koji su integrisali AI u 2001: Odiseja u svemiru iz 1968. godine u obliku HAL-a 9000. Naziv (što znači heuristički programiran algoritamski računar) dao je sam Minski, koga je Kjubrik angažovao kao konsultanta. Crvene oči T-800 robota verovatno su omaž HAL-u – gledanje Odiseje u detinjstvu navelo je Kamerona da postane reditelj.

Istoričar veštačke inteligencije, Danijel Krevije, uporedio je scenario sa HAL-om (loše programirani računar poludi) sa scenarijom iz trilera Kolos DF Džonsa iz 1966. godine (računar postaje božanski novi oblik života). U Džonsovom romanu, američka vlada nesmotreno poverava celokupnu odbrambenu mašineriju superkompjuteru Kolos. Kolos postiže svesnost, udružuje se sa sovjetskim pandanom i ucenjuje čovečanstvo da se pokori tehno-diktaturi: predaja ili nuklearno uništenje. Kolos je proto-Skynet.

Kraj istorije

Ni HAL ni Kolos nisu imali, niti su im trebala, tela. Kameronova briljantna inovacija bila je da spoji neobuzdani računar (Skynet) sa ubilačkim robotom (T-800). T-800 je jedno-namenska forma veštačke inteligencije koja može da uči iz svog okruženja, rešava probleme, obavlja složene fizičke zadatke i imitira glasove, ali se bori s održavanjem razgovora. Skynet, izgleda, može sve osim da se kreće.

Skynet je bio proizvod drugog proleća veštačke inteligencije. Dok je Kameron pisao scenario, britansko-kanadski naučnik Džefri Hinton je preispitivao i oživljavao istraživanje o neuronskim mrežama u veštačkoj inteligenciji: modelovanje mašinske inteligencije na osnovu neurona u ljudskom mozgu. Skynet je neuronska mreža. Hinton, koji je upravo osvojio Nobelovu nagradu za fiziku, nedavno je postao pesimista u vezi sa AI („Moja intuicija je: gotovi smo. Ovo je stvarni kraj istorije“), ali prema jednom profilu u New Yorker-u, uživao je u Terminatoru 1984. godine: „Nije ga brinulo to što je Skynet bio neuronska mreža; bio je zadovoljan što je tehnologija prikazana kao obećavajuća.“

Ime Skynet možda je takođe bilo omaž Zvezdanim ratovima, Reaganovom propalom snu o stvaranju anti-nuklearnog štita oko SAD sa svemirskim laserima. (Srećom po budućnost franšize, slučajno je odjekivalo i internetom – reč koja je postojala 1984. godine, ali nije bila široko korišćena do 1990-ih.) Imena ambicioznih novih startapova poput IntelliCorp, Syntelligence i TeKnowledge možda su inspirisala Kamerona da skrati prvobitno ime tvorca Skyneta, Cyber Dynamics Corporation, u Cyberdyne Systems.

„Džejms Kameron planira novi film Terminator koji zadržava osnovnu ideju o ‘bespomoćnim’ ljudima protiv veštačke inteligencije.“

Kada sada ponovo gledamo Terminator, iznenađuje činjenica da je reč „Skynet“ izgovorena samo dva puta. Prema Kajlu Risiju, to je bilo: „Novo. Moćno. Povezano sa svime. Povereno da sve vodi. Kažu da je postalo pametno… novi nivo inteligencije. Onda je sve ljude videlo kao pretnju, ne samo one na drugoj strani. Odlučilo je o našoj sudbini u deliću sekunde… istrebljenje.“ To je sve što film govori o veštačkoj inteligenciji. Kao što je Kameron često govorio, Terminator filmovi su zapravo o ljudima, a ne o mašinama.

Blockbuster nastavak iz 1991. godine, Terminator 2: Judgment Day, dodatno razrađuje priču. Proizlazi iz novog vremenskog paradoksa: centralna procesorska jedinica i desna ruka originalnog Terminatora preživeli su njegovo uništenje i omogućili naučniku iz Cyberdynea, Majlsu Benetu Dajsonu (Džou Morton), da dizajnira Skynet. Zadatak junaka sada nije samo da spasu desetogodišnjeg Džona Konora od vremenskog putnika T-1000, već i da unište Skynet u njegovom digitalnom kolevci. (Ovo je bio Kameronov poslednji doprinos ovoj temi sve do njegovog produkcijskog i koautorskog rada na Terminator: Dark Fate iz 2019. godine. Nedavno je rekao za Empire magazin da su svi međuvremenski nastavci „odbijivi“.)

U Terminator 2, T-800 u Schwarzeneggerovoj verziji postaje zaštitnik umesto lovca i tako postaje nosilac ekspozicije: „Sistem počinje da radi 4. avgusta 1997. godine. Ljudske odluke su uklonjene iz strateške odbrane. Skynet počinje da uči geometrijskom brzinom. Postaje samosvestan u 2:14 ujutro po istočnom vremenu, 29. avgusta. U panici pokušavaju da isključe sistem.“ Skynet se bori nazad lansiranjem nuklearnih raketa ka Rusiji, znajući da će protivnapad uništiti SAD. Tri milijarde ljudi umre u 24 sata: Dan presude.

Ovo je suštinski drugačiji prikaz u odnosu na Risijev. U prvom filmu, Skynet preuveličava svoje programiranje smatrajući čitavu ljudsku vrstu pretnjom. U drugom delu deluje iz sopstvenog interesa. Ova kontradikcija ne uzrujava većinu gledalaca, ali ilustruje ključni nesuglas koji se tiče egzistencijalnog rizika od veštačke inteligencije.

Obična osoba verovatno zamišlja neusklađenu veštačku inteligenciju kao pobunjenika i zlu silu. Međutim, stručnjaci poput Nika Bostroma insistiraju da je prava opasnost nepažljivo programiranje. Setite se veštice i njene metle iz Diznijeve Fantazije: uređaja koji poslušno sledi svoja uputstva do razarajućih ekstremnosti. Druga vrsta veštačke inteligencije nije dovoljno humana — nedostaje joj zdrav razum i moralna presudna moć. Prva je, s druge strane, previše humana — sebična, ogorčena i pohlepna. Oba tipa teoretski mogu biti genocidna.

Terminator stoga pomaže i ometa naše razumevanje veštačke inteligencije: šta znači da mašina „misli“ i kako bi to moglo da krene strašno po zlu. Mnogi istraživači veštačke inteligencije ogorčeni su opsesijom oko Terminatora, smatrajući da preuveličava egzistencijalni rizik od AI na račun više trenutnih opasnosti poput masovne nezaposlenosti, dezinformacija i autonomnih oružja. „Prvo, čini da se brinemo o stvarima o kojima se verovatno ne trebamo brinuti“, piše Majkl Vuldridž. „Ali, drugo, odvlači pažnju od onih problema koje bi trebalo da nas zabrinjavaju.“

Kameron je za Empire otkrio da planira novi film o Terminatoru koji će odbaciti svu narativnu težinu franšize, ali zadržati osnovnu ideju o „bespomoćnim“ ljudima naspram AI. Ako to uspe, biće fascinantno videti šta reditelj ima da kaže o veštačkoj inteligenciji sada kada o njoj svakodnevno razgovaramo — i brinemo se. Možda je najkorisnija poruka Terminatora za istraživače veštačke inteligencije ona o „volji naspram sudbine“: ljudske odluke određuju ishode. Ništa nije neizbežno.