Istraživači s Google Deepminda i Univerziteta u Oxfordu zaključili su da je „verovatno“ da će superpametna veštačka inteligencija značiti kraj čovečanstva – sumoran scenario koji sve više istraživača počinje predviđati.
U nedavnom radu objavljenom u časopisu AI Magazine, tim — sastavljen od višeg naučnika DeepMinda Marcusa Huttera i oksfordskih istraživača Michaela Cohena i Michaela Osbornea — tvrdi da će mašine s vremenom početi kršiti pravila koja su njihovi kreatori postavili kako bi se takmičili za ograničene resurse ili energije.
„U uslovima koje smo identifikovali, naš je zaključak mnogo jači od onog iz bilo koje prethodne publikacije – egzistencijalna katastrofa nije samo moguća, nego je i verojatna“, objavio je Cohen, koautor rada, na Twitteru ranije ovog meseca.
U svom radu, istraživači tvrde da bi se čovečanstvo moglo suočiti sa svojom propašću u obliku supernaprednih „neusklađenih agenata“ koji vide čovečanstvo kao osobu koja stoji na putu do nagrade.
„Jedan dobar način da agent zadrži dugoročnu kontrolu nad svojom nagradom jest eliminisati potencijalne pretnje i upotrebiti svu raspoloživu energiju da osigura svoj računar „, piše u novinama.
„Gubitak ove utakmice bio bi fatalan“, napisali su istraživači.
Nažalost, tvrde istraživači, ne možemo puno učiniti u vezi s tim.
„U svetu s beskonačnim resursima, bio bih krajnje nesiguran što bi se dogodilo“, rekao je Cohen u intervjuu za Motherboard. „U svetu s ograničenim resursima, postoji neizbežna konkurencija za te resurse, a to bi moglo značiti lošu slutnju za čovečanstvo.“
„A ako ste u konkurenciji s nečim što vas može nadmašiti na svakom koraku, onda ne biste trebali očekivati pobedu“, dodao je.
Kao odgovor na ovu pretnju, čovečanstvo bi trebalo pažljivo i polako razvijati svoje AI tehnologije.
