U potezu koji je odjeknuo Silicijumskom dolinom i celom AI zajednicom, jedan od najcenjenijih umova u oblasti veštačke inteligencije, Ilja Sutskever (Ilya Sutskever), suosnivač i donedavni glavni naučnik kompanije OpenAI, objavio je osnivanje nove, laserski fokusirane kompanije. Njen naziv je istovremeno i njena misija: Safe Superintelligence Inc. (SSI).
Osnivanje ove kompanije nije samo još jedna poslovna vest; to je kulminacija višemesečnih, pa i višegodišnjih, ideoloških previranja unutar najnaprednije AI laboratorije na svetu. To je direktan odgovor na jedno od najvažnijih i najtežih pitanja našeg doba: kako stvoriti veštačku inteligenciju koja je značajno pametnija od ljudi, a da pritom osiguramo da ona ostane bezbedna i korisna za čovečanstvo?
Šta je superinteligencija i zašto je bezbednost ključna?
Da bismo razumeli važnost ovog događaja, moramo razumeti pojam superinteligencije (Artificial Superintelligence – ASI).
- Veštačka opšta inteligencija (AGI) je hipotetički nivo AI koji može da razume, uči i primenjuje znanje na nivou čoveka, u bilo kom domenu.
- Veštačka superinteligencija (ASI) je sledeći, mnogo moćniji korak. To je inteligencija koja u svakom relevantnom pogledu – od naučne kreativnosti i rešavanja problema do socijalnih veština – daleko prevazilazi i najgenijalnije ljudske umove.
Stvaranje superinteligencije nosi potencijal za rešavanje najvećih svetskih problema, od bolesti i siromaštva do klimatskih promena. Međutim, nosi i egzistencijalni rizik. Ako se stvori nekontrolisana superinteligencija čiji ciljevi nisu savršeno usklađeni sa ljudskim vrednostima, posledice bi mogle biti katastrofalne. Upravo je „problem usklađivanja“ (alignment problem) u srcu misije nove kompanije.
Jedna misija, jedan cilj: Kako će SSI funkcionisati?
Nova kompanija je osnovana na radikalno drugačijim principima od većine tehnoloških giganata, uključujući i sam OpenAI u njegovoj kasnijoj fazi. Osnivači ističu da će SSI biti isključivo istraživačka laboratorija sa jednim jedinim ciljem: bezbedno stvaranje superinteligencije.
Ovo znači da će kompanija biti svesno izolovana od kratkoročnih komercijalnih pritisaka.
- Nema pritiska za proizvodima: Za razliku od kompanija koje moraju da izbacuju nove verzije četbotova ili aplikacija kako bi zadovoljile investitore, SSI se neće baviti razvojem komercijalnih proizvoda. Sav napredak u sposobnostima biće direktno usmeren ka unapređenju bezbednosti.
- Jedan fokus: Njihov poslovni model je, kako kažu, „bezbednost“. To im omogućava da privuku vrhunske talente koji su motivisani misijom, a ne samo profitom, i da se bave dugoročnim istraživanjem bez ometanja.
Pozadina priče: Ideološki raskol u OpenAI-ju
Osnivanje SSI ne može se posmatrati izolovano od dramatičnih događaja koji su potresali OpenAI prethodnih meseci. Pokušaj smene direktora kompanije, koji je na kraju propao, ogolio je duboki raskol unutar organizacije. Na jednoj strani bili su oni koji su zagovarali bržu komercijalizaciju i razvoj proizvoda, dok su na drugoj bili Ilja Sutskever i njegov tim, koji su upozoravali da se bezbednost i oprez guraju u drugi plan zarad profita.
Odlazak ključnog naučnog tima i osnivanje nove kompanije je konačni dokaz da su te razlike postale nepremostive. To je potez ljudi koji veruju da je misija stvaranja bezbedne superinteligencije previše važna da bi bila prepuštena korporativnim interesima i trci za tržišnim udelom.
Šta ovo znači za budućnost veštačke inteligencije?
Pojavljivanje SSI-ja na sceni menja dinamiku cele industrije.
- Stvara se novi pol: Do sada su trku vodile velike korporacije poput Google-a (DeepMind), Anthropic-a i OpenAI-ja. Sada se pojavljuje novi, agilni igrač sa jedinstvenom misijom i ogromnim kredibilitetom, koji će sigurno privući vrhunske talente.
- Pitanje bezbednosti dolazi u prvi plan: Ovaj potez stavlja ogroman pritisak na druge laboratorije da ozbiljnije shvate i transparentnije komuniciraju svoje napore u domenu bezbednosti AI.
- Trka se zaoštrava: Iako je fokus na bezbednosti, niko ne sumnja da će tim koji stoji iza SSI-ja istovremeno praviti i revolucionarne pomake u sposobnostima veštačke inteligencije. To znači da se trka za „svetim gralom“ tehnologije – superinteligencijom – upravo zaoštrila na način koji niko nije očekivao.
Nova era u potrazi za veštačkom inteligencijom
Osnivanje kompanije Safe Superintelligence Inc. je više od pukog pokretanja novog startapa. To je manifest, izjava o principima i povratak originalnoj, neprofitnoj misiji sa kojom je i sam OpenAI nekada počeo. To je hrabar pokušaj da se najvažniji tehnološki izazov u istoriji čovečanstva rešava na pravi način – sa bezbednošću kao apsolutnim prioritetom. Ceo svet će sa pažnjom, i dozom strepnje, pratiti da li će u tome i uspeti.
