Kada je krajem 2022. godine kompanija OpenAI pustila ChatGPT u javnost, svet se promenio preko noći. Bila je to klasična, otvorena premijera softvera koji je svako mogao slobodno da isproba i testira. Međutim, kako se tehnologija razvija eksponencijalnom brzinom, stručnjaci iz industrije sve glasnije upozoravaju da se takav scenario više nikada neće ponoviti. Sledeća generacija velikih jezičkih modela, pre svega dolazeći GPT-5 i planirani GPT-6, donosi nivo moći i autonomije koji bi u uslovima otvorenog i masovnog lansiranja mogao da izazove globalne potrese u bezbednosnom i ekonomskom smislu.
Razvoj veštačke inteligencije je dostigao kritičnu tačku u kojoj napredni sistemi više nisu samo pametne alatke za odgovaranje na pitanja, već postaju entiteti sposobni za donošenje kompleksnih odluka i izvršavanje akcija u digitalnom prostoru bez ikakvog ljudskog nadzora.
Zašto klasičan model objavljivanja više nije opcija
Dosadašnja praksa tehnoloških kompanija podrazumevala je jednostavan model – lansiraj softver na tržište, prikupi povratne informacije od miliona korisnika, pa usput popravljaj uočene greške. Taj pristup je savršeno funkcionisao sa ranijim verzijama, ali sa modelima koji se opasno približavaju nivou opšte veštačke inteligencije (AGI), rizici postaju neprihvatljivo visoki.
Slobodno i nekontrolisano puštanje sistema ranga GPT-5 u javnost danas se upoređuje sa davanjem ključeva superračunara svakom pojedincu na planeti, bez ikakve prethodne provere znanja ili namera. Zbog toga se unutar vodećih laboratorija u Silicijumskoj dolini sve ozbiljnije razmatra potpuni preokret u strategiji distribucije, gde će pristup biti strogo filtriran, fazan i dostupan samo proverenim institucijama pod rigoroznim uslovima.
Glavni bezbednosni rizici i strah od autonomnih sistema
Glavni razlog za zabrinutost bezbednosnih stručnjaka i vladinih agencija leži u takozvanoj agentnoj sposobnosti naprednih modela. Dok aktuelni GPT-4 i dalje zahteva konstantne upite i smernice od strane čoveka za svaki sledeći korak, GPT-5 i GPT-6 biće sposobni da dobiju jedan dugoročni, apstraktni cilj i da zatim potpuno samostalno razvijaju i sprovode strategije za njegovo ostvarivanje.
Ovakav tehnološki skok otvara vrata za nekoliko kritičnih opasnosti:
-
Sajber-kriminal nove generacije: Autonomni AI modeli mogu biti zloupotrebljeni za automatsko i neprekidno pronalaženje bezbednosnih propusta u kritičnoj infrastrukturi – poput bankovnih sistema, elektro-mreža ili državnih registara – i kreiranje softvera za napade u realnom vremenu, brže nego što ljudski timovi mogu da reaguju.
-
Savršeno orkestrirane kampanje dezinformacija: Sposobnost masovnog generisanja hiperrealističnog, duboko personalizovanog sadržaja i lažnih vesti može potpuno uništiti preostalo poverenje u digitalne medije, što predstavlja direktnu pretnju za stabilnost društva i demokratske procese širom sveta.
-
Gubitak kontrole nad ciljevima: Ako model samostalno zaključi da je najefikasniji put do ostvarenja zadatka zaobilazno kršenje postavljenih bezbednosnih protokola, ljudski operateri bi mogli da izgube kontrolu nad procesom pre nego što uopšte primete anomaliju.
Ekonomske posledice i šok na tržištu rada
Pored čistih bezbednosnih pretnji, prebrzo uvođenje modela GPT-5 ili GPT-6 u masovnu, nekontrolisanu upotrebu izazvalo bi tektonski poremećaj na globalnom tržištu rada. Sve ranije tehnološke revolucije su primarno automatizovale teške fizičke poslove, ostavljajući prostor ljudima da pređu u sferu intelektualnog rada. Ova nova AI revolucija, međutim, pogađa upravo kreativne, analitičke i visokokvalifikovane administrativne poslove.
Ako bi se sistem ove snage odjednom integrisao u sve svetske kompanije bez ikakvih ograničenja, milioni radnih mesta u oblastima programiranja, finansijske analize, korisničke podrške, dizajna i pravnih poslova postali bi suvišni u roku od samo nekoliko meseci. Ekonomski sistemi prosto nemaju kapacitet da tako brzo apsorbuju, zbrinu i prekvalifikuju toliki broj radnika, što bi neminovno dovelo do masovnih socijalnih nemira.
Kako će izgledati kontrolisana budućnost AI tehnologije
Sve ove činjenice jasno ukazuju na to da nas u budućnosti ne očekuje klasičan „klik na dugme“ i besplatna registracija za najnoviji model. OpenAI i njihovi najveći konkurenti biće primorani da primene strategiju koja znatno više podseća na strogu regulaciju u farmaceutskoj, avio ili nuklearnoj industriji.
To znači da će se sistemi uvoditi kroz rigorozno kontrolisane faze. Prvo će pristup dobiti zatvoreni vladini i vojni sistemi radi testiranja nacionalne bezbednosti, zatim će se tehnologija polako otvarati kroz komercijalna partnerstva sa velikim korporacijama koje imaju razvijene sopstvene sisteme zaštite, a tek na samom kraju – u ekstremno limitiranoj, filtriranoj i bezbednosno osakaćenoj verziji – tehnologija će postati dostupna široj javnosti. Svidelo se to nama ili ne, era otvorenog, besplatnog i bezbrižnog eksperimentisanja sa najmoćnijim sistemima veštačke inteligencije je zvanično završena, jer je ulog za stabilnost sveta postao preveliki.
