ChatGPT, OpenAI-ova platforma za chatbote, možda nije toliko energetski zahtevan kao što se ranije smatralo. Međutim, njegova potrošnja energije u velikoj meri zavisi od toga kako se ChatGPT koristi i od AI modela koji odgovaraju na upite, prema novoj studiji.
Nedavna analiza Epoch AI, neprofitnog istraživačkog instituta za veštačku inteligenciju, pokušala je da izračuna koliko energije tipičan upit ChatGPT-a troši. Često citirani podatak je da ChatGPT zahteva oko 3 vata-sata energije da odgovori na jedno pitanje, što je deset puta više od Google pretrage.
Epoch smatra da je to precenjivanje.
Koristeći OpenAI-ov najnoviji podrazumevani model za ChatGPT, GPT-4o, kao referencu, Epoch je otkrio da prosečan upit ChatGPT-a troši oko 0,3 vata-sata — manje nego mnogi kućni aparati.
„Upotreba energije zapravo nije velika u poređenju sa upotrebom običnih aparata, grejanjem ili hlađenjem vašeg doma, ili vožnjom automobila“, rekao je Joshua You, analitičar podataka u Epoch-u koji je sproveo analizu.
Potrošnja energije AI-a — i njegov uticaj na životnu sredinu, uopšte — tema je sporne debate dok AI kompanije nastoje brzo da prošire svoju infrastrukturu. Pre samo nedelju dana, grupa od više od 100 organizacija objavila je otvoreno pismo pozivajući industriju AI-a i regulatore da osiguraju da novi AI data centri ne iscrpljuju prirodne resurse i ne prisiljavaju komunalne usluge da se oslanjaju na nenovljive izvore energije.
You je rekao da je njegova analiza pokrenuta onim što je smatrao zastarelim prethodnim istraživanjima. Naveo je, na primer, da je autor izveštaja koji je došao do procene od 3 vata-sata pretpostavio da je OpenAI koristio starije, manje efikasne čipove za pokretanje svojih modela.
Autor slike: Epoch AI
„Video sam mnogo javnih diskusija koje su tačno prepoznale da će AI u narednim godinama trošiti mnogo energije, ali nije tačno opisala energiju koju AI troši danas“, rekao je You. „Takođe, neki od mojih kolega su primetili da je najšire izveštavana procena od 3 vata-sata po upitu zasnovana na prilično starom istraživanju, a na osnovu nekih brzih proračuna činilo se da je previše visoka.“
Naravno, Epochova procena od 0,3 vata-sata takođe je aproksimacija; OpenAI nije objavio detalje koji su potrebni da bi se izvršio precizan proračun.
Analiza takođe ne uzima u obzir dodatne troškove energije koje uzrokuju ChatGPT funkcije poput generacije slika ili obrade unosa. You je priznao da „duži unosi“ u ChatGPT, na primer, upiti sa velikim fajlovima, verovatno troše više energije na početku nego tipična pitanja.
Međutim, You je rekao da očekuje da će osnovna potrošnja energije ChatGPT-a rasti.
„[AI] će postati napredniji, obuka ovog AI-a verovatno će zahtevati mnogo više energije, a ovaj budući AI biće korišćen mnogo intenzivnije — obavljajući mnogo više zadataka, i složenijih zadataka, nego što ljudi danas koriste ChatGPT“, rekao je You.
Iako je bilo izuzetnih napredaka u efikasnosti AI-a poslednjih meseci, očekuje se da će razmera na kojoj se AI koristi dovesti do ogromnog proširenja infrastrukture koja zahteva mnogo energije. U naredne dve godine, AI data centri bi mogli zahtevati gotovo celu kapacitetu električne energije Kalifornije iz 2022. godine (68 GW), prema izveštaju Rand-a. Do 2030. godine, obuka modela na granici mogla bi zahtevati snagu ekvivalentnu osam nuklearnih reaktora (8 GW), predviđa se u izveštaju.
ChatGPT sam po sebi doseže ogroman — i rastući — broj ljudi, što znači da su zahtevi za serverima jednako masivni. OpenAI, zajedno sa nekoliko investicionih partnera, planira da potroši milijarde dolara na nove projekte AI data centara u narednim godinama.
Pažnja OpenAI-a — kao i ostatka AI industrije — takođe se preusmerava na modele razmišljanja, koji su generalno sposobniji za obavljanje zadataka, ali zahtevaju više računarskog kapaciteta za rad. Za razliku od modela poput GPT-4o, koji odgovaraju na upite gotovo odmah, modeli razmišljanja „razmišljaju“ nekoliko sekundi ili minuta pre nego što odgovore, što zahteva više računarskog procesiranja — a time i više energije.
„Modeli razmišljanja će sve više preuzimati zadatke koje stariji modeli ne mogu da obave i generisaće više podataka da bi to postigli, a oboje zahteva više data centara“, rekao je You.
OpenAI je počeo da izdaje efikasnije modele razmišljanja, poput o3-mini. Međutim, čini se malo verovatnim, barem u ovoj fazi, da će dobitci u efikasnosti nadoknaditi povećane energetske zahteve procesa „razmišljanja“ modela razmišljanja i rastuću upotrebu AI-a širom sveta.
You je sugerisao da ljudi koji brinu o energetskoj potrošnji AI-a koriste aplikacije kao što je ChatGPT ređe, ili biraju modele koji minimiziraju računarsku potrošnju — koliko god to bilo realno.
„Možete probati da koristite manje AI modele kao što je [OpenAI] GPT-4o-mini“, rekao je You, „i da ih koristite štedljivo na način koji ne zahteva procesiranje ili generisanje velikih količina podataka.“