Lista vrhunskih AI modela koji nisu stigli u obećanim vremenskim okvirima nastavlja da raste. Prošlog leta, milijarder Elon Musk, osnivač i CEO AI kompanije xAI, rekao je da će Grok 3, sledeći veliki AI model xAI-a, biti dostupan do „kraja 2024. godine“. Grok, xAI-ov odgovor na modele poput OpenAI-ovog GPT-4 i Google-ovog Gemini, može analizirati slike i odgovarati na pitanja, a pokreće brojne funkcije na X-u, Muskovoj društvenoj mreži.
„Grok 3, krajem godine, nakon obuke na 100k H100, biće stvarno nešto posebno“, napisao je Musk u julu na X-u, aludirajući na xAI-ov ogroman GPU klaster u Memfisu. „Grok 3 će biti veliki korak napred“, rekao je u postu sredinom decembra.
Međutim, sada je 2. januar, a Grok 3 nije stigao — niti postoje naznake da je njegov izlazak blizu.
Zapravo, neki kod na xAI-ovoj veb stranici koji je primetio AI insajder Tibor Blaho sugeriše da bi prvi mogao stići međumodel, „Grok 2.5“.
Iako ovo nije prvi put da je Musk postavio ambiciozan cilj i nije ga ispunio, dobro je poznato da su Muskove izjave o vremenskim okvirima za lansiranje proizvoda često nerealistične, barem kada se radi o optimizmu.
Da budemo fer, u intervjuu sa podcasterom Lexom Fridmanom u avgustu, Musk je rekao da će Grok 3 „nadajmo se“ biti dostupan 2024. godine „ako budemo imali sreće“.
Međutim, status Grok 3 kao nedostupnog (MIA) interesantan je jer se uklapa u rastući trend.
Prošle godine, AI startup Anthropic nije uspeo da isporuči naslednika svog vrhunskog modela Claude 3. Opus. Mesecima nakon što je najavljeno da će sledeći model, Claude 3.5 Opus, biti objavljen do kraja 2024. godine, Anthropic je uklonio sve pominjanje tog modela iz svoje dokumentacije za programere. (Prema izveštajima, Anthropic je završio obuku za Claude 3.5 Opus tokom prošle godine, ali je odlučio da njegovo puštanje u javnost ne bi bilo ekonomski isplativo.)
Izveštaji takođe sugerišu da su Google i OpenAI pretrpeli slične probleme sa svojim vrhunskim modelima u poslednjih nekoliko meseci.
Ovo bi mogao biti dokaz ograničenja trenutnih zakona skaliranja AI — metoda koje kompanije koriste kako bi povećale mogućnosti svojih modela. Nedavno je bilo moguće postići značajan porast performansi obučavanjem modela korišćenjem ogromnih količina računske moći i sve većih skupova podataka. Međutim, dobitci sa svakom novom generacijom modela počeli su da opadaju, što je navelo kompanije da potraže alternativne tehnike.
Musk je to sam pomenuo u intervjuu sa Fridmanom.
„Da li se nadate da će [Grok 3] biti najnovija tehnologija?“ pitao je Fridman.
„Nadam se,“ odgovorio je Musk. „Mislim, to je cilj. Možda nećemo uspeti da ostvarimo ovaj cilj. To je naša ambicija.“
Mogu postojati i drugi razlozi za kašnjenje Grok 3. xAI ima mnogo manji tim od mnogih svojih rivala, na primer. Ipak, pomereni vremenski okvir za lansiranje doprinosi sve većem broju dokaza da se konvencionalni pristupi obuci AI modela susreću sa ograničenjima.