NVIDIA AI čipovi će konačno početi da koriste Samsungove HBM3E čipove za brže performanse i bolju efikasnost nakon što su prošli provere kvaliteta.
Osmoslojni HBM3E čipovi prošli su NVIDIA testove za upotrebu u AI akceleratorima.
Nakon što je demantovao izveštaje da HBM3E nije prošao NVIDIA testove zbog pregrevanja i visoke potrošnje energije, Samsung je nedavno objavio da su njegovi petogeneracijski HBM čipovi, poznati kao HBM3E, konačno prošli NVIDIA testove za upotrebu u njihovim data centar proizvodima, prenosi Reuters.
Samsung već neko vreme pokušava da dobije odobrenje za svoj HBM3E i kružile su glasine da je čip prošao testove pre nekoliko nedelja. Međutim, sada je zvanično potvrđeno da je odobren, što znači da Samsung sada može da isporučuje ove memorijske čipove visokog protoka za NVIDIA čipove koji se koriste u GPU-ovima i AI akceleratorima.
Iako ugovor između dve kompanije još nije zvanično potpisan, očekuje se da će Samsung početi da isporučuje HBM3E čipove NVIDIA-i u poslednjem kvartalu 2024. godine. HBM3E će doneti značajna poboljšanja u memorijskom protoku u odnosu na HBM3 koji se trenutno koristi u NVIDIA Hopper GPU-ovima. HBM3 nudi 1024-bitni put podataka i brzinu memorije od 6,4 Gb/s, dok će HBM3E povećati brzinu na 9,6 Gb/s. Ovo će povećati memorijski protok na preko 1200 GB/s, u poređenju sa 819 GB/s koje nudi HBM3.
NVIDIA koristi HBM3 memoriju od juna 2022. godine, ali je SK Hynix bio glavni dobavljač HBM3 čipova. Kako veštačka inteligencija, mašinsko učenje i analitika podataka zahtevaju veći memorijski protok uz manju potrošnju energije, HBM3E je trenutno jedino rešenje koje može da zameni HBM3 za ove zahtevne zadatke. Samsung je unapredio dizajn svojih HBM3E čipova kako bi obezbedio energetsku efikasnost i bolje termalne karakteristike koje su potrebne za AI procesore, ali je odbio tvrdnje da su ovi problemi razlog zbog kojeg njegovi noviji čipovi nisu odobreni od strane NVIDIA-e.
Dok je Samsungov osmoslojni HBM3E sada prošao NVIDIA testove, SK Hynix već priprema isporuku dvanaestoslojnih HBM3E čipova, za koje kompanija tvrdi da su već potpuno rezervisani za treći kvartal 2024. godine. Kompanija je već u maju postigla cilj od 80% prinosa u značajno kraćem vremenskom periodu nego što je bilo očekivano. Dok Dylan Patel, osnivač SemiAnalysis-a, kaže da „Samsung još uvek nadoknađuje u oblasti HBM“, SK Hynix je već primenio svoje HBM3E čipove za NVIDIA-ine trenutne H200 i buduće Blackwell B100 GPU-ove.
Pored Samsunga i SK Hynix-a, Micron je treći glavni dobavljač HBM i takođe se izveštava da isporučuje svoje HBM3E čipove NVIDIA-i. Micron je ušao u fazu masovne proizvodnje mnogo ranije od SK Hynix-a, a proizvodnja je započeta u februaru ove godine. Očekuje se da će HBM3E čipovi činiti do 60% ukupne prodaje HBM čipova do četvrtog kvartala 2024. godine, dok se procenjuje da će potražnja za HBM čipovima rasti po godišnjoj stopi od 82% do 2027. godine, prema podacima SK Hynix-a.