Kao deo svojih SC24 najava, NVIDIA predstavlja dve potpuno nove hardverske platforme, jednu zasnovanu na postojećem Hopper skupu i drugu pokretanu najnovijim Blackwell skupom. Ova rešenja su dizajnirana za serverske sisteme u preduzećima, namenjene ubrzanom računanju u HPC i AI radnim opterećenjima.
Počevši od NVIDIA H200 NVL, kompanija sada potvrđuje opštu dostupnost ovih PCIe Hopper kartica koje mogu povezati do četiri GPU-a putem NVLINK domena, pružajući sedam puta veću propusnost u odnosu na standardna PCIe rešenja. NVIDIA navodi da H200 NVL rešenja mogu da se integrišu u bilo koji data centar i nude niz fleksibilnih serverskih konfiguracija optimizovanih za hibridna HPC i AI radna opterećenja.
Što se specifikacija tiče, Hopper H200 NVL rešenje pruža 1.5 puta više HBM memorije, 1.7 puta bolje performanse za LLM inference i 1.3 puta bolje performanse za HPC. Sistem raspolaže sa 114 SM jedinica, ukupno 14.592 CUDA jezgra, 456 tensor jezgara i do 3 TFLOP-a FP8 (FP16 akumuliranih) performansi. GPU poseduje 80 Gb HBM2e memorije raspoređene preko 5120-bitnog interfejsa i ima TDP od 350 vati.
Prelaskom na Blackwell, imamo prvi prikaz NVIDIA GB200 NVL4, potpuno novog modula koji predstavlja proširenu verziju originalnog GB200 Grace Blackwell Superchip AI rešenja. GB200 NVL4 modul udvostručuje CPU i GPU kapacitete i dodaje veću memoriju.
Modul sadrži dva Blackwell GB200 GPU-a postavljena na veću ploču sa dva Grace CPU-a. Dizajniran je kao rešenje za jedan server sa NVLINK domenom od četiri GPU-a i 1.3 TB koherentne memorije. Što se tiče performansi, modul nudi poboljšanje od 2.2 puta u simulacijama i povećanje performansi u obuci i inferenciji za 1.8 puta. NVIDIA-ina sve veća lista partnera će nuditi NVL4 rešenje u narednim mesecima.
Što se TDP-a tiče, pošto Superchip modul ima potrošnju od oko 2700 W, očekuje se da će veće GB200 NVL4 rešenje trošiti blizu 6 kW snage. Jasno se vidi napor NVIDIA-e da ubrza razvoj AI računarstva.
Kompanija je nedavno objavila svetske rekorde u MLPerf v4.1 za obuku i inferenciju. Ne samo da je Blackwell impresivan, već se Hopper dodatno usavršava kroz kontinuiranu optimizaciju. NVIDIA takođe ubrzava svoju AI roadmap-u na jednogodišnji ritam, s nekoliko novih infrastruktura planiranih u narednim godinama, poput Blackwell Ultra i Rubin.