Ne bi bilo pogrešno reći da je Microsoft lider u uvođenju AI usluga za širu javnost, s obzirom na to da ogromni resursi za AI računarstvo omogućavaju kompaniji da zauzme „ekskluzivan“ položaj na tržištu. Na nedavnom Microsoft Ignite događaju, kompanija je otkrila upotrebu NVIDIA Blackwell AI proizvoda na Azure platformi, posebno sa najnovijom Azure ND GB200 V6 VM serijom, koja je prva virtuelna mašina ove kompanije zasnovana na Blackwell arhitekturi.
Ako se detaljnije osvrnemo na tehničke specifikacije, Azure ND GB200 V6 virtuelna mašina navodno sadrži dva GB200 Grace Blackwell Superchip-a, pri čemu je svaki od njih opremljen sa dva visokoperformansna Blackwell GPU-a i Grace CPU-om, povezanim putem NVLink interfejsa, koji je razvila kompanija NVIDIA. Zanimljivo je da, uz više NVLink traja na brodu, Microsoft može da obezbedi do 18 serverskih čvorišta za računanje, čime omogućava ukupno 72 NVIDIA Blackwell GPU-a na jednoj platformi. Skaliranje nije problem sa najnovijim VM-ovima, zahvaljujući InfiniBand fabric sistemu kompanije NVIDIA.
Azure ND GB200 V6 VM-ovi trenutno su u fazi privatnog pregleda sa odabranim partnerima, a Microsoft planira da uskoro učini ovu platformu dostupnom širem krugu korisnika. Pored ovoga, Microsoft je takođe najavio „CPU-baziranu“ virtuelnu mašinu na Azure platformi, pod nazivom Azure HBv5, koja je posebno usmerena na aplikacije visokih performansi koje zahtevaju veliku propusnost memorije.
Kako bi postigao najbolje odnose između opterećenja i troškovne efikasnosti, Microsoft je odlučio da sarađuje sa AMD-om, koristeći njihove 4. generacije EPYC server procesore. Evo detaljnih specifikacija:
- 6,9 TB/s propusnosti memorije (STREAM Triad) kroz 400-450 GB RAM-a (HBM3)
- Do 9 GB memorije po jezgru (podesivo od strane korisnika)
- Do 352 AMD EPYC „Zen4“ CPU jezgra, sa maksimalnim frekvencijama od 4 GHz (podesivo od strane korisnika)
- Dvostruka ukupna Infinity Fabric propusnost za CPU-e kao na svakoj AMD EPYC server platformi do sada
- SMT (simultano višestruko izvršavanje) isključeno, dizajn samo za jednog korisnika (1 VM po serveru)
- 800 Gb/s NVIDIA Quantum-2 InfiniBand, ravnomerno raspoređeno kao 200 Gb/s po CPU SoC-u
- Azure VMSS Flex za skaliranje MPI radnih opterećenja na stotine hiljada HBM-om pokretanih CPU jezgara
- 160 Gbps Azure ubrzane mreže putem 2. generacije Azure Boost NIC
- 14 TB lokalnog NVMe SSD-a sa brzinama čitanja do 50 GB/s i brzinama pisanja do 30 GB/s
Microsoft je takođe otkrio da su uspeli da povećaju performanse njihove najnovije Azure HBv5 VM virtuelne mašine do 20 puta u odnosu na prethodne generacije.
Ovo potvrđuje dominaciju AMD-ove EPYC platforme na tržištima, koja je već uspela da premaši prodaju Intel-ovih procesora. Ukupno, Microsoft-ov AI portfolio nedvosmisleno planira da bude jedan od najboljih na tržištu, omogućavajući kompaniji da maksimalno iskoristi AI hype.
