IBM je najavio svoj procesor sledeće generacije Telum II, sa ugrađenim AI akceleratorom za sledeće generacije IBM Z mainframe-ova koji mogu da obavljaju kako ključne zadatke, tako i AI radne zadatke. Novi procesor može potencijalno poboljšati performanse „do 70% u ključnim sistemskim komponentama,“ u poređenju sa originalnim Telum-om, koji je predstavljen 2021. godine, prema mejlu koji smo primili od IBM-a.
Procesor Telum II sadrži osam visokoperformantnih jezgara sa poboljšanom predikcijom grana, writeback-om za skladištenje i prevođenjem adresa, koji rade na 5,5 GHz, kao i 36 MB L2 keša, što predstavlja povećanje od 40% u odnosu na prethodnika. CPU takođe podržava virtuelne L3 i L4 kešove, koji se šire na 360 MB i 2,88 GB, respektivno. Ključna karakteristika Telum II je poboljšani AI akcelerator, koji pruža četiri puta veću računarsku snagu u odnosu na prethodnika, dostizajući 24 triliona operacija u sekundi (TOPS) sa INT8 preciznošću. Arhitektura akceleratora je optimizovana za obrada AI radnih opterećenja u realnom vremenu sa niskom latencijom. Pored toga, Telum II ima ugrađeni DPU za brže obrade transakcija. Telum II je izrađen koristeći Samsungovu 5HPP tehnologiju i sadrži 43 milijarde tranzistora.
Poboljšanja na nivou sistema u Telum II omogućavaju svakom AI akceleratoru unutar procesorskog ormara da prima zadatke sa bilo kog od osam jezgara, obezbeđujući uravnotežena radna opterećenja i maksimizujući dostupnih 192 TOPS po ormaru kada je potpuno konfigurisan.
Pored procesora Telum II, IBM je predstavio novu Spyre AI akceleratorsku karticu razvijenu u saradnji sa IBM Research i IBM-om. Ovaj procesor sadrži 32 AI akceleratorska jezgra i deli arhitektonske sličnosti sa AI akceleratorom u Telum II. Spyre akcelerator može biti integrisan u I/O sistem IBM Z-a putem PCIe veza kako bi povećao AI procesorsku snagu sistema. Spyre sadrži 26 milijardi tranzistora i izrađen je koristeći Samsungovu 5LPE proizvodnu tehnologiju.
Kako procesor Telum II, tako i Spyre akcelerator su dizajnirani da podrže ensemble AI metode, koje uključuju korišćenje više AI modela za poboljšanje tačnosti i performansi zadataka. Na primer, u detekciji prevara, kombinovanje tradicionalnih neuronskih mreža sa velikim jezičkim modelima (LLMs) može značajno poboljšati otkrivanje sumnjivih aktivnosti, prema rečima IBM-a.
Procesori Telum II i Spyre akcelerator biće dostupni 2025. godine, iako IBM ne precizira da li će to biti početkom ili krajem godine.
