CPU NVIDIA Grace

Per risolvere i principali problemi di IA e HPC è necessaria una memoria ad alta capacità e a elevata larghezza di banda (HBM). NVIDIA NVLink-C2C offre 900 GB/s di larghezza di banda bidirezionale tra la CPU NVIDIA Grace e le GPU NVIDIA. La connessione garantisce uno spazio di indirizzi per la memoria unificato e con cache coerente, che abbina la memoria di sistema con la memoria HBM della GPU per una programmabilità semplificata. Questa connessione coerente e a elevata larghezza di banda tra CPU e GPU è fondamentale per accelerare la risoluzione di problemi più complessi in futuro.

La NVIDIA Grace è la prima CPU server a sfruttare la memoria LPDDR5x con affidabilità di classe server attraverso meccanismi come il codice di correzione errori (Error-Correcting Code, ECC) per soddisfare le esigenze del data center, offrendo al contempo una larghezza di banda della memoria 2 volte superiore e una maggiore efficienza energetica fino a 10 volte superiore rispetto alla memoria server di oggi. La CPU NVIDIA Grace integra i core Arm Neoverse V2 di nuova generazione con uno Scalable Coherency Fabric progettato da NVIDIA per offrire prestazioni elevate in un design efficiente dal punto di vista energetico, il che aiuta scienziati e ricercatori a portare a termine i loro progetti.

Nonostante i progressi continui delle funzionalità di calcolo parallelo delle GPU, i carichi di lavoro possono ancora risultare confinati in attività seriali eseguite sulla CPU. Una CPU veloce ed efficiente è un componente fondamentale della progettazione del sistema per consentire la massima accelerazione del carico di lavoro. La CPU NVIDIA Grace integra i core Arm Neoverse V2 con NVIDIA Scalable Coherency Fabric per offrire prestazioni elevate in un design a basso consumo energetico, facilitando il lavoro di scienziati e ricercatori.

L'IA generativa richiede un'intensa attività di calcolo e memoria. Il superchip NVIDIA GB200 utilizza 380 GB di memoria HBM, offrendo una larghezza di banda di memoria della GPU di oltre 4,5 volte superiore rispetto alla GPU NVIDIA H100 Tensor Core. L'elevata banda di memoria in Grace Blackwell è connessa alla memoria della CPU tramite NVLink-C2C per fornire oltre 860 GB di memoria ad accesso rapido alla GPU, in modo da offrire la capacità di memoria e la larghezza di banda necessarie per gestire i carichi di lavoro di IA generativa e computing accelerato più complessi al mondo.