CPU NVIDIA Grace

Resolver los mayores problemas de IA y HPC requiere una memoria de alta capacidad y de elevado ancho de banda (HBM). NVIDIA NVLink-C2C ofrece 900 GB/s de ancho de banda bidireccional entre la CPU NVIDIA Grace y las GPU NVIDIA. La conexión ofrece un espacio de direcciones de memoria unificado y coherente con la caché que combina la memoria de la GPU HBM y del sistema para simplificar la programabilidad. Esta conexión coherente de elevado ancho de banda entre la CPU y las GPU es clave para acelerar las soluciones a los problemas más complejos del mañana.

NVIDIA Grace es la primera CPU del servidor en aprovechar la memoria LPDDR5X con fiabilidad de clase servidor a través de mecanismos como el código de corrección de errores (ECC) para satisfacer las demandas del centro de datos, al tiempo que ofrece el doble de ancho de banda de memoria y hasta 10 veces mejor eficiencia energética en comparación con la memoria del servidor actual. La solución LPDDR5X, junto con la memoria caché de último nivel de gran rendimiento y alto rendimiento de NVIDIA Grace, ofrece el ancho de banda necesario para los modelos grandes, al tiempo que reduce la potencia del sistema para maximizar el rendimiento de la próxima generación de cargas de trabajo.

A medida que las capacidades computacionales en paralelo de las GPU siguen avanzando, las cargas de trabajo todavía pueden quedar limitadas por tareas en serie ejecutadas en la CPU. Una CPU rápida y eficiente es un componente crítico del diseño del sistema para permitir la máxima aceleración de las cargas de trabajo. La CPU NVIDIA Grace integra los núcleos Arm Neoverse V2 con la estructura de coherencia escalable de NVIDIA para ofrecer un alto rendimiento en un diseño de bajo consumo, lo que facilita a los científicos e investigadores hacer el trabajo de su vida.

La IA generativa consume mucha memoria y recursos de computación. El superchip NVIDIA GB200 utiliza 380 GB de memoria HBM, lo que proporciona más de 4,5 veces el ancho de banda de memoria de la GPU NVIDIA H100 Tensor Core. La memoria de alto ancho de banda de Grace Blackwell se conecta con la memoria de la CPU a través de NVLink-C2C para proporcionar casi 860 GB de memoria de acceso rápido a la GPU, y ofrece la capacidad de memoria y el ancho de banda necesarios para manejar las cargas de trabajo de IA generativa y computación acelerada más complejas del mundo.