CPU NVIDIA Grace

Resolver los mayores problemas de IA y HPC requiere una memoria de alta capacidad y gran ancho de banda (HBM). NVIDIA NVLink-C2C ofrece 900 gigabytes por segundo (GB/s) de ancho de banda bidireccional entre la CPU NVIDIA Grace y las GPU NVIDIA. La conexión proporciona un espacio de direcciones de memoria unificado y coherente con la caché que combina la memoria del sistema y de la GPU de HBM para una programabilidad simplificada. Esta conexión coherente y de gran ancho de banda entre CPU y GPU es clave para acelerar los problemas más complejos del mañana.

NVIDIA Grace es la primera CPU de servidor que aprovecha la memoria LPDDR5X con confiabilidad de clase de servidor a través de mecanismos como el código de corrección de errores (ECC) para satisfacer las demandas del data center, al tiempo que ofrece un alto ancho de banda de memoria y una eficiencia energética hasta 10 veces mejor en comparación con La memoria del servidor actual. El diseño LPDDR5X logra el equilibrio óptimo entre ancho de banda, eficiencia energética, capacidad y costo para cargas de trabajo de IA, HPC y nube a gran escala.

A medida que las capacidades de computación paralela de las GPU continúan avanzando, las cargas de trabajo aún pueden controlarse mediante tareas en serie que se ejecutan en la CPU. Una CPU rápida y eficiente es un componente crítico del diseño del sistema para permitir la máxima aceleración de la carga de trabajo. La CPU NVIDIA Grace integra núcleos Arm Neoverse V2 con NVIDIA Scalable Coherency Fabric para ofrecer un alto rendimiento en un diseño energéticamente eficiente, lo que facilita a los científicos e investigadores realizar el trabajo de su vida.

La IA generativa requiere mucha memoria y computación. El Superchip NVIDIA GB200 utiliza 380GB de memoria HBM, lo que ofrece más de 4,5 veces el ancho de banda de memoria de la GPU de la GPU NVIDIA H100 Tensor Core. La memoria de gran ancho de banda de Grace Blackwell está conectada a la memoria de la CPU a través de NVLink-C2C para proporcionar casi 860GB de memoria de acceso rápido a la GPU, brindando la capacidad de memoria y el ancho de banda necesarios para manejar la IA generativa más compleja del mundo y las cargas de trabajo de computación aceleradas.