NVIDIA Grace CPU Superchip

NVIDIA Grace CPU Superchip

La CPU revolucionaria para el centro de datos moderno.

Diseñada para satisfacer las necesidades de rendimiento y eficiencia de los centros de datos de IA actuales

La CPU NVIDIA Grace™ está diseñada para un nuevo tipo de centro de datos, uno que procesa montañas de datos para producir inteligencia con la máxima eficiencia energética. Estos centros de datos ejecutan diversas cargas de trabajo, como IA, análisis de datos, aplicaciones de nube a hiperescala y computación de alto rendimiento (HPC). Para satisfacer las necesidades más exigentes de los centros de datos, Grace ofrece el doble de rendimiento por vatio, el doble de densidad de empaquetado y un ancho de banda de memoria más alto que los servidores líderes actuales.

La CPU Grace combina 72 núcleos Arm® Neoverse™ V2 de alto rendimiento y eficiencia energética, que están conectados con NVIDIA Scalable Coherency Fabric (SCF), que proporciona 3,2 TB/s de ancho de banda biseccional, el doble que las CPU tradicionales, para ofrecer el máximo rendimiento, mientras que mantiene la compatibilidad total con el ecosistema Arm. Grace es la primera CPU de centro de datos que utiliza la memoria LPDDR5X de alta velocidad de clase de servidor con un amplio subsistema de memoria, que ofrece hasta 500 GB/s de ancho de banda por un quinto de la energía de las memorias DDR tradicionales y por un coste similar.

LaunchPad del NVIDIA Grace CPU Superchip

En este laboratorio gratuito, obtendrás experiencia práctica con el NVIDIA Grace CPU Superchip e interactuarás con demostraciones de su ancho de banda de memoria y entorno de software.

Conoce la CPU NVIDIA Grace

NVIDIA Grace CPU Superchip

El Grace CPU Superchip está compuesto por dos chips de CPU Grace conectados de forma coherente a través de NVIDIA NVLink™ Chip-to-Chip (C2C) a 900 GB/s. Incluye 144 núcleos Neoverse V2 en un solo módulo, con memoria LPDDR5X de clase de servidor que proporciona hasta 1 TB/s de ancho de banda de memoria. El Grace CPU Superchip es el núcleo de un servidor de dos sockets en un módulo compacto, que proporciona el doble de rendimiento con la misma potencia que las CPU de servidor tradicionales con memoria DDR5.

CPU NVIDIA Grace C1

NVIDIA Grace C1 es una plataforma de servidor de un solo socket y alto rendimiento que está optimizada para plataformas escalables y perimetrales, lo que incluye la nube a hiperescala, CDN, almacenamiento, telecomunicaciones y otras plataformas perimetrales de alto rendimiento que no afectan al rendimiento ni al ancho de banda. Esta plataforma proporciona un rendimiento x86 de alta gama y es configurable a potencias de desde 140 W a 250 W para la CPU Grace y la memoria LPDDR5X, mucho menos que los más de 400 W que consumen las plataformas x86 similares. El tejido de coherencia escalable diseñado por NVIDIA permite que la CPU Grace ofrezca el doble de eficiencia energética que las plataformas x86 líderes.

Aspectos destacados

Duplica los resultados del centro de datos o reduce el uso de energía a la mitad con CPU Grace

Análisis de gráficos

3 veces

Análisis de datos

2 veces

Clima

2 veces

Microservicios

1,6 veces

Superchip NVIDIA Grace de 480 GB de LPDDR5X, AMD EPYC 9654 de 768 GB de DDR5. SO: Ubuntu 22.04 Compiladores: GCC 12.3 a menos que se indique a continuación. La potencia para la eficiencia energética incluye la CPU + la potencia medida de la memoria. Análisis de gráficos: Gap Benchmarks Suite BFS arXiv:1508.03619 [cs.DC], 2015. Análisis de datos: HiBench+K-means Spark (HiBench 7.1.1, Hadoop 3.3.3, Spark 3.3.0; Grace: NVHPC 24.5, x86: Intel 2021.4) Clima: ICON QUBICC 80 km de resolución NVHPC 24.5 (Grace) ICC 2021.4 (x86) Microservicios: Google Protobufs (Versión 7cd0b6fbf1643943560d8a9fe553fd206190b27f | N instancias en paralelo)

Análisis de gráficos

El NVIDIA Grace CPU Superchip conecta los núcleos Arm Neoeverse V2 con un NVIDIA Scaled Coherency Fabric personalizado que proporciona un rendimiento increíblemente rápido para cargas de trabajo como la búsqueda en amplitud de GapBS, que exigen una comunicación y sincronización intensas entre los núcleos. NVIDIA Grace proporciona un rendimiento 2 veces mayor a nivel de servidor y una eficiencia energética 3 veces mejor que los sistemas x86 líderes.

Análisis de datos

Como los datos continúan creciendo, las empresas necesitan maximizar el aprendizaje de sus datos para competir. La suite HiBench prueba la agrupación K-means para el descubrimiento de conocimiento y la minería de datos, y aprovecha la memoria de alto ancho de banda y memoria de baja potencia en la CPU NVIDIA Grace. La CPU Grace es 2 veces más eficiente energéticamente que las CPU x86 líderes del mercado actual.

Clima

Los modelos de predicción meteorológica son un caso de uso importante para la computación de alto rendimiento (HPC, por sus siglas en inglés), y son vitales para comprender y responder a patrones climáticos que cambian como consecuencia del cambio climático. La memoria LPDDR5X de alto ancho de banda y eficiencia energética de la CPU Grace, que proporciona hasta 500 GB/s de ancho de banda en solo 16 W, permite que Grace complete casi el doble de trabajo que las soluciones x86 existentes con el mismo consumo de energía.

Microservicios

Los microservicios son una colección de pequeños servicios independientes que permiten que los centros de datos escalen fácilmente para satisfacer la demanda. También proporcionan flexibilidad para gestionar servicios individuales sin afectar a toda la aplicación. Google Protobufs mide la rapidez con la que el sistema puede secuenciar y analizar los datos necesarios para intercambiar datos entre sistemas que son esenciales para la ejecución de microservicios. La CPU NVIDIA Grace proporciona un alto rendimiento y una eficiencia energética líderes para maximizar el rendimiento de los centros de datos.

Características

Avances tecnológicos

Núcleos Neoverse V2 de Arm

En el corazón de la CPU Grace se encuentran los núcleos de CPU Arm Neoverse V2, el núcleo de centro de datos de mayor rendimiento de Arm que hay actualmente en el mercado. Los núcleos Neoverse V2 están optimizados para ofrecer un rendimiento líder por núcleo, a la vez que proporcionan una eficiencia increíble en comparación con las CPU tradicionales. La CPU Grace está compuesta por 72 núcleos y, cuando se combina con la memoria LPDDR5X y NVIDIA Scalable Coherency Fabric, proporciona el doble de rendimiento que las CPU x86 líderes, con el mismo consumo de energía.

NVIDIA Scalable Coherency Fabric

NVIDIA Scalable Coherency Fabric (SCF) es una estructura de malla y una arquitectura de caché distribuida, que fue diseñada por NVIDIA para satisfacer los desafíos de escalabilidad de núcleos y ancho de banda de una manera eficiente en términos de energía y espacio. SCF proporciona más de 3,2 TB/s de ancho de banda de bisección total, el doble que las CPU tradicionales, para mantener el flujo de datos entre los núcleos de la CPU, la memoria y la E/S del sistema. SCF reduce los cuellos de botella en aplicaciones con gran cantidad de movimiento de datos, como el análisis de gráficos, donde NVIDIA Grace proporciona hasta 2 veces el rendimiento de los servidores x86 líderes.

Memoria LPDDR5X

NVIDIA Grace es la primera CPU de servidor que utiliza la memoria LPDDR5X con fiabilidad de clase de servidor a través de mecanismos como el código de corrección de errores (ECC). La memoria LPDDR5X de NVIDIA Grace ofrece una combinación óptima de costes, potencia, ancho de banda y capacidad. Proporciona hasta 500 GB/s en solo unos 16 W, aproximadamente la quinta parte de la potencia de una memoria DDR5 convencional.

Socket simple y doble

La cartera de CPU de NVIDIA Grace incluye el superchip Grace, que proporciona el corazón de un servidor de doble socket con 144 núcleos Neoverse V2 y hasta 960 GB de LPDDR5X en un solo módulo compacto que solo necesita 500 W para la CPU y la memoria. Para proporcionar flexibilidad adicional, la CPU C1 de Grace ofrece un rendimiento increíble con 72 núcleos Neoverse V2 conectados por una NVIDIA Scalable Coherency Fabric increíblemente rápida en una configuración de un solo socket. La configuración está optimizada para implementaciones en la nube, almacenamiento, perímetro y telecomunicaciones, para ofrecer hasta 2 veces el rendimiento por vatio de los servidores x86 convencionales.

Noticias

La familia NVIDIA Grace revoluciona la eficiencia de los centros de datos

El Grace CPU Superchip, que se presenta en un módulo compacto de dos sockets, proporciona el doble de rendimiento que las principales CPU tradicionales, con el mismo consumo de energía.

Arquitectura detallada de NVIDIA Grace CPU Superchip

La CPU Grace fue construida desde cero, combinando la experiencia de NVIDIA con los procesadores Arm, el tejido en el chip, el diseño de sistema en chip (SoC, por sus siglas en inglés) y tecnologías resilientes de memoria de bajo consumo de alto ancho de banda, para crear el primer superchip del mundo para la computación.

Mejorar el rendimiento de la optimización matemática y la eficiencia energética en la CPU NVIDIA Grace

A medida que crece la demanda de soluciones de optimización matemática más rápidas y mejores, se necesita una innovación de la pila completa. Esta publicación del blog muestra los resultados de las pruebas de referencia y los casos de uso, que demuestran una eficiencia mejor con la CPU NVIDIA Grace basada en Arm.

Especificaciones

Especificaciones de la CPU Grace 1

  NVIDIA Grace CPU C1 NVIDIA Grace CPU Superchip
Configuration 1x Grace CPU 2x Grace CPU
Core Count 72 Arm Neoverse V2 Cores with 4x 128b SVE2 144 Arm Neoverse V2 Cores with 4x 128b SVE2
L1 cache 64KB i-cache + 64KB d-cache per core 64KB i-cache + 64KB d-cache per core
L2 cache 1MB per core 1MB per core
L3 cache 114MB 228MB
LPDDR5X size 120GB, 240GB and 480GB on-module memory options available 240GB, 480GB and 960GB options available
Memory bandwidth Up to 384 GB/s for 480GB
Up to 512 GB/s for 120GB, 240GB
Up to 768 GB/s for 960GB
Up to 1024 GB/s for 240GB, 480GB
NVLink-C2C bandwidth n/a Up to 900 GB/s
PCIe Links Up to 4x PCIe Gen 5x16 with option to bifurcate Up to 8x PCIe Gen 5x16 with option to bifurcate

Empezar

Mantente al día.

Regístrate para saber cuándo estará disponible NVIDIA Grace Blackwell.