CPU NVIDIA Grace

Resolver os maiores problemas de IA e HPC requer memória de alta capacidade e alta largura de banda (HBM). O NVIDIA NVLink-C2C oferece 900 gigabytes por segundo (GB/s) de largura de banda bidirecional entre a CPU NVIDIA Grace e as GPUs NVIDIA. A conexão fornece um espaço de endereço de memória unificado e coerente com o cache que combina a memória do sistema e da GPU HBM para uma programação simplificada. Essa conexão coerente e de alta largura de banda entre CPU e GPUs é fundamental para acelerar os problemas mais complexos do futuro.

NVIDIA Grace é a primeira CPU de servidor a aproveitar a memória LPDDR5X com confiabilidade de classe de servidor por meio de mecanismos como código de correção de erros (ECC) para atender às demandas do data center, ao mesmo tempo em que oferece alta largura de banda de memória e eficiência energética até 10 vezes melhor em comparação com memória do servidor atual. O design LPDDR5X atinge o equilíbrio ideal entre largura de banda, eficiência energética, capacidade e custo para cargas de trabalho de IA, HPC e nuvem em grande escala.

À medida que os recursos de computação paralela das GPUs continuam a avançar, as cargas de trabalho ainda podem ser controladas por tarefas seriais executadas na CPU. Uma CPU rápida e eficiente é um componente crítico do design do sistema para permitir a aceleração máxima da carga de trabalho. A CPU NVIDIA Grace integra núcleos Arm Neoverse V2 com o NVIDIA Scalable Coherency Fabric para oferecer alto desempenho em um design com baixo consumo de energia, facilitando o trabalho de cientistas e pesquisadores.

A IA generativa exige muita memória e computação. O Superchip NVIDIA GB200 usa 380GB de memória HBM, oferecendo mais de 4,5 vezes a largura de banda de memória da GPU NVIDIA H100 Tensor Core. A memória de alta largura de banda na Grace Blackwell está conectada à memória da CPU através do NVLink-C2C para fornecer quase 860GB de memória de acesso rápido à GPU, fornecendo a capacidade de memória e largura de banda necessárias para lidar com a IA generativa mais complexa do mundo e cargas de trabalho de computação aceleradas.