CPU NVIDIA Grace

La résolution de problèmes complexes dans des champs d'application comme l'IA ou le HPC nécessite une mémoire dotée d'une bande passante élevée et de hautes capacités de calcul. Le NVIDIA NVLink-C2C fournit une bande passante bidirectionnelle de 900 Go/s entre le processeur NVIDIA Grace et les GPU de NVIDIA. Cette connexion directe fournit un espace d'adresses unifié et cohérent qui combine des performances système accrues et une mémoire GPU HBM pour une programmabilité simplifiée. Ce système de connexion ultra-performant à haute bande passante entre le CPU et les GPU est essentiel pour accélérer les charges de travail les plus complexes.

Le CPU NVIDIA Grace est le premier processeur de serveur à exploiter la mémoire LPDDR5X avec une fiabilité de niveau serveur grâce à des mécanismes avancés tels que le code de correction d’erreurs (ECC) pour répondre aux exigences des Data Centers modernes, tout en fournissant le double de bande passante mémoire ainsi qu’une efficacité énergétique jusqu’à 10 fois plus élevée par rapport à la mémoire de serveur traditionnelle. La solution LPDDR5X, couplée au cache de dernier niveau à hautes performances de NVIDIA Grace, offre la bande passante nécessaire pour prendre en charge des modèles complexes tout en réduisant la consommation du système afin de maximiser les performances de calcul avec des charges de travail de nouvelle génération.

Même si les capacités de calcul parallèle des GPU modernes évoluent constamment, les charges de travail peuvent parfois être impactées par les tâches exécutées en série sur le CPU. Un CPU à la fois rapide et efficace est un élément essentiel du système pouvant contribuer à une accélération optimale de votre charge de travail. Le CPU NVIDIA Grace intègre des cœurs Arm Neoverse V2 à la structure de cohérence évolutive (SCF) de NVIDIA pour offrir le plus haut niveau de performance ainsi qu'une conception économe en énergie, ce qui permet aux scientifiques et aux chercheurs d'accomplir leurs projets les plus importants.

L’IA générative peut s'avérer gourmande en mémoire et en ressources de calcul. La puce NVIDIA GB200 Superchip embarque 380 Go de mémoire HBM pour fournir une bande passante GPU au moins 4,5 fois plus élevée par rapport au GPU NVIDIA H100 Tensor Core. La combinaison de la bande passante élevée de Grace Blackwell et de la mémoire CPU sur NVLink-C2C fournit au GPU plus de 860 Go de mémoire à accès rapide, offrant ainsi la capacité de mémoire et la bande passante requises pour traiter les charges de travail de calcul accéléré et d’IA générative les plus complexes au monde.