NVIDIA GH200 Grace Hopper Superchip

En réunissant les architectures CPU Grace et GPU Hopper basées sur Arm® et NVLink-C2C, les NVIDIA GH200 Superchips accélèrent la recherche scientifique et la découverte sur les superordinateurs du monde entier. Les superordinateurs équipées de NVIDIA Grace Hopper Superchips offrent une puissance de traitement de l'IA économe en énergie de 200 exaflops, soit 200 quintillions de calculs par seconde.

Les avancées récentes en matière de stockage et de bande passante de mise en réseau, ainsi que la fin de la loi de Moore, ont déplacé les goulets d’étranglement de l’analyse et des requêtes vers CPU. Avec le GH200, le CPU et le GPU partagent une table de page unique par processus, ce qui permet à tous les threads CPU et GPU d’accéder à toute la mémoire allouée au système qui peut se trouver sur le CPU physique ou la mémoire GPU. Le GH200 supprime la nécessité de copier la mémoire entre le CPU et le GPU, accélérant le traitement des données jusqu'à 36 fois.

La génération augmentée par récupération (RAG) connecte de grands modèles de langage (LLM) aux bases de connaissances pour améliorer la précision des modèles. La RAG nécessite la génération d'intégrations et l'exécution de recherches vectorielles à grande échelle. Les 72 cœurs CPU Grace basés sur Arm à faible consommation accélèrent le prétraitement des données de la base de connaissances, et NVLink-C2C accélère de 7 fois le transfert des données prétraitées vers le GPU Hopper par rapport à PCIe, ce qui permet de multiplier par 30 le processus de génération d'intégration.

Les réseaux de neurones graphes (GNN) sont utilisés dans un large éventail d'applications, comme l'analyse de réseaux sociaux, la découverte de médicaments, la détection des fraudes et la chimie moléculaire. Le GH200 tire parti de la mémoire rapide CPU et GPU combinée pouvant atteindre 624 Go, de 4 pétaFLOPS de GPU H200 et de la NVLink-C2C de 900 Go/s pour accélérer l'entraînement du GNN jusqu'à 8 fois par rapport au GPU H100 PCIe.