Puce de commutation NVLink

NVLink et commutateur NVLink

Technologies essentielles aux communications multi-GPU à haute vitesse, qui contribuent à accélérer l'intégration de jeux de données volumineux au sein des modèles d'IA et à optimiser les échanges de données entre les GPU.

Vers un modèle d'interconnexion plus rapide et évolutif

Pour exploiter le plein potentiel du calcul Exascale et de nouveaux modèles d’IA pouvant inclure plusieurs billions de paramètres, il convient de mettre en œuvre des communications fluides et rapides entre chaque GPU au sein d’un cluster de serveurs. La technologie NVIDIA® NVLink® de cinquième génération repose sur un modèle d’interconnexion évolutif qui contribue à accélérer les performances des modèles d’IA incluant des billions de paramètres (voire beaucoup plus).

Performances NVLink

Une configuration NVLink avec NVIDIA H100 permet de fournir une bande passante 1,5 fois plus élevée pour les communications inter-GPU par rapport aux systèmes de génération précédente. Les chercheurs peuvent ainsi recourir à des applications plus sophistiquées et intensives pour résoudre des problèmes d’une grande complexité.

Accélération du rendement GPU avec les communications NVLink

Connectez intégralement vos GPU avec NVIDIA NVLink et le commutateur NVLink

NVLink est une technologie d’interconnexion directe GPU-vers-GPU offrant une bande passante bidirectionnelle de 1,8 To/s qui permet de faire évoluer les entrées/sorties multi-GPU au sein du serveur. Les puces de commutation NVIDIA NVLink  peuvent servir à connecter plusieurs liaisons NVLink pour mettre en œuvre des communications GPU All-to-All à une vitesse maximale au sein d’un seul rack, mais aussi entre les racks.

Pour permettre des opérations collectives à haute vitesse, chaque commutateur NVLink dispose de moteurs relatifs au protocole SHARP™ (Scalable Hierarchical Aggregation Reduction Protocol) de NVIDIA pour la réduction de la latence et l’accélération des multi-diffusions sur le réseau.

Entraînez des modèles dotés de plusieurs billions de paramètres avec le système de commutation NVLink

Grâce au commutateur NVLink, les connexions NVLink peuvent être étendues sur plusieurs nœuds afin de créer un cluster de GPU multi-nœuds à bande passante fluide et efficace, ce qui permet de former efficacement un cluster de la taille d’un Data Center. Le commutateur NVIDIA NVLink délivre une bande passante GPU de 130 To/s sur un seul domaine NVL72 pour fournir un parallélisme optimal des modèles d'IA. Les clusters multiserveurs avec NVLink permettent de mettre à niveau les communications GPU en les équilibrant avec l'augmentation de la puissance de calcul. Chaque domaine NVL72 peut ainsi fournir une densité de GPU jusqu'à 9 fois plus élevée qu’avec un seul système à huit GPU.

Commutateur NVIDIA NVLink

Le commutateur NVIDIA NVLink comporte 144 ports NVLink dotés d’une capacité de commutation non bloquante de 14,4 To/s. Le commutateur rack a été conçu pour fournir une bande passante élevée et une faible latence sur les systèmes NVIDIA GB200 NVL72, qui peuvent ainsi prendre en charge une connectivité NVLink externe de cinquième génération.


Entrez dans l’ère du calcul Exascale

Connexion intégrale pour des performances incomparables

Basé sur la première puce de commutation sur rack capable de prendre en charge jusqu’à 576 GPU interconnectés sur une structure de calcul non bloquante, le commutateur NVLink délivre des communications simultanées entre chaque paire de GPU à une vitesse exceptionnelle de 1800 Go/s. NVSwitch prend en charge les communications All-to-All. Les 72 GPU du domaine GB200 NVL72 peuvent être utilisés en tant qu’accélérateurs uniques à hautes performances offrant une puissance de calcul IA pouvant atteindre 1,4 exaflop.

La plateforme d’IA et de HPC la plus puissante au monde

NVLink et le commutateur NVLink sont des composants essentiels de la pile de solutions NVIDIA pour Data Center, regroupant un ensemble complet de solutions matérielles et logicielles, de systèmes de mise en réseau, de bibliothèques, de modèles d’IA et d’applications optimisées par le catalogue  NVIDIA NGC™. Dédiée à l’IA et au HPC, cette plateforme de bout en bout pour Data Center est la plus puissante du marché. Les chercheurs du monde entier peuvent ainsi aboutir plus rapidement à des résultats concrets et déployer des solutions de production hautement évolutives, avec une accélération incomparable du calcul informatique à tous les niveaux de précision.

Plongez au cœur de l’architecture NVIDIA Blackwell