NVIDIA GB200 NVL72

GB200 embarque des capacités de pointe et un moteur d’inférence qui, grâce à un couplage via la technologie d’interconnexion NVIDIA® NVLink de cinquième génération, offrent des performances d’inférence LLM en temps réel jusqu'à 30 fois plus rapides pour le traitement de modèles de langage comportant plusieurs billions de paramètres. Cette avancée technologique s’appuie sur la génération la plus récente des cœurs Tensor, intégrant le niveau de précision FP4 en microscaling. En outre, le domaine GB200 NVL72 fait appel à la technologie NVLink et à des techniques de refroidissement liquide pour créer un rack unique de 72 GPU capable de réduire les goulets d’étranglement au niveau des communications.

GB200 inclut un moteur de transformation à précision FP8 qui fournit des capacités de calcul jusqu'à 4 fois plus rapides pour un traitement évolutif des grands modèles de langage. Ce gain de performance repose sur la technologie NVLink de cinquième génération, qui permet un débit d’interconnexion GPU-vers-GPU de 1,8 téraoctets par seconde (To/s) avec les solutions de mise en réseau InfiniBand et l'environnement logiciel NVIDIA Magnum IO™.

Les racks GB200 NVL72 à refroidissement liquide permettent de réduire l’empreinte carbone et la consommation énergétique des Data Centers. Le refroidissement liquide augmente la densité de calcul, réduit l'encombrement et facilite les communications GPU à haute bande passante et à faible latence avec les grandes architectures de domaine NVLink. Par rapport aux GPU H100 à refroidissement par air, les GB200 offrent des performances jusqu’à 25 fois plus élevées avec une consommation maîtrisée tout en réduisant jusqu’à 13 fois la consommation d’eau.

Les bases de données jouent un rôle essentiel dans la gestion, le traitement et l’analyse d’importants volumes d'informations au sein des entreprises. GB200 tire parti de la bande passante élevée de l’interface NVLink-C2C et des moteurs de décompression dédiés de l'architecture NVIDIA Blackwell de manière à accélérer jusqu’à 18 fois le pipeline des requêtes de bases de données par rapport au traitement CPU, mais aussi à réduire jusqu’à 5 fois le coût total de possession.