NVIDIA DGX B200

NVIDIA DGX B200

La fondation de votre centre d’excellence pour l’IA.

Des performances révolutionnaires soutenues par des innovations permanentes

NVIDIA DGX™ B200 est une plateforme d'IA unifiée pour les pipelines allant du développement au déploiement, destinée aux entreprises de toutes les tailles, qui peuvent ainsi accélérer toutes les étapes de leur initiative d'IA. Équipé de huit GPU NVIDIA Blackwell interconnectés via la technologie NVIDIA® NVLink® de cinquième génération, le système DGX B200 fournit des performances de pointe, qui incluent notamment des performances d’entraînement 3 fois plus élevées et des performances d’inférence 15 fois plus élevées qu'avec les GPU de génération précédente. En s’appuyant sur la nouvelle architecture de GPU NVIDIA Blackwell, le système DGX B200 permet de traiter une grande variété de charges de travail comprenant les grands modèles de langage, les systèmes de recommandation et les chatbots, ce qui en fait la solution idéale pour les sociétés qui s'évertuent à accélérer leur transformation commerciale grâce à l'IA.

Infrastructure d’IA pour toutes les charges de travail

Découvrez comment le DGX B100 permet aux entreprises d’accélérer toutes les charges de travail d’IA, de la préparation initiale des données jusqu'aux phases d’entraînement et d’inférence.

Exemples de déploiement à succès au sein des entreprises

Découvrez comment la plateforme NVIDIA DGX et le framework NVIDIA NeMo™ ont aidé des entreprises de premier plan.

Avantages

Plateforme d'IA unifiée

Plateforme unique pour l'intégralité du pipeline, du développement au déploiement

Les entreprises ont besoin d'une importante puissance de calcul pour gérer des jeux de données d’IA complexes à chaque étape des pipelines d’IA, de l'entraînement initial des modèles jusqu'au réglage fin et l'inférence. Grâce à NVIDIA DGX B200, les entreprises peuvent fournir à leurs développeurs une plateforme unique pour accélérer leurs workflows.

Plateforme à hautes performances pour l’IA

Basé sur les avancées décisives de la nouvelle architecture NVIDIA Blackwell en matière de calcul, le système DGX B200 fournit des performances d’entraînement 3 fois plus élevées et des performances d’inférence 15 fois plus élevées que celles du DGX H100. Fondation du NVIDIA DGX BasePOD™ et du NVIDIA DGX SuperPOD™, le DGX B200 délivre des performances à la pointe de l’industrie pour tous les types de charge de travail.

Standard d’infrastructure reconnu

Cette plateforme matérielle et logicielle entièrement optimisée englobe la pile logicielle de solutions de NVIDIA pour l'IA (incluant les logiciels NVIDIA Base Command et NVIDIA AI Enterprise), un écosystème complet de services tiers ainsi qu’un accès aux services d’assistance technique des équipes professionnelles de NVIDIA.

Performances

Des performances de nouvelle génération grâce au DGX B200

Inférence en temps réel avec de grands modèles de langage

Mesures de performance susceptibles d’être modifiées. Latence jeton-à-jeton (TTL) = 50 ms en temps réel ; Latence du premier jeton (FTL) = 5 s ; Longueur de séquence d’entrée = 32 768 ; Longueur de séquence de sortie = 1028. Configuration de test : 8x GPU DGX H100 Eight-Way à refroidissement par air vs 1x GPU DGX B200 Eight-Way à refroidissement par air. Comparatif des performances par GPU.​

Performances renforcées pour l'entraînement IA

Projections de performance susceptibles d’être modifiées. Échelle d'évolutivité GPU : 32 768. Cluster de 4096 GPU DGX H100 Eight-Way à refroidissement par air : réseau 400G IB. Cluster de 4096 GPU DGX B200 Eight-Way à refroidissement par air : réseau 400G IB.

Spécifications

NVIDIA DGX B200 - Spécifications

GPU 8x GPU NVIDIA Blackwell
Mémoire GPU Mémoire GPU totale de 1440 Go
Performances 72 pétaflops pour l'entraînement et 144 pétaflops pour l'inférence
Consommation ~14,3 kW max.
CPU 2 Processeurs Intel® Xeon® Platinum 8570
112 cœurs au total ; 2,1 GHz (base),
4 GHz (Max Boost)
Mémoire système Jusqu’à 4 To
Mise en réseau 4 ports OSFP alimentant 8 ports uniques NVIDIA ConnectX-7 VPI
  • InfiniBand/Ethernet jusqu’à 400 Gbit/s
2x DPU NVIDIA BlueField-3 QSFP112 dual-port
  • InfiniBand/Ethernet jusqu’à 400 Gbit/s
Mise en réseau Adaptateur réseau intégré à 10 Gbit/s avec RJ45
Adaptateur réseau Ethernet dual-port à 100 Gbit/s
Port hôte BMC (Baseboard Management Controller) avec RJ45
Stockage Système : 2 disques NVMe M.2 de 1,9 To
Stockage interne : 8 disques NVMe U.2 de 3,84 To
Logiciels NVIDIA AI Enterprise : logiciels optimisés pour l’IA
NVIDIA Base Command™ : orchestration, planification et gestion des clusters
Système d’exploitation DGX OS / Ubuntu
Rack Units (RU) 10 RU
System Dimensions Hauteur : 444 mm
Largeur : 482,2 mm
Longueur : 897,1 mm
Operating Temperature 5 – 30 °C
Enterprise Support Assistance d’entreprise standard de trois ans pour le matériel et les logiciels
Portail d'assistance d’entreprise accessible 24 h/24 et 7 j/7
Assistance en direct pendant les heures ouvrables locales

Ressources

Solution de calcul intensif pour toutes les entreprises

NVIDIA DGX SuperPOD

NVIDIA DGX SuperPOD™ avec les systèmes DGX B200 permet aux leaders du secteur de déployer des infrastructures clé en main à grande échelle grâce à l’expertise en IA de NVIDIA.

Maximisez la valeur de la plateforme DGX

Les services d’entreprise de NVIDIA vous fournissent une assistance dédiée, un programme de formation et des services professionnels pour votre infrastructure DGX. Les experts de NVIDIA sont disponibles à chaque étape de votre projet d'IA, c'est pourquoi ces services d'entreprise peuvent vous aider à faire fructifier vos projets plus rapidement que jamais.

Bénéficiez d’une offre de formation exclusive en tant que client DGX

Découvrez comment réaliser plus rapidement que jamais des avancées décisives avec l’IA en suivant des formations techniques spéciales proposées aux clients DGX et dispensées par des experts de l’IA via le programme du NVIDIA Deep Learning Institute (DLI).

Démarrage

Passez aux étapes suivantes

Procurez-vous la plateforme NVIDIA DGX

La plateforme DGX regroupe une grande variété de produits et de services pour répondre aux besoins de toutes les entreprises en matière d’IA.

Découvrez les avantages de la plateforme NVIDIA DGX

NVIDIA DGX est le standard reconnu pour déployer l’IA dans les entreprises.

Besoin d’aide pour sélectionner le bon produit ou partenaire ?

Évoquez vos besoins professionnels avec un spécialiste de NVIDIA.