NVIDIA DGX B200
La fondation de votre centre d’excellence pour l’IA.
Des performances révolutionnaires soutenues par des innovations permanentes
NVIDIA DGX™ B200 est une plateforme d'IA unifiée pour les pipelines allant du développement au déploiement, destinée aux entreprises de toutes les tailles, qui peuvent ainsi accélérer toutes les étapes de leur initiative d'IA. Équipé de huit GPU NVIDIA Blackwell interconnectés via la technologie NVIDIA® NVLink® de cinquième génération, le système DGX B200 fournit des performances de pointe, qui incluent notamment des performances d’entraînement 3 fois plus élevées et des performances d’inférence 15 fois plus élevées qu'avec les GPU de génération précédente. En s’appuyant sur la nouvelle architecture de GPU NVIDIA Blackwell, le système DGX B200 permet de traiter une grande variété de charges de travail comprenant les grands modèles de langage, les systèmes de recommandation et les chatbots, ce qui en fait la solution idéale pour les sociétés qui s'évertuent à accélérer leur transformation commerciale grâce à l'IA.
Avantages
Plateforme d'IA unifiée
Performances
Des performances de nouvelle génération grâce au DGX B200
Inférence en temps réel avec de grands modèles de langage
Mesures de performance susceptibles d’être modifiées. Latence jeton-à-jeton (TTL) = 50 ms en temps réel ; Latence du premier jeton (FTL) = 5 s ; Longueur de séquence d’entrée = 32 768 ; Longueur de séquence de sortie = 1028. Configuration de test : 8x GPU DGX H100 Eight-Way à refroidissement par air vs 1x GPU DGX B200 Eight-Way à refroidissement par air. Comparatif des performances par GPU.
Performances renforcées pour l'entraînement IA
Projections de performance susceptibles d’être modifiées. Échelle d'évolutivité GPU : 32 768. Cluster de 4096 GPU DGX H100 Eight-Way à refroidissement par air : réseau 400G IB. Cluster de 4096 GPU DGX B200 Eight-Way à refroidissement par air : réseau 400G IB.
Spécifications
NVIDIA DGX B200 - Spécifications
| GPU | 8x GPU NVIDIA Blackwell |
| Mémoire GPU | Mémoire GPU totale de 1440 Go |
| Performances | 72 pétaflops pour l'entraînement et 144 pétaflops pour l'inférence |
| Consommation | ~14,3 kW max. |
| CPU | 2 Processeurs Intel® Xeon® Platinum 8570 112 cœurs au total ; 2,1 GHz (base), 4 GHz (Max Boost) |
| Mémoire système | Jusqu’à 4 To |
| Mise en réseau | 4 ports OSFP alimentant 8 ports uniques NVIDIA ConnectX-7 VPI
|
| Mise en réseau | Adaptateur réseau intégré à 10 Gbit/s avec RJ45 Adaptateur réseau Ethernet dual-port à 100 Gbit/s Port hôte BMC (Baseboard Management Controller) avec RJ45 |
| Stockage | Système : 2 disques NVMe M.2 de 1,9 To Stockage interne : 8 disques NVMe U.2 de 3,84 To |
| Logiciels | NVIDIA AI Enterprise : logiciels optimisés pour l’IA NVIDIA Base Command™ : orchestration, planification et gestion des clusters Système d’exploitation DGX OS / Ubuntu |
| Rack Units (RU) | 10 RU |
| System Dimensions | Hauteur : 444 mm Largeur : 482,2 mm Longueur : 897,1 mm |
| Operating Temperature | 5 – 30 °C |
| Enterprise Support | Assistance d’entreprise standard de trois ans pour le matériel et les logiciels Portail d'assistance d’entreprise accessible 24 h/24 et 7 j/7 Assistance en direct pendant les heures ouvrables locales |
Ressources
Solution de calcul intensif pour toutes les entreprises
NVIDIA DGX SuperPOD
NVIDIA DGX SuperPOD™ avec les systèmes DGX B200 permet aux leaders du secteur de déployer des infrastructures clé en main à grande échelle grâce à l’expertise en IA de NVIDIA.
Maximisez la valeur de la plateforme DGX
Les services d’entreprise de NVIDIA vous fournissent une assistance dédiée, un programme de formation et des services professionnels pour votre infrastructure DGX. Les experts de NVIDIA sont disponibles à chaque étape de votre projet d'IA, c'est pourquoi ces services d'entreprise peuvent vous aider à faire fructifier vos projets plus rapidement que jamais.
Bénéficiez d’une offre de formation exclusive en tant que client DGX
Découvrez comment réaliser plus rapidement que jamais des avancées décisives avec l’IA en suivant des formations techniques spéciales proposées aux clients DGX et dispensées par des experts de l’IA via le programme du NVIDIA Deep Learning Institute (DLI).
Démarrage