NVIDIA DGX B200
La fondation de votre usine basée sur l'IA.
Des performances révolutionnaires soutenues par l'innovation évolutive
NVIDIA DGX B200 est une plateforme d'IA unifiée pour des pipelines de développement et de déploiement pour les entreprises de toutes tailles à n'importe quel stade de leur parcours avec l'IA. Équipée de huit GPU NVIDIA Blackwell interconnectés avec NVIDIA® NVLink™ de 5ᵉ génération, NVIDIA DGX B200 fournit des performances d'entraînement trois fois plus élevées et des performances d'inférence 15 fois plus élevées que les systèmes d'ancienne génération. DGX B200 exploite l'architecture NVIDIA Blackwell et peut gérer diverses charges de travail, notamment les grands modèles de langage, les systèmes de recommandation et les chatbots, il est donc idéal pour les entreprises cherchant à accélérer leur transformation numérique avec l'IA.
Avantages
Une usine basée sur l'IA unifiée
Performances
Performances nouvelle génération basées sur NVIDIA DGX B200
Inférence en temps réel pour les grands modèles de langage
Projections de performance sujettes à modification. Latence token-to-token (TTL) = 50 ms en temps réel, latence du premier jeton (FTL) = 5 s, longueur de séquence d'entrée = 32 768, longueur de séquence de sortie = 1 028, 8x GPU NVIDIA DGX H100 à huit voies refroidies par air contre 1x GPU NVIDIA DGX B200 à huit voies, comparaison de performances par GPU.
Performances d'entraînement boostées par l'IA
Projections de performance sujettes à modification. Échelle 32 768 GPU, cluster refroidi par air 4 096x à huit voies NVIDIA DGX H100 : réseau 400G IB, cluster refroidi par air 4 096x 8 voies : réseau 400G IB, cluster refroidi par air NVIDIA DGX B200 : réseau 400G IB.
Spécifications
Spécifications de NVIDIA DGX B200
| GPU | 8x GPU NVIDIA Blackwell |
| Mémoire GPU | Mémoire GPU totale de 1440 Go |
| Performances | 72 pétaflops pour l'entraînement et 144 pétaflops pour l'inférence |
| Consommation | ~14,3 kW max. |
| CPU | 2 Processeurs Intel® Xeon® Platinum 8570 112 cœurs au total ; 2,1 GHz (base), 4 GHz (Max Boost) |
| Mémoire système | Jusqu’à 4 To |
| Mise en réseau | 4 ports OSFP alimentant 8 ports uniques NVIDIA ConnectX-7 VPI
|
| Mise en réseau | Adaptateur réseau intégré à 10 Gbit/s avec RJ45 Adaptateur réseau Ethernet dual-port à 100 Gbit/s Port hôte BMC (Baseboard Management Controller) avec RJ45 |
| Stockage | Système : 2 disques NVMe M.2 de 1,9 To Stockage interne : 8 disques NVMe U.2 de 3,84 To |
| Logiciels | NVIDIA AI Enterprise : logiciels optimisés pour l’IA NVIDIA Base Command™ : orchestration, planification et gestion des clusters Système d’exploitation NVIDIA DGX OS / Ubuntu |
| Rack Units (RU) | 10 RU |
| System Dimensions | Hauteur : 444 mm Largeur : 482,2 mm Longueur : 897,1 mm |
| Operating Temperature | 5 – 30 °C |
| Enterprise Support | Assistance d’entreprise standard de trois ans pour le matériel et les logiciels Portail d'assistance d’entreprise accessible 24 h/24 et 7 j/7 Assistance en direct pendant les heures ouvrables locales |
Ressources
Usines basées sur l'IA pour toutes les entreprises
NVIDIA DGX SuperPOD
NVIDIA DGX SuperPOD est une solution clé en main d'infrastructure de Data Center pour l'IA qui offre des performances sans compromis à tous les utilisateurs et pour toutes les charges de travail. DGX SuperPOD est configurable avec n'importe quel système NVIDIA DGX et fournit aux charges de travail d'entraînement et d'inférence de l'IA les plus exigeantes une infrastructure accélérée hors pairs aux performances évolutives, avec des résultats avérés dans toutes les industries. De quoi offrir des performances sans compromis.
Présentation de NVIDIA Mission Control
NVIDIA Mission Control rationalise les opérations des usines basées sur l'IA, des charges de travail à l'infrastructure, grâce à une expertise de premier plan proposée sous forme de logiciel. Il équipe les Data Centers NVIDIA Blackwell et offre une agilité instantanée en matière d'inférence et d'entraînement, tout en fournissant une intelligence complète pour la résilience de l'infrastructure. Toutes les entreprises sont désormais en mesure d'exécuter l'IA avec une efficacité hyperscale. De quoi simplifier et accélérer l'expérimentation dans le domaine.
Maximisez la valeur de la plateforme NVIDIA DGX
Les services d’entreprise de NVIDIA vous fournissent une assistance dédiée, un programme de formation et des services professionnels pour votre infrastructure NVIDIA DGX. Les experts NVIDIA sont disponibles à chaque étape de votre projet d’IA. C’est pourquoi ces services aux entreprises peuvent vous aider à faire fructifier vos projets plus rapidement que jamais
Recevez une offre de formation exclusive en tant que client NVIDIA DGX
Découvrez comment réaliser plus rapidement des avancées décisives avec l’IA grâce à cette formation technique spéciale prodiguée expressément aux clients NVIDIA DGX par les experts en IA du Deep Learning Institute (DLI) de NVIDIA.
Commencer
