NVIDIA DGX B200

NVIDIA DGX B200

La base de su centro de excelencia en IA.

Rendimiento Revolucionario Respaldado por Innovación Evolutiva

NVIDIA DGX™ B200 es una plataforma de IA unificada para procesos de desarrollo e implementación para empresas de cualquier tamaño en cualquier etapa de su viaje hacia la IA. Equipado con ocho GPU NVIDIA Blackwell interconectadas con NVIDIA® NVLink® de quinta generación, DGX B200 ofrece un rendimiento de vanguardia, ofreciendo 3 veces el rendimiento de entrenamiento y 15 veces el rendimiento de inferencia de las generaciones anteriores. Aprovechando la arquitectura de GPU NVIDIA Blackwell, DGX B200 puede manejar diversas cargas de trabajo, incluidos grandes modelos de lenguaje, sistemas de recomendación y chatbots, lo que lo hace ideal para empresas que buscan acelerar su transformación de IA.

Infraestructura de IA para Cualquier Carga de Trabajo

Descubra cómo DGX B200 permite a las empresas acelerar cualquier carga de trabajo de IA, desde la preparación de datos hasta la capacitación y la inferencia.

Ejemplos de Implementaciones Empresariales Exitosas

Lea cómo la plataforma NVIDIA DGX y NVIDIA NeMo™ han fortalecido a las empresas líderes.

Beneficios

Una Plataforma de IA Unificada

Una Plataforma para Pipelines de Desarrollo a Implementación

Las empresas requieren enormes cantidades de potencia de computación para manejar complejos conjuntos de datos de IA en cada etapa del proceso de IA, desde el entrenamiento hasta el ajuste y la inferencia. Con NVIDIA DGX B200, las empresas pueden equipar a sus desarrolladores con una plataforma única diseñada para acelerar sus workflows.

Potencia del Rendimiento de la IA

Impulsado por los avances de computación de la arquitectura NVIDIA Blackwell, DGX B200 ofrece 3 veces el rendimiento de entrenamiento y 15 veces el rendimiento de inferencia de DGX H100. Como base de NVIDIA DGX BasePOD™ y NVIDIA DGX SuperPOD™, DGX B200 ofrece un rendimiento de vanguardia para cualquier carga de trabajo.

Estándar de Infraestructura Probado

DGX B200 es una plataforma de hardware y software totalmente optimizada que incluye la pila completa de software de IA de NVIDIA, incluido el software NVIDIA Base Command y NVIDIA AI Enterprise, un rico ecosistema de soporte de terceros y acceso a asesoramiento experto de los servicios profesionales de NVIDIA.

Actuación

Rendimiento de Próxima Generación Impulsado por DGX B200

Inferencia de Grandes Modelos de Lenguaje en Tiempo Real

Rendimiento proyectado sujeto a cambios. Latencia de token a token (TTL) = 50 ms en tiempo real, latencia del primer token (FTL) = 5 s, longitud de la secuencia de entrada = 32 768, longitud de la secuencia de salida = 1028, 8 GPU DGX H100 de ocho vías refrigeradas por aire frente a 1 GPU de ocho vías modo DGX B200 refrigerado por aire, según comparación de rendimiento de GPU.

Rendimiento de Entrenamiento de IA Sobrealimentado

Rendimiento proyectado sujeto a cambios. Escala de 32,768 GPU, clúster refrigerado por aire DGX H100 de ocho vías 4096x: red IB de 400G, clúster refrigerado por aire DGX B200 de ocho vías 4096x: red IB de 400G.

Especificaciones

Especificaciones de NVIDIA DGX B200

GPU 8x NVIDIA Blackwell GPUs
Memoria de GPU Memoria GPU total de 1.440 GB
Rendimiento Entrenamiento de 72 petaFLOPS y inferencia de 144 petaFLOPS
Consumo de Energía ~14,3 kW máx.
CPU 2 procesadores Intel® Xeon® Platino 8570
112 núcleos en total, 2,1 GHz (base),
4 GHz (aumento máximo)
Memoria del Sistema Hasta 4TB
Redes 4 puertos OSFP que sirven 8 NVIDIA ConnectX-7 VPI de un solo puerto
  • Hasta 400 Gb/s InfiniBand/Ethernet
2 DPU NVIDIA BlueField-3 QSFP112 de doble puerto
  • Hasta 400 Gb/s InfiniBand/Ethernet
Red de Gestión NIC integrada de 10Gb/s con RJ45
NIC Ethernet de doble puerto de 100Gb/s
Controlador de gestión de placa base de host (BMC) con RJ45
Almacenamiento SO: 2 NVMe M.2 de 1,9 TB
Almacenamiento interno: 8x 3,84 TB NVMe U.2
Software NVIDIA AI Enterprise: software de IA optimizado
NVIDIA Base Command™: orquestación, programación y gestión de clústeres
DGX OS/Ubuntu: Sistema operativo
Unidades de Bastidor (RU) 10 rupias
Dimensiones del Sistema Altura: 17,5 pulgadas (444 mm)
Ancho: 19,0 pulg. (482,2 mm)
Longitud: 35,3 pulgadas (897,1 mm)
Temperatura de Funcionamiento 5 a 30 °C (41 a 86 °F)
Soporte Empresarial Soporte empresarial estándar empresarial de tres años para hardware y software
Acceso al portal de soporte empresarial 24 horas al día, 7 días a la semana
Soporte de agente en vivo durante el horario comercial local

Recursos

Ofreciendo Supercomputación a Todas las Empresas

NVIDIA DGX SuperPOD

NVIDIA DGX SuperPOD™ con sistemas DGX B200 permite a las empresas líderes implementar una infraestructura llave en mano a gran escala respaldada por la experiencia en IA de NVIDIA.

Maximice el Valor de la Plataforma DGX

Los Servicios Empresariales de NVIDIA brindan soporte, educación y servicios profesionales para su infraestructura DGX. Con los expertos de NVIDIA disponibles en cada paso de su viaje hacia la IA, los servicios empresariales pueden ayudarle a poner en marcha sus proyectos de forma rápida y exitosa.

Reciba Una Oferta de Entrenamiento Exclusiva como Cliente de DGX

Aprenda cómo lograr avances de vanguardia con IA de manera más rápida y capacitación técnica especial, ofrecida expresamente a los clientes de DGX por parte de los expertos en IA del NVIDIA Deep Learning Institute (DLI).

Empezar

Tome los Siguientes Pasos

Obtenga la Plataforma NVIDIA DGX

La plataforma DGX se compone de una amplia variedad de productos y servicios que se adaptan a las necesidades de cada empresa de IA.

Descubra los Beneficios de la Plataforma NVIDIA DGX

NVIDIA DGX es el estándar probado sobre el que se construye la IA empresarial.

¿Necesita Ayuda para Seleccionar el Producto o Socio Adecuado?

Habla con un especialista en productos NVIDIA sobre tus necesidades profesionales.