NVIDIA DGX B200
La base de su centro de excelencia en IA.
Rendimiento Revolucionario Respaldado por Innovación Evolutiva
NVIDIA DGX™ B200 es una plataforma de IA unificada para procesos de desarrollo e implementación para empresas de cualquier tamaño en cualquier etapa de su viaje hacia la IA. Equipado con ocho GPU NVIDIA Blackwell interconectadas con NVIDIA® NVLink® de quinta generación, DGX B200 ofrece un rendimiento de vanguardia, ofreciendo 3 veces el rendimiento de entrenamiento y 15 veces el rendimiento de inferencia de las generaciones anteriores. Aprovechando la arquitectura de GPU NVIDIA Blackwell, DGX B200 puede manejar diversas cargas de trabajo, incluidos grandes modelos de lenguaje, sistemas de recomendación y chatbots, lo que lo hace ideal para empresas que buscan acelerar su transformación de IA.
Beneficios
Una Plataforma de IA Unificada
Actuación
Rendimiento de Próxima Generación Impulsado por DGX B200
Inferencia de Grandes Modelos de Lenguaje en Tiempo Real
Rendimiento proyectado sujeto a cambios. Latencia de token a token (TTL) = 50 ms en tiempo real, latencia del primer token (FTL) = 5 s, longitud de la secuencia de entrada = 32 768, longitud de la secuencia de salida = 1028, 8 GPU DGX H100 de ocho vías refrigeradas por aire frente a 1 GPU de ocho vías modo DGX B200 refrigerado por aire, según comparación de rendimiento de GPU.
Rendimiento de Entrenamiento de IA Sobrealimentado
Rendimiento proyectado sujeto a cambios. Escala de 32,768 GPU, clúster refrigerado por aire DGX H100 de ocho vías 4096x: red IB de 400G, clúster refrigerado por aire DGX B200 de ocho vías 4096x: red IB de 400G.
Especificaciones
Especificaciones de NVIDIA DGX B200
| GPU | 8x NVIDIA Blackwell GPUs |
| Memoria de GPU | Memoria GPU total de 1.440 GB |
| Rendimiento | Entrenamiento de 72 petaFLOPS y inferencia de 144 petaFLOPS |
| Consumo de Energía | ~14,3 kW máx. |
| CPU | 2 procesadores Intel® Xeon® Platino 8570 112 núcleos en total, 2,1 GHz (base), 4 GHz (aumento máximo) |
| Memoria del Sistema | Hasta 4TB |
| Redes | 4 puertos OSFP que sirven 8 NVIDIA ConnectX-7 VPI de un solo puerto
|
| Red de Gestión | NIC integrada de 10Gb/s con RJ45 NIC Ethernet de doble puerto de 100Gb/s Controlador de gestión de placa base de host (BMC) con RJ45 |
| Almacenamiento | SO: 2 NVMe M.2 de 1,9 TB Almacenamiento interno: 8x 3,84 TB NVMe U.2 |
| Software | NVIDIA AI Enterprise: software de IA optimizado NVIDIA Base Command™: orquestación, programación y gestión de clústeres DGX OS/Ubuntu: Sistema operativo |
| Unidades de Bastidor (RU) | 10 rupias |
| Dimensiones del Sistema | Altura: 17,5 pulgadas (444 mm) Ancho: 19,0 pulg. (482,2 mm) Longitud: 35,3 pulgadas (897,1 mm) |
| Temperatura de Funcionamiento | 5 a 30 °C (41 a 86 °F) |
| Soporte Empresarial | Soporte empresarial estándar empresarial de tres años para hardware y software Acceso al portal de soporte empresarial 24 horas al día, 7 días a la semana Soporte de agente en vivo durante el horario comercial local |
Recursos
Ofreciendo Supercomputación a Todas las Empresas
NVIDIA DGX SuperPOD
NVIDIA DGX SuperPOD™ con sistemas DGX B200 permite a las empresas líderes implementar una infraestructura llave en mano a gran escala respaldada por la experiencia en IA de NVIDIA.
Maximice el Valor de la Plataforma DGX
Los Servicios Empresariales de NVIDIA brindan soporte, educación y servicios profesionales para su infraestructura DGX. Con los expertos de NVIDIA disponibles en cada paso de su viaje hacia la IA, los servicios empresariales pueden ayudarle a poner en marcha sus proyectos de forma rápida y exitosa.
Reciba Una Oferta de Entrenamiento Exclusiva como Cliente de DGX
Aprenda cómo lograr avances de vanguardia con IA de manera más rápida y capacitación técnica especial, ofrecida expresamente a los clientes de DGX por parte de los expertos en IA del NVIDIA Deep Learning Institute (DLI).
Empezar