A base para o seu centro de excelência em IA.
NVIDIA DGX™ B200 é uma plataforma unificada de IA para pipelines de desenvolvimento para implantação para empresas de qualquer tamanho, em qualquer estágio de sua jornada de IA. Equipado com oito GPUs NVIDIA Blackwell interconectadas com NVIDIA® NVLink® de quinta geração, o DGX B200 oferece desempenho de ponta, oferecendo 3 vezes o desempenho de treinamento e 15 vezes o desempenho de inferência das gerações anteriores. Aproveitando a arquitetura de GPU NVIDIA Blackwell, o DGX B200 pode lidar com diversas cargas de trabalho, incluindo grandes modelos de linguagem, sistemas de recomendação e chatbots, tornando-o ideal para empresas que buscam acelerar sua transformação de IA.
Vantagens
Desempenho
Desempenho projetado sujeito a alterações. Latência token a token (TTL) = 50 ms em tempo real, latência do primeiro token (FTL) = 5s, comprimento da sequência de entrada = 32.768, comprimento da sequência de saída = 1.028, 8 GPUs DGX H100 de oito vias resfriadas a ar vs. way DGX B200 refrigerado a ar, por comparação de desempenho de GPU.
Desempenho projetado sujeito a alterações. Escala de 32.768 GPU, cluster DGX H100 refrigerado a ar de 4.096x oito vias: rede 400G IB, cluster refrigerado a ar DGX B200 de 4.096x 8 vias: rede 400G IB.
Especificações
GPU | 8x NVIDIA Blackwell GPUs |
Memória GPU | 1.440 GB de memória GPU total |
Desempenho | Treinamento de 72 petaFLOPS e inferência de 144 petaFLOPS |
Consumo de Energia | ~14,3 kW máx. |
CPU | 2 processadores Intel® Xeon® Platinum 8570 112 núcleos no total, 2,1 GHz (base), 4 GHz (reforço máximo) |
Memoria do Sistema | Até 4 TB |
Rede | 4 portas OSFP atendendo 8x NVIDIA ConnectX-7 VPI de porta única
|
Rede de Gestão | NIC integrada de 10Gb/s com RJ45 NIC Ethernet de porta dupla de 100Gb/s Controlador de gerenciamento de placa base host (BMC) com RJ45 |
Armazenamento | SO: 2x 1,9 TB NVMe M.2 Armazenamento interno: 8x 3,84 TB NVMe U.2 |
Software | NVIDIA AI Enterprise: software de IA otimizado NVIDIA Base Command™: orquestração, agendamento e gerenciamento de cluster DGX OS/Ubuntu: Sistema operacional |
Unidades de Rack (RU) | 10RU |
Dimensões do Sistema | Altura: 17,5 pol. (444 mm) Largura: 19,0 pol. (482,2 mm) Comprimento: 35,3 pol. (897,1 mm |
Temperatura de Operação | 5–30°C (41–86°F) |
Suporte Empresarial | Suporte Enterprise Business Standard de três anos para hardware e software Acesso ao portal de suporte empresarial em tempo integral Suporte ao agente ao vivo durante o horário comercial local |
Recursos
NVIDIA DGX SuperPOD™ com sistemas DGX B200 permite que empresas líderes implantem infraestrutura pronta para uso em grande escala, apoiada pela experiência em IA da NVIDIA.
Os Serviços Empresariais da NVIDIA fornecem suporte, educação e serviços profissionais para sua infraestrutura DGX. Com especialistas da NVIDIA disponíveis em cada etapa da sua jornada de IA, os Serviços Empresariais podem ajudá-lo a colocar seus projetos em funcionamento com rapidez e sucesso.
Aprenda como alcançar avanços de ponta com IA de forma mais rápida e com treinamento técnico especial, oferecido expressamente aos clientes DGX pelos especialistas em IA do NVIDIA Deep Learning Institute (DLI).
Começar