NVIDIA GB200 NVL72

GB200 NVL72 presenta capacidades de vanguardia y un Transformer Engine de segunda generación que habilita FP4 AI y, cuando se combina con NVIDIA NVLink de quinta generación, ofrece un rendimiento de inferencia LLM en tiempo real 30 veces más rápido para modelos de lenguaje de billones de parámetros. Este avance es posible gracias a una nueva generación de Tensor Cores, que introducen nuevos formatos de microescala, lo que brinda alta precisión y mayor rendimiento. Además, el GB200 NVL72 utiliza NVLink y refrigeración líquida para crear un único rack masivo de 72 GPU que puede superar los cuellos de botella en las comunicaciones.

GB200 incluye un Transformer Engine más rápido con precisión FP8, lo que permite un entrenamiento notable 4 veces más rápido para grandes modelos de lenguaje a escala. Este avance se complementa con NVLink de quinta generación, que proporciona 1,8 terabytes por segundo (TB/s) de interconexión de GPU a GPU, redes InfiniBand y software NVIDIA Magnum IO™.

Los racks GB200 NVL72 con refrigeración líquida reducen la huella de carbono y el consumo de energía de un data center. La refrigeración líquida aumenta la densidad de computación, reduce la cantidad de espacio utilizado y facilita la comunicación de GPU de gran ancho de banda y baja latencia con grandes arquitecturas de dominio NVLink. En comparación con la infraestructura refrigerada por aire H100, GB200 ofrece 25 veces más rendimiento con la misma potencia y reduce el consumo de agua.

Las bases de datos desempeñan funciones fundamentales en el manejo, procesamiento y análisis de grandes volúmenes de datos para las empresas. GB200 aprovecha el rendimiento de la memoria de gran ancho de banda, NVLink-C2C y los motores de descompresión dedicados en la arquitectura NVIDIA Blackwell para acelerar las consultas clave de bases de datos 18 veces en comparación con la CPU y ofrecer un TCO 5 veces mejor.