NVIDIA GB200 NVL72

GB200 NVL72 presenta capacidades de vanguardia y una segunda generación de la tecnología Transformer Engine, que habilita la IA con precisión FP4. Cuando se combina con NVIDIA NVLink de quinta generación, ofrece un desempeño de inferencia de LLM en tiempo real 30 veces más rápido para modelos de lenguaje con billones de parámetros. Este avance es posible gracias a una nueva generación de Núcleos Tensor que introducen nuevos formatos de microescala, optimizados para la inferencia de IA de alto rendimiento y baja latencia. Además, GB200 NVL72 usa NVLink y la refrigeración líquida para crear un solo bastidor enorme de 72 GPU que puede superar los cuellos de botella de comunicación.

GB200 NVL72 cuenta con una segunda generación más rápida de la tecnología Transformer Engine, que ofrece precisión FP8 y permite un entrenamiento hasta 4 veces más veloz de grandes modelos de lenguaje a escala. Este avance se complementa con NVLink de quinta generación, que proporciona 1.8 TB/s de interconexión de GPU a GPU, redes InfiniBand y el software NVIDIA Magnum IO™.

Los bastidores GB200 NVL72 con refrigeración líquida reducen la huella de carbono y el consumo de energía de un data center. La refrigeración líquida aumenta la densidad de computación, reduce la cantidad de espacio utilizado y facilita la comunicación de la GPU de alto ancho de banda y baja latencia con grandes arquitecturas de dominio NVLink. En comparación con la infraestructura con refrigeración por aire NVIDIA H100, GB200 ofrece 25 veces más desempeño con la misma alimentación, a la vez que reduce el consumo de agua.

Las bases de datos desempeñan roles críticos en el manejo, el procesamiento y el análisis de grandes volúmenes de datos para empresas. GB200 aprovecha el desempeño de la memoria de alto ancho de banda, NVLink-C2C y los motores de descompresión dedicados de la arquitectura NVIDIA Blackwell para acelerar las consultas clave de bases de datos 18 veces más rápido en comparación con la CPU, y ofrecer un TCO cinco veces mejor.