NVIDIA GB200 NVL72

GB200 NVL72 presenta capacidades de vanguardia y un Motor Transformer de segunda generación, que habilita la IA FP4. Cuando se combina con NVIDIA NVLink de quinta generación, ofrece un desempeño de inferencia de LLM en tiempo real 30 veces más rápido para modelos de lenguaje con billones de parámetros. Este avance es posible con una nueva generación de Núcleos Tensor, que introducen nuevos formatos de microescala, lo que brinda una alta precisión y un mayor procesamiento. Además, GB200 NVL72 usa NVLink y la refrigeración líquida para crear un solo bastidor enorme de 72 GPU que puede superar los cuellos de botella de comunicación.

GB200 NVL72 incluye un Motor Transformer de segunda generación más rápido, con precisión FP8, lo que permite un notable entrenamiento con 4 veces más velocidad para grandes modelos de lenguaje a escala. Este avance se complementa con NVLink de quinta generación, que proporciona 1.8TB/s de interconexión de GPU a GPU, redes InfiniBand y el software NVIDIA Magnum IO™.

Los bastidores GB200 NVL72 con refrigeración líquida reducen la huella de carbono y el consumo de energía de un data center. La refrigeración líquida aumenta la densidad de computación, reduce la cantidad de espacio utilizado y facilita la comunicación de la GPU de alto ancho de banda y baja latencia con grandes arquitecturas de dominio NVLink. En comparación con la infraestructura con refrigeración por aire NVIDIA H100, GB200 ofrece 25 veces más desempeño con la misma alimentación, a la vez que reduce el consumo de agua.

Las bases de datos desempeñan funciones fundamentales en el manejo, procesamiento y análisis de grandes volúmenes de datos para las empresas. GB200 aprovecha el rendimiento de la memoria de gran ancho de banda, NVLink-C2C y los motores de descompresión dedicados en la arquitectura NVIDIA Blackwell para acelerar 18 veces las consultas clave de bases de datos en comparación con la CPU y ofrecer un costo total de propiedad 5 veces mejor.