NVIDIA GB200 NVL72

GB200 NVL72 incorpora capacidades ultraavanzadas y un motor transformador de segunda generación que habilitan la IA FP4. Cuando se utiliza conjuntamente con NVIDIA NVLink de 5.ª generación, proporciona un rendimiento de inferencia de LLM en tiempo real 30 veces más rápido para modelos lingüísticos de billones de parámetros. Este avance es posible gracias a una nueva generación de núcleos Tensor, que aportan nuevos formatos de microescalado, lo cual proporciona una alta precisión y una mayor capacidad de procesamiento. Además, la GB200 NVL72 utiliza NVLink y refrigeración líquida para crear un bastidor único y masivo de 72 GPU que puede superar los problemas de cuellos de botella de comunicación.

GB200 NVL72 incluye un motor transformador de segunda generación más rápido, con precisión FP8, que posibilita un entrenamiento extraordinariamente 4 veces más rápido para modelos lingüísticos de gran tamaño a escala. Esta evolución técnica se complementa con la quinta generación de NVLink, que proporciona 1,8 TB/s de interconexión de GPU a GPU, redes InfiniBand y el software NVIDIA Magnum IO™.

Los bastidores GB200 NVL72 con refrigeración líquida reducen la huella de carbono y el consumo de energía de los centros de datos. La refrigeración líquida incrementa la densidad de computación, reduce la cantidad de espacio en el suelo utilizado y facilita la comunicación de las unidades GPU de alto ancho de banda y baja latencia con grandes arquitecturas de dominio NVLink. En comparación con la infraestructura refrigerada por aire NVIDIA H100, GB200 proporciona un rendimiento 25 veces superior con la misma potencia, al tiempo que reduce el consumo de agua.

Las bases de datos desempeñan un papel fundamental en la gestión, el procesamiento y el análisis de grandes volúmenes de datos para las empresas. GB200 aprovecha el alto ancho de banda de NVLink-C2C y los motores de descompresión dedicados de la arquitectura NVIDIA Blackwell para acelerar 18 veces las consultas de bases de datos clave en comparación con la CPU y ofrecer un coste total de la propiedad (TCO) 5 veces mejor.