Para avanzar a la velocidad de los negocios, la HPC a exaescala y los modelos de IA de billones de parámetros necesitan una comunicación fluida y de alta velocidad entre todas las GPU de un clúster de servidores para acelerar a escala.
NVLink de cuarta generación puede escalar la entrada y salida (IO) de varias GPU con servidores NVIDIA DGX™ y NVIDIA HGX™ a 900 gigabytes por segundo (GB/s) bidireccionales por GPU, más de 7 veces el ancho de banda de PCIe Gen5.
NVIDIA NVSwitch™ de tercera generación es compatible con la computación en red del Protocolo de Agregación y Reducción Jerárquica Escalable (SHARP™), que anteriormente solo estaba disponible en Infiniband, y proporciona un aumento de 2 veces en el rendimiento de reducción total dentro de ocho servidores GPU H100 en comparación con los sistemas GPU A100 Tensor Core de la generación anterior.
Los sistemas DGX GH200 con sistema de switch NVLink admiten clústeres de hasta 256 H100 conectados y ofrecen 57,6 terabytes por segundo (TB/s) de ancho de banda de todo a todo.