Para moverse a la velocidad del mundo empresarial actual, los modelos a exaescala de HPC y de IA con billones de parámetros necesitan una comunicación sin fisuras y de alta velocidad entre cada GPU de un clúster de servidores para poder acelerar a escala.
NVLink de cuarta generación puede escalar la entrada y salida (E/S) de varias GPU con servidores NVIDIA DGX™ y HGX™ a 900 gigabytes por segundo (GB/s) bidireccionales por GPU, 7 veces más ancho de banda que PCIe Gen5.
La tercera generación de NVIDIA NVSwitch™ admite el Protocolo Escalable de Reducción y Agregación Jerárquica (SHARP)™ de cálculo en red, que antes solo estaba disponible en Infiniband, y proporciona un rendimiento dos veces mayor en todas las reducciones dentro de ocho servidores de GPU H200 o H100 en comparación con los sistemas de GPU Tensor Core A100 de la generación anterior.
Los sistemas DGX GH200 con el sistema de conmutadores NVLink admiten clústeres de hasta 256 H200 conectados y ofrecen 57,6 terabytes por segundo (TB/s) de ancho de banda completo.