NVLink and NVLink Switch

NVLink es una interconexión directa bidireccional de GPU a GPU de 1,8 TB/s que escala la entrada y salida (IO) de varias GPU dentro de un servidor. El chip NVIDIA NVLink Switch conecta varios NVLink para proporcionar comunicación GPU entre todos a la velocidad máxima de NVLink dentro de un solo rack y entre racks.

Para permitir operaciones colectivas de alta velocidad, cada Switch NVLink tiene motores para el Protocolo de Reducción y Agregación Jerárquica Escalable de NVIDIA (SHARP)™ para reducciones en la red y aceleración de multidifusión.

El NVLink Switch es el primer chip de conmutación a nivel de rack capaz de admitir hasta 576 GPU completamente conectadas en una estructura informática sin bloqueo. El conmutador NVLink interconecta cada par de GPU a una increíble velocidad de 1.800 GB/s. Admite una comunicación total entre todos. Las 72 GPU del GB200 NVL72 se pueden utilizar como un único acelerador de alto rendimiento con hasta 1,4 exaFLOPS de potencia de computación de IA.

NVLink y Switch NVLink son componentes esenciales de la solución completa de data center de NVIDIA que incorpora hardware, redes, software, bibliotecas y modelos y aplicaciones de IA optimizados del paquete de software NVIDIA AI Enterprise y el catálogo NVIDIA NGC™. La plataforma de IA y HPC de extremo a extremo más potente, permite a los investigadores ofrecer resultados del mundo real e implementar soluciones en producción, impulsando una aceleración sin precedentes en todas las escalas.