NVLink and NVLink Switch

As bases da comunicação multi-GPU de alta velocidade para impulsionar grandes conjuntos de dados mais rapidamente em modelos e trocar dados rapidamente entre GPUs.

Uma Necessidade de Interconexões de Expansão Mais Rápidas

Desbloquear todo o potencial da computação em exaescala e dos modelos de IA de trilhões de parâmetros depende de uma comunicação rápida e contínua entre cada GPU em um cluster de servidores. A quinta geração do NVIDIA® NVLink® é uma interconexão escalável que proporciona desempenho acelerado para modelos de IA de trilhões e multitrilhões de parâmetros.

Desempenho do NVLink

O NVLink no NVIDIA H100 aumenta a largura de banda de comunicação entre GPUs em 1,5X em comparação com a geração anterior, para que os pesquisadores possam usar aplicativos maiores e mais sofisticados para resolver problemas mais complexos.

Aumente o Rendimento da GPU com Comunicações NVLink

Conecte totalmente GPUs com NVIDIA NVLink e NVLink Switch

NVLink é uma interconexão direta bidirecional de GPU para GPU de 1,8 TB/s que dimensiona entrada e saída (IO) de várias GPUs em um servidor. O chip NVIDIA NVLink Switch conecta vários NVLinks para fornecer comunicação de GPU completa em velocidade NVLink total dentro de um único rack e entre racks.

Para permitir operações coletivas de alta velocidade, cada switch NVLink possui mecanismos para NVIDIA Scalable Hierarchical Aggregation and Reduction Protocol (SHARP)™ para reduções na rede e aceleração multicast.

Treine Modelos de Vários Trilhões de Parâmetros com Sistema de Switch NVLink

Com o NVSwitch, as conexões NVLink podem ser estendidas entre nós para criar um cluster de GPU de vários nós, contínuo e de alta largura de banda, formando efetivamente uma GPU do tamanho de um data center. O sistema de switch NVIDIA NVLink permite 130TB/s de largura de banda de GPU em um NVL72 para paralelismo de grandes modelos. Clusters de vários servidores com NVLink dimensionam as comunicações de GPU em equilíbrio com o aumento da computação, de modo que o NVL72 pode suportar 9 vezes o rendimento da GPU do que um único sistema de oito GPU.

NVIDIA NVLink Switch

O switch NVIDIA NVLink possui 144 portas NVLink com capacidade de comutação sem bloqueio de 14,4TB/s. O switch de rack foi projetado para fornecer alta largura de banda e baixa latência em sistemas NVIDIA GB200 NVL72 com suporte externo de quinta geração Conectividade NVLink.


Escalando da Empresa para Exascala

Conexão Total para Desempenho Incomparável

O switch NVLink é o primeiro chip switch em nível de rack capaz de suportar até 576 GPUs totalmente conectadas em uma malha de computação sem bloqueio. O switch NVLink interconecta todos os pares de GPU a incríveis 1.800 GB/s. Ele suporta comunicação completa entre todos. As 72 GPUs do GB200 NVL72 podem ser usadas como um único acelerador de alto desempenho com até 1,4 exaFLOPS de poder de computação de IA.

A Plataforma Mais Poderosa de IA e HPC

NVLink e NVLink Switch são componentes essenciais da solução completa de data center da NVIDIA que incorpora hardware, rede, software, bibliotecas e modelos e aplicações de IA otimizadas do pacote de software NVIDIA AI Enterprise e do catálogo NVIDIA NGC™. A plataforma ponta a ponta mais poderosa de IA e HPC permite que os pesquisadores forneçam resultados reais e implantem soluções na produção, gerando uma aceleração sem precedentes em todas as escalas.

Aprofunde-se na Arquitetura NVIDIA Blackwell