若要充分發揮百萬兆級運算和兆級參數人工智慧模型的潛能,伺服器叢集內的每個 GPU 都必須達到快速、流暢的通訊。第五代 NVIDIA® NVLink® 互連技術可擴充多達 576 個 GPU,進而釋放一兆到數兆等級參數的人工智慧模型的加速效能。
NVIDIA NVLink Switch Chip 可在單一的 72-GPU NVLink 網域 (NVL72) 中,提供每秒 130 TB 的顯示卡頻寬,並可透過 NVIDIA 可擴充的分層彙總和精簡通訊協定 (SHARP)™ FP8 支援,提供 4 倍的頻寬效率。NVIDIA NVLink Switch Chip 能以每秒 1.8 TB 的驚人互連速度,支援單一伺服器以外的叢集。為了平衡增加的運算能力,具備 NVLink 的多伺服器叢集可擴充顯示卡通訊,因此與單一的八顯示卡系統相比,NVL72 可帶來 9 倍的顯示卡輸送量。