NVLink と NVSwitch

NVLink は GPU 間で 1.8TB/秒 の直接相互接続であり、サーバー内でマルチ GPU の入出力 (IO) を拡張します。NVIDIA NVLink Switch は複数の NVLink を接続し、単一ラック内やラック間で、あらゆる GPU 通信を NVLink フルスピードで提供します。

高速な集合演算を可能にするために、各 NVLink Switch には NVIDIA SHARP™ (Scalable Hierarchical Aggregation Reduction Protocol) 用のエンジンがあり、ネットワーク内のデータ送信量を減らし、マルチキャストで高速化します。

NVLink Switch は、ノン ブロッキングのコンピューティング ファブリックで最大 576 基の接続された GPU をフル サポートできる、初のラックレベル スイッチ チップです。NVLink Switch はあらゆる GPU ペアを驚異的な 1,800 GB/秒で相互接続します。完全な All-to-All 通信をサポートします。GB200 NVL72 の 72 基の GPU は、最大 1.4 petaFLOPS の AI 演算能力を備えた 1 台の高性能アクセラレータとして利用できます。

ハードウェア、ネットワーク、ソフトウェア、ライブラリ、最適化された AI モデル、NVIDIA AI Enterprise ソフトウェア スイートならびに NVIDIA NGC™ カタログからのアプリケーションが組み込まれた完全な NVIDIA データ センター ソリューションにおいて、極めて重要な構成要素が NVLink と NVLink Switch です。最もパワフルなエンドツーエンド AI/HPC プラットフォームであり、研究者は現実に成果を出し、ソリューションを本番環境に展開でき、かつてない高速化があらゆる規模で可能となります。