NVIDIA Grace CPU

AI と HPC に関する最大級の問題を解決するには、大容量メモリと高帯域幅メモリ (HBM) が必要です。 NVIDIA NVLink-C2C は、NVIDIA Grace CPU と NVIDIA GPU 間で 900GB/s の双方向帯域幅を提供します。 この接続により、システムと HBM GPU メモリを組み合わせて、シンプルなプログラム性を実現する、統合されたキャッシュコヒーレント メモリ アドレス空間が提供されます。 CPU と GPU 間のこのコヒーレントな高帯域幅接続は、将来直面する非常に複雑な問題の解決を促進するための鍵となります。

NVIDIA Grace は、データ センターの要件を満たすために、エラー修正コード (ECC) などのメカニズムによってサーバー クラスの信頼性を持った LPDDR5X メモリを活用した初のサーバー CPU です。また、現行のサーバー メモリに比べて 2 倍のメモリ帯域幅と、最大 10 倍の電力効率を実現します。NVIDIA Grace LPDDR5X ソリューションは、大規模で高性能な最高レベルのキャッシュと相まって、大規模モデルに必要な帯域幅を提供すると同時に、システム電力を削減して次世代のワークロードのパフォーマンスを最大限に引き出します。

GPU の並列計算性能は進歩し続けており、CPU で実行されるシリアル タスクによってワークロードはコントロールすることができます。高速で効率的な CPU は、ワークロードを最大限に高速化するために、システム設計にとって重要な要素です。NVIDIA Grace CPU は、NVIDIA が設計した Scalable Coherency Fabric と Arm Neoverse V2 コアを統合し、電力効率に優れた設計で高い性能を引き出し、科学者や研究者のライフワークを大いに助けます。

生成 AI はメモリとコンピューティング リソースを大量に消費します。NVIDIA GB200 Superchip は 380GB の HBM メモリを使用して、NVIDIA H100 Tensor コア GPU の 4.5 倍以上の GPU メモリ帯域幅を提供します。Grace Blackwell の高帯域幅メモリが NVLink-C2C 経由で CPU メモリと連携することで、およそ 860GB の高速アクセス メモリを GPU に提供し、世界で最も複雑な生成 AI とアクセラレーテッド コンピューティングのワークロードを処理するために必要なメモリ容量と帯域幅を提供します。