NVIDIA Grace CPU

高容量記憶體與高頻寬記憶體 (HBM)，是最龐大人工智慧與高效能運算問題仰賴的解決之道。 NVIDIA NVLink-C2C 在 NVIDIA Grace CPU 與 NVIDIA GPU 之間，提供每秒 900 GB 的雙向頻寬。 這種連線方式提供統一且快取一致的記憶體位址空間，結合系統與 HBM GPU 記憶體，讓程式設計流程更為精簡。 CPU 與 GPU 之間一致的高頻寬連線，是加速解決未來難題的關鍵技術。

NVIDIA Grace 是第一個透過錯誤修正程式碼 (ECC) 等機制，運用伺服器級可靠性駕馭 LPDDR5X 記憶體的伺服器 CPU，不僅能滿足資料中心的需求，同時亦提供比現今伺服器記憶體高 2 倍的記憶體頻寬，以及最高 10 倍的能源效率。NVIDIA Grace LPDDR5X 解決方案結合大型、高效能、末級快取，可提供大型模型所需的頻寬，同時降低系統功率，為新一代工作負載提供極致的效能。

隨著 GPU 的平行運算功能持續進步，工作負載仍可能因 CPU 執行的序列工作而受限。快速有效率的 CPU 是系統設計的重要元素，可支援最高的工作負載加速。NVIDIA Grace CPU 整合 Arm Neoverse V2 核心與 NVIDIA 設計的可擴充連貫網狀架構，以節能設計提供高效能讓科學家和研究人員能更輕鬆地完成畢生傑作。

生成式人工智慧需要大量的記憶體和運算資源。NVIDIA GB200 超級晶片採用 380GB HBM 記憶體，提供的 GPU 記憶體頻寬是 NVIDIA H100 Tensor 核心 GPU 的 4.5 倍以上。Grace Blackwell 的高頻寬記憶體透過 NVLink-C2C 與 CPU 記憶體結合，為 GPU 提供大約 860GB 的快速存取記憶體，可為全球最複雜的生成式人工智慧和加速運算工作負載提供所需的記憶體處理容量和頻寬。