NVIDIA GH200 Grace Hopper 超級晶片

支援大規模人工智慧與高效能運算應用程式的開創性設計。

效能更高、記憶體更快速:具備超大頻寬,可提升運算效率

NVIDIA GH200 Grace Hopper™ 超級晶片是一款突破性處理器,完全重新設計, 可支援大規模人工智慧與高效能運算應用程式。這款超級晶片為執行 TB 級資料的應用程式提供 10 倍效能,堪稱無可比擬的解決方案,幫助科學家與研究人員解決世上最複雜的問題。

深入瞭解超級晶片

NVIDIA GH200 Grace Hopper 超級晶片

NVIDIA GH200 Grace Hopper 超級晶片使用 NVIDIA® NVLink®-C2C 結合了 NVIDIA Grace 和 Hopper 架構,為加速 AI 和 HPC 應用程式提供 CPU+GPU 的一致性記憶體模型。此超級晶片具有每秒 900 GB (GB/s) 的整合介面,速度比 PCIe Gen5 快上 7 倍。再借助 HBM3 和 HBM3e GPU 記憶體,增強晶片處理加速計算和生成式 AI工作的能力。 GH200 可以運行所有 NVIDIA 軟體堆疊和平台,包括 NVIDIA AI Enterprise、HPC SDK 和 Omniverse

雙 GH200 Grace Hopper 超級晶片透過 NVLink 完全連接兩個 GH200 超級晶片,單一伺服器可提供的 GPU 記憶體容量是 H100 的 3.5 倍,頻寬則是 H100 的 3 倍。

GH200 目前已上市。

NVIDIA GH200 NVL2

NVIDIA GH200 NVL2 透過 NVLink 完全連接兩個 GH200 超級晶片,提供 288GB 的高頻寬記憶體、每秒 10 TB 的記憶體頻寬,以及 1.2TB 的快速記憶體。與 NVIDIA H100 Tensor 核心 GPU 相比,GH200 NVL2 在單一伺服器中提供 3.5 倍的 GPU 記憶體容量和 3 倍頻寬,適合需頻繁進行運算與耗費大量記憶體的工作負載。

運用 GH200 探索 LaunchPad 實驗室

運用 Grace Hopper 加快運算與人工智慧速度

您將透過此技術展示,體驗到 NVIDIA GH200 Grace Hopper 超級晶片與 NVIDIA 軟體堆疊整合的無縫與順暢性,內容包含互動式技術展示、大型語言模型 (LLM) 等實際應用程式與案例研究。

專為現代資料中心工作負載設計的 NVIDIA Grace Hopper

搭載 GH200 的 NVIDIA MGX

支援人工智慧訓練、推論、5G 和與高效能運算。

NVIDIA GH200 Grace Hopper 超級晶片
NVIDIA BlueField®-3
OEM 定義的輸入/輸出 (IO) 和第四代 NVLink

NVIDIA 為 NVIDIA Grace 提供深度支援,包含效能調整指南、開發人員工具和函式庫。