人工智慧基礎架構黃金標準
NVIDIA DGX™ H100 拓展創新與最佳化的極限。DGX H100 擁有 NVIDIA 經典 DGX 系統的最新迭代和 NVIDIA DGX SuperPOD™ 的基礎,並且以 NVIDIA H100 Tensor 核心 GPU 突破性效能加速,是一項極其強大的人工智慧產品。
DGX H100 是世界上第一個專門打造的人工智慧基礎架構第四代產品,它是一個完全最佳化的硬體及軟體平台,為新的 NVIDIA 人工智慧軟體解決方案系列提供支援、具備第三方支援的豐富生態系,還能讓使用者獲得 NVIDIA 專業服務的專家建議。
NVIDIA DGX H100 提供擁有 6 倍效能、2 倍網路速度,以及 NVIDIA DGX SuperPOD 的高速可擴充性。新一代架構已進行大幅提升,可執行自然語言處理和深度學習推薦模型等大型工作負載。
DGX H100 可安裝在本機方便直接管理,以便於在 NVIDIA DGX-Ready 資料中心主機代管、以及透過 NVIDIA 認證的管理式服務供應商取用。此外,DGX-Ready 生命週期管理能讓組織獲得可預測的金融模型,使他們的部署領先群倫。
使用 DGX 平台最快速的方式是運用 NVIDIA DGX Cloud,其為專為正在開發生成式 AI 的企業量身打造的無伺服器 AI 培訓服務平台.
8 個 NVIDIA H100 GPU,總 GPU 記憶體高達 640GB 每個 GPU 都擁有 18 個 NVIDIA® NVLinks®,提供每秒 900 GB 的 GPU 至 GPU 雙向頻寬
4 個 NVIDIA NVSWITCH™ 每秒 7.2TB 的 GPU 雙向頻寬,比前一代快 1.5 倍
8 個 NVIDIA CONNECTX®-7 和 2 個搭載每秒 400Gb 網路介面卡的 NVIDIA BLUEFIELD® DPU。 雙向網路頻寬峰值高達每秒 1TB
雙 x86 CPU 與 2TB 系統記憶體 強大的 CPU,可執行人工智慧技術需求最嚴苛作業
30TB NVMe SSD 使用高速儲存以達到最佳效能
人工智慧基礎架構領導品牌