NVIDIA DGX H200

Name: DGX H200: AI for Enterprise
Brand: NVIDIA

AI 팩토리 인프라의 최적 표준.

세계적으로 입증된 엔터프라이즈 AI 팩토리

NVIDIA DGX™ H200으로 비즈니스 혁신과 최적화의 지평을 넓혀보세요. DGX 플랫폼의 일부인 DGX H200은 NVIDIA DGX SuperPOD™ 및 DGX BasePOD™의 기반이 되는 AI 강자로, NVIDIA H200 Tensor 코어 GPU의 획기적인 성능으로 가속화되었습니다.

데이터시트 다운로드하기

가장 완성된 AI 플랫폼

우수한 AI 센터의 기반

NVIDIA Base Command™, NVIDIA AI Enterprise 소프트웨어 제품군, NVIDIA DGXperts의 전문가 지원을 포함하는 완전 통합 하드웨어 및 소프트웨어 솔루션인 DGX H200을 기반으로 우수한 AI 센터를 구축하세요.

장벽을 허물고 AI를 확장해 보세요

DGX H200 아키텍처로 32페타플롭스의 AI 성능, 이전 세대 대비 2배 더 빠른 네트워킹, 고속 확장성을 경험하세요. 이 솔루션은 생성형 AI, 자연어 처리, 딥 러닝 추천 모델 등의 대규모 워크로드를 처리할 수 있도록 강력한 지원을 제공합니다.

나만의 맞춤형 AI 인프라

온프레미스, 동시 위치, 관리형 서비스 제공업체에서의 대여 등 비즈니스에 적합한 다양한 방법으로 DGX H200의 성능을 경험하세요. 또한 DGX-Ready Lifecycle Management를 통해, 조직은 예측 가능한 재무 모델을 확보하여 최첨단 배포를 유지할 수 있습니다.

NVIDIA DGX H200 살펴보기

총 1,128GB의 GPU 메모리를 갖춘 NVIDIA H200 GPU 8개
GPU당 NVIDIA NVLink® 연결 18개, 900GB/s의 양방향 GPU 간 대역폭
NVIDIA NVSwitches™ 4개
이전 세대보다 1.5배 더 많은 7.2TB/s의 양방향 GPU-to-GPU 대역폭 제공
NVIDIA ConnectX®-7 10개 400Gb/s 네트워크 인터페이스
최대 1TB/s의 양방향 네트워크 대역폭
듀얼 인텔 제온 플래티넘 8480C 프로세서, 총 112개 코어, 2TB 시스템 메모리
가장 집약적인 AI 작업을 위한 강력한 CPU
30TB NVMe SSD
최고의 성능을 위한 고속 스토리지

NVIDIA DGX에 대한 고객의 의견

NVIDIA Hopper 아키텍처를 기반으로 한 NVIDIA의 DGX 시스템은 차세대 AI 지원 디지털 광고를 지원하고 있습니다. 저희는 DGX 시스템을 사용하여 생성형 AI 및 LLM 기술을 충분히 활용하여 유명인 아바타를 포함한 AI 기반 디지털 광고를 제작하고 있습니다.

— Takahito Naito, 전무 이사, CyberAgent, Inc.

NVIDIA Hopper 아키텍처를 탑재한 DGX 시스템은 기후 과학, 지속 가능성, 마이크로전자공학 분야의 중대한 과제를 해결하는 협업 연구를 지원하고 있습니다. 이 시스템을 통해, 오리건 주립 대학교는 혁신, 솔루션, 기업가 정신, 업계 및 기타 고등 교육 기관과의 파트너십을 추진하여 오리건, 미국 및 세계에 이익을 제공하고 있습니다.

— Edward Feser, 총장 겸 부학장, 오리건 주립 대학교

인용문 1
인용문 2

NVIDIA DGX SuperPOD

리더십급 AI 인프라.

자세히 알아보기

NVIDIA DGX 제품 및 솔루션

NVIDIA DGX SuperPOD

NVIDIA DGX SuperPOD는 모든 사용자와 워크로드에 탁월한 성능을 제공하는 턴키 AI 데이터센터 인프라 솔루션입니다. 모든 DGX 시스템으로 구성 가능한 DGX SuperPOD는 가장 까다로운 AI 학습 및 추론 워크로드를 처리할 수 있도록 확장 가능한 성능과 업계에서 입증된 결과를 갖춘 리더십급의 가속 인프라를 제공하여 타협 없이 성능을 제공할 수 있도록 지원합니다.

AI를 위한 맞춤형 인프라

NVIDIA DGX BasePOD

AI는 헬스케어에서 제조, 금융 서비스에 이르는 모든 산업 분야에 걸쳐 주요 사용 사례를 모두 지원하고 있습니다. NVIDIA DGX BasePOD는 기업이 AI 인프라를 구축하고 확장할 수 있는 레퍼런스 아키텍처를 제공합니다.

대규모 AI에 대한 업계 표준

NVIDIA Base Command

NVIDIA의 Deep Learning Institute(DLI)의 AI 전문가들이 DGX 고객에게 특별히 제공하는 이 특별 기술 교육을 통해 AI로 최첨단 혁신을 더 빠르게 이룰 수 있는 방법을 알아보세요.

DGX 데이터센터의 운영 체제

사양

NVIDIA DGX H200

GPU	8x NVIDIA H200 Tensor Core GPUs
GPU Memory	1,128GB total
Performance	32petaFLOPS FP8
NVIDIA NVSwitch	4x
System Power Usage	~10.2kW max
CPU	Dual Intel® Xeon® Platinum 8480C Processors 112 cores total, 2.00GHz (Base), 3.80GHz (max boost)
System Memory	2TB
Networking	4x OSFP ports serving 8x single-port NVIDIA ConnectX-7 VPI Up to 400Gb/s NVIDIA InfiniBand/Ethernet
Management Network	10Gb/s onboard NIC with RJ45 100Gb/s Ethernet optional NIC Host baseboard management controller (BMC) with RJ45
Storage	OS: 2x 1.9TB NVMe M.2 Internal storage: 8x 3.84TB NVMe U.2
Software	NVIDIA AI Enterprise – Optimized AI software NVIDIA Base Command – Orchestration, scheduling, and cluster management NVIDIA DGX OS / Ubuntu / Red Hat Enterprise Linux / Rocky – Operating system
System Weight	287.6lb (130.45kgs)
System Dimensions	Height: 14.0in (356mm) Width: 19.0in (482.2mm) Length: 35.3in (897.1mm)
Operating Temperature	5–30°C (41–86°F)