대규모 AI 및 HPC 애플리케이션을 위한 획기적인 디자인입니다.
NVIDIA GH200 Grace Hopper 슈퍼칩은 가속화된 AI 및 HPC 애플리케이션을 위한 CPU+GPU 코히어런트 메모리 모델을 제공하기 위해 NVIDIA® NVLink®-C2C 를 사용하는 NVIDIA Grace™ 및 Hopper™ 아키텍처를 결합합니다. 초당 900GB/s의 코히어런트 인터페이스를 갖춘 이 슈퍼칩은 PCIe Gen5보다 7배 빠릅니다. 또한 HBM3 및 HBM3e GPU 메모리를 통해 가속 컴퓨팅 및 생성형 AI를 강화합니다. GH200은 NVIDIA AI 엔터프라이즈, HPC SDK, Omniverse™를 포함한 모든 NVIDIA 소프트웨어 스택 및 플랫폼을 실행합니다.
Dual GH200 Grace Hopper 슈퍼칩은 NVLink로 2개의 GH200 슈퍼칩을 완전히 연결하며 단일 서버에서 H100보다 최대 3.5배 더 많은 GPU 메모리 용량과 3배 더 많은 대역폭을 제공합니다.
GH200은 현재 사용 가능합니다.
NVIDIA GH200 NVL2는 2개의 GH200 슈퍼칩을 NVLink로 완전히 연결하여 최대 288GB의 고대역폭 메모리, 10TB/s의 메모리 대역폭, 1.2TB의 빠른 메모리를 제공합니다. 현재 사용 가능한 GH200 NVL2는 컴퓨팅 및 메모리 집약적인 워크로드를 위해 단일 서버에서 NVIDIA H100 텐서 코어 GPU보다 최대 3.5배 더 많은 GPU 메모리 용량과 3배 더 많은 대역폭을 제공합니다.
이 데모에서는 NVIDIA의 소프트웨어 스택과 NVIDIA GH200 Grace Hopper 슈퍼칩의 원활한 통합을 경험할 수 있습니다. 여기에는 거대 언어 모델(LLM)을 비롯하여 인터랙티브 데모와 실제 애플리케이션 및 사례 연구가 포함되어 있습니다.
NVIDIA GH200 Grace Hopper 슈퍼칩
NVIDIA BlueField®-3
OEM 정의 입/출력(IO) 및 4세대 NVLink
NVIDIA는 성능 조정 가이드, 개발자 도구 및 라이브러리를 통해 NVIDIA Grace에 대한 심층적인 지원을 제공합니다.