NVIDIA Grace

NVIDIA GB200 NVL72 verbindet 36 NVIDIA Grace CPUs und 72 NVIDIA Blackwell GPUs in einem Rack-Design und optimiert generative KI, Datenverarbeitung und Hochleistungs-Computing. NVIDIA GB200 NVL72 funktioniert wie eine einzige, massive GPU und bietet 30-mal schnellere Echtzeit-Inferenz für große Sprachmodelle (LLMs) mit Billionen von Parametern.

NVIDIA GB300 NVL72 bietet eine 35-mal höhere KI-Inferenzleistung als Hopper-Plattformen, 40 TB schnellen Arbeitsspeicher und eine Integration der Netzwerkplattform unter Verwendung von NVIDIA ConnectX®-8 SuperNICs und Quantum-X800 InfiniBand oder Spectrum™-X Ethernet. NVIDIA Blackwell Ultra sorgt für bahnbrechende Leistung bei den komplexesten Workloads – von agentenbasierten Systemen und Reasoning bis hin zu 30-mal schnellerer Echtzeit-Videogenerierung.

NVIDIA GB200 NVL4 eröffnet die Zukunft konvergierter HPC- und KI-Lösungen und liefert revolutionäre Leistung durch eine Brücke, die vier NVIDIA NVLink Blackwell-GPUs über NVLink-C2C mit zwei Grace-CPUs verbindet. Die Lösung ist mit flüssigkeitsgekühlten, modularen NVIDIA MGX™-Servern kompatibel und bietet im Vergleich zur Vorgängergeneration eine bis zu doppelt so hohe Leistung für wissenschaftliches Computing, KI für Training im wissenschaftlichen Bereich und Inferenzanwendungen.

Der NVIDIA Grace Hopper Superchip kombiniert die Grace- und Hopper-Architekturen mithilfe von NVIDIA® NVLink-C2C zu einem kohärenten CPU- und GPU-Speichermodell für beschleunigte KI- und HPC-Anwendungen.

NVIDIA GH200 NVL2 verbindet zwei GH200 Superchips mit NVLink und liefert so bis zu 288 GB Speicher mit hoher Bandbreite, eine Speicherbandbreite von 10 TB/s und einen schnellen Arbeitsspeicher von 1,2 TB.