Die bahnbrechende CPU für das moderne Rechenzentrum.
Die NVIDIA Grace™ CPU ist für eine neue Art von Rechenzentrum konzipiert, das massive Datenmengen verarbeitet, um maschinelle Intelligenz mit maximaler Energieeffizienz zu erzeugen. Diese Rechenzentren verarbeiten unterschiedliche Workloads wie KI, Datenanalyse, Hyperscale-Cloud-Anwendungen und High-Performance-Computing (HPC). Um auch die anspruchsvollsten Anforderungen eines Rechenzentrums erfüllen zu können, bietet Grace die doppelte Verarbeitungsleistung pro Watt, doppelte Packaging-Dichte und die höchste Speicherbandbreite im Vergleich zu den führenden Servern von heute.
Die Grace-CPU koppelt 72 hochleistungsfähige und energieeffiziente Arm® Neoverse™ V2-Kerne mit der NVIDIA Scalable-Coherency-Fabric (SCF), die für maximale Leistung eine Bisektionsbandbreite von 3,2 TB/s liefert – doppelt so viel wie herkömmliche CPUs, bei voller Kompatibilität mit dem Arm-Ökosystem. Grace ist die erste CPU für Rechenzentren mit Highspeed-LPDDR5X-Speicher der Serverklasse und einem breiten Speichersubsystem, das bis zu 500 GB/s Bandbreite bei einem Fünftel des Energieverbrauchs von herkömmlichem DDR-Speicher bei etwa denselben Kosten bereitstellt.
Highlights
NVIDIA Grace Superchip, 480 GB LPDDR5X, AMD EPYC 9654, 768 GB DDR5; Betriebssystem: Ubuntu 22.04, Compiler: GCC 12.3, sofern nicht unten angegeben; Leistungsaufnahme bei Ermittlung der Energieeffizienz umfasst gemessene Leistungsaufnahme von CPU und Arbeitsspeicher; Graphenanalyse: GAP-Benchmark-Suite BFS arXiv:1508.03619 [cs.DC], 2015; Datenanalyse: HiBench + K-means Spark (HiBench 7.1.1, Hadoop 3.3.3, Spark 3.3.0, Grace: NVHPC 24.5, x86: Intel 2021.4); Wetter: ICON QUBICC, 80 km Auflösung, NVHPC 24.5 (Grace), ICC 2021.4 (x86); Microservices: Google Protobufs (Commit 7cd0b6fbf1643943560d8a9fe553fd206190b27f | N Instanzen parallel)
Merkmale
Technische Daten
NVIDIA Grace CPU C1 | NVIDIA Grace CPU Superchip | |
Configuration | 1x Grace CPU | 2x Grace CPU |
Core Count | 72 Arm Neoverse V2 Cores with 4x 128b SVE2 | 144 Arm Neoverse V2 Cores with 4x 128b SVE2 |
L1 cache | 64KB i-cache + 64KB d-cache per core | 64KB i-cache + 64KB d-cache per core |
L2 cache | 1MB per core | 1MB per core |
L3 cache | 114MB | 228MB |
LPDDR5X size | 120GB, 240GB and 480GB on-module memory options available | 240GB, 480GB and 960GB options available |
Memory bandwidth | Up to 384 GB/s for 480GB Up to 512 GB/s for 120GB, 240GB |
Up to 768 GB/s for 960GB Up to 1024 GB/s for 240GB, 480GB |
NVLink-C2C bandwidth | n/a | Up to 900 GB/s |
PCIe Links | Up to 4x PCIe Gen 5x16 with option to bifurcate | Up to 8x PCIe Gen 5x16 with option to bifurcate |
Jetzt loslegen
Registrieren Sie sich, um zu erfahren, ab wann NVIDIA Grace Blackwell verfügbar ist.