GPU NVIDIA L4 Tensor Core

L'acceleratore universale innovativo per video, IA e grafica efficienti.

Accelera i carichi di lavoro video, IA e grafici

La GPU NVIDIA L4 Tensor Core basata sull'architettura NVIDIA Ada Lovelace offre un'accelerazione universale ed efficiente dal punto di vista energetico per video, IA, elaborazione visiva, grafica, virtualizzazione e altro ancora. Con un fattore di forma a basso profilo, L4 è una soluzione economica ed efficiente dal punto di vista energetico per un'elevata portata e una bassa latenza in ogni server, dall'edge al data center al cloud.

Prestazioni video IA fino a 120 volte superiori

Prestazioni video IA fino a 120 volte superiori

Prestazioni misurate: confronto tra server CPU 8x L4 e 2S Intel 8362, pipeline video end-to-end con decodifica CV-CUDA®, pre-elaborazione, inferenza (SegFormer), post-elaborazione, codifica, NVIDIA® TensorRT™ 8.6 vs pipeline con solo CPU utilizzando OpenCV 4.7, inferenza PyTorch.

Sperimenta le prestazioni della pipeline video IA in tempo reale

Trasforma le applicazioni video con la potenza di NVIDIA L4. Che si tratti di trasmettere in diretta a milioni di spettatori, di permettere agli utenti di creare storie creative o di offrire esperienze di realtà virtuale e aumentata (AR/VR) coinvolgenti, i server dotati di L4 consentono di ospitare fino a 1.040 flussi video AV1 simultanei a 720p30 per gli utenti mobili.1

Grazie ai Tensor Cores di quarta generazione e alla memoria GPU 1,5 volte più grande, le GPU NVIDIA L4 abbinate alla libreria CV-CUDA® portano la comprensione dei contenuti video a un nuovo livello. L4 offre prestazioni video IA 120 volte superiori rispetto alle soluzioni basate su CPU, consentendo alle aziende di ottenere informazioni in tempo reale per personalizzare i contenuti, migliorare la rilevanza delle ricerche, rilevare contenuti discutibili e implementare soluzioni di spazio intelligenti.

1. Prestazioni misurate: 8x L4 AV1 a bassa latenza P1 preimpostato codifica a 720p30.

Consuma meno energia e spazio con L4

Con la diffusione dell'IA applicata ai video, la domanda per un'elaborazione efficiente e conveniente è più in crescita che mai. Le GPU NVIDIA L4 Tensor Core offrono prestazioni video IA fino a 120 volte migliori, con un’efficienza energetica fino al 99% migliore e un costo totale di proprietà inferiore rispetto all’infrastruttura tradizionale basata su CPU. Ciò consente alle aziende di ridurre lo spazio di rack e ridurre significativamente il loro inquinamento, pur essendo in grado di scalare i loro data center a molti più utenti. L'energia risparmiata passando dalle CPU alle NVIDIA L4 in un data center da 2 megawatt (MW) può alimentare quasi 2.000 case per un anno o eguagliare la compensazione delle emissioni di carbonio di 172.000 alberi cresciuti in 10 anni.2

 

2. Risultati del calcolatore EPA utilizzando risparmi di 1.677MW.

Migliore efficienza energetica

Migliore efficienza energetica

Confronto TCO del server CPU 8x L4 vs. 2S Intel 8362: pipeline video end-to-end con pre- e post-elaborazione CV-CUDA, decodifica, inferenza (SegFormer), codifica, TRT 8.6 vs. pipeline solo CPU utilizzando OpenCV 4.7, inferenza PyTorch.

Accelera le prestazioni dell'IA generativa

2,5 volte più prestazioni di IA generativa

L4 offre prestazioni di IA generativa 2,5 volte più elevate

Prestazioni misurate: generazione di immagini L4 vs T4, diffusione stabile 512x512 v2.1, FP16, TensorRT 8.5.2.

L’IA generativa per immagini e testo rende la vita dei clienti più conveniente e le esperienze più coinvolgenti in tutti i settori. NVIDIA L4 potenzia l'inferenza generativa dell'IA ad alta intensità di calcolo offrendo prestazioni fino a 2,5 volte superiori rispetto alla precedente generazione di GPU. Con il 50% in più di capacità di memoria, L4 consente la generazione di immagini più grandi, fino a 1024x768, impossibile con la precedente generazione di GPU.


Ottimizza le prestazioni grafiche

Rendering in tempo reale 4 volte superiore e prestazioni di Ray-Tracing 3 volte superiori

Rendering in tempo reale 4 volte superiore e prestazioni di Ray-Tracing 3 volte superiori

Prestazioni misurate: Rendering in tempo reale: prestazioni di NVIDIA Omniverse™ per rendering in tempo reale a 1080p e 4K con NVIDIA Deep Learning Super Campionamento (DLSS) 3.
Ray-tracing: Geomean delle prestazioni di gioco per titoli AAA che supportano il ray-tracing e DLSS 3.

Con i core RT di terza generazione e NVIDIA Deep Learning Super Sampling 3 (DLSS 3) con l'intelligenza artificiale, NVIDIA L4 offre prestazioni 4 volte superiori per avatar basati sull'intelligenza artificiale, mondi virtuali NVIDIA Omniverse™, cloud gaming e postazioni di lavoro virtuali. Queste funzionalità consentono ai creatori di creare grafica di qualità cinematografica in tempo reale e scene per esperienze visive coinvolgenti che non sarebbero state possibili con una CPU.

Accelera i carichi di lavoro in modo efficiente e sostenibile

NVIDIA L4 è parte integrante della piattaforma di data center NVIDIA. Costruita per video, IA, workstation virtuale NVIDIA RTX™ (vWS), grafica, simulazione, scienza dei dati e analisi dei dati, la piattaforma accelera oltre 3.000 applicazioni ed è disponibile ovunque su vasta scala, dal data center al cloud, offrendo sia notevoli miglioramenti delle prestazioni che opportunità di efficienza energetica.

Ottimizzato per le distribuzioni mainstream, L4 offre un fattore di forma a basso profilo che opera in un ambiente a bassa potenza da 72 W, rendendolo una soluzione efficiente e conveniente per qualsiasi istanza di server o cloud dell'ecosistema dei partner NVIDIA.

Semplifica lo sviluppo e la distribuzione con software IA di livello aziendale

Ottimizzata per semplificare lo sviluppo e la distribuzione dell’IA, la suite software NVIDIA AI Enterprise include flussi di lavoro di soluzioni IA, framework, modelli pre-addestrati e ottimizzazione dell’infrastruttura certificati per l’esecuzione su piattaforme di data center comuni e sistemi NVIDIA-Certified Systems™ mainstream con GPU NVIDIA L4.

NVIDIA AI Enterprise è un'aggiunta di licenza per le GPU NVIDIA L4, che rende l'IA accessibile a quasi tutte le organizzazioni con le massime prestazioni in materia di formazione, inferenza e scienza dei dati. NVIDIA AI Enterprise, insieme a NVIDIA L4, semplifica la creazione di una piattaforma pronta per l’IA, accelera lo sviluppo e l’implementazione dell’IA e offre prestazioni, sicurezza e scalabilità per raccogliere informazioni e ottenere valore aziendale più rapidamente.

Scopri chi sta già usando L4

Specifiche del prodotto

Fattore di forma L4
FP32 30,3 teraFLOPs
TF32 Tensor Core 120 teraFLOPS*
FP16 Tensor Core 242 teraFLOPS*
BFLOAT16 Tensor Core 242 teraFLOPS*
FP8 Tensor Core 485 teraFLOPs*
INT8 Tensor Core 485 TOPs*
Memoria della GPU 24 GB
Banda di memoria GPU 200 GB/s
Decoder NVENC | NVDEC | JPEG 2 | 4 | 4
TDP (Thermal Design Power) 72W
Fattore di forma Basso profilo 1 slot, PCIe
Interconnessione PCIe Gen4 x16: 64 GB/s
Opzioni di server Sistemi partner e NVIDIA-Certified Systems con 1–8 GPU

* Mostrato con scarsità. Le specifiche sono innferiori della metà senza densità.

Inizia con l'accesso anticipato a L4 su Google Cloud.