Grâce à ses capacités d’IA, de rendu graphique et d’accélération multimédia de nouvelle génération, le L40S fournit des performances d’inférence jusqu’à 5 fois plus élevées que le GPU NVIDIA A40 de génération précédente. Fort de performances révolutionnaires et d'une mémoire dédiée de 48 Go, le L40S constitue la plateforme idéale pour accélérer les charges de travail multimodales d'IA générative.
NVIDIA L40S
Performances d’IA et de rendu graphique sans précédent pour les Data Centers.
Le GPU universel le plus puissant du marché
Le GPU L40S de NVIDIA vous fournit des performances de pointe pour traiter de multiples charges de travail. Associant de puissantes fonctionnalités de calcul reposant sur l'IA à des capacités d’accélération graphique et multimédia à la pointe de l’industrie, le GPU L40S a été conçu pour prendre en charge la nouvelle génération des charges de travail sur Data Center, de l’IA générative à l’inférence et l'entraînement sur de grands modèles de langage en passant par l’infographie 3D, le rendu graphique et la vidéo.
Points-clés
Performances universelles
Performances Tensor
1466 TFlops¹
Performances RT
212 TFlops
Performances en simple précision
91,6 TFlops
1 Valeur maximale selon la fréquence boostée du GPU.
Caractéristiques
Carte graphique reposant sur l’architecture NVIDIA Ada Lovelace
Workloads
Accélérez de multiples charges de travail
IA générative
Développez de nouveaux services, ressources et contenus originaux.
Entraînement et inférence des LLM
Accélérez les procédures d’entraînement et d’inférence basées sur l’IA.
Rendu et infographie 3D
Prenez en charge des workflows de création à haut degré de fidélité avec les solutions graphiques NVIDIA RTX™.
NVIDIA Omniverse
Créez et exploitez des applications de métavers.
NVIDIA OVX L40S
Infrastructure de Data Center évolutive pour des performances maximales d'IA et de rendu graphique.
Performances
Des performances révolutionnaires
Génération d'images avec l'IA générative
Stable Diffusion (images per minute)
Performances mesurées avec NVIDIA L40S
Stable Diffusion v2.1, TRT 8.6.1, BS:1, FP16 | Stable Diffusion XL 1.0, TRT 8.6.1, BS:1, FP16
Inférence avec de grands modèles de langage (LLM)
1st Token Latency (ms)
Performances mesurées avec NVIDIA L40S
Llama 2-7B/13B/70B, ISL=2048, OSL=128, BS=1;: FP8.
Spécifications
GPU NVIDIA L40S
| FP32 | 91,6 TFlops |
| TF32 Tensor Core | 366 TFlops* |
| FP16 | 733 TFlops |
| FP8 | 1466 TFlops* |
| Performances RT | 212 TFlops |
| Consommation maximale | 350 W |
|
* Avec dispersion |
|
