Les cœurs Tensor sont une nouvelle technologie avancée de NVIDIA autorisant des calculs en précision mixte, ce qui permet d’accélérer le rendement tout en préservant la précision et en fournissant une sécurité accrue. La nouvelle génération des cœurs Tensor apporte des gains de performance significatifs à une grande variété de tâches d’intelligence artificielle (IA) et de calcul haute performance (HPC). Avec un entraînement des modèles d’IA générative jusqu'à 4 fois plus rapide et des performances d'inférence jusqu'à 45 fois plus élevées, les cœurs NVIDIA Tensor permettent d'accélérer l'intégralité des charges de travail des usines d'IA modernes.
L’architecture Blackwell fournit des performances jusqu’à 30 fois plus rapides par rapport aux modèles NVIDIA Hopper™ de génération précédente pour le traitement de modèles massifs tels que GPT-MoE-1.8T. Ce gain de performance est rendu possible par la cinquième génération des cœurs Tensor. Les cœurs Tensor de l'architecture Blackwell permettent d'atteindre de nouveaux niveaux de précision, notamment avec les formats MX (microscaling) définis par la communauté, offrant ainsi une exactitude et une facilité de remplacement accrues pour garantir une précision encore plus élevée.
Alors que les modèles d’IA générative ne cessent de gagner en taille et en complexité, il est aujourd'hui crucial d’améliorer les performances d’entraînement et d’inférence. Pour répondre à ces besoins en matière de puissance de calcul, les cœurs Tensor de l'architecture Blackwell prennent en charge de nouveaux formats de quantification et de précision, y compris les formats MX (microscaling) définis par la communauté.
Grâce à la mise en œuvre de la technologie Tensor Core, les GPU NVIDIA Hopper ont multiplié par 60 leur niveau de performance maximal, ce qui a favorisé la démocratisation du calcul accéléré pour l’IA et le HPC. L’architecture NVIDIA Hopper optimise les cœurs Tensor de quatrième génération grâce à un moteur de transformation dédié qui s’appuie sur des calculs FP8 pour fournir des performances 6 fois plus élevées qu’avec les opérations FP16 dans le cadre de l’entraînement de modèles complexes dotés de plusieurs billions de paramètres. Mais ce n’est pas tout : forts de performances 3 fois plus élevées pour les calculs TF32, FP64, FP16 et INT8, les cœurs Hopper Tensor vous offrent des gains de performance significatifs avec toutes les charges de travail.
Les cœurs Tensor sont des composants essentiels de la pile de solutions NVIDIA pour Data Center, regroupant un ensemble complet de solutions matérielles et logicielles, de systèmes de mise en réseau, de bibliothèques, de modèles d’IA optimisés et d’applications du catalogue NVIDIA NGC™ . Dédiée à l’IA et au HPC, cette plateforme de bout en bout est la plus puissante du marché. Les chercheurs du monde entier peuvent ainsi aboutir plus rapidement à des résultats concrets et déployer des solutions de production hautement évolutives.
Blackwell | Hopper | |
---|---|---|
Niveaux de précision Tensor pris en charge | FP64, TF32, BF16, FP16, FP8, INT8, FP6, FP4 | FP64, TF32, BF16, FP16, FP8, INT8 |
Niveaux de précision CUDA® pris en charge | FP64, FP32, FP16, BF16 | FP64, FP32, FP16, BF16, INT8 |
*Spécifications préliminaires susceptibles d’être modifiées.
En savoir plus sur NVIDIA Blackwell.