La technologie de GPU multi-instances (MIG) de NVIDIA améliore le niveau de performance et de rendement des processeurs graphiques reposant sur les architectures NVIDIA Blackwell et NVIDIA Hopper™. MIG permet de partitionner le processeur graphique en sept instances distinctes, chacune étant entièrement isolée avec sa propre mémoire à bande passante élevée, son cache spécial et des cœurs de calcul dédiés. Les administrateurs peuvent ainsi assurer le traitement d'une grande variété de charges de travail, peu importe leur taille, avec une qualité de service (QdS) garantie et l’extension de l’accès aux ressources de calcul accéléré pour tous les utilisateurs.
Sans MIG, différentes tâches exécutées sur le même processeur graphique (telles que le traitement de différentes demandes d’inférence pour l’IA) doivent se partager des ressources communes. Une tâche qui mobilise une importante bande passante impacte par conséquent les tâches annexes, ce qui les rend susceptibles de manquer leurs objectifs de latence. Avec MIG, les tâches sont exécutées en simultané sur différentes instances, chacune disposant de ressources dédiées pour le calcul, la mémoire et la bande passante, ce qui permet d’obtenir des performances prévisibles pour la qualité de service et une utilisation maximale des ressources GPU.
Les GPU à architecture Blackwell et Hopper prennent en charge des configurations mutualisées et multi-utilisateurs dans un environnement virtualisé pouvant accueillir jusqu’à sept instances de GPU, chacune d’entre elles étant isolée avec des capacités de calcul confidentiel au niveau du matériel et de l’hyperviseur. Les décodeurs vidéo dédiés de chaque instance MIG facilitent la mise en œuvre d’une analyse vidéo intelligente (IVA) sécurisée et performante sur une infrastructure partagée. Grâce au profilage MIG simultané, les administrateurs peuvent activer une accélération GPU parfaitement calibrée pour chaque tâche et optimiser l’allocation des ressources pour tous les utilisateurs.
Plutôt que de louer une instance Cloud dédiée, les chercheurs qui doivent traiter de petites charges de travail peuvent choisir d’utiliser la technologie MIG pour isoler en toute sécurité une partie d’un GPU tout en ayant la certitude que leurs données seront parfaitement sécurisées, que ce soit au repos, en transit ou pendant leur utilisation. Les fournisseurs de services Cloud peuvent ainsi bénéficier d’une polyvalence accrue pour satisfaire aux exigences de prix et de capacité de tous leurs clients.
MIG permet aux équipes informatiques et DevOps d’effectuer une allocation sur mesure des instances du processeur graphique. Chaque instance MIG agit comme un processeur graphique autonome pour les applications. C’est pourquoi aucun changement n’est requis sur la plateforme CUDA®. MIG peut être utilisé sur les principaux environnements de calcul professionnels.
GB200/B200/B100 | H100 | H200 | |
---|---|---|---|
Calcul confidentiel | Oui | Oui | Oui |
Types d’instance | Up to 7x 23GB Up to 4x 45GB Up to 2x 95GB Up to 1x 192GB |
7x 10GB 4x 20GB 2x 40GB 1x 80GB |
Up to 7x 18GB Up to 4x 35GB Up to 2x 71GB Up to 1x 141GB |
Profilage et surveillance de processeur graphique | Simultanément sur toutes les instances | Simultanément sur toutes les instances | Simultanément sur toutes les instances |
Clients sécurisés | 7x | 7x | 7x |
Décodeurs multimédia | NVJPEG et NVDEC dédié par instance | NVJPEG et NVDEC dédié par instance | NVJPEG et NVDEC dédié par instance |
Spécifications préliminaires susceptibles d’être modifiées.
Obtenez plus d'informations sur NVIDIA Blackwell.