Découpage GPU et Multi-Instance GPU (MIG)
Technologie de partitionnement matériel et logiciel d'une carte graphique haute performance (NVIDIA H100 / A100 / RTX 6000) en plusieurs instances totalement isolées, optimisant ainsi le coût d'hébergement de l'inférence.
1. Aperçu du concept et problème systémique
La location de cartes graphiques serveur modernes (NVIDIA H100 ou RTX 6000 Ada) représente un coût significatif :
- De nombreux services spécialisés (par exemple, un modèle pour la génération d'embeddings vectoriels ou un micro-modèle de classification) n'utilisent que 5 à 10 % de la puissance de calcul d'une puce phare.
- Maintenir une carte graphique entière à 35 000 $ pour un modèle léger constitue un gaspillage du budget de l'entreprise.
- Parallèlement, le simple lancement de plusieurs modèles sur une même carte via Docker classique crée un risque de « voisin bruyant » (Noisy Neighbor) : une requête lourde d'un modèle peut saturer toute la VRAM et faire tomber tous les services voisins.
Le GPU Slicing & MIG (Multi-Instance GPU) résout cette contradiction en permettant de découper un géant graphique en plusieurs cartes virtuelles sécurisées, fiables et économiques.
2. Taxonomie architecturale et modèle mental
┌─────────────────────────────────────────────────────────────┐
│ PARTITION NVIDIA MIG (MATÉRIEL) │
├─────────────────────────────────────────────────────────────┤
│ NVIDIA H100 PHYSIQUE (80 Go HBM3 / 114 SMs) │
├─────────────────────────────────────────────────────────────┤
│ ┌──────────────────────┐ ┌───────────────────┐ ┌──────────┐ │
│ │ INSTANCE 1 : 3g.40gb │ │ INSTANCE 2 : 2g.20gb│ │3: 1g.10gb│ │
│ │ • 40 Go de VRAM │ │ • 20 Go de VRAM │ │• 10 Go │ │
│ │ • 42 cœurs SM │ │ • 28 cœurs SM │ │• 14 SM │ │
│ │ • Exécute LLM Coder 70B│ │ • Exécute modèle RAG│ │• Embeddings│ │
│ └──────────────────────┘ └───────────────────┘ └──────────┘ │
│ • Canaux DMA isolés, isolation des pannes (Fault Isolation) │
└─────────────────────────────────────────────────────────────┘
3. Scénarios d'ingénierie pratiques en production
01. Configuration des profils MIG sur un serveur Ubuntu
Activation et découpage de la carte en une seule commande via l'utilitaire NVIDIA :
sudo nvidia-smi -i 0 -mig 1
sudo nvidia-smi mig -cgi 9,19,19 -C
Le serveur expose trois périphériques indépendants /dev/nvidia0, /dev/nvidia1, /dev/nvidia2, qui peuvent être montés dans trois conteneurs Docker ou machines virtuelles distinctes.
02. Utilisation de vGPU dans des clusters Kubernetes
Un fournisseur cloud découpe le pool de cartes graphiques en petites fractions vGPU, permettant aux développeurs de commander des pods avec une limite nvidia.com/gpu: 0.25, ne payant ainsi qu'un quart du coût horaire du GPU.
4. Pièges courants, erreurs typiques et sécurité
- Limitations des cartes grand public : La technologie MIG matérielle est exclusivement présente sur les cartes serveur de classe entreprise (A100, A30, H100, H200). Sur les cartes de la série GeForce (RTX 4090 / 5090), seul le Time-Slicing logiciel, moins fiable, est disponible.
- Impossibilité de modification dynamique de la taille sans interruption : Le changement de configuration des profils MIG nécessite le redémarrage des conteneurs liés à ces instances.
5. Conclusion stratégique pour l'ingénieur de 2026
Le découpage des cartes graphiques transforme une infrastructure matérielle coûteuse en une ressource flexible et économiquement rentable. La capacité à concevoir des boucles d'inférence multi-tenant basées sur MIG permet de maximiser le retour sur investissement de chaque processeur graphique loué.
FAQ: Découpage GPU et Multi-Instance GPU (MIG)
Termes associés
Hébergement VPS (Serveur Privé Virtuel)
Modèle de fourniture de ressources informatiques isolées via un hyperviseur matériel (KVM), offrant un accès root complet au système d'exploitation Linux pour le déploiement de systèmes autonomes.
vLLM (Moteur d'inférence haute performance)
Serveur d'inférence et de service LLM open source leader, qui a révolutionné le débit grâce à l'algorithme de virtualisation mémoire PagedAttention et au batching continu.
Hetzner Bare-Metal vs Cloud Hyperscalers
Analyse financière et technique du coût de l'infrastructure : pourquoi la location de serveurs dédiés dans des datacenters européens (Hetzner, OVH) est 5 à 10 fois moins chère que les machines virtuelles AWS/GCP pour les charges de travail IA.
Moteurs haute vitesse TensorRT-LLM & SGLang
Moteurs de calcul compilés en profondeur pour une optimisation extrême de l'inférence des modèles de langage sur les serveurs NVIDIA, avec optimisation des graphes, FlashAttention-3 et routage avancé.