GPU Slicing & Multi-Instance GPU (MIG)
Hardware and software technology for partitioning a single powerful graphics card (NVIDIA H100 / A100 / RTX 6000) into multiple fully isolated instances to optimize inference hosting costs.
1. Visão Geral da Conceito e o Problema Sistêmico
O aluguel de GPUs modernas para servidores (NVIDIA H100 ou RTX 6000 Ada) representa um custo elevado:
- Muitos serviços especializados (como modelos para geração de embeddings vetoriais ou micro-modelos de classificação) utilizam apenas 5–10% da capacidade computacional do chip principal.
- Manter uma placa de vídeo inteira no valor de US$ 35.000 para rodar um modelo leve é desperdício do orçamento da empresa.
- Ao mesmo tempo, a simples execução de vários modelos em uma única placa via Docker padrão cria o risco do "vizinho barulhento" (Noisy Neighbor): uma requisição pesada de um modelo pode consumir toda a VRAM e derrubar todos os serviços vizinhos.
GPU Slicing & MIG (Multi-Instance GPU) resolve essa contradição, permitindo fatiar um gigante gráfico em várias GPUs virtuais seguras, confiáveis e econômicas.
2. Taxonomia Arquitetural e Modelo Mental
┌─────────────────────────────────────────────────────────────┐
│ PARTICIONAMENTO DE PARTIÇÃO NVIDIA HARDWARE │
├─────────────────────────────────────────────────────────────┤
│ NVIDIA H100 FÍSICO (80 GB HBM3 / 114 SMs) │
├─────────────────────────────────────────────────────────────┤
│ ┌──────────────────────┐ ┌───────────────────┐ ┌──────────┐ │
│ │ INSTÂNCIA 1: 3g.40gb │ │ INSTÂNCIA 2: 2g.20gb│ │3: 1g.10gb│ │
│ │ • 40 GB de VRAM │ │ • 20 GB de VRAM │ │• 10 GB │ │
│ │ • 42 Núcleos SM │ │ • 28 Núcleos SM │ │• 14 SM │ │
│ │ • Executa LLM Coder 70B│ │ • Executa Modelo RAG│ │• Embeddings│ │
│ └──────────────────────┘ └───────────────────┘ └──────────┘ │
│ • Canais DMA isolados, falha independente (Fault Isolation) │
└─────────────────────────────────────────────────────────────┘
3. Cenários Práticos de Engenharia em Produção
01. Configuração de Perfis MIG em Servidores Ubuntu
Ativação e fatiamento da placa com um único comando através da utilidade NVIDIA:
sudo nvidia-smi -i 0 -mig 1
sudo nvidia-smi mig -cgi 9,19,19 -C
O servidor passa a ter três dispositivos independentes /dev/nvidia0, /dev/nvidia1, /dev/nvidia2, que podem ser vinculados a três contêineres Docker diferentes ou máquinas virtuais.
02. Uso de vGPU em Clusters Kubernetes
O provedor de nuvem fatia o pool de GPUs em frações menores de vGPU, permitindo que desenvolvedores solicitem pods com limite nvidia.com/gpu: 0.25, pagando apenas um quarto do custo por hora da GPU.
4. Armadilhas, Erros Comuns e Segurança
- Limitações das GPUs de consumo: A tecnologia MIG de hardware está presente exclusivamente em placas corporativas de classe servidor (A100, A30, H100, H200). Nas placas de consumo da série GeForce (RTX 4090 / 5090), está disponível apenas o Time-Slicing via software, menos robusto.
- Impossibilidade de alteração dinâmica de tamanho sem parada: Mudar a configuração dos perfis MIG exige o reinício dos contêineres vinculados a essas instâncias.
5. Conclusão Estratégica para Engenheiros em 2026
O fatiamento de GPUs transforma infraestrutura de hardware cara em um recurso flexível e economicamente viável. A habilidade de projetar pipelines de inferência multi-tenant baseados em MIG permite maximizar o retorno sobre cada processador gráfico alugado.
FAQ: GPU Slicing & Multi-Instance GPU (MIG)
Termos relacionados
VPS Hosting (Servidor Virtual Privado)
Modelo de provisão de recursos computacionais isolados por meio de um hipervisor de hardware (KVM), oferecendo acesso completo ao nível root do sistema operacional Linux para implantação de sistemas autônomos.
vLLM (Motor de inferência de alto desempenho)
O principal motor de inferência e serventia de LLMs de código aberto, que revolucionou a capacidade de processamento graças ao algoritmo de virtualização de memória PagedAttention e ao batching contínuo.
Hetzner Bare-Metal vs. Cloud Hyperscalers
Análise financeira e técnica do custo da infraestrutura: por que o aluguel de hardware dedicado em data centers europeus (Hetzner, OVH) é 5 a 10 vezes mais barato do que máquinas virtuais AWS/GCP para cargas de trabalho de IA.
Motores de Alta Velocidade TensorRT-LLM & SGLang
Motores de computação profundamente compilados para otimização extrema da inferência de modelos de linguagem em servidores NVIDIA, com otimização de grafos, FlashAttention-3 e roteamento avançado.