Skip to main content

GPU Slicing & Multi-Instance GPU (MIG)

PARA AGENTES DE IAChatGPTClaude

Hardware and software technology for partitioning a single powerful graphics card (NVIDIA H100 / A100 / RTX 6000) into multiple fully isolated instances to optimize inference hosting costs.

1. Visão Geral da Conceito e o Problema Sistêmico

O aluguel de GPUs modernas para servidores (NVIDIA H100 ou RTX 6000 Ada) representa um custo elevado:

  • Muitos serviços especializados (como modelos para geração de embeddings vetoriais ou micro-modelos de classificação) utilizam apenas 5–10% da capacidade computacional do chip principal.
  • Manter uma placa de vídeo inteira no valor de US$ 35.000 para rodar um modelo leve é desperdício do orçamento da empresa.
  • Ao mesmo tempo, a simples execução de vários modelos em uma única placa via Docker padrão cria o risco do "vizinho barulhento" (Noisy Neighbor): uma requisição pesada de um modelo pode consumir toda a VRAM e derrubar todos os serviços vizinhos.

GPU Slicing & MIG (Multi-Instance GPU) resolve essa contradição, permitindo fatiar um gigante gráfico em várias GPUs virtuais seguras, confiáveis e econômicas.

2. Taxonomia Arquitetural e Modelo Mental

┌─────────────────────────────────────────────────────────────┐
│                 PARTICIONAMENTO DE PARTIÇÃO NVIDIA HARDWARE │
├─────────────────────────────────────────────────────────────┤
│ NVIDIA H100 FÍSICO (80 GB HBM3 / 114 SMs)                   │
├─────────────────────────────────────────────────────────────┤
│ ┌──────────────────────┐ ┌───────────────────┐ ┌──────────┐ │
│ │ INSTÂNCIA 1: 3g.40gb │ │ INSTÂNCIA 2: 2g.20gb│ │3: 1g.10gb│ │
│ │ • 40 GB de VRAM      │ │ • 20 GB de VRAM   │ │• 10 GB   │ │
│ │ • 42 Núcleos SM      │ │ • 28 Núcleos SM   │ │• 14 SM   │ │
│ │ • Executa LLM Coder 70B│ │ • Executa Modelo RAG│ │• Embeddings│ │
│ └──────────────────────┘ └───────────────────┘ └──────────┘ │
│ • Canais DMA isolados, falha independente (Fault Isolation) │
└─────────────────────────────────────────────────────────────┘

3. Cenários Práticos de Engenharia em Produção

01. Configuração de Perfis MIG em Servidores Ubuntu

Ativação e fatiamento da placa com um único comando através da utilidade NVIDIA:

sudo nvidia-smi -i 0 -mig 1
sudo nvidia-smi mig -cgi 9,19,19 -C

O servidor passa a ter três dispositivos independentes /dev/nvidia0, /dev/nvidia1, /dev/nvidia2, que podem ser vinculados a três contêineres Docker diferentes ou máquinas virtuais.

02. Uso de vGPU em Clusters Kubernetes

O provedor de nuvem fatia o pool de GPUs em frações menores de vGPU, permitindo que desenvolvedores solicitem pods com limite nvidia.com/gpu: 0.25, pagando apenas um quarto do custo por hora da GPU.

4. Armadilhas, Erros Comuns e Segurança

  • Limitações das GPUs de consumo: A tecnologia MIG de hardware está presente exclusivamente em placas corporativas de classe servidor (A100, A30, H100, H200). Nas placas de consumo da série GeForce (RTX 4090 / 5090), está disponível apenas o Time-Slicing via software, menos robusto.
  • Impossibilidade de alteração dinâmica de tamanho sem parada: Mudar a configuração dos perfis MIG exige o reinício dos contêineres vinculados a essas instâncias.

5. Conclusão Estratégica para Engenheiros em 2026

O fatiamento de GPUs transforma infraestrutura de hardware cara em um recurso flexível e economicamente viável. A habilidade de projetar pipelines de inferência multi-tenant baseados em MIG permite maximizar o retorno sobre cada processador gráfico alugado.

/ Perguntas FrequentesSchema.org FAQPage

FAQ: GPU Slicing & Multi-Instance GPU (MIG)

MIG is a hardware technology in the A100/H100/B200 series cards that allows splitting one physical chip into 7 fully isolated hardware instances (GPU Instances). Each instance has its own guaranteed compute cores, dedicated VRAM memory, and separate encryption bus, eliminating mutual interference between tasks.
/ Links internos
Todos os termos