Amostragem Top-P / Núcleo (Nucleus Sampling)
Método de filtragem probabilística de palavras (Nucleus Sampling). Permite descartar a \"cauda longa\" de palavras improváveis, estranhas ou sem sentido, mantendo apenas as opções mais adequadas com uma probabilidade cumulativa P (geralmente 0.9).
1. Visão geral do conceito e propósito
Quando um modelo de linguagem seleciona a próxima palavra, ele classifica milhares de opções possíveis com base na probabilidade. Mesmo após um início lógico para uma frase como "O presidente assinou o novo...", o modelo mantém em memória uma lista:
- "lei" — 70%
- "decreto" — 20%
- "documento" — 5%
- ...e, em algum lugar no final dessa longa lista: "sanduíche" — 0,001%, "marciano" — 0,0001%.
Se, por acaso, for escolhida uma palavra do final dessa lista, o texto se tornará absurdo.
Top-P (ou Nucleus Sampling / Amostragem Nuclear) é uma barreira de proteção. Ele instrui o modelo: "Colete as palavras da mais provável para a menos provável até que sua probabilidade cumulativa atinja, por exemplo, 90% (0,9). Bloqueie completamente todas as outras opções estranhas do final da lista!".
2. Modelo mental: Cortando a "cauda" do delírio
┌─────────────────────────────────────────────────────────────┐
│ COMO FUNCIONA O FILTRO TOP-P (0.9) │
├─────────────────────────────────────────────────────────────┤
│ 1. «lei» [70%] ──┐ │
│ 2. «decreto» [15%] ├─ Soma = 90% (NÚCLEO DA ESCOLHA / NUCLEUS)
│ 3. «contrato» [5%] ──┘ O modelo escolhe APENAS entre estes três │
├─────────────────────────────────────────────────────────────┤
│ ❌ DESCARTADO (Restante da cauda perigosa de 10%): │
│ 4. «pastelzinho»[4%] ➔ Proibido │
│ 5. «trator» [3%] ➔ Proibido │
│ 6. «xampu» [3%] ➔ Proibido │
└─────────────────────────────────────────────────────────────┘
3. Configurações recomendadas para iniciantes
Se você estiver experimentando no Google AI Studio ou no painel da OpenAI:
| Tarefa | Valor Top-P | Valor Temperature |
|---|---|---|
| Código preciso, parsing de JSON, fórmulas | 0,1 – 0,5 | 0,0 |
| E-mails cotidianos, artigos, traduções | 0,9 (padrão) | 0,7 |
| Ficção científica, enredos de jogos | 0,95 – 1,0 | 0,9 – 1,0 |
4. Conclusão principal para a prática
Se você notar que o modelo insere periodicamente termos estranhos, inadequados ou inventados, verifique as configurações: reduzir o Top-P para 0,8 ou 0,7 corta instantaneamente os experimentos verbais sem sentido e devolve a coerência ao bot.
FAQ: Amostragem Top-P / Núcleo (Nucleus Sampling)
Termos relacionados
Temperatura de Geração (Controle Criativo e Aleatoriedade)
Parâmetro numérico fundamental para a geração de texto (geralmente variando de 0.0 a 1.0 ou 2.0). Define o grau de imprevisibilidade na seleção do próximo token: desde uma matemática determinística rigorosa até um voo livre da imaginação.
Seed e Determinismo (Reprodutibilidade da Geração)
Identificador numérico do gerador de números aleatórios (Seed). Permite fixar a aleatoriedade em modelos de linguagem e geradores de imagens, garantindo resultados estáveis e reprodutíveis ao repetir a mesma solicitação.
Parâmetros de Amostragem (Temperatura, Top-p, Min-p)
Hiperparâmetros matemáticos da decodificação estocástica (Temperatura, Top-P, Min-P, Penalidades) que controlam a distribuição de probabilidades na seleção do próximo token, determinando o nível de determinismo, precisão e criatividade do modelo.