Échantillonnage Top-P / Noyau (Nucleus Sampling)
Méthode de filtrage probabiliste des mots (Nucleus Sampling). Permet d'éliminer la « longue traîne » des mots peu probables, étranges ou absurdes, en ne conservant que les options les plus pertinentes dont la probabilité cumulée atteint P (généralement 0,9).
1. Vue d'ensemble du concept et de la finalité
Lorsqu'un modèle linguistique sélectionne chaque mot suivant, il hiérarchise des milliers de candidats selon leur probabilité. Même après un début logique comme « Le président a signé le nouveau... », le modèle dispose en mémoire d'une liste :
- « loi » — 70 %
- « décret » — 20 %
- « document » — 5 %
- ...et quelque part en queue de cette longue liste : « sandwich » — 0,001 %, « martien » — 0,0001 %.
Si un mot situé en fin de liste est tiré au hasard, le texte bascule dans l'absurde.
Top-P (ou Nucleus Sampling / Échantillonnage noyau) agit comme une barrière de sécurité. Il indique au modèle : « Accumule les mots depuis le haut de la liste jusqu'à ce que leur probabilité cumulée atteigne, par exemple, 90 % (0,9). Bloque radicalement toutes les autres options farfelues situées en queue ! ».
2. Modèle mental : Tronquer la « queue » des hallucinations
┌─────────────────────────────────────────────────────────────┐
│ COMMENT FONCTIONNE LE FILTRE TOP-P (0.9) │
├─────────────────────────────────────────────────────────────┤
│ 1. « loi » [70%] ──┐ │
│ 2. « décret » [15%] ├─ Somme = 90% (NOYAU DE SÉLECTION / NUCLEUS)
│ 3. « contrat » [5%] ──┘ Le modèle choisit UNIQUEMENT parmi ces trois │
├─────────────────────────────────────────────────────────────┤
│ ❌ ÉLIMINÉS (Le reste des 10% de la queue risquée) : │
│ 4. « pâtisserie » [4%] ➔ Interdit │
│ 5. « tracteur » [3%] ➔ Interdit │
│ 6. « shampooing » [3%] ➔ Interdit │
└─────────────────────────────────────────────────────────────┘
3. Réglages recommandés pour les débutants
Si vous expérimentez dans Google AI Studio ou via l'interface OpenAI :
| Tâche | Valeur Top-P | Valeur Temperature |
|---|---|---|
| Code précis, parsing JSON, formules | 0.1 – 0.5 | 0.0 |
| Emails quotidiens, articles, traductions | 0.9 (par défaut) | 0.7 |
| Écriture de fiction, scénarios de jeux | 0.95 – 1.0 | 0.9 – 1.0 |
4. Conclusion clé pour la pratique
Si vous constatez que le modèle insère périodiquement des termes étranges, inappropriés ou inventés, vérifiez vos paramètres : abaisser le Top-P à 0.8 ou 0.7 éliminera instantanément les expérimentations lexicales absurdes et rendra au bot sa cohérence.
FAQ: Échantillonnage Top-P / Noyau (Nucleus Sampling)
Termes associés
Température de génération (Curseur de créativité et d'aléatoire)
Paramètre numérique clé pour la génération de texte (généralement compris entre 0,0 et 1,0 ou 2,0). Il détermine le degré d'imprévisibilité dans le choix du token suivant : allant d'une logique déterministe stricte à une imagination plus libre.
Seed et déterminisme (Reproductibilité du résultat de génération)
Identifiant numérique du générateur de nombres aléatoires (Seed). Permet de figer l'aléatoire dans les modèles de langage et les générateurs d'images afin d'obtenir un résultat stable et reproductible lors de la répétition de la même requête.
Paramètres d'échantillonnage (Température, Top-p, Min-p)
Hyperparamètres mathématiques du décodage stochastique (Température, Top-P, Min-P, Pénalités) qui régissent la distribution de probabilité pour le choix du token suivant, déterminant le niveau de déterminisme, de précision et de créativité du modèle.