Taille de la fenêtre contextuelle (Mémoire de la conversation en cours)
Volume maximal de texte (en jetons) qu'un modèle linguistique peut conserver simultanément en mémoire lors d'une conversation en cours. Détermine la longueur des documents pouvant être téléchargés en une seule fois sans perte de contenu.
1. Vue d'ensemble du concept et de sa finalité
Imaginez que vous lisiez un livre, mais que votre mémoire soit conçue pour ne retenir que les 30 dernières pages lues. Dès que vous tournez la page 31, les événements de la page 1 s'effacent irrémédiablement de votre esprit.
C'est exactement ainsi que fonctionne la fenêtre de contexte (Context Window) d'un modèle linguistique. Il s'agit de sa mémoire vive opérationnelle.
Tout ce qui entre dans la fenêtre de contexte comprend :
- L'instruction système (« Tu es un tuteur expérimenté »).
- Tout l'historique des échanges dans ce chat spécifique.
- Le texte de tous les fichiers que vous avez téléchargés.
- Votre nouvelle question actuelle.
Si la somme de tous ces éléments dépasse la limite du modèle, les anciennes données commencent à être « tronquées ».
2. Évolution de la taille de la fenêtre de mémoire
┌─────────────────────────────────────────────────────────────┐
│ ÉVOLUTION DE LA TAILLE DE LA FENÊTRE DE CONTEXTE │
├─────────────────────────────────────────────────────────────┤
│ 📜 2022 (GPT-3.5) : │
│ [4 000 tokens] ➔ ~10 pages de texte │
├─────────────────────────────────────────────────────────────┤
│ 📖 2023 (GPT-4 Turbo) : │
│ [128 000 tokens] ➔ ~300 pages (un gros livre entier) │
├─────────────────────────────────────────────────────────────┤
│ 📚 2024–2026 (Claude 3.5 Sonnet) : │
│ [200 000 tokens] ➔ ~500 pages ou tout le code d’un projet│
├─────────────────────────────────────────────────────────────┤
│ 🏛️ Google Gemini 1.5 Pro : │
│ [2 000 000 tokens] ➔ Une bibliothèque de 35 livres ou 1 h de vidéo │
└─────────────────────────────────────────────────────────────┘
3. Pourquoi une conversation dans un seul chat devient-elle « moins intelligente » avec le temps (Context Rot)
Beaucoup de débutants commettent une erreur typique : ils maintiennent un même dialogue interminable pendant un mois, y posant des questions sur la météo, des recettes, la correction de code et des plans de vacances.
Avec le temps, ce chat accumule des dizaines de milliers de tokens de vieux déchets inutiles. Le modèle commence à :
- Répondre plus lentement.
- Se mélanger dans ses propres instructions.
- Coûter beaucoup plus cher pour chaque nouveau mot généré.
4. La règle d'or de l'hygiène du contexte
Une tâche — un nouveau chat !
Dès que vous avez terminé de travailler sur un sujet précis (par exemple, rédigé un article ou corrigé une erreur dans un script) — ouvrez un nouveau chat vierge. Cela réinitialise la mémoire vive du modèle, économise votre budget et garantit la meilleure qualité de réponses sans résidus de vieux déchets.
FAQ: Taille de la fenêtre contextuelle (Mémoire de la conversation en cours)
Termes associés
Fenêtre de contexte (Context Window)
Volume maximal de tokens qu'un modèle linguistique peut maintenir simultanément dans le mécanisme d'auto-attention et la mémoire du cache KV lors du calcul d'une requête d'inférence.
Les tokens expliqués simplement (Combien de mots dans un token)
Unité de base de mesure du texte dans les modèles de langage. Explication de la manière dont les mots sont divisés en tokens, de l'impact sur le coût des requêtes et de la raison pour laquelle les mots ukrainiens consomment plus de tokens que les mots anglais.
Dépassement de la fenêtre de contexte et compression
Modèles d'ingénierie pour prévenir les défaillances critiques lors de l'épuisement de la limite de contexte : résumés glissants (Rolling Summaries), agrégation d'états et éviction sélective des historiques obsolètes.