Effet « Perdu au milieu » (Lost in the Middle)
Asymétrie cognitive bien documentée des grands modèles de langage, identifiée dans une étude menée par l'Université Stanford. Elle démontre que la précision d'extraction de l'information est maximale au début et à la fin du contexte d'entrée, mais chute considérablement au milieu des documents longs.
1. Vue d'ensemble du concept et de sa finalité
Avez-vous déjà tenté de lire un manuel volumineux en une seule nuit avant un examen ? Généralement, vous retenez parfaitement le premier chapitre introductif et les dernières pages parcourues juste avant de quitter la maison. Mais ce qui figurait à la page 240 se fond dans une masse grise indistincte.
Étonnamment, les grands modèles de langage (LLM) se comportent exactement de la même manière !
En 2023, des chercheurs de l'université Stanford ont mené une expérience : ils injectaient de longues listes de documents dans les modèles et dissimulaient la réponse requise à différents endroits. Le résultat a secoué l'industrie : si le fait recherché se situait au milieu d'un texte long, la probabilité que le modèle le trouve chutait de 90 % à 30 % !
Ce phénomène est connu sous le nom de Lost in the Middle (Perdu au milieu).
Modèle mental : le secret pratique le plus important est que la position de l'information dans le prompt est déterminante.
2. La courbe en U de l'attention du modèle
PRÉCISION DE LA LOCALISATION DES FAITS
100% ────┐ ┌──── 100%
80% │ ╲ ╱ │ 80%
60% │ ╲ ╱ │ 60%
40% │ ╲ ╱ │ 40%
20% │ ╲═════════════════════════════════╱ │ 20%
│ « ZONE MORTE DU MILIEU » │
0% ────┴───────────────────────────────────────────┴──── 0%
DÉBUT DU TEXTE MILIEU FIN DU TEXTE
(Prompt système) (Ne placez rien (Question)
d'important ici !)
3. Comment structurer correctement les requêtes longues
❌ Structure erronée (Risque d'échec) :
1. [Long document of 50 pages]
2. [Somewhere on page 25: «Main rule: respond only in Ukrainian»]
3. [Question about the text]
Résultat : Le modèle ignorera la règle située à la page 25 et répondra en anglais.
✅ Structure d'ingénierie irréprochable :
1. [Instruction claire au début : « Analysez le document fourni. Répondez strictement en français. »]
2. [Le contenu du document entre les balises <document> ... </document>]
3. [Rappel à la toute fin : « Souvenez-vous : extrayez uniquement 3 thèses clés et rédigez en français. »]
4. Conclusion pratique
Ne cachez jamais les exigences clés ou les faits critiques au cœur d'un immense bloc de texte. Placez tout ce qui est essentiel dans les premiers et les derniers 5 % de votre message.
FAQ: Effet « Perdu au milieu » (Lost in the Middle)
Termes associés
Test «Aiguille dans une botte de foin» (Needle In A Haystack / NIAH)
Benchmark standard pour tester la longueur de la fenêtre contextuelle des modèles de langage. Une courte phrase aléatoire (l'aiguille) est cachée à différentes positions au sein d'un immense corpus de texte de fond aléatoire (la botte de foin), afin de vérifier la capacité du modèle à la retrouver sans erreur.
Taille de la fenêtre contextuelle (Mémoire de la conversation en cours)
Volume maximal de texte (en jetons) qu'un modèle linguistique peut conserver simultanément en mémoire lors d'une conversation en cours. Détermine la longueur des documents pouvant être téléchargés en une seule fois sans perte de contenu.
Séparateurs et balises XML (Structuration des prompts)
Technique de formatage des prompts complexes à l'aide de balises XML (<context>, <rules>) et de triples guillemets (\\\"\\\"\\\"). Aide le modèle à distinguer clairement la fin de vos instructions du début du texte à traiter.