Kontextfenster-Überlauf & Kompaktierung
Engineering Patterns zur Vermeidung fataler Ausfälle bei Erreichen des Kontextlimits: Rolling Summaries, State-Kompaktierung und selektive Verdrängung veralteter Historie.
1. Konzeptüberblick und das Systemproblem
In langlaufenden Engineering-Projekten kann ein Agent stundenlang arbeiten: Dateien lesen, Tests ausführen, Logs abrufen, Fehler beheben. Früher oder später wird selbst ein Fenster mit 200.000 Tokens gefüllt:
- Naiver Ansatz: Einfach die ersten Nachrichten abschneiden (Truncate). Doch damit verschwindet auch die ursprüngliche Benutzeranweisung, und der Agent „vergisst“ plötzlich, welche Aufgabe er genau bearbeitet.
- Ein anderer naiver Ansatz: Die Arbeit stoppen und einen Fehler melden, was den Benutzer zwingt, alles manuell von vorne zu erklären.
Context Window Compaction (Kontextfenster-Verdichtung) ist eine Technik zur kontinuierlichen Komprimierung der Dialoghistorie im laufenden Betrieb. Sie ermöglicht es dem Agenten, endlose Arbeitssitzungen durchzuführen, ohne aufgrund eines Überlauffehlers abzustürzen oder die anfänglichen Ziele zu verlieren.
2. Architektonische Taxonomie und mentales Modell
┌─────────────────────────────────────────────────────────────┐
│ CONTEXT COMPACTION LIFECYCLE │
├─────────────────────────────────────────────────────────────┤
│ 1. BUFFER MONITORING (Total Tokens: 165k / 200k Limit) │
│ • Поріг спрацьовування: 80% заповнення вікна │
├─────────────────────────────────────────────────────────────┤
│ │ │
│ ▼ Trigger Compaction Worker │
├─────────────────────────────────────────────────────────────┤
│ 2. PARTITIONING & ROLLING SUMMARIZATION │
│ ┌─────────────────────────────────────────────────────┐ │
│ │ [PINNED] System Prompt & Core Rules (Immutable) │ │
│ ├─────────────────────────────────────────────────────┤ │
│ │ [SLICED] Old Turns 1–30 ➔ Distilled into Executive │ │
│ │ State: "Auth configured, DB migrated" │ │
│ ├─────────────────────────────────────────────────────┤ │
│ │ [KEPT RAW] Fresh Turns 31–40 (Exact detail for dev) │ │
│ └─────────────────────────────────────────────────────┘ │
├─────────────────────────────────────────────────────────────┤
│ 3. CONTEXT RE-ASSEMBLY: New Size = 45k tokens (Fresh room!) │
└─────────────────────────────────────────────────────────────┘
3. Praktische Engineering-Szenarien in der Produktion
01. Endlose Vibe-Coding-Sitzung in einer agentischen IDE
Ein Entwickler arbeitet seit sechs Stunden ununterbrochen in Cursor oder Claude Code. Das System komprimiert alle 40 Nachrichten unbemerkt alte Terminal-Logs in einen übersichtlichen Markdown-Block <previous_session_summary>, wodurch die Sitzung schnell, kostengünstig und reaktionsschnell bleibt.
02. Bewahrung von Lösungsartefakten (Architectural Decision Records)
Während der Verdichtung speichert der Agent verworfene Hypothesen separat: „Wir haben versucht, Bibliothek X zu verwenden, aber sie ist nicht mit Windows kompatibel.“ Dies stellt sicher, dass der Agent nach 100 Nachrichten nicht erneut versucht, Bibliothek X zu installieren.
4. Fallstricke, typische Fehler und Sicherheit
- Verlust feiner Details (Information Loss): Das Samarisierungsmodell könnte entscheiden, dass eine bestimmte Portnummer oder der Name eines seltenen Feldes unwichtig ist, und sie aus dem Protokoll entfernen. Wichtige Parameter müssen in dedizierten JSON-State-Feldern gespeichert werden, nicht im Fließtext.
- Zielabweichung bei mehrfacher Verdichtung: Wenn eine Sitzung wochenlang dauert und das Protokoll zum zehnten Mal verdichtet wird, entsteht ein „Stille-Post“-Effekt. Die ursprüngliche Benutzeranfrage (
User Intent) muss immer unverändert im Kern des Prompts bleiben.
5. Strategisches Fazit für Ingenieure im Jahr 2026
Die Kontextverdichtung ist der Schlüssel zur Erstellung autonomer Langzeit-Systeme (Long-Running Agents). Die Fähigkeit, Rotationsalgorithmen und Gedächtniszusammenfassungen zu entwerfen, ermöglicht die Erstellung von Agenten, die wochenlang an einem Projekt arbeiten können, ohne ihren Fokus zu verlieren.
FAQ: Kontextfenster-Überlauf & Kompaktierung
Verwandte Begriffe
Kontextfenster (Context Window)
Die maximale Token-Kapazität, die ein Sprachmodell während der Berechnung einer Inferenzanfrage gleichzeitig im Self-Attention-Mechanismus und im KV-Cache-Speicher halten kann.
Kontextdegradation (Context Rot & Attention Decay)
Systematische Abnahme der Genauigkeit, Anweisungsbefolgung und logischen Konsistenz von LLMs durch die Akkumulation von Dialograuschen, veralteten Codeentwürfen und Compiler-Ausgaben im Arbeitskontext.
Agentenspeicher (Agent Memory)
Ein umfassendes Subsystem zur Speicherung, Filterung und Abfrage von Daten, das einen zustandslosen LLM-Aufruf in ein zustandsbehaftetes System umwandelt: vom kurzlebigen Scratchpad-Puffer bis hin zu einem sitzungsübergreifenden Wissensspeicher.
Episodisches vs. semantisches Agentengedächtnis
Architektonische Trennung des Gedächtnisses eines KI-Agenten in eine langfristige faktische Wissensbasis (Semantisches Gedächtnis) und ein chronologisches Ereignisprotokoll spezifischer Arbeitssitzungen (Episodisches Gedächtnis).