System Prompt Drift & Degradation

1. Konzeptüberblick und systemisches Problem

Zu Beginn einer neuen Konversation mit einem Agenten funktioniert alles einwandfrei: Das Modell folgt den Regeln in .cursorrules strikt, fügt keine überflüssigen Kommentare hinzu und schreibt rigorosen Code.

Doch nach zwei Stunden aktivem Coding und 25 Nachrichten bemerkt der Entwickler eine merkwürdige Sache:

• Der Agent beginnt plötzlich, Code in einem anderen Stil zu schreiben.
• Verbotene Konstrukte (as any, Inline-Styles) tauchen wieder auf.
• Das Modell fängt an, zu viel Smalltalk zu betreiben und sich für jede Kleinigkeit zu entschuldigen.

Dieser Effekt wird als System Prompt Drift bezeichnet: Die Abweichung der ursprünglichen Instruktionen im Attention-Raum des Transformers führt zu einem schrittweisen Verlust der Systemsteuerbarkeit.

2. Architektonische Taxonomie und mentales Modell

┌─────────────────────────────────────────────────────────────┐
│                 SYSTEM PROMPT ATTENTION DRIFT               │
├─────────────────────────────────────────────────────────────┤
│ СТАРТ СЕСІЇ (Повідомлення 1):                               │
│ [SYSTEM PROMPT] ➔ 90% УВАГИ МОДЕЛІ ➔ Бездоганне дотримання  │
│ [User Turn 1]                                               │
├─────────────────────────────────────────────────────────────┤
│                          │                                  │
│                          ▼ 25 ітерацій кодингу та правок    │
├─────────────────────────────────────────────────────────────┤
│ РОЗПАД УВАГИ (Повідомлення 25):                             │
│ [SYSTEM PROMPT] (Захований 120 000 токенів тому) ➔ 10% уваги│
│ ... 23 діалогових повідомлення із кодом та логами ...       │
│ [User Turn 25] ➔ 90% УВАГИ МОДЕЛІ                           │
│ ➔ РЕЗУЛЬТАТ: Модель забуває заборони і пише спагеті-код     │
├─────────────────────────────────────────────────────────────┤
│ РІШЕННЯ: DYNAMIC RE-INJECTION (Reminders before every turn) │
└─────────────────────────────────────────────────────────────┘

3. Praktische Engineering-Szenarien in Production

01. Automatischer Reminder-Hook (Pre-Turn Hook)

Im Code für die API-Interaktion wird vor dem Senden jeder Anfrage ein verstecktes System-Suffix hinzugefügt:

const payload = [
  ...messages,
  {
    role: "user",
    content: `${userPrompt}\n\n<!-- SYSTEM INVARIANT: Remember strict types, no any, use Tailwind tokens -->`
  }
];

Dies lenkt das Gewicht der Attention des Modells direkt vor der Auswahl des ersten Tokens zurück zu den Kernregeln.

02. Nutzung von Ephemeral Roles in LangGraph

Der State Graph setzt den Arbeitsdialog periodisch zurück, generiert einen frischen System Prompt basierend auf dem aktuellen Zustand der Variablen und fährt mit absolut sauberer Attention fort.

4. Fallstricke, typische Fehler und Sicherheit

• Over-Injecting (Verschmutzung durch Wiederholungen): Wenn bei jedem Schritt der gesamte 2000-Token lange System Prompt dupliziert wird, führt dies zu unnötigen Kosten und kann das Modell verwirren. Es sollten nur die 3–5 kritischsten Regeln in kompakter Form wiederholt werden.
• Persona Decay: In Customer Support-Systemen kann der Bot unter dem Einfluss eines wütenden Nutzers selbst anfangen, unhöflich zu werden oder unvorteilhafte Zugeständnisse zu machen. Das Re-Injection der Sicherheitsregeln ist entscheidend, um Reputationsschäden zu verhindern.

5. Strategisches Fazit für Engineers im Jahr 2026

Ein System Prompt wirkt nicht unbegrenzt innerhalb einer einzigen Konversation. Die Wahrnehmung der Transformer-Attention als dynamische Ressource, die sich mit der Zeit zerstreut, ermöglicht es Engineers, die Navigationsrahmen rechtzeitig zu aktualisieren und den Agenten in einem Zustand von 100 % Disziplin zu halten.