Halluzinations-Triage & Root Cause

1. Konzeptüberblick und systemisches Problem

Wenn ein Agent eine nicht existierende Methode aufruft oder eine Bibliothek verwendet, die im Projekt gar nicht vorhanden ist, reagiert der unerfahrene „Vibe-Coder“ typischerweise mit Frustration und emotionalen Ausbrüchen im Chat: „Bist du dumm?! Ich habe doch gesagt, wir nutzen Drizzle, nicht Prisma!“.

• Dies führt dazu, dass sich der Chat-Kontext mit emotionalem Ballast füllt.
• Das Modell beginnt sich zu entschuldigen, macht aber weiterhin Fehler, da die eigentliche Ursache nicht behoben wurde.

Hallucination Triage ist ein kühler, ingenieursgetriebener Ansatz: Man betrachtet Halluzinationen des Modells nicht als „Dummheit der KI“, sondern als Defekt im Kontext-Lieferungssystem (Context Delivery Bug), der klassifiziert und systematisch behoben werden muss.

2. Architektonische Taxonomie und mentales Modell

┌─────────────────────────────────────────────────────────────┐
│                 HALLUCINATION TRIAGE MATRIX                 │
├─────────────────────────────────────────────────────────────┤
│ 1. ДЕТЕКЦІЯ: Модель видала вигаданий метод або тип         │
│    • Приклад: `db.user.findFirstOrThrow()` у Drizzle ORM    │
├─────────────────────────────────────────────────────────────┤
│                          │                                  │
│                          ▼ ДІАГНОСТИКА ПЕРШОПРИЧИНИ         │
│    ┌───────────────────────────────────────────────────┐    │
│    │ Тип А: Відсутній файл? ➔ Модель не бачила schema  │    │
│    │ Тип Б: Конфлікт правил? ➔ У правилах згадано Prisma│   │
│    │ Тип В: Застарілі ваги? ➔ Знання моделі з 2023 р.  │    │
│    └───────────────────────────────────────────────────┘    │
│                          │                                  │
│                          ▼ СИСТЕМНЕ УСУНЕННЯ                │
│ 1. Додати точний файл типів у промпт                        │
│ 2. Зафіксувати заборону в rules: "NEVER use Prisma syntax"  │
│ 3. Додати валідацію компілятором `tsc --noEmit`             │
└─────────────────────────────────────────────────────────────┘

3. Praktische Engineering-Szenarien in Production

01. Eliminierung von Halluzinationen durch Deklarations-Dateien

Ein Agent erfand ständig Props für eine interne Button-Komponente. Anstatt Erklärungen abzugeben, erstellte der Entwickler eine Datei src/components/ui/button.d.ts mit präzisen TypeScript-Typen und fügte sie zur Liste des automatischen Kontexts hinzu. Die Fehler verschwanden zu 100 %.

02. Protokoll „Post-Mortem für KI-Bugs“

Nach der Lösung eines komplexen Bugs investiert der Ingenieur zwei Minuten in die Aktualisierung von .agents/rules/learnings.md: „In diesem Projekt nutzt der Next.js-Router Server Actions ohne manuelle fetch-Aufrufe. Generiere keine unnötigen Route-Handler für einfache Mutationen.“

4. Fallstricke, häufige Fehler und Sicherheit

• Over-Correction (Überkompensation): Beim Versuch, eine kleine Halluzination zu korrigieren, verfasst der Ingenieur eine riesige, 50 Zeilen lange Regel in Großbuchstaben, die dem Modell verbietet, nützliche begleitende Patterns zu verwenden. Regeln müssen chirurgisch präzise sein.
• Ignorieren der Modellversionen: Wenn das Modell über eine zu geringe Reasoning-Fähigkeit verfügt (z. B. ein veraltetes 3B-Modell), hilft auch die beste Triage nichts bei der Lösung komplexer Aufgaben. Manchmal ist die einzige Heilung der Wechsel auf ein leistungsstärkeres Modell.

5. Strategisches Fazit für den Ingenieur im Jahr 2026

Halluzinationen sind ein Spiegelbild der Qualität Ihrer technischen Dokumentation. Wenn das Modell halluziniert, war Ihr System nicht hinreichend deterministisch. Systematische Triage verwandelt jeden Fehler in einen Baustein für die Zuverlässigkeit Ihres Repositoriums.