Skip to main content

Selbstprüfung der Suchergebnisse (Self-RAG & Corrective RAG)

FÜR AI-AGENTENChatGPTClaude

Ein architektonischer Ansatz für die Suche (Self-RAG und CRAG – Corrective RAG), bei dem das Sprachmodell nicht blind eine Antwort auf Basis der ersten gefundenen Ergebnisse generiert, sondern zunächst deren Relevanz und Vollständigkeit selbstständig bewertet. Wenn die gefundenen Fakten unzureichend oder fragwürdig sind, paraphrasiert das System automatisch die Abfrage und sucht erneut oder führt eine Websuche durch.

1. Überblick über das Konzept und den Zweck

Wenn ein unerfahrener Mitarbeiter von seinem Vorgesetzten beauftragt wird, Informationen zu finden, die nicht in der Unternehmensdokumentation enthalten sind, hat er oft Angst davor, „Ich habe nichts gefunden“ zu sagen. Stattdessen bringt er zufällige Dokumente mit und erfindet eine plausible Geschichte, um dem Management zu gefallen.

Naive RAG-Systeme verhalten sich genau so: Wenn die Antwort nicht in der Datenbank vorhanden ist, greifen sie nach den textlich ähnlichsten Fragmenten und beginnen zu halluzinieren.

Selbstreflexion bei Ergebnissen (Self-Reflective RAG / CRAG) bedeutet, das Modell zu ehrlicher kritischer Reflexion anzuleiten:

  • Die Datenbank liefert 3 gefundene Chunks.
  • Bevor die KI eine Antwort für den Menschen formuliert, hält sie inne und fragt sich: «Enthalten diese drei Absätze eine konkrete Antwort auf die Frage des Nutzers?».
  • Falls ja ➔ formuliert sie eine klare Antwort.
  • Falls nein ➔ weigert sie sich, zu spekulieren, ändert die Query-Formulierung oder gibt ehrlich zurück: «Entschuldigung, dieses Thema ist in den Richtlinien unseres Unternehmens nicht dokumentiert».

Aus praktischer Sicht handelt es sich dabei um das eingebaute Gewissen und das kritische Denkvermögen Ihres Suchsystems.

2. Aufbau der Selbstkorrektur-Pipeline (CRAG)

┌─────────────────────────────────────────────────────────────┐
│                 КОНВЕЄР САМОПЕРЕВІРКИ CRAG                  │
├─────────────────────────────────────────────────────────────┤
│ 1. Векторний пошук знаходить 3 документи                    │
├─────────────────────────────────────────────────────────────┤
│ 2. КРИТИЧНИЙ АУДИТ (Evaluator):                             │
│    ШІ оцінює: «Чи містять документи відповідь на питання?» │
│    ├── ВАРІАНТ А: ТАК (Correct) ➔ Відповідає з цитатами     │
│    ├── ВАРІАНТ Б: ЧАСТКОВО (Ambiguous)                      │
│    │   ➔ ШІ ініціює довантаження фактів з Google Search     │
│    └── ВАРІАНТ В: НІ (Incorrect)                            │
│        ➔ ШІ чесно каже: «У документах немає інформації»     │
└─────────────────────────────────────────────────────────────┘

3. Warum dies vor Reputationsschäden schützt

  1. Null erfundene Regeln: Der Support-Bot einer Bank wird niemals falsche Gebühren oder Kreditzinsen erfinden, nur weil er einen formal ähnlichen Satz gefunden hat.
  2. Transparenz der Quellen: Jede Aussage in der finalen Antwort wird durch eine interne Prüfung begleitet: «Gibt es im Dokument eine direkte Bestätigung für diese Information?».
  3. Automatische Query-Selbstkorrektur: Wenn die erste Suche 0 Ergebnisse liefert, paraphrasiert das System die Frage automatisch anders und unternimmt einen weiteren Versuch, bevor es kapituliert.

4. Praktisches Fazit

Die Implementierung auch nur der einfachsten Relevanzprüfung der gefundenen Dokumente vor der Generierung eliminiert das Problem der Halluzinationen in unternehmensinternen Wissensdatenbanken endgültig.

/ Häufig gestellte FragenSchema.org FAQPage

FAQ: Selbstprüfung der Suchergebnisse (Self-RAG & Corrective RAG)

Naives RAG nimmt dennoch die drei am ähnlichsten erscheinenden zufälligen Dokumente und versucht, daraus eine Antwort zu konstruieren. Das Ergebnis ist entweder, dass das Modell Fakten erfindet (Halluzination) oder mit Zuversicht Unsinn antwortet.
/ Interne Links

Verwandte Begriffe

Alle Begriffe
Prompts & RAG

Wie man KI-Halluzinationen verhindert (Prompts gegen erfundene Fakten)

Eine Sammlung bewährter Engineering-Techniken und Prompt-Strukturen, die die Generierung von erfundenen Fakten, nicht existierenden Gesetzen und falschen Zitaten blockieren. Zwingt die künstliche Intelligenz, sich streng auf die bereitgestellten Quellen zu stützen.

Begriff lesen
Prompts & RAG

Query Expansion & HyDE

Technik zur Vorbereitung von Suchanfragen in RAG-Systemen. Vor der Abfrage der Vektordatenbank generiert das Sprachmodell automatisch Synonyme, Schlüsselwörter oder eine hypothetische Antwort (HyDE – Hypothetical Document Embeddings), was die Qualität der gefundenen Dokumente erheblich verbessert.

Begriff lesen
Prompts & RAG

Grounding (Quellbasierte Faktenverankerung)

Methodik zur Verknüpfung von KI-generierten Aussagen mit verifizierten Originalquellen (Source Grounding). Ermöglicht die Eliminierung von Halluzinationen und gewährleistet die rechtliche sowie wissenschaftliche Zuverlässigkeit von Antworten durch präzise Fußnoten und Zitate.

Begriff lesen