Wie man KI-Halluzinationen verhindert (Prompts gegen erfundene Fakten)
Eine Sammlung bewährter Engineering-Techniken und Prompt-Strukturen, die die Generierung von erfundenen Fakten, nicht existierenden Gesetzen und falschen Zitaten blockieren. Zwingt die künstliche Intelligenz, sich streng auf die bereitgestellten Quellen zu stützen.
1. Überblick über das Konzept und den Zweck
Die gefährlichste Eigenschaft künstlicher Intelligenz ist ihre unglaubliche Überzeugungskraft. Wenn ein Mensch lügt, wird er nervös oder stottert. Wenn eine neuronale Netzwerkhalluzination auftritt, tut sie dies mit dem autoritärsten Tonfall der Welt: Sie nennt fälschlicherweise Artikel des Strafgesetzbuches, erfindet Buchtitel bekannter Autoren oder zitiert Studien, die es nie gegeben hat.
Hallucination Prevention (Verhinderung von Halluzinationen) ist ein Satz von Regeln im Prompt, der den kreativen Generator des Modells blockiert und es dazu zwingt, im Modus eines strengen Archivars zu arbeiten.
Der Kern des Konzepts ist einfach: Es ist Ihr Hauptschild gegen fatale Fehler in Arbeit, Lernen und Geschäft.
2. Drei goldene Techniken gegen Erfindungen
┌─────────────────────────────────────────────────────────────┐
│ ТРИ ЩИТИ ПРОТИ ГАЛЮЦИНАЦІЙ │
├─────────────────────────────────────────────────────────────┤
│ 🛡️ ЩИТ 1: Дозвіл на незнання (Permission to fail): │
│ «Якщо ти не маєш 100% фактів для відповіді, │
│ чесно напиши: «Я не маю достатньо даних для висновку». │
│ Не намагайся вгадати!» │
├─────────────────────────────────────────────────────────────┤
│ 🛡️ ЩИТ 2: Суворе замкнене коло (Closed-domain constraint): │
│ «Використовуй ТІЛЬКИ інформацію з тегів <source>. │
│ Забудь усі свої зовнішні знання про цей предмет». │
├─────────────────────────────────────────────────────────────┤
│ 🛡️ ЩИТ 3: Спочатку цитата (Quote-First): │
│ «Для кожної своєї тези спершу наведи пряму цитату │
│ з тексту документа у лапках [«...»]». │
└─────────────────────────────────────────────────────────────┘
3. Praktische Prompt-Vorlage für die Analyse wichtiger Dateien
Kopieren Sie diese Referenzvorlage, bevor Sie einen Vertrag, Richtlinien oder einen Bericht hochladen:
„Analysieren Sie die angehängte Datei nach folgenden strikten Regeln: 1. Stützen Sie sich AUSSCHLIESSLICH auf Fakten, die direkt in diesem Text genannt werden. 2. Untermauern Sie jede Aussage mit einem wörtlichen Zitat aus dem Dokument. 3. Wenn der Text keine Antwort auf eine meiner Fragen enthält, schreiben Sie ausdrücklich: „Diese Information ist in der Quelle nicht erwähnt“. Es ist verboten, zu spekulieren, zu extrapolieren oder Annahmen zu treffen. Meine erste Frage lautet: [Ihre Frage]“.
4. Warum das funktioniert
Wenn Sie dem Modell explizit die Pflicht nehmen, „um jeden Preis zu antworten“, wählt es gerne den sichersten Weg – eine ehrliche Antwort wie „Im Dokument steht nichts darüber“. Das schützt Ihren Ruf und macht KI zu einem wirklich zuverlässigen Assistenten.
FAQ: Wie man KI-Halluzinationen verhindert (Prompts gegen erfundene Fakten)
Verwandte Begriffe
KI-Halluzinationen (Hallucinations & Confabulations)
Generierung faktisch falscher, erfundener oder nicht existierender Informationen (Bibliotheken, API-Methoden, Zitate) durch Sprachmodelle mit hoher probabilistischer Sicherheit.
Grounding (Quellbasierte Faktenverankerung)
Methodik zur Verknüpfung von KI-generierten Aussagen mit verifizierten Originalquellen (Source Grounding). Ermöglicht die Eliminierung von Halluzinationen und gewährleistet die rechtliche sowie wissenschaftliche Zuverlässigkeit von Antworten durch präzise Fußnoten und Zitate.
Trennzeichen und XML-Tags (Strukturierung von Prompts)
Technik zur Gestaltung komplexer Prompts unter Verwendung von XML-Tags (<context>, <rules>) und dreifachen Anführungszeichen (\"\"\"). Hilft dem Modell, klar zu unterscheiden, wo Ihre Regel endet und der zu verarbeitende Text beginnt.