Hallucinations & Confabulations

1. Vue d'ensemble du concept et problème systémique

La propriété la plus dangereuse de l'intelligence artificielle réside dans le fossé entre l'excellence linguistique et la véracité factuelle :

1. L'illusion de compétence : Le modèle écrit à propos d'une méthode API inventée avec le même ton assuré et académique que lorsqu'il traite de la documentation officielle de la bibliothèque standard.
2. Hallucination des dépendances : Dans sa tentative de résoudre un problème de développement, le LLM importe souvent une méthode pratique ou une bibliothèque qui n'a jamais existé dans le monde réel.
3. Accumulation en cascade des erreurs (Hallucination Cascades) : Si un agent autonome prend une première décision basée sur une hallucination, les 10 étapes suivantes tenteront de développer cette branche inexistante de la réalité, gaspillant des heures de temps et du budget.

Les hallucinations ne sont pas un bug spécifique à un réseau neuronal donné, mais une caractéristique inhérente aux systèmes probabilistes autorégressifs, ce qui exige de l'ingénieur une rigoureuse système de grounding externe et une validation déterministe.

2. Taxonomie architecturale et modèle mental

Dans le domaine de l'IA, les hallucinations sont classées selon trois formes principales de manifestation :

• 1. Hallucinations intrinsèques (Intrinsic Hallucinations) : La réponse du modèle contredit directement les informations déjà fournies dans le prompt ou le contexte RAG (par exemple, le texte indique un prix de 50 $, mais le modèle conclut avec 150 $).
• 2. Hallucinations extrinsèques (Extrinsic Hallucinations) : Le modèle ajoute des détails absents du contexte et inexistantes dans la réalité (articles de loi fictifs, liens vers des pages non existantes, citations de personnes).
• 3. Hallucinations de code et d'API (Code & API Hallucinations) :
  • Drapeaux CLI inventés (par exemple, docker run --auto-clean).
  • Méthodes de classes inexistantes (par exemple, appel de db.users.findAndUpsert()).
  • Paquets npm/pip tiers fictifs (menace de Slopsquatting).

3. Pipeline technique et mécanique interne

Le pipeline d'ingénierie pour la suppression et la détection des hallucinations :

1. Context Grounding (Ancrage aux faits) : Utilisation d'un RAG strict avec un prompt limitatif : « Répondez exclusivement sur la base des documents fournis. Si la réponse ne se trouve pas dans le texte, retournez 'NO_DATA' ».
2. Sampling Parameter Tuning (Calibrage de l'échantillonnage) : Définition de temperature = 0.0 et réduction de top_p pour minimiser la dérive aléatoire dans les queues de distribution de probabilité.
3. Deterministic Pre-flight Verification (Vérification pré-vol déterministe) : Lancement automatique d'oracles : compilation TypeScript (tsc), vérification de l'existence du paquet importé dans le registre officiel via API ou requête HTTP HEAD vers les URL de référence.
4. Adversarial Double-Check (Audit par critiqueur) : Un modèle juge léger compare le texte généré avec les documents sources, marquant toute phrase non confirmée (Fact Extraction & NLI Matching).

4. Scénarios d'ingénierie pratiques en production

01. Audit pré-vol des registres de dépendances (Protection contre le Slopsquatting)

Un agent a écrit un script et ajouté un nouveau paquet dans package.json. Avant d'exécuter npm install, le système de sécurité envoie une requête vers registry.npmjs.org. Si le paquet a été enregistré il y a moins de 48 heures ou s'il n'existe pas, l'action est immédiatement bloquée avec une alerte signalant une suspicion d'hallucination ou d'attaque.

02. RAGAS Grounding dans un assistant support d'entreprise

Un chatbot répond aux questions juridiques des employés. Le framework vérifie automatiquement chaque thèse générée. Si le niveau de Faithfulness tombe en dessous de 0.90, l'utilisateur voit le message : « Je ne peux trouver le point exact dans le règlement, veuillez contacter le service RH ».

03. Vérification des schémas avec OpenAPI / Swagger

Avant d'appeler une API tierce, l'agent de code doit confronter le nom de la fonction et ses arguments au fichier de spécification de schéma swagger.json, éliminant ainsi les paramètres de requête inventés.

5. Pièges, erreurs courantes et sécurité

• Confiance aveugle dans le style élégant : Plus le modèle maîtrise la langue, plus il est facile pour l'humain de croire à ses inventions. Exigez toujours des références précises aux sources ou des artefacts d'exécution.
• Hallucinations des normes réglementaires et médicales : Tenter d'obtenir un conseil sur le code fiscal sans connecter le texte actuel de la loi via RAG entraînera inévitablement des amendes juridiques.
• Hallucinations artificielles dues au Context Rot : Un contexte obsolète ou saturé de bruit augmente la fréquence des hallucinations de 3 à 5 fois. Gardez votre contexte propre.