Halucynacje AI (Hallucinations & Confabulations)

1. Przegląd koncepcji i problem systemowy

Najgroźniejszą cechą sztucznej inteligencji jest rozbieżność między perfekcją lingwistyczną a rzetelnością faktyczną:

1. Iluzja kompetencji: Model opisuje wymyśloną metodę API z takim samym pewnym, akademickim tonem, jakby cytował oficjalną dokumentację biblioteki standardowej.
2. Halucynacje zależności: W próbie rozwiązania zadania programistycznego LLM często importuje wygodną metodę lub bibliotekę, która nigdy nie istniała w rzeczywistości.
3. Kaskadowe gromadzenie błędów (Hallucination Cascades): Jeśli autonomiczny agent podjął pierwszą decyzję na podstawie halucynacji, wszystkie kolejne 10 kroków będzie próbowało rozwijać tę nieistniejącą gałąź rzeczywistości, marnując godziny czasu i budżet.

Halucynacje (Hallucinations) to nie błąd konkretnej sieci neuronowej, ale nierozerwalna cecha autoregresyjnych systemów probabilistycznych, wymagająca od inżyniera rygorystycznego systemu zewnętrznego uziemienia (Grounding) oraz deterministycznej walidacji.

2. Taksonomia architektoniczna i model mentalny

W dziedzinie AI halucynacje klasyfikuje się według trzech głównych form manifestacji:

• 1. Halucynacje wewnętrzne (Intrinsic Hallucinations): Odpowiedź modelu bezpośrednio przeczy informacjom zawartym w prompcie lub kontekście RAG (np. w tekście podano cenę $50, a model w konkluzji pisze $150).
• 2. Halucynacje zewnętrzne (Extrinsic Hallucinations): Model dodaje szczegóły, których nie było w kontekście i które nie istnieją w rzeczywistości (wymyślone artykuły prawne, linki do nieistniejących stron, cytaty osób).
• 3. Halucynacje kodowe i API (Code & API Hallucinations):
  • Wymyślone flagi komend CLI (np. docker run --auto-clean).
  • Nieistniejące metody klas (np. wywołanie db.users.findAndUpsert()).
  • Wymyślone pakiety npm/pip (zagrożenie typu Slopsquatting).

3. Pipeline techniczny i mechanika wewnętrzna

Potok inżynierski tłumienia i detekcji halucynacji:

1. Context Grounding (Przywiązanie do faktów): Wykorzystanie rygorystycznego RAG z promptem ograniczającym: „Odpowiadaj wyłącznie na podstawie dostarczonych dokumentów. Jeśli odpowiedź nie znajduje się w tekście, zwróć 'NO_DATA'”.
2. Sampling Parameter Tuning (Kalibracja próbkowania): Ustawienie temperature = 0.0 oraz obniżenie top_p w celu minimalizacji losowego błądzenia po ogonach rozkładu prawdopodobieństwa.
3. Deterministic Pre-flight Verification (Deterministyczna weryfikacja przed uruchomieniem): Automatyczne uruchamianie wyroczni: kompilacja TypeScript (tsc), sprawdzenie obecności importowanego pakietu w oficjalnym rejestrze przez API lub żądanie HTTP HEAD do URL-a odnośnika.
4. Adversarial Double-Check (Audyt krytyka): Lekki model-sędzia porównuje tekst wyjściowy z dokumentami źródłowymi, oznaczając wszelkie niepotwierdzone zdania (Fact Extraction & NLI Matching).

4. Praktyczne scenariusze inżynierskie w środowisku produkcyjnym

01. Audyt pre-flight rejestrów zależności (Ochrona przed Slopsquattingiem)

Agent napisał skrypt i dodał nowy pakiet do package.json. Zanim system bezpieczeństwa wykona npm install, wysyła zapytanie do registry.npmjs.org. Jeśli pakiet został zarejestrowany mniej niż 48 godzin temu lub nie istnieje, akcja jest natychmiast blokowana wraz z alertem o podejrzeniu halucynacji lub ataku.

02. Grounding RAGAS w korporacyjnym asystencie wsparcia

Chatbot odpowiada na pytania prawne pracowników. Framework automatycznie weryfikuje każdą wygenerowaną tezę. Jeśli poziom Faithfulness spada poniżej 0.90, użytkownik widzi komunikat: „Nie mogę znaleźć dokładnego punktu w regulaminie, skontaktuj się z działem HR”.

03. Weryfikacja schematów z OpenAPI / Swagger

Przed wywołaniem zewnętrznego API agent kodowy musi zestawić nazwę funkcji i jej argumenty z plikiem specyfikacji schematu swagger.json, eliminując wymyślone parametry zapytań.

5. Pułapki, typowe błędy i bezpieczeństwo

• Ślepe zaufanie do estetyki stylu: Im lepiej model włada językiem, tym łatwiej człowiekowi uwierzyć w jego wymysły. Zawsze wymagaj precyzyjnych odniesień do źródeł lub artefaktów wykonania.
• Halucynacje norm regulacyjnych i medycznych: Próba uzyskania porady dotyczącej kodeksu podatkowego bez podłączonego aktualnego tekstu ustawy przez RAG gwarantowanie doprowadzi do kar prawnych.
• Sztuczne halucynacje przez Context Rot: Przestarzały lub zaśmiecony szumem kontekst zwiększa częstotliwość halucynacji 3–5-krotnie. Utrzymuj kontekst w czystości.