Skip to main content

Hallucination Triage & Root Cause(Тріаж та усунення першопричин галюцинацій)

Систематичний інженерний процес аналізу помилок ШІ-моделей: діагностика дефектів контексту, виявлення конфліктів у промптах та фіксація системних правил замість безглуздого повторення запитів.

1. Огляд концепції та системна проблема

Коли агент видає неіснуючий метод або використовує бібліотеку, якої немає в проекті, типова реакція недосвідченого вайбкодера — це гнів та емоційні вигуки в чат: "Ти тупий?! Я ж казав використовувати Drizzle, а не Prisma!".

  • Це призводить до наростання контексту чату емоційним сміттям.
  • Модель починає вибачатися, але продовжує робити помилки, оскільки першопричина не була усунена.

Hallucination Triage — це холодний інженерний підхід: ставитися до галюцинації моделі не як до "тупості ШІ", а як до дефекту системи подачі контексту (Context Delivery Bug), який підлягає класифікації та систематичному виправленню.

2. Архітектурна таксономія та ментальна модель

┌─────────────────────────────────────────────────────────────┐
│                 HALLUCINATION TRIAGE MATRIX                 │
├─────────────────────────────────────────────────────────────┤
│ 1. ДЕТЕКЦІЯ: Модель видала вигаданий метод або тип         │
│    • Приклад: `db.user.findFirstOrThrow()` у Drizzle ORM    │
├─────────────────────────────────────────────────────────────┤
│                          │                                  │
│                          ▼ ДІАГНОСТИКА ПЕРШОПРИЧИНИ         │
│    ┌───────────────────────────────────────────────────┐    │
│    │ Тип А: Відсутній файл? ➔ Модель не бачила schema  │    │
│    │ Тип Б: Конфлікт правил? ➔ У правилах згадано Prisma│   │
│    │ Тип В: Застарілі ваги? ➔ Знання моделі з 2023 р.  │    │
│    └───────────────────────────────────────────────────┘    │
│                          │                                  │
│                          ▼ СИСТЕМНЕ УСУНЕННЯ                │
│ 1. Додати точний файл типів у промпт                        │
│ 2. Зафіксувати заборону в rules: "NEVER use Prisma syntax"  │
│ 3. Додати валідацію компілятором `tsc --noEmit`             │
└─────────────────────────────────────────────────────────────┘

3. Практичні інженерні сценарії в продакшені

01. Ліквідація галюцинацій через файли-декларації

Агент постійно вигадував пропси для внутрішнього компонента кнопки. Замість пояснень розробник створив файл src/components/ui/button.d.ts з чіткими TypeScript-типами і додав його до списку автоматичного контексту. Помилки зникли на 100%.

02. Протокол "Post-Mortem для ШІ-багів"

Після вирішення складного бага інженер витрачає 2 хвилини на оновлення .agents/rules/learnings.md: "У цьому проєкті роутер Next.js використовує Server Actions без ручного fetch-виклику. Не генеруй зайві роут-хендлери для простих мутацій".

4. Підводні камені, типові помилки та безпека

  • Over-Correction (Гіперкомпенсація): Намагаючись виправити одну дрібну галюцинацію, інженер пише гігантське правило на 50 рядків капслоком, яке забороняє моделі використовувати корисні супутні патерни. Правила мають бути хірургічно точними.
  • Ігнорування версій моделей: Якщо модель має занадто низьку здатність до міркувань (наприклад, застаріла 3B модель), ніякий тріаж не допоможе їй вирішувати складні завдання. Іноді єдиним лікуванням є зміна моделі на більш потужну.

5. Стратегічний висновок для інженера 2026 року

Галюцинація — це дзеркало якості вашої інженерної документації. Якщо модель галюцинує, значить ваша система була недостатньо детермінованою. Систематичний тріаж перетворює кожну помилку на цеглину в фундаменті надійності вашого репозиторію.

/ Часті запитанняSchema.org FAQPage

FAQ: Hallucination Triage & Root Cause

Бо якщо модель галюцинувала через брак контексту (наприклад, не знала актуальної версії бібліотеки), повторний запит без додавання фактів змусить її знову галюцинувати, спалюючи токени та викликаючи роздратування розробника.
/ Внутрішня перелінковка

Пов'язані терміни

Всі терміни
Промптинг & RAG

Галюцинації ШІ (Hallucinations & Confabulations)

Генерація мовною моделлю фактологічно неправдивої, вигаданої або неіснуючої інформації (бібліотек, методів API, цитат), висловленої з високою ймовірнісною впевненістю.

Читати термін
Вигорання & Flow

Prompt Fatigue (Промпт-втома та виснаження формулювання)

Психологічний та когнітивний стан виснаження розробника, викликаний постійною необхідністю перекладати технічні наміри на розмиту природну мову, повторювати контекст та багаторазово переформульовувати промпти.

Читати термін
Вайбкодинг & IDE

Agent Rules (.cursorrules / CLAUDE.md / AGENTS.md)

Машинозчитувані файли архітектурних регламентів та обмежень у репозиторії, які автоматично монтуються в системний контекст ШІ-агентів для запобігання деградації кодової бази.

Читати термін
Промптинг & RAG

Деградація контексту (Context Rot & Attention Decay)

Системне зниження точності, слідування інструкціям та логічної узгодженості LLM у міру накопичення в робочому вікні діалогового шуму, застарілих чернеток коду та виводів компілятора.

Читати термін