Skip to main content

Самоперевірка результатів пошуку (Self-RAG & Corrective RAG)(Самоперевірка в RAG: як навчити ШІ критикувати знайдені документи перед відповіддю)

Архітектурний підхід до пошуку (Self-RAG та CRAG — Corrective RAG), за якого мовна модель не сліпо генерує відповідь на основі перших знайдених результатів, а спочатку самостійно оцінює їхню релевантність і повноту. Якщо знайдених фактів замало або вони сумнівні, система автоматично перефразовує запит і шукає повторно або йде у відкритий веб.

1. Огляд концепції та призначення

Коли некваліфікований співробітник отримує завдання від шефа знайти інформацію, якої немає в документах компанії, він часто боїться сказати «Я не знайшов». Замість цього він приносить випадкові папери і вигадує правдоподібну історію, щоб догодити керівництву.

Наївні системи RAG поводяться точно так само: якщо відповіді немає в базі, вони вихоплюють найбільш схожі за словами шматочки і починають галюцинувати.

Самоперевірка результатів (Self-Reflective RAG / CRAG) — це навчання моделі чесній критичній рефлексії:

  • База віддала 3 знайдені чанки.
  • Перш ніж писати відповідь людині, ШІ робить паузу і запитує себе: «Чи є в цих трьох абзацах конкретна відповідь на запитання користувача?».
  • Якщо так ➔ формулює чітку відповідь.
  • Якщо ні ➔ відмовляється фантазувати, змінює формулювання запиту або чесно каже: «Вибачте, у регламентах нашої компанії це питання не описано».

З практичної точки зору це вбудована совість і критичне мислення вашої пошукової системи.

2. Як влаштований конвеєр самокорекції (CRAG)

┌─────────────────────────────────────────────────────────────┐
│                 КОНВЕЄР САМОПЕРЕВІРКИ CRAG                  │
├─────────────────────────────────────────────────────────────┤
│ 1. Векторний пошук знаходить 3 документи                    │
├─────────────────────────────────────────────────────────────┤
│ 2. КРИТИЧНИЙ АУДИТ (Evaluator):                             │
│    ШІ оцінює: «Чи містять документи відповідь на питання?» │
│    ├── ВАРІАНТ А: ТАК (Correct) ➔ Відповідає з цитатами     │
│    ├── ВАРІАНТ Б: ЧАСТКОВО (Ambiguous)                      │
│    │   ➔ ШІ ініціює довантаження фактів з Google Search     │
│    └── ВАРІАНТ В: НІ (Incorrect)                            │
│        ➔ ШІ чесно каже: «У документах немає інформації»     │
└─────────────────────────────────────────────────────────────┘

3. Чому це рятує від репутаційних катастроф

  1. Нуль вигаданих правил: бот підтримки банку ніколи не вигадає фальшиву комісію чи відсоток за кредитом просто тому, що знайшов схоже за формою речення.
  2. Прозорість джерел: кожне твердження у фінальній відповіді супроводжується внутрішньою перевіркою: «Чи є в документі пряме підтвердження цьому слову?».
  3. Автоматична самокорекція запитів: якщо перший пошук дав 0 результатів, система сама перефразовує питання іншими словами й спробує ще раз, перш ніж здатися.

4. Практичний висновок

Впровадження навіть найпростішої перевірки на релевантність знайдених документів перед генерацією остаточно ліквідує проблему галюцинацій у корпоративних базах знань.

/ Часті запитанняSchema.org FAQPage

FAQ: Самоперевірка результатів пошуку (Self-RAG & Corrective RAG)

Наївний RAG все одно візьме 3 найбільш «схожі» випадкові документи і спробує зшити з них відповідь. В результаті модель або вигадує факт із голови (галюцинація), або впевнено відповідає нісенітницею.
/ Внутрішня перелінковка

Пов'язані терміни

Всі терміни
Промптинг & RAG

Як відучити ШІ вигадувати (Промпти проти галюцинацій)

Набір перевірених інженерних технік та словесних конструкцій, які блокують генерацію вигаданих фактів, неіснуючих законів і хибних цитат. Змушує штучний інтелект спиратися суворо на надані джерела.

Читати термін
Промптинг & RAG

Розширення пошукового запиту (Query Expansion & HyDE)

Техніка підготовки пошукового запиту в RAG-системах. Перед зверненням до векторної бази мовна модель автоматично генерує синоніми, ключові слова або вигадану гіпотетичну відповідь (HyDE — Hypothetical Document Embeddings), що кардинально підвищує якість знайдених документів.

Читати термін
Промптинг & RAG

Заземлення фактів (Grounding та цитування джерел)

Методика прив'язки згенерованих нейромережею тверджень до перевірених першоджерел (Source Grounding). Дозволяє виключити вигадки та забезпечити юридичну й наукову достовірність відповідей за допомогою точних виносок і цитат.

Читати термін