Самопроверка результатов поиска (Self-RAG & Corrective RAG)
Архитектурный подход к поиску (Self-RAG и CRAG — Corrective RAG), при котором языковая модель не слепо генерирует ответ на основе первых найденных результатов, а сначала самостоятельно оценивает их релевантность и полноту. Если найденных фактов недостаточно или они сомнительны, система автоматически перефразирует запрос и ищет повторно или обращается к открытому вебу.
1. Обзор концепции и системная проблема
Когда неквалифицированный сотрудник получает задание от начальника найти информацию, которой нет в документах компании, он часто боится сказать «Я не нашел». Вместо этого он приносит случайные бумаги и выдумывает правдоподобную историю, чтобы угодить руководству.
Наивные системы RAG ведут себя точно так же: если ответа нет в базе, они хватают наиболее похожие по словам кусочки и начинают галлюцинировать.
Самопроверка результатов (Self-Reflective RAG / CRAG) — это обучение модели честной критической рефлексии:
- База выдала 3 найденных чанка.
- Прежде чем писать ответ человеку, ИИ делает паузу и спрашивает себя: «Есть ли в этих трех абзацах конкретный ответ на вопрос пользователя?».
- Если да ➔ формулирует четкий ответ.
- Если нет ➔ отказывается фантазировать, изменяет формулировку запроса или честно говорит: «Извините, в регламентах нашей компании этот вопрос не описан».
С практической точки зрения это встроенная совесть и критическое мышление вашей поисковой системы.
2. Архитектурная таксономия и ментальная модель
┌─────────────────────────────────────────────────────────────┐
│ КОНВЕЙЕР САМОПРОВЕРКИ CRAG │
├─────────────────────────────────────────────────────────────┤
│ 1. Векторный поиск находит 3 документа │
├─────────────────────────────────────────────────────────────┤
│ 2. КРИТИЧЕСКИЙ АУДИТ (Evaluator): │
│ ИИ оценивает: «Содержат ли документы ответ на вопрос?» │
│ ├── ВАРИАНТ А: ДА (Correct) ➔ Отвечает с цитатами │
│ ├── ВАРИАНТ Б: ЧАСТИЧНО (Ambiguous) │
│ │ ➔ ИИ инициирует загрузку фактов из Google Search │
│ └── ВАРИАНТ В: НЕТ (Incorrect) │
│ ➔ ИИ честно говорит: «В документах нет информации» │
└─────────────────────────────────────────────────────────────┘
3. Технический пайплайн и внутренняя механика
- Ноль выдуманных правил: бот поддержки банка никогда не выдумает фальшивую комиссию или процент по кредиту просто потому, что нашел похожее по форме предложение.
- Прозрачность источников: каждое утверждение в финальном ответе сопровождается внутренней проверкой: «Есть ли в документе прямое подтверждение этому слову?».
- Автоматическая самокоррекция запросов: если первый поиск дал 0 результатов, система сама перефразирует вопрос другими словами и попробует еще раз, прежде чем сдаться.
4. Практические инженерные сценарии в продакшене
01. Проверка релевантности документов
02. Автоматическая переформулировка запросов
03. Обработка отсутствия информации
5. Подводные камни, типовые ошибки и безопасность
Внедрение даже самой простой проверки на релевантность найденных документов перед генерацией окончательно ликвидирует проблему галлюцинаций в корпоративных базах знаний.
FAQ: Самопроверка результатов поиска (Self-RAG & Corrective RAG)
Связанные термины
Как отучить ИИ выдумывать (Промпты против галлюцинаций)
Набор проверенных инженерных техник и словесных конструкций, которые блокируют генерацию вымышленных фактов, несуществующих законов и ложных цитат. Заставляет искусственный интеллект опираться строго на предоставленные источники.
Расширение поискового запроса (Query Expansion & HyDE)
Техника подготовки поискового запроса в системах RAG. Перед обращением к векторной базе языковая модель автоматически генерирует синонимы, ключевые слова или вымышленный гипотетический ответ (HyDE — Hypothetical Document Embeddings), что кардинально повышает качество найденных документов.
Заземление фактов (Grounding и цитирование источников)
Методика привязки сгенерированных нейросетью утверждений к проверенным первоисточникам (Source Grounding). Позволяет исключить выдумки и обеспечить юридическую и научную достоверность ответов с помощью точных выносов и цитат.