Metadaten-Filterung in RAG (Metadata Filtering)
Technik für hybride Suche in Vektor-Datenbanken (Self-Querying Retriever). Ermöglicht die Kombination von semantischer Suche mit strengen Datenbankfiltern basierend auf Metadaten wie Veröffentlichungsdatum, Dokumentenautor, Zugriffslevel, Sprache oder Unternehmensabteilung.
1. Überblick über das Konzept und den Zweck
Stellen Sie sich eine große Bibliothek vor, in der alle Bücher zu einem riesigen Haufen mitten im Saal geworfen wurden. Sie treten heran und sagen: „Finden Sie mir die Arbeitssicherheitsvorschriften“. Der Bibliothekar findet eine Broschüre... aber es stellt sich heraus, dass diese aus dem Jahr 1978 stammt! Inhaltlich passt sie zwar perfekt zum Thema „Arbeitssicherheit“, doch ihre Regeln sind seit einem halben Jahrhundert veraltet.
Reine Vektorsuche leidet genau an dieser Blindheit: Sie bewertet nur die semantische Ähnlichkeit der Wörter und ignoriert dabei vollständig Datum, Autor oder Status des Dokuments.
Um dies zu beheben, wird Filterung nach Metadaten (Metadata Filtering) eingesetzt.
Praktische Analogie: Wie Filter auf einer Online-Shop-Seite: Sie suchen nach „Turnschuhen“ (semantische Suche), setzen aber Häkchen bei „nur Größe 42“, „Schwarz“ und „Rabatt ab 20%“ (Metadaten).
2. Aufbau der zweiphasigen Suche mit Filterung
┌─────────────────────────────────────────────────────────────┐
│ СХЕМА METADATA FILTERING │
├─────────────────────────────────────────────────────────────┤
│ 👤 ЗАПИТ ЛЮДИНИ: │
│ «Які нові інструкції для кур'єрів вийшли у 2026 році?» │
├─────────────────────────────────────────────────────────────┤
│ 🧠 LLM АВТОМАТИЧНО РОЗДІЛЯЄ ЗАПИТ НА ДВІ ЧАСТИНИ: │
│ 1. Семантичний вектор: «інструкції обов'язки доставка» │
│ 2. Жорсткий SQL-фільтр: │
│ `WHERE year == 2026 AND category == 'logistics'` │
├─────────────────────────────────────────────────────────────┤
│ 🗄️ ВЕКТОРНА БАЗА ДАНИХ (Qdrant / Pinecone): │
│ - Миттєво відсікає 95% старих документів інших років │
│ - Серед решти 5% шукає найближчі смислові вектори │
├─────────────────────────────────────────────────────────────┤
│ 🎯 РЕЗУЛЬТАТ: Лише актуальні інструкції 2026 року! │
└─────────────────────────────────────────────────────────────┘
3. Die Top-4 Metadaten-Felder, die Ihr Projekt retten
- Erstellungs-/Aktualisierungsdatum (
updated_at): Priorisieren Sie stets aktuelle Richtlinien gegenüber Archiven. - Zugriffsrechtebene (
role_allowed): Schutz davor, dass Praktikanten in Bot-Antworten Dateien mit dem Kennzeichenstrictly_confidentialsehen. - Versionsstatus (
status: 'active' | 'archived'): Ausschluss von Entwürfen und veralteten Projekten. - Dokumentsprache (
lang: 'uk' | 'en'): Vermeidung eines Wirrwarrs aus mehrsprachigen Antworten.
4. Praktisches Fazit
Vektoren ohne Metadaten sind nur halb so viel wert. Versorgen Sie jeden in der Datenbank gespeicherten Chunk immer mit einem umfangreichen Metadaten-Pass – dies verwandelt einen zufälligen Zitatgenerator in ein strenges, rechtlich belastbares Business-System.
FAQ: Metadaten-Filterung in RAG (Metadata Filtering)
Verwandte Begriffe
Vektorsuche vs. Strg+F (Dicht vs. Dünn)
Vergleich zweier Suchansätze: neuronale semantische Suche (Dense Retrieval) und klassische Schlüsselwortsuche mit Wortübereinstimmung (Sparse / BM25). Erklärt, warum die Vektorsuche bei der Suche nach Artikelnummern versagen kann und wie hybride Suche funktioniert.
Anbindung von Wissensdatenbanken (Google Drive, Notion, Confluence)
Technologie zur Integration unternehmensinterner Datenquellen mit Sprachmodellen über vorgefertigte Konnektoren (Connectors / ETL). Automatisierte Synchronisation aktualisierter Dokumente aus Google Drive, Notion, Confluence und Slack mit der Vektor-Datenbank ohne manuellen Datei-Upload.
Vektor-Datenbanken (Vector DBs & ANN-Suche)
Spezialisierte Datenbanksysteme und Erweiterungen (Qdrant, pgvector, Milvus, Chroma, Turso), optimiert für die Speicherung von Millionen mehrdimensionaler Vektoren und ultraschnelle Approximate Nearest Neighbor (ANN)-Suche.