RAG (Generación Aumentada por Recuperación)

1. Visión general del concepto y problema sistémico

Intentar "alimentar" todos los documentos internos de la empresa en los pesos de una red neuronal mediante preentrenamiento o Fine-Tuning es un error de ingeniería fundamental:

1. Olvido catastrófico (Catastrophic Forgetting): El modelo puede perder parcialmente habilidades básicas de razonamiento al intentar memorizar artículos corporativos específicos.
2. Derecho al olvido (Right to be Forgotten / GDPR): Si un documento confidencial se incorpora a los pesos del modelo, no se puede eliminar sin un reentrenamiento completo que cuesta cientos de miles de dólares.
3. Falta de separación de derechos de acceso (RBAC): Un modelo entrenado puede responder a un empleado común con información sobre los salarios de los altos ejecutivos, ya que los datos están mezclados en matrices de pesos generales.

RAG (Generación Aumentada por Recuperación) separa la inteligencia computacional y el almacenamiento de datos: el LLM permanece como un "procesador de razonamiento" imparcial, mientras que todo el conocimiento se almacena en una base de datos externa bajo un estricto control ingenieril.

2. Taxonomía arquitectónica y modelo mental

La evolución de la arquitectura RAG se clasifica en tres generaciones:

• 1. RAG Naive: Pipeline lineal: Chunking -> Embedding -> Vector DB -> Top-K Nearest Neighbors -> Prompt Context. Tiene un alto nivel de ruido, es ciego a coincidencias exactas y sufre de alucinaciones con cortes de texto fallidos.
• 2. RAG Avanzado: Incluye etapas antes y después de la recuperación:
  • Pre-Retrieval: expansión de consultas (Query Expansion), generación de respuestas hipotéticas (HyDE) y enrutamiento a diferentes bases de conocimiento.
  • Retrieval: búsqueda híbrida (BM25 + HNSW-vectores).
  • Post-Retrieval: filtrado por metadatos, compresión de contexto y re-ranking con cross-encoder.
• 3. RAG Modular y Agente (Modular / Agentic RAG): El agente decide cuándo necesita búsqueda, verifica hechos obtenidos (Self-RAG), ajusta la consulta en caso de falta de datos y utiliza índices gráficos (GraphRAG) para descubrir complejas relaciones intersubjetivas.

3. Pipeline técnico y mecánica interna

El ciclo completo del sistema de producción RAG consta de dos contornos:

Contorno de indexación (Offline Ingestion Pipeline):

1. Parsing & Clean: Extracción de texto de PDF, Markdown, Notion o SQL, limpieza de marcas.
2. Chunking Consciente de Sintaxis: Segmentación por límites lógicos (AST / encabezados) con un buffer de superposición.
3. Vectorización e Indexación: Generación de vectores de embeddings y almacenamiento en la base de datos vectorial con metadatos de acceso.

Contorno de consulta (Online Query Pipeline):

1. Transformación de Consulta: Conversión de la pregunta del usuario en una consulta de búsqueda optimizada.
2. Recuperación Híbrida: Recuperación simultánea de candidatos a través de vectores e índice de texto completo BM25.
3. Re-ranking: Un modelo re-ranker (Cross-Encoder) clasifica los 30 fragmentos encontrados y deja los 5 más relevantes.
4. Generación Fundamentada: El LLM recibe un prompt estricto con los fragmentos insertados y forma una respuesta precisa con la obligación de citar las fuentes.

4. Escenarios prácticos de ingeniería en producción

01. Asistente corporativo con separación de derechos (RBAC)

La consulta del usuario viene acompañada de su token JWT. La base de datos vectorial filtra documentos en la etapa de pre-filtrado: WHERE team_id = 'engineering' AND access_level <= user.level. El modelo no recibe físicamente información en el contexto a la que el usuario no tiene acceso.

02. Documentación técnica para ingenieros con enlaces directos

El desarrollador pregunta: “¿cómo configurar la replicación de SQLite?”. RAG devuelve la secuencia exacta de pasos con marcas [fuente: docs/replication.md#L45], permitiendo al ingeniero acceder al código fuente con un solo clic.

03. Auditoría de cumplimiento automatizada de contratos legales

El sistema revisa un contrato de 100 páginas contra el registro de políticas corporativas, extrayendo solo los puntos relevantes sobre fuerza mayor y penalizaciones.

5. Errores comunes, trampas y seguridad

• Envenenamiento de la base de conocimiento (RAG Poisoning): Un atacante carga un archivo en la base de datos interna con instrucciones ocultas (Prompt Injection), que obliga a RAG a emitir instrucciones erróneas a todos los usuarios. Verifique las fuentes de conocimiento y utilice barandillas de seguridad (Guardrails).
• Basura en la entrada — basura en la salida (Garbage In, Garbage Out): Si ha cargado en RAG un PDF mal escaneado con muchas palabras cortadas, ningún modelo podrá proporcionar una respuesta adecuada.
• Pérdida de conexión entre fragmentos: El uso de segmentaciones demasiado finas priva a las oraciones de contexto. Siempre enriquezca los fragmentos con los encabezados de las secciones parentales.