Alucinaciones de IA (Hallucinations & Confabulations)

1. Visión general del concepto y problema sistémico

La propiedad más peligrosa de la inteligencia artificial radica en la brecha entre la perfección lingüística y la veracidad factual:

1. Ilusión de competencia: El modelo escribe sobre un método API inventado con el mismo tono seguro y académico que sobre la documentación oficial de una biblioteca estándar.
2. Alucinación de dependencias: Al intentar resolver el problema del desarrollador, el LLM a menudo importa un método o biblioteca conveniente que nunca existió en el mundo real.
3. Acumulación en cascada de errores (Hallucination Cascades): Si un agente autónomo toma la primera decisión basada en una alucinación, todos los siguientes 10 pasos intentarán desarrollar esta rama de realidad inexistente, desperdiciando horas de tiempo y presupuesto.

Alucinaciones (Hallucinations) no son un bug de una red neuronal específica, sino una característica inherente de los sistemas probabilísticos autorregresivos, que requieren del ingeniero un estricto sistema de grounding externo y validación determinista.

2. Taxonomía arquitectónica y modelo mental

En inteligencia artificial, las alucinaciones se clasifican en tres formas principales de manifestación:

• 1. Alucinaciones intrínsecas (Intrinsic Hallucinations): La respuesta del modelo contradice directamente la información que ya se le ha proporcionado en el prompt o contexto RAG (por ejemplo, el texto indica un precio de $50, y el modelo en la conclusión escribe $150).
• 2. Alucinaciones extrínsecas (Extrinsic Hallucinations): El modelo agrega detalles que no estaban en el contexto y que no existen en la realidad (artículos de leyes inventados, enlaces a páginas inexistentes, citas de personas).
• 3. Alucinaciones de código (Code & API Hallucinations):
  • Banderas CLI inventadas (por ejemplo, docker run --auto-clean).
  • Métodos de clases inexistentes (por ejemplo, llamada a db.users.findAndUpsert()).
  • Paquetes npm/pip inventados (amenaza de Slopsquatting).

3. Pipeline técnico y mecánica interna

El pipeline de supresión e detección de alucinaciones de ingeniería:

1. Context Grounding (Anclaje a hechos): Uso de un RAG estricto con un limitador de prompt: “Responde exclusivamente en base a los documentos proporcionados. Si la respuesta no está en el texto, devuelve 'NO_DATA'.”
2. Sampling Parameter Tuning (Ajuste de parámetros de muestreo): Establecer temperature = 0.0 y reducir top_p para minimizar el deambular aleatorio por las colas de la distribución de probabilidades.
3. Deterministic Pre-flight Verification (Verificación determinista previa): Ejecución automática de oráculos: compilación de TypeScript (tsc), verificación de la existencia del paquete importado en el registro oficial a través de API o solicitud HTTP HEAD a las URL.
4. Adversarial Double-Check (Auditoría crítica): Un modelo ligero de juez compara el texto de salida con los documentos fuente, marcando cualquier oración no confirmada (Fact Extraction & NLI Matching).

4. Escenarios prácticos de ingeniería en producción

01. Auditoría previa de registros de dependencias (Protección contra Slopsquatting)

Un agente escribió un script y agregó un nuevo paquete en package.json. Antes de ejecutar npm install, el sistema de seguridad envía una solicitud a registry.npmjs.org. Si el paquete ha sido registrado hace menos de 48 horas o no existe, la acción se bloquea inmediatamente con una alerta de sospecha de alucinación o ataque.

02. RAGAS Grounding en un asistente de soporte corporativo

El chatbot responde a preguntas legales de los empleados. El marco verifica automáticamente cada tesis generada. Si el nivel de Faithfulness cae por debajo de 0.90, el usuario ve el mensaje: “No puedo encontrar el punto exacto en el reglamento, por favor contacta al departamento de recursos humanos.”

03. Verificación de esquemas con OpenAPI / Swagger

Antes de llamar a una API externa, el agente de código está obligado a mapear el nombre de la función y sus argumentos con el archivo de especificación del esquema swagger.json, eliminando parámetros de solicitud inventados.

5. Errores comunes, trampas y seguridad

• Confianza ciega en el estilo atractivo: Cuanto mejor maneje el modelo el lenguaje, más fácil es para una persona creer en sus invenciones. Siempre exija referencias precisas a fuentes o artefactos de ejecución.
• Alucinaciones de normas regulatorias y médicas: Intentar obtener asesoramiento sobre el código tributario sin el texto actual del acto conectado a través de RAG garantizará sanciones legales.
• Alucinaciones artificiales debido a Context Rot: Un contexto obsoleto o saturado de ruido aumenta la frecuencia de alucinaciones de 3 a 5 veces. Mantenga el contexto limpio.