Degradación del Contexto (Context Rot & Attention Decay)

1. Visión general del concepto y problema sistémico

Con la aparición de modelos con ventanas de contexto gigantes (Claude 3.7 con 200K, Gemini 2.5 con más de 1M de tokens), los desarrolladores han caído en una peligrosa ilusión: parece que ahora se puede mantener un chat indefinidamente, acumulando megabytes de registros, textos completos de archivos y borradores de código.

Sin embargo, en la práctica, después de 15–20 pasos de trabajo autónomo, comienza una rápida degradación del comportamiento del agente:

1. Amnesia de reglas: El agente de repente olvida la prohibición de usar any o comienza a devolver nombres de funciones inventados, a pesar de que había una restricción clara en el prompt sistémico.
2. Repetición cíclica de errores (Negative Reasoning Transfer): Al ver en su propia historia 5 intentos fallidos de ejecutar un comando, el modelo comienza a considerar la paradigma errónea como norma y vuelve a proponer las mismas opciones de código obsoletas.
3. Catástrofe económica: El usuario paga por la longitud completa del contexto (por ejemplo, 120,000 tokens de entrada) en cada réplica solo para corregir una coma en un archivo.

Context Rot (Degradación del Contexto) es un asesino silencioso del vibe coding y los flujos de trabajo agenticos, que transforma un asistente inteligente en un generador desorientado de código espagueti.

2. Taxonomía arquitectónica y modelo mental

La degradación de la atención dentro de la red neuronal se desarrolla en tres direcciones principales:

• 1. Dilución de la atención (Attention Dilution): En la fórmula matemática del transformador $\text{Softmax}(QK^T / \sqrt{d})$, el denominador suma las exponenciales de todos los tokens en el contexto. Cuando la cantidad de tokens secundarios aumenta de 2,000 a 100,000, el peso de la atención asignado a instrucciones críticas del sistema se diluye exponencialmente.
• 2. Efecto 'Lost-in-the-Middle': La atención se distribuye en una curva en forma de U. La información que se encuentra en el rango del 20% al 80% de la profundidad del contexto sufre el mayor porcentaje de distorsiones y alucinaciones.
• 3. Contaminación de contexto por errores (Feedback Pollution): Cada salida fallida de un linter, error 404 o fragmento de código comentado se convierte en parte de la distribución de entrenamiento para la generación del siguiente token. El modelo comienza a generar código en el estilo de sus intentos fallidos de manera subconsciente.

3. Pipeline técnico y mecánica interna

El ciclo de vida de la degradación del contexto y las contramedidas:

1. Inception & High Fidelity (Fase de inicio limpio, pasos 1–5): El contexto contiene solo reglas del sistema limpias y la tarea. La precisión de ejecución es máxima, el modelo sigue estrictamente la estructura.
2. Accumulation & Intermediate Noise (Fase de acumulación, pasos 6–15): En el contexto aparecen trazas de pila, salidas de git status, largas respuestas JSON. Comienza la dispersión inicial de la atención.
3. Attention Saturation & Drift (Fase de degradación, pasos 16+): El modelo comienza a perder el hilo de sus razonamientos, cambia su estilo de nombramiento, propone bibliotecas obsoletas y repite alucinaciones anteriores.
4. Compaction & Thread Reset (Protección ingenieril):
   • Rolling Compaction: compresión automática de mensajes antiguos en un resumen de 3 párrafos.
   • Clean Forking: creación de una nueva sesión trasladando solo el estado final (Final Diff).

4. Escenarios prácticos de ingeniería en producción

01. Disciplina de sesiones en Claude Code y Cursor

Los desarrolladores experimentados nunca mantienen un solo chat por más de un paso lógico. Después de que el módulo de autorización ha sido escrito y probado, la sesión se cierra. Se abre un nuevo chat para el módulo de facturación desde una hoja en blanco, añadiendo un enlace a los archivos recién creados.

02. Sanitización estricta de la salida del terminal (Stdout Truncation)

Cuando el agente ejecuta un comando de construcción o pruebas, el runtime intercepta la salida. Si npm run build genera 2000 líneas de registros, el agente recibe solo las últimas 20 líneas con el texto del error real, evitando que el contexto se llene instantáneamente de ruido.

03. Pipelines de dos etapas en RAG

Antes de añadir las páginas web encontradas al prompt del generador, deben pasar obligatoriamente por un stripper de HTML a Markdown y un filtro de relevancia. Solo se presenta información útil en el contexto, sin paneles de navegación del sitio ni pies de página.

5. Errores comunes, trampas y seguridad

• Trampa de costos hundidos (Sunk Cost Fallacy): El usuario sigue intentando convencer al agente en el mismo chat largo: “¡No, olvidaste de nuevo la importación! ¡Te lo dije hace 10 mensajes!”. En lugar de eso, es más fácil presionar /clear o abrir un nuevo hilo.
• Entidades zombis (Ghost Variables): El agente se refiere a variables o funciones que creó en el paso 3, pero que eliminó del código en el paso 8, porque todavía están presentes en el historial de la conversación.
• Gasto incontrolado de dinero: Trabajar en un contexto "podrido" de 150K tokens consume en una hora el presupuesto mensual del desarrollador sin ningún beneficio para el producto.