Degradação de Contexto (Context Rot & Attention Decay)

1. Visão geral do conceito e o problema sistêmico

Com o surgimento de modelos com janelas de contexto gigantes (Claude 3.7 com 200K, Gemini 2.5 com mais de 1M tokens), surgiu entre os desenvolvedores uma ilusão perigosa: a sensação de que agora é possível manter um único chat indefinidamente, despejando nele megabytes de logs, textos completos de arquivos e rascunhos de código.

No entanto, na prática, após 15–20 etapas de trabalho autônomo, inicia-se uma rápida degradação do comportamento do agente:

1. Amnésia de regras: O agente repentinamente esquece a proibição de usar any ou começa a retornar nomes de funções inventados, mesmo que houvesse uma restrição clara no prompt de sistema.
2. Repetição cíclica de erros (Negative Reasoning Transfer): Ao ver em seu próprio histórico 5 tentativas falhas de executar um comando, o modelo passa a considerar a paradigma incorreto como norma e novamente propõe as mesmas versões obsoletas de código.
3. Desastre econômico: O usuário paga pelo comprimento total do contexto (por exemplo, 120.000 tokens de entrada) a cada réplica apenas para corrigir uma vírgula em um arquivo.

Context Rot (Degradação de Contexto) — é o assassino silencioso do vibe coding e dos fluxos de trabalho agentic, transformando um assistente inteligente em um gerador desorientado de spaghetti code.

2. Taxonomia arquitetural e modelo mental

A degradação da atenção dentro da rede neural evolui ao longo de três direções principais:

• 1. Entropia dos pesos de atenção (Attention Dilution): Na fórmula matemática do transformer $\text{Softmax}(QK^T / \sqrt{d})$, o denominador soma os expoentes de todos os tokens no contexto. Quando o número de tokens secundários cresce de 2.000 para 100.000, o peso de atenção destinado às instruções críticas do sistema é diluído exponencialmente.
• 2. Efeito "Lost-in-the-Middle": A atenção se distribui seguindo uma curva em forma de U. Informações situadas entre 20% e 80% da profundidade do contexto sofrem o maior percentual de distorções e alucinações.
• 3. Envenenamento de contexto por erros (Feedback Pollution): Cada saída mal-sucedida do linter, erro 404 ou trecho de código comentado torna-se parte da distribuição de treinamento para a geração do próximo token. O modelo, subconscientemente, começa a gerar código no estilo de suas próprias tentativas fracassadas.

3. Pipeline técnico e mecânica interna

O ciclo de vida da degradação de contexto e as contramedidas:

1. Inception & High Fidelity (Fase de início limpo, passos 1–5): O contexto contém apenas regras de sistema puras e a tarefa. A precisão de execução é máxima, e o modelo segue rigorosamente a estrutura.
2. Accumulation & Intermediate Noise (Fase de acumulação, passos 6–15): Surgem no contexto stack traces, saídas de git status, respostas JSON longas. Ocorre a dispersão inicial da atenção.
3. Attention Saturation & Drift (Fase de degradação, passos 16+): O modelo começa a perder o fio da meada nas raciocínios, muda o estilo de nomenclatura, sugere bibliotecas obsoletas e repete alucinações anteriores.
4. Compaction & Thread Reset (Proteção de engenharia):
   • Rolling Compaction: Compactação automática de mensagens antigas em um resumo de 3 parágrafos.
   • Clean Forking: Criação de uma nova sessão transferindo apenas o estado final resumido (Final Diff).

4. Cenários práticos de engenharia em produção

01. Disciplina de sessões no Claude Code e Cursor

Desenvolvedores experientes nunca mantêm um único chat por mais de um passo lógico. Após escrever e testar o módulo de autenticação, a sessão é encerrada. Um novo chat para o módulo de billing é aberto do zero, adicionando referências aos arquivos recém-criados.

02. Sanitização rígida da saída do terminal (Stdout Truncation)

Quando o agente executa um comando de build ou testes, o runtime intercepta a saída. Se npm run build gera 2000 linhas de log, o agente recebe apenas as últimas 20 linhas contendo o texto do erro real, prevenindo o preenchimento imediato do contexto com ruído.

03. Pipelines de dois estágios em RAG

Antes de adicionar páginas web encontradas ao prompt do gerador, elas passam obrigatoriamente por um stripper HTML-to-Markdown e um filtro de relevância. Apenas fatos úteis são inseridos no contexto, sem painéis de navegação do site ou rodapés.

5. Armadilhas, erros comuns e segurança

• Armadilha dos custos irreversíveis (Sunk Cost Fallacy): O usuário continua tentando convencer o agente no mesmo chat longo: "Não, você esqueceu o import de novo! Eu já te disse isso há 10 mensagens!". Em vez disso, é mais simples pressionar /clear ou abrir uma nova thread.
• Entidades zumbis (Ghost Variables): O agente referencia variáveis ou funções que criou no passo 3, mas que você removeu do código no passo 8, porque ainda estão penduradas no histórico da conversa.
• Consumo descontrolado de recursos: Trabalhar em um contexto "estragado" de 150K tokens queima o orçamento mensal do desenvolvedor em uma hora, sem qualquer benefício para o produto.