Arquitetura e Economia do Prompt Caching

1. Visão Geral do Conceito e o Problema Sistêmico

Na era dos agentes autônomos, a interação com o modelo é multi-etapa:

• Etapa 1: Enviar 80k tokens de código + pergunta.
• Etapa 2: Receber resposta + chamar ferramenta + enviar resultado da ferramenta (novamente 80k tokens de código + novo contexto).
• Até a 10ª etapa, o desenvolvedor paga pela releitura dos mesmos 80k tokens dez vezes consecutivas!
• Sem cacheamento, uma sessão custa $2.50. Com cacheamento — $0.28.

Prompt Caching Economics é uma nova disciplina de engenharia: projetar a estrutura do diálogo para que dados estáticos nunca sejam recalculados repetidamente na GPU.

2. Taxonomia Arquitetural e Modelo Mental

┌─────────────────────────────────────────────────────────────┐
│                 REGRAS DE PREFIXO PARA CACHE DE PROMPTS     │
├─────────────────────────────────────────────────────────────┤
│ 1. PREFIXO ESTÁTICO E ARMAZENÁVEL (DEVE SER 100% IDÊNTICO): │
│    ┌─────────────────────────────────────────────────────┐  │
│    │ • Prompts de Sistema Base & Regras Rígidas de Agentes│  │
│    │ • Esquemas do Projeto & Definições TypeScript       │  │
│    │ • Documentação Central Imutável & Specs de Ferramentas│ │
│    └─────────────────────────────────────────────────────┘  │
│    ➔ ACERTO: 90% DE DESCONTO & 4x MAIS RÁPIDO NO PREFILL    │
├─────────────────────────────────────────────────────────────┤
│                          │                                  │
│                          ▼ Limite de Anexação Dinâmica      │
├─────────────────────────────────────────────────────────────┤
│ 2. SUFIXO DINÂMICO VOLÁTIL (ADICIONADO EXCLUSIVAMENTE AO FINAL):│
│    • Consulta atual do usuário & turnos da conversa         │
│    • Saídas dinâmicas de ferramentas & logs de erros em runtime│
│    • Timestamps & IDs efêmeros                              │
└─────────────────────────────────────────────────────────────┘

3. Cenários Práticos de Engenharia em Produção

01. Posicionamento Correto de Metadados Dinâmicos

Antipadrão (Morte do Cache):

[Prompt do Sistema] Hoje: 2026-09-09 13:42:15. Sua tarefa é codificar...

(O tempo muda a cada segundo, invalidando o cache 100% das vezes).

Padrão Correto (Cache Permanente): Tempo e variáveis são passados na última mensagem do usuário:

[Prompt de Sistema Estático - 40k tokens] (EM CACHE)
[Mensagem do Usuário] [Timestamp: 13:42:15] Adicione um novo botão no cabeçalho.

02. Uso de Pontos de Quebra de Cache (Cache Breakpoints na Anthropic)

Instrução no cabeçalho cache_control: {"type": "ephemeral"} sobre um bloco massivo de documentação:

const messages = [
  {
    role: "system",
    content: [
      {
        type: "text",
        text: massiveCodebaseSnapshot,
        cache_control: { type: "ephemeral" }
      }
    ]
  },
  { role: "user", content: "Виправ помилку в маршрутизаторі" }
];

4. Armadilhas, Erros Comuns e Segurança

• Prefixo muito curto: A maioria dos provedores exige um tamanho mínimo de texto para cacheamento (por exemplo, pelo menos 1024 tokens na Anthropic ou 2048 na DeepSeek). É inútil fazer cache de um prompt curto de 100 tokens.
• Custo do Primeiro Pedido Frio (Cold Start Cost): O primeiro pedido com um novo prefixo custa 25% mais caro do que um token de entrada padrão (Cache Write surcharge). A economia começa a partir do segundo pedido e seguintes.

5. Conclusão Estratégica para Engenheiros em 2026

O cacheamento de prompts alterou o modelo financeiro da inteligência artificial. Uma estrutura de prefixos bem organizada torna possível manter contextos de código enormes continuamente por um custo acessível até mesmo para projetos open-source não comerciais.