Tamanho da Janela de Contexto (Memória da Conversa Atual)
Volume máximo de texto (em tokens) que um modelo de linguagem consegue manter simultaneamente na memória durante uma conversa atual. Define o comprimento dos documentos que podem ser carregados de uma só vez sem perda de conteúdo.
1. Visão geral do conceito e propósito
Imagine ler um livro, mas sua memória funciona de tal forma que você só consegue reter as últimas 30 páginas recém-lidas. Assim que você vira a página 31, os eventos da página 1 são irreversivelmente apagados da sua mente.
É exatamente assim que funciona a Context Window (Janela de Contexto) de um modelo de linguagem. Ela representa a memória operacional do modelo.
Tudo o que entra na janela de contexto inclui:
- A instrução de sistema ("Você é um tutor experiente").
- Todo o histórico anterior desta conversa específica.
- O texto de todos os arquivos enviados por você.
- Sua nova pergunta atual.
Se a soma de todos esses elementos exceder o limite do modelo, os dados mais antigos começam a ser "descartados".
2. Evolução dos tamanhos da janela de memória
┌─────────────────────────────────────────────────────────────┐
│ EVOLUÇÃO DO TAMANHO DA JANELA DE CONTEXTO │
├─────────────────────────────────────────────────────────────┤
│ 📜 2022 (GPT-3.5): │
│ [4 000 tokens] ➔ ~10 páginas de texto │
├─────────────────────────────────────────────────────────────┤
│ 📖 2023 (GPT-4 Turbo): │
│ [128 000 tokens] ➔ ~300 páginas (um livro grosso inteiro)│
├─────────────────────────────────────────────────────────────┤
│ 📚 2024–2026 (Claude 3.5 Sonnet): │
│ [200 000 tokens] ➔ ~500 páginas ou todo o código do projeto│
├─────────────────────────────────────────────────────────────┤
│ 🏛️ Google Gemini 1.5 Pro: │
│ [2 000 000 tokens] ➔ Biblioteca com 35 livros ou 1 hora de vídeo│
└─────────────────────────────────────────────────────────────┘
3. Por que uma conversa em um único chat tende a ficar "menos inteligente" com o tempo (Context Rot)
Muitos iniciantes cometem um erro típico: mantêm a mesma conversa infinita ao longo de um mês, fazendo perguntas sobre clima, receitas, correções de código e planos de férias no mesmo thread.
Com o tempo, esse chat acumula dezenas de milhares de tokens de lixo antigo e irrelevante. O modelo começa a:
- Responder mais lentamente.
- Se confundir com suas próprias instruções.
- Consumir significativamente mais recursos financeiros para cada nova palavra gerada.
4. A regra de ouro da higiene de contexto
Uma tarefa — um novo chat!
Assim que você terminar de trabalhar em um tópico específico (por exemplo, escrever um artigo ou corrigir um bug em um script) — abra um novo chat limpo. Isso reinicia a memória operacional do modelo, economiza seu orçamento e garante a máxima qualidade das respostas, sem resíduos de informações obsoletas.
FAQ: Tamanho da Janela de Contexto (Memória da Conversa Atual)
Termos relacionados
Janela de Contexto (Context Window)
O volume máximo de tokens que um modelo de linguagem consegue manter simultaneamente no mecanismo Self-Attention e na memória do cache KV durante o processamento de uma única requisição de inferência.
Tokens Explained Simply (How Many Words in a Token)
The basic unit of text measurement in language models. An explanation of how words are broken down into tokens, why this impacts request costs, and why Ukrainian words consume more tokens than English ones.
Context Window Overflow & Compaction
Engineering patterns to prevent fatal failures when the context limit is exhausted: rolling summaries, state folding, and selective eviction of outdated history.