Degradacja kontekstu (Context Rot & Attention Decay)

1. Przegląd koncepcji i problem systemowy

Wraz z pojawieniem się modeli o gigantycznych oknach kontekstowych (Claude 3.7 z 200K, Gemini 2.5 z ponad 1M tokenów) wśród developerów wykształciło się niebezpieczne złudzenie: wydaje się, że można teraz prowadzić nieskończoną sesję czatu, wrzucając do niej megabajty logów, pełne treści plików czy szkice kodu.

W praktyce jednak po 15–20 krokach autonomicznej pracy następuje gwałtowna degradacja zachowania agenta:

1. Amnezja reguł: Agent nagle zapomina o zakazie używania any lub zaczyna zwracać wymyślone nazwy funkcji, mimo że w promptcie systemowym istniały jasne ograniczenia.
2. Cykliczne powtarzanie błędów (Negative Reasoning Transfer): Widząc we własnej historii 5 nieudanych prób uruchomienia komendy, model zaczyna traktować błędną paradygmatykę jako normę i ponownie proponuje te same przestarzałe warianty kodu.
3. Katastrofa ekonomiczna: Użytkownik płaci za pełną długość kontekstu (np. 120 000 tokenów wejściowych) przy każdej replikacji tylko po to, by naprawić przecinek w jednym pliku.

Context Rot (Degradacja kontekstu) to cichy zabójca vibe-codingu i workflow opartych na agentach, zamieniający inteligentnego asystenta w zdezorientowanego generatora spaghetti code’u.

2. Taksonomia architektoniczna i model mentalny

Degradacja uwagi wewnątrz sieci neuronowej przebiega w trzech głównych kierunkach:

• 1. Entropia wag uwagi (Attention Dilution): W matematycznej formule transformera $\text{Softmax}(QK^T / \sqrt{d})$ mianownik sumuje eksponenty wszystkich tokenów w kontekście. Gdy liczba drugorzędnych tokenów rośnie z 2 000 do 100 000, waga uwagi przypisana krytycznie ważnym instrukcjom systemowym ulega wykładniczemu rozmyciu.
• 2. Efekt „Zagubiony w środku” (Lost-in-the-Middle): Rozkład uwagi przyjmuje kształt krzywej U. Informacje znajdujące się w zakresie od 20% do 80% głębokości kontekstu podlegają największemu odsetkowi zniekształceń i halucynacji.
• 3. Zatrucie kontekstu błędami (Feedback Pollution): Każdy nieudany wynik lintera, błąd 404 czy zakomentowany fragment kodu staje się częścią rozkładu treningowego dla generacji kolejnego tokenu. Model podświadomie zaczyna generować kod w stylu swoich wcześniejszych niepowodzeń.

3. Pipeline techniczny i mechanika wewnętrzna

Cykl życia degradacji kontekstu oraz działania kontrujące:

1. Inception & High Fidelity (Faza czystego startu, kroki 1–5): Kontekst zawiera wyłącznie czyste reguły systemowe i zadanie. Dokładność wykonania jest najwyższa, a model ściśle przestrzega struktury.
2. Accumulation & Intermediate Noise (Faza akumulacji, kroki 6–15): W kontekście pojawiają się stack trace’y, wyniki git status, długie odpowiedzi JSON. Następuje początkowe rozproszenie uwagi.
3. Attention Saturation & Drift (Faza degradacji, kroki 16+): Model zaczyna gubić wątek rozumowania, zmienia styl nazewnictwa, proponuje przestarzałe biblioteki i powtarza wcześniejsze halucynacje.
4. Compaction & Thread Reset (Ochrona inżynieryjna):
   • Rolling Compaction: automatyczne zwijanie starych wiadomości do 3-akapitowego digestu.
   • Clean Forking: tworzenie nowej sesji z przeniesieniem jedynie stanu końcowego (Final Diff).

4. Praktyczne scenariusze inżynierskie w środowisku produkcyjnym

01. Dyscyplina sesji w Claude Code i Cursor

Doświadczeni developerzy nigdy nie utrzymują jednego czatu dłużej niż jeden logiczny krok. Po napisaniu i przetestowaniu modułu autoryzacji sesja jest zamykana. Nowy czat dla modułu billingowego otwierany jest „na czysto”, z dodaniem linków do świeżo utworzonych plików.

02. Rygorystyczna sanitizacja wyjścia terminala (Stdout Truncation)

Gdy agent uruchamia komendę builda lub testy, runtime przechwytuje wyjście. Jeśli npm run build zwraca 2000 linii logów, agent otrzymuje jedynie ostatnie 20 linii zawierających faktyczny komunikat błędu, co zapobiega natychmiastowemu zaśmiecaniu kontekstu szumem.

03. Dwuetapowe pipeline’y w RAG

Przed dodaniem znalezionych stron internetowych do promptu generatora muszą one przejść przez stripper HTML-to-Markdown oraz filtr relewantności. Do kontekstu trafiają tylko użyteczne fakty, bez paneli nawigacyjnych strony czy stopki.

5. Pułapki, typowe błędy i bezpieczeństwo

• Pułapka nieodwracalnych kosztów (Sunk Cost Fallacy): Użytkownik kontynuuje przekonywanie agenta w tym samym długim czacie: „Nie, znowu zapomniałeś importu! Mówiłem ci to 10 wiadomości temu!”. Zamiast tego łatwiej jest nacisnąć /clear lub otworzyć nowy wątek.
• Byty zombie (Ghost Variables): Agent odwołuje się do zmiennych lub funkcji, które utworzył w 3. kroku, ale które zostały usunięte z kodu w 8. kroku, ponieważ wciąż „wiszą” w historii rozmowy.
• Niekontrolowane spalanie budżetu: Praca w „zepsutym” kontekście o długości 150K tokenów pochłania miesięczny budżet developera w ciągu godziny, nie przynosząc żadnej wartości produktowej.