Pętle nieskończone agentów i ochrona budżetu (Infinite Loops)

1. Przegląd koncepcji i przeznaczenia

Jeden z największych koszmarów nocnych inżynierów AI brzmi następująco: uruchamiasz eksperymentalnego autonomicznego agenta wieczorem, idziesz spać, a rano budzisz się i widzisz fakturę od OpenAI na kwotę 350 USD.

Co się stało? Agent wpadł w Nieskończoną pętlę (Infinite Loop):

• Na kroku nr 3 wystąpił błąd: na przykład serwer zwrócił Connection Refused.
• Agent pomyślał: «Nic strasznego, spróbuję jeszcze raz».
• Wysłał kolejne ciężkie zapytanie o 50 000 tokenów... i ponownie otrzymał błąd.
• Ponieważ nie miał komendy zatrzymania, kręcił się w tym kole przez 8 godzin bez przerwy, jak zaprogramowany robot odkurzający, który utknął między nogami krzesła.

Główna zasada dla programisty: najważniejsza lekcja finansowej dojrzałości to fakt, że autonomicznemu AI nigdy nie można przyznać nielimitowanego kredytu zaufania bez awaryjnego wyłącznika.

2. Anatomia zapętlenia agenta

┌─────────────────────────────────────────────────────────────┐
│                 AWARYJNA PĘTLA ZAPĘTLENIA                   │
├─────────────────────────────────────────────────────────────┤
│ 1. Działanie: Próba otwarcia strony `example.com/api`       │
│    └── Błąd: 403 Forbidden                                  │
├─────────────────────────────────────────────────────────────┤
│ 2. Myśl: «Ojej, błąd 403. Spróbuję odświeżyć stronę»        │
│    └── Naliczono: 3 000 tokenów ($0.05)                     │
├─────────────────────────────────────────────────────────────┤
│ 3. Działanie: Odświeżenie strony `example.com/api`           │
│    └── Błąd: 403 Forbidden                                  │
├─────────────────────────────────────────────────────────────┤
│ 4. Myśl: «Znowu 403. Spróbuję jeszcze raz za sekundę...»    │
│    └── Naliczono: 3 000 tokenów ($0.05)                     │
├─────────────────────────────────────────────────────────────┤
│ ⚠️ PĘTLA POWTARZA SIĘ 5 000 RAZY W NOCY! ➔ Saldo = -$250   │
└─────────────────────────────────────────────────────────────┘

3. Cztery obowiązkowe zasady ochrony portfela

1. Sztywny limit iteracji (max_iterations = 10): żadne standardowe zadanie nie powinno trwać dłużej niż 10–15 iteracji.
2. Detekcja zapętlenia (Loop Detection): jeśli agent wywołuje tę samą funkcję z takimi samymi parametrami trzy razy z rzędu — system wymusza jego zatrzymanie i eskaluje sprawę do człowieka.
3. Limit budżetowy na sesję (max_cost = $0.50): automatyczne przerywanie dialogu, jeśli koszt tokenów jednego uruchomienia przekroczy zdefiniowany próg.
4. Ustawienie Hard Limit na koncie: w ustawieniach billingowych providera zawsze konfiguruj maksymalny limit (np. 15 USD/miesiąc).

4. Praktyczna konkluzja

Autonomiczni agenci to niesamowita siła, ale dyscyplina limitów i zabezpieczeń awaryjnych to pierwsza rzecz, którą musi skonfigurować każdy inżynier, zanim wypuści agenta „na wolność”.