Agenten-Loops und Budgetschutz (Infinite Loops)

1. Überblick über das Konzept und den Zweck

Einer der größten Albträume von KI-Entwicklern klingt so: Man startet abends einen experimentellen autonomen Agenten, geht schlafen und sieht morgens eine Rechnung von OpenAI in Höhe von 350 Dollar.

Was ist passiert? Der Agent ist in eine Endlosschleife (Infinite Loop) geraten:

• Bei Schritt Nr. 3 trat ein Fehler auf: Beispielsweise antwortete der Server mit Connection Refused.
• Der Agent dachte sich: „Kein Problem, ich versuche es noch einmal“.
• Er sendete erneut eine schwere Anfrage mit 50.000 Tokens... und erhielt wieder einen Fehler.
• Da ihm keine Anweisung zum Stoppen fehlte, drehte er acht Stunden lang ununterbrochen seine Runden – wie ein Staubsaugerroboter, der zwischen zwei Stuhlbeinen feststeckt.

Das wichtigste Prinzip für Entwickler lautet: Die entscheidende Lektion in Sachen finanzieller Verantwortung ist, dass autonomen KI-Systemen niemals unbegrenztes Vertrauen ohne einen Not-Aus-Schalter entgegengebracht werden darf.

2. Anatomie der Schleifenbildung im Agenten

┌─────────────────────────────────────────────────────────────┐
│                 АВАРІЙНА ПЕТЛЯ ЗАЦИКЛЕННЯ                   │
├─────────────────────────────────────────────────────────────┤
│ 1. Дія: Спроба відкрити сайт `example.com/api`              │
│    └── Помилка: 403 Forbidden                               │
├─────────────────────────────────────────────────────────────┤
│ 2. Думка: «Ой, помилка 403. Спробую оновити сторінку»       │
│    └── Списано: 3 000 токенів ($0.05)                       │
├─────────────────────────────────────────────────────────────┤
│ 3. Дія: Оновлення сторінки `example.com/api`                │
│    └── Помилка: 403 Forbidden                               │
├─────────────────────────────────────────────────────────────┤
│ 4. Думка: «Знову 403. Спробую ще раз через секунду...»      │
│    └── Списано: 3 000 токенів ($0.05)                       │
├─────────────────────────────────────────────────────────────┤
│ ⚠️ ЦИКЛ ПОВТОРЮЄТЬСЯ 5 000 РАЗІВ ЗА НІЧ! ➔ Баланс = -$250  │
└─────────────────────────────────────────────────────────────┘

3. Vier zwingende Regeln zum Schutz des Budgets

1. Harte Begrenzung der Schritte (max_iterations = 10): Keine gewöhnliche Aufgabe sollte länger als 10–15 Iterationen laufen.
2. Erkennung von Schleifen (Loop Detection): Wenn der Agent dieselbe Funktion mit denselben Parametern dreimal hintereinander aufruft, stoppt das System ihn zwangsweise und alarmiert einen Menschen.
3. Budgetlimit pro Sitzung (max_cost = $0.50): Automatisches Abbrechen des Dialogs, wenn die Token-Kosten eines einzelnen Laufs einen definierten Schwellenwert überschreiten.
4. Festlegung eines Hard Limits im Konto: Stellen Sie in den Billing-Einstellungen des Providers immer ein Maximum ein (z. B. 15 USD/Monat).

4. Praktische Schlussfolgerung

Autonome Agenten sind eine enorme Kraft, aber die Disziplin bei Limits und Sicherheitsvorkehrungen ist das Erste, was jeder Ingenieur konfigurieren muss, bevor er einen Agenten frei agieren lässt.