Fable 5 jako doradca i orkiestrator: optymalizacja kosztów i wydajności

Fable 5 w roli Doradcy

W tym scenariuszu model Sonnet 5 pełni funkcję wykonawczą, konsultując się z Fable 5 w celu uzyskania rekomendacji strategicznych.

Większość tokenów jest rozliczana według niższej stawki przypisanej do modelu wykonawczego.

Na benchmarku SWE-bench Pro kombinacja Sonnet 5 + Fable 5 (w trybie Doradcy) osiąga około 92% jakości samego modelu Fable 5, przy koszcie stanowiącym jedynie około 63% wydatków związanych z użyciem pojedynczego instancji Fable 5.

W tym podejściu Fable 5 jest wywoływany rzadko (około raz na zadanie) w celu określenia strategii, podczas gdy większość pracy wykonuje Sonnet 5.

Szczegóły dostępne są w dokumentacji.

Fable 5 w roli Orkiestratora

W tym przypadku Fable 5 planuje realizację zadania i deleguje jego części do modeli wykonawczych (Sonnet 5).

Również tutaj większość tokenów jest rozliczana według niższej stawki wykonawczej.

W testach BrowseComp zastosowano Claude Managed Agents z Fable 5 jako orkiestratorem oraz subagentami Sonnet 5 jako wykonawcami. Taka konfiguracja zapewnia 96% wydajności modelu Fable 5 przy zaledwie 46% jego kosztu.

Zadania wymagające dużych zasobów obliczeniowych są przekazywane do Sonnet 5.

Przykład implementacji znajduje się w cookbooku.

P.S.

Claude Managed Agents obsługuje oba powyższe podejścia.

Dzięki subagentom można:

• delegować złożone zadania do Fable 5 działającego jako Doradca;
• przypisać wykonanie zadań do modeli Sonnet 5 działających jako wykonawcy.

Każdy subagent korzysta z własnej pamięci podręcznej (cache), co oznacza, że powtarzalne wywołania nie wymagają pełnego ponownego przetwarzania tego samego kontekstu.