Google wprowadza Agent Substrate: infrastrukturę Kubernetes dla milionów agentów AI

Google wprowadziło nową infrastrukturę Kubernetes przeznaczoną do uruchamiania milionów agentów AI. Rozwiązanie zostało w pełni udostępnione na zasadach open source.

Agent Substrate jest już dostępny na platformie GKE. Zamiast utrzymywać tysiące bezczynnych agentów w stanie ciągłego działania, co nieustannie pochłaca zasoby CPU i pamięci, system pozwala je zawiesić, zwolnić zasoby i wznowić ich działanie w zaledwie kilka milisekund.

Kluczowe możliwości Agent Substrate:

• Uruchamia do 10 razy więcej środowisk agentowych przy tych samych zasobach obliczeniowych w porównaniu ze standardowymi środowiskami kontenerowymi.
• Zawiesza nieaktywne agenty i wznawia ich pracę w czasie poniżej 500 ms, zachowując pełny stan aplikacji.
• Obsługuje ponad 500 operacji zawieszania i wznawiania agentów na sekundę.
• Hostuje ponad 1000 „uśpionych” środowisk agentowych na jednym serwerze.
• Uruchamia agentów w izolowanych mikro-wirtualnych maszynach (microVMs) lub piaskownicach gVisor, zapewniając dodatkowe bezpieczeństwo.
• Działa poprzez API Kubernetes i wspiera GKE oraz inne klastry Kubernetes.

Agenci AI spędzają większość czasu na oczekiwaniu na odpowiedzi od modeli, narzędzi, interfejsów API lub ludzi. Ciągłe rezerwowanie zasobów obliczeniowych dla nich szybko staje się kosztowne.

Agent Substrate rozwiązuje ten problem, zawieszając bezczynne agenty, uwalniając zasoby i wznawiając ich działanie dokładnie wtedy, gdy są potrzebne.

W istocie Google buduje warstwę wykonawczą natywną dla Kubernetes, zaprojektowaną do skalowania infrastruktury agentów AI na masową skalę.