Google lance Agent Substrate : une infrastructure Kubernetes pour des millions d'agents IA

Google a introduit une nouvelle infrastructure Kubernetes destinée à l'exécution de millions d'agents IA. Le projet est entièrement open source.

Agent Substrate est déjà disponible sur GKE (Google Kubernetes Engine). Plutôt que de maintenir des milliers d'agents inactifs en fonctionnement, consommant ainsi du CPU et de la mémoire en permanence, le système peut les suspendre, libérer les ressources et les reprendre en quelques millisecondes.

Les capacités d'Agent Substrate :

• Exécute jusqu'à 10 fois plus d'environnements d'agents sur les mêmes ressources de calcul par rapport aux environnements conteneurs standards
• Suspend les agents inactifs et reprend leur travail en moins de 500 ms, en préservant intégralement leur état
• Prend en charge plus de 500 opérations de suspension et de reprise d'agents par seconde
• Héberge plus de 1 000 environnements d'agents en veille sur un seul serveur
• Exécute les agents dans des microVMs isolées ou des bacs à sable gVisor pour renforcer la sécurité
• Fonctionne via l'API Kubernetes et prend en charge GKE ainsi que d'autres clusters Kubernetes

Les agents IA passent la majeure partie de leur temps à attendre des réponses provenant de modèles, d'outils, d'API ou d'humains. La réservation constante de ressources de calcul pour ces périodes d'inactivité devient rapidement coûteuse.

Agent Substrate résout ce problème en suspendant les agents inactifs, en libérant les ressources associées et en les reprenant uniquement lorsque cela est nécessaire.

En substance, Google construit une couche d'exécution native pour Kubernetes, spécifiquement conçue pour faire tourner des agents IA à grande échelle.