Les charges d’agents d’IA mettent à l’épreuve Kubernetes, saturant l’API et entraînant un gaspillage de cycles CPU lorsque des sandbox restent allouées malgré l’inactivité. Google répond avec Agent Substrate, désormais en version 1.0 et confié à la CNCF, et avec des clusters optimisés par type de charge pour éviter la fragmentation tout en renforçant l’isolation et les garde-fous réseau.
Des sessions d’agents inactives font grimper le gâchis de CPU
Des clients de Google rapportent que la plupart du temps, leurs agents d’IA restent inactifs, mais qu’une sandbox doit rester allouée pendant toute la session. Jaana Dogan explique que cette contrainte entraîne un important gaspillage de cycles CPU. Dans des déploiements naïfs, la multiplication des pods peut également pousser la mécanique de l’API Kubernetes à ses limites, selon Jago Macleod, et le plan de contrôle est mis à l’épreuve. À mesure que ces charges se multiplient, Jago Macleod estime que le jugement humain devient plus précieux et qu’il ne s’agit pas simplement de « lancer une invite et oublier », mais d’apporter expertise et discernement à un autre niveau du système.
Google oriente les clusters vers la charge d’agents plutôt que la flexibilité
Les acteurs du cloud remettent en question la flexibilité globale offerte par les clusters Kubernetes. Selon Jago Macleod, Google ne considère plus chaque cluster comme un moteur doté d’une flexibilité illimitée, mais cherche désormais à les adapter à des charges de travail particulières. Il mentionne une pénurie de mémoire et de ressources machines, ainsi que l’importance d’améliorer l’efficacité en orientant les clusters vers un usage ciblé. Les charges d’agents, très changeantes, ne correspondent pas à ce pour quoi Kubernetes a été conçu. Certaines équipes ont même développé des plans de contrôle personnalisés pour y répondre. Initialement pensé pour les microservices puis étendu à l’entraînement où un pod peut occuper un nœud entier, Kubernetes doit désormais faire face à une catégorie de besoins différente avec les agents.
Vous voulez les meilleurs outils IA avant les autres ?
On teste et on décrypte les nouveaux outils IA chaque soir, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Agent Substrate s’exécute en sandbox et rejoint la CNCF
Google propose Agent Substrate pour exécuter des agents d’IA dans des sandbox directement sur Kubernetes. Le projet a été confié à la Cloud Native Computing Foundation et publié en version 1.0. Jaana Dogan souligne que, les agents écrivant leur propre code, celui-ci est par défaut non fiable et nécessite un isolement fort ainsi que des garde-fous réseau. Des clients ont également signalé une inefficacité coûteuse, tout en exprimant leur volonté de ne pas voir leur tissu Kubernetes se fragmenter après des années d’industrialisation. Ces orientations ont été présentées par Jago Macleod et Jaana Dogan lors de KubeCon + CloudNativeCon NA, avec l’objectif d’adapter Kubernetes aux charges d’agents sans briser l’écosystème, y compris dans des scénarios où les agents restent longtemps inactifs.
