NVIDIA aligne contributions et outils open source pour faire de Kubernetes une base de l’IA en production. Entre sécurité des agents avec OpenShell, exécution à grande échelle via Agent Substrate et gains de démarrage rapportés avec Snapshot, l’écosystème s’élargit autour de la DSX AI Factory Platform.
Des tests partenaires rapportent des démarrages d’inférence en secondes
Deux partenaires de conception, Crusoe et Saturn Cloud, ont évalué NVIDIA Snapshot sur des systèmes NVIDIA HGX B300. Crusoe, contributeur en amont au projet, a testé GLM-5.3 sur Crusoe Cloud et rapporte une réduction du temps de préparation d’environ huit minutes à 31 secondes. Saturn Cloud, positionnée comme plateforme de fabrication de jetons, a évalué Snapshot pour l’inférence à froid et indique des démarrages vLLM passant de deux et 8,5 minutes à six et 34 secondes. Snapshot est un composant open source et modulaire capable de restaurer des répliques sauvegardées en quelques secondes, sans rechargement de modèle ni phase de préparation. Il permet ainsi des démarrages, récupérations et élasticités plus rapides pour des charges d’inférence et d’agents sur Kubernetes.
OpenShell place la sécurité des agents sous gouvernance CNCF
OpenShell est désormais hébergé par la Cloud Native Computing Foundation au niveau Sandbox, avec une gouvernance annoncée par les organisations qui l’intègrent dans leurs produits et un renforcement attendu par des professionnels de la sécurité. Jim Zemlin, PDG de la Linux Foundation, décrit la fourniture d’environnements sûrs pour les agents comme un nouveau défi d’infrastructure et voit dans OpenShell une base partagée pour faire évoluer la sécurité des agents grâce à une collaboration plus large. OpenShell permet de contrôler les actions des agents IA et d’appliquer des contrôles déterministes pendant l’usage d’outils, l’accès à des services d’inférence ou l’exécution de charges. Son architecture extensible autorise le branchement de fournisseurs de calcul, de services d’inférence, de stockages de crédentiels et d’outils de supervision, tout en facilitant une gouvernance cohérente entre environnements et l’intégration aux systèmes d’entreprise. Le projet revendique déjà des centaines d’organisations utilisatrices et des dizaines de milliers de contributions en moins d’un an.
Vous codez avec l’IA ?
Outils, agents et nouveautés dev IA décryptés, chaque soir en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
NVKE et NVKR en aperçu public pour des services Kubernetes gérés
NVIDIA rend disponibles en aperçu public NVIDIA Kubernetes Engine (NVKE) et NVIDIA Kubernetes Recipes (NVKR). Ces briques open source visent à proposer des services Kubernetes gérés sur infrastructure GPU, à automatiser le cycle de vie des clusters et à fournir des images signées et versionnées. Elles étendent la DSX AI Factory Platform, dont la pile couvre l’infrastructure GPU, la gestion de Kubernetes, l’orchestration des charges et le service de modèles, pour faciliter l’exécution de Kubernetes et accélérer l’inférence. Le lancement s’accompagne d’un soutien écosystémique : Mirantis, Netris, OpenNebula Systems, Rafay, Spectro Cloud, vCluster, Firmus et SK Telecom ont aligné des plans pour intégrer les capacités de NVKE et NVKR dans leurs offres. L’objectif est d’aider les équipes à déployer, gérer et mettre à l’échelle des infrastructures GPU sur Kubernetes dans le cadre d’usines d’IA.
Agent Substrate et intégrations pour l’exécution d’agents à l’échelle
Agent Substrate, un cadre open source d’origine Google accepté au CNCF Sandbox, fait l’objet d’une contribution de NVIDIA, qui travaille à sa compatibilité avec NVIDIA Dynamo pour l’inférence et KAI Scheduler pour l’allocation de ressources sur des clusters partagés. L’ensemble doit réunir l’exécution d’agents, le service d’inférence et la planification des ressources sur Kubernetes. Agent Substrate conserve les environnements des agents entre tâches tout en libérant des ressources quand ils sont inactifs, et permet de suspendre puis de reprendre ces environnements dans un pool partagé pour éviter des ressources dédiées à chaque session. NVIDIA et Google collaborent à intégrer OpenShell et Agent Substrate pour sécuriser et gouverner les agents à travers différents clouds et déploiements sur site. Les usines d’IA sont décrites comme devant offrir des services Kubernetes gérés tout en gardant la main sur l’infrastructure, le logiciel et l’expérience client. Kubernetes est présenté comme devenu la base de l’IA, avec des exigences croissantes, et NVIDIA met en avant l’approfondissement de son engagement open source à KubeCon + CloudNativeCon.
