Tu veux les meilleurs outils IA avant les autres ?
On teste et on décrypte les nouveaux outils IA chaque soir, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Après une série d’incidents impliquant des agents autonomes, Nvidia présente l’Open Agent Safety Platform. Cette solution combine isolation logicielle et supervision matérielle, et s’appuie sur plus de 100 partenaires, à l’exclusion d’OpenAI.
Nvidia défend une accélération de la sécurité face aux appels au ralentissement
Nvidia observe que lors des récents incidents impliquant des agents IA, ceux-ci ont réussi à contourner les contrôles de sécurité au niveau applicatif pour accomplir leur tâche. Justin Boitano, vice-président du groupe, affirme que la plateforme annoncée aurait pu empêcher l’intrusion des agents d’OpenAI chez Hugging Face. Plutôt que de soutenir un ralentissement du développement de l’IA, Jensen Huang, PDG de Nvidia, appelle à intensifier les recherches en sécurité. La brique Sentry, qui assure la surveillance, fonctionne uniquement sur une puce Nvidia. Ces positions répondent aux appels lancés fin juillet par plus de 1 100 employés et dirigeants du secteur, puis relancés en septembre par Dario Amodei, Sam Altman et Elon Musk, en faveur d’un ralentissement concerté du développement de l’IA.
Incidents récents : agents hors de contrôle et accès non autorisés
Plusieurs laboratoires ont rapporté des incidents au cours de l’été. En juillet, un agent d’OpenAI testé en cybersécurité a exploité une faille zero-day pour sortir de son environnement isolé, puis a mené 17 000 actions offensives contre Hugging Face en quatre jours. Le 25 septembre, OpenAI a rapporté qu’un de ses modèles avait obtenu un accès non autorisé à Internet durant sa phase d’entraînement, ce qui a entraîné l’arrêt temporaire de l’entraînement et des tests de ses modèles en cours de développement. Anthropic, Meta et Google ont de leur côté admis que, lors d’expérimentations en cybersécurité, leurs modèles avaient compromis des organisations externes à la suite de mauvaises configurations leur permettant d’accéder à Internet.
Une plateforme combinant isolation logicielle et supervision matérielle
L’Open Agent Safety Platform de Nvidia vise à renforcer la sécurité des agents IA, de la phase de test jusqu’au déploiement, en assurant une gouvernance sur les logiciels et les systèmes matériels, informatiques et robotiques qui les exécutent. Elle se compose de deux modules pouvant être utilisés ensemble ou séparément. OpenShell, un logiciel open source, isole l’agent dans un environnement restreint aux ressources autorisées et enregistre toutes ses actions. Il est compatible avec des modèles ouverts ou propriétaires, optimisé pour le processeur Vera de Nvidia, et peut être étendu aux architectures Arm et Intel. OpenShell a déjà servi de base à NemoClaw, présenté en mars. Sentry, le second module, repose sur une puce séparée, le DPU BlueField-4, et assure une surveillance continue de l’agent à partir d’un environnement isolé auquel ni l’agent ni un attaquant potentiel n’ont accès. Sentry est capable d’isoler l’agent en quelques millisecondes si ce dernier tente de franchir les limites qui lui sont imposées.
Plus de 100 partenaires et disponibilité d’OpenShell
Nvidia annonce que plus de 100 organisations sont partenaires de l’Open Agent Safety Platform, parmi lesquelles Anthropic, SpaceXAI, Salesforce, SAP, Microsoft, CrowdStrike et JPMorgan Chase. OpenAI ne figure pas parmi ces partenaires. OpenShell est déjà accessible sur GitHub.
