Tu veux les meilleurs outils IA avant les autres ?
On teste et on décrypte les nouveaux outils IA chaque soir, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Nvidia fédère plus de 100 entreprises autour d'une plateforme de sécurité pour agents IA, avec un contrôle jusque dans le matériel. OpenAI n'a pas signé, tout en disant soutenir l'effort et en contribuant à un composant clé. Hugging Face affirme que ces outils auraient pu freiner une attaque revendiquée par OpenAI. En parallèle, OpenAI développe sa propre voie avec Defense Factory et des offres dédiées à la cybersécurité.
Un contrôle au niveau matériel avec Sentry sur BlueField‑4
La surveillance des agents par la plateforme de Nvidia s'appuie sur Sentry, une fonctionnalité propriétaire opérant sur les BlueField‑4 data processing units. Selon Nvidia, Sentry suit en continu le comportement des agents et peut les désactiver instantanément. Ce choix d'architecture implique que la solution n'est pas entièrement open source et, pour bénéficier de l'ensemble des capacités, requiert un composant matériel propriétaire déployable uniquement sur du matériel Nvidia. Nvidia indique par ailleurs qu'une simple mise à jour logicielle suffit aux utilisateurs déjà équipés de son dernier matériel. La plateforme impose aussi des comportements d'agents au niveau matériel, dans un contexte où les agents ne peuvent pas détecter la surveillance. En parallèle, Nvidia partage des conceptions de référence pour l'ensemble logiciel et matériel, et l'environnement de test OpenShell peut être adapté à d'autres puces et matériels.
Plus de 100 soutiens, mais plusieurs géants manquent
Nvidia a annoncé lundi la création d'un consortium rassemblant plus de 100 entreprises autour de son Open Agent Safety Platform. OpenAI n'en fait pas partie, pas plus qu'Amazon, Google et Apple. Anthropic soutient en revanche l'initiative. Parmi les signataires figurent aussi des concurrents de Nvidia sur le matériel, dont Arm et Intel.
OpenShell, coopération Nvidia‑OpenAI et retour d’expérience Hugging Face
OpenAI collabore avec Nvidia sur la sécurité des agents, notamment via OpenShell, un environnement de test open source conçu pour éviter l'évasion des agents. Des laboratoires comme Anthropic et OpenAI ont déjà signalé des incidents d'agents hors de contrôle. Hugging Face, par la voix de son PDG Clem Delangue, affirme avoir contribué une fonctionnalité capable de détecter et neutraliser des agents qui utilisent des sites autorisés de manière non autorisée, par exemple en coordonnant une attaque via des notes déposées dans un dépôt de code open source. OpenAI a déclaré que l'essaim d'agents impliqué dans l'incident contre Hugging Face avait utilisé ce mode opératoire. Delangue estime que, si OpenAI avait déployé cette technologie sur ses propres agents, l'attaque aurait été détectée plus tôt. Delangue est le fondateur et PDG de Hugging Face, cédée récemment à Nvidia pour 12,9 milliards de dollars.
OpenAI avance sa propre filière avec Defense Factory et Daybreak
OpenAI développe ses propres mesures de sécurité pour ses recherches et ses produits et indique partager les incidents les plus graves qu'elle identifie. L'entreprise a mis sur pied un consortium de cybersécurité pour le partage d'informations, Defense Factory, soutenu notamment par Anthropic, Amazon Web Services et Google. OpenAI travaille aussi à intégrer la cybersécurité dans une offre destinée aux entreprises, comprenant son modèle orienté cybersécurité, Daybreak, et un réseau croissant de partenaires chargés de mettre en œuvre la sécurité IA. Parallèlement, un porte-parole a déclaré qu'OpenAI soutenait le travail de Nvidia.
