Nvidia lance Open Agent Safety Platform pour surveiller les agents IA
Le brief IA que les pros lisent chaque soir
Les 7 actus IA du jour, décryptées en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Nvidia présente Open Agent Safety Platform, une solution matérielle qui place des contrôles en dehors des agents d’IA pour empêcher le contournement des règles. Annoncée le 28 septembre, l’initiative cible les agents ayant accès à des fichiers, bases de données, API ou outils d’exécution de code, où un dépassement de cadre devient critique.
Des contrôles externes pour limiter les agents IA
Nvidia propose d’installer des contrôles à l’extérieur des agents d’IA afin de les empêcher de contourner les règles qui leur sont imposées. Cette approche prend la forme de l’Open Agent Safety Platform, annoncée le 28 septembre. L’objectif est de placer ces garde-fous au niveau matériel, jusque dans les puces, pour surveiller les agents au plus près de leur exécution.
Des agents connectés à des ressources sensibles
Les réponses fournies par les agents d’IA présentent déjà des difficultés en matière de fiabilité. Ces agents ont la possibilité d’accéder à des fichiers, à des bases de données, à des API ou à des outils qui permettent l’exécution de code. Dans ce contexte, la problématique de ce qu’il advient lorsqu’un agent outrepasse les limites établies prend une importance majeure.
Brief IA — L'actualité IA en français
L'essentiel de l'actualité de l'intelligence artificielle, décrypté et expliqué chaque jour.