Nvidia présente Open Agent Safety Platform, une solution matérielle qui place des contrôles en dehors des agents d’IA pour empêcher le contournement des règles. Annoncée le 28 septembre, l’initiative cible les agents ayant accès à des fichiers, bases de données, API ou outils d’exécution de code, où un dépassement de cadre devient critique.
Des contrôles externes pour limiter les agents IA
Nvidia propose d’installer des contrôles à l’extérieur des agents d’IA afin de les empêcher de contourner les règles qui leur sont imposées. Cette approche prend la forme de l’Open Agent Safety Platform, annoncée le 28 septembre. L’objectif est de placer ces garde-fous au niveau matériel, jusque dans les puces, pour surveiller les agents au plus près de leur exécution.
L’IA et sa régulation vous intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Des agents connectés à des ressources sensibles
Les réponses fournies par les agents d’IA présentent déjà des difficultés en matière de fiabilité. Ces agents ont la possibilité d’accéder à des fichiers, à des bases de données, à des API ou à des outils qui permettent l’exécution de code. Dans ce contexte, la problématique de ce qu’il advient lorsqu’un agent outrepasse les limites établies prend une importance majeure.
