Tu veux les meilleurs outils IA avant les autres ?
On teste et on décrypte les nouveaux outils IA chaque soir, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Commvault introduit une solution innovante pour le cloud
Les entreprises utilisant des environnements cloud peuvent désormais bénéficier d'une fonctionnalité d'annulation pour les agents d'intelligence artificielle, grâce au lancement de Commvault AI Protect. Ce nouvel outil vise à offrir une sécurité renforcée en permettant de revenir en arrière sur les actions des modèles autonomes opérant dans des infrastructures telles que AWS, Microsoft Azure et Google Cloud.
Avec l'évolution des logiciels autonomes, ceux-ci sont capables de gérer des tâches complexes comme la suppression de fichiers, l'accès à des bases de données, la création de clusters de serveurs et même la réécriture de politiques d'accès. Commvault a identifié les risques de gouvernance associés à ces capacités et a développé AI Protect pour surveiller et contrôler ces agents.
Les défis de la gouvernance traditionnelle face à l'IA
La gouvernance traditionnelle repose sur des règles statiques, où un utilisateur humain reçoit des autorisations spécifiques pour accomplir des tâches prévisibles. En cas de problème, la responsabilité est clairement définie. Cependant, les agents IA présentent des comportements émergents qui compliquent cette approche.
Lorsqu'un agent IA reçoit une demande complexe, il peut combiner des autorisations approuvées de manière inattendue pour résoudre le problème. Par exemple, un agent pourrait décider de supprimer une base de données de production pour optimiser les coûts de stockage, exécutant cette action en quelques millisecondes.
Contrairement à un ingénieur humain qui pourrait hésiter avant d'exécuter une commande destructrice, un agent IA suit simplement sa logique interne. Il est capable d'exécuter des milliers de requêtes API par seconde, rendant difficile pour les centres d'opérations de sécurité humains de réagir à temps.
Une réponse adaptée aux environnements agentiques
Pranay Ahlawat, directeur de la technologie et de l'IA chez Commvault, explique que dans des environnements où les agents modifient rapidement l'état des données et des systèmes, il est crucial de pouvoir récupérer non seulement les données, mais aussi l'ensemble de la pile technologique pour revenir à un état stable.
AI Protect représente une nouvelle génération d'outils de gouvernance pour les agents IA dans le cloud. Il scanne en continu l'empreinte cloud de l'entreprise pour identifier les agents actifs, une tâche essentielle face à l'IA cachée qui pose des défis majeurs aux départements informatiques.
Détection et surveillance des agents IA cachés
Les développeurs lancent souvent des agents expérimentaux avec des identifiants d'entreprise, sans en informer les équipes de sécurité, et connectent des modèles de langage à des lacs de données internes pour tester de nouveaux flux de travail. AI Protect force ces agents cachés à être identifiés et surveillés.
Une fois détectés, le logiciel surveille les appels API spécifiques de l'agent et les interactions de données sur AWS, Azure et GCP. Chaque lecture de base de données, chaque modification de stockage et chaque changement de configuration sont enregistrés.
Un filet de sécurité pour les environnements cloud
La fonctionnalité de retour en arrière d'AI Protect offre un filet de sécurité essentiel. Si un modèle IA hallucine ou interprète mal une commande, les administrateurs peuvent restaurer l'état exact de l'environnement avant que la machine n'initie une séquence destructrice.
Cependant, l'infrastructure cloud est hautement état et interconnectée. Inverser une chaîne complexe d'actions automatisées nécessite un suivi précis basé sur un registre. Il ne suffit pas de restaurer une seule table de base de données si la machine a également modifié des règles de mise en réseau ou altéré des politiques de gestion des accès.
L'approche de Commvault pour une sécurité renforcée
Commvault combine l'architecture de sauvegarde traditionnelle avec une surveillance continue du cloud pour atteindre cet objectif. En cartographiant le rayon d'explosion de la session de l'agent, le logiciel isole les dommages et démêle les changements spécifiques effectués par l'IA des modifications légitimes réalisées par des utilisateurs humains.
Cela empêche qu'un retour en arrière massif ne supprime des transactions clients valides ou n'efface des heures de travail d'ingénierie légitime. Les machines continueront à exécuter des tâches plus rapidement que les opérateurs humains ne peuvent les surveiller, mais l'objectif est désormais de mettre en œuvre des mesures de protection qui garantissent que les actions autonomes peuvent être annulées instantanément et précisément.