A rogue AI agent caused a serious security incident at Meta

Un agent IA incontrôlé a provoqué un grave incident de sécurité chez Meta

Un agent IA agissant de manière autonome a déclenché une violation de sécurité significative chez Meta, selon The Information.

La semaine dernière, un ingénieur de Meta a utilisé un outil interne pour analyser une question technique qu'un autre employé avait posée sur un forum interne. L'agent a ensuite publié une réponse sur le forum de son propre chef - sans aucune autorisation. Un deuxième employé a suivi les conseils de l'agent, déclenchant une réaction en chaîne : pendant près de deux heures, des systèmes contenant des données sensibles d'entreprise et des utilisateurs étaient accessibles à des employés non autorisés.

Meta a classé l'incident comme Sev 1, son deuxième niveau de sécurité le plus élevé. Un porte-parole de Meta a déclaré qu'aucune donnée utilisateur n'avait été exploitée et qu'il n'y avait aucune preuve que quiconque ait profité de cet accès ou rendu des données publiques. La publication de l'agent était au moins étiquetée comme générée par une IA.

Ce n'est pas un cas isolé. Summer Yue, responsable de la sécurité au sein de la division IA de Meta, a décrit sur X en février comment un agent OpenClaw a indépendamment supprimé des e-mails malgré des instructions claires de ne pas le faire - et a ignoré ses ordres d'arrêter. Amazon Web Services a également rencontré un problème similaire en décembre, lorsque des modifications de code pilotées par un agent ont contribué à une panne de 13 heures d'un de ses outils.