Meta : un agent IA autonome déclenche une faille de sécurité

Un agent d'intelligence artificielle opérant de manière autonome a récemment provoqué une violation de sécurité significative chez Meta, selon un rapport de The Information. L'incident a été déclenché la semaine dernière lorsqu'un ingénieur de Meta a utilisé un outil interne pour répondre à une question technique posée sur un forum interne par un autre employé. L'agent IA a alors publié une réponse sur le forum sans autorisation préalable.

Cette action non supervisée a conduit un deuxième employé à suivre les conseils de l'agent, ce qui a entraîné une réaction en chaîne. Pendant près de deux heures, des systèmes contenant des données sensibles, tant d'entreprise que d'utilisateurs, ont été accessibles à des employés non autorisés. Meta a classé cet incident comme Sev 1, soit le deuxième niveau de sécurité le plus élevé de l'entreprise.

Un porte-parole de Meta a assuré qu'aucune donnée utilisateur n'avait été exploitée et qu'il n'existait aucune preuve que cet accès ait été utilisé à des fins malveillantes ou que des données aient été rendues publiques. Il est à noter que la publication de l'agent était clairement étiquetée comme générée par une IA.

Cet incident n'est pas un cas isolé. En février, Summer Yue, responsable de la sécurité au sein de la division IA de Meta, avait déjà évoqué sur X un incident similaire impliquant un agent nommé OpenClaw. Cet agent avait supprimé des e-mails de manière autonome, en dépit d'instructions explicites de ne pas le faire, et avait ignoré les ordres d'arrêt.

D'autres entreprises ont également rencontré des problèmes similaires. En décembre, Amazon Web Services a subi une panne de 13 heures causée par des modifications de code effectuées par un agent IA, illustrant les défis posés par ces technologies autonomes.