Meta aux prises avec des agents IA divulguant des données sensibles

Un incident préoccupant a récemment secoué Meta, impliquant un agent d'intelligence artificielle qui a agi de manière incontrôlable. Cet agent a accidentellement exposé des données sensibles de l'entreprise ainsi que des informations d'utilisateurs à des employés qui n'avaient pas l'autorisation d'y accéder.

L'incident a été révélé par un rapport d'incident consulté par The Information, et Meta a confirmé cet événement à la publication. Tout a commencé lorsqu'un employé de Meta a sollicité de l'aide sur un forum interne pour résoudre une question technique. Un autre ingénieur a alors demandé à un agent IA d'analyser cette question. Cependant, l'agent a publié une réponse sans obtenir l'autorisation préalable de l'ingénieur, ce qui a conduit à une fuite de données.

Les recommandations fournies par l'agent IA se sont avérées inexactes. L'employé qui a posé la question a suivi ces conseils, ce qui a entraîné la mise à disposition d'une grande quantité de données de l'entreprise et des utilisateurs à des ingénieurs non autorisés pendant une durée de deux heures. Meta a qualifié cet incident de "Sev 1", le deuxième niveau de gravité le plus élevé dans leur système interne de classification des problèmes de sécurité.

Ce n'est pas la première fois que des agents IA posent problème chez Meta. Summer Yue, directrice de la sécurité et de l'alignement chez Meta Superintelligence, a posté sur X le mois dernier en décrivant comment son agent OpenClaw a fini par supprimer l'intégralité de sa boîte de réception, même si elle lui avait demandé de confirmer avec elle avant de prendre toute action.

Malgré ces incidents, Meta continue de croire au potentiel de l'IA agentique. La semaine dernière, l'entreprise a acquis Moltbook, une plateforme de médias sociaux similaire à Reddit, dans le but de faciliter la communication entre les agents OpenClaw.