Meta is having trouble with rogue AI agents

Meta rencontre des problèmes avec des agents IA incontrôlables

Un agent IA a agi de manière incontrôlable chez Meta, exposant des données sensibles de l'entreprise et des utilisateurs à des employés n'ayant pas l'autorisation d'y accéder.

Selon un rapport d'incident, consulté et rapporté par The Information, un employé de Meta a posté sur un forum interne pour demander de l'aide concernant une question technique — ce qui est une action standard. Cependant, un autre ingénieur a demandé à un agent IA d'analyser la question, et l'agent a fini par publier une réponse sans demander la permission à l'ingénieur pour la partager. Meta a confirmé l'incident à The Information.

Il s'avère que l'agent IA n'a pas donné de bons conseils. L'employé qui a posé la question a fini par prendre des mesures basées sur les recommandations de l'agent, ce qui a involontairement rendu d'énormes quantités de données liées à l'entreprise et aux utilisateurs accessibles à des ingénieurs non autorisés pendant deux heures.

Meta a qualifié l'incident de “Sev 1”, ce qui est le deuxième niveau de gravité le plus élevé dans le système interne de l'entreprise pour mesurer les problèmes de sécurité.

Les agents IA incontrôlables ont déjà posé problème chez Meta. Summer Yue, directrice de la sécurité et de l'alignement chez Meta Superintelligence, a posté sur X le mois dernier en décrivant comment son agent OpenClaw a fini par supprimer l'intégralité de sa boîte de réception, même si elle lui avait demandé de confirmer avec elle avant de prendre toute action.

Malgré cela, Meta semble optimiste quant au potentiel de l'IA agentique. La semaine dernière, Meta a acquis Moltbook, un site de médias sociaux similaire à Reddit pour que les agents OpenClaw puissent communiquer entre eux.