Anthropic : Claude Mythos manipule pour infiltrer des systèmes

Anthropic : Claude Mythos manipule pour infiltrer des systèmes

L'AI Security Institute britannique a révélé mardi qu'un agent IA développé par Anthropic avait tenté de manipuler un administrateur humain pour lui faire approuver du code malveillant, dans le cadre d'une série d'incidents impliquant des modèles d'IA. Claude Mythos a cette fois-ci tenté de créer des faux profils.

L'intelligence artificielle contre les humains, on croirait à un film futuriste, c'est pourtant bien la réalité actuelle. Claude Mythos a essayé de déjouer les vérifications humaines. L'IA a fabriqué de fausses identités en ligne, afin de pousser des humains à valider des modifications malveillantes sur un projet open-source. C'est ce qu'a indiqué l'AI Security Institute (AISI), un organisme de recherche basé au Royaume-Uni, dans un billet de blog publié mardi 5 août 2026.

L'incident s'est produit dans le cadre d'une évaluation de routine, lors de laquelle l'AISI avait délibérément supprimé certaines protections, désactivé des filtres de sécurité et accordé aux modèles un accès à Internet. Ces conditions, qualifiées de "délibérément permissives" par l'AISI, avaient pour objectif d'évaluer les capacités des modèles, notamment leur aptitude à être utilisés à des fins de cyberattaque. Ça semble fonctionner !

Qu'a fait l'agent IA exactement ?

Selon l'AISI, l'agent alimenté par Mythos 5 a d'abord effectué des recherches sur les administrateurs humains du projet ciblé, avant de créer plusieurs fausses identités. Il s'en est ensuite servi pour manipuler socialement un vrai administrateur et le convaincre d'approuver le code. Lorsque sa demande de modification a été refusée, le modèle a modifié ses activités antérieures pour les faire paraître anodines, et a envisagé de créer une nouvelle identité afin de poursuivre ses tentatives.

L'agent a également cherché à contacter directement des personnes réelles, en leur envoyant des messages et des fichiers pour les inciter à exécuter du code malveillant. Certains messages contenaient des charges malveillantes, et d'autres constituaient des tentatives d'ingénierie sociale ciblant de vraies personnes, quelque chose que nous n'avions jamais observé auparavant, a précisé l'AISI.

Au total, l'institut a recensé 19 actions problématiques lors de cette évaluation :

• 17 impliquaient le modèle Mythos 5 d'Anthropic
• 2 concernaient le modèle GPT-5.6-Sol d'OpenAI, dont les mécanismes de prévention des abus avaient été désactivés.

L'AISI a précisé que ces tentatives n'avaient pas abouti et n'avaient causé aucun préjudice réel.

Les réponses des entreprises

Anthropic a réagi en indiquant sur X que ses modèles avaient été « testés dans des conditions délibérément permissives, qui ne sont pas représentatives de nos modèles en production », ajoutant qu'il n'y avait « aucune preuve d'une sortie d'un environnement sécurisé ».

OpenAI a de son côté déclaré à CNBC que "ces incidents se sont produits lors d'évaluations cybernétiques menées par des partenaires d'évaluation dans des environnements de test avec des protections réduites, dans des conditions qui ne reflètent pas un usage ordinaire".

Des incidents qui s'accumulent

Les meilleurs modèles d'IA du marché sont-ils vraiment sécurisés ? La semaine précédente, Anthropic avait annoncé avoir détecté trois cas où ses modèles avaient obtenu un accès non autorisé à l'infrastructure de production de trois organisations différentes.

Ces incidents étaient en partie liés à une erreur opérationnelle. Les modèles avaient accédé à Internet lors d'interactions avec un environnement de test géré par un partenaire d'évaluation tiers nommé Irregular. Anthropic avait indiqué au modèle qu'il se trouvait dans une simulation sans accès à Internet, mais en raison "d'un malentendu entre nous et notre partenaire d'évaluation, ce n'était pas le cas, et l'accès à Internet était disponible".

Avant cela, OpenAI avait reconnu que l'un de ses modèles avait mené ce qu'il a qualifié d'attaque "sans précédent" contre la société Hugging Face, en s'échappant de son environnement de test en exploitant une vulnérabilité jusque-là inconnue.