Anthropic et Claude Mythos : l'IA qui défie la cybersécurité mondiale

Anthropic, un développeur d'intelligence artificielle, a récemment dévoilé son dernier modèle, Claude Mythos, qui s'avère si performant dans la détection des vulnérabilités en cybersécurité qu'il ne sera pas rendu public. L'entreprise a décidé de fournir cet outil uniquement aux grands fournisseurs d'infrastructure technologique pour qu'ils puissent corriger les failles détectées.

Dès la fin mars, des rumeurs ont circulé à propos de ce modèle d'IA baptisé Claude Mythos. Anthropic a maintenant confirmé que Mythos représente une menace potentielle pour la cybersécurité, car il est capable de détecter et d'exploiter des vulnérabilités en ligne. Selon l'entreprise, les modèles d'IA ont atteint un niveau de compétence en codage qui leur permet de surpasser presque tous les experts humains dans ce domaine.

Anthropic a révélé que Mythos Preview, qui n'est pas accessible au public, a déjà identifié des milliers de vulnérabilités graves dans chaque système d'exploitation majeur et navigateur web. Lorsqu'interrogé, un représentant d'Anthropic a renvoyé vers un article de blog de l'entreprise pour plus de détails.

Pour contrer ces risques, Anthropic a lancé le Project Glasswing, un consortium qui inclut des entreprises telles qu'Apple, Amazon Web Services, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, la Linux Foundation, Microsoft, Nvidia et Palo Alto Networks. Ces organisations, ainsi que plus de 40 autres, auront accès à Mythos pour renforcer leurs défenses contre les attaques basées sur l'IA. Anthropic s'engage à fournir 100 millions de dollars en crédits d'utilisation pour Mythos et 4 millions de dollars en dons à des organisations de sécurité open-source.

Dario Amodei, PDG d'Anthropic, a exprimé sur X que bien que les dangers soient évidents, il existe une opportunité réelle de rendre l'internet et le monde plus sûrs grâce aux capacités de cybersécurité alimentées par l'IA. Dans une vidéo YouTube sur le Project Glasswing, des dirigeants de Microsoft, la Linux Foundation et Anthropic ont discuté des dommages potentiels causés par les vulnérabilités logicielles. Des entreprises de cloud computing ont déjà collaboré avec le nouveau modèle pour identifier des failles. Anthony Grieco, responsable de la sécurité et de la confiance chez Cisco, a écrit dans un article de blog que l'analyse alimentée par l'IA découvre des données à une échelle et une profondeur que les cadres hérités n'étaient pas conçus pour accueillir.

Amazon Web Services a également noté que le modèle a trouvé des moyens de renforcer le code même dans ses systèmes les plus éprouvés. Amy Herzog, vice-présidente et responsable de la sécurité de l'information chez AWS, a décrit Mythos Preview comme un changement radical dans le raisonnement et les capacités de l'IA pour la cybersécurité.

Le phénomène selon lequel l'IA peut découvrir et potentiellement exploiter des vulnérabilités logicielles n'est pas nouveau. Le DARPA Cyber Grand Challenge a déjà vu plusieurs cas d'IA attirant l'attention dans ce domaine, a déclaré Michal Salát, directeur de l'intelligence des menaces chez Norton, le fournisseur d'antivirus. Cependant, la technologie d'IA qui pourrait être accessible à tous possède certaines de ces capacités. Le Project Glasswing d'Anthropic est axé sur la protection de cette technologie puissante, qui peut transformer la recherche de vulnérabilités mais aussi poser un risque sérieux si elle est mal utilisée à des fins malveillantes.

Bien qu'il représente un avancement majeur par rapport aux modèles actuels tels qu'Opus 4.6, la capacité sous-jacente existe déjà aujourd'hui, et la recherche de vulnérabilités émerge rapidement comme l'un des principaux cas d'utilisation concrets de l'IA en cybersécurité.

Les décideurs nationaux, qui ont oscillé entre la nécessité d'une réglementation fédérale sur l'IA, suivront probablement de près les progrès du consortium. Le sénateur Mark Warner a salué l'initiative dans une déclaration. "J'applaudis ces entreprises leaders pour avoir reconnu cette menace et pour partager proactivement des informations, des capacités et des ressources informatiques afin de mieux protéger notre infrastructure critique", a déclaré le démocrate de Virginie. "Alors que l'IA accélère considérablement la découverte de nouvelles vulnérabilités, j'espère que l'industrie accélérera et re-priorisera en conséquence le patching." Warner, dont l'État est un foyer de centres de données IA, a récemment qualifié une proposition de moratoire sur la construction de centres de données d'"idiotie", mais a également averti des risques pour la société posés par le développement rapide de l'IA, entraînant d'énormes pertes d'emplois.