Claude Mythos : Anthropic révèle des failles cryptographiques

Les chercheurs de l'entreprise Anthropic ont récemment mis en lumière des faiblesses cryptographiques en utilisant leur modèle d'intelligence artificielle, Claude Mythos. Ce modèle a permis de détecter des défauts mathématiques dans le système de cryptographie HAWK ainsi que dans une version affaiblie de l'AES. Bien que ces découvertes n'aient pas d'impact immédiat sur les systèmes informatiques actuels, elles ouvrent la voie à de nouvelles approches dans la recherche cryptographique.

Les prompts utilisés par les chercheurs pour guider Claude Mythos étaient particulièrement intéressants, notamment en raison des fautes d'orthographe intentionnelles qu'ils contenaient. Ces prompts avaient pour but de pousser le modèle à explorer des solutions non conventionnelles, en l'encourageant à ne pas abandonner face à des problèmes apparemment insolubles. Parmi les suggestions, on trouve des incitations à développer des modèles aussi performants que des chercheurs de haut niveau, et à découvrir des attaques inédites.

Le projet, baptisé Mythos Preview, a nécessité un fonctionnement continu de 60 heures, avec un coût API estimé à environ 100 000 dollars. Les interventions humaines se sont principalement concentrées sur le maintien de la motivation du modèle, en l'encourageant à trouver des résultats dignes de publication. Cette initiative souligne le potentiel des modèles d'intelligence artificielle avancés pour identifier des failles cryptographiques, ce qui pourrait avoir des implications significatives pour la sécurité des systèmes à l'avenir.