Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Anthropic : Mythos dévoile des failles cryptographiques en 60 heures
Anthropic annonce que son modèle Mythos a découvert des vulnérabilités dans des algorithmes cryptographiques qui sécurisent Internet.
Le modèle d'IA Claude Mythos Preview a identifié des faiblesses mathématiques dans des algorithmes cryptographiques, y compris une version réduite de AES, le standard de chiffrement symétrique le plus utilisé au monde. Anthropic précise que ces découvertes n'ont pas d'impact immédiat sur les systèmes actuellement en usage.
Travaillant en grande partie de manière autonome dans un système multi-agents, le modèle a développé deux attaques à un coût d'API d'environ 100 000 $ chacune. Selon Anthropic, les chercheurs humains ont principalement géré le projet, fourni des instructions simples et vérifié les résultats par la suite.
Découvertes de Mythos
Le modèle a développé une attaque améliorée sur le schéma de signature post-quantique HAWK et une nouvelle attaque sur une version réduite de l'Advanced Encryption Standard (AES). Le chiffrement protège presque tout ce que les gens font en ligne, et AES est le standard de chiffrement symétrique le plus utilisé pour les données numériques.
Anthropic affirme qu'aucune de ces découvertes n'affecte les systèmes en usage aujourd'hui. HAWK est seulement un candidat dans un processus de normalisation en cours dirigé par le National Institute of Standards and Technology (NIST), et l'attaque sur AES s'applique à une version modifiée qui utilise 7 des 10 tours du schéma complet. Néanmoins, ces résultats montrent comment les modèles d'IA pourraient remettre en question des hypothèses fondamentales sur la sécurité d'Internet.
Détails sur l'attaque HAWK
HAWK est l'un des schémas restants dans le troisième tour de la compétition du NIST pour des signatures post-quantiques supplémentaires. Ces schémas sont conçus pour rester sécurisés même face à de futurs ordinateurs quantiques. Des experts humains ont examiné HAWK pendant plus de deux ans, mais Mythos Preview a trouvé une attaque améliorée en seulement 60 heures, selon Anthropic.
L'attaque exploite une symétrie précédemment non détectée dans la grille mathématique sur laquelle repose la sécurité de HAWK. Mythos a travaillé semi-autonomiquement dans un système multi-agents pour la découvrir. Un agent a d'abord tenté de rejeter l'idée comme étant irréaliste, mais un second agent a trouvé un moyen de l'exploiter pleinement.
Le chercheur humain avait un bagage en informatique théorique mais n'était pas un expert en cryptographie basée sur les réseaux, selon Anthropic. Son rôle était principalement limité à la gestion de projet. Les coûts d'API se sont élevés à environ 100 000 $.
Découverte de l'attaque AES
Le modèle a également trouvé l'attaque sur une version réduite de AES-128 presque entièrement de manière autonome, selon Anthropic. Un chercheur a construit une structure qui a permis à Claude de formuler des hypothèses et de les tester à travers des expériences. Mythos a ensuite développé une nouvelle méthode de fingerprinting que Anthropic appelle "Möbius Bridge".
Cette méthode élimine l'une des suppositions qu'un attaquant doit faire et améliore les meilleures attaques précédemment connues par un facteur de 200 à 800.
L'incitation humaine a joué un rôle mineur. Le modèle a d'abord refusé de s'attaquer au problème car il considérait que des améliorations supplémentaires étaient impossibles, écrivant que "Si vous voulez un résultat différent, la cible doit changer... AES-128 r5/r6 est juste vraiment difficile." Mythos a commencé à explorer des approches plus créatives seulement après que le chercheur l'ait encouragé à chercher des "idées vraiment nouvelles".
Partage des résultats et restrictions d'accès
Anthropic a partagé les résultats à l'avance avec le gouvernement américain et des partenaires industriels. Il a également coordonné la divulgation de la faiblesse de HAWK avec les auteurs du schéma. Mythos Preview reste indisponible au public.
En collaboration avec des chercheurs de l'ETH Zurich, de l'Université de Tel Aviv et de l'Université de Haïfa, Anthropic a également développé un benchmark appelé CryptanalysisBench qui permet à d'autres d'évaluer systématiquement les capacités cryptanalytiques des modèles de langage.
