Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Une opposition forte à la décision américaine
Un groupe de 76 experts en cybersécurité, comprenant des figures éminentes de l'industrie, a adressé une lettre ouverte au gouvernement américain. Ils demandent la levée des restrictions à l'exportation imposées sur les modèles d'intelligence artificielle Fable et Mythos développés par Anthropic. Selon ces experts, ces modèles sont cruciaux pour la détection des vulnérabilités et la sécurisation des logiciels.
La lettre met en avant que retirer ces outils aux défenseurs de la cybersécurité, alors que les menaces évoluent rapidement, est une décision dangereuse. Vendredi dernier, le gouvernement a ordonné à Anthropic de limiter l'exportation de ces modèles, invoquant des préoccupations de sécurité nationale sans fournir de détails. En conséquence, Anthropic a suspendu l'accès à Fable et Mythos pour tous les utilisateurs à travers le monde.
Des experts de renom s'expriment
Parmi les signataires de la lettre, on trouve des personnalités telles qu'Alex Stamos, ancien responsable de la sécurité de Facebook, Casey Ellis, fondateur de Bugcrowd, Jon Callas, ancien responsable de la sécurité chez Apple, Paul Vixie, Dino Dai Zovi, ancien responsable de l'ingénierie de sécurité appliquée chez Block, Katie Moussouris, fondatrice de Luta Security, et Rachel Tobac, PDG de SocialProof Security. Ces experts soulignent que les modèles d'Anthropic sont essentiels pour identifier des vulnérabilités et sécuriser les logiciels.
Lors de son lancement en avril, Mythos avait été présenté comme un outil puissant pour la détection des vulnérabilités, avec un accès initial limité à 50 entreprises, élargi ensuite à 150 organisations dans 15 pays. La semaine dernière, Anthropic a introduit Fable, une version publique de Mythos, dotée de garde-fous stricts pour éviter son utilisation malveillante. Cependant, ces garde-fous étaient si stricts qu'ils empêchaient essentiellement toute demande liée à la cybersécurité.
Controverses autour des capacités des modèles
Anthropic a indiqué que la décision de la Maison Blanche pourrait être liée à un rapport sur une méthode de jailbreaking de Fable. Katie Moussouris a examiné un article non public de chercheurs d'Amazon, qui, selon elle, ne démontre pas un véritable contournement des garde-fous. Elle affirme que les chercheurs ont simplement utilisé Fable pour corriger des vulnérabilités connues dans du code source ouvert.
La lettre ouverte appelle à des réglementations transparentes et équitables, élaborées par un processus démocratique basé sur des recherches scientifiques. Les experts insistent sur le fait que ces réglementations doivent être appliquées uniquement dans la mesure nécessaire pour garantir la sécurité publique. Ils soulignent également que la méthode de jailbreaking pourrait être reproduite sur GPT-5.5 d'OpenAI, Claude Opus 4.8 et Sonnet d'Anthropic, ainsi que sur des modèles chinois comme Kimi 2.7.
Katie Moussouris a déclaré dans un article de blog que le comportement décrit dans l'article d'Amazon ne peut pas être corrigé de manière significative, et toute tentative ne ferait qu'affaiblir le modèle pour la défense. Elle a souligné que les défenseurs doivent pouvoir demander à l'IA de corriger les bugs dans un fichier, d'expliquer pourquoi la correction est importante et d'écrire des tests qui confirment que le correctif fonctionne. Selon elle, ce n'est pas un contournement des garde-fous, mais la chose la plus précieuse qu'un modèle d'IA puisse faire pour la sécurité défensive : exécuter la boucle de recherche, de correction et de test que les défenseurs effectuent chaque jour.
