Anthropic suspend Mythos et Fable après une alerte fédérale

Anthropic a récemment pris la décision de suspendre l'accès à ses modèles d'intelligence artificielle, Mythos 5 et Fable 5, suite à des restrictions imposées par le gouvernement américain. Ce week-end, l'entreprise a retiré ces modèles après que les autorités fédérales ont signalé un contournement possible des mesures de sécurité mises en place par Anthropic. Le gouvernement a informé la société vendredi après-midi qu'un moyen de "jailbreaker" Fable 5 avait été découvert, ce qui permettrait de contourner les limites conçues pour réduire les risques d'utilisation abusive.

Lors du lancement initial de Mythos, Anthropic avait choisi de limiter l'accès à un groupe restreint d'agences gouvernementales et de professionnels de la technologie. Cette décision était motivée par les capacités du logiciel à détecter des vulnérabilités en cybersécurité. Cependant, le gouvernement a imposé des contrôles à l'exportation sur ces produits, ce qui a contraint Anthropic à suspendre l'accès aux deux modèles pour tout ressortissant étranger, qu'il soit à l'intérieur ou à l'extérieur des États-Unis. La seule solution pour se conformer à ces restrictions était de fermer complètement les modèles, selon l'entreprise.

Anthropic a exprimé son désaccord avec l'évaluation du gouvernement concernant le jailbreak, affirmant que cela ne justifiait pas une action aussi drastique. L'entreprise a mis en garde contre l'application généralisée de ce standard, qui pourrait "essentiellement arrêter" le développement de nouveaux modèles d'IA de pointe. Anthropic a déclaré publiquement que le gouvernement devrait avoir la capacité de bloquer les déploiements dangereux, mais cela devrait se faire dans le cadre d'un processus statutaire transparent, équitable, clair et fondé sur des faits techniques. Selon Anthropic, l'action actuelle ne respecte pas ces principes.

Les représentants d'Anthropic et du Département du Commerce des États-Unis n'ont pas immédiatement répondu aux demandes de commentaires. Cependant, il a été rapporté qu'Anthropic a envoyé des membres de son personnel à Washington pour négocier avec l'administration Trump afin de résoudre ce problème. Le Wall Street Journal a indiqué que les dirigeants d'Anthropic ont passé plusieurs heures en appels samedi avec le secrétaire au Commerce Howard Lutnick et le directeur national de la cybersécurité Sean Cairncross.

Ce n'est pas la première fois qu'Anthropic se retrouve en conflit avec Washington concernant ses modèles d'IA. Plus tôt cette année, le Département de la Défense avait qualifié Anthropic de "risque pour la chaîne d'approvisionnement" après que l'entreprise a insisté sur des restrictions concernant l'utilisation de ses modèles d'IA Claude pour des armes entièrement autonomes ou une surveillance domestique de masse. Le Pentagone souhaitait pouvoir utiliser les modèles pour "tous les usages légaux".