Anthropic face à Washington : Fable 5 suspendu pour sécurité nationale

Le modèle Fable : une avancée sous surveillance

Anthropic, une entreprise spécialisée dans le développement de modèles d'intelligence artificielle, a récemment fait parler d'elle avec le lancement de Fable. Ce modèle est une version modifiée de Mythos, qui avait été jugé trop dangereux pour être diffusé publiquement en raison de ses capacités avancées en cybersécurité. Deux mois avant le lancement de Fable, Anthropic avait annoncé Mythos Preview, un modèle qu'ils avaient jugé trop risqué pour une diffusion publique. Fable, quant à lui, a été conçu avec des garde-fous de sécurité pour atténuer ces risques. Malgré les scepticismes qui entourent souvent les annonces publiques d'Anthropic, Fable a été accueilli avec enthousiasme par ceux qui ont pu l'expérimenter. Il se distingue par ses performances impressionnantes, surpassant même des modèles renommés comme GPT 5.5 et Opus 4.8. Cette avancée rappelle les sauts technologiques observés avec des modèles précédents tels que GPT-4 et Grok 4, suggérant que Fable pourrait bien être le précurseur d'une nouvelle génération de modèles d'IA.

Conflit avec le gouvernement américain

Cependant, le lancement de Fable n'a pas été sans complications. Le gouvernement américain a rapidement réagi en émettant une directive de contrôle des exportations, invoquant des autorités de sécurité nationale. Cette directive interdit l'accès à Fable 5 et Mythos 5 à tout ressortissant étranger, que ce soit à l'intérieur ou à l'extérieur des États-Unis, y compris les employés étrangers d'Anthropic. L'entreprise a dû désactiver ces modèles pour tous ses clients afin de se conformer à cette exigence. Anthropic a reçu cette directive du gouvernement à 17h21 (ET). La lettre ne fournissait pas de détails spécifiques sur les préoccupations en matière de sécurité nationale. Il semble que le gouvernement ait été alerté par une méthode de contournement, ou "jailbreaking", qui aurait été signalée par Amazon. Cette situation est d'autant plus notable qu'Amazon est non seulement un investisseur dans Anthropic, mais aussi un fournisseur majeur de services d'inférence pour l'entreprise. Il est important de noter que l'accès à tous les autres modèles d'Anthropic ne sera pas affecté par cette directive.

Réactions et implications

Anthropic a réagi à cette directive en soulignant que les jailbreaks non universels sont inévitables et limités, et qu'il n'existe aucune preuve d'un jailbreak universel. L'entreprise a examiné une démonstration de la technique de contournement signalée, qui a permis d'identifier un petit nombre de vulnérabilités mineures déjà connues. Ces vulnérabilités, bien que présentes, semblent relativement simples et peuvent être découvertes par d'autres modèles disponibles publiquement sans nécessiter de contournement. Pendant ce temps, des membres du personnel senior d'Anthropic se sont rendus à Washington D.C. pour tenter de clarifier ce qu'ils considèrent comme un malentendu. De leur côté, des responsables de la Maison Blanche ont suggéré que la direction d'Anthropic avait fait preuve d'insouciance face à des préoccupations légitimes en matière de sécurité nationale.

L'impératif économique dans le secteur de l'IA

Dans le domaine de l'intelligence artificielle, la valeur économique est actuellement principalement captée par le secteur du calcul. Cela s'explique par le fait que l'offre ne parvient pas à répondre à la demande croissante, entraînant une hausse des prix. Les principaux bénéficiaires de cette situation sont des entreprises comme Nvidia, TSMC, et les fabricants de mémoire tels que SK hynix, Samsung, et Micron. En revanche, des laboratoires comme Anthropic et OpenAI ont investi des milliards dans le développement de modèles de pointe, mais ces investissements ne sont pas toujours rentabilisés. Une fois publiés, ces modèles sont souvent distillés et commodifiés par des alternatives open source, principalement en provenance de Chine. Ce scénario pessimiste pour les laboratoires souligne le risque qu'ils ne parviennent jamais à couvrir leurs coûts, car leur différenciation est éphémère et les alternatives gratuites deviennent "suffisamment bonnes". Dans un tel contexte, les modèles d'IA risquent de devenir des commodités, tandis que la majeure partie de la valeur s'écoule vers d'autres secteurs, actuellement le calcul.

L'importance des données pour l'avenir des modèles

Les modèles d'IA, y compris Mythos, ne sont pas encore au stade où ils peuvent se passer de calculs supplémentaires. Ce dont ils ont besoin, c'est de plus de données et de meilleures données. Les améliorations des modèles proviennent de plus en plus de l'apprentissage par renforcement, qui peut être partiellement généré de manière synthétique. Cependant, le levier le plus puissant pour un laboratoire de pointe reste l'utilisation dans le monde réel. C'est pourquoi OpenAI et Anthropic proposent des plans d'abonnement fortement subventionnés. Selon SemiAnalysis, un plan à 200 $ donne accès à 8 000 $ de jetons Claude et 14 000 $ de jetons Codex. Ces entreprises se battent non seulement pour l'attention des utilisateurs et des développeurs, mais aussi pour accéder à des données d'utilisation réelles afin d'améliorer leurs modèles.

Anthropic a intensifié ses efforts avec Fable, annonçant que les données de toutes les utilisations seraient conservées pendant 30 jours, même pour les plans d'entreprise qui promettaient auparavant aucune conservation de données. Bien que l'entreprise ait déclaré qu'elle ne s'entraînerait pas sur ces données, elle n'a pas mis en place de garanties pour empêcher une utilisation future. Si ce changement de politique ne conduit pas à une perte significative de clients, il est probable qu'Anthropic finira par utiliser ces données, car elles sont essentielles pour atteindre leurs objectifs finaux.