Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Anthropic face aux critiques du gouvernement américain
Le gouvernement américain a récemment exprimé des préoccupations concernant Anthropic, une entreprise spécialisée dans le développement de modèles d'intelligence artificielle. Les autorités accusent Anthropic d'avoir ignoré un décret exécutif de l'administration Trump en publiant le modèle Fable 5 sans approbation préalable. Ce décret, qui appelait à une supervision gouvernementale des modèles d'IA, avait initialement été bien accueilli par Anthropic. Cependant, l'entreprise a choisi de lancer Fable 5 avant que le guichet désigné pour l'approbation ne soit opérationnel.
Un responsable de l'administration a résumé le conflit entre l'administration Trump et Anthropic en disant qu'Anthropic les avait trompés. "Tout le monde disait qu'Anthropic était un acteur malveillant. Certains d'entre nous disaient qu'il était temps de leur donner une chance. Maintenant, ces personnes remettent cela en question. Ils nous ont trompés."
Communication et enjeux de sécurité
Les discussions entre le Département du Commerce américain et Anthropic se poursuivent, mais les échanges sont jugés complexes, les deux parties semblant parler des langues différentes. Des réunions supplémentaires sont prévues avec la participation de la CIA et de Michael Kratsios, conseiller scientifique. Cette situation souligne un manque de compréhension de la part du gouvernement sur la sécurité des modèles d'IA.
L'accusation selon laquelle Anthropic aurait été conscient des risques de "jailbreak" met en lumière un défi de taille. Des experts, dont OpenAI, ont déjà averti que des méthodes de piratage comme l'injection de prompt pourraient ne jamais être totalement sécurisées. Le PDG d'Anthropic, Dario Amodei, a déclaré en 2023 qu'un "jailbreak pourrait être une question de vie ou de mort" si quelqu'un parvenait à contourner les protocoles de sécurité en science, technologie et biologie.
La véritable question est de savoir à quel point la violation est grave et à quelle vitesse les contre-mesures sont mises en place. Mais si le gouvernement américain insiste pour que les modèles d'IA de pointe soient "invulnérables" avant leur expédition à l'international, des discussions difficiles s'annoncent.
Appel à la levée des restrictions à l'exportation
En réponse aux accusations, plus de 100 experts en cybersécurité ont signé une lettre ouverte adressée au secrétaire au Commerce Lutnick et au directeur national de la cybersécurité Cairncross. Ils demandent la levée des contrôles à l'exportation sur les modèles Fable et Mythos, arguant que ces restrictions privent les défenseurs de la cybersécurité de précieux outils.
Les signataires, parmi lesquels figurent des personnalités comme Alex Stamos, Rachel Tobac, Katie Moussouris (Luta Security), Dan Lorenc (Chainguard), et Joe Levy (Sophos), soulignent que d'autres modèles, tels que GPT-5.5, Opus, Sonnet, et le chinois Kimi 2.7, offrent des performances comparables. Ils estiment que les mesures de sécurité intégrées dans Fable sont déjà jugées excessives par la communauté de la sécurité lors du jour de son lancement.
La situation actuelle met en lumière les tensions entre la nécessité de réguler les technologies de pointe et l'importance de ne pas freiner l'innovation dans le domaine de l'intelligence artificielle. Les experts avertissent que les modèles chinois à poids ouverts ne sont qu'à quelques mois des meilleurs modèles américains, ce qui pourrait avoir des implications significatives pour la compétitivité technologique des États-Unis.
