Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Anthropic revoit sa stratégie sur Claude Fable 5
Anthropic, un acteur clé dans le domaine de l'intelligence artificielle, a récemment annulé une politique qu'elle avait mise en place pour son modèle Claude Fable 5. Cette décision fait suite à des réactions négatives de la part de la communauté de l'IA. Initialement, la société avait introduit des protections secrètes pour limiter l'utilisation de ce modèle avancé, mais elle a dû revoir sa position après des critiques.
Claude Fable 5, lancé cette semaine, est une version publique du modèle Mythos, conçu avec des mesures de sécurité supplémentaires pour prévenir les abus. Lors de son lancement, Anthropic avait mis en place des précautions telles que la redirection des questions sur la cybersécurité, la biologie et la chimie vers des modèles moins performants, comme Opus 4.8, afin de s'assurer que le modèle avancé ne soit pas utilisé pour planifier des cyberattaques ou construire des armes biologiques.
Transparence et ajustements
Anthropic a également indiqué que pour ceux qui tentaient d'utiliser Fable 5 pour le développement d'IA, la société dégraderait les performances du modèle sans expliquer le changement à l'utilisateur. Cette mesure a été perçue par certains membres de la communauté des développeurs comme une tentative discrète d'empêcher la création de systèmes d'IA concurrents.
Face aux critiques, Anthropic a décidé de rendre ces protections plus transparentes. Désormais, Fable 5 informera les utilisateurs si leurs demandes sont refusées ou redirigées. Un porte-parole de l'entreprise a déclaré que toutes les demandes signalées sur l'API fourniront une raison pour leur refus, marquant ainsi un changement significatif dans la politique de communication de la société.
Anthropic a reconnu avoir fait "le mauvais compromis" et s'est excusée pour ne pas avoir trouvé le bon équilibre initialement. La société a souligné que ses mesures de protection visent à traiter des problèmes de sécurité nationale, notamment pour empêcher des adversaires étrangers de progresser dans le développement de technologies avancées. Elle a précisé qu'une grande majorité des travaux de codage et d'apprentissage automatique n'est pas affectée par ces protections.
Le modèle Mythos sous surveillance
Parallèlement, le modèle Mythos d'Anthropic, annoncé en avril, continue d'être une source de préoccupations pour les gouvernements et les agences de sécurité. Considéré comme l'un des systèmes d'IA les plus puissants, Mythos est capable de réaliser des tâches de raisonnement avancé et de cybersécurité qui dépassent les capacités des modèles publics actuels. Des chercheurs et Anthropic eux-mêmes ont signalé que Mythos pourrait être utilisé pour accélérer les cyberattaques, aider à la recherche sur les armes biologiques ou chimiques, et fournir aux acteurs étrangers un nouvel outil dangereux. En raison de ses potentialités, le modèle est distribué de manière limitée à des utilisateurs gouvernementaux et approuvés, et non au grand public.
