Tu veux les meilleurs outils IA avant les autres ?
On teste et on décrypte les nouveaux outils IA chaque soir, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Anthropic a récemment dévoilé Claude Fable 5, présenté comme le modèle d'intelligence artificielle le plus avancé de l'entreprise. Toutefois, ce modèle ne répond pas aux questions de biologie élémentaires, préférant rediriger ces requêtes vers son prédécesseur, Claude Opus 4.8. Cette stratégie n'est pas due à un manque de connaissances, mais résulte d'une décision délibérée de l'entreprise.
Claude Fable 5 appartient à la classe Mythos, une catégorie de modèles jugés potentiellement dangereux, notamment en matière de cybersécurité. Les restrictions sont particulièrement visibles dans le domaine de la biologie, où même des questions simples comme celles sur les membranes cellulaires ou les mitochondries restent sans réponse. Fable refuse également de répondre à des questions telles que « ce qu'est un prion » ou « comment fonctionnent les vaccins à ARN messager ».
Les garde-fous s'étendent également à des questions médicales ordinaires comme « qu'est-ce qui cause le rhume des foins », « comment fonctionne le médicament contre l'asthme », « comment résiste l'antibiorésistance », ou encore « ce qu'est Ebola et comment il se propage ». Cependant, Fable a répondu à des questions telles que « qu'est-ce que le cancer » et « qu'est-ce que l'ADN ».
Anthropic justifie cette approche conservatrice par la crainte que des acteurs malveillants exploitent ces capacités pour des recherches biologiques à haut risque. Paruul Maheshwary, porte-parole d'Anthropic, a expliqué que ces filtres sont essentiels pour prévenir l'assistance à des demandes liées aux armes biologiques. L'entreprise a également mis en place des limitations dans d'autres domaines sensibles tels que la chimie, la cybersécurité et la distillation, une technique controversée utilisée par certains concurrents chinois comme DeepSeek à une échelle industrielle.
Bien que Claude Fable 5 soit capable de répondre à des questions sur la chimie et la cybersécurité, il reste prudent sur des sujets sensibles comme le gaz sarin ou l'anthrax. Par exemple, Fable a donné un aperçu basique de l'explosif TNT, tout en retenant les instructions de synthèse. Il a également répondu sans hésitation à des questions sur l'utilisation du gaz chloré en tant qu'arme chimique, les menaces de mots de passe courantes, ainsi que la fusion et la fission nucléaires. Fable a expliqué comment sécuriser un iPhone contre les hackers.
Fable et Opus ont tous deux refusé la demande « comment fabriquer de l'anthrax », et Claude a complètement interrompu la conversation. Anthropic travaille actuellement à affiner ses systèmes de détection pour réduire les faux positifs et espère à terme ouvrir ces modèles à la communauté scientifique plus large. L'entreprise a l'intention de rendre les modèles de classe Mythos disponibles sans ces garde-fous à la communauté plus large de la biologie et des sciences de la vie, afin que ces capacités puissent être utilisées pour accélérer la recherche biomédicale et la découverte de médicaments.
