Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Anthropic et le freinage de Fable 5
Anthropic a récemment été au cœur d'une controverse après avoir discrètement limité les capacités de Fable 5. Ce modèle, utilisé pour des requêtes de développement d'IA de pointe, redirigeait en secret les réponses vers un modèle moins performant, sans en informer les utilisateurs. Cette pratique a provoqué une vive réaction de la part des chercheurs et experts, qui ont dénoncé un « sabotage secret » préjudiciable à la recherche ouverte, y compris dans des domaines cruciaux comme la médecine.
Face à la polémique, Anthropic a présenté ses excuses et s'est engagé à rendre ces restrictions plus transparentes. Désormais, les utilisateurs seront informés lorsque leurs requêtes seront refusées ou redirigées.
Les détails de la restriction
Le 9 juin 2026, lors du lancement de Fable 5, des chercheurs ont découvert un paragraphe caché dans la fiche système de 319 pages du modèle. Ce document révélait que Fable 5 était programmé pour dégrader ses réponses pour certaines requêtes liées au développement d'IA de pointe, telles que l'entraînement de modèles concurrents, le débogage de code IA, et l'optimisation d'architectures neuronales. Les utilisateurs n'étaient pas avertis de cette dégradation, ce qui a provoqué un choc au sein de la communauté scientifique.
Les justifications d'Anthropic
Anthropic a expliqué cette mesure par des préoccupations de sécurité, affirmant avoir détecté des tentatives massives d’AI distillation. Selon l'entreprise, ces garde-fous visaient à empêcher des adversaires étrangers d'exploiter ses modèles les plus puissants de manière potentiellement dangereuse.
Réactions et promesses d'Anthropic
Les critiques n'ont pas tardé à émerger de la part des chercheurs et experts en sécurité de l'IA, qui ont souligné que cette pratique nuisait également aux recherches médicales. Un ancien employé a exprimé son mécontentement, soulignant que cela limitait l'aide apportée aux projets de recherche sur des maladies graves.
Anthropic a reconnu son erreur et a annoncé qu'elle rendrait visibles les garde-fous de Fable 5 relatifs au développement de l’IA. Si l'entreprise soupçonne un utilisateur de vouloir construire une IA de pointe, elle l'alertera que sa requête est soit refusée, soit redirigée vers un modèle moins performant.
Conséquences potentielles
Des chercheurs ont averti que cette politique pourrait conduire à un avenir où seules quelques grandes laboratoires d’IA pourraient mener des recherches avancées. Des experts ont qualifié cette approche de « sabotage secret », affirmant qu'elle nuit à la collaboration nécessaire pour assurer la sécurité de l’IA.
