Tu codes avec l’IA ?
Outils, agents et nouveautés dev IA décryptés, chaque soir en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Anthropic face à la critique
Anthropic, une entreprise spécialisée dans le développement de modèles d'intelligence artificielle, a récemment été au centre de critiques concernant le manque de transparence et les limitations imposées à ses modèles. Bien que la société justifie ces restrictions par des raisons de sécurité, elle cherche également à protéger son activité contre la distillation des modèles d'IA, une technique qui permettrait à des concurrents de s'approprier ses avancées technologiques.
Cette semaine, Anthropic a décidé de modifier sa stratégie suite à des retours négatifs de la part des développeurs. L'entreprise a annoncé qu'elle ne dégraderait plus secrètement les réponses de son modèle Fable 5 pour les demandes d'aide au développement de modèles avancés. Désormais, ces requêtes seront redirigées vers un modèle moins performant, Opus 4.8, et les utilisateurs en seront informés. Cette décision vise à répondre aux préoccupations concernant la fourniture de réponses intentionnellement moins bonnes. Anthropic s'est excusé pour avoir fourni intentionnellement des réponses moins bonnes tout en le cachant.
Sécurité ou stratégie commerciale ?
Malgré ces ajustements, Anthropic continue de restreindre l'utilisation de son modèle public le plus avancé pour certains projets de développement d'IA. La société affirme que ces limitations sont nécessaires pour empêcher des "adversaires étrangers" d'exploiter ses technologies, ce qui pourrait compromettre l'avance des États-Unis en matière d'IA. Toutefois, cette explication est remise en question, notamment par Nicholas Vincent, professeur à l'Université Simon Fraser, qui estime que ces mesures semblent davantage motivées par des intérêts commerciaux.
Les restrictions d'Anthropic aident également à protéger son activité contre la distillation, ou extraction d'intelligence. Cette technique permet à des concurrents d'interroger un modèle puissant, de collecter ses résultats et d'utiliser ces données pour améliorer leurs propres systèmes. Anthropic a mis en garde contre des laboratoires chinois utilisant ces techniques de distillation, mais la même menace provient également des développeurs de modèles open-source aux États-Unis et en Europe.
Les conditions de service d'Anthropic interdisent également à quiconque d'utiliser ses produits pour développer des offres concurrentes. Cette politique s'applique non seulement aux laboratoires chinois, mais aussi aux développeurs de modèles open-source en Occident, ce qui remet en question l'idée que les restrictions visent uniquement à contrer des adversaires étrangers.
La menace des modèles open-source
Les modèles d'IA open-source représentent une concurrence sérieuse pour Anthropic. Une étude du MIT Sloan a montré que ces modèles atteignent en moyenne 90 % des performances des modèles fermés, réduisant l'écart en seulement 13 semaines, alors qu'un an plus tôt, il leur fallait 27 semaines pour combler cet écart. Le modèle open-weight MiMo v 2.5 Pro de Xiaomi, par exemple, se rapproche des performances d'Anthropic tout en étant beaucoup plus abordable. Alors que le Fable 5 d'Anthropic coûte 10 $ par million de tokens d'entrée et 50 $ par million de tokens de sortie, le modèle de Xiaomi ne coûte que 43 cents par million de tokens d'entrée et 87 cents par million de tokens de sortie.
Artificial Analysis suit les performances des modèles d'IA, et des classements comme celui d'Arena montrent que les modèles d'Anthropic restent en tête pour des tâches complexes comme les mathématiques, la programmation et l'écriture créative. Cependant, la pression exercée par les modèles open-source, qui sont "presque aussi bons" et "beaucoup moins chers", est indéniable.
Une stratégie sous pression
Anthropic n'est pas obligée de partager sa technologie avec ses concurrents, mais la société est critiquée pour son manque de transparence. Les restrictions imposées par Anthropic visent à freiner la concurrence, mais elles soulèvent des questions sur l'équilibre entre sécurité et stratégie commerciale dans le secteur de l'IA. "Cela semble être un mouvement commercial", a déclaré Nicholas Vincent, soulignant que sans un ciblage explicite de "mauvaises organisations", il est difficile de justifier ces mesures comme étant axées sur la sécurité.
