Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Anthropic accuse Alibaba de distillation massive
Anthropic, une entreprise spécialisée dans l'intelligence artificielle, a récemment accusé Alibaba de mener des attaques massives de distillation sur ses modèles d'IA. Ces attaques, selon Anthropic, visent à extraire illicitement les capacités de leurs modèles, notamment Claude, en utilisant des méthodes sophistiquées.
L'entreprise a révélé qu'Alibaba aurait interagi avec Claude des millions de fois en utilisant un réseau de 25 000 comptes frauduleux. Cette action a poussé Anthropic à demander une législation plus stricte pour contrer ces attaques de distillation, particulièrement celles orchestrées par des acteurs étrangers.
Une lettre aux sénateurs américains
Sarah Heck, responsable des politiques chez Anthropic, a adressé une lettre aux sénateurs Tim Scott et Elizabeth Warren le 10 juin. Dans cette lettre, elle a affirmé qu'Alibaba avait orchestré "la plus grande attaque de distillation connue" à ce jour. Heck a souligné que des opérateurs liés à Alibaba avaient tenté de s'approprier les capacités de Claude pour améliorer leurs propres modèles d'IA.
Entre le 22 avril et le 5 juin, ces opérateurs auraient réalisé "28,8 millions d'échanges avec Claude" via près de 25 000 comptes frauduleux. Les attaques de distillation consistent à utiliser des modèles avancés pour former et améliorer des modèles moins performants, ce qui est au cœur des préoccupations d'Anthropic.
Les implications pour l'IA américaine
Sarah Heck a précisé que ces attaques sont menées de manière illégale et systématique, à une échelle industrielle, dans le but de s'approprier les avancées des laboratoires américains sans en assumer les coûts de développement. Elle a averti que de telles pratiques pourraient permettre aux modèles chinois d'atteindre rapidement des capacités comparables à celles de Claude Mythos Preview, un des modèles les plus avancés d'Anthropic.
Mythos est reconnu pour sa capacité à détecter des vulnérabilités logicielles et à surpasser les compétences humaines dans certaines tâches de cybersécurité. Heck a donc exhorté les sénateurs à adopter des mesures législatives pour limiter l'accès de la Chine à l'infrastructure informatique avancée des États-Unis et à sanctionner les entités chinoises responsables de ces attaques.
Contexte de tensions technologiques
Cette lettre intervient peu de temps après que le gouvernement américain a imposé des restrictions à l'exportation sur son modèle Fable 5, interdisant son accès à des individus étrangers en raison de préoccupations de sécurité nationale. Cette décision s'inscrit dans un contexte de tensions croissantes entre les États-Unis et la Chine concernant la technologie et la sécurité.
Alibaba, déjà sous pression, a récemment été ajouté à une liste noire par le Pentagone, qui associe certaines entreprises à l'armée chinoise. En réponse, Alibaba a intenté une action en justice contre le gouvernement américain pour contester cette désignation.
Jeudi, à la suite de ces révélations, le cours de l'action d'Alibaba a chuté de plus de 4%. Malgré ces développements, Alibaba n'a pas encore répondu aux demandes de commentaires formulées par Business Insider.
