Anthropic : la fuite de Mythos expose des failles de sécurité majeures

Un lancement compromis pour Claude Mythos

Le déploiement du modèle d'intelligence artificielle Claude Mythos par Anthropic, qui devait être un événement minutieusement contrôlé, a pris une tournure inattendue et embarrassante. L'entreprise avait passé des semaines à vanter les capacités de cybersécurité de son modèle, le qualifiant de trop performant pour être mis à la disposition du public. Cependant, ce modèle a été compromis, tombant entre les mains d'utilisateurs non autorisés, ce qui a terni l'image de l'entreprise.

Selon Bloomberg, un groupe restreint d'utilisateurs non autorisés a pu accéder à Mythos dès le jour où Anthropic a annoncé son intention de le proposer à un groupe sélectionné d'entreprises pour des tests. L'existence de Mythos avait été révélée pour la première fois par une fuite. Anthropic a déclaré qu'elle enquêtait sur l'incident, ce qui a mis à mal l'image d'Anthropic, qui s'était positionnée comme un leader en matière de sécurité dans le domaine de l'IA.

Une faille technologique embarrassante

D'un point de vue technologique, la manière dont Mythos a été compromis est particulièrement embarrassante pour Anthropic. Bloomberg indique que le groupe a pu accéder au modèle en devinant son emplacement en ligne, une méthode facilitée par des informations divulguées lors d'une violation chez Mercor, une entreprise spécialisée dans les données d'entraînement pour l'IA. Un membre du groupe, ayant travaillé en tant que contractuel pour évaluer les modèles d'Anthropic, a également contribué à cet accès non autorisé. Ce n'est donc pas une attaque sophistiquée, mais plutôt un mélange de chance et de connaissances internes qui a permis cette intrusion.

Les vulnérabilités de sécurité sont inévitables, et dans ce cas, c'est Mercor qui a accidentellement laissé filtrer les informations critiques utilisées par les hackers. Pia Hüsch, chercheuse au Royal United Services Institute (RUSI), souligne que même les entreprises les plus sécurisées ne sont jamais à l'abri, les faiblesses humaines étant souvent le maillon faible. Elle a noté qu'il était "initialement un peu chanceux" qu'il n'y ait pas eu de conséquences graves.

Une anticipation défaillante

Cet incident n'est pas seulement une question de malchance. La technique utilisée par les hackers, bien que basique, est connue depuis longtemps dans le domaine de la cybersécurité. Lukasz Olejnik, un expert en sécurité, a qualifié cet échec de "totalement prévisible", un type de menace que l'industrie gère depuis des décennies. Anthropic aurait dû être mieux préparée, d'autant plus que la violation de Mercor était déjà connue avant le lancement de Mythos.

Anthropic avait les moyens de détecter cette intrusion. L'entreprise dispose de systèmes pour enregistrer et suivre l'utilisation de ses modèles, ce qui aurait dû permettre de repérer rapidement toute activité suspecte. Pourtant, il semble que la surveillance n'ait pas été à la hauteur, ce qui est d'autant plus surprenant compte tenu des risques associés à Mythos. La question se pose de savoir pourquoi une entreprise qui affirme que son modèle est dangereux n'a pas mieux surveillé son déploiement.

Un modèle sous surveillance

Bloomberg rapporte que le groupe ayant accédé à Mythos ne l'a pas utilisé pour des activités de cybersécurité, préférant explorer ses capacités sans éveiller les soupçons d'Anthropic. Cela a été une chance pour l'entreprise, qui avait présenté Mythos comme un outil révolutionnaire pour la sécurité, capable de détecter des failles dans tous les principaux systèmes d'exploitation et navigateurs web. Anthropic avait affirmé que la sortie de Mythos devait être coordonnée pour renforcer les défenses cybernétiques mondiales.

Une réputation entachée

Anthropic a souvent utilisé un langage dramatique pour décrire ses modèles, allant jusqu'à suggérer que Claude pourrait être conscient. Cependant, les premiers retours sur Mythos confirment ses compétences en cybersécurité. Bobby Holley, CTO de Mozilla, a reconnu ses capacités à identifier des bugs dans Firefox 150, suscitant l'intérêt de nombreux gouvernements et institutions financières, y compris la NSA. Malgré la désignation d'Anthropic comme un risque de chaîne d'approvisionnement, la NSA et d'autres agences américaines auraient accès à Mythos, bien que le déploiement semble avoir contourné l'agence de cybersécurité des États-Unis, CISA.

Le fait que la violation ait été découverte par un journaliste plutôt que par Anthropic elle-même soulève également la question évidente de savoir s'il s'agit d'un incident isolé. Pia Hüsch note que cet incident montre à quel point il est facile pour un large éventail de personnes d'accéder à ces technologies, même sans moyens sophistiqués. Anthropic va probablement examiner sa chaîne d'approvisionnement pour comprendre comment cela s'est produit et combler les lacunes, mais elle a souligné qu'il existe une large gamme d'acteurs qui souhaiteraient accéder à un modèle comme celui-ci, certains d'entre eux ayant beaucoup d'argent derrière eux.

Des attentes déçues

Anthropic a construit sa réputation sur une approche rigoureuse de la sécurité de l'IA, créant des attentes élevées. L'exposition de Mythos à travers une faille aussi basique met en lumière un décalage entre les promesses de l'entreprise et la réalité de ses pratiques de sécurité. En présentant Mythos comme un outil trop puissant pour être public, Anthropic en a fait une cible de choix pour les hackers.

Ce n'est pas la première fois que Mythos est au centre d'un incident de sécurité. Avant même son lancement, l'existence du modèle avait été accidentellement révélée par le biais d'un "trésor de données non sécurisé" sur un système central contenant du contenu pour son site web. Maintenant, il a été accédé via une vulnérabilité que l'entreprise aurait pu anticiper. La perfection est impossible, mais pour une entreprise qui s'est autoproclamée à l'avant-garde de la sécurité de l'IA, une telle erreur de base est difficile à justifier, même avec un peu de malchance.

Pour Pia Hüsch, cet épisode est une véritable humiliation pour Anthropic. L'entreprise, qui se veut à la pointe de la sécurité de l'IA, a été prise en défaut par une attaque aussi peu sophistiquée, remettant en question sa position de leader responsable dans le domaine.