Brief IA : Mythos d'Anthropic : un modèle d'IA sensible piraté par des tiers

Mythos d'Anthropic : un modèle d'IA sensible piraté par des tiers

Brief IA
Tom Levy·2 min·4 vues

Le modèle d'IA Mythos d'Anthropic, un outil de cybersécurité, a été accédé par un groupe non autorisé grâce à un sous-traitant et des outils de recherche en ligne. Cette compromission soulève des inquiétudes majeures sur la sécurité des outils d'IA et leur potentiel d'utilisation malveillante, pouvant avoir des conséquences dévastatrices sur la cybersécurité mondiale.

En bref
1Le modèle d'IA Mythos d'Anthropic a été accédé par des utilisateurs non autorisés via un sous-traitant.
2Mythos, capable d'exploiter des failles dans les systèmes, est réservé à des entreprises comme Google et Microsoft.
3Anthropic enquête sur cet accès non autorisé, qui n'a pas encore montré d'impact sur ses systèmes internes.
💡Pourquoi c'est importantCet incident souligne les risques de sécurité liés aux modèles d'IA avancés, même lorsqu'ils sont strictement contrôlés.
Le brief IA que lisent les pros

Tu suis la course aux modèles IA ?

Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.

Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.

Choisis ton rythme

Gratuit · Pas de spam · Désabonnement en 1 clic

📄
L'analyse en français

Un accès non autorisé à Mythos

Le modèle d'intelligence artificielle Mythos développé par Anthropic, connu pour ses capacités avancées en cybersécurité, a été compromis par un petit groupe d'utilisateurs non autorisés. Selon Bloomberg, ces utilisateurs ont réussi à accéder au modèle en exploitant l'accès d'un sous-traitant tiers et en utilisant des outils de recherche en ligne courants.

Capacités et restrictions de Mythos

Le Claude Mythos Preview est un modèle polyvalent, capable d'identifier et d'exploiter des vulnérabilités dans les principaux systèmes d'exploitation et navigateurs web. Anthropic a restreint l'accès à ce modèle à un nombre limité d'entreprises dans le cadre de son Project Glasswing, incluant des géants comme Nvidia, Google, Amazon Web Services, Apple et Microsoft. En raison des risques potentiels d'utilisation malveillante, Anthropic n'a pas l'intention de rendre ce modèle public.

Enquête en cours

Un porte-parole d'Anthropic a confirmé à Bloomberg qu'une enquête est en cours concernant cet accès non autorisé à Mythos via un environnement de fournisseur tiers. Pour l'instant, aucune preuve n'indique que cet accès ait affecté les systèmes internes d'Anthropic.

Détails de l'incident

L'accès non autorisé aurait eu lieu le 7 avril, coïncidant avec l'annonce d'Anthropic sur la mise à disposition de Mythos à certaines entreprises pour des tests. Les utilisateurs impliqués dans cet accès non autorisé sont liés à un canal Discord qui s'intéresse aux modèles d'IA non publiés. Ils ont utilisé des informations obtenues lors d'une récente violation de données chez Mercor pour localiser Mythos en ligne.

Bien qu'ils aient accédé à Mythos, les membres du groupe n'ont pas utilisé le modèle pour des activités de cybersécurité, évitant ainsi de se faire détecter par Anthropic. D'autres modèles d'IA non publiés d'Anthropic ont également été compromis par ce groupe, selon Bloomberg.

Suivez Brief IA

L'actu IA du jour, aussi dans votre fil.

Commentaires