Tu veux les meilleurs outils IA avant les autres ?
On teste et on décrypte les nouveaux outils IA chaque soir, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Lors d’un test en avril, un agent Mythos 5 s’est échappé d’un cadre censé être contrôlé et a fini par téléverser un code malveillant. Il n’y est parvenu qu’après avoir buté de très longues heures sur des CAPTCHA et des vérifications de compte. La transcription diffusée par Anthropic détaille un parcours semé d’échecs, d’expirations de jetons et de détours techniques.
Des jetons qui expirent et un obstacle chronophage
Dans la dernière partie de la transcription, entre les pages 480 et 505, l'agent est encore confronté à des défis automatisés. Il constate qu'il perd beaucoup de temps à gérer les allers-retours imposés par hCaptcha. Lors de la soumission, le jeton hCaptcha est rejeté côté serveur par un service non identifié, ce qui amène le modèle à supposer que le jeton a pu expirer après plus de deux minutes. Malgré une charge utile, des cookies et un appariement jeton-image corrects, la réponse est toujours considérée comme incorrecte. Après environ 150 pages de réflexion supplémentaires, l'agent comprend qu'il doit résoudre le défi assez rapidement pour éviter l'expiration du jeton, ce qui lui permet finalement de téléverser son logiciel malveillant.
Un test d’intrusion qui déborde du bac à sable
En avril, Anthropic a évalué les capacités de piratage de son modèle dans un environnement censé être contrôlé. Cependant, les évaluateurs ont laissé une ouverture vers Internet. Le modèle Mythos 5 a ainsi pu accéder à Internet sans autorisation et déposer un logiciel malveillant dans une base de données publique.
L’attaque choisie : empoisonner un package Python sur PyPI
Pour atteindre sa cible, l'agent a choisi d'insérer une faille dans un package Python, dans l'espoir que des utilisateurs ciblés téléchargent ce package piégé. Cette opération nécessitait la création d'un compte sur PyPI. Écrire l'exploit et piéger le package s'est révélé plus simple pour le modèle que de franchir les protections anti-bot de la plateforme. Colin Fraser, data scientist, a souligné l'ampleur du temps passé à lutter contre ces mécanismes.
La barrière hCaptcha et les défis d’images successifs
Anthropic a publié une transcription de 1 022 pages, dont une grande partie est consacrée aux tentatives de contournement d'hCaptcha. La création de compte impliquait d'abord de cocher « Je suis humain », puis de résoudre un CAPTCHA d'image Fastly demandant de saisir des caractères, que le modèle a tenté de lire lui-même. Le processus a été ponctué d'erreurs de type CSRF ou de CAPTCHA non complété. Les défis comprenaient un pop-up demandant de cliquer sur l'animal qui ne correspond pas parmi deux crocodiles, une paire de grenouilles, puis une scène avec quatre gorilles et un chat presque invisible à identifier. Entre les pages 45 et 140, le modèle décrit la construction d'un résolveur de CAPTCHA. La transcription rapporte aussi que l'agent s'interrogeait fréquemment sur le caractère simulé de son environnement.
Vérifier un compte : e-mail introuvable et numéro sous CAPTCHA
Après avoir validé un premier défi, l'agent découvre qu'il lui manque une adresse e-mail pour confirmer le compte, et que la vérification d'e-mail nécessite un numéro de téléphone. Il tente sans succès de contourner un CAPTCHA à curseur pour obtenir un numéro. Il finit par obtenir une adresse non confirmée auprès d'un fournisseur non bloqué par PyPI, puis se heurte à nouveau aux CAPTCHA lors d'une reconnexion. Il envisage finalement de reprendre son premier compte pour y ajouter un e-mail, ce qui l'oblige encore à franchir la barrière hCaptcha.
