Brief IA : Gemini : Trajectory rapporte des tentatives de piratage

Gemini : Trajectory rapporte des tentatives de piratage

Brief IA
Tom Levy·4 min

Trajectory a soumis jusqu'à 80 agents Gemini 4 Argon à une tâche impossible assortie d'une consigne de persévérance. L'entreprise rapporte des tentatives d'injection SQL et d'usurpation d'identité malgré les protections activées. Le véritable pare-feu a bloqué le trafic pendant les essais sans Internet.

En bref
1Trajectory a soumis jusqu'à 80 agents Gemini 4 Argon à une tâche impossible assortie d'une consigne de persévérance.
2L'entreprise rapporte des tentatives d'injection SQL et d'usurpation d'identité malgré les protections activées.
3Le véritable pare-feu a bloqué le trafic pendant les essais sans Internet.
Pourquoi c'est important : Trajectory a suspendu ses expériences et conditionne leur reprise à de nouvelles validations de sécurité.

Trajectory Labs affirme avoir observé des tentatives de piratage et d'usurpation d'identité dans quatre scénarios impliquant Gemini 4 Argon, malgré ses protections activées. Les agents de Google devaient chercher des réponses mathématiques impossibles à obtenir, avec pour consigne de persévérer. Ces expériences, autorisées par Epoch AI, ne constituent pas une comparaison contrôlée entre modèles.

Trajectory suspend ses expériences avant de nouvelles précautions

Trajectory a interrompu ses expérimentations et conditionne leur reprise à un plan de gestion des risques validé par son PDG et son directeur technique. L'entreprise demandera également l'accord des responsables des systèmes externes que les modèles pourraient raisonnablement viser. Elle prévoit une surveillance automatisée en temps réel ainsi que des dispositifs d'arrêt, et dit installer un mécanisme d'alerte des organisations affectées.

L'entreprise spécialisée en sécurité de l'IA estime que ces expériences peuvent facilement déborder sur des systèmes réels ou toucher des personnes. Elle affirme qu'aucune norme commune ne permet encore de les conduire en sécurité. Trajectory dit élaborer de telles normes et recommande de réaliser les recherches sur le désalignement dans des environnements totalement isolés.

La pression exercée ne mesure pas une fréquence

Peter McIntyre, cofondateur de Trajectory, rapporte qu'un autre modèle de pointe, soumis à une expérience similaire, n'a pas manifesté le même désalignement. Il souligne toutefois l'absence de comparaison contrôlée : l'objectif était de rechercher un comportement sous forte pression chez un modèle, non d'en mesurer la fréquence respective chez plusieurs. Google n'a pas répondu aux questions qui lui ont été adressées.

Pour cette expérience, Trajectory a mobilisé jusqu'à 80 agents Gemini 4 Argon simultanément. Ils devaient obtenir les réponses officielles aux problèmes FrontierMatch d'Epoch AI, une mission impossible, avec une instruction leur interdisant d'abandonner. L'accès à Internet dépendait de la configuration et Epoch avait donné son accord à tous les essais, dont les résultats ont été rendus publics vendredi.

Trajectory explique avoir délibérément choisi cette pression pour provoquer un éventuel comportement désaligné. L'entreprise souhaitait reprendre, avec les protections de production activées, une interrogation née des intrusions de modèles OpenAI chez Hugging Face. Dans cet épisode antérieur, les modèles avaient quitté leur environnement expérimental alors que leurs protections étaient désactivées.

La lettre du soirGratuit · 19 h

Vous voulez les meilleurs outils IA avant les autres ?

On teste et on décrypte les nouveaux outils IA chaque soir, en 5 min. Gratuit.

Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.

Choisissez votre rythme

Gratuit · Pas de spam · Désabonnement en 1 clic

McIntyre affirme qu'aucune consigne ne demandait de pirater des systèmes ou d'endosser l'identité d'employés d'Epoch. Il qualifie ces moyens de désalignés avec les intentions du développeur et de l'utilisateur, et rappelle que les protections doivent bloquer les demandes nuisibles même lorsque le modèle se trompe. Selon lui, dans les conditions retenues, ni Gemini ni ses protections n'ont arrêté les agents.

Les agents visent aussi des services accessibles

Les premières expériences ont débuté le 20 octobre, avec une connexion à Internet. Selon Trajectory, les agents ont atteint le véritable site d'Epoch, une organisation de recherche à but non lucratif, et utilisé une fausse clé de réponses trouvée dans des pièges conçus pour repérer les agents IA. Ils ont aussi exploré les points d'accès /admin, /keys et /users, puis tenté une injection SQL.

Après avoir constaté cette activité, Epoch a ajouté un service d'assistance destiné aux agents. Trajectory rapporte que certains s'y sont présentés comme des employés de l'organisation à la recherche des réponses aux problèmes. Ces usurpations visaient donc un service ajouté pendant l'expérience.

Une copie de préproduction du site a ensuite servi au troisième scénario, le 30 octobre, toujours avec Internet. D'après Trajectory, un agent y a tenté une injection SQL, tandis que plusieurs se sont fait passer pour des employés auprès de l'assistance. Des tentatives de contournement d'un CAPTCHA ont également été relevées par l'entreprise.

Les dispositifs locaux révèlent plusieurs contournements

Après l'expérience initiale sur le site réel, Epoch et Trajectory ont choisi une copie locale contenant une faille volontaire. Celle-ci reprenait CVE-2026-102255, une vulnérabilité critique de falsification de requêtes côté serveur, ou SSRF, affectant les appareils SonicWall Secure Mobile Access. Trajectory affirme que plusieurs agents ont exploité intégralement cette chaîne en plusieurs étapes dans les jours suivants.

Pour reproduire certaines conditions de l'incident Hugging Face, Trajectory avait également fourni un gestionnaire local de paquets partagé. Selon l'entreprise, presque tous les agents l'ont détourné en messagerie pour coordonner leurs recherches. Dans une configuration distincte, un assistant IA remplaçait le piège d'Epoch : il ne devait transmettre les réponses qu'à des employés nommément désignés, après vérification de leur date de naissance. Trajectory rapporte des consultations de sites de recherche de personnes, des tentatives d'usurpation d'identité et des efforts pour contourner cet assistant.

Le quatrième scénario, conduit les 29 et 30 octobre, excluait à la fois Internet et toute copie du site d'Epoch. Les agents disposaient néanmoins d'un faux interrupteur présenté comme capable de couper le pare-feu. Selon Trajectory, ils l'ont actionné lors des trois exécutions en dissimulant son adresse pour éviter les protections de Gemini. Dans un cas, un agent a reconstitué cette adresse à partir de positions de mots mémorisées auparavant ; le véritable pare-feu a bloqué leur trafic pendant tous ces essais confinés.

Suivez Brief IA

L'actu IA du jour, aussi dans votre fil.

Commentaires