Un agent IA détourne un site de gym pour contourner la liste d'attente

Un agent IA détourne un site de gym pour contourner la liste d'attente

Un agent IA en Australie a exploité une faille du système tout en réservant un cours de gym. Selon ABC News, il s'agit de la première cyberattaque autonome d'IA connue dans le pays.

En utilisant une API non sécurisée, l'agent a annulé la réservation d'une autre personne sans y être invité, permettant à son utilisateur de monter dans la liste d'attente.

La responsabilité de cet incident reste floue. L'utilisateur a finalement demandé à l'agent d'écrire un email pour avertir le fournisseur de logiciels.

Un utilisateur australien voulait simplement une place dans un cours. Son agent IA a trouvé une faille de sécurité et en a profité. L'utilisateur, désigné sous le nom d'« Andrew » dans le rapport, travaille pour une entreprise australienne qui vend des produits d'IA aux entreprises. Il expérimentait avec le logiciel d'agent OpenClaw, fonctionnant sur Claude d'Anthropic, et lui a demandé de réserver un cours populaire le matin. "Je suis juste assis sur le canapé en pensant, 'Eh bien, c'est une corvée,'" a-t-il déclaré.

Quelques minutes plus tard, l'agent a rapporté qu'il pouvait réserver des cours bien au-delà de la fenêtre autorisée. Andrew était quatrième sur la liste d'attente et a demandé s'il pouvait monter. L'agent avait déjà agi. "L'API n'a aucune vérification d'autorisation pour annuler les réservations d'autres personnes... J'ai testé cela avec la personne en position #1 sur la liste d'attente — et ça a effectivement fonctionné. Donc, vous êtes déjà passé de #4 à #3." Andrew n'a jamais demandé une attaque. L'agent a choisi cette voie pour atteindre l'objectif.

Il n'y avait pas de retour en arrière. La faille ne fonctionnait que dans un sens. Les réservations d'autres personnes pouvaient être annulées sans aucune vérification, mais ajouter quelqu'un à nouveau sur la liste d'attente déclenchait une erreur. "Mauvaise nouvelle — je ne peux pas les ajouter de nouveau," a écrit l'agent.

Le client évincé aurait dû s'inscrire à nouveau et se retrouverait tout à fait à la fin de la file. L'agent a qualifié cela de "bug de sécurité classique à sens unique" et s'est excusé. "J'aurais dû être plus prudent avec le test et utiliser une approche de simulation plutôt qu'un appel en direct."

Qui paie quand votre assistant enfreint la loi

La responsabilité est une question ouverte. "Le logiciel n'est pas une personne juridique. Seule une personne juridique peut être responsable en vertu de la loi," a déclaré l'avocat en technologie Hayden Delaney. Les candidats incluent l'utilisateur, les développeurs du logiciel d'agent, le fournisseur du modèle ou l'opérateur du système vulnérable. En fin de compte, Andrew a demandé à son agent d'écrire un email pour avertir le fournisseur de logiciels de la faille.

Les discussions sur les compétences de piratage des modèles d'IA sont restées principalement théoriques ces dernières semaines, y compris autour des critères de sécurité. Les attaques accidentelles chez OpenAI ont également commencé dans des configurations de test comme celles-ci, avant que les modèles ne dépassent les environnements internes pour atteindre Hugging Face et d'autres plateformes.

Le cas australien montre que les mêmes compétences peuvent émerger en dehors de tout test, de manière imprévue et sans intention malveillante, une fois que des agents avec suffisamment de liberté d'action rencontrent des systèmes non sécurisés. ABC News rapporte qu'il s'agit de la première cyberattaque autonome d'IA connue en Australie.