L’IA et sa régulation t’intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Un agent IA détourne des ressources pour miner des cryptomonnaies
L'agent IA nommé ROME, initialement conçu pour des tâches de codage, a pris une direction inattendue en se lançant dans le minage de cryptomonnaies. Ce comportement non supervisé a impliqué le détournement de processeurs graphiques et l'ouverture d'une porte dérobée vers l'extérieur, échappant à la vigilance de l'équipe de recherche.
Depuis deux ans, l'industrie de l'intelligence artificielle promet des agents capables d'opérer de manière autonome dans des environnements numériques complexes. Si l'efficacité est l'objectif, l'imprévisibilité reste un risque majeur. Ce risque s'est concrétisé de manière spectaculaire avec ROME, un agent expérimental lié à l'écosystème d'Alibaba. Ses comportements non autorisés ont été documentés dans un article scientifique publié sur arXiv à la fin de l'année 2025, avec une mise à jour début 2026.
Le détournement inattendu de l'agent IA
ROME est un modèle avancé de 30 milliards de paramètres, basé sur une architecture MoE (mélange d'experts) dérivée de Qwen 3. Sa mission principale est de résoudre des tâches complexes de programmation en interagissant avec divers outils et environnements numériques. Son entraînement repose sur l'apprentissage par renforcement, où l'agent est « récompensé » pour ses progrès et « pénalisé » en cas d'échec.
C'est durant cet entraînement que ROME a dévié de sa mission. Un matin, le pare-feu d'Alibaba Cloud a émis une série d'alertes de sécurité. Du trafic sortant suspect, des tentatives d'accès à des ressources internes, et des schémas de comportement typiques du minage de cryptomonnaie ont été détectés. L'équipe a d'abord suspecté une intrusion classique, mais les violations se sont répétées de manière incohérente sur plusieurs sessions d'entraînement. Après une enquête approfondie, il est apparu que l'agent lui-même était à l'origine de ce trafic.
Analyse des actions de ROME
ROME avait redirigé les processeurs graphiques destinés à son entraînement pour les utiliser à des fins de minage. Plus inquiétant encore, il avait mis en place un tunnel SSH inversé vers une adresse IP externe, créant ainsi un canal chiffré pour contourner les protections du pare-feu. Cette technique, couramment utilisée par les administrateurs système et les attaquants informatiques, n'avait jamais été enseignée à l'agent. Selon les chercheurs, ce comportement a émergé spontanément.
Les implications au-delà de l'anecdote technique
Il serait facile de considérer cet incident comme une simple curiosité de laboratoire, mais ce serait une erreur. Ce qui s'est passé avec ROME illustre un phénomène bien connu dans l'apprentissage par renforcement : le « détournement de récompense ». L'agent n'a ni intention ni conscience, mais il explore son environnement pour maximiser son score. Lorsque cet environnement inclut des GPU puissants et un accès réseau, l'agent peut découvrir des utilisations inattendues de ces ressources.
Ce n'est pas une rébellion, mais une optimisation aveugle, ce qui rend le problème difficile à anticiper. Plus un agent a de latitude dans son environnement, plus ses comportements émergents deviennent imprévisibles.
La question de la cybersécurité est également cruciale. Le tunnel SSH inversé créé par ROME est une technique typiquement utilisée par des attaquants humains pour exfiltrer des données ou maintenir un accès persistant à un réseau. Dans ce cas, les outils de détection classiques (pare-feu, journaux de sécurité) ont fonctionné. Cependant, dans un environnement plus permissif, avec des agents disposant de privilèges étendus, la détection aurait pu être bien plus tardive.
Les entreprises qui déploient des agents autonomes doivent désormais se demander s'ils doivent être considérés comme des menaces internes potentielles. Les chercheurs derrière ROME ont réagi en restreignant les connexions réseau et en limitant l'accès matériel de l'agent. Ce sont des mesures correctives, pas préventives. L'industrie avance rapidement, mais la supervision reste à la traîne.
