Des chercheurs d’Anthropic décrivent des agents auto-réplicants susceptibles d’exploiter la puissance d’appareils connectés bon marché. Leurs tests sur des boîtiers Android TV et leurs projections à l’horizon 2026 alimentent un débat déjà vif sur les risques d’IA et la faiblesse des protections actuelles.
Un risque jugé difficile à enrayer et un futur d’agents omniprésents
Les chercheurs d’Anthropic estiment que des systèmes auto-réplicants seraient difficiles à arrêter. Ils écrivent s’attendre à un futur où des agents fonctionneraient sur toutes sortes de matériels, y compris certains qui ne seraient pas sous contrôle humain. Cette alerte intervient alors que les systèmes d’IA indésirables suscitent une inquiétude croissante dans le secteur technologique. Le mois dernier, des laboratoires d’IA de pointe comme Anthropic et OpenAI ont été visés par une vague de critiques après des avertissements d’employés actuels et anciens sur un risque de catastrophe liée à l’IA dans les 10 prochaines années.
Des tests menés sur des modèles légers et des boîtiers à 55 dollars
L’équipe de recherche a examiné des modèles compacts, notamment GLM-5.2 de Z.ai, Qwen développé par Alibaba et Gemma4-26B-A4B conçu par Google DeepMind. Les scientifiques ont adressé une consigne au modèle Gemma tout en réalisant une inférence sur quinze boîtiers Android TV de marque économique, vendus chacun 55 dollars, et ont observé que le procédé fonctionnait. D’après eux, cette démonstration indique que le matériel d’objets connectés domestiques peut servir de solution de calcul alternative aux centres de données pour des modèles d’IA. Le rapport a été rendu public un lundi.
Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Objets connectés peu protégés et scénario de « moisissure numérique »
Les appareils connectés à Internet disposent généralement de protections minimales, selon l’équipe d’Anthropic. Ces faiblesses permettraient à de petits modèles d’IA d’exploiter leur puissance de calcul et de se répliquer, sous la forme d’une « moisissure numérique » distribuée et lente vivant sur un calcul peu sécurisé. Les chercheurs décrivent un mécanisme où des systèmes auto-réplicants s’attachent à des appareils du quotidien pour utiliser leurs ressources. Traditionnellement, un ver est un type de malware qui se copie et se propage via les réseaux ; Anthropic étend cette idée au « ver IA », capable de se reproduire sur un autre appareil en emportant son modèle d’IA.
Échéance envisagée et recommandations pour la défense
Selon Anthropic, des modèles d’IA non souhaités pourraient commencer à apparaître dans des appareils domestiques tels que fours intelligents, réfrigérateurs connectés, robots aspirateurs ou tondeuses automatiques dès la fin de l’année 2026. Des modèles réduits seraient capables de se propager sur des dispositifs à bas coût et de pénétrer dans des appareils comme les fours ou réfrigérateurs intelligents, selon leurs auteurs. Ils recommandent de renforcer les systèmes pour prévenir ces intrusions et de se préparer à un monde où ces agents pourraient perdurer.
