Anthropic a montré qu’un grand modèle pouvait tourner de façon distribuée sur des boîtiers Android et a simulé un ver capable de copier un modèle d’IA sur de nouvelles machines. L’entreprise n’a pas prouvé un réplicateur incontrôlé mais voit des « signes de vie » et appelle à renforcer la sécurité des appareils. Des chercheurs estiment la menace plausible et avancent un délai potentiel d’un an pour voir les premiers cas dans la nature.
Des chercheurs pressent la sécurisation immédiate des appareils
Nicolas Papernot considère que la menace des vers informatiques alimentés par l’IA est concrète et qu'elle nécessite une action immédiate, notamment pour la protection des infrastructures critiques comme les hôpitaux et les réseaux électriques. Anthropic recommande de renforcer la sécurité des systèmes pour limiter la propagation de réplicateurs et de se préparer à leur présence durable. Jeffrey Ladish estime que sans un effort massif de sécurisation, les appareils connectés offriront un terrain favorable à ces vers IA. Il prévoit que les premiers vers IA pourraient apparaître dans la nature dans les 12 prochains mois. Le grand nombre d'appareils intelligents mal sécurisés connectés à Internet accroît ce risque.
Ce qu’Anthropic a effectivement testé en laboratoire
Les chercheurs d'Anthropic ont réparti le modèle Gemma 4 de Google, doté de 26 milliards de paramètres, sur 15 boîtiers de télévision Android, alors qu'aucun de ces appareils n'était assez puissant pour l'exécuter seul. L'expérience a fonctionné, mais de façon très lente. Ils ont ensuite construit un réseau simulé d'ordinateurs se comportant comme des appareils Android et y ont introduit un ver contrôlé par IA, capable de détecter de nouvelles machines, d'y copier un modèle d'IA et de le lancer sur chacune. Le modèle propagé était Llama 3.1-8B de Meta, avec 8 milliards de paramètres, distinct et plus petit que celui coordonnant l'attaque simulée. Dans ces tests, seul le modèle GLM-5.2 de Z.ai est parvenu à se propager sur l'ensemble du réseau simulé, tandis que des modèles plus petits n'ont accompli que certaines étapes.
Lectures externes: validation, précédents et portée potentielle
Au début de l'année, Palisade Research a démontré que des modèles d'IA étaient capables de se répliquer de façon autonome sur d'autres ordinateurs. Jeffrey Ladish, qui dirige Palisade, met en avant que l'aspect inédit de ces recherches résidait dans la taille réduite des modèles employés par rapport aux essais antérieurs. Selon lui, les tests menés par Anthropic vont plus loin car ils illustrent qu'une IA peut s'exécuter sur plusieurs machines peu puissantes ; il prévoit également que cette approche pourrait être appliquée à des modèles plus volumineux, aptes à fonctionner sur de grands ensembles de puces destinées au grand public, telles que celles présentes dans les MacBooks. Nicolas Papernot fait remarquer que des études précédentes ont déjà établi que le risque de vers informatiques propulsés par l'IA est crédible ; il estime que les aptitudes démontrées pourraient augmenter de façon significative le nombre d'appareils pouvant être visés, y compris pour servir de relais vers des cibles de plus grande valeur. Ladish note également que même de petits modèles progressent dans l'automatisation d'attaques cybernétiques.
Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Pourquoi les petits modèles changent la donne technique
Les modèles d'IA de dimensions réduites connaissent une évolution rapide, sont capables de tourner sur des équipements accessibles au grand public et sont fréquemment proposés en téléchargement libre, ce qui encourage la recherche d'exécutions distribuées sur des machines peu performantes. À l'opposé, des modèles avancés tels qu'Astra d'OpenAI ou Mythos d'Anthropic, qui peuvent comporter des milliers de milliards de paramètres, requièrent des capacités informatiques considérables et demeurent en grande partie limités aux data centers. Les vers informatiques existent depuis des décennies, mais l'IA pourrait les rendre plus intelligents, plus adaptatifs et leur permettre de franchir plus facilement certains obstacles.
Alerte d’Anthropic, prédictions et limites assumées
Anthropic avertit que de petits modèles d'IA pourraient acquérir des capacités d'auto-réplication dans les prochains mois et estime que des modèles compacts pourraient atteindre, d'ici la fin de l'année, le niveau de GLM-5.2 observé lors de ses tests. L'entreprise prévoit un futur où des agents fonctionneraient sur tout type de matériel, y compris certains hors contrôle humain, tout en reconnaissant ne pas avoir démontré un réplicateur incontrôlé ni pouvoir en décrire précisément la forme. Anthropic affirme observer des signes de vie pour des vers IA et appelle à renforcer la sécurité des appareils susceptibles de servir de vecteurs. Elle précise ne pas avoir utilisé ses propres modèles pour ces tests et considère que les alternatives ouvertes présentent plus de risques que les systèmes fermés. Ces avertissements ont suscité des accusations d'hyperbole et de catastrophisme, alors qu'un écart subsiste entre l'exécution lente d'un modèle sur des boîtiers TV et un ver auto-réplicant dévastant des appareils domestiques. D'autres acteurs travaillent également sur ces questions et plaident pour une meilleure sécurité des objets connectés.
