Des chercheurs d’Anthropic ont réussi en laboratoire à faire compléter à un petit modèle la chaîne de réplication sur des boîtiers TV à 55 dollars. Ils estiment qu’un réplicateur pleinement autonome pourrait émerger d’ici fin 2026, malgré une propagation lente. Dario Amodei évoque un risque de dommages de l’ordre de centaines de milliards de dollars et alerte sur un possible botnet persistant à l’échelle d’Internet.
Un essaimage lent mais résilient, sans interrupteur central
Les chercheurs décrivent un ver IA qui progresserait lentement, avec des configurations sur de nouveaux appareils prenant entre 28 et 150 heures selon le modèle. Sa structure décentralisée compliquerait fortement toute tentative d'arrêt. Ils estiment qu'un botnet IA pourrait fonctionner sur tous types de matériel, contrairement aux réseaux classiques limités à certains appareils. Dans un scénario équivalent au botnet Kimwolf, qui a infecté plus de deux millions de dispositifs, la puissance totale atteindrait seulement l'équivalent de 40 puces IA spécialisées, et le réseau n'aurait pas d'interrupteur central. Cloudflare rapporte par ailleurs qu'Internet est désormais majoritairement parcouru par des bots plutôt que par des humains.
Quarantaine réseau et fin des mots de passe par défaut, avec adaptation attendue
Pour la défense, les chercheurs avancent que les fournisseurs d'accès pourraient isoler des réseaux infectés, comme lors du cas Mirai où 92 % des infections ont été éliminées en 14 jours. Les fabricants peuvent aussi réduire l'exposition en interdisant les mots de passe par défaut, une mesure déjà appliquée par la loi au Royaume-Uni. Les chercheurs s'attendent toutefois à ce que des botnets animés par des modèles d'IA puissent s'adapter d'eux-mêmes à ces contre-mesures.
Ce que montrent les tests : une chaîne de réplication bouclée en labo
Les expériences ont réparti le modèle Gemma4-26B-A4B sur 15 boîtiers Android TV du commerce, chacun coûtant environ 55 dollars et doté de 4 Go de RAM. Chaque boîtier exécutait une partie des couches du modèle et, malgré la lenteur, l'ensemble fonctionnait. Le protocole de réplication suivait quatre étapes : scan réseau, accès, configuration d'un environnement IA, et propagation, en omettant volontairement la phase de piratage pour se concentrer sur la capacité de configuration sur un matériel inconnu. Un modèle de 9 milliards de paramètres a réussi à établir un environnement exécutant Llama3.1-8B sur 8 des 9 types d'appareils testés. En revanche, l'enchaînement complet de toutes les étapes reste hors de portée de la plupart des modèles. Seul GLM-5.2 a achevé la chaîne de réplication de manière fiable, infectant les huit nœuds dans quatre essais sur cinq. Les chercheurs ont également testé une évolution artificielle où chaque instance transmet des notes de réussite ou d'échec, observant pour Qwen3.5-9B une hausse du taux de réussite de 45 % à 84 % entre la première génération et les suivantes.
Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Capacités manquantes, horizon 2026 et avertissements de Dario Amodei
Un réplicateur IA entièrement autonome n'existe pas encore. Aucun modèle n'est à la fois assez compact pour fonctionner sur des appareils grand public et assez performant pour se répliquer, mais les chercheurs estiment qu'un tel seuil pourrait être franchi d'ici la fin de 2026 si les progrès se poursuivent au rythme actuel. Ils évoquent la possibilité que de petits modèles soient à quelques mois de la copie autonome sur des terminaux mal sécurisés. Dario Amodei alerte sur des dommages pouvant atteindre des centaines de milliards de dollars et, dans un horizon de 6 à 12 mois, sur la capacité d'un essaim à prendre le contrôle de l'Internet via un botnet persistant. Il appelle à ne pas traiter les incidents de sécurité comme des cas isolés, notant des précédents moins graves dans l'industrie, y compris chez Anthropic, et estime que chaque acteur majeur devrait agir comme si un incident s'était produit sous sa propre surveillance. Les chercheurs s'attendent à une prolifération d'agents opérant sur toutes sortes de matériel, y compris hors contrôle humain, où des réplicateurs lents signaleraient des variantes plus agressives à venir. Ils décrivent des vers transportant leurs poids dans le payload et capables d'explorer et de se configurer sur un matériel inconnu.
