Anthropic anticipe des malwares auto-réplicants portés par de petits modèles capables de s’implanter sur des objets connectés. Ses essais montrent des avancées concrètes mais encore lentes et incomplètes, tandis qu’un chercheur appelle à ne pas confondre capacité démontrée et réplication autonome.
Réplication de bout en bout non atteinte et lenteurs marquées
Les essais menés par Anthropic n'ont pas permis à des modèles légers de réaliser une réplication complète, de la découverte de nouveaux dispositifs à la réinfection en boucle. Par exemple, le modèle Gemma4-26B-A4B, réparti sur 15 boîtiers Android TV, a atteint une vitesse de 0,39 jeton par seconde, et la configuration d'inférence a nécessité entre 71 et 150 heures pour ce modèle non optimisé, contre 29 à 51 heures pour Qwen3.5-9B. Anthropic observe néanmoins des progrès vers la mise en place d'infrastructures d'inférence distribuées sur plusieurs machines. Il n'est toutefois pas établi qu'un modèle initierait de lui-même une réplication autonome. Le chercheur Xiaohan Fu souligne que l'étude ne démontre pas que de petits modèles choisiraient de se répliquer seuls et recommande de publier des configurations d'agents reproductibles, incluant prompts et instructions exacts, afin d'éviter d'assimiler une capacité démontrée à une menace de réplication autonome.
Ce que les tests ont réussi à exécuter sur du matériel IoT
Anthropic a fait fonctionner de petits modèles à poids ouverts sur des boîtiers Android TV à bas coût, réels ou simulés, ainsi que sur d'autres matériels IoT, en obtenant l'inférence grâce à la quantification et à la répartition des charges en fragments. Le modèle Gemma4-26B-A4B a atteint l'inférence avec 15 boîtiers dotés de 4 Go de mémoire chacun, et Qwen3.5-9B a pu configurer d'autres modèles de langage sur huit des neuf matériels testés. Les agents utilisaient des outils d'exploitation courants, comme des shells inversés, et suivaient un enchaînement en quatre étapes : identification de cibles, obtention de l'exécution de code, établissement de l'inférence, puis propagation à de nouveaux hôtes. Anthropic précise que la configuration d'inférence dynamique reste la phase la moins étudiée et probablement la plus difficile, nécessitant des choix logiciels, l'installation de dépendances et le débogage de bogues spécifiques à chaque plateforme, avec des étapes interdépendantes et fragiles. L'équipe constate cependant que les petits modèles deviennent progressivement plus autonomes pour résoudre ces problèmes.
Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Menace envisagée sur l’IoT : vers adaptatifs et plus durs à neutraliser
Anthropic met en garde contre la possibilité que des malwares auto-réplicants, portés par de petits modèles d'IA, puissent infecter une large gamme d'objets connectés, y compris des dispositifs inconnus, et estime qu'un tel réplicateur serait difficile à stopper en l'absence de point central, même si sa propagation resterait lente. L'entreprise anticipe que des vers IA pourraient adapter dynamiquement leurs exploits et charges utiles selon la cible, compliquant la défense. Elle décrit des « réplicateurs à petits poids » capables de transporter leurs propres poids de modèle ou de les télécharger à nouveau, puis d'exécuter l'inférence sur l'hôte compromis. Un avantage avancé est la capacité d'apprentissage en cours d'attaque, avec la possibilité de laisser des prompts, du code et des notes pour éviter de répéter des tentatives inefficaces. Ces perspectives prolongent la question de la comparaison avec des vers IoT connus comme Mirai.
Horizon technique : du 30B aux petits modèles attendus en fin d’année
Anthropic rapporte que des modèles de 30 milliards de paramètres peuvent déjà accomplir de nombreuses étapes individuelles de réplication, bien qu'ils échouent encore sur la chaîne complète. Les chercheurs indiquent que le grand modèle GLM-5.2 semble capable de réaliser la réplication de bout en bout de façon fiable. Selon Anthropic, si la progression actuelle se poursuit, de petits modèles pourraient atteindre d'ici la fin de l'année des résultats limités similaires, ce qui ouvrirait la voie à des réplicateurs à petits poids peu après. L'entreprise prévoit également que, d'ici l'année prochaine, des modèles plus compacts pourraient se répliquer de manière autonome sur des dispositifs IoT.
Conditions expérimentales et failles exposées côté Android
Une limite du protocole expérimental tient au fait que les dispositifs Android ciblés exposaient un Android Debug Bridge non authentifié, un outil réservé au développement et déconseillé en production car il donne un accès complet à la pile des dispositifs. Par ailleurs, la réplication n'a pas été assurée par les petits modèles eux-mêmes : le modèle GLM-5.2 a orchestré le processus tandis que les cibles exécutaient un modèle Llama plus petit. Malgré ces réserves, Anthropic souligne que les petits modèles, qui nécessitent moins de ressources matérielles, ont pu démontrer des capacités utiles à la mise en place d'inférence distribuée. L'entreprise relève cependant des défis importants qui limitent la portée immédiate de ces résultats.
