La recherche en IA te passionne ?
Les papers et avancées qui comptent, expliqués simplement, chaque soir. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Des dirigeants d'entreprises d’IA, des chercheurs et des biologistes alertent sur le risque d’un détournement des modèles vers des usages biologiques malveillants. Des tentatives d’abus ont été rapportées et des expériences passées montrent la facilité à générer des molécules dangereuses. D’autres scientifiques jugent toutefois les capacités actuelles de l’IA insuffisantes pour fabriquer des armes biologiques, et pointent des menaces déjà présentes comme la grippe aviaire.
Des signaux récents : H5N1 en tête des menaces et mises en garde publiques
Selon Wendy Barclay, professeure de maladies infectieuses à l'Imperial College de Londres, les agents pathogènes déjà présents dans la population représentent la principale source de risque pandémique. Parmi eux, elle mentionne le virus H5N1, qui a causé la mort de millions d'oiseaux et qui circule largement dans le cheptel laitier aux États-Unis. Ce même virus a été identifié le mois dernier chez des visons maintenus en captivité dans une exploitation de l’Utah. Parallèlement, Kevin Esvelt, biologiste au MIT, a indiqué qu'un modèle de langage avait révélé une nouvelle forme d'arme biologique à laquelle il n'avait pas pensé, et a appelé publiquement à la prudence.
Tentatives d’abus et précédents alarmants documentés
La semaine dernière, Anthropic a indiqué que certains utilisateurs avaient essayé de se servir de ses modèles pour rechercher comment rendre le virus chikungunya plus contagieux, concevoir une version de la grippe aviaire plus dangereuse pour l’humain, ou encore établir un répertoire de peptides toxiques issus de venins. En 2022, une équipe de Collaborations Pharmaceuticals a démontré qu’un générateur de molécules basé sur l’IA, conçu à l’origine pour la découverte de médicaments, avait généré 40 000 molécules en moins de six heures, dont une partie avait été conçue pour dépasser la toxicité d’agents neurotoxiques connus. Les auteurs de cette étude y voyaient un signal d'alarme pour la communauté de l'IA appliquée à la découverte de médicaments.
Garde-fous en place et leurs limites
Plusieurs dispositifs existent pour limiter les risques : les fournisseurs d'ADN filtrent les commandes suspectes, des exercices de red-teaming sont menés pour identifier les usages malveillants possibles, des analyses de blue-teaming proposent des atténuations, et des entreprises d'IA ajustent leurs outils pour limiter la diffusion d'informations sensibles. Cependant, aucune de ces protections n'est infaillible. David Magnus, professeur à Stanford, décrit une dynamique de va-et-vient entre protections et contournements, estime que l'IA est particulièrement apte à contourner les barrières, et anticipe qu'il faudra probablement recourir à l'IA elle-même pour en restreindre l'usage.
Un risque discuté : avertissements, scepticismes et horizon de préparation
Dario Amodei, directeur général d’Anthropic, a récemment affirmé que l’intelligence artificielle comporte des dangers importants et que le développement devrait être freiné ; Sam Altman, à la tête d’OpenAI, a partagé ce point de vue en prônant la prudence. Jacob Coxon a quitté Anthropic en reprochant à Anthropic et OpenAI un manque de responsabilité, et en déclarant que certains créateurs d’IA pensent qu’elle pourrait entraîner l’extinction de l’humanité d’ici la fin de la décennie. Evan Hubinger, qui travaille chez Anthropic, a partagé cette préoccupation et a évalué la probabilité de ce scénario à plus de 10% au cours des dix prochaines années. À l’opposé, des biologistes de l’Imperial College de Londres ont, lors d’un point presse, affirmé que les outils disponibles aujourd’hui ne permettent pas de concevoir des armes biologiques abouties et que le développement de nouveaux agents pathogènes nécessite encore un investissement humain considérable, certains jugeant les mesures actuelles suffisantes. Dunja Sabra, spécialiste de la biosécurité à l’Université de Hambourg, met en avant la capacité des modèles de langage à délivrer des explications scientifiques, des consignes ou des tutoriels vidéo, alors que l’accès à la biotechnologie s’élargit grâce à l’édition génétique, la biologie synthétique et la biologie DIY. Selon elle, une personne suffisamment motivée finirait probablement par réussir, et elle recommande, sur une période de cinq à dix ans, de renforcer les systèmes de santé, de prévoir des antidotes pour les toxines connues et de constituer des réserves de médicaments. David Magnus, qui étudie ces risques depuis la fin des années 1990, estime que la situation est aujourd’hui nettement plus préoccupante. Parmi les scénarios de menace évoqués figurent des virus hautement létaux ciblant des individus selon leurs gènes, des champignons détruisant des cultures ou des toxines indétectables dans l’eau.
