Google DeepMind : la biorésilience IA entre promesses et défis

Google DeepMind et Isomorphic Labs : une alliance pour la biorésilience

Google DeepMind, en collaboration avec Isomorphic Labs, a récemment dévoilé un programme ambitieux axé sur la biorésilience. Ce projet vise à limiter les abus potentiels de l'intelligence artificielle dans le domaine de la biologie tout en renforçant la capacité de réponse aux épidémies. Cette initiative, qui a débuté discrètement, a déjà permis d'établir plus de 15 partenariats avec divers organismes, incluant des agences gouvernementales, des organisations de biosécurité et des groupes de recherche, au cours de l'année écoulée.

L'annonce de ce programme s'accompagne d'une mise en garde sur les défis de cadrage. Les modèles avancés comme Gemini développent une compréhension de plus en plus fine de la biologie. DeepMind reconnaît que l'intégration de ces systèmes avec des modèles biologiques spécialisés, tels que sa plateforme Antigravity, et des bases de données externes, ne fera qu'affiner davantage cette capacité.

Cependant, cette même connaissance, qui peut aider à cartographier une cible vaccinale, pourrait également être exploitée par des individus mal intentionnés pour combler leurs lacunes en biologie. DeepMind et Isomorphic Labs décrivent cette situation comme un double mandat : favoriser les avancées scientifiques grâce à l'IA de pointe, tout en empêchant l'accès de ces outils à des fins nuisibles.

Les trois piliers de la biorésilience

Le programme de biorésilience repose sur trois axes principaux :

• Prévenir les abus
• Détecter les épidémies plus rapidement
• Réagir efficacement face aux épidémies ou attaques en cours

Les partenariats établis au cours de l'année dernière abordent ces trois aspects, bien que les détails sur les organisations impliquées soient limités. Parmi les collaborateurs nommés figurent le Lawrence Livermore National Laboratory, l'UK AI Security Institute, CEPI, et le Francis Crick Institute.

DeepMind prévoit d'élargir ces relations dans les six à douze prochains mois, en mettant l'accent sur l'intelligence des menaces, les méthodes d'évaluation pour les agents d'IA, et les stratégies d'atténuation des jailbreaks. L'entreprise collabore également avec le Frontier Model Forum sur des questions telles que la gestion des catégories de données d'entraînement plus risquées, avec un intérêt particulier pour les ensembles de données en virologie.

La protection de Gemini sans entraver la science

La prévention des abus repose sur une modélisation des menaces qui identifie les acteurs les plus susceptibles de tenter des abus et les obstacles qui les empêchent actuellement. DeepMind utilise une combinaison d'expertises en red-teaming et d'essais contrôlés randomisés pour évaluer si Gemini pourrait aider à surmonter ces obstacles.

Les méthodes post-formation visent à apprendre au modèle à refuser des requêtes nuisibles tout en évitant un sur-refus des questions scientifiques légitimes, un équilibre difficile à atteindre dans l'industrie. Des classificateurs et des sondes sont déployés pour signaler les activités risquées en temps réel, et l'entreprise effectue des analyses de journaux ciblées pour détecter des modèles d'abus subtils que les filtres automatisés pourraient manquer.

DeepMind souligne que ces mesures d'atténuation sont en cours de développement et ne représentent pas un système achevé. Un classificateur ajusté contre des modèles de jailbreak connus dans un environnement contrôlé ne garantit pas une performance équivalente face à de nouvelles méthodes d'attaque en situation réelle.

Les défis de la synthèse d'ADN

Un des risques concrets explorés concerne la synthèse d'ADN. Les entreprises membres de l'International Gene Synthesis Consortium filtrent actuellement les commandes en fonction de listes de pathogènes et de toxines nocifs connus, à l'aide d'algorithmes de filtrage. DeepMind note que cette approche montre des signes de faiblesse, car l'IA peut désormais concevoir des séquences d'ADN qui fonctionnent comme un pathogène dangereux sans correspondre suffisamment à sa séquence pour déclencher les filtres existants.

Pour contrer cela, DeepMind propose d'adapter son système de watermarking existant, SynthID, utilisé pour marquer les images et textes générés par l'IA, aux séquences biologiques. Cette adaptation est présentée comme un travail exploratoire, et non comme un produit commercialisé.

Un objectif à long terme, décrit comme un défi technique ouvert, consiste à développer un dépistage capable de prédire si une nouvelle séquence d'ADN est susceptible d'être toxique ou pathogène en fonction de sa fonction, indépendamment de sa ressemblance avec des séquences dans les bases de données existantes.

Réduire les coûts du séquençage pour une meilleure détection

La détection repose sur le séquençage métagénomique, qui caractérise chaque microorganisme dans un échantillon plutôt que de vérifier une liste restreinte de pathogènes connus. Le coût est un facteur limitant majeur, et étendre cette approche aux régions où les épidémies sont les plus susceptibles d'émerger nécessite une réduction significative de ce coût.

DeepMind mentionne une collaboration avec Pacific Biosciences qui a utilisé son agent de codage AlphaEvolve pour améliorer la précision du séquençage, comme un pas vers cet objectif. L'entreprise explore d'autres opportunités, de l'optimisation des algorithmes de traitement des données de séquençage à l'information sur la conception matérielle, et examine si AlphaGenome pourrait aider à caractériser les pathogènes directement à partir des données de séquence.

Ces collaborations restent au stade de la recherche plutôt que d'être des systèmes déployés sur le terrain. La distance entre un gain de précision de séquençage dans un environnement contrôlé et un réseau d'alerte précoce fonctionnel dans des environnements à faibles ressources est considérable.

AlphaFold et l'écart des contre-mesures médicales

Le pilier de la réponse s'appuie sur l'écart des contre-mesures médicales qui laisse de nombreux pathogènes connus sans diagnostic, vaccin ou traitement agréé. DeepMind cite plus de 10 000 publications sur les maladies infectieuses qui ont référencé AlphaFold au cours des cinq dernières années, couvrant des travaux sur la transmission de la tuberculose et du paludisme ainsi que sur la cartographie des cibles pour des menaces telles que Mpox et Nipah.

La dernière addition à ce bilan est un partenariat avec le programme de biorésilience de Lawrence Livermore, qui prévoit d'utiliser AlphaFold 3 pour des travaux de conception d'anticorps à large spectre, y compris un effort d'anticorps pan-filovirus. DeepMind indique qu'elle continuera d'ajouter des structures et des complexes protéiques à la Base de données des structures protéiques AlphaFold cette année, en priorisant les cibles pertinentes pour le développement de contre-mesures.

L'accès à de nouveaux systèmes d'agents, y compris Co-Scientist, est étendu à des chercheurs sélectionnés, parmi lesquels des scientifiques des Laboratoires nationaux du Département de l'énergie des États-Unis travaillant sous la Genesis Mission.

Isomorphic Labs a franchi une étape supplémentaire en créant une unité dédiée à déployer rapidement son moteur de conception de médicaments lors d'une nouvelle épidémie, en collaboration avec des organismes gouvernementaux et de recherche nationaux tels que Lawrence Livermore, l'UK AI Security Institute, CEPI, et le Francis Crick Institute. L'entreprise a également promis 7 millions de dollars à Health for Human Potential, un programme de Philanthropy Asia Alliance, pour la recherche sur les maladies infectieuses en Asie.

Les recommandations de DeepMind aux décideurs américains

DeepMind a formulé des recommandations aux décideurs américains qui s'alignent sur ses trois piliers et reposent sur des législations spécifiques en attente :

• Pour la prévention, elle soutient un cadre fédéral de sécurité de l'IA de pointe, le AI-Ready Bio-Data Standards Act (H.R. 7907), le dépistage obligatoire de la synthèse d'ADN par le biais du Biosecurity Modernization and Innovation Act (S. 3741), et le SCALE Biology Act (H.R. 8981).

• Pour la détection, elle souhaite que le séquençage métagénomique soit étendu aux hubs de transit et aux centres de population dense, soutenu par le America’s Living Library Act (S. 4023) et un financement supplémentaire de la DARPA et des HHS pour la recherche sur les alertes précoces.

• Pour la réponse, elle appelle à la mise en place de la Web of Biological Data Act (H.R. 9307 / S. 4770) et à un investissement dans des capacités de fabrication maintenues « prêtes à l'activation rapide », en parallèle de réseaux d'essais cliniques préétablis et de voies réglementaires plus rapides.

Aucune de ces législations n'a encore été adoptée, et l'écart entre la liste de souhaits politiques d'une entreprise et un cadre fédéral de biosécurité fonctionnel est là où le véritable test de ce programme se déroulera au cours des 6 à 12 mois à venir.