Brief IA : DeepMind étend Co‑Scientifique, résultats et limites mesurés

DeepMind étend Co‑Scientifique, résultats et limites mesurés

Brief IA
Tom Levy·5 min·0 vues

Le système Co-Scientifique de Google DeepMind a montré des résultats clés dans seulement 4 % des cas avec ses modules actifs, contre 46 % sans eux et 90 % pour un système de comparaison. Bien qu'il ait réussi à synthétiser trois films minces et à prédire trois caractéristiques sur quatre en biologie, les évaluations par des médecins ont révélé que ses performances sur des benchmarks de santé ne se traduisaient pas en avantages significatifs dans la pratique clinique.

En bref
1Avec ses modules actifs, Co‑Scientifique n’a fabriqué des résultats clés que dans 4 % des cas, contre 46 % sans eux et 90 % pour un système de comparaison.
2En matériaux, trois films minces ont été synthétisés dès le premier essai, et en biologie trois caractéristiques sur quatre ont été correctement prédites.
3L’avantage d’Agent_H sur benchmarks ne s’est traduit qu’en une seule catégorie lors d’une évaluation par trois médecins.
💡Pourquoi c'est importantLe système couvre désormais tout le cycle de recherche avec des garde‑fous mesurés, mais des limites confirmées par des évaluations humaines et des incertitudes de transfert bornent son usage.
Le brief IA que lisent les pros

Tu suis la course aux modèles IA ?

Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.

Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.

Choisis ton rythme

Gratuit · Pas de spam · Désabonnement en 1 clic

📄
L'analyse en français

Le système multi-agents de Google DeepMind passe du simple raisonnement d’hypothèses à un cycle complet de recherche, du plan d’expérience à la rédaction d’articles. Des validations existent dans trois disciplines, mais des écarts entre benchmarks et avis cliniques, des incertitudes de transfert et des erreurs résiduelles cadrent strictement la portée des résultats.

Écarts avec l’avis humain et réserves méthodologiques

Les performances affichées par Agent_H sur des benchmarks de santé ne se sont pas confirmées lors d’une évaluation par des médecins. Trois praticiens certifiés ont noté les réponses sur neuf catégories et n’ont observé d’avantage statistiquement significatif par rapport à Gemini 3.1 Pro que dans une seule dimension, la réduction du risque de réponses potentiellement nuisibles. Les évaluations automatiques ont en outre peu corrélé avec les jugements cliniques, et des chercheurs rappellent que des scores élevés n’impliquent pas des réponses meilleures en pratique. Au-delà des benchmarks, des erreurs résiduelles persistent : le système tend à un reporting sélectif et peut décrire des méthodes plausibles qui ne correspondent pas à son code, selon Samuel Schmidgall. En science des matériaux, après 25 itérations, des structures proches de la cible ont été obtenues mais la confirmation atomique reste en attente, et la transférabilité des recettes vers d’autres laboratoires demeure incertaine.

Ce que le système réalise désormais en laboratoire

Co‑Scientifique s’appuie sur Gemini pour planifier des expériences, programmer et piloter des équipements, puis analyser les résultats et générer les manuscrits. Sa conduite de projet suit trois étapes explicites, de l’idéation à l’expérimentation puis à la rédaction. Le périmètre d’application couvre des scénarios où des humains exécutent des synthèses, des collaborations en biologie et des développements d’architectures d’IA menés en autonomie.

Trois démonstrations: matériaux, biologie, informatique

Selon Google, des résultats validés ont été obtenus dans trois disciplines. Dans le domaine des matériaux, les équipes ont relié le système à un four semi-automatisé, permettant à celui-ci de suggérer une méthode plus sécurisée pour obtenir un matériau 2D jusque-là principalement fabriqué par des méthodes d’etching jugées dangereuses, en ajustant les protocoles aux équipements du laboratoire. Lors d’une autre manipulation, la synthèse de trois couches minces de semi-conducteurs a été réussie dès la première tentative. L’utilisation directe de Gemini 3 Deep Think a permis de réduire le temps nécessaire à l’élaboration des protocoles de plusieurs jours à seulement quelques minutes, bien que le placement des échantillons et des précurseurs ait continué à s’effectuer manuellement et que l’option accélérée ait produit des cristaux de taille plus réduite et d’une uniformité moindre. En biologie, le système a bâti seul un pipeline d’analyse d’images pour prédire les motifs de colonies d’E. coli selon la concentration chimique ; les prédictions issues de Gemini 3 Pro Image ont coïncidé avec des résultats de laboratoire non publiés pour trois caractéristiques sur quatre, tout en restant limitées à l’interpolation entre conditions connues. En informatique, un run entièrement autonome après configuration initiale a mené à la conception d’Agent_H, qui classe les requêtes, génère en parallèle des dizaines de réponses candidates puis les affine ; après correction de la longueur des sorties, Agent_H a dépassé six modèles de référence sur des benchmarks de santé, dont GPT‑5 et Claude Opus 5.

Fiabilité: 4 % de fabrications avec les garde‑fous actifs

La tendance des systèmes autonomes à fabriquer des informations est documentée, avec des analyses rapportant des taux de 80 à 100 % dans certains cas. Co‑Scientifique combine des pénalités contre le contenu fabriqué ou plagié et une vérification séparée qui recale chaque valeur numérique sur les résultats du code exécuté. Testée en double aveugle sur 150 articles par 30 experts pour 450 évaluations, cette architecture a ramené les fabrications clés à 4 % quand les modules étaient actifs, contre 46 % sans eux et 90 % pour un système de comparaison. Aucune donnée entièrement inventée n’a été observée dans les résultats de Co‑Scientifique, alors qu’elle est apparue dans 44 % des articles du système de comparaison. Le quasi‑plagiat a diminué de 60 % à 16 %, et l’architecture de sécurité a rejeté 98,7 % des pistes potentiellement dangereuses.

Cadre et perspectives: boucle fermée et concurrence à l’automne

Présenté initialement en février 2025 sur Gemini 2.0 avec des lacunes en vérification et revue, le système a évolué vers un partenaire de recherche doté de modules de contrôle des affirmations numériques. En biologie, son intégration a inclus des retours d’experts. Des chercheurs y voient un pas vers des agents en boucle fermée qui s’améliorent par retour expérimental et pourraient accélérer la recherche, tout en notant, comme Samuel Schmidgall, qu’un long chemin reste à parcourir pour composer avec les réalités physiques. La recherche automatisée attire l’attention et OpenAI prévoit de présenter à l’automne un agent opéré au moins au niveau d’un stagiaire. Un débat persiste sur la capacité des approches basées sur des LLM à découvrir réellement du nouveau savoir plutôt qu’à extraire des régularités de leurs données d’entraînement.

Suivez Brief IA

L'actu IA du jour, aussi dans votre fil.

Commentaires