Le mea culpa du Prix Nobel de l'IA : pourquoi la course à ChatGPT était une erreur

Le mea culpa du Prix Nobel de l'IA : pourquoi la course à ChatGPT était une erreur

Demis Hassabis, PDG de Google DeepMind et Prix Nobel de chimie 2024, a déclaré que s'il avait eu le choix, il aurait préféré garder l'IA en laboratoire plus longtemps, réaliser davantage de projets comme AlphaFold et peut-être même guérir le cancer. Actuellement, plus de deux millions de chercheurs utilisent cet outil.

En 2024, Demis Hassabis et John M. Jumperle ont conjointement reçu le prix Nobel de chimie pour leurs contributions à la recherche en IA appliquée à la prédiction de la structure des protéines.

Lorsque ChatGPT a été lancé en novembre 2022, Google a déclenché son alerte rouge interne, et Demis Hassabis a pris la tête de l'ensemble de l'IA chez Google, y compris des produits grand public sur lesquels il ne travaillait pas auparavant. Il souhaitait alors développer l'IA lentement et prudemment, en l'appliquant à des problèmes scientifiques fondamentaux, comme ceux rencontrés au CERN. Cependant, la pression commerciale et la rivalité sino-américaine ont rapidement poussé les laboratoires dans une course aux chatbots, au détriment des grandes questions scientifiques.

« Done more things like AlphaFold, maybe cured cancer or something like that », a-t-il confié à Cleo Abram lors d'un podcast début avril.

AlphaFold, un outil de recherche ouvert à tous les scientifiques

AlphaFold est le système d'IA que DeepMind a développé pour résoudre un problème vieux de cinquante ans : le repliement des protéines, dont la structure en trois dimensions détermine le fonctionnement dans le corps humain.

Demis Hassabis regrette que la course commerciale ait détourné l'IA des grandes questions scientifiques, mais le succès d'AlphaFold doit beaucoup à un choix de déploiement radical. DeepMind aurait pu proposer un simple service à la demande, où des chercheurs envoient leurs séquences protéiques et reçoivent leurs résultats. Cependant, Demis Hassabis a opté pour un autre choix : sous sa direction, DeepMind a calculé environ 200 millions de structures protéiques pour les mettre librement à disposition du monde entier.

Aujourd'hui, plus de deux millions de chercheurs les utilisent, tant dans la recherche sur les médicaments que dans la compréhension des maladies. Ce déploiement massif et ouvert a donc accéléré la science bien plus qu'un accès restreint ne l'aurait fait.

Dans deux à quatre ans, les agents IA pourraient échapper à tout contrôle

Le patron de Google DeepMind met en garde contre deux dangers. D'une part, l'usage malveillant de l'IA par des groupes terroristes ou des États hostiles. D'autre part, et c'est ce qui l'inquiète le plus, la perte de contrôle sur les systèmes eux-mêmes, lorsque ceux-ci entreront dans ce qu'il appelle « l'ère de l'agent », une période où des logiciels accompliront des tâches entières de manière autonome, dans les deux à quatre ans à venir.

Il sera alors nécessaire de mobiliser toutes les ressources humaines pour garantir que ces agents fassent exactement ce qu'on leur demande, sans contourner ni enfreindre accidentellement leurs garde-fous.

Demis Hassabis a appelé à une coopération internationale entre laboratoires, instituts de sécurité et monde universitaire, en admettant que même les experts n'y consacrent pas encore assez d'attention.