Brief IA : Demis Hassabis critique la précipitation de l'IA chez Google

Demis Hassabis critique la précipitation de l'IA chez Google

Brief IA
Tom Levy·3 min·6 vues

Demis Hassabis, PDG de Google DeepMind et Prix Nobel de chimie 2024, a déclaré qu'il aurait préféré que l'IA reste en laboratoire plus longtemps pour réaliser davantage de projets comme AlphaFold, utilisé par plus de deux millions de chercheurs. Cette déclaration souligne la tension entre l'innovation rapide en IA et ses applications bénéfiques potentielles, notamment en santé, suggérant qu'une gestion plus prudente pourrait maximiser les bénéfices tout en minimisant les risques.

En bref
1Demis Hassabis, PDG de Google DeepMind, regrette que l'IA ait été précipitée hors des laboratoires, préférant des projets comme AlphaFold.
2AlphaFold, développé par DeepMind, a permis de prédire 200 millions de structures protéiques, aidant deux millions de chercheurs dans le monde.
3Hassabis met en garde contre la perte de contrôle des IA autonomes d'ici deux à quatre ans, appelant à une coopération internationale.
💡Pourquoi c'est importantLa vision de Hassabis souligne les tensions entre progrès scientifique et pressions commerciales dans le développement de l'IA.
Le brief IA que lisent les pros

Tu suis la course aux modèles IA ?

Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.

Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.

Choisis ton rythme

Gratuit · Pas de spam · Désabonnement en 1 clic

📄
L'analyse en français

Demis Hassabis : un Nobel critique la précipitation de l'IA

Demis Hassabis, PDG de Google DeepMind et lauréat du Prix Nobel de chimie 2024, a exprimé ses regrets quant à la rapidité avec laquelle l'intelligence artificielle a été poussée hors des laboratoires. Selon lui, cette précipitation a détourné l'attention des grandes questions scientifiques, telles que celles abordées par le projet AlphaFold, et a peut-être même empêché des avancées majeures comme la guérison du cancer.

En 2024, Demis Hassabis et John M. Jumperle ont été récompensés par le Prix Nobel de chimie pour leurs travaux sur la prédiction de la structure des protéines grâce à l'IA. Cependant, le lancement de ChatGPT en novembre 2022 a provoqué une réaction rapide de Google, qui a placé Hassabis à la tête de l'ensemble de ses projets d'IA, y compris ceux destinés au grand public.

Lorsque ChatGPT a été lancé en novembre 2022, Google a déclenché son alerte rouge interne. Demis Hassabis, qui ne travaillait pas auparavant sur les produits grand public, a alors pris la tête de l'ensemble de l'IA chez Google. Il souhaitait développer l'IA lentement et prudemment, en l'appliquant à des problèmes scientifiques fondamentaux, comme ceux rencontrés au CERN. Cependant, la pression commerciale et la rivalité sino-américaine ont rapidement poussé les laboratoires dans une course aux chatbots, au détriment des grandes questions scientifiques.

AlphaFold : un outil révolutionnaire pour la science

AlphaFold, développé par DeepMind, a résolu un problème scientifique vieux de cinquante ans : le repliement des protéines. Ce système d'IA a permis de prédire la structure tridimensionnelle des protéines, essentielle à leur fonctionnement dans le corps humain.

Plutôt que de restreindre l'accès à ce puissant outil, Demis Hassabis a choisi de rendre environ 200 millions de structures protéiques librement disponibles. Cette décision a permis à plus de deux millions de chercheurs d'accélérer leurs travaux dans des domaines tels que la recherche sur les médicaments et la compréhension des maladies.

Demis Hassabis regrette que la course commerciale ait détourné l'IA des grandes questions scientifiques, mais le succès d'AlphaFold doit beaucoup à un choix de déploiement radical. DeepMind aurait pu proposer un simple service à la demande, où des chercheurs envoient leurs séquences protéiques et reçoivent leurs résultats. Cependant, Demis Hassabis a opté pour un autre choix : sous sa direction, DeepMind a calculé environ 200 millions de structures protéiques pour les mettre librement à disposition du monde entier.

Les dangers de l'ère des agents IA

Demis Hassabis a également mis en garde contre les dangers potentiels de l'IA, notamment l'utilisation malveillante par des groupes terroristes ou des États hostiles. Plus inquiétant encore, il craint que les systèmes IA autonomes ne deviennent incontrôlables dans les deux à quatre ans à venir, entrant dans ce qu'il appelle "l'ère de l'agent".

Pour éviter de tels scénarios, Hassabis appelle à une coopération internationale entre laboratoires, instituts de sécurité et le monde académique. Il souligne que même les experts ne consacrent pas encore suffisamment d'attention à ces enjeux cruciaux.

Suivez Brief IA

L'actu IA du jour, aussi dans votre fil.

Commentaires