Google Deepmind : les modèles du monde en révolution

Google Deepmind : les modèles du monde en révolution

Les modèles de langage ne peuvent pas déclencher des révolutions scientifiques, mais les modèles du monde pourraient le faire. Dans un document de position intitulé "Les LLM ne peuvent pas sauter", Tom Zahavy de Google Deepmind soutient qu'ils ne le peuvent pas. Ils manquent du mécanisme cognitif nécessaire pour créer quelque chose de véritablement nouveau.

Zahavy construit son argumentation sur un cadre esquissé par Albert Einstein dans une lettre à son ami Maurice Solovine. La découverte, écrivait Einstein, est un cycle : l'expérience sensorielle mène à un "saut" intuitif vers des axiomes, et à partir de là, la déduction logique produit des conclusions testables. Les axiomes sont les hypothèses fondamentales non prouvées d'une théorie.

L'IA gère deux des trois types de raisonnement

Pour identifier où se situe le fossé, Zahavy s'appuie sur une distinction classique du philosophe Charles Sanders Peirce, qui a catégorisé tout raisonnement par la manière dont il relie règles, cas et résultats.

• La déduction dérive des conclusions garanties à partir de règles fixes, comme l'exécution d'un programme produisant une sortie prouvée correcte.

• L'induction repère des motifs dans les données : observer mille cygnes blancs et généraliser que tous les cygnes sont blancs.

• L'abduction est le saut créatif. Elle invente une cause pour expliquer un phénomène surprenant.

Cette troisième forme est celle où Zahavy voit le véritable goulot d'étranglement, et il trace une ligne entre deux niveaux. L'abduction ordinaire choisit l'explication la plus plausible parmi un ensemble de candidats connus, comme un médecin qui associe des symptômes à une maladie. Les modèles de langage peuvent le faire, concède-t-il. La version plus difficile est ce qu'il appelle "l'abduction manipulatrice" : inventer une cause pour laquelle aucun modèle linguistique n'existe encore. Cela, soutient-il, est le véritable goulot d'étranglement de l'invention scientifique, et les machines ne peuvent pas le faire.

L'induction et la déduction, selon le document, sont à portée de main. Les modèles de langage excellent déjà dans la reconnaissance de motifs statistiques et conquièrent rapidement la dérivation formelle également. Des systèmes comme AlphaProof, Gemini et GPT-5 atteignent désormais des scores de niveau or sur les problèmes de l'Olympiade mathématique internationale. Zahavy concède même qu'un modèle de langage pourrait probablement dériver la relativité générale si on lui donnait les hypothèses d'Einstein comme point de départ. Mais formuler ces hypothèses en premier lieu, faire le saut manipulatif pour y parvenir, reste le goulot d'étranglement.

Pourquoi les machines peinent à faire ce saut

Zahavy illustre pourquoi les machines ont du mal avec ce saut en utilisant cette même théorie : les modèles d'IA apprennent généralement en comparant leurs prédictions à la réalité et en ajustant en fonction de l'erreur, l'écart entre la prédiction et le résultat. Sans une erreur détectable, il n'y a rien sur quoi le système puisse travailler. Et c'est la situation à laquelle Einstein était confronté, soutient Zahavy.

Lorsque Einstein travaillait, il n'y avait pas de crise des données. La physique de Newton avait été confirmée avec une précision extrême. La seule anomalie connue, un léger déplacement de l'orbite de Mercure, avait été attribuée à une planète cachée hypothétique appelée "Vulcain". Une IA axée sur l'optimisation n'aurait eu aucune raison de renverser la physique, soutient Zahavy. Suivant la logique de l'argument, elle aurait fait ce que les astronomes de l'époque ont fait : inventer une planète supplémentaire pour expliquer la petite divergence, plutôt que de repenser l'espace et le temps. Les données confirmant la théorie d'Einstein, comme la mesure de la déviation de la lumière par Eddington, n'arrivèrent que des années après la formulation de la théorie.

Un saut nécessite un corps

Alors, d'où vient l'abduction manipulatrice qui a conduit Einstein à ses axiomes ? Zahavy pointe vers la "pensée la plus heureuse" d'Einstein : l'observateur en chute libre qui ne ressent plus la gravité. Cette intuition provient de la simulation incarnée, Einstein jouant mentalement à travers une sensation physique plutôt que de s'en tenir à des équations. Il imaginait un physicien à l'intérieur d'un ascenseur en accélération dans l'espace et conclut que l'accélération et la gravité sont indistinguables de l'intérieur.

Zahavy établit un parallèle avec Archimède, qui n'a pas découvert son principe de flottabilité par le calcul, mais, comme le raconte l'histoire, par la sensation physique de l'eau montant lorsqu'il est entré dans une baignoire. Dans les deux cas, un principe fondamental a émergé qui n'existait pas encore dans le langage de l'époque.

Les modèles de langage manquent exactement de ce ancrage sensoriel. Zahavy les compare à l'expérience de pensée de John Searle, la "Chambre chinoise", où une personne mélange des caractères chinois selon un manuel sans comprendre un seul mot. Les modèles de langage mélangent les symboles de la physique de la même manière, sans accès à l'expérience physique qui donne un sens à ces symboles.

L'AI Scientist de Sakana et AlphaEvolve de Deepmind automatisent de manière impressionnante les flux de travail scientifiques. Mais l'AI Scientist ne recombine que des concepts existants, tandis qu'AlphaEvolve optimise brillamment mais a besoin d'un signal d'erreur clair qu'il peut réduire étape par étape. Einstein n'a jamais eu ce signal. Aucun des deux systèmes, soutient Zahavy, ne peut faire le saut vers un cadre de pensée entièrement nouveau.

Les modèles du monde comme voie vers l'abduction

Comme voie possible, Zahavy pointe vers des modèles du monde physiquement cohérents. Il trace une ligne ici : les générateurs vidéo comme Veo prédisent simplement le cadre suivant le plus probable. Une pomme qui tombe tombe non pas parce que le modèle comprend la gravité, mais parce que tomber est la continuation la plus courante dans les données d'entraînement. C'est encore juste un appariement de motifs.

Les modèles du monde contrôlables par action comme Genie, en revanche, permettent à un agent d'intervenir activement dans une simulation et de réaliser des expériences contrefactuelles, comme couper mentalement un câble d'ascenseur. Un "laboratoire synthétique" comme celui-ci pourrait fournir la boucle de rétroaction nécessaire pour inventer de nouveaux axiomes là où aucun modèle linguistique n'existe encore.