Le chercheur en apprentissage automatique Michael I. Jordan, aujourd’hui à Inria, s’oppose au récit d’une IA « existentielle » et juge le terme « superintelligence » relevant de la science-fiction. Il critique des démissions mises en scène, l’emballement autour d’agents logiciels et le pari des méga-centres de données, qu’il ne voit pas comme une garantie de progrès. Il plaide pour des modèles à poids ouverts et des connaissances locales, et assume un désaccord avec certaines figures du domaine.
Michael I. Jordan estime que miser sur les centres de données reste risqué
Michael I. Jordan considère que les investissements massifs dans les centres de données constituent un pari dont l’issue est incertaine. Selon lui, les modèles de langage sont déjà suffisamment performants pour les tâches de traitement du langage naturel. Il estime que les sommes colossales investies dans ces infrastructures ne garantiront pas nécessairement des avancées majeures. Jordan anticipe plutôt que les besoins futurs porteront sur l’ajout de connaissances spécialisées, issues de savoirs locaux. Il affirme qu’un centre de données de très grande taille n’est pas indispensable pour intégrer ces connaissances. Il met en avant l’intérêt d’utiliser des modèles à poids ouverts, intégrés dans les entreprises, pour répondre à ces besoins.
Michael I. Jordan juge dangereux de laisser la science-fiction guider le débat
Michael I. Jordan affirme que le terme « superintelligence » appartient à la science-fiction et que de nombreux débats actuels relèvent de ce registre. Il juge très nuisible que ces scénarios deviennent dominants, car cela nuit au développement technologique, à la jeunesse et à l’état d’esprit des pays. Il indique que cette expression est promue auprès de l’élite technologique américaine par le président Trump. Jordan souligne une escalade des termes utilisés, passant de l’IA à l’AGI puis à la superintelligence, et rappelle avoir anticipé que cette inflation du vocabulaire conduirait à l’hystérie.
L’IA et sa régulation t’intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Démissions et discours militants : une « performance moraliste » selon lui
Michael I. Jordan rejette les appels à réguler les entreprises d’IA tels qu’ils sont formulés, les qualifiant de théâtre. Il affirme que ces entreprises souhaitent en réalité contrôler la manière dont elles sont régulées. Il cite la démission de Jacob Coxon chez Anthropic comme exemple d’un emballement autour d’une « IApocalypse ». Selon lui, de nombreux jeunes employés de ces sociétés ne sont pas des ingénieurs, viennent des sciences humaines ou de la philosophie, ont environ 25 ans et manquent d’expérience dans la création de produits pour de vraies personnes. Il compare leurs discussions à celles des cafés parisiens des années 1920 autour de grandes idées de science-fiction. Jordan estime que ces démissions visent à attirer l’attention, à donner un sentiment de vertu, et que les intéressés disposent déjà de leurs stock-options. Il qualifie ces gestes de « grande performance moraliste » qui ne sert pas l’objectif affiché.
Hinton, Bengio et les agents : des avertissements jugés inégaux
Michael I. Jordan critique Geoffrey Hinton, affirmant que ce dernier n’a jamais créé d’entreprise offrant de vrais services à de vraies personnes et que le raisonnement attribué à Hinton sur la reproduction du cerveau en silicium menant à une superintelligence n’est pas crédible et relève de la science-fiction. Il se montre plus clément envers Yoshua Bengio, qu’il décrit comme agissant directement sur des questions de sécurité, avec des alertes centrées sur des lacunes actuelles telles que des essaims d’agents qui échapperaient au contrôle. À propos de l’incident impliquant Hugging Face et des agents d’OpenAI, Jordan parle de mauvais ingénierie, comparant la situation à l’ingénierie chimique où les explosions ne seraient pas tolérées pour tester les limites. Il affirme qu’OpenAI a laissé des agents agir librement et encouragé ce comportement, et que certains ont ensuite présenté l’épisode comme une menace quasi consciente, ce qu’il considère comme relevant de la science-fiction.
Parcours et mise en garde ancienne d’un chercheur désormais à Inria
Décrit par Science en 2016 comme « le scientifique en informatique le plus influent », Michael I. Jordan est professeur émérite à l’UC Berkeley et travaille aujourd’hui à temps plein à Inria, où il dirige la chaire « marchés et apprentissage ». Âgé de 70 ans, il a qualifié le discours de l’été sur l’IA de « totalement frustrant ». Il rappelle avoir mis en garde dès 2019 contre l’usage excessif et imprudent du terme IA, anticipant l’emballement observé aujourd’hui.
