OpenAI crée un panel de neuf mathématiciens hébergé par l’IAS

OpenAI installe un groupe consultatif de neuf mathématiciens, accueilli par l’Institut d’études avancées de Princeton. L’entreprise dit vouloir encadrer la révision et la diffusion de résultats mathématiques, alors qu’elle affirme que son modèle interne a résolu plus de 100 problèmes ouverts. Le périmètre, l’influence et la représentativité de ce panel suscitent déjà des réserves.

OpenAI revendique plus de 100 problèmes ouverts résolus par son modèle

OpenAI affirme que son nouveau modèle a résolu plus de 100 problèmes ouverts de longue date dans la plupart des domaines des mathématiques. L’entreprise associe cette annonce au même modèle qu’elle présente comme ayant résolu le problème du prix Millennium de Navier–Stokes et indique avoir déjà déclaré être en passe de résoudre un autre problème du même palmarès. Face à ce volume de résultats rapportés, le groupe consultatif indique que sa première priorité est de conseiller OpenAI sur la coordination de la publication d’un grand nombre de résultats mathématiques produits par son modèle interne.

Un dispositif créé après des controverses sur annonces et crédits

OpenAI a récemment été accusée de plagiat par des chercheurs, de ne pas créditer le travail humain à la base de ses modèles et de vol par des utilisateurs. Ces controverses ont amené de nombreux mathématiciens à douter de la compréhension et du respect de la discipline par l’entreprise. Martin Hairer estime que les laboratoires d’IA chercheront à orienter les propos du groupe à des fins de communication, mais juge qu’il serait hypocrite de ne pas s’engager alors qu’OpenAI semble faire un effort après de nombreuses critiques. À ce stade, le panel n’a pas encore décidé des conseils qu’il compte fournir, même si Hairer identifie un problème récurrent : des résultats mathématiques très médiatisés dont la publication et la diffusion sont bien en deçà des pratiques acceptées dans la discipline.

Mandat annoncé : réviser, coordonner et publier des conseils publics

Selon OpenAI, le groupe conseillera sur la révision des résultats émergents, leur signification et la coordination de leur diffusion, ainsi que sur les normes académiques et professionnelles en recherche mathématique. Il devra aussi évaluer comment les outils d’OpenAI peuvent soutenir la recherche et l’apprentissage en mathématiques. L’entreprise affirme que le groupe fonctionnera de manière indépendante, pourra donner des avis non sollicités et rendre ses conseils publics, sans préciser les modalités concrètes de publication. Le groupe devrait avoir accès en avant-première à la recherche d’OpenAI pour remplir sa mission.

Indépendance affichée, absence de rémunération et appui de l’IAS

Le panel est hébergé par l’Institut d’études avancées de Princeton. OpenAI indique que ses membres ne seront pas rémunérés et que la composition pourra évoluer librement. L’entreprise affirme que la valeur du dispositif repose sur la capacité des membres à exercer leur jugement et à remettre en question ses positions. Martin Hairer soutient que l’organisation est véritablement indépendante d’OpenAI et des autres laboratoires d’IA dits de pointe. Il précise que, hors exigences de confidentialité, aucun engagement restrictif ne limite la parole publique des membres, qui s’appuient sur l’IAS pour le soutien technique.

Sélection contestée et représentativité limitée d’un groupe de 9

Le groupe réunit neuf universitaires de haut niveau, issus d’institutions telles que Stanford, Harvard, Oxford et Cambridge, et plusieurs sont médaillés Fields ou boursiers MacArthur. Sa petite taille soulève des questions sur sa capacité à couvrir des sujets nécessitant des expertises très spécialisées. Simon Machado, de l’ETH Zurich, critique une sélection jugée opaque, alors que le site du groupe indique qu’il s’est constitué après qu’OpenAI a approché certains membres, puis s’est élargi par invitations pour former un collectif indépendant. Martin Hairer, professeur à l’Imperial College London et à l’EPFL, défend l’indépendance du panel et un objectif de représentation des intérêts de la communauté, tout en reconnaissant qu’il n’est pas un échantillon représentatif. Francesco Fournier-Facio se dit ambivalent, estimant que l’échange avec les mathématiciens ne peut qu’améliorer la situation, mais décrit un ensemble qui ressemble à une tour d’ivoire. Machado doute que ces personnalités puissent porter les préoccupations plus politiques de la communauté, estimant que leur réalité diffère de celle de beaucoup de mathématiciens. Kevin Buzzard s’interroge sur la nécessité d’un organe d’élite pour relayer une demande qui relevait, selon lui, d’une meilleure compréhension du sujet plutôt que de preuves de théorèmes difficiles. Le panel recueille des retours via des échanges avec des collègues, un formulaire public et le blog Proofs and Prompts.