Maths : OpenAI sommé de prouver l'usage des données

Andreas Thom met en cause l’éthique et la transparence d’OpenAI, qu’il soupçonne d’avoir tiré parti d’échanges d’utilisateurs pour des résultats scientifiques. Au-delà de son cas, des chercheurs redoutent une course aux publications attisée par les rumeurs et la puissance industrielle, alors qu’OpenAI revendique des avancées majeures.

Des chercheurs redoutent plus de secret et une course aux résultats

De nombreux chercheurs expriment la crainte que la simple existence de rumeurs sur des avancées majeures suffise à déclencher une compétition avec un groupe technologique doté de moyens importants. Les remarques d’Andreas Thom s’inscrivent dans un climat d’inquiétude croissante envers OpenAI dans les milieux mathématiques. L’entreprise a annoncé avoir résolu un des problèmes du Millennium Prize, une réalisation présentée comme extraordinaire qui, si elle est vérifiée, serait difficile à contester. OpenAI a expliqué avoir décidé de s’attaquer à ce problème après avoir entendu des rumeurs en ligne sur les progrès d’autres chercheurs. Sollicitée, la société n’a pas immédiatement répondu à une demande de commentaire.

Thom exige des preuves sur l’usage des données et dénonce une réponse jugée fallacieuse

Andreas Thom a contacté par courriel Sébastien Bubeck et Mark Sellke pour savoir si ses échanges avec ChatGPT avaient pu être intégrés à l’entraînement ou au raisonnement des modèles d’OpenAI. Il affirme n’avoir reçu qu’une réponse portant sur l’accès direct à ses conversations, sans éclaircissement sur leur éventuelle inclusion dans les ensembles d’entraînement. Selon lui, aucune qualification, explication ou preuve n’a été fournie, ce qu’il considère comme de la malhonnêteté. Thom estime que les chercheurs ne peuvent pas rétroconcevoir le pipeline d’entraînement d’OpenAI et que seule l’entreprise détient les données pertinentes. Il juge qu’en cas de dénégation, il revient à OpenAI de divulguer les ensembles nécessaires et de préciser les paramètres et termes d’utilisation des données. Il considère également qu’une réponse catégorique de Mark Sellke était injustifiablement large et matériellement trompeuse, et, avec le recul, manifestement malhonnête. Thom estime qu’il serait éthiquement indéfendable que des recherches non publiques fournies par des utilisateurs servent à améliorer des modèles utilisés ensuite pour les devancer sans consentement, divulgation appropriée ni crédit. Selon lui, la distinction faite par OpenAI entre données spécifiques et données dé‑identifiées ne répond pas au fond, car la dé‑identification ne retire pas le contenu intellectuel d’une idée mathématique.

Ce qu’OpenAI affirme au sujet de Navier‑Stokes et des données d’utilisateurs

OpenAI affirme que ni ses chercheurs ni ses agents n’ont eu accès aux travaux d’autres équipes avant leur publication publique, et qu’aucune donnée spécifique d’utilisateur n’a été utilisée pour résoudre le problème des équations de Navier‑Stokes, qui concernent le mouvement des fluides. L’entreprise précise toutefois qu’elle ne peut pas exclure que des données dé‑identifiées issues de l’utilisation de ses produits aient contribué à améliorer ses modèles. Cette position, relevée publiquement et dans ses échanges avec Tristan Buckmaster, alimente les interrogations sur l’origine des résultats mis en avant.

La théorie des groupes au cœur des critiques d’attribution

OpenAI a annoncé le mois dernier dix résultats, dont un sur les groupes non‑sofiques, domaine d’expertise d’Andreas Thom. L’entreprise a reconnu que ce résultat s’appuyait fortement sur des travaux antérieurs de Thom et de Gábor Kun. Après l’annonce, de vives critiques ont émergé dans la communauté mathématique concernant l’absence de mention des contributions récentes de ces auteurs, et OpenAI a discrètement modifié son article. Andreas Thom a été surpris de constater un usage approfondi de méthodes qui, selon lui, n’étaient ni les plus intuitives ni les plus porteuses à l’époque où elles ont été mises en œuvre. Les groupes non‑sofiques désignent des objets mathématiques infinis qui ne sont pas susceptibles d’être approchés par des objets finis.

Le précédent Buckmaster et l’ombre de Codex

Le questionnement public de Tristan Buckmaster, qui a utilisé Codex d’OpenAI dans ses travaux, a amené Andreas Thom à s’interroger sur ses propres interactions avec ChatGPT. Thom a ensuite exposé ses préoccupations publiquement. Buckmaster travaillait, à titre personnel, avec Levent Alpöge, chercheur chez Anthropic. Parmi ses interlocuteurs chez OpenAI, Thom a notamment écrit à Mark Sellke, statisticien à Harvard.