La recherche en IA te passionne ?
Les papers et avancées qui comptent, expliqués simplement, chaque soir. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
L'alerte des mathématiciens sur l'IA
Des mathématiciens de renom issus des universités de Cambridge, Oxford, Columbia et ETH Zurich ont publié un document de onze pages soulignant les dangers que l'intelligence artificielle (IA) fait peser sur leur domaine. Ils mettent en garde contre la capacité des systèmes d'IA à produire des arguments qui ressemblent à des preuves mathématiques, mais dont la véracité ne peut être garantie sans un examen approfondi.
Les techniques automatisées actuelles génèrent des arguments qui semblent crédibles mais qui manquent de fiabilité. Ces arguments sont difficiles à distinguer des véritables preuves mathématiques, ce qui inquiète les signataires de la Déclaration de Leiden.
AlphaProof et le manque de transparence
En juillet 2024, Google DeepMind a annoncé qu'AlphaProof avait résolu trois problèmes lors de l'Olympiade Internationale de Mathématiques, obtenant ainsi une reconnaissance équivalente à une médaille d'argent. Cependant, la méthodologie détaillée n'a été rendue publique que le 12 novembre 2025 dans la revue Nature, laissant la communauté mathématique sans les informations nécessaires pour évaluer ces solutions pendant plus d'un an.
Bien que les mathématiciens Tim Gowers et Joseph Myers aient vérifié les solutions présentées lors de la compétition, cela ne remplace pas une évaluation complète de la méthode utilisée. La Déclaration de Leiden souligne que cette pratique d'annoncer des résultats sur des délais commerciaux avant que la communauté puisse se prononcer n'est pas limitée à Google DeepMind, mais touche l'ensemble du secteur.
Problèmes de droits d'auteur et de citation
La Déclaration de Leiden souligne également que les modèles d'IA, souvent entraînés sur des publications mathématiques, omettent fréquemment de citer les travaux humains sur lesquels ils s'appuient. Ces modèles sont parfois construits à partir de données obtenues via des licences et accords d'accès non adaptés à l'IA, voire en violation du droit d'auteur.
En mathématiques, il est essentiel de citer les travaux antérieurs pour assurer la vérifiabilité d'un raisonnement. Leslie Ann Goldberg, responsable du département d'informatique à Oxford, a signé la Déclaration en affirmant que la recherche mathématique repose presque toujours sur des travaux antérieurs. Elle craint que les brouillons générés par l'IA ne saturent la littérature de résultats incorrects, entraînant une propagation d'erreurs.
Appel à la responsabilité des entreprises technologiques
Les signataires de la Déclaration demandent aux entreprises technologiques de ne pas utiliser les publications mathématiques comme données d'entraînement sans le consentement explicite de leurs auteurs. La Déclaration, développée sur huit mois par un groupe de travail de dix-sept membres, a été initiée lors d'un atelier en septembre 2025 au Lorentz Center de Leiden. Elle reste ouverte à la signature de la communauté mathématique.
