Quarante-deux mathématiciens demandent une alerte sur le danger de l’IA

Quarante-deux mathématiciens, dont des lauréats de la médaille Fields, appellent la Royal Society à alerter pouvoirs publics et médias sur les dangers de l’IA avancée. Leur lettre met en avant des estimations de laboratoires situant le risque existentiel au-dessus de dix pour cent et alerte sur des domaines sensibles bien au-delà des mathématiques.

Risque existentiel supérieur à 10 % et menace au-delà des mathématiques

Les signataires citent des estimations de laboratoires d’IA qui placent le risque existentiel au-dessus de dix pour cent et affirment que ces évaluations ne doivent pas être écartées comme du « hype ». Ils signalent aussi qu’il pourrait être trop tard pour intervenir une fois que le danger sera évident pour la population générale. Leur avertissement concerne également d’autres domaines que les mathématiques : ils jugent nécessaire de prévoir une progression équivalente dans la cybersécurité, le contrôle des armes autonomes, la création d’agents biologiques et chimiques, ainsi que dans la désinformation ciblée. Ils indiquent que leur action n’est pas motivée par les conséquences sur la discipline mathématique en elle-même.

Appel à la Royal Society pour saisir gouvernement et médias

Quarante-deux mathématiciens ont adressé une lettre ouverte au président de la Royal Society pour demander à l’Académie britannique des sciences d’alerter le gouvernement et les médias sur les risques liés à l’IA avancée. Aucun des signataires n’est affilié à une entreprise d’IA. Parmi eux figurent des lauréats de la médaille Fields, dont Martin Hairer, Peter Scholze et Wendelin Werner.

Capacités récentes citées : problèmes ouverts résolus par des modèles

Les mathématiciens mentionnent des progrès récents : en l’espace de trois mois, des modèles avancés développés par OpenAI et Anthropic ont apporté des solutions à des questions de recherche restées sans réponse, y compris à l’un des sept problèmes du millénaire. D’après la lettre, ces outils affichent désormais des résultats équivalents à ceux des plus grands mathématiciens humains dans de nombreux secteurs, et il existe une probabilité notable qu’ils acquièrent des aptitudes supérieures à celles de l’humain dans des délais comparables.