Terence Tao says AI drives idea generation cost to near zero but shifts the bottleneck to verification

Terence Tao affirme que l'IA réduit le coût de génération d'idées à presque zéro mais déplace le goulot d'étranglement vers la vérification

Le mathématicien Terence Tao compare l'influence de l'IA et de la formalisation sur la pratique mathématique à l'impact de l'automobile sur le développement urbain. Cette analogie pourrait également s'appliquer à d'autres domaines, y compris la programmation.

Les voitures étaient plus rapides que tout mode de transport précédent, mais elles encombraient des routes construites pour les personnes, les chevaux et les carrosses. De nouvelles routes et autoroutes ont rendu les voyages rapides possibles, mais ont également conduit à l'étalement urbain, à la congestion du trafic et à des problèmes environnementaux. Seule une planification urbaine réfléchie et des réglementations de circulation auraient pu unir ces deux mondes de manière sensée, écrit Tao.

L'infrastructure existante des mathématiques—revues, conférences, mentorat, citations—est semblable à de vieilles routes étroites : construites pour les humains. Les preuves humaines peuvent être lentes, mais elles génèrent des effets secondaires précieux : les chercheurs développent une expertise, cartographient le terrain mathématique, découvrent de nouvelles directions de recherche et documentent des impasses et des détours instructifs.

Tao soutient que les preuves assistées par IA peuvent mener efficacement d'une hypothèse à un résultat, mais perdent exactement ces effets secondaires en cours de route. Elles sont souvent inadaptées aux revues traditionnelles car le récit attendu sur le chemin vers la preuve est presque entièrement absent. Tao compare les tentatives de mise à niveau des modèles IA pour qu'ils produisent des articles publiables à essayer de modifier des voitures pour des rues conçues pour les humains.

Les mathématiques ont besoin d'une nouvelle infrastructure adaptée aux machines

Plutôt que de forcer l'IA dans des structures existantes, Tao pense que la meilleure approche est de créer une nouvelle infrastructure mathématique adaptée aux machines qui complète plutôt que remplace les chemins humains. Il cite en exemple de grands défis mathématiques où les solutions sont vérifiées par des assistants de preuve formels ou des bibliothèques de preuves brutes générées automatiquement que les humains affinent ensuite en versions de meilleure qualité. Tao suggère également une nouvelle discipline de "planification IA", inspirée de la planification urbaine, pour préserver la nature "accessible" des mathématiques.

Dans une conversation avec Dwarkesh Patel, Tao développe ce point de vue : l'IA rend son travail "plus riche et plus large", grâce à plus de graphiques, de code et de recherches littéraires plus approfondies, par exemple. Mais il effectue toujours le cœur de son travail mathématique avec un stylo et du papier. Sans les éléments supplémentaires que l'IA rend possibles en premier lieu, un article ne se composerait pas beaucoup plus rapidement aujourd'hui qu'auparavant, déclare Tao. L'IA n'a pas tant accéléré le travail réel qu'elle a ouvert de nouvelles possibilités.

"Je pense que l'IA a réduit le coût de génération d'idées à presque zéro, de manière très similaire à la façon dont Internet a réduit le coût de la communication à presque zéro. C'est une chose incroyable, mais cela ne crée pas d'abondance par lui-même. Maintenant, le goulot d'étranglement est différent. Nous sommes maintenant dans une situation où, soudainement, les gens peuvent générer des milliers de théories pour un problème scientifique donné. Maintenant, nous devons les vérifier, les évaluer," explique Tao.