Richard Sutton : l'IA générative échoue en science

Richard Sutton, éminent lauréat du prix Turing, a récemment exprimé ses réserves quant à la capacité des systèmes d'IA générative à accomplir de véritables découvertes scientifiques. Selon lui, ces systèmes manquent d'une compétence cruciale : l'évaluation et le développement de leurs propres résultats.

Les grands modèles de langage et autres générateurs d'images, bien qu'efficaces pour imiter des exemples existants, échouent souvent à innover de manière significative. Sutton souligne que, même si ces modèles peuvent produire des résultats impressionnants, ceux-ci sont souvent dus à la qualité du matériel source. En revanche, les résultats véritablement novateurs sont rares et souvent peu fiables, une situation qu'il illustre par une blague de chercheur : "Ce travail est à la fois novateur et bon. Malheureusement, les parties qui sont bonnes ne sont pas novatrices, et les parties qui sont novatrices ne sont pas bonnes."

Sutton reconnaît néanmoins l'utilité de l'IA générative dans des domaines tels que les résumés ou le divertissement, où l'innovation n'est pas nécessairement l'objectif principal. Cependant, il insiste sur le fait que pour la science, l'imitation ne suffit pas. La découverte scientifique repose sur un processus en trois étapes : variation, évaluation et rétention sélective. Les systèmes doivent générer des options, les tester, et conserver celles qui fonctionnent.

Des systèmes comme AlphaGo, AlphaFold et Claude Code illustrent cette capacité à aller au-delà de la simple génération. Ces modèles intègrent des boucles d'évaluation qui permettent une véritable créativité et découverte. Par exemple, un coup au Go peut être évalué par sa capacité à augmenter les chances de victoire, tandis qu'un programme peut être testé pour sa capacité à s'exécuter correctement.

Sutton critique également la direction actuelle de l'industrie de l'IA, qui se concentre trop sur l'augmentation de la taille des modèles de langage sans permettre un apprentissage continu et autonome. Il plaide pour des agents d'IA qui interagissent avec leur environnement et apprennent de manière continue, construisant des modèles internes du monde et développant de nouvelles stratégies.

Dans son architecture Oak, Sutton propose une approche où les agents commencent sans connaissances spécialisées, interagissent avec leur environnement, et forment des concepts abstraits au fil du temps. Cette approche nécessite un apprentissage continu fiable, un défi que les réseaux neuronaux actuels peinent encore à relever.