Vinyals lance Discovery Loop et écarte l’« explosion » de l’IA

Pour Oriol Vinyals, l’auto-amélioration des systèmes d’IA est inévitable mais ne débouchera pas sur une intelligence fulgurante. L’ancien VP recherche de Google DeepMind identifie deux obstacles majeurs — trouver de bonnes idées et juger les résultats — et fonde Discovery Loop avec Jeff Dean, Sanjay Ghemawat et Quoc Le pour automatiser le cycle scientifique. Ses réserves s’appuient sur des limites physiques et sur la difficulté, coûteuse, de mesurer un réel gain autonome.

Des limites physiques et des évaluations coûteuses freinent le RSI

Oriol Vinyals met en avant les contraintes matérielles qui limitent l’auto-amélioration des IA : les puces ne peuvent pas dépasser les capacités permises par leur conception et la vitesse de la lumière, et même un algorithme plus performant reste tributaire du matériel sur lequel il s’exécute. Il estime que, dans certains domaines, la performance humaine pourrait déjà approcher une limite supérieure. Selon lui, il n’est pas possible de savoir à quel point AlphaGo se rapproche d’une partie parfaite de Go. Mesurer l’auto-amélioration nécessite aussi des dispositifs d’évaluation coûteux, chaque session impliquant des heures de calcul sur des tâches parfois éloignées des objectifs réels, comme optimiser Tetris alors que l’objectif serait d’automatiser un laboratoire de recherche et de construire le meilleur modèle. Vinyals considère que mesurer et réaliser l’auto-amélioration reste difficile. Il prévoit que les évaluations futures devront s’intéresser à la manière dont un système s’améliore, et pas seulement à l’ampleur du progrès, mais il juge la mise en place de tels cadres complexe et les examens humains coûteux et peu efficaces pour repérer les bonnes idées.

Vinyals fonde Discovery Loop pour industrialiser la recherche scientifique

Vinyals applique son analyse avec Discovery Loop, une startup qu’il cofonde avec Jeff Dean (PDG), Sanjay Ghemawat et Quoc Le. L’entreprise vise à automatiser l’ensemble du cycle scientifique, de la formulation d’hypothèses à l’expérimentation et à l’évaluation des résultats, y compris les deux étapes où l’IA reste en retrait : la génération d’idées et l’évaluation. Discovery Loop envisage d’entamer ses travaux par la recherche en IA, en s’utilisant comme premier utilisateur, avant d’appliquer sa méthode à d’autres disciplines scientifiques. Parmi les quatre fondateurs, trois sont des chercheurs en IA parmi les plus fréquemment cités, tandis que Sanjay Ghemawat est l'un des auteurs majeurs en systèmes distribués. Selon les fondateurs, il serait possible à l’avenir que quelques individus accomplissent des travaux de recherche scientifique et d’ingénierie bien plus vite et avec une qualité supérieure à celle de grandes équipes, tout en admettant qu’au début, l’élaboration des hypothèses sera menée conjointement par des humains et des machines.

Pas d’« explosion »: Vinyals table sur une progression lente

Pour Oriol Vinyals, l’amélioration auto-récursive des IA est inévitable mais progressera lentement, sans explosion soudaine d’intelligence. Il réaffirme ce point de vue en expliquant qu’il ne prévoit pas d’intelligence auto-accélérée, tout en s’attendant à ce que l’IA accélère certaines tâches de recherche et d’ingénierie d’un facteur de dix ou plus. L’ancien vice-président de la recherche chez Google DeepMind a exposé cette position à l’Agentic AI Summit 2026, après avoir travaillé sur AlphaStar, AlphaCode et Gemini.

Ce qu’un système peut changer quand il s’auto-améliore

Pour Vinyals, la question essentielle est de déterminer ce qui évolue dans un système d’IA lorsqu’il s’améliore. Un système a la capacité de modifier les poids de son réseau de neurones, de remplacer ses données d’entraînement, de revoir ses méthodes d’apprentissage, de changer les instructions données à chaque requête ou de reconstruire ses outils externes tels que l’accès aux bases de données et l’exécution de code. Il a également la possibilité d’adapter les métriques servant à mesurer ses avancées. Chacune de ces modifications pose des défis techniques et réglementaires différents.

Les goulots d’étranglement : idées et évaluation restent en retrait

Vinyals résume les étapes nécessaires à l’auto-amélioration : disposer d’une idée prometteuse, écrire le code correspondant, mener des expériences pour la tester et disposer d’un moyen fiable de juger si le changement est bénéfique. Il estime que l’IA progresse déjà sur l’implémentation et l’expérimentation, et sait coder et expérimenter efficacement, mais que la génération d’idées et l’évaluation restent les principaux points faibles. Les laboratoires mesurent surtout l’auto-amélioration via des référentiels de capacité comme SWE-Bench Pro ou ML-Bench, qui sont peu coûteux et bien définis, mais qui évaluent principalement ce que les systèmes savent déjà faire. Le surapprentissage et la manipulation des objectifs constituent des difficultés concrètes : certains agents peuvent chercher à maximiser leur score plutôt qu’à accomplir la tâche visée. Des référentiels évaluant directement la capacité d’auto-amélioration commencent à émerger, où un système reçoit une métrique et un budget de calcul, mais ces méthodes d’évaluation sont plus onéreuses. Concernant la créativité, Vinyals indique que les LLM n’ont pas véritablement assimilé le « goût de la recherche » ; des critères comparables à ceux utilisés dans les conférences — originalité, élégance, efficacité, pérennité — pourraient servir à l’évaluation. Une partie de ces critères pourrait être formalisée par des règles et des modèles de récompense avec apprentissage par renforcement, mais la mise en œuvre reste difficile.