OpenAI accélère le développement d'un chercheur IA autonome

OpenAI redéfinit ses ambitions avec un chercheur IA autonome

OpenAI, la société de technologie basée à San Francisco, a récemment annoncé un changement stratégique majeur dans ses efforts de recherche. L'entreprise se concentre désormais sur la création d'un chercheur IA entièrement automatisé, capable de s'attaquer à des problèmes complexes de manière indépendante. Ce projet ambitieux est décrit comme la nouvelle « North Star » d'OpenAI, un objectif central qui guidera ses initiatives de recherche dans les années à venir. L'entreprise prévoit d'intégrer plusieurs domaines de recherche, notamment les modèles de raisonnement, les agents intelligents et l'interprétabilité des systèmes.

Un calendrier ambitieux a été fixé pour ce projet. OpenAI envisage de développer un « stagiaire IA autonome » d'ici septembre, un système capable de résoudre de manière autonome un nombre limité de problèmes de recherche spécifiques. Ce stagiaire servira de prototype pour un système de recherche multi-agents entièrement automatisé, que la société espère lancer en 2028. L'objectif ultime est de créer un chercheur IA capable de traiter des problèmes trop vastes ou complexes pour les capacités humaines actuelles.

Les domaines d'application potentiels pour ce chercheur IA sont vastes. Ils incluent les mathématiques et la physique, où l'IA pourrait formuler de nouvelles preuves ou conjectures, ainsi que les sciences de la vie, comme la biologie et la chimie. L'outil pourrait également être utilisé pour résoudre des dilemmes commerciaux et politiques. En théorie, tout problème pouvant être exprimé en texte, en code ou même en gribouillis sur un tableau blanc pourrait être soumis à cet outil, ce qui ouvre un champ d'application extrêmement large.

Concurrence et innovation

OpenAI a longtemps été un leader dans le domaine de l'intelligence artificielle, notamment grâce à ses avancées dans les grands modèles de langage. Ces modèles sont utilisés quotidiennement par des centaines de millions de personnes. Cependant, la société fait face à une concurrence croissante de la part d'autres acteurs majeurs comme Anthropic et Google DeepMind. Dans ce contexte, les décisions stratégiques d'OpenAI sont cruciales non seulement pour son avenir, mais aussi pour l'évolution globale de l'IA.

La responsabilité de définir ces objectifs de recherche ambitieux repose en grande partie sur Jakub Pachocki, le scientifique en chef d'OpenAI. Pachocki a joué un rôle clé dans le développement de GPT-4, un modèle de langage révolutionnaire lancé en 2023, ainsi que dans les modèles de raisonnement introduits en 2024. Ces technologies sont désormais au cœur des principaux chatbots et systèmes basés sur des agents.

Lors d'une récente interview, Pachocki a partagé sa vision pour l'avenir d'OpenAI. Il estime que nous approchons d'une ère où les modèles d'IA pourront travailler de manière cohérente et continue, à l'image des humains. Bien que la supervision humaine reste essentielle pour définir les objectifs, Pachocki envisage un futur où un centre de données pourrait héberger un laboratoire de recherche entier.

Vers une résolution de problèmes complexes

L'idée de résoudre les problèmes les plus difficiles du monde grâce à l'IA n'est pas nouvelle. Des figures de proue de l'industrie, comme Demis Hassabis de DeepMind et Dario Amodei d'Anthropic, ont exprimé des ambitions similaires. Sam Altman, le PDG d'OpenAI, a même évoqué des objectifs aussi audacieux que la guérison du cancer. Cependant, Pachocki affirme qu'OpenAI est désormais mieux équipé pour atteindre ces objectifs grâce aux avancées récentes.

En janvier, OpenAI a lancé Codex, une application d'agent capable de générer du code à la volée pour accomplir diverses tâches informatiques. Codex peut analyser des documents, générer des graphiques, et même fournir des résumés quotidiens de courriels et de réseaux sociaux. Des outils similaires, comme Claude Code et Claude Cowork d'Anthropic, ont également vu le jour.

OpenAI indique que la majorité de ses employés techniques utilisent désormais Codex dans leur travail quotidien. Pachocki voit en Codex une version embryonnaire du chercheur IA qu'OpenAI aspire à créer. L'objectif est de développer un système capable de fonctionner plus longtemps avec moins d'intervention humaine. Pachocki explique que l'idée est de concevoir un stagiaire de recherche automatisé à qui l'on pourrait déléguer des tâches nécessitant plusieurs jours de travail humain.

Une évolution technologique prometteuse

L'enthousiasme pour la création de systèmes capables de mener des recherches scientifiques prolongées est palpable. Doug Downey, chercheur à l'Allen Institute for AI, souligne que le succès des agents de codage comme Codex est une source d'inspiration majeure. Il se demande si des systèmes similaires pourraient être développés pour d'autres domaines scientifiques.

Pour Pachocki, la réponse est affirmative. Il considère que nous sommes déjà sur la bonne voie. L'amélioration des capacités générales des modèles d'IA conduit naturellement à des systèmes capables de travailler plus longtemps sans assistance. Il cite l'évolution de GPT-3 en 2020 à GPT-4 en 2023 comme exemple de cette progression. GPT-4 a démontré la capacité de travailler sur des problèmes plus longtemps que son prédécesseur, même sans formation spécialisée.

Les modèles de raisonnement ont également apporté un nouvel élan. En formant les LLM à résoudre des problèmes étape par étape et à revenir en arrière en cas d'erreur, leur capacité à travailler de manière prolongée s'est améliorée. Pachocki est convaincu que ces modèles continueront à se perfectionner.

OpenAI entraîne également ses systèmes à travailler de manière autonome sur des tâches complexes en leur fournissant des exemples spécifiques, tels que des énigmes difficiles issues de concours de mathématiques et de codage. Ces exercices obligent les modèles à gérer de grands volumes de texte et à diviser les problèmes en plusieurs sous-tâches.

Les défis et les risques potentiels

Interrogé sur les risques associés à un système capable de résoudre de grands problèmes complexes avec peu de supervision humaine, Pachocki reconnaît que ces questions sont au cœur des discussions chez OpenAI. Il souligne que l'accélération de la recherche par l'IA, y compris la recherche en IA elle-même, représente un changement majeur dans le monde.

Pachocki identifie plusieurs risques potentiels. Le système pourrait dérailler, être piraté ou simplement mal interpréter ses instructions. Pour atténuer ces risques, OpenAI mise sur le monitoring de la chaîne de pensée, une technique où les modèles de raisonnement notent leurs actions dans un bloc-notes virtuel. Ces notes permettent aux chercheurs de vérifier que le modèle se comporte comme prévu.

En conclusion, bien que le développement d'un chercheur IA autonome par OpenAI promette de transformer de nombreux secteurs, il soulève également des questions importantes en matière de sécurité et d'éthique. La capacité de ces systèmes à résoudre des problèmes complexes de manière indépendante pourrait avoir des implications profondes pour l'avenir de l'IA et de la société dans son ensemble.