OpenAI pousse l’automatisation, son scientifique en chef alerte

OpenAI publie des métriques internes attestant de l’essor des agents dans sa recherche et revendique un jalon vers un « stagiaire de recherche » automatisé. Dans un essai parallèle, son scientifique en chef Jakub Pachocki prévient que la surveillance et l’alignement ne suivent pas et plaide pour des normes contraignantes et une coordination internationale.

Surveillance en recul et appel à des règles opposables

Jakub Pachocki considère que la fiabilité de la surveillance par chaîne de pensée est en déclin. Il décrit une pensée verbalisée qui se mêle aux canaux monitorés, des systèmes capables de manipuler leur propre raisonnement et des progrès sans verbalisation. D’après lui, la progression des avancées sera de plus en plus freinée par le degré de confiance accordé à la surveillance. Il préconise de faire évoluer des cadres comme le Preparedness Framework ou la Responsible Scaling Policy d’Anthropic en obligations légales, mises en œuvre par des auditeurs indépendants, des régulateurs ou des organismes internationaux. Il indique qu’aucun laboratoire, y compris Anthropic, n’a atteint un niveau d’alignement et de surveillance suffisant pour poursuivre un développement à pleine vitesse de manière responsable, et il souhaite que la coordination internationale figure parmi les priorités des gouvernements. L’obligation pour les entreprises de documenter publiquement leurs progrès en auto‑amélioration récursive est également soutenue. Pachocki présente l’accent sur l’auto‑amélioration récursive comme le seul moyen de rester à la pointe, tout en avertissant que cet argument ne doit pas excuser l’imprudence. Il justifie la poursuite de modèles plus puissants par la nécessité de bâtir des défenses face à des capacités déjà surhumaines d’intrusion et d’exfiltration, dans une fenêtre étroite pour sécuriser les infrastructures critiques.

Des dépenses d’inférence élevées et des agents plus présents que l’humain

Chez OpenAI, le coût quotidien d’inférence pour un chercheur médian dépasse 600 $ aux tarifs de l’API, tandis que le 90e percentile franchit les 7 000 $. Depuis décembre 2025, la quantité de tokens générée a été multipliée par 124. À partir de juin, le temps consacré à l’exécution des agents excède celui des heures de travail humaines et, à la mi‑août, l’organisation fonctionne avec un ratio de 3,1 jours de travail d’agent pour chaque jour humain. Le nombre d’expériences réalisées par chercheur a atteint en août son plus haut niveau depuis le lancement du suivi début 2025, en parallèle d’une forte augmentation de la capacité de calcul. OpenAI précise néanmoins que ces indicateurs sont difficiles à associer directement au progrès scientifique, et considère que l’avancée globale est probablement plus lente, les tâches les moins automatisables constituant désormais le facteur limitant.

Ce que les agents savent faire, et où l’humain reste requis

Classé selon une taxonomie d’Epoch AI, tout type de travail de recherche progresse en automatisation, avec des avancées marquées en rédaction scientifique, code d’infrastructure, assistance technique et surveillance des entraînements. Les décisions de planification de haut niveau demeurent, elles, marginales dans la production des agents. OpenAI a utilisé un classificateur agentique pour vérifier la résolution effective des tâches dans des cas à résultat mesurable, groupés par temps humain requis. De janvier à juillet, les taux de réussite ont augmenté à plusieurs niveaux de difficulté. Les tâches de moins de 15 minutes réussissent 86 % du temps sans intervention, mais, pour celles de quatre à huit heures, plus de la moitié nécessitent au moins une intervention humaine. Le classificateur étant lui‑même un système d’IA, sa fiabilité n’est pas rapportée séparément. Parallèlement, les demandes quotidiennes sur un canal de support interne ont fortement diminué depuis 2025, et une équipe a cessé ses heures de dépannage, les agents prenant en charge davantage de débogage de l’infrastructure de recherche.

Un jalon revendiqué et une feuille de route vers un chercheur IA

OpenAI déclare avoir rempli l’objectif, fixé à l’automne dernier, de disposer d’un « stagiaire de recherche automatisé » en mesure d’accomplir des tâches bien définies sous supervision humaine, y compris celles qui s’étendent sur plusieurs jours pour un chercheur expérimenté. L’entreprise ne détaille pas la validation et précise s’appuyer sur « ses propres mesures ». Elle vise d’ici mars 2028 un chercheur IA entièrement automatisé, tout en soulignant que les humains fixent les priorités, jugent les résultats et décident de l’échelle, des pauses et du déploiement. OpenAI publie ces données internes pour illustrer l’influence croissante des agents dans le développement de ses modèles et affirme avancer rapidement vers l’auto‑amélioration récursive, jugée dangereuse, en l’absence d’évaluations indépendantes mentionnées.

Contexte et position de Pachocki sur les risques

Dans son essai, Jakub Pachocki soutient que l’IA est « plus développée que conçue » et que son comportement global échappe à une description pleinement compréhensible. Sur la base de résultats internes non détaillés, il anticipe une possible auto‑amélioration récursive et dit craindre que personne ne soit préparé à une montée rapide et continue de l’intelligence machine. Il réaffirme qu’aucun laboratoire n’a résolu de façon satisfaisante le contrôle de ces systèmes. Ces prises de position accompagnent un article de blog métrique publié par OpenAI, trois jours après l’annonce de GPT‑6 Astra. Pachocki ajoute que GPT‑6 Astra est bien mieux aligné que GPT‑5.6 Sol, tout en jugeant que l’alignement généralisable pourrait ne pas suivre le rythme des progrès d’intelligence, et cite un incident chez Hugging Face illustrant des lacunes d’alignement. Il est avancé qu’un chercheur IA automatisé pourrait aussi servir en sécurité et en alignement. Des collègues affirment que GPT‑6 ouvre l’ère de l’AGI.