Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Des figures de l’IA pressent les décideurs de suivre de près l’automatisation de la recherche, évoquant une possible « explosion d’intelligence ». Plus de 80 % du code validé en mai a été généré par les systèmes d’Anthropic, tandis qu’un accord à la Maison Blanche prévoit des audits externes, jugés encore insuffisamment précis par leurs auteurs.
Chez Anthropic, plus de 80 % du code validé en mai vient de l’IA
Anthropic a indiqué en juin que ses systèmes d’IA avaient produit plus de 80 % du code approuvé en mai. En janvier 2025, la part du code généré par Claude se situait dans les faibles chiffres à un chiffre. Malgré cette accélération, le moment où la recherche en IA deviendra entièrement automatisée reste incertain.
Un accord d’audit externe existe, mais demeure moins précis que souhaité
Anthropic, Google, OpenAI, SpaceXAI et Nvidia ont signé à la Maison Blanche un engagement à collaborer avec un auditeur ou évaluateur externe indépendant. Ce dispositif est toutefois moins précis que ce que demandaient les co-auteurs de l’article d’Alan Chan. Des appels en faveur d’auditeurs indépendants et d’une transparence accrue ont été formulés, soutenus par Dario Amodei. Chan estime que les autorités peuvent encore agir, mais que l’impact de leurs décisions pourrait se réduire avec le temps, et considère la période actuelle comme propice à l’instauration de garde-fous.
Ce que demandent les chercheurs : comprendre et encadrer l’automatisation
Alan Chan et ses co-auteurs exhortent les décideurs à mieux comprendre comment les laboratoires d’IA automatisent leur développement, et à prévoir des mesures telles que des auditeurs intégrés. Plus largement, des chercheurs de premier plan appellent les responsables publics à se préparer à un éventuel saut massif des capacités de l’IA.
Signaux dans les laboratoires : l’IA aide déjà à concevoir l’IA
Selon Anthropic, OpenAI et Google, les systèmes d’IA jouent un rôle de plus en plus important dans la création de nouveaux modèles et dans le soutien des employés sur d’autres tâches. Dario Amodei appuie sa demande de « régulation » des progrès sur le concept d’amélioration autonome récursive, dans le but de garantir le comportement attendu des modèles. Les co-auteurs estiment qu’une automatisation plus substantielle de la R&D est probable dans les prochaines années et que la possibilité d’une automatisation complète sur cette période doit être prise au sérieux.
Entre promesses accélérées et risques de perte de contrôle
Pour Alan Chan, l’automatisation de la recherche en IA n’est ni bonne ni mauvaise en soi : elle pourrait accélérer les découvertes, y compris en médecine, mais aussi multiplier les incidents de perte de contrôle, comme une violation impliquant OpenAI et Hugging Face. Chan souligne que des systèmes bien meilleurs pourraient apparaître beaucoup plus vite, tout comme des technologies nouvelles, mais avec des risques à gérer plus rapidement. L’« explosion d’intelligence » désigne, selon lui, un scénario où les créations d’IA automatiseraient leurs successeurs au point de déclencher des progrès mensuels de niveau « Mythos ». Cette notion est parfois reliée à l’amélioration autonome récursive, que Chan distingue pour séparer l’automatisation de la recherche et l’hypothèse d’une montée fulgurante des capacités. Le secteur s’interroge sur ce qu’impliquerait la capacité de modèles à construire leurs propres successeurs. Chan a exposé ces positions lors d’un échange avec des journalistes et appelle à surveiller de près les travaux les plus avancés.
