L’IA et sa régulation t’intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Devant des élus new-yorkais, Jacob Coxon, ancien d’Anthropic et d’OpenAI, a décrit des jalons internes vers un « chercheur IA automatisé » et prévenu d’un calendrier en mois. Il appelle à plus de transparence et à un ralentissement, alors que Dario Amodei et Sam Altman se disent favorables à freiner et à réguler la frontière.
Des jalons vers un « chercheur IA automatisé » et un horizon en mois
Jacob Coxon a expliqué qu'il existait chez OpenAI des étapes prévues pour parvenir à un chercheur en IA automatisé autour de 2027 et 2028, et que ces objectifs sont en bonne voie ou pourraient être atteints plus tôt. Selon lui, l'échéance se compte désormais en mois plutôt qu'en décennies ou même en cinq ans. Il a résumé son expérience en déclarant qu'à son dernier poste, il travaillait, d'une certaine manière, à s'automatiser. Coxon a averti qu'une fois l'IA capable de mener seule ses recherches, les humains seraient encore plus éloignés du processus qu'ils ne le sont aujourd'hui, ce qui pourrait rendre impossible le contrôle des résultats.
Pratiques actuelles et manque de garanties selon Coxon
Jacob Coxon affirme que l'automatisation de la recherche est devenue l'objectif principal des laboratoires d'IA de pointe. Il observe que la majorité du code écrit aujourd'hui est générée par l'IA et que ce code n'est plus vérifié avec la même attention. Fort de son expérience chez Anthropic et OpenAI, il estime que les entreprises avancent sans garanties suffisantes, juge plus probable une perte de contrôle face à ces systèmes et évoque un risque pouvant aller jusqu'à l'extinction humaine. Il décrit un état d'esprit de startup, consistant à aller vite, casser puis réparer ensuite, qu'il considère adapté à une application de partage de photos mais inadapté à la construction de ce qu'il qualifie de technologie la plus puissante jamais créée. Dans ce contexte, il a appelé à ralentir le développement et à accroître la transparence des laboratoires.
Amodei prône un ralentissement, Altman soutient une régulation de la frontière
Quelques jours après la démission de Jacob Coxon, Dario Amodei, PDG d’Anthropic, a publié un essai d’environ 4 000 mots appelant l’industrie à ralentir le rythme d’amélioration des capacités des modèles d’IA. Il y écrit que le progrès paraîtra toujours rapide et qu’il faut employer avec discernement le temps ainsi gagné. En réponse, Sam Altman, PDG d’OpenAI, a affirmé sur X partager l’objectif de réguler la frontière, précisant que ce thème occupe les discussions d’OpenAI ces dernières semaines. Lors de l’annonce de sa démission dans un message viral, Jacob Coxon avait accusé Anthropic et OpenAI de ne pas agir de manière responsable et d’« avoir parié avec nos vies ».
Une audition new-yorkaise sous le signe de la responsabilité
L’intervention de Jacob Coxon s’est inscrite dans une audition de plusieurs heures organisée à New York, réunissant un panel de lanceurs d’alerte de l’industrie et des représentants d’OpenAI, d’Anthropic, de Google et de Meta. La présidente du conseil municipal, Julie Menin, a assuré que la démarche n’avait pas pour but d’étouffer l’innovation mais de garantir qu’elle se déploie de manière responsable. L’audition s’est tenue un lundi devant des législateurs de New York. Sollicitées au sujet des remarques de Jacob Coxon, OpenAI et Anthropic n’ont pas répondu immédiatement un mardi. Jacob Coxon, 27 ans, a rappelé avoir travaillé tant chez Anthropic que chez OpenAI.
