Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
David Robinson, ancien responsable des systèmes de sécurité d'OpenAI, dit avoir quitté l'entreprise face à un décalage entre discours prudent et rythme réel de développement. OpenAI met en avant des pratiques de sécurité et des appels à réguler la « frontière » de l'IA.
OpenAI met en avant prudence et mécanismes de freinage
OpenAI affirme renforcer ses pratiques de sécurité à mesure que ses modèles deviennent plus performants et indique travailler à anticiper les risques liés à de futures avancées, selon un porte-parole. L'entreprise précise qu'elle veille à ne pas dépasser sa capacité à gérer et sécuriser ses systèmes, et qu'elle peut suspendre ou retenir des modèles si nécessaire pour ralentir leur développement. En septembre, Jakub Pachocki, scientifique en chef d'OpenAI, a souligné la nécessité d'une extrême prudence concernant l'amélioration autonome récursive, une situation où une IA pourrait s'améliorer elle-même. OpenAI n'a pas répondu immédiatement à une demande de commentaire.
Un départ motivé par une dissonance entre discours et pratiques
David Robinson, qui dirigeait l'équipe des systèmes de sécurité d'OpenAI, explique avoir ressenti une dissonance cognitive qui l'a poussé à quitter l'entreprise la semaine dernière. Il estime qu'OpenAI n'était pas assez prudent et que le discours public de l'entreprise ne correspondait pas à ses actions internes. Robinson rapporte que, malgré ses avertissements répétés sur les capacités des nouveaux modèles et son souhait de ralentir le développement, OpenAI poursuivait un rythme soutenu en interne, continuant à former et déployer des modèles qu'il jugeait dangereux. Il décrit une activité intense, avec des équipes travaillant à un rythme effréné, et compare la coordination interne à une sorte de ballet animé par l'adrénaline. Il a détaillé ces constats lors de sa première interview après son départ.
Appels au ralentissement : de la lettre des employés aux propos d’Altman
En juillet, plusieurs centaines d'employés d'OpenAI ont signé une lettre ouverte intitulée « Pacing the Frontier », demandant au gouvernement d'imposer des régulations pour ralentir le développement de l'IA. En septembre, Sam Altman, PDG d'OpenAI, a déclaré partager la position de Dario Amodei, PDG d'Anthropic, qui plaidait pour une coordination entre entreprises afin de ralentir le développement de l'IA. Altman a également écrit sur X qu'il fallait réguler la frontière de l'IA, précisant que ce sujet était au centre des discussions internes chez OpenAI ces dernières semaines.
