OpenAI face à une hémorragie de talents en sécurité de l'IA

Une vague de départs chez OpenAI

OpenAI, l'un des acteurs majeurs dans le domaine de l'intelligence artificielle, fait face à une série de départs significatifs au sein de ses équipes de sécurité. Le plus récent est celui de Johannes Heidecke, qui occupait le poste de responsable des systèmes de sécurité. Son départ s'ajoute à une liste déjà longue de responsables de la sécurité ayant quitté l'entreprise, ce qui soulève des questions sur l'engagement d'OpenAI à développer l'IA de manière sécurisée. Ces départs interviennent alors que l'entreprise réorganise ses travaux de sécurité et de recherche sous la direction d'un nouveau leader.

Heidecke n'est pas le seul à quitter OpenAI. Plusieurs autres leaders de la stratégie de sécurité ont également décidé de partir, alors que l'entreprise entreprend une réorganisation de ses efforts de sécurité et de recherche. Cette réorganisation vise à centraliser ces efforts sous une seule direction, dans le but d'améliorer l'efficacité et la cohérence des initiatives de sécurité. Cette décision stratégique intervient dans un contexte où OpenAI reconsidère la relation entre ses efforts de recherche et de sécurité.

Réorganisation sous une nouvelle direction

Mark Chen, directeur de la recherche chez OpenAI, a exprimé sa gratitude pour les contributions de Johannes Heidecke et a annoncé que Mia Glaese prendrait désormais les rênes en tant que vice-présidente de la recherche et de la sécurité. Sous sa direction, OpenAI espère intégrer plus profondément la sécurité dans ses équipes de recherche, une démarche qui pourrait renforcer la synergie entre ces deux domaines critiques. Cette réorganisation est perçue comme une tentative de mieux aligner les efforts de recherche et de sécurité, en reconnaissant que l'un ne peut être efficace sans l'autre.

Cette réorganisation intervient dans un contexte où OpenAI reconsidère la relation entre ses efforts de recherche et de sécurité. Un porte-parole de l'entreprise a souligné l'importance de comprendre les capacités sous-jacentes des modèles pour prendre de bonnes décisions en matière de sécurité, et vice versa. Cette approche intégrée est essentielle pour garantir que les développements technologiques ne compromettent pas la sécurité.

La mission d'OpenAI mise à l'épreuve

La mission déclarée d'OpenAI est de s'assurer que l'intelligence artificielle générale bénéficie à toute l'humanité. La sécurité, définie comme la pratique consistant à maximiser les impacts positifs de l'IA tout en atténuant les négatifs, est donc au cœur de cette mission. Cependant, le départ de plusieurs leaders en sécurité met en lumière des tensions internes concernant la priorité accordée à la sécurité par rapport au développement de produits. Certains employés partants ont publiquement remis en question l'engagement d'OpenAI envers ce travail crucial.

Jan Leike, un ancien co-directeur de l'équipe de superalignement d'OpenAI, a quitté l'entreprise en mai 2024, critiquant publiquement l'approche d'OpenAI. Il a affirmé que l'entreprise privilégiait le lancement de produits attrayants au détriment des processus de sécurité, une critique qui résonne avec les préoccupations de nombreux autres employés partants. Leike a souligné que la culture et les processus de sécurité avaient été relégués au second plan, ce qui est préoccupant pour une entreprise dont la mission est de garantir la sécurité de l'IA.

Des départs qui interrogent

Dario Amodei, cofondateur d'Anthropic et ancien vice-président de la recherche chez OpenAI, a quitté l'entreprise en 2020 en raison de désaccords sur la direction prise par OpenAI en matière de sécurité. Depuis, Anthropic a également connu ses propres défis, avec des départs notables comme celui de Mrinank Sharm, qui a mis en garde contre les pressions exercées sur les entreprises d'IA pour qu'elles négligent la sécurité. Malgré ces départs, la direction de la sécurité chez Anthropic est restée relativement stable comparée à OpenAI.

Andrew Curran, un analyste en IA, a comparé la situation d'OpenAI à une "malédiction", en référence à une célèbre saga littéraire. Cette comparaison souligne la gravité de la situation et l'impact potentiel de ces départs sur la capacité d'OpenAI à maintenir un développement sécurisé de l'IA.

Un historique de départs marquants

Plusieurs figures emblématiques de la sécurité chez OpenAI ont quitté l'entreprise ces dernières années. Parmi elles, Ilya Sutskever, cofondateur et scientifique en chef, a quitté en mai 2024 pour fonder Safe Superintelligence, un laboratoire dédié à la sécurité de l'IA. Jan Leike, qui a suivi peu après, a rejoint Anthropic pour poursuivre ses recherches en alignement. Ces départs ont été suivis par ceux de Miles Brundage, Lilian Weng, Andrea Vallone, Aleksander Madry, et Joshua Achiam, chacun ayant exprimé des préoccupations ou des réflexions personnelles sur leur départ.

Miles Brundage, conseiller senior pour la préparation à l'AGI, a quitté OpenAI en octobre 2024, exprimant ses doutes quant à la préparation de l'entreprise face aux impacts potentiels de l'IA. Lilian Weng, ancienne vice-présidente de la recherche et de la sécurité, a quitté en novembre 2024, louant néanmoins l'environnement de travail chez OpenAI. Andrea Vallone, responsable de la recherche sur la sécurité des politiques de modèle, a quitté à la fin de 2025, sans critiquer publiquement OpenAI.

Aleksander Madry, ancien responsable de la préparation, a quitté en mai 2026 après avoir été déplacé de son rôle de leadership. Joshua Achiam, ancien futuriste en chef, a quitté en juillet, exprimant des réflexions personnelles sur son départ sans donner de raison spécifique. Enfin, Johannes Heidecke, après avoir pris la tête des systèmes de sécurité en 2021, a décidé de partir alors qu'OpenAI intègre plus étroitement le travail de sécurité avec ses recherches.

Ces départs massifs soulèvent des questions cruciales sur la capacité d'OpenAI à maintenir un développement sécurisé de l'IA, un enjeu central pour l'avenir de l'entreprise et de l'industrie dans son ensemble.