OpenAI Foundation nomme Paul Christiano au comité de sécurité

La Fondation OpenAI intègre Paul Christiano à ses instances de surveillance de la sécurité, avec un poste d'observateur auprès d'OpenAI Group PBC et un siège au Safety and Security Committee. Cette décision intervient dans une gouvernance remodelée depuis 2025 et liée à des examens des autorités de Californie et du Delaware.

Une gouvernance refondée en 2025 et un comité au périmètre étendu

La nomination s'inscrit dans la structure mise en place lors de la recapitalisation d'octobre 2025. Des examens, menés sur une année par les procureurs généraux de Californie et du Delaware, ont donné lieu à des engagements qui, selon la Fondation, ont contribué à renforcer le cadre de gouvernance. La Fondation détient le contrôle d'OpenAI Group PBC et le Safety and Security Committee dépend de son conseil d'administration. Ce comité est chargé de la supervision des mesures de sécurité et de sûreté au sein de toutes les entités d'OpenAI, y compris OpenAI Group PBC.

Observer au board d’OpenAI Group PBC et membre du Safety and Security Committee

Paul Christiano est nommé au conseil d'administration de la Fondation OpenAI. Il doit également siéger comme observateur sans droit de vote au conseil d'administration d'OpenAI Group PBC. Il rejoindra le Safety and Security Committee du conseil de la Fondation, aux côtés de son président, Zico Kolter.

Parcours technique entre NIST, ARC et OpenAI

Au Center for AI Standards and Innovation du NIST, où il est Senior Tech Advisor, et auparavant à l'U.S. AI Safety Institute, Paul Christiano a travaillé sur l'évaluation des modèles d'IA de pointe et sur des approches d'atténuation des risques de sécurité et de sûreté associés. Il a fondé l'Alignment Research Center, organisation à but non lucratif dédiée à l'alignement des systèmes d'IA avancés avec les intérêts humains. Chez OpenAI, il a dirigé la recherche sur l'alignement de 2017 à 2021 et a contribué à des travaux fondamentaux sur le RLHF.

Déclarations sur les risques, l’alignement et la supervision

Bret Taylor, président de la Fondation OpenAI et des conseils d'administration d'OpenAI Group PBC, estime que Paul Christiano a contribué à définir le champ de l'alignement de l'IA et que son expérience en sécurité, en normes au sein du gouvernement et son jugement technique renforceront la supervision du conseil et le travail du comité. Paul Christiano considère que les capacités de l'IA ont progressé très rapidement au cours de la dernière année, que l'alignement demeure un problème technique difficile et que la responsabilité du comité est plus importante et plus complexe que jamais ; il se dit prêt à aider. La Fondation présente l'IA comme entrant dans une nouvelle ère nécessitant des garde-fous solides et décrit la perspective de Paul comme prenant au sérieux des risques potentiellement catastrophiques, tout en le qualifiant de voix indépendante sur l'adéquation des mesures de protection de l'industrie. Elle affirme que sa gouvernance gagne à intégrer des profils capables de contester les hypothèses dominantes. Elle ajoute que Paul apporte une perspective techniquement fondée à ses décisions et rappelle que sa mission est que l'AGI bénéficie à toute l'humanité.

Rôle et moyens de la Fondation OpenAI

La Fondation OpenAI, structure caritative ayant pour mission de garantir que les avancées en IA profitent à l'ensemble de la population, conduit ses propres activités tout en exerçant un contrôle et en possédant une part importante d'OpenAI Group PBC. Elle appuie des projets destinés à promouvoir la recherche scientifique, à soutenir la société civile et à renforcer la résilience grâce à une IA responsable. Par le biais de financements, de collaborations et d'autres actions philanthropiques, elle cherche à assurer un impact public durable et à accroître l'accès aux capacités offertes par l'IA.