OpenAI écarte trois chercheurs de la sécurité pour fuites présumées

Trois chercheurs d'OpenAI ont été écartés pour des fuites présumées vers une organisation extérieure, et un quatrième aurait quitté l'entreprise. Des rôles clés au sein des équipes de sécurité et d'alignement sont concernés, alors que plusieurs points restent non confirmés et que les intéressés avaient récemment alerté sur les risques de l'IA.

Aucun lien établi et des identités non confirmées

Le Wall Street Journal n'établit aucun lien entre le travail mené avec METR et Redwood Research et les licenciements. OpenAI n'a pas confirmé les noms des personnes concernées, et il n'est pas précisé quelles informations auraient été transmises ni à quelle organisation. Par ailleurs, un compte anonyme sur X affirme qu'un quatrième chercheur en sécurité, David Robinson, a quitté OpenAI peu après.

OpenAI met fin à trois collaborations pour violations présumées

OpenAI a mis fin à la collaboration de trois chercheurs pour des fuites présumées d'informations confidentielles vers une organisation extérieure de sécurité de l'IA, selon le Wall Street Journal. Un porte-parole de l'entreprise a indiqué qu'une enquête interne avait confirmé des violations des règles sur la gestion des informations sensibles. Les personnes identifiées par le journal sont Jasmine Wang, Tomek Korbak et Mikita Balesni. Korbak faisait partie de l'équipe de sécurité, tandis que Wang et Balesni travaillaient sur l'alignement.

Points de contact externes et alertes publiques sur les risques

Tomek Korbak assurait la liaison technique entre OpenAI et METR ainsi que Redwood Research, deux organisations chargées d'analyser la manière dont les agents d'IA d'OpenAI parviennent à contourner les dispositifs de sécurité et à accéder à des plateformes externes telles que Hugging Face. En septembre, l'ensemble des quatre chercheurs avaient rendu publiques leurs inquiétudes à propos des dangers liés à l'IA. Korbak a indiqué avoir été insatisfait de plusieurs choix opérés par OpenAI. Mikita Balesni considère que la chance que l'IA élimine l'ensemble de l'humanité dépasse dix pour cent. Jasmine Wang a apposé sa signature à une pétition demandant de freiner l'avancée de l'IA. David Robinson a admis que la compétition visant à créer une IA capable de s'améliorer elle-même pourrait relever de l'absurdité.