L’IA et sa régulation t’intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
David Robinson, qui dirigeait la sécurité des systèmes chez OpenAI, a quitté l’entreprise et publie un réquisitoire sur la façon dont sont gérés les risques. Il dit vouloir agir depuis l’extérieur pour renforcer les incitations à la sécurité, tandis qu’OpenAI assure adapter ses pratiques à la montée en puissance de ses modèles.
OpenAI défend ses garde-fous et dit pouvoir freiner des modèles
OpenAI affirme renforcer ses pratiques de sécurité à mesure que ses modèles gagnent en capacités. L’entreprise indique construire des cas de sécurité pour anticiper les risques liés aux avancées futures. Elle assure veiller à ce que ses systèmes ne deviennent pas plus capables que ce qu’elle peut gérer et sécuriser en toute sécurité. Selon son porte-parole, OpenAI suspend l’entraînement ou retient des modèles lorsqu’il faut ralentir. Le départ de David Robinson intervient après celui de Jacob Coxon, ancien ingénieur d’Anthropic, qui a quitté son poste le mois dernier en avertissant d’un risque d’extinction massive lié à l’IA.
Pourquoi il part : un rythme jugé trop rapide et une action depuis l’extérieur
David Robinson a quitté OpenAI cette semaine en estimant que l’entreprise avance trop vite au regard de la sécurité. Dans un essai publié, il dit partager l’avis d’ex-employés selon lequel les sociétés qui développent ces technologies ne sont pas assez prudentes. Il soutient qu’en travaillant de l’extérieur, il peut aider davantage de personnes à comprendre les risques observés et à renforcer les incitations d’acteurs comme OpenAI à être plus sûrs. Il explique avoir choisi de partir parce que l’entreprise enchaîne les lancements sans atteindre, selon lui, le niveau de soin nécessaire. Son départ a été rapporté vendredi, suivi le lendemain par la publication de son texte explicatif.
Ses signaux préalables : des messages d’alerte et le credo du déploiement progressif
En 2023, David Robinson affirmait qu’OpenAI procédait à des vérifications de sécurité robustes avant les mises en ligne de modèles et disait croire à un déploiement progressif et à l’apprentissage en continu. Le mois dernier, il écrivait toutefois que, si les choses évoluent quotidiennement chez OpenAI, il doutait que le rythme de changement soit suffisant. Dans ce message, il citait hilbertspaess pour souligner que beaucoup n’auraient pas encore intégré la portée civilisationnelle des enjeux.
Parcours : de Princeton à la sécurité des systèmes chez OpenAI
Avant son départ, David Robinson dirigeait l’équipe des systèmes de sécurité d’OpenAI. Diplômé en philosophie de Princeton en 2004 et boursier Rhodes, il avait exprimé dès 2003 une exigence de clarté factuelle et de réflexion philosophique. Durant ses études, il a réalisé des stages au sein de Time Magazine et du Wall Street Journal, tout en affirmant vouloir écrire pour des publications telles que The New Yorker ou Harper’s. Après avoir quitté Princeton, il a poursuivi des études en philosophie, politique et économie à Oxford, puis a participé à la fondation à Princeton d’un centre de recherche consacré aux relations entre technologie et politiques publiques, mettant en avant la nécessité de compétences techniques pour arbitrer les questions de valeurs. En 2011, il cofonde Upturn pour rendre les données gouvernementales plus accessibles grâce aux technologies algorithmiques, après des postes de recherche et d’enseignement et une année à Apple University où il a animé des séminaires éthiques pour des dirigeants. Il rejoint OpenAI en 2023 comme responsable de la planification politique et écrit alors vouloir contribuer à façonner l’engagement de l’entreprise dans le débat sur la politique de l’IA.
Une sensibilité ancienne aux effets sociaux des technologies
Les livres, articles et interventions de David Robinson témoignent d’une attention soutenue aux effets des systèmes techniques sur les personnes. En 2002, il a publié Voices in the Code à la Russell Sage Foundation, consacré à la conception d’un algorithme pour le don d’organes rénaux. Il travaille à un second ouvrage, Reclaiming Who We Are, qui s’appuie sur la psychologie sociale, la philosophie bouddhiste, la théorie féministe, l’histoire et la sociologie pour promouvoir un usage plus avisé des systèmes de labellisation algorithmique. En 2022, il résumait son intérêt de longue date pour les règles encadrant la technologie et la décision d’usage. Originaire de Potomac, dans le Maryland, il raconte avoir bénéficié dans les années 1990 d’une règle scolaire lui permettant d’utiliser un traitement de texte en raison d’une légère paralysie cérébrale, expérience qui a nourri son intérêt pour les impacts sociaux du numérique, confirmé en 2021. Un ancien collègue, Joshua Achiam, dit sur X qu’il n’est pas un idéologue et le décrit comme sobre, réfléchi, productif, collaboratif et rigoureux. David Robinson et le cabinet de relations publiques qu’il a mandaté ont répondu à des sollicitations de presse.
