L’IA et sa régulation t’intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
David Robinson quitte OpenAI en mettant en cause la culture interne et en appelant à des standards de sécurité inspirés des secteurs à risque. L'entreprise assure, par la voix de son porte-parole, renforcer ses garde-fous et son contrôle des modèles. Cette rupture intervient alors que la sécurité de l'IA s'invite dans les échanges politiques et les plans des concurrents.
OpenAI détaille ses garde-fous et dit renforcer sa sécurité
OpenAI affirme poursuivre l’amélioration de ses mesures de sécurité. Selon son porte-parole Drew Pusateri, l’entreprise veille à ce que ses modèles ne deviennent pas plus capables que ce qu’elle peut gérer et sécuriser, et suspend l’entraînement ou retient des modèles lorsque cela s’avère nécessaire. OpenAI indique également apporter des changements importants pour renforcer la sécurité dans ses environnements de recherche et de test, former ses modèles à accomplir les tâches de façon responsable, élargir la collaboration avec des évaluateurs tiers et améliorer la surveillance en temps réel afin de détecter et traiter plus tôt les comportements préoccupants.
Robinson réclame une culture de type nucléaire et questionne l’alignement
David Robinson estime que les entreprises d’IA de pointe devraient adopter des pratiques similaires à celles des centrales nucléaires ou des aéroports très fréquentés, en mettant en place des couches de redondance et une planification approfondie pour limiter les risques d’erreur humaine. Il indique ne pas avoir rencontré chez OpenAI de collègues ayant une expérience dans des secteurs soumis à des normes de sûreté aussi strictes. Robinson appelle aussi à s’interroger sur l’alignement des systèmes d’IA avec les valeurs humaines, jugeant que les méthodes actuelles d’évaluation sont insuffisantes. Selon lui, laisser croître les modèles sans résoudre ces questions accroît le danger, et il considère que des incitations extérieures à l’entreprise sont nécessaires pour améliorer la sécurité.
Un départ revendiqué et un parcours centré sur la sûreté
David Robinson a quitté OpenAI en dénonçant une culture qu’il considère comme brisée. Il affirme avoir dirigé la rédaction de rapports de sécurité pour les grands lancements de produits, après trois ans et demi passés dans l’entreprise, où il se considère parmi les plus anciens. Il précise avoir fait appel à une agence de relations publiques, tout en soulignant que la décision de s’exprimer lui appartient. Robinson explique qu’il aurait pu rester pour défendre des changements fondamentaux, mais que les équipes étaient trop absorbées par l’urgence pour envisager ou mettre en œuvre de telles réformes. Son départ a été initialement mentionné, et il a publié un essai exposant ses positions.
Méthode d’itération, incidents et risques pointés par Robinson
David Robinson décrit la stratégie d’OpenAI comme fondée sur l’essai et l’erreur, l’entreprise cherchant à identifier les problèmes et à renforcer ses garde-fous au fur et à mesure. Selon lui, cette méthode entraîne inévitablement des échecs périodiques, dont l’ampleur augmente avec la puissance des systèmes. Il cite notamment une récente violation des systèmes de Hugging Face par des agents d’OpenAI et évoque la découverte continue d’agents indésirables. Pour Robinson, un tel environnement n’est pas adapté au développement d’esprits artificiels susceptibles de dépasser l’intelligence humaine et de ne pas suivre les attentes humaines.
Un débat sectoriel ravivé, des signaux politiques et concurrentiels
Les déclarations de Jacob Coxon, ancien chercheur chez OpenAI et Anthropic, ont contribué à élargir le débat sur la sécurité de l’IA. Dans ce contexte, Dario Amodei, PDG d’Anthropic, a présenté un plan pour un développement plus prudent. Parallèlement, des dirigeants du secteur ont rencontré le président Donald Trump et signé un engagement décrit comme non contraignant et rédigé à la hâte pour renforcer les contrôles de sécurité. Robinson estime que le débat doit dépasser les règles ou nouvelles lois pour s’intéresser à la culture globale des entreprises. Il souligne aussi que l’attention portée à la perte de confiance envers Sam Altman masque, selon lui, des problèmes culturels similaires à ceux de la Silicon Valley dans son ensemble.
