L’IA et sa régulation t’intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
David Robinson, ex-rédacteur de rapports de sécurité chez OpenAI, a quitté l’entreprise et met en cause une culture qu’il juge défaillante. Il appelle à des pratiques de sûreté « de niveau nucléaire ». D’autres spécialistes ont aussi claqué la porte dans les grands laboratoires, alors qu’une enquête de la FTC est rapportée sur OpenAI et Anthropic.
Enquête fédérale rapportée et série de départs dans les grands labos
La FTC aurait ouvert une enquête sur OpenAI et Anthropic. Parallèlement, plusieurs spécialistes de la sécurité ont quitté des laboratoires d’IA majeurs. Chez Anthropic, Jacob Coxon a été l’un des premiers à partir et a déclaré publiquement que l’IA « pourrait nous tuer tous d’ici la fin de la décennie ». Robert O’Callahan, Bilal Chughtai et Josh Engels ont quitté Google DeepMind, tandis que Joe Benton a également quitté Anthropic. David Robinson a, lui, démissionné d’OpenAI.
Diagnostic de Robinson : une culture « cassée » et un optimisme qui occulte les risques
David Robinson décrit la culture d’OpenAI comme « cassée » et considère que l’industrie présente des défaillances fondamentales. Il estime que le problème ne se limite pas à l’ajout de nouvelles règles sur la formation des modèles. Selon lui, la Silicon Valley a fonctionné avec une « confiance extrême » et des « sprints perpétuels », développant des modèles toujours plus grands avec un « optimisme sans entrave » qui minimise ou ignore les problèmes potentiels. Il juge compréhensible le cynisme envers ceux qui alertent après avoir contribué à ces technologies, mais estime que ces avertissements ne doivent pas être ignorés.
Cap requis selon Robinson : humilité et sûreté « de niveau nucléaire »
David Robinson recommande d’appliquer aux systèmes de sécurité des standards comparables à ceux du secteur nucléaire. Selon lui, les laboratoires de pointe devraient adopter le mode de fonctionnement des centrales nucléaires ou des aéroports à forte affluence, en superposant de nombreuses mesures de redondance et en organisant une planification rigoureuse et longue, pour éviter qu’une erreur humaine, inévitable, ne provoque une catastrophe. Il invite également les sociétés spécialisées en IA à faire preuve d’humilité et à s’extraire du milieu fermé et rythmé de l’industrie technologique. Il a présenté ces arguments dans un éditorial paru dans The Atlantic.
