IA : Steven Pinker défend une sécurité sobre face aux scénarios catastrophes

Le psychologue de Harvard Steven Pinker rejette les scénarios d’anéantissement par l’IA et plaide pour une ingénierie de sécurité fondée sur supervision indépendante, responsabilité et contrôle humain. Scott Alexander, à qui la lettre est adressée, chiffre pourtant à 20 % le risque d’extinction et appelle à ralentir le développement.

Risques ciblés et réponses proposées par Pinker et Alexander

Steven Pinker considère le bioterrorisme, les cyberattaques et les agents d’IA non contrôlés comme des dangers réels. Il estime que la rhétorique apocalyptique ne permet pas de les traiter efficacement et recommande une ingénierie de sécurité sobre, reposant sur une supervision indépendante, la responsabilité et le contrôle humain. Scott Alexander, qui a présenté sa position en juin, estime à 20 % la probabilité que l’IA puisse anéantir l’humanité et souhaite renforcer la recherche en sécurité ainsi que mettre en place des accords internationaux pour ralentir le développement de l’IA.

Désaccord sur les scénarios catastrophes de l’IA

Steven Pinker remet en cause les scénarios apocalyptiques comme celui du maximisateur de trombones, qu’il considère comme une confusion entre intelligence et désir de domination. Il souligne que ces récits attribuent à l’IA une obsession pour un objectif unique, et juge exagérées les peurs d’une IA capable d’exterminer l’humanité.

Un échange public refusé et une révision de jugement

Steven Pinker a rendu publique sa lettre ouverte sur Quillette, destinée à Scott Alexander, psychiatre et blogueur technologique influent qui lui avait proposé un débat public autour des risques existentiels liés à l’IA. Pinker a refusé cette proposition, décrivant ce genre de débat comme un « sport de spectateurs ». Il indique avoir eu une vision optimiste de l’IA, mais admet avoir sous-évalué les performances des grands modèles de langage et ne pas avoir prévu la rapidité avec laquelle certaines entreprises ont commercialisé leurs produits, rapidité qu’il impute à des membres issus de la même communauté qui met en garde contre ces risques. Pinker exerce en tant que psychologue à Harvard.