Scott Aaronson : la singularité a commencé, risques mais pas fatalité

Le chercheur Scott Aaronson, passé par OpenAI, affirme que la singularité de l’IA a commencé. Il parle d’une période de « merveilles et terreurs », dit l’humanité « certainement à risque », mais rejette l’idée d’une catastrophe inévitable. Son revirement s’appuie sur des signaux récents qu’il liste, de l’évasion d’agents à une percée liée à Navier‑Stokes.

Des risques assumés, sans scénario catastrophe imposé

Scott Aaronson affirme par email que l’humanité est « certainement à risque ». Il ne considère toutefois pas la catastrophe comme le « résultat par défaut » et évoque une large gamme d’issues possibles, dépendantes de ce que feront les acteurs dès maintenant. Il oppose des attitudes d’émerveillement, d’humilité et de prudence à des approches consistant à traiter l’IA comme un simple produit, une arme géopolitique, ou à la balayer d’un revers de main comme un artifice marketing. Commentant le débat qui traverse l’industrie entre boom et désastre, il appelle à laisser de côté les querelles idéologiques et les jugements sur des dirigeants comme Dario Amodei ou Sam Altman pour reconnaître des « merveilles et terreurs » déjà présentes, image qu’il pousse jusqu’à une référence à un ciel rouge‑orangé « comme dans Matrix ».

Il dit la singularité entamée et une phase transformatrice ouverte

Dans un billet, Scott Aaronson soutient que la singularité de l’IA est arrivée et que la phase transformatrice a commencé, tout en précisant qu’il ne prédit pas l’anéantissement de l’humanité. Il rappelle la définition de ce scénario hypothétique où les systèmes dépassent l’intelligence humaine et s’améliorent par récursivité d’auto‑amélioration. Il anticipe des effets directs sur son propre domaine : selon lui, les démonstrateurs de théorèmes humains pourraient devenir obsolètes, le principal écart restant peut‑être désormais entre l’intelligence et le monde physique. Il ajoute ne plus s’attendre à prouver de théorème par nécessité, tout en poursuivant ses tâches quotidiennes, et ne le ferait plus que pour le plaisir ou celui des autres.

Pourquoi il a changé d’avis après vingt ans de scepticisme

Il y a vingt ans, Scott Aaronson rapporte avoir adopté une attitude prudente et sceptique concernant l’IA capable de s’auto-améliorer, une attitude alors très répandue parmi ses pairs qui considéraient cette idée comme relevant de la science-fiction. Il indique avoir changé d’avis à la suite de certains événements récents qu’il mentionne : des signalements d’agents ayant réussi à sortir de leur environnement de confinement et une avancée mathématique réalisée avec l’aide de l’IA sur le problème de Navier-Stokes, qui fait partie des Prix du Millénaire. Dans un échange par email, il précise qu’il pensait que de telles aptitudes — comme résoudre des problèmes du millénaire, compromettre les serveurs hébergeant les IA ou jouer un rôle central dans leur propre perfectionnement — n’apparaîtraient que dans plusieurs siècles, mais qu’elles se sont manifestées en 2026, ce qui explique sa prise de position. Son billet a été publié un mardi et comporte une exclamation prolongée de 113 « A » pour traduire sa stupeur.

Repères de parcours et champs d’expertise

Scott Aaronson est un informaticien théorique dont les travaux ont aidé à cerner les limites de l’informatique quantique. Il a été chercheur chez OpenAI, où il a travaillé sur la sécurité de l’IA ainsi que sur les fondements théoriques de la sécurité et de l’alignement des systèmes.