Comprendre ou déléguer à l’IA : le dilemme d’Asimov appliqué à la science

Comprendre ou déléguer à l’IA : le dilemme d’Asimov appliqué à la science

Evasion !, une nouvelle réjouissante de l’auteur de science-fiction Isaac Asimov (1920-1992), présente des savants qui font travailler une super-intelligence artificielle (IA) afin qu’elle mette au point le voyage interstellaire dont l’humanité tirera un évident profit. Si anticipation il y a dans cette nouvelle de 1945, ce n’est pas tant dans ce fantasmatique voyage spatial que dans une intuition implicite qu’a eue Asimov, et dont les scientifiques aujourd’hui font l’expérience concrète. Car, si les cybernéticiens de la nouvelle obtiennent bel et bien de l’IA ce qu’ils en attendent, à savoir un beau vaisseau intergalactique, jamais il ne leur vient à l’idée de se faire expliquer la science sous-jacente pour se l’approprier. Ils ont l’air convaincus qu’elle relève d’une complexité qui leur échappe définitivement et que l’IA seule peut maîtriser et exploiter.

Cette même situation saute aux yeux à la lecture d’un article de Physical Review X publié en décembre 2025 par une équipe américaine, qui présente un nouveau type de réseaux de neurones artificiels, les Kolmogorov-Arnold Networks (KAN). Ces derniers intéressent particulièrement les physiciens, car ils permettent de lire explicitement la structure de la « connaissance » du réseau entraîné. Dans un maillage de neurones « ordinaires » (qui imite les neurones biologiques), chaque neurone voit arriver de l’amont plusieurs influx simultanés, des nombres dont il fait la somme pondérée, transmise ensuite vers l’aval par le biais d’une certaine fonction qui en modifie la valeur. L’apprentissage a pour effet de moduler la pondération de la somme, la fonction de passage restant inchangée.

Dans les KAN, en revanche, la somme n’est pas pondérée, mais la fonction de passage, elle, est modifiée. La « chose apprise » par le réseau se trouve donc inscrite dans des fonctions que l’on sait représenter graphiquement et analyser, plutôt que dans des séries cryptiques de nombres (les poids de la pondération). L’article, bien écrit, cherche aussi à convaincre les scientifiques de l’utilité de telles structures pour leur pratique. Par exemple, il montre que le réseau KAN est capable de retrouver seul une symétrie particulièrement subtile de la métrique d’un trou noir en relativité générale, dont la découverte avait demandé dix-sept ans d’efforts il y a un siècle !