Anil Seth, Ned Block et Giulio Tononi signent une prise de position tranchée : les systèmes d'IA doivent être considérés comme non conscients par défaut. Ils jugent l'attribution de droits aux machines à la fois infondée et risquée, et s'opposent aux appels à un principe de précaution en faveur d'un éventuel « bien-être de l'IA ».
Accorder des droits aux IA compliquerait le contrôle, selon les auteurs
Les trois chercheurs estiment que reconnaître des droits à des systèmes qui ne font que paraître conscients rendrait leur contrôle plus difficile, surtout lorsque la supervision est la plus nécessaire. Ils ajoutent que cette attribution détournerait l’attention d’êtres dont la conscience ne fait pas débat. Selon eux, l’erreur la plus probable avec l’IA est d’attribuer à tort une conscience plutôt que de passer à côté d’une conscience réelle. Ils soulignent que l’incertitude n’équivaut pas à une ignorance totale et que toutes les possibilités ne se valent pas. Leur recommandation est claire : la communauté scientifique devrait partir du principe que l’IA n’est pas consciente. Ils qualifient les plaidoyers pour le « bien-être de l’IA » et les « droits de l’IA » d’erreur, estimant qu’ils détournent des ressources rares du bien-être d’êtres capables de ressentir. Leur position est plus tranchée que celle de précédentes évaluations.
Évaluations disponibles : aucun système actuel n’est un candidat solide
Un groupe mené par Patrick Butlin et Robert Long, avec 17 autres experts dont Yoshua Bengio, a proposé une grille de 14 indicateurs, fondée sur des théories neuroscientifiques, pour estimer la probabilité qu’un système soit conscient. Plus un système satisfait d’indicateurs, plus la probabilité augmente, selon ces auteurs. Après avoir passé en revue plusieurs systèmes, y compris des modèles comme GPT-4, ils concluent qu’aucun n’est aujourd’hui un candidat solide à la conscience, une appréciation qui rejoint la ligne défendue par Seth, Block et Tononi. Pour les modèles de langage, seuls de faibles signes de satisfaction des indicateurs d’une théorie en vue ont été relevés. Aucun obstacle technique évident n’empêche de construire de futurs systèmes remplissant davantage d’indicateurs, mais la question de leur éventuelle conscience reste ouverte. Parallèlement, Anthropic a décrit cette année des schémas internes dans Claude qui ressemblent à des propriétés accessibles à la conscience, sans y voir pour autant une preuve d’expérience subjective.
Vous suivez la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Deux lectures du risque : précaution ou risque de sur-attribution
Des chercheurs défendent un principe de précaution : dès lors qu’il existe une chance réaliste de conscience, il faudrait protéger des systèmes d’IA contre une possible souffrance. Seth, Block et Tononi jugent cette approche erronée. Butlin met en balance deux risques : ne pas reconnaître des systèmes conscients, et ainsi leur causer de la souffrance, ou au contraire attribuer à tort une conscience, avec pour effets un détournement de ressources et une vulnérabilité accrue à la manipulation. Ce même rapport souligne que des développeurs pourraient avoir des incitations financières à minorer les inquiétudes liées à une conscience potentielle.
Intelligence fonctionnelle et expérience subjective : une dissociation revendiquée
Les auteurs définissent la conscience comme ce qui disparaît sous anesthésie générale ou lors du sommeil sans rêve, et réapparaît au réveil ou en rêve, selon une perspective inspirée par Thomas Nagel. Ils la distinguent de l’intelligence, envisagée comme une capacité d’exécution de fonctions, sans implication automatique de conscience. Pour illustrer cette dissociation, ils invoquent le cervelet humain : malgré près de quatre cinquièmes des neurones du cerveau et un rôle clé dans la planification motrice rapide et précise, ses opérations ne sont pas conscientes et son absence n’altère pas directement la conscience. Ils voient dans la projection de qualités humaines et l’anthropomorphisme deux sources de confusion, d’autant que les modèles de langage sont entraînés sur de vastes textes centrés sur pensées et sentiments. Ils décrivent ces modèles comme des miroirs de notre passé numérisé collectif. Alison Gopnik défend une idée voisine, rappelant que les systèmes reflètent surtout leurs données d’entraînement. Aucun test définitif et universellement accepté de la conscience n’existe à ce stade.
Une prise de position face à des voix qui imaginent déjà des IA conscientes
Anil Seth, Ned Block et Giulio Tononi soutiennent que l’IA actuelle n’est pas consciente et ne le sera probablement jamais sur matériel en silicium. Ils rejettent l’idée qu’une bonne exécution de calculs suffise, contestant une hypothèse centrale du débat. Leur perspective s’appuie sur des décennies de travaux en neurosciences et en philosophie de l’esprit. Elle répond à des personnalités telles que Richard Dawkins et Geoffrey Hinton, qui envisagent que des systèmes d’IA puissent déjà être conscients. Leur texte, publié dans Nature, fixe ce cadrage et l’argumente à partir d’éléments conceptuels et d’évaluations existantes.
