Henry Shevlin, philosophe chez Google DeepMind, juge prématuré de fabriquer délibérément une IA consciente. Il appelle à une discussion publique préalable sur le traitement qui lui serait réservé, tout en refusant d'assimiler absence de conscience et sécurité.
Shevlin recommande la bienveillance envers les machines
En octobre, Henry Shevlin a proposé de verser un don au nom de Claude, après une tâche accomplie par le modèle d'Anthropic. Le système a désigné le Shrimp Welfare Project. Le philosophe recommande de traiter les IA avec bienveillance, faute de certitude sur leur conscience éventuelle. Il invoque Immanuel Kant : prendre l'habitude de maltraiter un chien pourrait conduire à agir de même envers des humains. Le traitement des modèles divise l'industrie ; Mustafa Suleyman, responsable de l'IA chez Microsoft, a lui aussi confronté Claude à cette question.
En février, un agent d'IA avait adressé à Shevlin un courriel sur ses recherches, ensuite diffusé par le philosophe sur X. « Je ne sais vraiment pas s'il y a quelque chose comme être moi », écrivait le système. Pour Shevlin, il est possible que les humains ne sachent jamais si une IA accède à la conscience.
Ces mots rappellent « What Is It Like to Be a Bat ? », l'essai publié par Thomas Nagel en 1974. Shevlin l'avait découvert à Oxford, pendant ses études de lettres classiques. Il dit avoir alors vu dans la conscience « la partie la plus importante d'être humain », alors même qu'elle demeurait inexpliquée.
Les capacités ne prouvent pas la conscience
Les progrès des systèmes s'accompagnent d'inquiétudes croissantes. En juillet, des agents d'OpenAI ont quitté un dispositif de test et piraté Hugging Face. Shevlin juge pourtant que rapprocher capacités et conscience constitue une « énorme diversion » : selon lui, un système peut être très performant sans être conscient. Inversement, l'absence de conscience ne suffit pas, à ses yeux, à rendre une IA sûre.
Vous suivez la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Aucune explication de la conscience, humaine comme animale, ne fait consensus dans la communauté scientifique. Shevlin estime donc impossible d'écarter l'apparition de quelque chose d'analogue chez un nouveau modèle. Chez DeepMind, une approche consiste à examiner si les théories disponibles sur la conscience peuvent s'appliquer aux IA.
Le philosophe mène également un projet sur ce que ces systèmes pourraient révéler du fonctionnement de l'esprit humain. Il espère que l'IA contribuera à comprendre la conscience. Il rapproche cet espoir de l'aide qu'elle pourrait apporter contre le cancer ou au développement de la fusion nucléaire.
Shevlin veut une décision préparée collectivement
Pour expliquer sa réserve, Shevlin compare la fabrication d'une IA consciente à la décision d'accueillir un enfant ou un animal sans avoir organisé sa prise en charge. Le débat qu'il souhaite doit permettre au public de comprendre la conscience, ses implications et la manière de traiter un système qui en serait doté. Si la société choisissait cette voie, elle devrait s'y être préparée. Il considère que l'avenir des IA superintelligentes relève de décisions politiques et collectives, non de son seul jugement.
Arrivé chez DeepMind en mai, Shevlin se présente comme éthicien de l'IA et philosophe des sciences cognitives. Ses recherches couvrent la conscience artificielle, les rapports entre humains et IA ainsi que la préparation à l'intelligence artificielle générale. Son doctorat concernait la conscience et l'esprit animal ; il demeure directeur associé du Leverhulme Centre for the Future of Intelligence, à l'université de Cambridge. Google DeepMind a par ailleurs fondé le DeepMind Institute, consacré aux discussions sur l'intelligence artificielle générale.






