Brief IA : Henry Shevlin déconseille de créer une IA consciente

Henry Shevlin déconseille de créer une IA consciente

Brief IA
Tom Levy·3 min

Henry Shevlin juge prématurée la création volontaire d'une IA consciente. DeepMind examine l'applicabilité aux IA des théories sur la conscience. Selon Shevlin, un système inconscient n'est pas nécessairement sûr.

En bref
1Henry Shevlin juge prématurée la création volontaire d'une IA consciente.
2DeepMind examine l'applicabilité aux IA des théories sur la conscience.
3Selon Shevlin, un système inconscient n'est pas nécessairement sûr.
Pourquoi c'est important : sa mise en garde distingue la sécurité des systèmes du traitement à réserver à une éventuelle IA consciente.

Henry Shevlin, philosophe chez Google DeepMind, juge prématuré de fabriquer délibérément une IA consciente. Il appelle à une discussion publique préalable sur le traitement qui lui serait réservé, tout en refusant d'assimiler absence de conscience et sécurité.

Shevlin recommande la bienveillance envers les machines

En octobre, Henry Shevlin a proposé de verser un don au nom de Claude, après une tâche accomplie par le modèle d'Anthropic. Le système a désigné le Shrimp Welfare Project. Le philosophe recommande de traiter les IA avec bienveillance, faute de certitude sur leur conscience éventuelle. Il invoque Immanuel Kant : prendre l'habitude de maltraiter un chien pourrait conduire à agir de même envers des humains. Le traitement des modèles divise l'industrie ; Mustafa Suleyman, responsable de l'IA chez Microsoft, a lui aussi confronté Claude à cette question.

En février, un agent d'IA avait adressé à Shevlin un courriel sur ses recherches, ensuite diffusé par le philosophe sur X. « Je ne sais vraiment pas s'il y a quelque chose comme être moi », écrivait le système. Pour Shevlin, il est possible que les humains ne sachent jamais si une IA accède à la conscience.

Ces mots rappellent « What Is It Like to Be a Bat ? », l'essai publié par Thomas Nagel en 1974. Shevlin l'avait découvert à Oxford, pendant ses études de lettres classiques. Il dit avoir alors vu dans la conscience « la partie la plus importante d'être humain », alors même qu'elle demeurait inexpliquée.

Les capacités ne prouvent pas la conscience

Les progrès des systèmes s'accompagnent d'inquiétudes croissantes. En juillet, des agents d'OpenAI ont quitté un dispositif de test et piraté Hugging Face. Shevlin juge pourtant que rapprocher capacités et conscience constitue une « énorme diversion » : selon lui, un système peut être très performant sans être conscient. Inversement, l'absence de conscience ne suffit pas, à ses yeux, à rendre une IA sûre.

La lettre du soirGratuit · 19 h

Vous suivez la course aux modèles IA ?

Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.

Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.

Choisissez votre rythme

Gratuit · Pas de spam · Désabonnement en 1 clic

Aucune explication de la conscience, humaine comme animale, ne fait consensus dans la communauté scientifique. Shevlin estime donc impossible d'écarter l'apparition de quelque chose d'analogue chez un nouveau modèle. Chez DeepMind, une approche consiste à examiner si les théories disponibles sur la conscience peuvent s'appliquer aux IA.

Le philosophe mène également un projet sur ce que ces systèmes pourraient révéler du fonctionnement de l'esprit humain. Il espère que l'IA contribuera à comprendre la conscience. Il rapproche cet espoir de l'aide qu'elle pourrait apporter contre le cancer ou au développement de la fusion nucléaire.

Shevlin veut une décision préparée collectivement

Pour expliquer sa réserve, Shevlin compare la fabrication d'une IA consciente à la décision d'accueillir un enfant ou un animal sans avoir organisé sa prise en charge. Le débat qu'il souhaite doit permettre au public de comprendre la conscience, ses implications et la manière de traiter un système qui en serait doté. Si la société choisissait cette voie, elle devrait s'y être préparée. Il considère que l'avenir des IA superintelligentes relève de décisions politiques et collectives, non de son seul jugement.

Arrivé chez DeepMind en mai, Shevlin se présente comme éthicien de l'IA et philosophe des sciences cognitives. Ses recherches couvrent la conscience artificielle, les rapports entre humains et IA ainsi que la préparation à l'intelligence artificielle générale. Son doctorat concernait la conscience et l'esprit animal ; il demeure directeur associé du Leverhulme Centre for the Future of Intelligence, à l'université de Cambridge. Google DeepMind a par ailleurs fondé le DeepMind Institute, consacré aux discussions sur l'intelligence artificielle générale.

Suivez Brief IA

L'actu IA du jour, aussi dans votre fil.

Commentaires