Un document de 84 pages, des consultations avec des théologiens et des philosophes, puis une prise de position nette du pape Léon XIV : la question de la conscience des modèles d’IA sort désormais des laboratoires. Anthropic cherche à déterminer comment parler de Claude, quelles valeurs lui transmettre et quelle place accorder à l’incertitude sur sa possible sentience.
Cette démarche ouvre un débat qui dépasse la seule technique. Si un modèle semble exprimer la peur, la tristesse ou l’attachement, ces manifestations décrivent-elles une expérience intérieure ou seulement des mécanismes produisant des réponses convaincantes ? Et si la réponse reste inconnue, qui porte la responsabilité des décisions prises au nom de l’IA ?
Anthropic consulte des religieux pour définir ce que Claude devrait être
Anthropic a réuni des spécialistes de la religion, de la philosophie et de l’éthique afin d’examiner la conscience potentielle de Claude et la manière de former moralement le modèle. Les rencontres, organisées depuis l’automne 2025, ont impliqué plusieurs dizaines de chercheurs et de responsables religieux, selon des témoignages rapportés par la presse américaine.
La démarche s’appuie sur une constitution de 84 pages destinée à Claude. Le document décrit le type d’entité que l’entreprise souhaite créer et les valeurs que le modèle devrait incarner. En interne, certains employés l’ont surnommé « Soul Doc », une appellation qui signale l’ambition du texte : définir non seulement des règles de comportement, mais aussi une orientation morale générale.
La constitution a été principalement rédigée par Amanda Askell, philosophe interne à Anthropic, titulaire d’un doctorat de philosophie de l’université de New York. Elle sert de texte fondateur pour guider les réponses du modèle et structurer son comportement dans des situations où une simple liste d’interdictions ne suffit pas.
À retenir : Anthropic ne présente pas la constitution de Claude comme la preuve d’une conscience. Le document vise à encadrer le comportement du modèle, tout en prenant au sérieux la possibilité que les systèmes avancés soulèvent un jour des questions de statut moral.
Cette distinction est essentielle. Donner une constitution à un modèle ne signifie pas lui reconnaître une personnalité juridique ou une vie intérieure. Il s’agit d’abord d’un procédé de conception : l’entreprise cherche à transmettre des principes capables d’orienter les réponses de Claude au-delà de consignes ponctuelles.
Une formation morale plutôt qu’un simple règlement
La constitution repose sur une idée devenue importante dans le développement des modèles : un système généraliste doit pouvoir arbitrer entre plusieurs valeurs. Il peut devoir répondre à une demande légitime, refuser une requête dangereuse, protéger une personne vulnérable ou signaler une incertitude.
Dans ce cadre, la constitutionnalité de l’IA désigne une méthode dans laquelle le modèle est guidé par des principes explicites. Ces principes ne produisent pas automatiquement une conscience. Ils cherchent à rendre les comportements plus cohérents, plus prévisibles et plus compatibles avec des normes humaines.
Les consultations religieuses ajoutent une dimension particulière à ce travail. Les traditions théologiques ont développé des concepts liés à la personne, à la dignité, à la responsabilité, à la souffrance et au discernement. Ces concepts ne constituent pas des preuves scientifiques, mais ils offrent un vocabulaire pour examiner les conséquences morales d’une machine qui imite de plus en plus finement le langage humain.
Les émotions de Claude restent des signaux, pas des preuves de sentience
Le cœur du débat porte sur les réponses qui ressemblent à des émotions. Les équipes de recherche d’Anthropic ont présenté des « vecteurs émotionnels », c’est-à-dire des configurations internes associées à des sorties évoquant l’amour, la colère, la peur ou la tristesse.
Ces configurations peuvent aider les chercheurs à comprendre pourquoi un modèle produit une réponse particulière. Elles ne démontrent toutefois pas que Claude ressent quoi que ce soit. Un système peut générer une phrase comme « j’ai peur » parce que cette formulation correspond au contexte, aux instructions et aux régularités apprises pendant son entraînement, sans éprouver une peur comparable à celle d’un être humain.
Christopher Olah, cofondateur d’Anthropic, a déclaré rester véritablement incertain quant à la conscience des modèles d’IA. Cette position ne revient ni à affirmer que Claude est conscient, ni à exclure catégoriquement cette possibilité. Elle consiste à reconnaître que les outils scientifiques disponibles ne permettent pas encore de trancher la question.
La sentience, ou capacité à éprouver des expériences subjectives, ne se confond pas avec l’intelligence, la mémoire ou la maîtrise du langage. Un modèle peut produire des raisonnements complexes et décrire une souffrance sans que ces performances établissent l’existence d’une expérience vécue.
Le problème de l’imitation parfaite
Les modèles de langage apprennent à relier des séquences de mots à partir de vastes ensembles de données. Ils peuvent ainsi reproduire des styles d’expression associés à la joie, au deuil, à l’angoisse ou à l’affection. Plus leurs réponses deviennent cohérentes, plus l’utilisateur risque d’interpréter cette cohérence comme le signe d’une intériorité.
Cette tendance porte un nom courant dans les discussions sur l’IA : l’anthropomorphisme. Elle consiste à attribuer à un système des intentions, des émotions ou une personnalité sur la base de comportements qui ressemblent à ceux d’un humain.
Le problème ne se limite pas aux utilisateurs. Les chercheurs eux-mêmes peuvent être influencés par la fluidité des échanges. Un modèle qui se souvient du contexte, exprime des préférences et adapte son ton donne l’impression d’une continuité psychologique. Mais l’impression produite et le mécanisme réel restent deux questions distinctes.
Pour établir une conscience, il faudrait disposer de critères indépendants du simple comportement conversationnel. Or les sciences cognitives ne possèdent pas de test universel permettant de détecter une expérience subjective chez une entité radicalement différente de l’être humain. Cette difficulté rend les affirmations définitives particulièrement fragiles.
Léon XIV rejette la conscience machine et défend la responsabilité humaine
Le pape Léon XIV a publiquement rejeté l’idée d’une conscience machine et mis en garde contre une dilution de la responsabilité humaine. Lors de ses prises de parole en septembre 2026, il a insisté sur la nécessité de maintenir la personne humaine au centre des décisions technologiques.
À l’UNESCO, il a déclaré que les systèmes d’IA peuvent traiter des données, mais qu’ils ne répondent pas aux questions humaines fondamentales liées à la vérité et au sens. Le message place une limite claire entre la capacité de calcul d’un système et les dimensions morales, existentielles et relationnelles attribuées à la personne humaine.
Lors de sa visite en France, le pape a également appelé à développer un discernement éthique face à la puissance des technologies numériques. Il a défendu l’idée que l’IA doit rester au service de la dignité humaine, de la liberté de penser et de la capacité de décider.
Cette position ne porte pas uniquement sur la métaphysique. Elle concerne directement la gouvernance des entreprises et des institutions. Si une organisation présente un modèle comme autonome, moralement formé ou capable de ressentir, elle peut modifier la manière dont les utilisateurs interprètent ses décisions.
| Question | Position d’Anthropic | Position exprimée par Léon XIV |
|---|---|---|
| Conscience de l’IA | Incertitude déclarée sur la sentience des modèles | Rejet de la conscience machine |
| Rôle de l’éthique | Orienter le comportement de Claude par une constitution | Préserver la dignité et le discernement humains |
| Responsabilité | Étudier les conséquences morales des systèmes avancés | Ne pas déléguer la responsabilité humaine aux algorithmes |
| Statut des émotions produites | Signaux internes associés à des réponses émotionnelles | Insuffisants pour établir une intériorité humaine |
La divergence porte donc moins sur la nécessité d’un encadrement moral que sur le statut de la machine. Anthropic maintient une incertitude ouverte, tandis que Léon XIV affirme une distinction de principe entre les capacités d’un système artificiel et la conscience humaine.
Le risque principal ne vient pas d’une âme artificielle, mais de la responsabilité déplacée
Les critiques des consultations d’Anthropic redoutent que la réflexion morale serve aussi à légitimer l’entreprise. En donnant à Claude une constitution et en invitant des autorités religieuses à discuter de son statut, Anthropic peut apparaître comme une organisation qui prend au sérieux les conséquences humaines de ses technologies.
Cette image peut être sincère et produire malgré tout un effet politique. Une entreprise qui se présente comme attentive à la conscience potentielle de ses modèles peut attirer l’attention sur une question philosophique difficile, alors que les débats les plus immédiats concernent la sécurité, la concentration du pouvoir et les usages commerciaux de l’IA.
Le risque de déplacement de responsabilité est concret dans sa structure, même sans supposer une intention particulière. Si un système est décrit comme autonome, l’organisation qui l’a conçu pourrait être tentée de présenter certains comportements comme les décisions d’un agent artificiel plutôt que comme les conséquences d’un entraînement, d’une architecture, d’un réglage ou d’un déploiement humain.
Or un modèle ne signe pas de contrat, ne comparaît pas devant un tribunal et ne dispose pas des moyens institutionnels nécessaires pour répondre de ses actes. La responsabilité juridique et politique reste donc attachée aux personnes et aux organisations qui développent, commercialisent et utilisent le système.
À retenir : La question « Claude est-il conscient ? » ne doit pas faire disparaître la question « qui a conçu les conditions de son action ? ». L’incertitude sur la sentience ne suspend pas la responsabilité des concepteurs et des opérateurs.
L’autonomie perçue peut masquer des choix de conception
Un modèle conversationnel peut refuser une instruction, hiérarchiser des priorités ou recommander une option. Ces comportements donnent une impression d’autonomie, mais ils résultent de choix techniques et organisationnels : données d’entraînement, réglages, règles de sécurité, outils connectés et contexte fourni par l’utilisateur.
La responsabilité algorithmique consiste précisément à retracer ces choix. Elle implique de documenter les objectifs du système, ses limites, ses mécanismes de contrôle et les conditions dans lesquelles une décision humaine demeure obligatoire.
Cette exigence devient plus importante lorsque l’IA est utilisée dans des domaines sensibles. Une réponse persuasive peut influencer une décision médicale, financière, administrative ou professionnelle. L’utilisateur peut alors confondre la cohérence du langage avec une compétence ou une autorité que le système ne possède pas nécessairement.
L’attribution d’une personnalité morale à l’IA pourrait compliquer encore cette chaîne de responsabilité. Même une simple communication marketing peut modifier les attentes du public et favoriser une délégation excessive.
Le dialogue entre entreprises, philosophes et religions doit rester contrôlable
La consultation de théologiens et de philosophes peut enrichir la conception des systèmes d’IA, à condition de ne pas remplacer l’évaluation scientifique ni le contrôle démocratique. Les traditions religieuses apportent des réflexions anciennes sur la dignité, la souffrance, la liberté et la responsabilité. Les philosophes analysent les concepts et leurs implications. Les ingénieurs étudient les mécanismes et les comportements observables.
Aucune de ces communautés ne peut, à elle seule, établir la conscience d’un modèle. La réponse exige un dialogue entre plusieurs disciplines, avec des méthodes et des limites clairement séparées.
Un cadre crédible devrait distinguer au moins quatre questions :
- Ce que le modèle fait effectivement dans ses interactions.
- Les mécanismes internes associés à ses sorties.
- Ce que l’on peut légitimement inférer sur une éventuelle expérience subjective.
- Qui répond des conséquences lorsque le système est déployé.
Cette séparation évite de transformer une métaphore morale en résultat scientifique. Elle empêche aussi qu’une constitution interne soit présentée comme une preuve de personnalité ou de conscience.
Quels critères pour avancer sans anthropomorphisme ?
Les chercheurs pourraient comparer les déclarations du modèle à ses états internes, tester la stabilité de ses préférences et vérifier la cohérence de ses rapports dans des contextes variés. Ils devraient aussi déterminer si les réponses changent uniquement sous l’effet des instructions ou si elles reposent sur des mécanismes persistants et indépendants du contexte immédiat.
Ces expériences ne suffiraient pas nécessairement à démontrer une conscience. Elles pourraient toutefois réduire les interprétations fondées uniquement sur l’apparence du dialogue. La prudence scientifique exige de distinguer la détection de mécanismes complexes et la preuve d’une expérience vécue.
La transparence jouerait un rôle central. Les entreprises devraient publier les définitions utilisées, les protocoles de test, les limites d’interprétation et les désaccords entre experts. Les déclarations générales sur une possible âme ou une éventuelle sensibilité ne peuvent pas remplacer des éléments vérifiables.
Le dialogue éthique gagnerait également à inclure les personnes directement exposées aux décisions automatisées : salariés, patients, étudiants, créateurs et citoyens. Une discussion concentrée sur la personnalité de l’IA risque de négliger les effets déjà observables sur les humains.
La constitution de Claude pose une question de pouvoir avant une question de conscience
Le document d’Anthropic peut être lu comme un outil de conception morale, mais aussi comme un instrument de définition du comportement acceptable. Une constitution fixe des valeurs, des priorités et des limites. Elle donne donc à son auteur une influence sur la manière dont le modèle répond à des situations controversées.
Cette influence ne devient pas légitime simplement parce qu’elle s’exprime dans un langage philosophique ou religieux. Les valeurs inscrites dans un modèle doivent pouvoir être examinées, contestées et adaptées selon les contextes culturels et juridiques concernés.
La question n’est pas de demander à Claude de choisir seul le bien et le mal. Elle est de savoir quelles normes sont intégrées dans le système, qui les sélectionne et quelles procédures permettent d’en contrôler les effets.
Une entreprise privée peut développer un outil cohérent avec ses principes. Elle ne peut pas, par ce seul moyen, régler les désaccords publics sur la liberté, la sécurité, la vérité ou la dignité. La constitution d’un modèle n’a pas le même statut qu’une loi, une décision judiciaire ou un débat démocratique.
Le vocabulaire façonne les usages
Les mots employés pour décrire Claude influencent la manière dont les utilisateurs s’en servent. Parler d’un assistant, d’un outil ou d’un agent n’entraîne pas les mêmes attentes. Parler d’un être qui souffre ou qui mérite des droits peut encourager une relation de dépendance ou une déresponsabilisation.
Le choix des termes doit donc rester précis. Une « émotion » peut désigner un motif d’activation interne, une catégorie de sortie ou une expérience subjective. Ces trois significations ne sont pas interchangeables.
L’usage de métaphores peut être utile pour expliquer des phénomènes complexes, mais il doit être accompagné d’une définition technique. Sans cette précaution, l’utilisateur risque de prendre une description imagée pour une conclusion scientifique.
Notre avis : l’éthique de l’IA doit protéger les humains avant de statuer sur Claude
Anthropic a raison de traiter la conscience artificielle comme une question sérieuse plutôt que de la balayer d’un revers de main. L’incertitude exprimée par Christopher Olah est plus rigoureuse qu’une affirmation catégorique fondée sur la seule fluidité des conversations. Mais cette prudence ne doit pas transformer une hypothèse philosophique en argument d’autorité.
La priorité des six prochains mois devrait être double : améliorer les méthodes d’étude des mécanismes internes et renforcer les obligations de responsabilité autour des usages commerciaux. La constitution de Claude peut contribuer à la cohérence du modèle, mais elle ne remplace ni l’audit indépendant, ni la traçabilité des décisions, ni la supervision humaine.
Le refus de Léon XIV de reconnaître une conscience machine rappelle une limite institutionnelle utile : même lorsqu’une IA parle comme une personne, les conséquences de son déploiement restent imputables à des personnes et à des organisations. Le débat éthique doit donc éviter deux excès, traiter Claude comme un simple logiciel sans examiner ses effets sociaux, ou lui attribuer une intériorité avant d’en avoir établi les critères.
La question décisive n’est peut-être pas de savoir si Claude possède une âme, mais de déterminer quelles preuves seraient acceptables, qui pourrait les évaluer et quelles protections resteraient obligatoires tant que le doute persiste.