Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Depuis l'émergence de ChatGPT, les discussions autour de la conscience des intelligences artificielles se sont intensifiées. Peut-on vraiment considérer ces systèmes comme conscients, ou ne sont-ils que des outils sophistiqués de prédiction de texte ? Les avis divergent parmi les experts. Certains voient en ces modèles les prémices d'une intelligence comparable à celle de l'homme, tandis que d'autres les considèrent simplement comme des machines avancées sans véritable compréhension.
Dans ce contexte, Adrian de Wynter, chercheur chez Microsoft, a décidé d'apporter une contribution originale au débat. Plutôt que de s'engager dans un discours technique complexe, il a choisi une approche plus accessible et provocatrice.
Une démonstration provocatrice
Adrian de Wynter a publié un article au titre évocateur : « Si les LLM possèdent des attributs humains, alors Age of Empires II aussi ». Par cette démonstration, il cherche à souligner combien certaines affirmations sur la conscience des IA peuvent être trompeuses.
Comment déterminer si une IA est consciente ?
Pour de Wynter, il n'existe pas de méthode universelle pour prouver la conscience chez une IA. Les discussions sur ce sujet reposent souvent sur des interprétations et des hypothèses difficiles à vérifier. Pour illustrer cette complexité, il a mené une expérience originale avec les chèvres virtuelles du jeu Age of Empires II, sorti en 1999.
Grâce à l'éditeur de scénarios du jeu, de Wynter a transformé ces chèvres en éléments de calcul, créant des portes logiques simples telles que NAND, XNOR et AND. Ces portes sont fondamentales pour les systèmes informatiques modernes. En utilisant ces mécanismes, il a pu construire un perceptron, une forme basique de réseau neuronal artificiel, démontrant ainsi que les chèvres pouvaient simuler certains principes de l'IA moderne.
Les résultats de l'expérience
Les chèvres virtuelles ont été utilisées pour créer un système logique complexe. De Wynter les a surnommées les « bit-goats », une contraction des mots « bit » et « goat ».
Qu'est-ce que le chercheur veut prouver, exactement ?
L'expérience met en lumière le concept de « substrat », c'est-à-dire le support sur lequel une IA est construite. Aujourd'hui, on imagine souvent des infrastructures informatiques massives pour des modèles comme ChatGPT. Cependant, de Wynter montre qu'un système similaire pourrait théoriquement être implémenté sur des supports très différents, comme les chèvres virtuelles.
Si les mêmes mécanismes logiques peuvent être reproduits dans un jeu vidéo, alors le support lui-même n'est pas ce qui définit les capacités d'un système. Ce n'est pas parce qu'une IA fonctionne sur des serveurs sophistiqués qu'elle possède automatiquement des propriétés particulières. Inversement, un système basé sur des chèvres numériques ne change pas nécessairement son comportement.
Alors, l'IA dispose-t-elle de qualités humaines ou pas ?
Selon de Wynter, lorsqu'on interagit avec ChatGPT, l'expérience est fluide et convaincante, donnant l'impression d'une entité intelligente. Le langage est souvent associé à la conscience. Quand une machine s'exprime de manière convaincante, on a tendance à lui attribuer des qualités humaines comme la compréhension ou les émotions.
Mais si les réponses de ChatGPT provenaient d'un système de chèvres virtuelles, notre perception serait différente, bien que le modèle reste inchangé. Les questions et réponses seraient identiques, seule la présentation changerait. Cela montre que nos attentes influencent notre perception des IA.
La conscience des IA : une question peut-être mal posée
L'expérience de de Wynter ne cherche pas à prouver ou réfuter la conscience des LLM, mais à montrer que nos positions sont souvent influencées par des hypothèses préalables. Croire qu'un modèle est conscient avant de l'étudier peut biaiser l'analyse, tout comme l'inverse.
Le débat actuel souffre de cette difficulté, car les expériences pour prouver ou réfuter des qualités humaines chez les IA reposent souvent sur des concepts flous. L'image des chèvres d'Age of Empires II agit comme un miroir révélant combien notre perception d'une IA dépend du contexte dans lequel elle est présentée.
