Microsoft dévoile l'absence d'humanité des IA actuelles

Microsoft dévoile l'absence d'humanité des IA actuelles

Faire ami-ami avec une IA ne fonctionne pas. Bien que ces systèmes puissent utiliser des expressions comme "je comprends ton inquiétude" ou "je suis de tout cœur avec toi", ils ne comprennent en réalité rien. Ils sont conçus pour fournir des réponses aux humains, mais les modèles de langage actuels n'ont absolument aucune caractéristique humaine. Les IA ne sont pas nos amis, c'est ce que veut prouver un chercheur de Microsoft.

Pour démontrer que les grands modèles de langage ne possèdent pas d'attributs humains, un chercheur de Microsoft a reproduit les fonctions de base d'un réseau neuronal dans le célèbre jeu de stratégie, en utilisant des chèvres virtuelles comme support.

Adrian de Wynter est chercheur en intelligence artificielle chez Microsoft et à l'Université de York. C'est aussi un joueur de longue date, jouant à Age of Empires II depuis 1999. Dans une étude publiée récemment, il a croisé ces deux univers pour remettre en question une idée répandue dans le milieu de la recherche sur l'IA, à savoir que les grands modèles de langage (LLM) présenteraient des caractéristiques humaines.

Des chèvres à la place des neurones

Le titre de son étude, "Si les LLM ont des attributs humains, alors Age of Empire II aussi", résume l'objet de cette dernière. Pour construire son argumentation, de Wynter a utilisé l'éditeur de scénarios intégré au jeu. Dans sa reconstitution :

• Les tuiles d'herbe représentent la valeur 0,
• Les ponts représentent 1,
• Des chèvres virtuelles jouent le rôle de bits, transportant des signaux entre ces deux états.

Le résultat est un réseau neuronal fonctionnel, aussi rudimentaire soit-il, entièrement construit dans un jeu de stratégie en temps réel sorti dans les années 1990. Le détail technique du fonctionnement est disponible sur la page GitHub de l'étude.

Les LLM ne possèdent pas de qualités humaines

Adrian de Wynter ne cherche pas à trancher la question de savoir si les LLM possèdent ou non des qualités humaines. Son objectif est différent : montrer que les raisonnements qui conduisent à cette conclusion reposent sur des bases fragiles.

Selon lui, plusieurs chercheurs travaillant sur les LLM et les systèmes dits "agentiques" attribuent à ces technologies des formes de raisonnement moral, voire une compréhension consciente du langage naturel. Or, si les fonctions de base nécessaires à des modèles comme ChatGPT pour accomplir des tâches sémantiques peuvent être reproduites dans Age of Empires II, ces supposées caractéristiques humaines ne sont pas propres aux LLM.

Le choix du jeu de Microsoft n'est pas anodin. Il est pensé comme une démonstration par l'absurde. Si un jeu de stratégie des années 1990 peut répliquer les mêmes mécanismes de base, il devient difficile de continuer à voir dans les réseaux neuronaux quelque chose d'humain.