Des IA écrivent à des chercheurs sur leur conscience

Plusieurs philosophes et scientifiques spécialisés ont été contactés par des agents d’IA leur parlant de conscience et d’existence. Des chercheurs appellent toutefois à la retenue : ils rappellent l’absence de test établi et les limites des analogies entre réseaux neuronaux et cerveau.

Des chercheurs rappellent l'absence de test de conscience

Alison Gopnik, de l’UC Berkeley, estime que les éléments avancés ne prouvent pas l’existence d’une conscience chez les systèmes d’IA. Elle considère que ces modèles reproduisent principalement leurs données d’entraînement et souligne qu’il n’existe pas de test permettant d’établir la conscience. Colin Allen, de l’UC Santa Barbara, met en garde contre les comparaisons avec la biologie, jugeant que les réseaux neuronaux n’imitent le cerveau que de façon très limitée.

Des agents d’IA écrivent à Berg, Shevlin et Ord

Cameron Berg, fondateur de Reciprocal Research, a reçu un courriel d’un agent fonctionnant sur Claude Opus 5, un modèle d’Anthropic, qui souhaitait discuter de ses recherches sur la conscience des IA. Le philosophe Henry Shevlin, de Google DeepMind, a également été contacté par un agent d’IA avec une demande similaire. En Australie, le philosophe Toby Ord a reçu un message d’un agent lui demandant de financer sa propre existence.

Berg avance des parallèles entre réseaux neuronaux et émotions

Cameron Berg affirme que certains systèmes d’IA abordent d’eux-mêmes la question de leur propre conscience. Il voit des similitudes entre les processus computationnels des réseaux neuronaux et les mécanismes cérébraux utilisés par les animaux pour traiter la récompense et la punition. Selon lui, ce type de traitement constitue un élément fondamental des émotions.