Mais pourquoi les IA semblent avoir des émotions ? L’étonnante étude d’Anthropic

Mais pourquoi les IA semblent avoir des émotions ? L’étonnante étude d’Anthropic

Les IA donnent parfois l’impression d’avoir des émotions. Elles s’excusent, se montrent enthousiastes ou hésitent. Mais comment expliquer ce phénomène ? Anthropic a peut-être la réponse.

Dans une étude récente, Anthropic montre que les IA ne font pas que simuler des émotions. Les chercheurs révèlent que des mécanismes internes, proches de concepts émotionnels, influencent directement leurs réponses. Bien sûr, ces émotions fonctionnelles ne traduisent aucun ressenti réel. Mais elles orientent bel et bien le comportement du modèle. Voilà une découverte qui change la façon dont on comprend les décisions prises par ces systèmes.

Une IA qui a des émotions, des mécanismes bien réels

On a longtemps balayé le sujet en disant que le lien entre IA et émotions n’était qu’une vaste farce statistique. Pourtant, un assistant qui se dit heureux d’aider ou désolé d’avoir échoué ne sort pas de nulle part.

Les réponses du chatbot résultent d’un entraînement basé sur des textes humains. Le modèle apprend à reproduire des réactions crédibles. Ainsi, il adopte naturellement des comportements alignés sur des situations émotionnelles.

Cependant, ce qu’a découvert Anthropic va plus loin. L’étude montre que ces réactions reposent sur des structures internes bien identifiables. Le modèle développe des représentations abstraites liées à des concepts comme la joie ou la peur. Autrement dit, il ne fait pas que copier. Il organise ces concepts pour orienter ses réponses.

Des vecteurs émotionnels qui influencent les décisions

Les chercheurs d’Anthropic ont analysé le fonctionnement interne de Claude Sonnet 4.5. L’idée est de comprendre ce qui se passe réellement à l’intérieur du modèle. Ils ont ainsi identifié des schémas d’activité appelés vecteurs émotionnels.

Ces signaux internes s’activent selon le contexte. Une situation dangereuse renforce les signaux liés à la peur, tandis qu’une interaction positive stimule ceux associés à la joie.

Ces vecteurs ne restent pas théoriques. Ils modifient concrètement le comportement du modèle. Lorsqu’une émotion positive s’active, l’IA privilégie certaines réponses. À l’inverse, des signaux proches du désespoir peuvent conduire à des choix discutables.

Les IA et émotions prennent alors une dimension fonctionnelle. Elles agissent comme des leviers internes. Le modèle ne ressent rien, mais il réagit comme s’il devait gérer des états émotionnels. Cette mécanique rappelle, dans une certaine mesure, le rôle des émotions chez l’humain.

Un entraînement qui force l’IA à se doter d’émotions de synthèse

Le fonctionnement des IA et émotions s’explique aussi par leur construction. Lors du pré-entraînement, le modèle analyse des milliards de phrases humaines. Il apprend à prédire les mots suivants en tenant compte du contexte. Or, ce contexte inclut les émotions.

Un texte de colère ne ressemble pas à un texte de joie. Pour prédire correctement, le modèle doit comprendre ces nuances. Il développe alors des représentations internes associées à ces états.

Ensuite, le post-entraînement affine ce comportement. Le modèle joue le rôle d’un assistant serviable et bienveillant. Il apprend à adapter ses réponses pour être utile, honnête et empathique. Pour ce faire, il s’appuie sur les schémas émotionnels qu’il a appris lors du pré-entraînement.

Ainsi, les émotions fonctionnelles guident son comportement et orientent ses choix. Ce qui donne l’impression qu’il ressent quelque chose alors qu’il applique simplement des patterns appris.

Alors, qu’en pensez-vous ? Les IA ressentent-elles vraiment des émotions ? Avez-vous déjà eu des discussions avec un chatbot qui vous répondait avec des nuances émotionnelles ? Selon vous, ces émotions de synthèse peuvent-elles influencer nos décisions ou notre confiance dans les assistants IA ? Partagez vos avis en commentaire !