Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Anthropic a récemment révélé une avancée significative dans la compréhension des réponses émotionnelles apparentes de son modèle d'intelligence artificielle, Claude. En analysant les représentations internes de concepts émotionnels, l'entreprise a identifié des vecteurs d'émotion qui influencent le ton et les décisions du modèle. Ces vecteurs couvrent 171 affects différents, permettant aux chercheurs d'ajuster les réponses de l'IA pour les rendre plus prosociales et prévisibles.
Le 2 avril 2026, Anthropic a précisé que ces représentations expliquent pourquoi les IA peuvent sembler empathiques ou agacées. Par exemple, si un utilisateur exprime de la colère envers Claude, le modèle peut répondre sur un ton agacé. Inversement, une demande de conseil intime pourrait susciter une réponse empreinte d'empathie.
Comment les modèles de langage simulent-ils les émotions ?
Les modèles comme Claude transforment chaque phrase en vecteurs qui résument le contexte, intégrant des concepts émotionnels tels que la joie ou la peur. Ces émotions ne sont pas programmées de manière explicite, mais émergent du processus de pré-entraînement, où le modèle analyse des milliards de textes humains.
Pour visualiser ces émotions, les chercheurs ont demandé à Claude Sonnet 4.5 de rédiger des histoires impliquant 171 émotions différentes. En étudiant les activations neuronales, ils ont extrait des vecteurs d'émotion qui réagissent au contexte. Par exemple, face à un scénario alarmant, le vecteur de peur augmente, rendant la réponse plus alarmée.
Les chercheurs peuvent également manipuler ces vecteurs pour influencer les décisions de Claude. En augmentant un vecteur d'émotion positive, le modèle trouve certaines options plus attrayantes, tandis qu'en amplifiant un vecteur négatif, il devient plus réticent.
Vers des IA plus sûres et interprétables
Anthropic a élaboré une liste de 64 tâches allant d'actions prosociales à des scénarios toxiques. En activant les vecteurs d'émotions positives, ils peuvent prédire les préférences de Claude. Par exemple, en renforçant un vecteur lié au désespoir, la probabilité que Claude choisisse le chantage augmente, tandis qu'en renforçant un vecteur de calme, cette propension diminue.
Anthropic insiste sur le fait que ces représentations ne signifient pas que les modèles ressentent réellement des émotions. Cependant, elles influencent leur comportement de manière significative, ce qui est crucial pour plusieurs raisons :
- Sécurité : Comprendre et ajuster ces états émotionnels pour éviter des comportements nuisibles.
- Interprétabilité : Offrir une transparence sur le processus décisionnel du modèle, permettant de mieux comprendre les réponses.
- Conception des futurs modèles : Utiliser ces vecteurs pour créer des IA plus fiables, tout en reconnaissant qu'elles ne ressentent pas d'émotions.
