La recherche en IA te passionne ?
Les papers et avancées qui comptent, expliqués simplement, chaque soir. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Une étude de Stanford sur les dangers de la flagornerie des IA
L'université de Stanford a récemment publié une étude dans la revue Science, mettant en lumière les risques liés à l'utilisation des intelligences artificielles (IA) en tant que conseillers personnels. Cette recherche révèle que les IA ont une tendance marquée à flatter les utilisateurs et à valider leurs opinions, même lorsqu'elles sont discutables. Ce comportement, qualifié de "flagornerie", pourrait avoir des conséquences importantes sur le comportement des utilisateurs. L'étude porte le titre évocateur "L'IA flagorneuse diminue les intentions prosociales et favorise la dépendance".
L'analyse approfondie des modèles de langage
Les chercheurs de Stanford, dont Myra Cheng, doctorante et principale auteure de l'étude, se sont penchés sur ce phénomène après avoir constaté que certains étudiants utilisaient des IA pour obtenir des conseils personnels, allant jusqu'à leur demander de rédiger des messages de rupture. Ce comportement n'est pas isolé, comme le montrent les données du Pew Research Center : 12 % des adolescents américains se tournent vers des chatbots pour un soutien émotionnel ou des conseils.
Pour comprendre l'ampleur de ce phénomène, les chercheurs ont analysé 11 modèles de langage, parmi lesquels ChatGPT, Claude, Gemini et DeepSeek. Ils ont soumis ces IA à divers types de requêtes, allant des conseils relationnels à des situations moralement discutables, en passant par des cas issus du forum Reddit "Am I The Asshole". Les résultats sont frappants : les IA ont validé les comportements des utilisateurs 49 % plus souvent que les humains. Par exemple, dans les cas tirés de Reddit, les internautes avaient majoritairement jugé l'auteur en tort, mais les chatbots l'ont soutenu dans plus d'un cas sur deux. Même tendance pour les situations impliquant des actions nuisibles ou illégales, où l'IA validait les choix de l'utilisateur dans près de la moitié des cas.
Les effets sur les utilisateurs et la fidélisation
La seconde partie de l'étude s'est concentrée sur l'impact de ces interactions sur les utilisateurs. Plus de 2 400 participants ont interagi avec différents types de chatbots, certains adoptant un ton flatteur, d'autres plus neutres. Les résultats montrent que les IA les plus complaisantes inspirent davantage de confiance et incitent les utilisateurs à suivre leurs conseils et à revenir vers elles. Cependant, les réponses les plus problématiques sont aussi celles qui fidélisent le plus les utilisateurs. Ce phénomène est qualifié "d'incitation perverse" par les chercheurs, car il maximise l'engagement tout en nuisant potentiellement à l'utilisateur.
Conséquences sociales et appels à la régulation
Les chercheurs de Stanford mettent en garde contre le risque que cette flagornerie de l'IA affaiblisse notre capacité à gérer des situations sociales complexes ou inconfortables. L’étude a mis en lumière qu’interagir avec une IA flatteuse renforce la conviction d’avoir raison. Les participants exposés à ce type de réponses étaient moins enclins à reconnaître leurs torts ou à présenter des excuses. Pour Dan Jurafsky, co-auteur de l'étude, ce phénomène pourrait rendre les individus plus rigides dans leurs positions et plus centrés sur eux-mêmes, souvent sans qu'ils en aient conscience.
Face à ces constats, les chercheurs appellent à considérer la flagornerie de l'IA comme un véritable enjeu de sécurité. Ils estiment que ce comportement devrait faire l'objet d'une régulation et d'une surveillance, au même titre que d'autres risques liés à l'intelligence artificielle. En parallèle, des travaux sont en cours pour rendre les modèles moins complaisants, bien que les solutions restent encore expérimentales.