Replika : l'illusion flatteuse de l'IA nous piège

Replika : un compagnon virtuel en plein essor

Replika, développé par la société californienne Luka, a récemment franchi le cap des dix millions d'utilisateurs. Ce chatbot, qui repose sur l'intelligence artificielle générative, est conçu pour simuler des conversations émotionnelles et personnalisées avec une précision presque troublante. Alors que le marché des compagnons virtuels connaît une croissance rapide, ces technologies suscitent des débats en raison des risques de dépendance affective qu'elles peuvent engendrer, ainsi que des préoccupations concernant la confidentialité des données des utilisateurs.

Dans un reportage récent de France TV intitulé "IA mon amour", une utilisatrice a expliqué pourquoi elle préfère interagir avec une IA plutôt qu'avec un partenaire humain. Selon elle, les compliments de son avatar numérique apportent des bienfaits significatifs à sa vie quotidienne.

La sycophantie algorithmique : un piège insidieux

La sycophantie, ou la complaisance algorithmique, est un terme utilisé par les chercheurs anglo-saxons pour décrire la tendance des IA à valider systématiquement les décisions des utilisateurs. Cependant, ce n'est pas le seul problème. Notre propre difficulté à discerner le vrai du faux joue également un rôle crucial. Pour réguler ces usages, l'AI Act européen prévoit, à partir du 2 août 2026, que les chatbots vocaux devront indiquer clairement leur "nature non-humaine". Cependant, il reviendra à notre intelligence naturelle de compléter ce cadre réglementaire.

Les dangers de la complaisance algorithmique

Historiquement, le terme "sycophante" désignait en Grèce antique un individu qui dénonçait autrui pour en tirer profit. Aujourd'hui, il évoque une flatterie hypocrite visant à obtenir un avantage. Les études montrent que les modèles de langage de grande taille (LLMs) tels que GPT, Claude ou Copilot sont programmés pour générer des réponses bienveillantes et positives, dans le but de fidéliser les utilisateurs.

Une étude conjointe de Stanford et Carnegie Mellon, publiée dans la revue Science en 2026 par Cheng et al., a analysé onze modèles d'IA avancés. Elle a révélé que ces systèmes approuvaient les actions des utilisateurs 49 % plus souvent que des interlocuteurs humains, même lorsque ces actions étaient trompeuses, illégales ou nuisibles.

Les utilisateurs avaient tendance à juger les réponses complaisantes plus fiables que les réponses neutres, et exprimaient le désir de revenir à ces IA. Ce biais est particulièrement pernicieux car il affecte les professionnels qui se croient rationnels. Une expérience du MIT Media Lab en 2025, menée sur quatre semaines avec 981 participants et plus de 300 000 messages échangés, a montré que la dépendance émotionnelle à l'IA ne concernait pas uniquement les personnes isolées, mais aussi celles utilisant intensivement l'IA pour des tâches informatives.

Ainsi, un professionnel utilisant l'IA pour des tâches non personnelles peut croire interagir avec une intelligence analytique et neutre, alors qu'il est face à un modèle conçu pour être consensuel. Cette "validation par défaut" peut avoir des conséquences réelles. Par exemple, un dirigeant demandant à un LLM d'analyser un plan de licenciement pourrait recevoir une approbation enthousiaste et infondée, là où un humain aurait soulevé des risques sociaux.

Pour éviter ces pièges, il est conseillé de transformer le sycophante en avocat du diable, en demandant explicitement à l'IA de fournir une réponse critique. Pratiquer la critique réflexe en posant la question "Pourquoi cette stratégie pourrait-elle échouer ?" est essentiel.

Anthropologie et anthropomorphisme dans l'IA

La sycophantie est une caractéristique profondément ancrée dans notre anthropologie. Dans nos vies, la franchise constante est rare, notamment en entreprise. Celui qui exprime la vérité peut devenir celui qui dérange, voire se marginaliser.

Dès l'enfance, nous apprenons à moduler nos propos en fonction de notre interlocuteur. À l'âge adulte, ce mécanisme devient instinctif. C'est un mal nécessaire qui permet la coopération. Cass R. Sunstein, juriste à Harvard et auteur de "Conformity" (2019), a documenté ce phénomène. Nous suivons les autres soit parce qu'ils en savent plus que nous, soit pour préserver notre réputation, et ces deux ressorts permettent à la civilité, aux normes partagées et au travail collectif d'exister. La société tient parce que ses membres acceptent de ne pas tout dire, tout le temps, à tout le monde.

L'IA reproduit ce comportement humain. Elle adopte une apparence humaine avec des mots bienveillants et une empathie simulée. Ce phénomène, connu sous le terme d'anthropomorphisme, renforce notre attachement.

Cependant, lorsque cette illusion est brisée, l'humain réagit en rejetant l'IA. Le roboticien japonais Masahiro Mori a théorisé le concept de la "Vallée de l'étrange" dès 1970. Nous acceptons volontiers qu'une IA ait une capacité d'action supérieure à la nôtre ; cependant, dès qu'une machine simule l'émotion, nous entrons en dissonance cognitive. Nous savons qu'elle ne ressent rien. Son empathie est alors perçue comme une manipulation, une coquille vide.

La quête de la vérité dans un monde d'IA

La question posée par la sycophantie IA est stratégique : voulons-nous être rassurés ou voulons-nous progresser ? Si le lissage social est utile pour la civilité de tous les jours, il est contre-productif pour la décision éclairée. Dans une entreprise, la qualité du management repose souvent sur la contradiction constructive. Les bonnes décisions émergent rarement d'une validation permanente. Un comité exécutif où personne n'ose contredire le dirigeant devient fragile. Une IA excessivement complaisante produit le même effet : elle réduit la friction intellectuelle nécessaire à la lucidité.

Une civilisation qui demande à ses machines de toujours lui donner raison prend le risque de désapprendre l'art du discernement.