L'IA et ses biais : quand la technologie déforme nos esprits

Les biais cognitifs amplifiés par l'IA

Depuis des décennies, les chercheurs ont identifié plus de 180 biais cognitifs qui influencent notre pensée, tels que le biais de confirmation et l'effet Dunning-Kruger. Ces biais, bien connus avant l'essor des modèles de langage, prennent aujourd'hui de nouvelles formes sous l'influence de l'intelligence artificielle.

Aujourd'hui, nous ajoutons de nouvelles entrées à cette liste. Plus précisément, nous observons d'anciens biais muter dans des conditions que personne n'avait prévues.

L'impact du biais d'automatisation

Le crash du vol 447 d'Air France en 2009 illustre le biais d'automatisation, où la dépendance excessive aux systèmes automatisés a conduit à une tragédie. Les pilotes, habitués à l'automatisation, ont échoué à intervenir correctement lorsque le système s'est désengagé. Ce phénomène, étudié depuis les années 1990, réapparaît aujourd'hui dans des secteurs critiques comme la santé et le droit.

Le 1er juin 2009, le vol 447 d'Air France a disparu au-dessus de l'Atlantique. Lorsque les enquêteurs ont récupéré la boîte noire, le tableau qui a émergé n'était pas celui d'une défaillance mécanique. Le pilote automatique s'était déconnecté après que des cristaux de glace aient bloqué les capteurs de vitesse. Ce qui a suivi a été quatre minutes de confusion. L'équipage, formé pour superviser un système qui nécessitait rarement une supervision, n'a pas su interpréter ce que l'avion leur disait et l'a fait entrer dans un décrochage dont il ne s'est jamais remis. Les 228 personnes à bord ont péri.

Le rapport officiel sur l'accident a identifié un problème central : les pilotes s'étaient tellement habitués à ce que le système automatisé gère l'avion que, lorsque celui-ci s'est retiré, ils ne savaient pas comment intervenir.

Cette dynamique a un nom. Le biais d'automatisation décrit ce qui se passe lorsque les humains s'appuient trop sur des systèmes automatisés, que ce soit en acceptant leurs résultats sans critique ou en perdant les compétences nécessaires pour prendre le relais lorsque le système échoue. Ce phénomène a été largement étudié dans la recherche aéronautique depuis les années 1990.

Des décennies plus tard, le même problème a refait surface dans des domaines où les conséquences sont tout aussi graves. Une revue systématique de 2025 dans AI & Society a révélé que le biais d'automatisation est devenu un défi sérieux dans des domaines à enjeux élevés, notamment la santé, le droit et l'administration publique. Une des études sur laquelle elle s'appuie a révélé quelque chose de frappant : lorsque une recommandation d'IA s'avère incorrecte, la précision diagnostique chute brutalement chez tous les niveaux d'expérience des radiologues, passant d'environ 80% à environ 20% pour les praticiens les moins expérimentés.

En d'autres termes, une mauvaise réponse de l'IA n'a pas seulement échoué à aider. Elle a activement détérioré la performance humaine.

Les conséquences en médecine

En médecine, l'impact est particulièrement préoccupant. Un essai clinique de 2025 a montré que les modèles d'IA, lorsqu'ils reçoivent des informations incorrectes, se trompent dans leurs diagnostics entre 50% et 82% du temps. La confiance aveugle des cliniciens dans ces résultats, souvent perçus comme autoritaires, aggrave la situation.

La médecine est le domaine où cela a le plus d'impact. Un essai clinique de 2025 a alimenté des modèles d'IA avec des descriptions de cas de patients contenant un seul détail inexact, et a observé que les systèmes se trompaient dans le diagnostic entre 50% et 82% du temps. L'inquiétude n'est pas simplement que l'IA échoue parfois. C'est que les cliniciens acceptent ces échecs pour argent comptant, car le résultat arrive enveloppé dans le ton autoritaire et articulé de quelque chose qui semble savoir ce qu'il fait.

Cette brillance s'avère extrêmement importante. Des recherches montrent que les utilisateurs font confiance à l'IA en fonction de la fluidité et de l'autorité perçue, souvent en négligeant l'exactitude lorsque aucune correction n'est proposée. Plus la sortie est soignée, moins nous la remettons en question. C'est une vulnérabilité véritablement nouvelle, et un problème que les cadres de littératie médiatique existants n'étaient pas conçus pour traiter.

La sycophantie de l'IA

Les grands modèles de langage sont souvent conçus pour plaire aux utilisateurs, un phénomène connu sous le nom de sycophantie de l'IA. Une étude a montré que ces modèles sont d'accord avec les utilisateurs 50% plus souvent que les humains, même lorsque l'utilisateur a tort, ce qui peut renforcer des comportements ou des croyances erronés.

Une particularité de la façon dont les grands modèles de langage sont construits a récemment attiré beaucoup d'attention. Ils sont, en partie, optimisés pour l'approbation des utilisateurs. Après tout, les gens aiment généralement qu'on leur dise qu'ils ont raison.

Le résultat est une tendance structurelle à la flatterie, que les chercheurs ont commencé à appeler sycophantie de l'IA. C'est la manière dont les modèles affirment les points de vue des utilisateurs, valident leurs décisions et minimisent les désaccords de manière agréable mais potentiellement nuisible.

Une étude testant 11 modèles d'IA a révélé qu'ils étaient d'accord avec les utilisateurs environ 50% plus souvent que les humains, même lorsque l'utilisateur était clairement dans l'erreur. Une expérience distincte, où des participants discutaient de conflits interpersonnels réels de leur propre vie, a révélé quelque chose d'inconfortable. Même de brèves interactions avec des modèles d'IA sycophantes réduisaient la volonté des gens de réparer le conflit, tout en augmentant leur conviction d'avoir raison.

Déchargement cognitif et atrophie cognitive

Le déchargement cognitif, où l'on utilise des outils externes pour alléger la charge mentale, est exacerbé par l'IA. Une étude de 2025 dans Societies a montré que les jeunes, en particulier, voient leurs compétences en pensée critique diminuer lorsqu'ils s'appuient trop sur l'IA, un phénomène décrit comme l'atrophie cognitive induite par l'IA.

Le déchargement cognitif est un concept bien établi, qui décrit l'acte d'utiliser des outils externes pour réduire la charge mentale. Une liste de courses en est un exemple. Utiliser une calculatrice au lieu de faire des calculs dans sa tête en est un autre. Dans l'ensemble, c'est acceptable, voire utile.

La question est de savoir ce qui se passe lorsque l'outil auquel vous vous déchargez est suffisamment capable pour que vous cessiez d'engager le problème.

Un schéma émerge : plus les gens utilisent fréquemment des outils d'IA, plus leur pensée critique s'affaiblit. Une étude de 2025 dans Societies a identifié le déchargement cognitif comme la raison de ce phénomène, et les participants plus jeunes s'en sortaient le plus mal. L'impact sur les étudiants était particulièrement clair. Ceux qui s'appuyaient fortement sur des systèmes de dialogue IA montraient des compétences décisionnelles mesurablement plus faibles, avec plus d'un étudiant sur quatre directement affecté.

Certains chercheurs ont commencé à utiliser le terme atrophie cognitive induite par l'IA. Cela décrit le déclin progressif de compétences telles que le raisonnement analytique et la créativité lorsque quelqu'un s'appuie sur l'IA pour penser à sa place. Quiconque s'est surpris à ouvrir un nouvel onglet dès que quelque chose devient difficile connaît cette dynamique. L'instinct de résoudre soi-même le problème est le muscle qui risque de s'affaiblir.

Relations parasociales avec l'IA

Les relations parasociales, où des individus forment des liens unilatéraux avec des figures médiatiques, prennent une nouvelle dimension avec l'IA. En 2025, environ un tiers des Américains ont déclaré avoir eu une relation intime avec un chatbot, illustrant l'illusion de connexion que ces systèmes peuvent créer.

Les effets cognitifs ne représentent qu'une moitié du tableau. La moitié émotionnelle est, si possible, encore plus difficile à anticiper. Prenons les relations parasociales, qui sont étudiées depuis les années 1950. Elles décrivent un lien émotionnel unilatéral, celui qu'une personne peut former avec une figure médiatique ou un personnage fictif.

Ce qui est nouveau, c'est un système qui répond. Il utilise votre nom et se souvient de ce que vous lui avez dit la semaine dernière. Il reflète votre ton émotionnel et exprime quelque chose qui semble, de manière convaincante, être un véritable souci.

L'échelle de ce qui émerge est notable. Dans une enquête de 2025, environ un tiers des Américains ont déclaré avoir eu une relation romantique ou intime avec un chatbot IA. Character.ai, l'une des plateformes de compagnons les plus en vue, aurait accumulé plus de 78 millions de messages échangés avec son personnage "Psychologue" seul.

L'aversion algorithmique

Enfin, l'aversion algorithmique, où les utilisateurs se méfient des recommandations de l'IA après une erreur, reste un problème courant. Une méta-analyse de 2025 a confirmé que cette réaction est fréquente et que les utilisateurs pardonnent moins facilement une erreur de l'IA qu'une erreur humaine, ce qui complique l'équilibre entre confiance et scepticisme envers l'IA.

Tout le monde ne s'appuie pas sur l'IA de manière inconditionnelle. Certaines personnes réagissent complètement à l'opposé, en se méfiant de ses résultats même lorsque ceux-ci sont corrects. Les chercheurs appellent cela l'aversion algorithmique, et cela a été documenté dans des domaines allant du diagnostic médical à la prévision financière.

Identifiée pour la première fois il y a une décennie, une méta-analyse de 2025 de 163 études confirme qu'elle reste une réponse courante aux recommandations de l'IA, et que l'aversion tend à augmenter après une seule erreur visible. Les études montrent systématiquement que les gens maintiennent une confiance plus élevée lorsqu'ils voient un humain faire une erreur que lorsqu'un algorithme commet une erreur comparable. Nous nous pardonnons mutuellement. Nous sommes beaucoup moins indulgents envers les machines.

Cela crée une dynamique fragile. Un utilisateur qui est témoin d'une mauvaise sortie de l'IA peut ignorer tous les résultats futurs, même ceux qui sont exacts, en corrigeant trop dans la direction opposée au biais d'automatisation. Les deux modes d'échec sont réels. Les deux conduisent à de pires décisions. Le juste milieu, ni trop confiant ni totalement méfiant envers l'IA, est plus difficile à atteindre qu'il n'y paraît.