Les chatbots IA uniformisent notre façon de penser, selon une étude

Les chatbots IA uniformisent notre façon de penser, selon une étude

Une partie de ce qui fait de nous des êtres humains, ce sont les manières uniques dont nous pensons et résolvons des problèmes. Cependant, l'utilisation de grands modèles de langage comme ChatGPT pourrait éroder cette singularité et amener les humains à penser et communiquer de la même manière, selon un groupe de scientifiques et de psychologues qui ont coécrit un nouvel article d'opinion.

"Les individus diffèrent dans leur façon d'écrire, de raisonner et de voir le monde", a déclaré Zhivar Sourati, informaticien à l'Université de Californie du Sud et premier auteur de l'article. "Lorsque ces différences sont médiées par les mêmes LLM, leur style linguistique distinct, leur perspective et leurs stratégies de raisonnement deviennent homogénéisés, produisant des expressions et des pensées standardisées parmi les utilisateurs", a poursuivi Sourati.

L'article, publié mercredi dans la revue Trends in Cognitive Sciences, examine comment des centaines de millions de personnes dans le monde utilisent le même petit nombre de chatbots et ce que cela signifie pour notre individualité.

Penser dans le moule

Pew Research a constaté qu'un tiers de tous les Américains a utilisé ChatGPT l'année dernière, soit le double du chiffre de 2023. L'utilisation des chatbots est également beaucoup plus courante chez les adolescents : deux tiers d'entre eux affirment utiliser des chatbots, et presque un tiers les utilise quotidiennement.

Les entreprises s'engagent également pleinement dans l'intelligence artificielle. Stanford a découvert que 78 % des organisations ont déclaré utiliser l'IA en 2024, contre 55 % en 2023.

Nous utilisons donc beaucoup l'IA. Mais le danger est que nous pourrions perdre la diversité dans nos façons de penser. L'équipe souligne que les LLM génèrent des écrits qui varient moins que ce que les gens produisent par eux-mêmes.

Une partie de la raison pour laquelle les LLM pourraient favoriser une pensée homogénéisée, selon les auteurs de l'article, est la donnée utilisée pour les entraîner. "Parce que les LLM sont formés pour capturer et reproduire des régularités statistiques dans leurs données d'entraînement, qui sur-représentent souvent des langues et des idéologies dominantes, leurs résultats reflètent souvent une tranche étroite et biaisée de l'expérience humaine", déclare Sourati.

Pourquoi la pensée diversifiée est importante

Les auteurs mettent en garde contre cette tendance pour une bonne raison. La pensée homogénéisée réduit le pluralisme, qui est essentiellement l'idée que plusieurs perspectives sont bénéfiques pour la société dans son ensemble. "Cette valeur du pluralisme est enracinée dans le principe de longue date selon lequel un bon jugement nécessite une exposition à des pensées variées", écrivent les auteurs dans l'article. "Non contrôlée, cette homogénéisation risque d'aplanir les paysages cognitifs qui alimentent l'intelligence collective et l'adaptabilité."

Nous utilisons différentes façons de penser pour trouver plus de solutions à un problème. Si nous perdons la capacité de penser et de communiquer différemment, cela pourrait affecter notre façon de nous adapter à de nouvelles situations.

"La préoccupation n'est pas seulement que les LLM façonnent la façon dont les gens écrivent ou parlent, mais qu'ils redéfinissent subtilement ce qui compte comme un discours crédible, une perspective correcte, ou même un bon raisonnement", déclare Sourati.

Les auteurs affirment également que cette tendance impacte même les personnes qui n'utilisent pas de chatbots. "Si beaucoup de gens autour de moi pensent et s'expriment d'une certaine manière, et que je fais les choses différemment, je ressentirais une pression pour m'aligner avec eux, car cela semblerait être une manière plus crédible ou socialement acceptable d'exprimer mes idées", conclut Sourati.