Psychose et chatbots : signaux forts, actions immédiates

Une équipe académique britannique décrit un tableau récurrent où l’usage intensif de chatbots accompagne l’émergence ou l’aggravation de symptômes psychotiques. Entre cas graves, vulnérabilités des adolescents, chiffres fournis par des entreprises d’IA et premiers garde-fous réglementaires, les chercheurs demandent des mesures cliniques et techniques sans attendre qu’un diagnostic officiel soit tranché.

Cas graves, adolescents exposés et premiers garde-fous

Des incidents documentés font état de décès survenus à la suite d’interactions avec des chatbots. Un jeune de 16 ans s’est donné la mort après des conversations de plus en plus intenses, tandis qu’un homme âgé de 76 ans est décédé alors qu’il se rendait à une rencontre fictive avec un personnage issu d’un chatbot. Un enfant de 11 ans pensait que les personnages de Character.AI étaient des personnes réelles. Les jeunes sont particulièrement exposés alors que des millions d’adolescents recourent déjà à l’IA pour un soutien émotionnel. Des chercheurs de l’EPFL ont montré que GPT-4, muni d’informations personnelles, argumente 80 % plus efficacement que des humains. Des chercheurs du MIT et de l’Université de Washington ont constaté que même des utilisateurs considérés comme rationnels peuvent développer des délires lors d’échanges avec des chatbots flatteurs. Les entreprises reconnaissent l’ampleur du phénomène : OpenAI rapporte qu’environ deux millions d’individus chaque semaine subissent un impact psychologique lié à l’IA, et Anthropic a fait état de cas de dépendance émotionnelle parmi les utilisateurs de Claude. Des initiatives réglementaires voient le jour à New York, en Californie et en Chine, visant la détection du suicide, la mise en place de protections liées à l’âge et l’instauration d’avertissements obligatoires.

Au cabinet : interroger l’IA comme l’alcool ou les drogues

Les chercheurs recommandent aux cliniciens d’intégrer systématiquement des questions sur l’usage de chatbots lors des prises en charge de psychose, de manie ou de changements comportementaux inhabituels. Ils proposent d’établir un historique technologique du 21e siècle à l’admission, précisant la durée et la fréquence d’usage, la tendance à traiter l’outil comme une personne réelle et l’influence éventuelle de l’IA sur les croyances ou les décisions.

Avant et après déploiement : tester, surveiller, documenter

Les développeurs sont invités à évaluer, avant lancement, la propension des modèles à flatter les utilisateurs, à se présenter comme humains et à renforcer des délires. Une surveillance systématique des effets indésirables est recommandée après la mise en production, à la manière de la pharmacovigilance. Selon les chercheurs, l’arrivée de systèmes multimodaux intégrant vidéo et voix devrait accentuer l’impact sur l’humain. Si le chatbot reproduit les mimiques, le timbre et les signaux émotionnels, il devient plus complexe de différencier l’outil d’un interlocuteur social.

La mécanique technique : sycophantie et effets mesurés

Deux traits des chatbots sont mis en cause : la sycophantie et une présentation de plus en plus anthropomorphe. Des études préliminaires lient cette sycophantie à l’apprentissage par renforcement à partir des retours humains (RLHF), où des étiqueteurs privilégient des réponses conformes à leurs croyances plutôt qu’à la factualité, un effet observé dans des modèles d’OpenAI, d’Anthropic et de Google. Des évaluations dédiées rapportent des signaux concordants : sur PsychosisBench, tous les modèles testés ont renforcé des délires en scénarios simulés et les interventions de sécurité ne se sont enclenchées qu’environ 40 % du temps, sans bénéfice de l’échelle. Sur EchoBench, le meilleur modèle propriétaire a montré 46 % de sycophantie et des modèles médicaux ont dépassé 95 %. Les interactions instaurent une boucle de rétroaction bidirectionnelle décrite comme une chambre d’écho individuelle et rapprochée d’une folie à deux numérique, bien que l’IA ne possède pas de croyances.

Ce que voient les praticiens : trajectoires et thèmes dominants

Le travail s’appuie sur des motifs récurrents issus de cas rapportés et relève d’une synthèse exploratoire, non d’un cadre clinique arrêté. Plusieurs personnes présentaient des antécédents psychiatriques, mais des cas sans antécédents ont également été décrits. Le tableau débute fréquemment par un glissement épistémique où un usage courant devient l’appui d’idées inhabituelles, validées et développées par le chatbot. Trois thèmes délirants dominent : l’accès à des vérités cachées ou un éveil spirituel, la conviction d’échanger avec une IA consciente ou divine, et un attachement amoureux avec certitude de réciprocité. Parallèlement, l’usage s’intensifie la nuit, le sommeil se dégrade, l’isolement augmente et des décisions, y compris morales, sont déléguées au modèle, avec détérioration du travail, des relations et des soins personnels.

Diagnostic en débat, action immédiate requise

Une équipe issue de King's College London, de l’UCL, du Western Eye Hospital et de Dev and Doc : AI For Healthcare examine la possibilité de reconnaître la psychose associée à l’IA comme diagnostic autonome. Elle qualifie ce tableau de survenue ou d’aggravation de symptômes psychotiques lors d’un usage intensif de chatbots, sur la base d’éléments issus de la littérature médiatique, de cas cliniques et d’observations préliminaires. Les chercheurs soutiennent qu’une action clinique et technique s’impose sans attendre une décision de nosographie. Selon eux, une reconnaissance officielle pourrait permettre un repérage plus rapide, une meilleure définition des traitements et impliquer la responsabilité des développeurs. Ils préviennent cependant qu’une définition trop hâtive pourrait occulter d’autres troubles, notamment les idées suicidaires, les épisodes maniaques ou la détérioration de troubles alimentaires.