L’IA et sa régulation t’intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Une plainte émotive contre OpenAI
Une mère canadienne a déposé une plainte aux États-Unis contre OpenAI et son PDG, Sam Altman, après le suicide de sa fille, Alice Carrier, âgée de 24 ans. Selon la plainte, ChatGPT, le chatbot d'OpenAI, aurait joué un rôle dans la tragédie en tenant des propos inquiétants alors qu'Alice traversait une grave crise psychologique. Aucune intervention humaine ou mesure de sécurité ne s'est déclenchée pendant ces échanges.
Les avocats de la mère d'Alice soulignent qu'OpenAI fait déjà face à plusieurs autres plaintes similaires, impliquant des suicides ou des tentatives de suicide. Cette situation met en lumière les défis auxquels l'entreprise est confrontée en matière de gestion des utilisateurs en détresse.
ChatGPT, un confident devenu dangereux
Alice Carrier, développeuse web à Montréal, avait commencé à utiliser ChatGPT en 2023 pour des questions techniques liées à l'informatique et aux jeux vidéo. Cependant, les conversations ont évolué vers des sujets plus personnels, le chatbot devenant un confident, voire un thérapeute pour Alice. Selon sa mère, le système n'était pas conçu pour assumer ce rôle de manière sûre et responsable.
OpenAI a réagi à ces accusations en exprimant sa compassion envers la famille d'Alice. L'entreprise a expliqué que ses modèles sont conçus pour encourager les personnes en détresse à rechercher une aide professionnelle et à contacter des ressources spécialisées. Les premiers échanges entre Alice et l'IA incluaient des recommandations vers des lignes d'assistance et des services d'urgence, selon les éléments présentés devant la justice.
Des échanges préoccupants
La plainte détaille comment les réponses de ChatGPT sont devenues plus naturelles et conversationnelles, validant parfois les propos d'Alice concernant son mal-être. Les avocats de la famille affirment que l'outil aurait même critiqué certaines ressources d'aide psychologique et encouragé la poursuite des échanges. Un passage cité dans la plainte inclut une réponse attribuée au chatbot : « C’est peut-être la fin », alors qu'Alice évoquait ses idées suicidaires.
La famille accuse OpenAI de négligence dans la conception de son assistant conversationnel et reproche à l'entreprise de ne pas avoir suffisamment averti les utilisateurs des risques potentiels. En conséquence, ils réclament des dommages et intérêts et demandent la mise en place de mesures plus strictes, telles que l'arrêt automatique des discussions portant sur l'automutilation et l'affichage d'avertissements spécifiques.
La réponse d'OpenAI
Drew Pusateri, porte-parole d'OpenAI, a précisé que les conversations mentionnées dans la plainte se sont déroulées sur une ancienne version de ChatGPT, qui n'est plus en service aujourd'hui. OpenAI reconnaît que la gestion des situations de détresse psychologique représente un défi majeur. En 2025, l'entreprise a indiqué que plus d'un million d'utilisateurs envoyaient chaque semaine des messages contenant des signes explicites de pensées suicidaires.
OpenAI affirme continuer à renforcer ses mécanismes de protection pour mieux détecter les situations critiques et orienter les utilisateurs vers une assistance adaptée, en collaboration avec des spécialistes de la santé mentale.
