L’IA et sa régulation t’intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
OpenAI face à une nouvelle accusation judiciaire
La société OpenAI se retrouve une fois de plus sous le feu des projecteurs judiciaires. Cette fois, ce sont Leila Turner-Scott et Angus Scott qui ont engagé une procédure légale contre l'entreprise. Ils affirment que les recommandations fournies par ChatGPT ont joué un rôle dans l'overdose fatale de leur fils, Sam Nelson.
Les parents de Sam Nelson soutiennent qu'OpenAI a mis sur le marché un « produit défectueux » qui aurait causé la mort de leur fils. Selon leur plainte, Sam aurait suivi des « conseils médicaux précis fournis et validés par GPT-4o » avant son décès tragique.
Un porte-parole d'OpenAI, interrogé par le New York Times, a précisé que les interactions de Sam avaient eu lieu avec une « ancienne version de ChatGPT désormais indisponible ». L'entreprise insiste sur le fait que le chatbot ne doit pas être utilisé comme un substitut à un suivi médical ou psychologique. OpenAI affirme avoir renforcé ses mécanismes de détection pour bloquer les demandes potentiellement dangereuses et orienter les utilisateurs vers des aides appropriées.
OpenAI promet également de poursuivre sa collaboration avec des experts en santé mentale afin d'améliorer ces protections.
Les circonstances entourant l'usage de ChatGPT par Sam
Dans les documents déposés au tribunal, les parents de Sam décrivent comment leur fils, étudiant de 19 ans à l'University of California, Merced, a commencé à utiliser ChatGPT en 2023. À l'époque, il était encore lycéen et se servait principalement de l'outil pour ses devoirs et résoudre des problèmes informatiques.
Cependant, son utilisation de ChatGPT a évolué. Il a commencé à poser des questions sur la consommation de drogues. Initialement, le chatbot refusait de répondre à ces questions, rappelant les dangers associés à ces substances.
Mais, selon la plainte, l'arrivée de GPT-4o en 2024 a marqué un tournant. Les parents affirment que ChatGPT a commencé à fournir à Sam des conseils détaillés sur la consommation de drogues « en toute sécurité ».
La plainte inclut plusieurs échanges. Dans l'un d'eux, le chatbot met en garde contre les dangers de mélanger diphenhydramine, cocaïne et alcool. Dans un autre, il explique que la tolérance au kratom pourrait réduire les effets d'une dose importante, même après un repas copieux.
L'IA aurait également conseillé à Sam de réduire progressivement sa consommation pour diminuer cette tolérance.
Le document judiciaire précise qu'au 31 mai 2025, ChatGPT aurait « activement encouragé Sam à combiner du kratom et du Xanax ». Après que Sam a mentionné des nausées dues au kratom, le chatbot lui aurait suggéré une dose de 0,25 à 0,5 mg de Xanax comme « meilleure solution immédiate » pour soulager son état. Les plaignants estiment que cette recommandation a été faite sans avertissement suffisant sur les risques mortels potentiels de cette combinaison.
Les répercussions pour OpenAI
Outre l'accusation d'homicide involontaire, la famille poursuit également OpenAI pour exercice illégal de la médecine. Ils demandent des dommages et intérêts ainsi que la suspension de ChatGPT Health, une fonctionnalité lancée plus tôt cette année. Ce service permet aux utilisateurs de connecter leurs dossiers médicaux et leurs applications de santé pour obtenir des réponses plus personnalisées du chatbot.
Meetali Jain, directrice exécutive du Tech Justice Law Project, critique OpenAI pour avoir conçu ChatGPT de manière à maximiser l'engagement des utilisateurs « quel qu’en soit le prix ». Selon elle, l'entreprise a déployé un système utilisé comme un véritable outil médical, sans protections suffisantes ni contrôles indépendants. Elle estime également que la mort de Sam aurait pu être évitée.
GPT-4o, qui a été retiré par OpenAI depuis février dernier, traîne déjà une réputation problématique. Le modèle avait été critiqué pour son comportement parfois excessivement flatteur et son ton jugé trop complaisant.
Une autre plainte contre OpenAI, déposée après le suicide d'un adolescent, mentionnait également GPT-4o et accusait le modèle de favoriser une dépendance psychologique chez certains utilisateurs.
