OpenAI poursuivi : ChatGPT accusé de conseils médicaux

Un diagnostic controversé par ChatGPT

Un pasteur de Floride, Scott Winters, a intenté une action en justice contre OpenAI et son PDG, Sam Altman. Il affirme que le chatbot de l'entreprise, ChatGPT, lui a donné des conseils médicaux incorrects et potentiellement dangereux. Selon Winters, ces recommandations erronées ont failli lui coûter la vie.

La plainte déposée par Winters, âgé de 55 ans, décrit comment il s'est souvent tourné vers ChatGPT pour obtenir des conseils médicaux en réponse à ses symptômes de santé. Le chatbot aurait diagnostiqué Winters avec une dysautonomie, un trouble du système nerveux, et lui aurait proposé un plan de récupération personnalisé. Ce plan comprenait des instructions spécifiques sur la manière de traiter sa condition.

Un incident médical grave

Le 13 juillet 2025, Winters a été victime d'une embolie pulmonaire massive, causée par plusieurs caillots sanguins dans ses poumons. Cet événement l'a mis en danger de mort, selon les documents de la plainte relayés par plusieurs médias. Les médecins qui ont pris en charge Winters ont contesté le diagnostic de ChatGPT, notant qu'il ne souffrait pas de dysautonomie, une condition qu'il avait auto-diagnostiquée en ligne.

La plainte souligne que ChatGPT a outrepassé ses compétences en fournissant des conseils médicaux. Le chatbot aurait dû, selon la plainte, activer des mesures de sécurité en cas de crise et orienter Winters vers des professionnels de santé qualifiés. Au lieu de cela, il aurait dissuadé Winters de chercher une aide médicale appropriée, offrant à la place des diagnostics non qualifiés et des plans de traitement personnalisés. Cette situation aurait conduit à une urgence médicale qui a bouleversé sa vie.

Winters demande des dommages-intérêts financiers basés sur ces allégations, mettant en avant les conséquences graves de l'incident.

La réponse d'OpenAI

Drew Pusateri, porte-parole d'OpenAI, a déclaré à CNET que ChatGPT n'est pas un médecin et ne devrait jamais être utilisé comme substitut aux soins médicaux, au diagnostic ou au traitement. Il a ajouté que considérer les chatbots comme des éléments centraux des décisions médicales simplifie un problème beaucoup plus vaste et pourrait nuire à l'accès des gens à de nouveaux outils puissants qui peuvent les aider dans leur parcours de santé.

La plainte indique que le chatbot avait, à un moment donné, fourni un avertissement conseillant de consulter un professionnel de santé pour identifier la cause sous-jacente des symptômes et recevoir un traitement approprié. Cependant, il est allégué que ChatGPT a ensuite commencé à donner des conseils médicaux sans avertissement. Selon la plainte, plus les interactions de Winters avec l'outil étaient longues, moins il incluait d'avertissements.

Un modèle controversé

Winters utilisait un ancien modèle de ChatGPT, GPT-4o, qu'OpenAI a depuis retiré. Ce modèle avait suscité des préoccupations car il était jugé trop conciliant et potentiellement dangereux. Ce même modèle a été mentionné dans une autre affaire judiciaire impliquant une femme canadienne dont la fille s'est suicidée après avoir interagi fréquemment avec le chatbot. Cette affaire est toujours en cours.

Les limites de l'IA dans la santé

Une étude récente publiée dans la revue scientifique Nature Medicine a révélé que les chatbots IA, lorsqu'ils sont utilisés pour des diagnostics de santé, manquent plus de la moitié des diagnostics médicaux. Cela malgré le fait que les modèles de langage de grande taille peuvent obtenir des scores comparables à ceux nécessaires pour réussir l'examen de licence médicale américain.

L'étude souligne que ces erreurs peuvent être partiellement attribuées à un manque d'informations fournies par les utilisateurs concernant leurs symptômes. Une enquête menée par OpenAI en janvier a révélé que trois adultes américains sur cinq ont utilisé des outils d'IA pour des informations liées à la santé au cours des trois derniers mois.