Peut-on faire confiance à l'IA avec vos antécédents médicaux ? J'ai demandé l'avis d'un médecin

Peut-on faire confiance à l'IA avec vos antécédents médicaux ?

Les entreprises technologiques comme Microsoft, Google et OpenAI ont dévoilé des outils d'IA dédiés à la santé. Voici comment les utiliser, selon des experts.

Confiance en l'IA pour des conseils de santé

Les gens se tournent de plus en plus vers l'IA pour des conseils de santé, mais cela peut entraîner de nombreuses erreurs. Une médecin partage son avis sur l'utilisation de l'IA.

Il est désormais possible de trouver des conseils de santé partout, peu importe leur crédibilité ou l'expertise médicale. Cette disponibilité accrue de l'information a modifié la façon dont les gens interagissent avec les professionnels de santé, voire leur confiance envers eux. Un nouveau sondage du Annenberg Public Policy Center révèle que la confiance du public envers des agences fédérales comme les Centers for Disease Control, la Food and Drug Administration et les National Institutes of Health a diminué de 5 à 7 % au cours de l'année passée.

Que le monde technologique profite ou non de cette baisse de confiance, il rend certainement les alternatives médicales plus accessibles. La réalité est que les gens se tournent vers cette technologie souvent gratuite, toujours disponible et facile à utiliser pour obtenir des réponses que des médecins fournissaient autrefois. Une enquête récente a révélé que 63 % des répondants considèrent l'information de santé générée par l'IA comme fiable.

Outils d'IA dans le secteur de la santé

Google, OpenAI et Anthropic, trois des principaux acteurs de l'IA, ont développé des modèles de langage de grande taille (LLMs) orientés vers les professionnels de la santé. Récemment, Microsoft a présenté Copilot Health, un outil médical sécurisé qui combine dossiers médicaux, données de dispositifs portables et antécédents médicaux. Cela fait suite à la fonctionnalité "Copilot for health" lancée l'année dernière.

Des rumeurs circulent selon lesquelles Apple pourrait développer sa propre IA de santé, et Oura vient de lancer un LLM expérimental personnalisé pour la santé des femmes.

L'expérience de Dr. Alexa Mieses Malchuk

Pour Dr. Alexa Mieses Malchuk, la technologie a changé la manière dont ses patients interagissent avec elle, ainsi que la façon dont elle exerce son métier de médecin de famille.

L'IA peut fournir des explications détaillées et des réponses à toutes les questions de santé. Cependant, elle peut également se tromper souvent. Dans une interview, Mieses Malchuk a discuté de l'utilité et des pièges de l'IA en santé, ainsi que de la manière dont les patients devraient aborder cette technologie.

Utilisation de l'IA par les médecins

Mieses Malchuk n'est pas opposée à l'IA. En fait, elle l'utilise pour simplifier le travail administratif, comme le tri des messages des patients et la création de conseils anticipés avant une visite. Les entreprises d'IA continuent de développer des logiciels pour les médecins et les professionnels de la santé. La semaine dernière, Amazon et Google ont annoncé leurs propres produits logiciels pour la santé, destinés à la prise de rendez-vous, à la documentation clinique et à la codification médicale.

Les charges administratives dans le domaine médical ont toujours été un problème pour les médecins, qui rapportent passer plus de temps à remplir des papiers qu'à servir leurs patients en face à face.

L'IA comme tremplin

Pour les non-professionnels de la santé, Mieses Malchuk recommande d'utiliser l'IA comme un tremplin, et non comme une source ultime de conseils médicaux. Bien qu'il soit satisfaisant de recevoir immédiatement une réponse d'un chatbot, elle rappelle aux utilisateurs que ces outils ne peuvent pas diagnostiquer des conditions et que la plupart des patients qui analysent ces réponses ne sont pas formés médicalement pour faire la distinction entre le vrai et le faux.

Les utilisateurs de chatbots d'IA peuvent omettre des informations importantes sur leur situation médicale, ce qui peut mener à un diagnostic ou à un traitement fondamentalement différent. "Leurs réponses ne sont aussi bonnes que les questions que nous posons", souligne-t-elle.

Un partenariat avec les médecins

Mieses Malchuk insiste sur le fait que les personnes sans formation médicale devraient avoir accès à l'IA, mais qu'elles devraient collaborer avec leur médecin traitant pour aider à trier ce qu'elles trouvent en ligne.

Elle a constaté que, bien que les outils de santé IA aient gagné en popularité, les patients sont devenus moins enclins à partager qu'ils ont effectué leurs propres recherches, mais plus certains de leur diagnostic.

Les risques de l'IA

Elle met en garde contre le fait que des outils d'IA comme ChatGPT pourraient donner aux gens un faux sentiment de sécurité, leur faisant croire qu'ils n'ont pas besoin de consulter un médecin ou de faire examiner une condition. "Cela pourrait être une occasion manquée de diagnostiquer quelque chose tôt", dit-elle.

Une étude récente publiée dans Nature a révélé que ChatGPT avait sous-évalué plus de la moitié des cas d'urgence et avait orienté les patients vers une évaluation de 24 à 48 heures plutôt que vers le service des urgences. "Nos résultats révèlent des urgences à haut risque manquées et une activation incohérente des dispositifs de sécurité en cas de crise, soulevant des préoccupations de sécurité qui justifient une validation prospective avant le déploiement à grande échelle des systèmes de triage par intelligence artificielle", écrivent les auteurs.

Comment l'IA peut aider les patients

Mieses Malchuk recommande d'utiliser les outils de santé IA pour des recommandations sur le bien-être général. Par exemple, un patient récemment diagnostiqué avec la maladie cœliaque peut vouloir savoir quels aliments il doit ou ne doit pas manger. L'IA peut créer un plan de repas, générer des idées et fournir des recommandations utiles.

Elle souligne également que ces outils sont excellents pour la planification d'exercices, et qu'il est assez facile de créer un programme d'entraînement personnalisé avec l'aide d'un outil d'IA.

Dans l'ensemble, c'est un excellent outil de bien-être pour ceux qui n'ont pas de formation médicale. Mais il est essentiel de laisser les diagnostics et les traitements aux professionnels.

Conclusion

"La méfiance envers le système médical est en croissance, ce qui est vraiment un drame. Nous prenons ce serment de ne pas nuire, donc l'idée que ces autres ressources donnent aux patients un faux sentiment de confiance et leur font penser qu'ils peuvent complètement éviter de voir un médecin est un pas malheureux", conclut Mieses Malchuk.