Microsoft et Amazon : l'IA santé face à l'efficacité réelle

Une montée en puissance des outils de santé basés sur l'IA

En octobre, Microsoft a lancé Copilot Health, une nouvelle fonctionnalité intégrée à son application Copilot. Cette innovation permet aux utilisateurs de connecter leurs dossiers médicaux et de poser des questions spécifiques sur leur santé. Quelques jours avant cette annonce, Amazon avait révélé que son outil Health AI, auparavant réservé aux membres de One Medical, serait désormais accessible à un public plus large. Ces initiatives s'inscrivent dans une tendance croissante d'intégration de l'intelligence artificielle dans le secteur de la santé, avec des acteurs tels que ChatGPT Health d'OpenAI, lancé en janvier, et Claude d'Anthropic, qui peut accéder aux dossiers de santé des utilisateurs avec leur autorisation.

La demande pour des chatbots de santé

Il existe une demande manifeste pour des chatbots capables de fournir des conseils de santé, en raison de la difficulté d'accès aux informations médicales dans les systèmes actuels. Certaines recherches suggèrent que les modèles de langage actuels peuvent offrir des recommandations sûres et utiles. Cependant, les chercheurs soulignent que ces outils devraient être évalués de manière plus rigoureuse par des experts indépendants, idéalement avant leur lancement à grande échelle.

Dans un domaine aussi critique que la santé, faire confiance aux entreprises pour évaluer leurs propres produits pourrait s'avérer imprudent, surtout si ces évaluations ne sont pas accessibles pour un examen externe. Même si certaines entreprises, comme OpenAI, semblent mener des recherches de qualité, elles pourraient encore avoir des angles morts que la communauté de recherche plus large pourrait aider à combler.

Andrew Bean, doctorant à l'Oxford Internet Institute, déclare : « Dans la mesure où vous aurez toujours besoin de plus de soins de santé, je pense que nous devrions définitivement explorer toutes les voies qui fonctionnent. Il est tout à fait plausible que ces modèles aient atteint un stade où ils valent vraiment la peine d'être déployés. » Cependant, il ajoute : « La base de preuves doit vraiment être là. »

Les points de basculement des outils de santé IA

Selon les développeurs, ces produits de santé sont lancés parce que les modèles de langage ont atteint un point où ils peuvent fournir des conseils médicaux de manière efficace. Dominic King, vice-président de la santé chez Microsoft AI et ancien chirurgien, cite l'avancement de l'IA comme une raison fondamentale pour laquelle l'équipe santé de l'entreprise a été formée et pourquoi Copilot Health existe maintenant. « Nous avons constaté un énorme progrès dans les capacités de l'IA générative à répondre aux questions de santé et à donner de bonnes réponses », dit-il.

Cependant, cela ne raconte qu'une partie de l'histoire, selon King. L'autre facteur clé est la demande. Peu avant le lancement de Copilot Health, Microsoft a publié un rapport et un article de blog détaillant comment les gens utilisaient Copilot pour des conseils de santé. L'entreprise affirme qu'elle reçoit 50 millions de questions de santé chaque jour, et la santé est le sujet de discussion le plus populaire sur l'application mobile Copilot.

L'impact des outils IA sur le système de santé

D'autres entreprises d'IA ont remarqué et répondu à cette tendance. « Même avant nos produits de santé, nous avons constaté une augmentation rapide du nombre de personnes utilisant ChatGPT pour des questions liées à la santé », déclare Karan Singhal, qui dirige l'équipe Health AI d'OpenAI. (OpenAI et Microsoft ont un partenariat de longue date, et Copilot est alimenté par les modèles d'OpenAI.)

Il est possible que les gens préfèrent simplement poser leurs problèmes de santé à un bot non jugeant, disponible 24 heures sur 24 et 7 jours sur 7. Mais de nombreux experts interprètent ce schéma à la lumière de l'état actuel du système de santé. « Il y a une raison pour laquelle ces outils existent et ils ont une place dans le paysage global », déclare Girish Nadkarni, directeur de l'IA au Mount Sinai Health System. « C'est parce que l'accès aux soins de santé est difficile, et particulièrement difficile pour certaines populations. »

La vision vertueuse des chatbots de santé basés sur des LLM orientés vers le consommateur repose sur la possibilité qu'ils pourraient améliorer la santé des utilisateurs tout en réduisant la pression sur le système de santé. Cela pourrait impliquer d'aider les utilisateurs à décider s'ils ont besoin d'une attention médicale, une tâche connue sous le nom de triage. Si le triage par chatbot fonctionne, alors les patients nécessitant des soins d'urgence pourraient les rechercher plus tôt qu'ils ne l'auraient fait autrement, et les patients avec des préoccupations plus légères pourraient se sentir à l'aise de gérer leurs symptômes à domicile avec les conseils du chatbot plutôt que de surcharger inutilement les urgences et les cabinets médicaux.

Les défis de l'évaluation des chatbots de santé

Cependant, une étude récente largement discutée de Nadkarni et d'autres chercheurs du Mount Sinai a révélé que ChatGPT Health recommande parfois trop de soins pour des conditions légères et échoue à identifier les urgences. Bien que Singhal et certains autres experts aient suggéré que sa méthodologie pourrait ne pas fournir une image complète des capacités de ChatGPT Health, l'étude a soulevé des préoccupations quant à la faible évaluation externe que ces outils subissent avant d'être mis à la disposition du public.

La plupart des experts académiques interrogés pour cet article s'accordent à dire que les chatbots de santé basés sur des LLM pourraient avoir de réels avantages, étant donné le peu d'accès aux soins de santé dont certaines personnes disposent. Mais tous les six ont exprimé des préoccupations concernant le lancement de ces outils sans tests par des chercheurs indépendants pour évaluer leur sécurité. Bien que certaines utilisations annoncées de ces outils, comme recommander des plans d'exercice ou suggérer des questions qu'un utilisateur pourrait poser à un médecin, soient relativement inoffensives, d'autres comportent des risques clairs. Le triage en est un ; un autre est de demander à un chatbot de fournir un diagnostic ou un plan de traitement.

L'interface de ChatGPT Health comprend un avertissement bien en vue indiquant qu'elle n'est pas destinée à un diagnostic ou à un traitement, et les annonces pour Copilot Health et Health AI d'Amazon incluent des avertissements similaires. Mais ces avertissements sont faciles à ignorer. « Nous savons tous que les gens vont l'utiliser pour le diagnostic et la gestion », déclare Adam Rodman, médecin en médecine interne et chercheur au Beth Israel Deaconess Medical Center et chercheur invité chez Google.

Les tests médicaux et les limites actuelles

Les entreprises affirment qu'elles testent les chatbots pour s'assurer qu'ils fournissent des réponses sûres dans la grande majorité des cas. OpenAI a conçu et publié HealthBench, un benchmark qui évalue les LLM sur la façon dont ils répondent dans des conversations réalistes liées à la santé, bien que les conversations elles-mêmes soient générées par le LLM. Lorsque GPT-5, qui alimente à la fois ChatGPT Health et Copilot Health, a été lancé l'année dernière, OpenAI a rapporté les scores de HealthBench du modèle : il a fait beaucoup mieux que les modèles OpenAI précédents, bien que ses performances globales soient loin d'être parfaites.

Cependant, les évaluations comme HealthBench ont des limites. Dans une étude publiée le mois dernier, Bean et ses collègues ont découvert que même si un LLM peut identifier avec précision une condition médicale à partir d'un scénario fictif, un utilisateur non expert qui reçoit le scénario et est invité à déterminer la condition avec l'aide du LLM ne pourrait le faire qu'un tiers du temps. S'ils manquent d'expertise médicale, les utilisateurs pourraient ne pas savoir quelles parties d'un scénario — ou de leur expérience réelle — sont importantes à inclure dans leur prompt, ou ils pourraient mal interpréter les informations fournies par un LLM.

Bean affirme que cet écart de performance pourrait être significatif pour les modèles d'OpenAI. Dans l'étude originale de HealthBench, la société a rapporté que ses modèles ont relativement mal performé dans des conversations nécessitant qu'ils demandent plus d'informations à l'utilisateur. Si tel est le cas, alors les utilisateurs qui n'ont pas suffisamment de connaissances médicales pour fournir au chatbot de santé les informations dont il a besoin dès le départ pourraient recevoir des conseils inutiles ou inexacts.

Singhal, le responsable santé d'OpenAI, note que la série actuelle de modèles GPT-5, qui n'avait pas encore été publiée lorsque l'étude originale de HealthBench a été réalisée, fait un bien meilleur travail pour solliciter des informations supplémentaires que ses prédécesseurs. Cependant, OpenAI a rapporté que GPT-5.4, le modèle phare actuel, est en réalité moins bon pour demander du contexte que GPT-5.2, une version antérieure. Idéalement, dit Bean, les chatbots de santé devraient être soumis à des tests contrôlés avec des utilisateurs humains, comme cela a été fait dans son étude, avant d'être lancés au public. Cela pourrait être un défi, notamment en raison de la rapidité avec laquelle le monde de l'IA évolue et de la durée que peuvent prendre les études humaines. L'étude de Bean a utilisé GPT-4o, qui est sorti il y a presque un an et est maintenant obsolète.

Études et perspectives futures

Plus tôt ce mois-ci, Google a publié une étude qui répond aux normes de Bean. Dans cette étude, des patients ont discuté de préoccupations médicales avec le chatbot médical Articulate Medical Intelligence Explorer (AMIE), qui n'est pas encore disponible au public, avant de rencontrer un médecin humain. Dans l'ensemble, les diagnostics d'AMIE étaient tout aussi précis que ceux des médecins, et aucune des conversations n'a soulevé de préoccupations majeures en matière de sécurité pour les chercheurs.

Malgré ces résultats encourageants, Google ne prévoit pas de lancer AMIE de sitôt. « Bien que la recherche ait progressé, il existe des limitations significatives qui doivent être abordées avant la traduction réelle des systèmes pour le diagnostic et le traitement, y compris des recherches supplémentaires sur l'équité, l'équilibre et les tests de sécurité », a écrit Alan Karthikesalingam, chercheur chez Google DeepMind, dans un e-mail. Google a récemment révélé que Health100, une plateforme de santé qu'il construit en partenariat avec CVS, inclura un assistant IA alimenté par ses modèles phares Gemini, bien que cet outil ne soit probablement pas destiné au diagnostic ou au traitement.

Rodman, qui a dirigé l'étude AMIE avec Karthikesalingam, ne pense pas que de telles études extensives et pluriannuelles soient nécessairement la bonne approche pour des chatbots comme ChatGPT Health et Copilot Health. « Il y a de nombreuses raisons pour lesquelles le paradigme des essais cliniques ne fonctionne pas toujours dans l'IA générative », dit-il. « Et c'est là que la conversation sur le benchmarking entre en jeu. Existe-t-il des benchmarks d'un tiers de confiance que nous pouvons convenir d'être significatifs, que les laboratoires peuvent respecter ? »

La clé ici est le « tiers de confiance ». Peu importe à quel point les entreprises évaluent leurs propres produits, il est difficile de faire entièrement confiance à leurs conclusions. Non seulement une évaluation par un tiers apporte de l'impartialité, mais si plusieurs tiers sont impliqués, cela aide également à protéger contre les angles morts.

Singhal d'OpenAI affirme qu'il est fortement en faveur de l'évaluation externe. « Nous faisons de notre mieux pour... »