Les chatbots en santé: des défis très concrets

Les chatbots en santé: des défis très concrets

A la une
Édition
2024/04
DOI:
https://doi.org/10.4414/bms.2024.1317842017
Bull Med Suisses. 2024;105(04):16-19

Publié le 24.01.2024

Communication
Si l’IA et ses agents conversationnels se sont répandus au tournant des années 2020‒2021 dans le domaine de la prévention puis chez les assureurs, les chatbots peinent à convaincre les hôpitaux. En Suisse romande, les Hôpitaux universitaires de Genève (HUG) restent une exception, notamment avec la plateforme RAFAEL. Une source d’inspiration?
Depuis quelques semaines, les nombreuses annonces autour de la société californienne OpenAI, les progrès fulgurants de ChatGPT4 et les nouvelles possibilités de mettre en place à moindres frais des chatbots «sur mesure» ont relancé les perspectives d’application dans les milieux de la santé. À cela s’ajoutent les derniers développements réalisés cet automne à l’EPFL avec de nouveaux grands modèles de langage (LLM) spécialisés dans le domaine de la santé: Meditron 7B et 70B, basés sur des sources de données médicales sélectionnées avec l’aide de cliniciens et biologistes [1]. Les performances réelles ou à venir de tels outils d’IA en matière de «conseils» aux patients, voire de diagnostics font débat et les enjeux autour de leur supervision, de leur réglementation et de la protection des données préoccupent déjà la FMH [2]. Même si pour l’heure, la plupart des agents dits «conversationnels» présents sur des sites Internet d’institutions de santé en Suisse ont été surtout conçus pour remplir des fonctions très basiques: aiguillage vers des rubriques, ressources et services pertinents par reconnaissance de mots-clés et boutons d’options.

RAFAEL en exemple

Les chatbots peuvent aussi offrir d’autres avantages. La Dre méd. Mayssam Nehme, médecin adjointe du Service de médecine de premier recours et responsable ad interim de l’Unité d’épidémiologie populationnelle des HUG, fait ainsi partie de l’équipe des HUG qui a vu dans ce type d’outils l’occasion de renforcer l’accès à l’information rapide concernant les symptômes post-Covid. «La réflexion a commencé très tôt, en décembre 2020. La plateforme RAFAEL [3] a vu le jour en novembre 2021. Elle visait notamment à amener des réponses rapides sur une maladie qui était encore très peu connue, via un échange bidirectionnel. L’idée était, grâce au chatbot, de voir quelles étaient les questions les plus fréquentes adressées par les patients, leurs principales inquiétudes, et de pouvoir y répondre dans le même temps. Et aussi, d’éviter les surcharges de l’hôpital pendant la pandémie, de préserver le plus possible les professionnels de la santé», souligne-t-elle.
Deux ans après son lancement, la plateforme est citée parmi les sources d’information francophones les plus complètes sur la question. La pertinence du projet peut aussi se chiffrer en milliers d’utilisateurs et en nombre de partenariats conclus. Mayssam Nehme revient sur les défis qu’il a fallu relever: trouver des financements, mais surtout, «imaginer la meilleure façon de réaliser cette plateforme». «Sa conception technique a pris du temps, parce que c’était un NLP (natural language processing, ndlr). Des algorithmes ont dû être créés, testés sur des «focus groups», alimentés par des données d’entraînement, par des études aussi, grâce à des cohortes de recherche où nous suivions quels étaient les symptômes les plus communs du post-Covid, les différentes prises en charge, les incertitudes... donc en parallèle, nous essayions d’alimenter la plateforme avec des données de recherche. Nous ne voulions surtout pas arriver avec un outil qui donne des réponses inexactes.» En plus d’être un site Internet très complet, RAFAEL propose aussi des webinaires avec des spécialistes. Le chatbot n’a été conçu que comme «un complément».

«Avec RAFAEL, nous ne voulions surtout pas arriver avec un outil qui donne des réponses inexactes.»

Précautions d’usage et transparence

Sur le site, il est rappelé que le chatbot ne peut répondre qu’aux questions de base, qu’il est en phase d’apprentissage et peut commettre des erreurs. Les conditions générales d’utilisation sont spécifiées: «L’information diffusée sur cette plateforme est destinée à encourager, et non à remplacer, les relations directes entre le patient et les professionnels de santé », qui seuls émettront un avis ou un diagnostic médical. Le chatbot «ne remplace en aucun cas les interactions médico-soignantes». Quand il ne parvient pas à répondre, l’utilisateur est redirigé vers un formulaire de contact où il peut adresser sa demande à des professionnels qui lui répondront sous quarante-huit heures. Une rubrique «consultations» facilite la prise de rendez-vous.
Mais le chatbot remplit aussi une autre fonction, participative. La collecte et l’analyse des demandes postées ont permis des avancées significatives dans la mise en lumière des symptômes et effets post-Covid. «Nous avons beaucoup appris», poursuit Mayssam Nehme. «Parce que dès le départ, même pour des personnes suspectant ou rapportant des symptômes, par exemple de dérèglement du cycle menstruel, nous ne savions pas s’il y avait vraiment un lien, une causalité ou une association avec le post-Covid. C’est grâce aux questionnements, aux témoignages des personnes et à leurs inquiétudes que nous sommes ensuite allés vers les gynécologues, les spécialistes, pour voir s’il y avait des évidences, des études à ce sujet... Elles ont apporté des informations que nous n’avions pas jusque-là.»

«Si un système de chatbot n’est a priori pas exclu dans le futur, un tel projet n’est pas prioritaire pour le CHUV.»

La médecin note que tous ces témoignages sont anonymisés. «Il n’y a aucune donnée identifiante, on ne peut pas savoir qui a posé telle ou telle question au chatbot. C’est un pari que nous avons pris. Même s’il n’y a pas de données patients, nous sommes très vigilants sur le fait de garder toutes les informations en Suisse, en Europe (pour l’instant, le système actuel est basé en France, avant la conception d’un chatbot qui sera suisse), ce qui implique d’utiliser un système local.»
La géolocalisation des demandes, en revanche, est aussi riche d’enseignements. Pour RAFAEL, «nous avons établi des partenariats avec 17 institutions, que ce soit en Suisse ou à l’international, ce qui a permis de déployer la plateforme et l’outil dans les réseaux locaux. Mais pour la plupart, les demandes viennent de Suisse. Nous avons essayé aussi de mapper et de lister les consultations locales, et les ressources à disposition. Beaucoup de retours d’utilisation proviennent de différentes régions en Suisse qui n’ont pas beaucoup de ressources post-Covid, qui ne sont pas des grandes villes... en ce sens, la plateforme propose un accès à l’information et même aux soins à distance.»

Témoignage d’une patiente

Qu’en pensent les usagers? Valérie Bronchi, 53 ans, a contracté le Covid-19 au tout début de la pandémie, en mars 2020. Habitant près de Lausanne, elle a été l’une des premières patientes à devoir se tourner vers les HUG pour avoir accès à des consultations Covid long, son médecin généraliste ne comprenant pas quels effets durables le coronavirus avait provoqués en elle. «J’ai pu être prise par la doctoresse Nehme, qui m’a ensuite parlé de la plateforme. C’est devenu une de mes trois sources d’information sur le Covid long, avec la plateforme Altea Network [4] — gérée par une équipe interdisciplinaire et soutenue par l’OFSP— , et l’association de patients Long Covid Suisse» [5]. La patiente a privilégié le recours à ces trois sources «qui ont des angles un peu différents», pour trouver des réponses à ses questions: symptômes, impacts sur la vie personnelle et professionnelle, ou encore, reconnaissance par les assurances — Valérie Bronchi ayant en effet perdu une partie de son droit au salaire après un arrêt de travail partiel, tandis que «l’AI n’a pas du tout encore statué» sur ces réalités vécues.
Elle rappelle avoir eu «au début beaucoup de symptômes respiratoires, cardiaques, de brouillard cérébral, puis de fatigue». RAFAEL l’a aidée à s’y retrouver dans la présentation des différents types de symptômes reconnus du Covid long. «Les webinaires ont aussi été très utiles pour avoir des regards croisés» entre patients et professionnels. Même satisfaction en ce qui concerne la présentation «très complète» des traitements possibles, des essais cliniques, et la revue de la littérature. Elle avoue cependant ne pas vraiment utiliser le chatbot, même s’il l’a aidée par exemple à reformuler ses questions autour des symptômes de fatigue, pour «à la fin pointer sur la bonne section du site où j’ai pu trouver la réponse». Ce type d’outil la laisse sceptique, appliqué dans le domaine de la santé, du fait de réponses basées sur «des probabilités, et non la vérité». Elle préfère chercher par elle-même dans le menu de la plateforme les informations qui lui sont utiles, le site étant déjà «suffisamment bien structuré». Expérience faite, ce type de chatbot reste d’une performance limitée — certains témoins évoquent même un risque de frustration — dès que la question posée devient trop complexe. Encore faut-il savoir lui parler, avec des demandes simples et clairement formulées. Là aussi, tout un apprentissage reste à faire côté usagers.

Expérience faite, ce type de chatbot reste d’une performance limitée — certains témoins évoquent même un risque de frustration.

Chatbots et hôpitaux

Mayssam Nehme explique qu’avec RAFAEL, l’objectif est «de commencer de manière très modeste à faire des tests sur des chatbots informationnels en médecine». Ces ressources en ligne visent à aider les patients dans l’autogestion de leurs symptômes, mais aussi les professionnels de santé dans l’identification et la prise en charge du post-Covid, et la société en général — y compris les assurances, les employeurs et l’école, selon l’impact des symptômes sur le quotidien des personnes concernées. La fonction de tels chatbots est encore restreinte. «Il y a beaucoup de limitations, à partir du moment où l’on rentre des données identifiantes, des données patients», prévient la médecin adjointe, pour des questions évidentes de confidentialité. Mais «en principe, cela devrait fonctionner pour la prise de rendez-vous, le côté administratif... C’est une des forces des chatbots, il suffit d’un algorithme de tri.»

Meilleur accès à l’information et réduction des coûts: les assureurs ont depuis plusieurs années mis en place des chatbots.

Le site des HUG est également doté depuis septembre 2021 d’un chatbot, «pour répondre au défi de l’augmentation des messages sur le site Internet des HUG», justifie une responsable de communication de l’hôpital. Dès les premiers mois de sa mise en ligne, ce chatbot recevait plus de 60 messages par jour, répondant aux questions les plus fréquentes ou renvoyant à des community managers et à des professionnels pour les demandes plus complexes nécessitant une réponse adaptée [6]. Le tout avec un taux de satisfaction de plus de 70%. Interrogé sur une telle perspective, le Centre hospitalier universitaire vaudois (CHUV) reste prudent: «Si un système de chatbot n’est a priori pas exclu dans le futur, un tel projet n’est pas prioritaire et donc pas à l’ordre du jour actuellement au CHUV. Le CHUV privilégie pour l’heure une réponse personnalisée et estime que le temps consacré à cette activité est du temps bien investi», répond l’institution vaudoise.

Calcul coûts-bénéfices

À la Direction générale de l’Hôpital du Valais, le responsable Joakim Faiss fait un constat similaire: «Notre service de communication a étudié cette possibilité de chatbot sur le site Internet, sans en faire un projet prioritaire à ce stade, notamment pour des raisons de coûts par rapport à l’éventuel bénéfice que l’on pourrait en tirer.» Son collègue webmaster, Arnaud Pellissier, avait étudié différentes options déjà en 2021 et comparé deux offres reçues de prestataires de tels services: l’une pour un projet pilote avec fonctions de base, estimé à 72 000 francs, l’autre pour une mise en place plus complète, avec chatbot et assistance téléphonique, mais chiffrée à 216 000 francs. Arnaud Pellissier revient sur les principales contraintes qui ont amené à mettre cette perspective en veilleuse: outre les coûts et la nécessité au Valais de traduire les contenus en trois langues s’est posé le problème du lieu de sauvegarde et de stockage des données. Lui aussi insiste sur la nécessité, dans tous les cas, d’assurer un monitoring des interactions délivrées par le chatbot, ce qui suppose des moyens et des ressources humaines en matière de vérification des informations. Il mentionne cependant des aspects pertinents de tels outils, par exemple pour faire face à l’afflux soudain de questions auxquelles il serait simple de répondre à titre indicatif, comme cela était le cas durant la pandémie, ou pour un travail répétitif, afin de soulager le personnel et notamment les réceptionnistes ou le service des admissions. La question au centre des débats reste maintenant de savoir comment rendre de tels outils «acceptables», en tenant compte du principe de confidentialité, de la sécurisation des données personnelles et des enjeux autour de projets plus importants, comme le dossier électronique du patient. Côté services, il cite en exemple le chatbot Sina, de l’Hôpital de Baden, qui propose déjà depuis avril 2021, en plus des questions-réponses en temps réel, une aide à la navigation sur le site de l’institution afin de rediriger les patients, visiteurs, professionnels et chercheurs sur les pages les concernant.

Côté assureurs

Les assureurs ont depuis plusieurs années mis en place des chatbots, dans des stratégies de meilleur accès à l’information sur leurs sites respectifs, mais aussi de réduction des coûts. Exemple, le chabot «IQ» de Swica. «Notre chatbot aide en premier lieu les clients à trouver rapidement les produits d’assurance appropriés ou à saisir une modification de leurs données personnelles. Pour tout le reste, il renvoie simplement à notre service de télémédecine Santé24. Il ne s’agit pas d’un programme qui peut aider à répondre à des questions de santé», nuance à Winterthour Oliver Steimann, responsable communication d’entreprise et membre de la direction. L’interface entre nos assurés et le conseil médical, assistée par l’intelligence artificielle, est l’application BENECURA, qui propose un contrôle numérique des symptômes ainsi qu’un contrôle préventif, un lexique médical intégré et un répertoire de médicaments.» Les deux outils afficheraient un bon taux de satisfaction côté usagers. Swica rassure: les informations communiquées avec son chatbot sont transmises sous forme cryptée à une plateforme cloud de Google, à Zurich, où elles sont enregistrées aussi sous forme cryptée. À propos de l’application BENECURA, un utilisateur se plaint de ne pas avoir pu s’inscrire sans accepter les cookies: «C’est un comble pour une appli qui met en avant la confidentialité des données!» s’offusque-t-il. Un autre s’étonne que le contrôle numérique des symptômes ne fonctionne pas sans inscription préalable, nécessitant l’enregistrement des données personnelles.

RAFAEL en chiffres

Une telle plateforme «a un coût en termes de ressources humaines, de licences, de maintenance, d’algorithmes, de développement... Par contre, nous comparons ce coût à ce que cela aurait coûté sans: des milliers et des milliers d’appels auxquels les hôpitaux ne pourraient pas répondre. Et un coût humain aussi, sans accès aux soins, à l’information», note Mayssam Nehme. Soit «500 000 à 800 000 francs, en simulation des postes, de ressources dont nous aurions eu besoin sans la plateforme», qui est la somme estimée et sur une année pour la Suisse. La création de RAFAEL a représenté un coût «dix fois inférieur». La plateforme a par ailleurs bénéficié d’un financement de la Fondation privée des HUG (300 000 francs, couvrant aussi les webinaires, les études…) et de Promotion Santé Suisse. Parmi les 17 institutions partenaires figurent le CHUV, Unisanté, l’Hôpital Riviera-Chablais, Vaud-Valais (HRC), l’Hôpital du Jura, le CICR... La traduction du site en anglais a été assurée par l’UNHCR. À ce jour, on compte plus de 30 000 interactions avec le chatbot, générant plus de 8000 stories. Les questions dominantes concernent les symptômes post-Covid (69,2 %), dont la fatigue (22,4%).
1 https://actu.epfl.ch/news/le-grand-modele-de-langage-de-l-epfl-pour-le-savoi/
2 Dossier « L’intelligence artificielle dans le quotidien médical. Domaines d’application en médecine : utilité, défis et exigences de la FMH » (septembre 2022)
https://www.fmh.ch/files/pdf27/20220914_fmh_brosch-ki_f.pdf
3 https://www.rafael-postcovid.ch/
4 https://altea-network.com/fr
5 https://long-covid-info.ch/fr/
6 https://www.hug.ch/charte-ethique

© Max van den Oetelaar / Unsplash

Commentaires

Avec la fonction commentaires, nous proposons un espace pour un échange professionnel ouvert et critique. Celui-ci est ouvert à tous les abonné-e-s SHW Beta. Nous publions les commentaires tant qu’ils respectent nos lignes directrices.