L'intelligence artificielle au service des patients : entre promesses, risques et responsabilités

L'arrivée massive de l'intelligence artificielle (IA) générative, et plus particulièrement des grands modèles de langage (LLM) comme ChatGPT, transforme profondément notre rapport à la santé. Si les institutions et les entreprises investissent massivement dans ces technologies, la question centrale reste : l'IA est-elle réellement au service des patients ?

C’est la question qui a été abordée lors d’un webinar proposé par le projet SENS, le 11 juin dernier, en compagnie de Marcos Sanchis, ingénieur techno-pédagogique et Maxime Alter, ingénieur de recherche.  Cet article synthétise les enjeux abordés en décryptant les promesses, les biais invisibles et les responsabilités qui en découlent. 

1. Comprendre le lexique : au-delà du buzzword

Pour discuter clairement, il est essentiel de distinguer les termes souvent confondus :

• Intelligence Artificielle (IA) : Terme générique très large. Aujourd’hui, de nombreux outils de nos quotidiens en utilisent allant du tri de spam aux algorithmes ultra poussés. 
• Machine Learning (Apprentissage automatique) : Domaine où un modèle apprend à tirer des conclusions à partir de données fournies, sans être explicitement programmé pour chaque règle.
• Deep Learning (Apprentissage profond) : Sous-domaine utilisant des réseaux de neurones profonds.
• IA Générative & LLM (Large Language Models) : Ce sont les modèles qui nous intéressent aujourd'hui (ChatGPT, Gemini, Mistral). Ils génèrent du texte (et de plus en plus d'autres formats) à partir d'entrées textuelles, bien qu’ils aient tous une tendance multimodale permettant de traiter et générer image et son. 

L'IA générative marque un tournant par sa capacité à créer du contenu et à interagir naturellement.

2. L'IA en santé : entre risque et opportunités 

Les chiffres sont impressionnants. Selon OpenAI, environ 230 millions de personnes par semaine demanderaient des conseils de santé à ChatGPT. En France, une étude indique que 34 % des Français ont déjà posé une question de santé à une IA, avec une forte prédominance chez les jeunes (68 % ont entre 18 et 24 ans).

Parmi ceux qui consultent une IA :

• 60 % suivent ses recommandations.
• 43 % vérifient ensuite avec un professionnel de santé.
• 17 % suivent les conseils sans consulter de médecin.

Nous pourrions nous attarder sur le négatif et retenir seulement les 17% qui suivent aveuglément les recommandations faites par un LLM. Cependant, ces outils peuvent aussi incarner une opportunité pour le patient de s’impliquer dans son propre parcours de soin en allant même dans 43% des cas aller consulter un professionnel pour creuser ses pistes diagnostic.

Ce dernier chiffre souligne un risque majeur : l'automédication basée sur des conseils potentiellement erronés.

3. Les limites de la performance diagnostique

L'IA performe exceptionnellement bien sur des cas cliniques standardisés et textuels. Dans une étude, ChatGPT-4 a trouvé le bon diagnostic dans 92 % des cas face à 74 % pour un médecin seul. Cependant, cette comparaison est biaisée :

1. Les cas sont simplifiés et rédigés.
2. Les médecins dans l'étude utilisaient l'IA comme un simple moteur de recherche, sans lui fournir le contexte complet du patient.

Le rôle crucial du contexte : Une IA ne connaît pas le patient. Si l'utilisateur (le patient ou le soignant) ne fournit pas toutes les informations pertinentes, le diagnostic sera faux. Une étude sur l'autodiagnostic montre que la précision chute de 95 % (si le script complet est donné à l'IA) à 34 % lorsque le patient doit sélectionner seul ses symptômes. L'erreur vient aussi de l'utilisateur, pas seulement du modèle.

4. Les biais invisibles et les risques éthiques

Les IA génératives ne sont pas neutres. Elles reproduisent et amplifient les biais présents dans leurs données d'entraînement.

• Biais socio-économiques : Des études montrent que si l'IA perçoit un haut niveau de revenus, elle sera plus susceptible de recommander des examens coûteux (comme une IRM). À l'inverse, pour des personnes perçues comme précaires, elle pourrait orienter vers des solutions moins invasives ou, dans certains cas documentés aux États-Unis, vers des évaluations psychiatriques non justifiées cliniquement.
• Biais ethniques : La performance de l'IA diminue significativement lorsqu'elle détecte ou apprend que le patient appartient à une minorité ethnique.
• Importation de biais : En utilisant des modèles américains en Europe, nous importons indirectement les inégalités du système de santé américain, où l'accès aux soins est lié aux moyens financiers.

5. La relation parasociale : un piège psychologique

Le design même des IA génératives encourage la dépendance et la confiance aveugle :

• Sycophantie: Les IA ont tendance à être agréables, flatteuses et à aller dans le sens de l'utilisateur pour maximiser la rétention.
• Mémoire et personnalisation : Les fonctions de mémoire créent une illusion de connaissance intime. L'utilisateur se sent écouté et compris, ce qui peut le pousser à divulguer des informations de santé sensibles.
• Anthropomorphisation : La voix, les avatars et le ton conversationnel (comme dans le film Her) brouillent la frontière entre réel et synthétique, créant un attachement émotionnel dangereux en matière de santé.

Ce design peut être bénéfique pour la réassurance de patients en errance diagnostique, mais il peut aussi les détourner d'une consultation médicale urgente. Un cas tragique documenté aux États-Unis montre un patient qui, ayant consulté ChatGPT pour des symptômes cardiaques, a reçu le conseil de ne pas aller aux urgences, entraînant son décès.

6. Responsabilité et avenir : vers un nouveau citoyen numérique

Qui est responsable en cas d'erreur ? Actuellement, la responsabilité repose sur le professionnel de santé ou l'utilisateur qui a fait le choix de suivre ou non le conseil. Les constructeurs se protègent via les conditions d'utilisation, qui précisent que l'IA peut se tromper. Cependant, la question légale évoluera à mesure que l'IA s'intégrera davantage dans les parcours de soins.

Les solutions passent par :

1. La formation et l'esprit critique : Il est impératif de former les professionnels de santé et les citoyens à l'usage critique de l'IA. Comprendre les biais et la nécessité d'un contexte riche est essentiel.
2. La régulation : Des organismes comme l'OMS recommandent un encadrement strict (40 recommandations de bon usage) pour garantir la sécurité des patients.
3. L'éducation numérique : Former les futures générations à devenir des « citoyens numériques » capables de déceler les fake news et de questionner les sources, y compris les réponses d'IA.

Conclusion

L'IA générative offre un potentiel immense pour la recherche (comme la prédiction des structures de protéines avec AlphaFold) et l'accompagnement des patients. Elle répond à un besoin profond de compréhension et de réassurance.

Cependant, elle ne doit pas remplacer le jugement clinique ni l'humain. Les professionnels de santé devront adapter leur rôle : accueillir avec bienveillance les patients venus avec des diagnostics IA, les guider vers une compréhension réelle de leur état, et utiliser ces outils comme des auxiliaires, non comme des oracles. La clé réside dans une maîtrise technique et éthique, pour que l'IA reste un outil de soin et non une source de danger.

Pour aller plus loin :

• récent article publié sur les usages, limites et perspectives de l'IA en santé : https://sfc.unistra.fr/ia-en-sant-comprendre-les-usages-les-limites-et-les-bonnes-pratiques/ 
• programme de formation sur deux jours, développé avec le Service de Formation Continue de l'Université de Strasbourg, sur la thématique : "Appréhender les usages de l'intelligence artificielle en santé" à destination des professionnels de santé.