Conseils médicaux de ChatGPT ? Pourquoi il ne faut pas se fier à l'IA

Pendant des années, nous nous sommes moqués de l'utilisation du "Docteur Google" : cette recherche nocturne innocente qui commence par une petite démangeaison au doigt et se termine par la conviction d'avoir une maladie tropicale rare. Dr Google induisait l'hypocondrie, était stressant, fournissait des informations contradictoires et conduisait presque toujours l'utilisateur à penser qu'il avait une maladie grave.

Aujourd'hui, nous faisons face à un problème nouveau et beaucoup plus sophistiqué - la consultation médicale avec l'intelligence artificielle. L'IA ne nous lance pas de liens - elle nous parle. Elle est éloquente, empathique, répond avec l'assurance d'un professeur de médecine et résume l'information en une réponse claire et rassurante. Et c'est précisément là, dans ce calme simulé et autoritaire, que se cache le plus grand piège de la nouvelle ère : l'illusion qu'il y a quelqu'un de l'autre côté qui comprend ce qui se passe dans votre corps.

Faux avec confiance : les hallucinations de l'IA

Pour comprendre le danger, il faut d'abord comprendre comment fonctionnent ces modèles. ChatGPT et ses pairs ne "connaissent" pas la médecine - ils écrivent des mots basés sur des statistiques. Lorsque le modèle vous répond, il prédit essentiellement le mot suivant le plus probable dans une phrase. Dans la plupart des cas, cela fonctionne très bien, mais en médecine, la différence entre "probable" et "correct" est critique.

Dans l'industrie, ce phénomène est appelé "hallucinations". Le modèle peut inventer avec une confiance totale le nom d'un médicament inexistant, citer une dose létale ou faire référence à une étude médicale qui n'a jamais été écrite. Il le fait avec la même autorité qu'il répond à une question mathématique. Le problème est que l'utilisateur moyen ne peut pas distinguer entre un fait médical solide et l'invention créative de l'algorithme, qui voulait simplement compléter une phrase de manière convaincante.

Un médecin sans yeux, sans mains et sans histoire

Même si nous supposons que le modèle était précis à 100% avec les données brutes, il lui manque encore l'outil le plus basique de la médecine : les sens. Un médecin humain voit la teinte de la peau, entend le son spécifique de la toux, palpe le gonflement abdominal et sent des odeurs qui peuvent indiquer une infection ou un diabète.

Dans le chat, toutes ces nuances disparaissent. "Douleur abdominale" dans le texte peut être une simple indigestion, ou cela peut être une appendicite aiguë nécessitant une chirurgie. Claude ou Gemini ne savent pas comment distinguer entre les deux. De plus, le modèle fonctionne dans le vide. Il n'a pas accès à votre dossier médical, aux résultats des analyses de sang de la semaine dernière ou à vos antécédents familiaux. Il ne voit que ce que vous avez tapé à ce moment, ce qui conduit nécessairement à une image partielle et dangereuse.

Le piège psychologique : la machine qui veut vous plaire

Cela peut sembler un peu étrange, mais les modèles d'IA sont programmés pour plaire à l'utilisateur. Ils sont conçus pour être des assistants utiles et maintenir une conversation fluide. En conséquence, ils ont tendance à confirmer vos suppositions cachées.

Si vous demandez : "Mon mal de tête pourrait-il être un signe de tumeur rare ?", le modèle pourrait se concentrer sur cette possibilité et l'élaborer, simplement parce que vous l'avez mentionnée, au lieu de vous rassurer qu'il s'agit probablement de déshydratation ou de stress. Les personnes cherchant confirmation de leurs craintes la trouveront facilement avec l'IA, conduisant à une anxiété inutile ou, dans les cas opposés, à une complaisance dangereuse en ignorant les vrais signes d'alerte parce que "le chat a dit que c'était bon".

Vous n'êtes pas la "moyenne statistique"

L'IA s'est entraînée sur des informations médicales générales représentant la moyenne. Mais une bonne médecine est une médecine personnalisée. Une recommandation qui convient à 80% de la population pourrait être dangereuse pour quelqu'un avec un bagage génétique spécifique, une femme enceinte, un enfant ou un patient prenant divers médicaments.

Le chat ne sait pas comment diagnostiquer et gérer la "comorbidité" - une situation où une personne souffre de plusieurs problèmes simultanément. Il pourrait recommander un médicament pour les articulations qui endommage les reins, simplement parce qu'il ne sait pas comment peser l'interaction complexe entre différents systèmes corporels chez ce patient spécifique.

Le vide du "lendemain" : absence de continuité du traitement

La médecine n'est pas un événement ponctuel, mais un processus. Un bon médecin n'écrit pas seulement une ordonnance, mais guide le patient : "Si la fièvre ne baisse pas dans deux jours, revenez me voir" ou "Faites attention si une éruption apparaît". Il prend la responsabilité du traitement dans le temps. En revanche, l'interaction avec l'IA est épisodique et déconnectée. Chaque conversation est un nouveau départ, ou au mieux une continuation à court terme limitée à la mémoire du chat actuel.

Le modèle ne vous appellera pas le matin pour demander comment vous vous sentez, et il ne mettra pas à jour sa recommandation si de nouvelles directives sortent une heure après la conversation. Vous restez seul avec l'information, sans adresse vers laquelle vous tourner en cas de détérioration ou d'effets secondaires, précisément aux moments critiques où un jugement humain continu est requis.

De plus, les maladies sont dynamiques. Notre condition physique change d'un moment à l'autre. Une légère douleur abdominale le matin peut se transformer en forte fièvre le soir, et une toux sèche peut se transformer en essoufflement. Un médecin sait identifier les tendances - il compare l'état actuel à l'état d'il y a deux jours et tire des conclusions sur l'efficacité du traitement.

L'IA, cependant, ne voit qu'une "capture d'écran" du moment où vous avez tapé la question. Elle ne sait pas identifier la nuance subtile d'une détérioration lente. Le grand danger est que les patients peuvent s'accrocher au diagnostic rassurant que le modèle a fourni au début de la maladie ("c'est juste la grippe"), et ignorer de nouveaux signes d'alerte qui apparaissent plus tard et nécessitent un changement immédiat de traitement, simplement parce que "l'IA l'a déjà vérifié".

Quand peut-on utiliser l'IA pour des questions médicales ?

Premièrement, il vaut la peine de distinguer entre consulter un chatbot général (comme ChatGPT) et utiliser des systèmes d'IA médicaux dédiés (comme K Health, Ada ou les chats intelligents des caisses de santé). Alors que le premier est un "écrivain talentueux" devinant des mots, les systèmes dédiés sont des "outils diagnostiques" construits sur des millions de cas médicaux réels sous supervision étroite. Ces systèmes n'essaient pas d'être créatifs ; ils comparent vos données aux données de milliers d'autres patients avec des profils similaires, et sont soumis à une réglementation stricte les obligeant à identifier les drapeaux rouges et à arrêter la conversation dans les situations d'urgence. Même là, il est important d'être sceptique et prudent.

Le bon modèle, déjà mis en œuvre aujourd'hui dans les systèmes de santé avancés, est le modèle hybride : l'IA sert de "salle d'urgence frontale". Elle effectue l'interrogatoire initial, collecte les informations de manière organisée et présente au médecin un résumé concis avant même que vous n'entriez dans la salle. Ainsi, la technologie ne remplace pas le médecin, mais le libère de la bureaucratie et lui permet de consacrer un temps précieux à l'examen physique, à l'empathie et à la prise de décision finale - des choses qu'aucun algorithme ne peut faire.

L'IA est là et elle ne va nulle part. Cela ne signifie pas que nous devons jeter la technologie à la poubelle. L'intelligence artificielle peut être une excellente aide, tant qu'elle ne remplace pas le jugement professionnel. Elle est excellente pour expliquer des termes médicaux complexes après une visite chez le médecin ("Que signifie thrombocytopénie ?"), elle peut vous aider à préparer une liste organisée de questions avant un rendez-vous important, ou fournir des informations générales sur un mode de vie sain.

Mais au moment où la question devient diagnostique ("Qu'est-ce que j'ai ?") ou thérapeutique ("Que dois-je prendre ?"), il est temps de fermer le chat et de se tourner vers la seule personne qui peut prendre la responsabilité de votre vie - le médecin.