Les chatbots d’intelligence artificielle se sont invités dans nos réflexes du quotidien, y compris pour la santé. Or, des experts alertent : dans une étude publiée dans BMJ Open, environ une réponse sur deux donnée par plusieurs assistants populaires a été jugée problématique, avec une part considérée comme très problématique. Le point le plus déroutant tient au ton employé : beaucoup de réponses erronées sont formulées avec assurance, sans sources, ce qui augmente mécaniquement le risque d’erreurs et leur impact.
Intelligence artificielle et santé : pourquoi la fiabilité des chatbots inquiète les experts
Pour comprendre l’alerte, suivez un fil conducteur simple : Claire, 34 ans, se réveille avec des palpitations et demande à un chatbot “Est-ce grave ?”. En quelques secondes, l’outil propose une explication rassurante… ou au contraire alarmiste, parfois sans distinguer une urgence (douleur thoracique, essoufflement) d’un épisode bénin. Dans un contexte de diagnostic médical, ce décalage entre rapidité et fiabilité peut coûter cher : retard de prise en charge, anxiété inutile, automédication risquée.
Les chercheurs américains, canadiens et britanniques ont évalué cinq plateformes grand public (ChatGPT, Gemini, Meta AI, Grok, DeepSeek) à partir de dix questions réparties en cinq catégories. Résultat marquant : un peu plus d’un conseil sur deux a été classé “problématique”, et une fraction notable a été considérée comme “très problématique”. L’alerte ne vise pas la technologie en bloc, mais le fossé entre une réponse “qui sonne juste” et une information réellement exacte.
Réponses erronées : ce que l’étude montre vraiment, au-delà du chiffre “50 %”
Le “près de la moitié” ne signifie pas que tout est faux, ni que chaque question mène à une catastrophe. Cela signifie qu’à fréquence élevée, les algorithmes peuvent produire des erreurs de fond (mauvais conseil, généralisation abusive) ou de forme (absence de nuance, oubli des signaux d’alerte, confiance excessive). C’est particulièrement préoccupant quand l’utilisateur prend la réponse comme une recommandation clinique.
Un point ressort nettement : les questions fermées (oui/non, choix limité) sont mieux gérées que les demandes ouvertes du type “Que dois-je faire ?”. Autrement dit, l’IA est souvent plus à l’aise pour reformuler une information simple que pour guider une décision réelle, qui dépend d’un contexte personnel (âge, traitements, antécédents, symptômes associés). Le message implicite est clair : plus la situation est complexe, plus la fiabilité chute.
Diagnostic médical : pourquoi certains sujets résistent mieux, et d’autres s’effondrent
Les experts notent des performances relativement meilleures sur des thèmes très “protocolisés” et largement documentés, comme certains aspects du cancer ou des vaccins. Ces domaines bénéficient de référentiels stables, de messages de santé publique répétés et de formulations standardisées, ce qui réduit le risque de dérapage. Dans ces cas, l’outil peut parfois servir d’“aide à la compréhension” du vocabulaire, à condition de vérifier.
À l’inverse, la nutrition et les cellules souches semblent plus propices aux réponses erronées. Pourquoi ? Parce que les données disponibles mêlent études de qualité variable, promesses marketing, tendances et simplifications. Résultat : les chatbots peuvent confondre corrélation et causalité, extrapoler à partir d’un cas particulier, ou présenter une hypothèse comme un fait établi, ce qui alimente la désinformation.
Ce que les algorithmes font mal : certitude, absence de sources et “effet d’autorité”
Le problème n’est pas seulement l’erreur brute, c’est la manière dont elle est livrée. Beaucoup d’assistants répondent avec aplomb, parfois sans citer de sources, ce qui crée un effet d’autorité : si c’est fluide et structuré, l’utilisateur pense que c’est validé. C’est exactement l’inverse de ce qu’on attend en santé, où l’incertitude doit être explicitée et où les signaux d’alarme doivent être hiérarchisés.
Pour illustrer, imaginez Paul, 52 ans, qui demande si un nouveau complément “booste l’immunité” alors qu’il prend déjà un anticoagulant. Une réponse imprécise ou trop confiante peut minimiser les interactions médicamenteuses, alors qu’un professionnel chercherait d’abord les contre-indications et le contexte. L’insight clé : la forme persuasive peut masquer un fond fragile.
Technologie et impact : comment réduire les erreurs quand on utilise une IA pour la santé
L’usage explose : on parle désormais de centaines de millions de personnes qui posent chaque semaine des questions de santé à une intelligence artificielle, et la tendance continue de monter. L’impact n’est pas théorique : quand certains utilisateurs déclarent faire davantage confiance à un chatbot qu’à un médecin, le risque se déplace du “mauvais conseil” vers la “mauvaise décision”. La vigilance devient donc un réflexe d’hygiène numérique.
Plutôt que d’interdire, il est plus utile de cadrer. Vous pouvez vous servir d’un chatbot pour préparer une consultation, comprendre un terme médical ou structurer des questions, mais pas pour trancher seul un diagnostic médical ou ajuster un traitement. La bonne pratique consiste à transformer l’outil en assistant de préparation, pas en arbitre clinique.
Liste de vérifications simple avant de croire une réponse liée à la santé
- Demandez à l’outil de citer des sources vérifiables (recommandations, sociétés savantes, autorités sanitaires) et contrôlez-les réellement.
- Vérifiez si la réponse mentionne des signaux d’alerte (douleur thoracique, difficultés respiratoires, signes neurologiques) et une conduite à tenir claire en cas d’urgence.
- Repérez les formulations absolues (“toujours”, “jamais”, “sans risque”) : en santé, elles sont souvent un marqueur d’erreurs.
- Reformulez votre question en ajoutant le contexte (âge, grossesse, traitements, antécédents) pour voir si la réponse change fortement, signe d’instabilité.
- Utilisez l’IA pour générer une liste de questions à poser à un professionnel, plutôt que pour décider à sa place.
Cette grille a un avantage immédiat : elle remet l’utilisateur au centre, et réduit l’effet hypnotique des réponses “bien écrites”.
Tableau : usages raisonnables vs usages à risque des chatbots IA en santé
| Situation | Usage raisonnable | Usage à risque | Pourquoi cela compte (impact) |
|---|---|---|---|
| Symptômes nouveaux | Préparer une description claire des symptômes et leur chronologie | Conclure seul à une cause et retarder une consultation | Risque de retard de prise en charge ou d’anxiété injustifiée |
| Médicaments | Comprendre une notice, l’objectif d’un traitement, les effets fréquents | Modifier dose/rythme ou arrêter un traitement sur conseil du chatbot | Interactions, effets indésirables, rechute |
| Vaccins | Clarifier le calendrier et les bénéfices/risques généraux | Se fier à une rumeur “scientifique” sans source | Amplification de la désinformation, décisions de santé publique fragilisées |
| Nutrition | Idées de menus équilibrés adaptés à des objectifs généraux | Suivre un régime extrême ou des conseils pseudo-médicaux | Carences, troubles métaboliques, aggravation d’une pathologie |
| Examens et résultats | Traduire des termes techniques en langage courant | Interpréter un résultat isolé sans contexte clinique | Fausse rassurance ou panique, parcours de soins perturbé |
Au fond, la question n’est pas “faut-il utiliser un chatbot ?”, mais “dans quelles limites et avec quels garde-fous ?” : c’est là que la fiabilité se construit, pas dans la promesse d’une réponse instantanée.
