Une étude récente a mis en évidence un risque important lié à la tendance croissante à utiliser l’intelligence artificielle pour l’orientation médicale : Les outils d’IA fournissent des conseils de santé incorrects dans près de 50 % du temps, fournissant souvent ces erreurs avec une certitude absolue.
Les résultats de la recherche révèlent une tendance troublante dans le fonctionnement des grands modèles linguistiques (LLM). Sur 250 questions médicales testées, les chatbots n’ont refusé de répondre que deux fois. Au lieu de cela, ils ont fourni des réponses continues et affirmées, quelle que soit leur exactitude.
L’illusion de la certitude
Le principal danger identifié par les experts n’est pas seulement l’inexactitude, mais aussi le ton de l’IA.
“Les chatbots ont parfois tort, mais cela ne fait jamais de doute”, note le Dr Lee Schwamm, doyen associé de la stratégie et de la transformation numériques à la Yale School of Medicine.
Cette « erreur assertive » crée un faux sentiment de sécurité. Parce que l’IA manque de nuances pour exprimer des doutes ou fournir les mises en garde médicales nécessaires, les utilisateurs peuvent confondre une hallucination apparemment confiante avec un fait médical vérifié. Ceci est particulièrement préoccupant car de nombreux utilisateurs ne font pas suivre leurs recherches d’IA par une consultation auprès d’un professionnel de santé qualifié.
Pourquoi les utilisateurs se tournent vers les chatbots
Malgré les risques, la demande d’informations sur la santé basées sur l’IA augmente. Plusieurs facteurs systémiques sont à l’origine de ce changement :
- Accessibilité et rapidité : Contrairement aux cliniques traditionnelles, l’IA est disponible 24h/24 et 7j/7. Il fournit des réponses immédiates à 3 heures du matin, évitant ainsi les longs temps d’attente et les obstacles de planification.
- Confidentialité et confort : Pour les symptômes sensibles ou embarrassants, les utilisateurs peuvent se sentir plus à l’aise de divulguer des détails à une machine sans jugement qu’à un médecin humain.
- Personalization: While medical websites offer generic information, AI can tailor explanations to a user’s specific phrasing, making complex topics feel more digestible.
- Obstacles systémiques : Les facteurs économiques jouent un rôle majeur. Les données suggèrent que les jeunes adultes et les personnes à faible revenu se tournent souvent vers l’IA parce que les soins médicaux professionnels sont soit inabordables, soit difficiles d’accès.
- Érosion de la confiance : Un déclin plus large de la confiance envers les institutions scientifiques et médicales a conduit certains à rechercher d’autres sources de vérité.
Limites de la technologie actuelle
Il est important de noter que cette étude s’est concentrée sur les interactions à invite unique plutôt que sur le dialogue aller-retour typique d’une utilisation dans le monde réel. Même si les versions les plus récentes de l’IA, basées sur un abonnement, devraient être plus précises que les modèles gratuits testés, les experts préviennent qu’elles ne sont toujours pas suffisamment fiables pour servir de ressource médicale principale.
De plus, l’IA n’a pas la capacité d’effectuer un diagnostic différentiel – le processus systématique que les médecins utilisent pour exclure diverses pathologies en clarifiant des questions et en examinant l’état physique.
Comment utiliser l’IA en toute sécurité dans le domaine de la santé
Les professionnels de la santé suggèrent que l’IA devrait être considérée comme un outil pédagogique supplémentaire, et non comme un remplacement du diagnostic. Pour utiliser ces outils de manière responsable, tenez compte des directives suivantes :
🟢 Utilisations recommandées
- Langage démystifiant : Utilisez l’IA pour expliquer des termes médicaux complexes ou des résultats de laboratoire dans un langage plus simple.
- Préparation des rendez-vous : Utilisez un chatbot pour réfléchir aux questions à poser à votre médecin ou pour vous aider à exprimer plus clairement vos symptômes avant une visite.
- Éducation générale : Utilisez-le pour comprendre le fonctionnement de certaines maladies de manière générale.
🔴 Avertissements critiques
- Ne vous traitez jamais vous-même : Ne suivez aucun conseil de traitement, en particulier en ce qui concerne les médicaments, sans un contrôle humain.
- Aucun changement de médicament : Ne démarrez, n’arrêtez ou ne modifiez jamais une prescription sur la base d’une suggestion d’une IA.
- Vérifiez les informations à enjeux élevés : Si une question nécessite une vérité absolue pour votre sécurité, ne comptez pas sur un chatbot.
Conclusion : Même si l’IA offre une commodité inégalée et une manière personnalisée d’explorer des sujets liés à la santé, sa tendance à présenter des erreurs avec un degré élevé de confiance en fait un substitut dangereux au jugement médical professionnel. Il est préférable de l’utiliser comme un outil de préparation et d’éducation plutôt que comme une source de vérité médicale définitive.
