Les intelligences artificielles génératives peuvent produire des détails inexacts ou des sources inexistantes parce qu’elles construisent un texte probable, pas une vérité certifiée. Voici comment comprendre ce phénomène et vérifier une information avant d’en faire un choix de santé.

Vous demandez à une IA si un traitement peut expliquer un symptôme. Elle répond avec calme, cite un spécialiste et ajoute une étude très précise. Le lien s’ouvre, mais il parle d’un autre sujet. Vous vérifiez le nom de l’article : il n’existe pas. Pourtant, la réponse paraissait sérieuse. Comment une machine peut-elle inventer sans hésiter ? Et comment savoir quand une explication mérite d’être discutée avec un professionnel ?

Ce que l’IA apporte vraiment : des phrases probables, pas une garantie de vérité

Une IA générative ne consulte pas nécessairement une bibliothèque de faits pour assembler une réponse. Un modèle de langage apprend des régularités dans de très nombreux textes, puis produit les mots qui semblent les plus adaptés à la suite de la conversation. Il peut donner une explication juste, mais aussi compléter un détail manquant par une information plausible. Le résultat peut être grammatical, précis et faux à la fois.

C’est ce que l’on appelle une hallucination : une information inventée ou déformée présentée comme si elle était réelle. Une référence bibliographique peut mélanger le titre d’un article, le nom de ses auteurs et celui d’une revue. Une recommandation peut être attribuée à une organisation qui ne l’a jamais publiée. Une réponse peut aussi omettre une nuance importante, reprendre une donnée ancienne ou généraliser un résultat qui ne concernait qu’un groupe particulier.

L’assurance vient du style conversationnel, pas d’un voyant qui mesurerait la vérité. La HAS rappelle que les réponses reposent sur des probabilités et qu’elles ne sont pas garanties comme vraies. Demander à l’outil d’être prudent ou de citer ses sources peut améliorer la présentation, mais cela ne suffit pas à rendre la réponse exacte. Un lien cliquable peut être mal choisi ; une source authentique peut ne pas soutenir la phrase.

Ce qu’il faut encore vérifier : qui affirme quoi, et sur quelle preuve

Commencez par repérer les éléments qui pourraient changer votre conduite : nom d’un médicament, dose, délai, chiffre, contre-indication, diagnostic évoqué ou signe d’alerte. Plus une information serait importante pour votre décision, plus elle mérite d’être contrôlée. Une réponse générale sur un mécanisme de santé ne répond pas forcément à la situation d’une personne précise, dont l’âge, les antécédents, les traitements et les symptômes complets ne sont pas connus de l’outil.

Si l’IA cite une étude ou une recommandation, ouvrez la source. Vérifiez qu’elle existe, qu’elle est récente et qu’elle dit réellement ce que la réponse lui attribue. En cas de médicament, consultez une source officielle ou demandez au pharmacien. Si vous ne parvenez pas à vérifier, notez la question et montrez la réponse à un professionnel plutôt que de la transformer en diagnostic ou de modifier un traitement.

Ne vous laissez pas rassurer par la quantité de détails. Une réponse longue n’est pas nécessairement plus solide qu’une réponse courte. Reformulez la question et vous pourriez obtenir une conclusion différente ; cette variation est un signal de prudence, pas un moyen de faire voter plusieurs réponses. Les guides de la HAS destinés au public insistent également sur le fait qu’une réponse peut être incomplète, que le ton chaleureux ne garantit pas sa qualité et que des conseils automatiques utilisés seuls peuvent être trompeurs ou dangereux.

Ce que cela change pour vous : transformer la réponse en question à poser

L’IA peut être utile pour mettre des mots simples sur un compte rendu, organiser les interrogations avant un rendez-vous ou expliquer un terme médical. Elle peut vous aider à préparer la conversation avec votre médecin ou votre pharmacien. Gardez le texte et la source consultée, puis dites clairement ce qui vous inquiète. Le professionnel pourra confirmer, nuancer ou écarter l’information à partir de votre situation réelle.

Ne transmettez pas à un service grand public des informations qui vous identifient ou permettent de reconnaître un proche : nom, date de naissance, adresse, numéro de dossier ou document non masqué. Une question de santé peut révéler des informations sensibles. Avant de déposer un résultat ou une photo, vérifiez les règles de confidentialité du service et retirez les éléments identifiants. La protection des données est une question distincte de l’exactitude de la réponse, mais elle compte tout autant.

Alors, quel niveau d’incertitude est acceptable ? Pour une explication qui vous aide à préparer une question, une réponse imparfaite peut être utile si vous gardez votre esprit critique et si vous vérifiez les éléments importants. Pour décider seul d’un diagnostic ou d’un traitement, une incertitude que vous ne pouvez pas mesurer n’est pas acceptable. En santé, une IA peut ouvrir une conversation ; elle ne doit pas la clore à votre place.

Une réponse fausse peut nous convaincre précisément parce qu’elle ressemble à une bonne explication. Le risque n’est pas seulement que l’intelligence artificielle se trompe : c’est que nous oubliions de lui demander d’où vient ce qu’elle affirme.

Montrer la réponse à son médecin ou à son pharmacien

Ces outils peuvent rendre certains mots de la médecine plus accessibles. Ils donnent parfois envie de poser une question qu’on n’osait pas formuler. C’est une vraie possibilité, à condition de garder le réflexe de montrer la réponse à son médecin ou à son pharmacien lorsqu’elle concerne une décision personnelle.

La réponse la plus raisonnable n’est donc pas de croire tout ce que l’on lit, ni de renoncer à s’informer. C’est de distinguer l’explication qui aide à comprendre d’une consigne qui ferait changer un traitement ou retarder une consultation. Une référence introuvable, une recommandation trop catégorique ou un conseil qui ne tient pas compte de votre histoire sont des raisons de demander un avis.

Plus une réponse paraît facile à croire, plus nous devons pouvoir montrer sur quoi elle repose. Et si nous ne pouvons pas vérifier, nous avons encore une ressource précieuse : le dialogue avec un professionnel qui connaît la personne, pas seulement les mots de sa question.