OMS : L’IA dans le système de santé peut comporter des risques et des ‘erreurs graves’

L’intelligence artificielle (IA) sélectionne actuellement les organes de donneurs pour la transplantation mieux que les humains et répond plus efficacement à certaines questions de santé des patients, mais elle comporte également des risques et des ‘erreurs graves’, a averti l’Organisation mondiale de la santé.

L’Organisation mondiale de la santé (OMS), basée à Genève, se félicite du potentiel énorme de l’intelligence artificielle, qui peut être très utile, mais avertit que l’introduction de procédures de traitement par IA dans le système de santé comporte le danger d’informations « complètement incorrectes ».

– Il est essentiel d’évaluer les dangers de l’utilisation des LLM (outils générés par des modèles de langage de grande taille) tels que ChatGPT, car ils peuvent entraîner des erreurs graves dans le domaine de la santé et saper la confiance dans l’IA – a déclaré l’OMS.

L’agence de santé de l’ONU a fait cette déclaration à un moment où les applications de l’intelligence artificielle gagnent rapidement en popularité. L’inquiétude provient du fait que les normes de précaution habituelles ne sont pas appliquées aux LLM.

Les partisans de l’utilisation de l’IA estiment que les médecins utiliseront bientôt des systèmes de chat IA pour répondre plus rapidement aux questions de santé des patients, et l’IA sera également utilisée dans le diagnostic.

Cependant, deux chatbots, de Microsoft et Google, ont montré que leurs réponses ne sont pas entièrement fiables en ce qui concerne les faits, et l’OMS s’inquiète précisément parce que ces réponses semblent fiables.

– Les LLM produisent des réponses qui peuvent sembler autoritaires et crédibles pour l’utilisateur final. Cependant, ces réponses peuvent être complètement inexactes ou contenir des erreurs graves, en particulier lorsqu’il s’agit de réponses liées à la santé – avertit l’OMS.

Ces informations peuvent induire en erreur et produire des informations qui semblent très crédibles, que le public ne peut pas distinguer des informations fiables.

Par conséquent, l’OMS suggère qu’avant d’appliquer l’IA dans le domaine de la santé, la profession devrait aborder ces questions et mesurer les avantages et les inconvénients avant d’approuver son utilisation généralisée.