L’intelligence artificielle peut être un allié précieux pour les soignants, mais son utilisation doit être encadrée par des précautions rigoureuses. C’est le message clé de la Haute Autorité de Santé (HAS) qui a publié une première série de recommandations pour un usage maîtrisé de ces outils, comme ChatGPT, dans le système de santé.
Attention à l’usage de l’IA dans le monde de la santé
La HAS reconnaît que les systèmes d’IA générative représentent une opportunité pour le monde médical. Ils peuvent être « un levier d’amélioration pour favoriser la qualité dans le système de santé », à condition d’être utilisés de manière « raisonnée ».
Concrètement, l’autorité sanitaire imagine plusieurs applications bénéfiques. Ces outils peuvent aider les professionnels à réaliser rapidement des synthèses de la littérature scientifique, à optimiser la gestion des ressources au sein des établissements, ou encore à traduire des informations médicales complexes en termes clairs et accessibles pour les patients.
Vigilance et vérification : les trois piliers de la prudence
Face à ce potentiel, la HAS met en garde contre les risques et édicte trois règles d’or. La première est la vérification systématique des sources. L’IA pouvant halluciner et présenter des informations erronées comme des faits, les soignants doivent impérativement « consulter [les sources] dès que nécessaire pour prendre connaissance de leur contenu et les vérifier ».
Le deuxième pilier est la confidentialité absolue. La HAS insiste sur la nécessité de « vérifier dans chacune des requêtes qu’aucune information permettant l’identification directe ou indirecte ou relevant du secret médical n’est partagée ».
Enfin, l’autorité recommande de ne jamais se reposer entièrement sur l’IA afin de ne pas « endormir ses propres compétences ». L’exemple donné est celui d’une infirmière qui, même assistée par l’IA pour le triage des patients aux urgences, doit continuer à pratiquer sans cette aide pour rester opérationnelle en cas de dysfonctionnement du système. Ce document pose les premières bases, en attendant de futures recommandations destinées cette fois directement aux patients.
