IA en santé : quelles sont les précautions à prendre ?

Au travers de diverses technologies de pointe ou du quotidien (objets connectés, robot de chirurgie, aide au diagnostic ou à l’interprétation, outils de prévention) l’IA est en train de révolutionner notre écosystème de santé. A ce titre, les algorithmes d’IA permettent à partir d’une masse de données d’aider à reconnaitre, pronostiquer et diagnostiquer une maladie.

A ce jour, l’INSERM dénombre six domaines d’application de l’IA en médecine :

• La médecine prédictive : prédire une maladie ou son évolution
• La médecine de précision : recommandation de traitements personnalisés
• L’aide à la décision : diagnostic et thérapeutique
• La chirurgie assistée
• La prévention : anticipation d’une épidémie, pharmacovigilance
• Les robots compagnons notamment pour les personnes âgées ou fragiles

Au regard de ces évolutions, la Loi n°2021-1017 du 2 août 2021 relative à la bioéthique (dite « Loi Bioéthique ») est venue introduire de nouvelles dispositions relatives à la médecine prédictive, la médecine de précision et l’aide à la décision imposant aux établissements et aux professionnels de santé de s’interroger sur les points suivants.

Quelles sont les obligations à la charge du professionnel de santé ?

La quatrième partie du code de la santé publique relative aux professionnels de santé a été réformée par la Loi Bioéthique. De nouvelles dispositions ont été introduites afin d’encadrer les cas dans lesquels le professionnel recourt à l’IA pour des actes à visées préventive, diagnostique ou thérapeutique.

Celui-ci est alors tenu à deux types d’obligations :

• Une obligation d’information préalable : Avant d’y recourir, le professionnel de santé doit s’assurer que la personne concernée en a été informée. D’autres dispositions du CSP permettent d’en saisir la teneur. A ce titre, l’information doit être « loyale, claire et appropriée » à l’état du patient, aux investigations et aux soins que le professionnel propose. Celui-ci doit également tenir compte, tout au long de la maladie, de la personnalité du patient et veiller à ce qu’il puisse décider en connaissance de cause.
• Une obligation d’explicabilité : il est également nécessaire de s’assurer que le patient a été averti de « l’interprétation qui en résulte ». Ainsi, les personnes concernées doivent pouvoir comprendre le fonctionnement de l’algorithme, ses paramètres et les conséquences qu’il engendre.

Ces deux obligations revêtent un fort enjeu probatoire dans la mesure où il appartient au professionnel de prouver qu’il a exécuté ces obligations.

Quel consentement recueillir ?

L’article 22 du RGPD prévoit le droit pour une personne de refuser de faire l’objet d’une décision individuelle automatisée. Pour déroger à ce principe le responsable de traitement peut se fonder sur le consentement explicite de la personne concernée.

Il en va toutefois différemment en matière médicale où le médecin doit garder la maîtrise de la décision de recourir et exploiter les données résultant de l’usage d’un dispositif d’IA[1].

Le code de la santé publique impose néanmoins de collecter le consentement du patient prévu avant tout acte médical ou traitement. L’utilisation d’un dispositif d’IA, à visée diagnostic par exemple, n’apparait pas faire exception.

En conclusion :

L’usage de l’IA à des fins d’actes à visées préventive, diagnostique ou thérapeutique implique pour le professionnel de santé d’établir la preuve qu’il a souscrit à ces différentes obligations (information, explicabilité et recueil du consentement).

Le projet de règlement européen relatif à l’IA laisse présager l’entrée en vigueur de nouvelles obligations à la charge des professionnels de santé ayant recours aux IA à des fins médicales et de leurs concepteurs. Pour en savoir plus sur ce sujet, nous vous invitons à lire l’article suivant : L’impact du règlement IA Act sur les données de santé.

***

Le cabinet HAAS Avocats est spécialisé depuis plus de vingt-cinq ans en droit des nouvelles technologies et de la propriété intellectuelle. Avec son département e-santé, le Cabinet HAAS Avocats accompagne à la fois les professionnels de santé mais également les entreprises spécialisées dans ce secteur afin de les assister dans la sécurisation juridique du déploiement d’intelligences artificielles, de traitements de données et autres services en lien avec le numérique. Pour nous contacter, cliquez ici.

[1] F. Eon-Jaguin, « Le médecin, véritable décideur et non simple auxiliaire de l’algorithme », Dalloz, IP/IT 2022 p. 29 ;