Projet de loi bioéthique et intelligence artificielle: encadrement des traitements algorithmiques de données à des fins médicales, information du patient et garantie humaine

Le Projet de loi relatif à la bioéthique , n° 2187 sera l'un des textes phares qui seront débattus à la rentrée 2019.

Présenté en Conseil des ministres le 24 juillet 2019 le projet de loi propose une évolution de notre cadre bioéthique sur 32 articles interessant l'autoconservation et dons de gamètes, accès à la PMA, dons d'organes, transmission d'informations génétiques etc.

Il vise également à sécuriser la bonne information du patient lorsqu’un traitement algorithmique de données massives (« intelligence artificielle ») est utilisé à l’occasion d’un acte de soins, avec la garantie d’une intervention humaine.

La constitution de bases de données massives relatives à la santé est en effet désormais possible à partir de données recueillies lors de la prise en charge du patient (à des fins sanitaires et/ou médico-sociales), notamment à travers le système national des données de santé qui va être élargi par la création d’une Plateforme nationale des données de santé , mais également en dehors de toute relation de soins, notamment au travers d’objets connectés.

De nombreuses applications fondées sur l’exploitation des données massives et sur des dispositifs d’intelligence artificielle se développent rapidement dans le secteur sanitaire et médico-social, au niveau de la prise en charge individuelle des personnes.  

L’intelligence artificielle est par exemple mise au service d’outils qui permettent d’améliorer l’efficacité et la précocité des diagnostics, de fournir une aide aux décisions thérapeutiques ou  d’améliorer le suivi de l’évolution de la maladie et la prévention des rechutes.

Des dispositifs robotiques interviennent également de façon efficace dans la réalisation d’actes chirurgicaux.

L’intelligence artificielle est également utilisée au niveau collectif, à des fins de recherche, mais aussi de suivi et d’anticipation des risques sanitaires (par exemple dans l’analyse des signaux faibles en matière de pharmacovigilance ou de suivi épidémiologique), ou encore de pilotage du système de santé, par exemple pour fluidifier les parcours de soins.

Se pose donc non seulement la question de l'information du patient, mais aussi celle de la maîtrise finale des décisions diagnostiques, préventives ou thérapeutiques prises à partir des conclusions tirées par des applications d’intelligence artificielle compte tenu, d’une part, des limites résiduelles des algorithmes utilisés au regard de la variabilité des situations individuelles spécifiques de chaque personne, d’autre part, des conséquences potentielles de ces décisions.

L’article 11 du projet vise ainsi à permettre l'information du patient lorsque l'IA est utilisée à l’occasion d’un acte de soins.

Les patients devront donc être systématiquement informés du recours à l'Intelligence artificielle et notamment de tout "traitement algorithmique de données massives". 

Par ailleurs le projet de loi décline également la garantie d’une intervention humaine.

C'est ainsi que le code de la santé serait complété par un nouvel article L. 4001-3 ainsi rédigé :

« Art. L. 4001-3. – I. – Lorsque pour des actes à visée préventive, diagnostique ou thérapeutique est utilisé un traitement algorithmique de données massives, le professionnel de santé qui communique les résultats de ces actes informe la personne de cette utilisation et des modalités d’action de ce traitement.

« II. – L’adaptation des paramètres d’un traitement mentionné au I pour des actions à visée préventive, diagnostique ou thérapeutique concernant une personne est réalisée avec l’intervention d’un professionnel de santé et peut être modifiée par celui-ci.

« III. – La traçabilité des actions d’un traitement mentionné au I et des données ayant été utilisées par celui-ci est assurée et les informations qui en résultent sont accessibles aux professionnels de santé concernés. 

Le projet de loi Bioéthique met donc en place un encadrement juridique des traitements algorithmiques de données massives, c'est-à-dire des traitements de données issus de l’intelligence artificielle, lorsqu'ils sont utilisés pour des actes à visée préventive, diagnostique ou thérapeutique. Le dispositif repose tout d’abord sur une obligation d'informer la personne de l’utilisation d'un tel traitement algorithmique et de ses modalités d'action. Il impose l'intervention d'un professionnel de santé pour le paramétrage d'un tel traitement et précise que ce paramétrage peut être modifié par le professionnel de santé. Il prévoit enfin la traçabilité des données utilisées par ces dispositifs et des actions qui en résultent, ainsi que de l’accès à ces informations des professionnels de santé concernés.

Si ces dispositions ne régissent pas les décisions s'imposant aux personnes concernées puisqu’en application de l'article L 1111-4 du code de la santé publique : « Toute personne prend, avec le professionnel de santé et compte tenu des informations et des préconisations qu’il lui fournit, les décisions concernant sa santé », les effets susceptibles de résulter de tels traitements pour les personnes en cause justifient que le principe posé par l'article 22 du règlement (UE) 2016/679 du Parlement européen et du conseil du 27 avril 2016 relatif à la protection des personnes physiques à l'égard du traitement des données à caractère personnel et à la libre circulation de ces données (RGPD) et par l’article 47 de la loi n° 78-17 du 6 janvier 1978 relative à l'informatique, aux fichiers et aux libertés, qui exclut, sauf exceptions, la mise en œuvre d'une décision fondée exclusivement sur un traitement automatisé, soit appliqué en l’espèce.

Consulté pour avis, le Conseil d'Etat relève que le projet s’inscrit ainsi dans la ligne suivie par le Conseil d’Etat dans son avis sur le projet de loi d’adaptation au droit de l’Union européenne de la loi n°78-17 du 6 janvier 1978 relative à l’informatique, aux fichiers et aux libertés (Assemblée générale, 7 décembre 2017, 393836) en faveur d’une information de la personne concernée et d’une d’intervention humaine avant la prise d’une décision administrative individuelle sur le fondement d’un algorithme. Le Conseil Constitutionnel a, par une décision n°2018-765 DC du 12 juin 2018, jugé que le législateur a défini des garanties appropriées pour la sauvegarde des droits et libertés des personnes soumises aux décisions administratives individuelles prises sur le fondement d’un algorithme, dès lors que ne peuvent être utilisés, comme fondement exclusif de cette décision, des algorithmes « susceptibles de réviser eux-mêmes les règles qu’ils appliquent, sans le contrôle et la validation du responsable du traitement ».

Le Conseil d'État considère ainsi que ces dispositions, qui ne se heurtent à aucun obstacle de nature constitutionnelle ou conventionnelle, sont particulièrement bienvenues

Retrouvez l'avis du 24 juillet 2019 du Conseil d état sur le Projet de loi relatif à la bioéthique

(crédits dessin: Cabinet Thierry Vallat)