Bioéthique : Article 11

Bioéthique : Article 11

debate, 28/01/2020, fr — source : Sénat, compte rendu intégral

M. le président : Le chapitre Ier du titre préliminaire du livre préliminaire de la quatrième partie du code de la santé publique est complété par un article L. 4001-3 ainsi rédigé :
« Art. L. 4001-3. – Lorsque, pour des actes à visée préventive, diagnostique ou thérapeutique, le professionnel de santé envisage de recourir à un traitement algorithmique, il en informe préalablement le patient et lui explique sous une forme intelligible la manière dont ce traitement serait mis en œuvre à son égard. Seules l’urgence et l’impossibilité d’informer peuvent y faire obstacle.
« La saisie d’informations relatives au patient dans le traitement algorithmique se fait sous le contrôle du professionnel de santé qui a recours audit traitement.
« Aucune décision médicale ne peut être prise sur le seul fondement d’un traitement algorithmique.
« Les concepteurs d’un traitement algorithmique mentionné au premier alinéa s’assurent de la transparence du fonctionnement de l’outil pour ses utilisateurs.
« Un décret en Conseil d’État, pris après avis motivé et publié de la Commission nationale de l’informatique et des libertés, précise les modalités d’application du présent article, notamment la mise en œuvre de l’information du patient, les conditions d’utilisation du traitement algorithmique par les professionnels de santé et celles dans lesquelles la transparence du fonctionnement dudit traitement est assurée par son concepteur. »

M. le président : La parole est à M. le président de la commission spéciale.

M. Alain Milon : L’article 11 porte sur l’intelligence artificielle (IA) en santé, un domaine dans lequel nous sommes à la recherche d’un équilibre, comme sur les autres sujets de bioéthique.
L’environnement de l’IA étant très encadré par le règlement général sur la protection des données (RGPD) et par les normes nationales, une législation trop restrictive risquerait de bloquer l’innovation en France et de conduire les professionnels de santé et les patients à se tourner vers d’autres solutions conçues hors d’Europe, dont nous ne pourrions garantir le caractère éthique.
L’article 11 introduit donc trois nouvelles normes nécessaires : un devoir d’information du patient sur le recours à l’intelligence artificielle dans sa prise en charge ; un nouveau principe, fondamental, de garantie humaine de l’intelligence artificielle, permettant d’assurer que l’algorithme et son évolution resteront sous la supervision de professionnels de santé ; enfin, une obligation de traçabilité tout au long du processus de médecine algorithmique. Il me semble que ces normes apportent des garanties suffisantes.
Depuis sa reconnaissance par le CCNE, le principe de garantie humaine de l’intelligence artificielle en santé a été repris en Europe, mais aussi à l’échelon international, dans le cadre de l’Organisation mondiale de la santé (OMS).
La France est donc à l’avant-garde d’une régulation positive de l’IA en matière de santé. Le moment est à la préparation active de sa mise en œuvre par un effort résolu de formation des professionnels médicaux et paramédicaux aux potentialités nouvelles, mais aussi aux risques éthiques associés à la diffusion de l’IA en santé. Il ne faut plus différer cette nécessaire préparation collective !

M. le président : L’amendement n° 205, présenté par Mmes Assassi, Cohen, Apourceau-Poly et Benbassa, M. Bocquet, Mmes Brulin et Cukierman, MM. Gay et Gontard, Mme Gréaume, MM. P. Laurent et Ouzoulias, Mme Prunaud, M. Savoldelli et Mme Lienemann, est ainsi libellé :
I. – Alinéa 2
Compléter cet alinéa par une phrase ainsi rédigée :
Le consentement exprès, libre et éclairé du patient ou de son représentant légal doit être recueilli préalablement et à toutes les étapes de sa mise en œuvre.
II. – Après l’alinéa 5
Insérer un alinéa ainsi rédigé :
« La traçabilité des actions d’un traitement mentionné au I et des données ayant été utilisées par celui-ci est assurée et les informations qui en résultent sont accessibles aux professionnels de santé et aux patients ou à leur représentant légal concernés.
La parole est à Mme Éliane Assassi.

Mme Éliane Assassi : L’intelligence artificielle soulève, en tant que telle, des enjeux considérables, a fortiori lorsqu’elle est appliquée au domaine de la santé.
Une question se pose plus particulièrement dans ce cadre : comment permettre à l’humain de garder la main ?
En la matière, le rapporteur en charge de cette problématique a fait un travail qui, selon nous, va dans le sens du respect de nos principes éthiques, notamment avec la consécration du principe d’une garantie humaine dans l’interprétation des résultats en cas d’utilisation d’un algorithme.
En ce sens, certaines recommandations de la CNIL, du CCNE et du Défenseur des droits ont été prises en compte. D’autres, en revanche, ont été laissées de côté. Nous souhaitons les intégrer au texte de la commission spéciale par cet amendement, qui vise à intégrer deux garde-fous supplémentaires au traitement algorithmique des données sanitaires, dont il nous semble important de ne pas faire l’économie.

M. le président : Quel est l’avis de la commission spéciale ?

M. Olivier Henno : Cet amendement a pour objet l’encadrement de l’utilisation d’un traitement algorithmique en matière médicale.
La commission spéciale a largement tenu compte des avis du CCNE dans ses travaux, notamment aux articles 10 bis et 10 ter.
Les positions du CCNE sur l’IA, notamment, nous semblent pertinentes. La commission spéciale a d’ailleurs déjà renforcé les garanties en matière de consentement exprès du patient, en prévoyant l’information préalable du patient, alors que le projet de loi ne la prévoyait qu’au moment des résultats.
Vous voulez également rétablir la mention de la « traçabilité » du traitement. La commission spéciale l’avait trouvée peu claire et l’avait remplacée par une obligation de transparence du traitement algorithmique, pour éviter que celui-ci ne fonctionne comme une boîte noire. Votre proposition serait donc redondante avec le texte de la commission.
Enfin, vous mentionnez dans l’objet de votre amendement qu’une décision médicale ne devrait pas exclusivement se fonder sur un traitement algorithmique. Ce point est d’ores et déjà satisfait, puisqu’il s’agit du souci, voire de l’obsession de la commission spéciale !
En conséquence, la commission spéciale sollicite le retrait de cet amendement. À défaut, elle émettrait un avis défavorable.

M. le président : Quel est l’avis du Gouvernement ?

Mme Agnès Buzyn : Même avis.

M. le président : Madame Assassi, l’amendement n° 205 est-il maintenu ?

Mme Éliane Assassi : Non, je le retire, monsieur le président.

M. le président : L’amendement n° 205 est retiré.
Je mets aux voix l’article 11.
(L’article 11 est adopté.)