Bioéthique : Article 11
debate, 03/02/2021, fr — source : Sénat, compte rendu intégral
M. le président : Le chapitre Ier du titre préliminaire du livre préliminaire de la quatrième partie du code de la santé publique est complété par un article L. 4001-3 ainsi rédigé :
« Art. L. 4001-3. – I. – Lorsque, pour des actes à visée préventive, diagnostique ou thérapeutique, est utilisé un traitement algorithmique dont l’apprentissage est réalisé à partir de données massives, le professionnel de santé qui décide de cette utilisation s’assure que la personne concernée en a été informée au préalable et qu’elle est, le cas échéant, avertie de l’interprétation qui en résulte.
« I bis. – Aucune décision médicale ne peut être prise sur le seul fondement d’un traitement mentionné au I.
« II. – La traçabilité des actions d’un traitement mentionné au I et des données ayant été utilisées par celui-ci est assurée par le fabricant et les informations qui en résultent sont accessibles aux professionnels de santé concernés. Les données sont traitées et partagées dans les conditions prévues à l’article L. 1111-8.
« III. – Un arrêté du ministre chargé de la santé établit, après avis de la Haute Autorité de santé et de la Commission nationale de l’informatique et des libertés, la liste des types de traitements algorithmiques qui font l’objet de l’information mentionnée au I. Cette liste est régulièrement mise à jour. Il détermine également, après les mêmes avis, pour chaque type de traitements, la nature et la durée de conservation des actions et des données dont la traçabilité est prévue au II, ainsi que les catégories de personnes pouvant y accéder ou en être destinataires et les modalités d’exercice des droits des personnes concernées. »
M. le président : La parole est à M. le rapporteur.
M. Olivier Henno : Cet article est très important, puisqu’il porte sur l’encadrement de l’usage de l’intelligence artificielle.
Comme on l’a vu lors des auditions de la commission spéciale, ce qui s’ouvre devant nous, autrement dit la rencontre entre l’intelligence artificielle et les biotechnologies, a quelque chose de bouleversant. On a encore des difficultés aujourd’hui à en entrevoir les conséquences.
La commission spéciale a conservé l’économie générale du dispositif voté par l’Assemblée nationale. Toutefois, nous avons voulu renforcer les garanties dont bénéficient les patients en veillant scrupuleusement à ce que le dernier mot, en ce qui concerne une décision médicale qui découlerait de l’usage de l’intelligence artificielle, revienne toujours à la femme ou à l’homme concerné, et plus précisément au médecin.
M. le président : L’amendement n° 92, présenté par M. Ouzoulias, Mme Cohen et les membres du groupe communiste républicain citoyen et écologiste, est ainsi libellé :
Alinéa 2
Compléter cet alinéa par une phrase ainsi rédigée :
Les données recueillies sont incessibles.
La parole est à M. Pierre Ouzoulias.
M. Pierre Ouzoulias : Monsieur le président, si vous le permettez, je présenterai en même temps les amendements nos 92, 84 et 80.
M. le président : J’appelle donc en discussion l’amendement n° 84, présenté par M. Ouzoulias, Mme Cohen et les membres du groupe communiste républicain citoyen et écologiste, et ainsi libellé :
Alinéa 2
Compléter cet alinéa par une phrase ainsi rédigée :
Le traitement et la conservation des données sont effectués sur des serveurs publics situés en France et dans le respect du règlement (UE) n° 2016/679 du Parlement européen et du Conseil du 27 avril 2016 relatif à la protection des personnes physiques à l’égard du traitement des données à caractère personnel et à la libre circulation de ces données.
J’appelle également en discussion l’amendement n° 80, présenté par M. Ouzoulias, Mme Cohen et les membres du groupe communiste républicain citoyen et écologiste, et ainsi libellé :
Après l’alinéa 2
Insérer un alinéa ainsi rédigé :
« …. – Le consentement exprès, libre et éclairé du patient ou de son représentant légal doit être recueilli préalablement et à toutes les étapes de sa mise en œuvre.
Veuillez poursuivre, monsieur Ouzoulias.
M. Pierre Ouzoulias : Avec ces amendements, nous engageons une réflexion sur la protection des données de santé.
Monsieur le secrétaire d’État, le Gouvernement n’a, jusqu’à présent, pas montré une très grande rigueur ni une ferme volonté de défendre notre souveraineté nationale en ce qui concerne la gestion et la conservation des données de santé de nos concitoyens et de nos concitoyennes.
Je ne rappellerai pas ici votre choix – contestable – de laisser l’un des Gafam assurer la conservation de nos données de santé. Je ne rappellerai pas non plus la décision prise, plus près de nous, au mois de décembre, par le ministère de la santé de mettre au point un système d’information pour la vaccination permettant d’enregistrer les données des patients : la Commission nationale de l’informatique et des libertés (CNIL) n’a pas été en mesure de vérifier la conformité de ce système au règlement général sur la protection des données (RGPD) européen, ce qui pose un véritable problème.
Comme je suis bienveillant, je ne vous demanderai pas non plus, monsieur le secrétaire d’État, des nouvelles du logiciel StopCovid (Rires sur des travées du groupe Les Républicains.), dont on ne sait pas très bien ce qu’il est devenu.
M. Loïc Hervé : Il faut le demander à Cédric O ! (Sourires.)
M. Pierre Ouzoulias : Nous estimons important aujourd’hui, puisque vous ne faites preuve d’aucune rigueur déontologique sur le traitement des données de santé de nos concitoyens, d’imposer par la loi un cadre qui vous oblige à un certain nombre de mesures tout à fait essentielles à nos yeux. De telles dispositions serviront à défendre nos données, dont on dit trop peu souvent qu’elles forment un futur gisement de richesses, qui est hélas en train de nous échapper et qu’on est en train de livrer aux Gafam.
L’amendement n° 92 vise à imposer un système rendant ces données incessibles. L’amendement n° 84 tend à vous imposer ce qui devrait être naturel, mais qui ne l’est pas, c’est-à-dire le respect du RGPD. Enfin, avec l’amendement n° 80, nous souhaitons que chaque patient exprime un consentement libre et éclairé sur le stockage et la gestion de ses données de santé.
M. le président : Quel est l’avis de la commission spéciale sur ces trois amendements ?
M. Olivier Henno : Je les aborderai les uns après les autres, car ils sont de nature différente.
Tout d’abord, nous partageons – et je partage – les objectifs que cherche à atteindre notre collègue. Mon intention n’est pas du tout de remettre en cause sur le fond les idées qui viennent d’être exprimées.
Cela étant, l’amendement n° 92 vise à rendre incessibles les données recueillies dans le cadre d’un traitement algorithmique de données massives à l’occasion d’un acte médical. Or il est satisfait par le droit en vigueur : l’article L. 1111-8 du code de la santé publique auquel renvoie l’article 11 du projet de loi dispose en effet – et c’est heureux – qu’est interdit « tout acte de cession à titre onéreux de données de santé identifiantes », sous peine de sanctions pénales qui ne sont pas légères : cinq ans d’emprisonnement et 300 000 euros d’amende.
La commission spéciale vous demande donc, mon cher collègue, de bien vouloir retirer cet amendement, faute de quoi elle y sera défavorable.
L’amendement n° 84 a, lui, pour objet d’imposer le respect du RGPD, ce qui va de soi : il est donc satisfait par le droit en vigueur et la hiérarchie des normes. Il tend aussi à imposer l’hébergement sur des serveurs publics français des données de santé issues de traitements algorithmiques de données massives. Or l’hébergement des données de santé est déjà très encadré par l’article L. 1111-8 du code de la santé publique.
On vous a bien entendu, mon cher collègue : le sujet que vous soulevez est une vraie question, qui dépasse largement l’enjeu des seules données issues d’un traitement algorithmique de données massives, puisqu’elle concerne toutes les données de santé.
Je vous demanderai de nouveau de bien vouloir retirer cet amendement ; à défaut, j’y serai défavorable.
Enfin, l’amendement n° 80 a pour objet de prévoir le consentement du patient à toutes les étapes de la mise en œuvre d’un traitement algorithmique de données massives. J’y suis défavorable, car il n’est pas nécessaire de préciser qu’il est requis : le principe en est déjà posé à l’article L. 1111-4 du code de la santé publique – j’allais dire : « heureusement ! ».
M. le président : Quel est l’avis du Gouvernement ?
M. Adrien Taquet (Ministre chargé de la Famille) : Monsieur le sénateur, le Gouvernement émet un même avis défavorable sur vos deux premiers amendements, pour les mêmes raisons que celles que vient d’exposer M. le rapporteur.
Je m’attarderai davantage sur l’amendement n° 80. Je pense que nous sommes tous guidés par l’envie d’améliorer la qualité et la sécurité des soins dispensés aux patients. En l’espèce, nous ne pensons pas que le dispositif, tel que vous l’envisagez, à savoir l’information et le recueil préalable du consentement du patient, soit de nature à les améliorer.
D’une part, l’utilisation d’un dispositif doté d’une intelligence artificielle ne présente pas en elle-même de risque spécifique pour la santé du patient. Dans sa pratique, le rapporteur y a fait allusion, un médecin est tenu de se fonder sur les meilleurs moyens d’investigation existants en l’état des connaissances de la science. Par conséquent, le fait de recourir à des logiciels d’aide à la décision thérapeutique peut être l’un de ces moyens. Il ne faut pas faire de l’usage de l’intelligence artificielle une pratique spécifique, qui serait à part de la pratique quotidienne, même si celle-ci doit évidemment être transparente.
C’est la raison pour laquelle le patient sera informé, s’agissant des dispositifs émettant des résultats, notamment en termes de diagnostic, au moment de la communication de ces résultats. Il pourra bien entendu demander qu’un autre professionnel de santé les interprète, ce qui garantit que la décision finale, qui repose sur des résultats produits par ces dispositifs, soit prise par le médecin en interaction avec le patient, comme dans le cas où l’on ne recourt pas à l’intelligence artificielle.
L’information sera évidemment – je le redis – préalable s’agissant de l’implantation d’un dispositif médical de type pancréas artificiel, puisqu’elle implique une opération chirurgicale nécessitant un consentement libre et éclairé. Là encore, on se situe en dans une forme de droit commun.
Pour ces raisons, le Gouvernement sera également défavorable à ce troisième et dernier amendement.
M. le président : La parole est à M. Pierre Ouzoulias, pour explication de vote.
M. Pierre Ouzoulias : Monsieur le secrétaire d’État, j’entends bien votre réponse, mais vous me répondez en droit, pas en pratique. Si, aujourd’hui, je dépose ces amendements, c’est parce que nous avons eu le sentiment que, dans la gestion ministérielle de ces données, les normes du droit que vous venez d’évoquer n’avaient pas toujours été respectées.
Il faut donc considérer ces amendements comme des amendements d’appel ou peut-être même comme un rappel à la loi – je crois qu’on peut tout à fait utiliser cette expression. Nous demandons aujourd’hui au ministère de la santé et, plus largement au Gouvernement, d’affirmer une doctrine politique cohérente et présentable, qui permette de nous expliquer comment il gère les données de santé de nos compatriotes.
Sincèrement, aujourd’hui, nous avons davantage l’impression que vous gérez les cas les uns après les autres sans aucune doctrine, notamment vis-à-vis des Gafam. C’est du reste ce qui nous pose le plus de problèmes. On l’a vu avec Microsoft sur les données de santé.
Désormais, nous avons besoin de solutions nationales pour éviter de transférer toutes ces données à l’étranger. Ce point est primordial : je maintiens donc mes amendements.
M. le président : Je mets aux voix l’amendement n° 92.
(L’amendement n’est pas adopté.)
M. le président : Je mets aux voix l’amendement n° 84.
(L’amendement n’est pas adopté.)
M. le président : Je mets aux voix l’amendement n° 80.
(L’amendement n’est pas adopté.)
M. le président : Je suis saisi de deux amendements faisant l’objet d’une discussion commune.
L’amendement n° 89, présenté par M. Ouzoulias, Mme Cohen et les membres du groupe communiste républicain citoyen et écologiste, est ainsi libellé :
Alinéas 4 et 5
Rédiger ainsi ces alinéas :
« II. – La traçabilité des actions d’un traitement mentionné au I et des données ayant été utilisées par celui-ci est assurée et les informations qui en résultent sont accessibles aux professionnels de santé et aux patients ou à leur représentant légal concernés.
« Les données du patient sont réutilisables, pérennes dans le temps et accessibles à tous les chercheurs après accord du patient. »
La parole est à M. Pierre Ouzoulias.
M. Pierre Ouzoulias : Cet amendement est très proche de ceux que je viens de défendre. À sa lecture, cependant, je trouve l’amendement n° 177 de M. Milon plus intéressant, amendement au profit duquel je retire le mien.
M. le président : L’amendement n° 89 est retiré.
L’amendement n° 177, présenté par M. Milon, est ainsi libellé :
I. – Alinéa 4
Rédiger ainsi cet alinéa :
« II. – Un principe de garantie humaine s’applique à ces traitements algorithmiques. La mise en œuvre de ce principe est notamment assurée par le fabricant dans les conditions prévues dans le cadre de la mise sur le marché du traitement algorithmique.
II. – Alinéa 5, dernière phrase
Supprimer cette phrase.
La parole est à M. Alain Milon.
M. Alain Milon : Je remercie notre collègue Ouzoulias.
Toutes les obligations liées à la conception d’un traitement algorithmique utilisé à des fins médicales sont édictées par la réglementation européenne, et plus particulièrement par le règlement européen 2017/745 relatif aux dispositifs médicaux, applicable en mai 2021.
Prévoir au niveau national des dispositions spécifiques liées à la traçabilité par le fabricant des actions d’un traitement algorithmique et des données ayant été utilisées par celui-ci, et les informations qui en résultent, viendrait se superposer au cadre européen harmonisé, voire l’outrepasserait.
Par ailleurs, comme nous le savons tous, y compris le rapporteur, il n’est pas possible techniquement que le fabricant garde lui-même la traçabilité de tous les traitements réalisés par les professionnels de santé avec son algorithme. En outre, cela pose des questions de protection des données de santé.
Le même règlement européen 2017/745 prévoit déjà des dispositions propres à la transparence du fonctionnement des dispositifs médicaux intégrant des algorithmes d’intelligence artificielle, au travers notamment de la gestion des risques et de l’aptitude à les utiliser des professionnels de santé auxquels ces algorithmes sont destinés.
Conformément à l’exposé des motifs du projet de loi, le présent amendement vise à rappeler l’étape de garantie humaine, qui est par ailleurs prévue dans le cadre de la mise sur le marché de ces traitements algorithmiques.
M. le président : Quel est l’avis de la commission spéciale ?
M. Olivier Henno : Monsieur le président Milon, comme le disait Édouard Herriot : « Un bon discours m’a quelquefois fait changer d’avis, mais jamais de vote ! » (M. Alain Milon rit.)
Votre amendement tend à supprimer le paragraphe II, qui impose que la traçabilité des actions et des données d’un traitement algorithmique de données massives soit assurée par le fabricant. Or cette garantie résulte d’un compromis entre l’Assemblée nationale et le Sénat, ce qui est à noter, car il n’y en a pas tant que cela sur ce projet de loi. (Sourires.)
Il vise aussi à le remplacer par le principe selon lequel le professionnel de santé s’assure de la mise en œuvre de la garantie humaine. Cependant cette notion de « garantie humaine » n’est pas définie et n’a aucune portée juridique.
Je crois que le principe introduit par la commission spéciale selon lequel aucune décision médicale ne peut être prise sur le seul fondement d’un tel traitement algorithmique satisfait votre demande.
Enfin, l’amendement a pour objet de supprimer des garanties quant à la durée de conservation des données et aux catégories de personnes y ayant accès. Ce sont des garanties classiques pour ce qui concerne les fichiers. Et, là encore, la rédaction actuelle découle d’un compromis entre l’Assemblée nationale et le Sénat.
Pour toutes ces raisons, la commission spéciale vous demande, monsieur Milon, de bien vouloir retirer votre amendement, faute de quoi elle émettra un avis défavorable.
M. le président : Quel est l’avis du Gouvernement ?
M. Adrien Taquet (Ministre chargé de la Famille) : Le Gouvernement est favorable à cet amendement. (Exclamations amusées sur des travées du groupe Les Républicains.)
M. le président : La parole est à M. Bruno Retailleau, pour explication de vote.
M. Bruno Retailleau (Les Républicains) : La situation est tout de même un peu complexe : le rapporteur a une position, M. Milon – par ailleurs président de la commission spéciale – une autre, et le Gouvernement s’est rallié à l’avis de ce dernier !
Pour ma part, j’ai compris l’intention de Pierre Ouzoulias. Si je n’ai pas voté ses amendements, c’est simplement parce qu’Olivier Henno m’a convaincu.
Pour revenir à ce que disait Bernard Jomier il y a quelques instants, internet est apparu comme une promesse d’émancipation. C’était, si j’ose dire, McLuhan et Fukuyama à la fois, c’est-à-dire la construction d’un village global sur les ruines de la fin de l’Histoire. Beaucoup ont pensé que, dans ce nouvel espace, allaient advenir la démocratie mondiale, le bonheur de l’humanité, mais aussi un marché qui s’étendrait aux dimensions de la planète.
Finalement, assez vite, nous avons été déniaisés par l’aspiration massive de nos données par la Silicon Valley ou le scandale Cambridge Analytica.
La question qui nous est posée aujourd’hui touche à notre souveraineté. On en a rapidement abordé l’un des aspects tout à l’heure lorsqu’on a débattu des données personnelles. Si j’ai parlé d’un Cloud Act américain à cette occasion, c’était pour appeler à la mise en place d’un cloud souverain français ou européen. Celui-ci n’a toujours pas été mis en place et viendra à manquer si, demain, nous envisageons de verrouiller nos données. Et croyez-moi, le verrouillage des données, notamment en matière médicale, est absolument fondamental.
Se pose aussi la question de l’intelligence artificielle. Je ne pense pas qu’on puisse la contrôler en maîtrisant les codes sources des algorithmes, auxquels on n’aura jamais accès. En réalité, on la contrôlera grâce à une agence nationale ou européenne, dont j’espère la création prochaine. Il faudrait une agence sur le modèle de la direction générale de la concurrence, de la consommation et de la répression des fraudes, la DGCCRF : autrement dit, on n’aura pas accès au code source, mais on vérifiera qu’il n’y a aucune porte dérobée et que le service est loyal. C’est fondamental.
Ce qui me plaît avec l’amendement d’Alain Milon, c’est que l’on fait un petit pas dans cette direction. Je ne peux pas vous garantir en cet instant la réelle portée juridique d’une telle mesure ; en revanche, on doit, selon moi, absolument se saisir de la question de l’intelligence artificielle, et il s’agit là probablement d’un moyen intéressant de le faire.
Comme j’ai envie de faire plaisir à Adrien Taquet, je voterai cet amendement. (Mme Catherine Deroche rit.)
M. le président : Profitez, monsieur le secrétaire d’État ; tout ce qui est pris est pris ! (Sourires.)
La parole est à M. Yves Détraigne, pour explication de vote.
M. Yves Détraigne : Mes chers collègues, j’ai besoin d’une explication. C’est la première fois que j’entends parler du principe de garantie humaine : qu’est-ce que cela veut dire en bon français ? Nous sommes probablement plusieurs ici à nous poser la question.
M. le président : La parole est à M. Pierre Ouzoulias, pour explication de vote.
M. Pierre Ouzoulias : Un consensus sénatorial fort se dégage sur le sujet, mais il n’est pas entendu du Gouvernement. (M. le secrétaire d’État manifeste sa surprise.)
Monsieur le secrétaire d’État, je ne le dis pas pour vous, qui êtes physiquement présent aujourd’hui, je vous rassure. (Sourires.)
Mes chers collègues, il faut que vous compreniez que, demain, ceux qui maîtriseront les données de santé des particuliers maîtriseront le marché de l’assurance et du crédit.
M. Loïc Hervé : Absolument !
M. Pierre Ouzoulias : Les taux de vos polices d’assurance et les taux d’intérêt de vos crédits seront déterminés en fonction de la manière dont l’algorithme analysera votre vie publique et vous attribuera des points. Nous ne sommes pas si loin du système chinois que tout le monde dénonce : le citoyen obtiendra des points qui détermineront son existence.
Pour les Gafam, vous représenterez un capital de santé en fonction duquel on vous prêtera et on vous assurera ou pas. Je regrette que, dans cette affaire, le gouvernement français fasse preuve d’un immense angélisme, d’un grand irénisme par rapport aux Gafam. Nous avons vraiment besoin aujourd’hui d’une politique forte pour restaurer notre souveraineté nationale sur ces données, qui sont encore une fois fondamentales.
M. le président : La parole est à M. le rapporteur.
M. Olivier Henno : Finalement, la commission spéciale s’en remet à la sagesse du Sénat sur cet amendement.
M. le président : Je mets aux voix l’amendement n° 177.
(L’amendement est adopté.)
M. le président : Je mets aux voix l’article 11, modifié.
(L’article 11 est adopté.)