Bioéthique : Article 11

Bioéthique : Article 11

debate, 09/06/2021, fr — source : Assemblée nationale, compte rendu intégral

M. le président (Parti socialiste) : L’amendement bknoek 1285 de M. Thibault Bazin est défendu.

M. le président (Parti socialiste) : La parole est à Mme Christine Hennion, pour soutenir l’amendement bknoek 1502.

Mme Christine Hennion (Mouvement démocrate, Renaissance) : Il s’agit de modifier la définition de l’intelligence artificielle figurant dans le projet de loi, qui retient la seule catégorie des algorithmes. Nous proposons que le texte mentionne simplement le traitement de données algorithmiques, et que la précision « dont l’apprentissage a été réalisé à partir de données massives » soit supprimée, de sorte que les évolutions technologiques, très rapides dans ce domaine, soient prises en considération dans les années à venir et durant toute la durée d’application du texte. Certains amendements du Gouvernement concernent d’ailleurs des dispositifs qui ne reposent pas sur le traitement de données massives, par exemple en ce qui concerne le pancréas. Nous devrions adopter dès à présent une définition plus large de l’intelligence artificielle.

M. le président (Parti socialiste) : La parole est à M. Philippe Berta, rapporteur de la commission spéciale, pour donner l’avis de la commission.

M. Philippe Berta (Union pour la démocratie française) : Le projet de loi reprend la rédaction proposée par le Comité consultatif national d’éthique pour les sciences de la vie et de la santé (CCNE). Mon avis est donc défavorable.

M. le président (Parti socialiste) : Quel est l’avis du Gouvernement ?

M. Adrien Taquet : Même avis, pour les mêmes raisons.

M. le président (Parti socialiste) : La parole est à Mme Christine Hennion, pour soutenir l’amendement bknoek 1506.

Mme Christine Hennion (Mouvement démocrate, Renaissance) : Il vise à aller plus loin que la seule information du patient de l’utilisation d’un dispositif comportant un traitement de données algorithmique : nous demandons que son consentement libre, spécifique et éclairé soit recueilli, comme le demande le règlement général sur la protection des données (RGPD), surtout pour les algorithmes qui impliquent l’analyse et la réutilisation des données intégrées.

M. le président (Parti socialiste) : Quel est l’avis de la commission ?

M. Philippe Berta (Union pour la démocratie française) : Le principe du recueil préalable du consentement du patient est déjà satisfait par l’article L. 1111-4 du code de la santé publique. Mon avis est donc défavorable.

M. le président (Parti socialiste) : Quel est l’avis du Gouvernement ?

M. Adrien Taquet : Même avis, pour les mêmes raisons.

M. le président (Parti socialiste) : La parole est à Mme Christine Hennion.

Mme Christine Hennion (Mouvement démocrate, Renaissance) : En l’occurrence, le code de la santé publique ne se réfère vraisemblablement pas au traitement des données, mais au diagnostic. Notre amendement relevait d’un autre cadre. Je le retire néanmoins, car il s’avère peut-être un peu trop étroit au regard de la portée du projet de loi.

M. le président (Parti socialiste) : La parole est à M. le secrétaire d’État, pour soutenir l’amendement bknoek 1581.

M. Adrien Taquet : Il vise à maintenir l’obligation d’informer le patient lorsqu’un traitement d’intelligence artificielle est utilisé dans le cadre de sa prise en charge médicale, mais n’en mentionne pas la temporalité. En effet, selon les actes réalisés et les dispositions qui leur sont applicables, l’information du patient pourra avoir lieu avant ou après la mise en œuvre du traitement d’intelligence artificielle. À titre d’exemple, elle sera nécessairement préalable s’agissant de l’implantation d’un dispositif médical de type pancréas artificiel, puisque celle-ci implique une opération chirurgicale nécessitant un consentement libre et éclairé – je vous renvoie sur ce point à l’article L. 1111-4 du code de la santé publique.
En revanche, l’information selon laquelle un dispositif d’intelligence artificielle a été utilisé dans le cadre d’un diagnostic radiologique sera dispensée par le professionnel de santé lors de la communication au patient des résultats rendus par ce dispositif et de l’interprétation qu’il en fait. Le patient pourra demander l’interprétation de ces résultats par un autre professionnel de santé. La décision finale, prise de façon partagée, s’appuiera sur les résultats produits par ces dispositifs, sur l’interprétation du professionnel de santé et sur les préférences du patient.
Une telle rédaction permet à la fois de viser l’ensemble des dispositifs d’intelligence artificielle – qu’ils rendent ou non des résultats – et de préciser le contenu de l’information concernée. Il n’y a donc pas lieu de prévoir que l’information du patient soit nécessairement préalable : ce ne serait pas de nature à améliorer la qualité et la sécurité des soins aux patients, et pourrait au contraire constituer un frein, préjudiciable aux patients, à l’utilisation de dispositifs d’intelligence artificielle.

M. le président (Parti socialiste) : Quel est l’avis de la commission ?

M. Philippe Berta (Union pour la démocratie française) : Lors de nos travaux en commission spéciale la semaine dernière, j’ai pris position à titre personnel contre une telle évolution. Toutefois, à la lumière des explications fournies par le Gouvernement, la commission s’est prononcée, lundi, en faveur de cet amendement. Je suivrai son avis et donnerai un avis favorable.

M. le président (Parti socialiste) : La parole est à Mme Christine Hennion.

Mme Christine Hennion (Mouvement démocrate, Renaissance) : Vous aviez raison d’y être défavorable, monsieur le rapporteur. Quoi qu’il en soit, l’article 11 prévoit que la Commission nationale de l’informatique et des libertés (CNIL) donne un avis : elle demandera certainement que ces informations soient communiquées préalablement au traitement des données. Quand l’intelligence artificielle est employée pour rendre un diagnostic médical, une information a posteriori se justifie peut-être. En revanche, l’information doit être communiquée au préalable s’agissant du traitement des données.

M. le président (Parti socialiste) : La parole est à Mme Caroline Fiat, pour soutenir l’amendement bknoek 598.

Mme Caroline Fiat (La France insoumise, Ensemble !) : Avant de le défendre, je reviendrai sur mon amendement précédent, qui n’a pas été adopté – je suis un peu têtue. Madame la ministre de l’enseignement supérieur, de la recherche et de l’innovation, puisque vous avez déclaré, mardi, que « la réglementation sur les centres de don du corps à la science doit être refondue dans le cadre du projet de loi bioéthique », pourquoi mon amendement sur le don du corps a-t-il été repoussé il y a cinq minutes ? Mardi, vous déclariez dans la presse que le sujet serait traité dans le projet de loi bioéthique ; je viens de défendre un amendement sur le sujet, vous n’avez même pas donné un avis favorable, et il n’a pas été adopté ! Je suis vraiment en colère. J’aimerais qu’on m’explique ce qui se passe sur ces bancs !

M. Patrick Hetzel (Union pour un mouvement populaire) : Il ne faut pas croire ce que dit la presse !

Mme Caroline Fiat (La France insoumise, Ensemble !) : J’espère avoir une explication. Quand on considère qu’il y a eu une erreur concernant un vote, on peut revoter à la fin de l’examen du texte – généralement, je n’en suis pas contente, mais, si nous ne faisons ici, vous ne m’entendrez pas hurler, pour une fois ! (M. Patrick Hetzel applaudit.)
J’en viens à l’amendement bknoek 598 : nous souhaitons nous assurer que les données ne feront pas l’objet d’un traitement non consenti par les personnes concernées, et qu’elles seront conservées et traitées sur des serveurs français situés en France, afin de limiter leur réutilisation commerciale.

M. le président (Parti socialiste) : Quel est l’avis de la commission ?

M. Philippe Berta (Union pour la démocratie française) : Une circulaire du Premier ministre du 17 juillet 2014 spécifie déjà que l’hébergement des données sensibles sur le territoire national est obligatoire. Avis défavorable.

M. le président (Parti socialiste) : La parole est à M. Pierre Dharréville, pour soutenir l’amendement bknoek 1477.

M. Pierre Dharréville (Parti communiste français) : L’article 11 vise à créer un cadre juridique pour l’utilisation d’un traitement algorithmique de données massives lors de la réalisation d’un acte médical. Avec cet amendement, nous souhaitons engager une réflexion sur la protection des données de santé.
À notre grand désarroi, le Gouvernement n’a pas montré jusqu’à présent une très grande volonté de défendre notre souveraineté nationale en ce qui concerne la gestion et la conservation des données de santé de nos concitoyennes et concitoyens, et le dernier numéro du magazine Cash Investigation atteste que ce problème porte potentiellement atteinte à nos libertés.
J’en veux également pour preuve la décision prise au mois de décembre par le ministère de la santé de mettre au point un système d’information pour la vaccination permettant d’enregistrer les données des patients sans que la CNIL 5971n’ait été en mesure de vérifier la conformité de ce système au règlement général sur la protection des données européen. Cela n’est évidemment pas sans poser problème.
Compte tenu de ces faits, nous estimons qu’il est important d’imposer par la loi un certain nombre de mesures tout à fait essentielles à nos yeux. De telles dispositions serviront à défendre nos données dont on dit trop peu souvent qu’elles forment un futur gisement de richesse, qui est hélas en train de nous échapper au profit des GAFAM – Google, Apple, Facebook, Amazon, Microsoft. Aujourd’hui, la richesse des GAFAM se fonde effectivement sur les données, sur les informations, sur leur collecte puis sur leur valorisation. Nous devons donc faire face et nous attaquer à cette logique de marchandisation. C’est pourquoi nous demandons que les données de santé utilisées dans le cadre d’un traitement algorithmique soient incessibles.
J’ajoute que la crise que nous venons de traverser montre, en bien des domaines et pas simplement en matière de santé, la nécessité d’avoir une puissance publique numérique.

M. le président (Parti socialiste) : Quel est l’avis de la commission ?

M. Philippe Berta (Union pour la démocratie française) : Je partage pleinement votre analyse en ce qui concerne l’importance des données de santé. D’ailleurs, je me suis battu contre le séquençage génomique à l’étranger, parce qu’on sait mesurer toute l’utilité que ces données présentent et pourront présenter dans l’avenir. Il existe déjà beaucoup de structures comme le RGPD, la CNIL et le code de la santé publique ; il n’est donc pas utile de rajouter quoi que ce soit. Le problème est plutôt de les faire fonctionner. Soyons plus pragmatiques dans la façon de les activer. Avis défavorable.

M. le président (Parti socialiste) : Quel est l’avis du Gouvernement ?

M. Adrien Taquet : Avis défavorable. Les données issues d’un traitement algorithmique mis en œuvre par un professionnel de santé au moyen des données médicales de son patient sont déjà couvertes par l’article L. 1111-8 du code de la santé publique, aux termes duquel « tout acte de cession à titre onéreux de données de santé identifiantes directement ou indirectement, y compris avec l’accord de la personne concernée, est interdit sous peine des sanctions prévues à l’article 226-21 du code pénal ». Votre amendement n’apporte donc pas de garanties nouvelles : la question est plutôt l’application du droit existant.

M. le président (Parti socialiste) : La parole est à M. Pierre Dharréville.

M. Pierre Dharréville (Parti communiste français) : Nous devrions peut-être approfondir ce sujet. Je ne nie pas qu’il existe déjà des dispositions en la matière, comme vous venez de le rappeler, monsieur le secrétaire d’État, mais notre droit doit pouvoir s’adapter aux nouveaux usages, aux nouvelles questions qui nous sont posées.
L’article L. 1111-8 vise les cessions à titre onéreux. Là aussi, il conviendrait d’étendre la réflexion.

Mme Caroline Fiat (La France insoumise, Ensemble !) : Eh oui !

M. le président (Parti socialiste) : La parole est à M. Pierre-Alain Raphan, pour soutenir l’amendement bknoek 1635.

M. Pierre-Alain Raphan (Renaissance) : Il vise à mieux garantir le caractère éclairé du consentement du patient en lui donnant accès à tout moment aux informations lui permettant de s’assurer que le dispositif médical, lorsqu’il inclut un traitement de données algorithmiques, est bien en conformité avec la loi française.

M. le président (Parti socialiste) : Quel est l’avis de la commission ?

M. Philippe Berta (Union pour la démocratie française) : Je comprends votre intention et je la partage, mais ce que vous proposez me paraît très complexe et peu applicable. Avis défavorable.

M. le président (Parti socialiste) : Je suis saisi de deux amendements, bknosek 1286 et 837, pouvant être soumis à une discussion commune.
La parole est à M. Patrick Hetzel, pour soutenir l’amendement bknoek 1286.

M. Patrick Hetzel (Union pour un mouvement populaire) : Comme pour les médicaments mis sur le marché, il semble nécessaire de prévoir une labellisation pour l’utilisation des traitements de données massives existants et à venir. Cela permettra de rassurer les patients comme les professionnels de santé. Tel est l’objet de cet amendement de M. Bazin et M. Door.

M. le président (Parti socialiste) : L’amendement bknoek 837 de Mme Annie Genevard est défendu.
Quel est l’avis de la commission ?

M. Philippe Berta (Union pour la démocratie française) : Nous entrons là dans un contexte plus global de dispositifs médicaux, qu’ils soient implantables ou non, lesquels ne sont pas soumis à une autorisation de mise sur le marché par l’Agence nationale de sécurité du médicament et des produits de santé (ANSM), par exemple. On est bien là dans le cadre d’une norme européenne. Avis défavorable.

M. le président (Parti socialiste) : Je suis saisi de deux amendements, bknosek 1638 et 1504, pouvant être soumis à une discussion commune.
L’amendement bknoek 1504 fait l’objet d’un sous-amendement bknoek 1645.
La parole est à M. Pierre-Alain Raphan, pour soutenir l’amendement bknoek 1638.

M. Pierre-Alain Raphan (Renaissance) : Il vise à protéger les données de santé des Français contre l’extraterritorialité des lois, en renforçant le cadre de l’hébergement des données de santé. Il peut arriver en effet que des données de santé soient accessibles d’une manière ou d’une autre à l’étranger où elles sont soumises à d’autres lois, qui ont alors une portée supérieure. Je veux ici parler du Clarifying Lawful Overseas Use of Data Act, ou CLOUD Act, sujet que l’on avait abordé en première lecture mais qui n’était pas nécessairement identifié.

M. le président (Parti socialiste) : La parole est à Mme Christine Hennion, pour soutenir l’amendement bknoek 1504.

Mme Christine Hennion (Mouvement démocrate, Renaissance) : Le dispositif que je propose, qui avait été voté lors des lectures précédentes et qui va dans le sens de ce que vient de dire M. Raphan, vise à s’assurer que 5972les données de santé sont bien stockées chez des hébergeurs certifiés, comme le prévoit l’article L. 1111-8 du code de la santé publique.

M. le président (Parti socialiste) : Le sous-amendement bknoek 1645 de M. Pierre-Alain Raphan est défendu.
Quel est l’avis de la commission sur ces deux amendements et sur le sous-amendement ?

M. Philippe Berta (Union pour la démocratie française) : Le cadre juridique existe déjà. Avis défavorable.

M. le président (Parti socialiste) : Quel est l’avis du Gouvernement ?

M. Adrien Taquet : Même avis, pour la même raison.

M. le président (Parti socialiste) : La parole est à M. Pierre-Alain Raphan, pour soutenir l’amendement bknoek 1637.

M. Pierre-Alain Raphan (Renaissance) : En défendant l’amendement bknoek 1477 de Mme Faucillon, M. Dharréville a évoqué un documentaire qui avait mis la lumière sur les enjeux de la donnée, sujet qui était jusqu’alors ignoré par le plus grand nombre et parfois par la classe politique. Ce documentaire montrait que nos données de santé pouvaient parfois être transmises sans un consentement éclairé lorsque l’on présente notre carte Vitale à la pharmacie et que ces données font l’objet d’un véritable business. Il convient donc de s’assurer qu’aucune donnée de santé des Françaises et des Français ne puisse être partagée et transférée dans des pays étrangers ou au sein de sociétés établies hors de l’Union européenne, donc de protéger les Françaises et les Français contre la fuite de données à l’étranger sans leur consentement.

M. le président (Parti socialiste) : Quel est l’avis de la commission ?

M. Philippe Berta (Union pour la démocratie française) : J’ai déjà répondu sur cette question. Avis défavorable.

M. le président (Parti socialiste) : Je suis saisi de deux amendements, bknosek 1503 et 994, pouvant être soumis à une discussion commune.
La parole est à Mme Christine Hennion, pour soutenir l’amendement bknoek 1503.

Mme Christine Hennion (Mouvement démocrate, Renaissance) : Cet amendement d’appel vise à prévoir l’explicabilité des algorithmes par les concepteurs dès le début de leurs études. Il s’agit d’anticiper la législation européenne en cours de discussion sur l’intelligence artificielle de confiance.

M. le président (Parti socialiste) : L’amendement bknoek 994 de Mme Emmanuelle Ménard est défendu.
Quel est l’avis de la commission sur ces deux amendements ?

M. Philippe Berta (Union pour la démocratie française) : L’explicabilité est effectivement l’un des moyens de préserver une garantie humaine dans le recours à la médecine algorithmique, mais il est apparu à la commission que cette exigence pouvait se déduire directement de l’article 11. Cet amendement avait donc été repoussé. Mais, comme il s’agit d’un sujet très important, à titre personnel je donne un avis de sagesse.

M. le président (Parti socialiste) : Quel est l’avis du Gouvernement ?

M. Adrien Taquet : La disposition qui renforce le principe de supervision humaine de l’algorithme utilisé en santé auquel nous sommes évidemment tous attachés est un principe déjà garanti par l’alinéa 2 que vient d’évoquer le rapporteur. Cet alinéa garantit en effet que les résultats issus du traitement algorithmique font l’objet d’une interprétation humaine par son utilisateur professionnel de santé. L’explicabilité de l’algorithme est un impératif fort si nous voulons en sécuriser les usages. Il nous paraît donc logique de confier cette responsabilité à son concepteur.
En outre, cette mission fait l’objet de l’article 13 du projet de règlement européen sur l’intelligence artificielle. Pour toutes ces raisons, le Gouvernement est favorable à votre amendement.

M. le président (Parti socialiste) : La parole est à Mme Christine Hennion, pour soutenir l’amendement bknoek 1505.

Mme Christine Hennion (Mouvement démocrate, Renaissance) : Il vise à spécifier que l’arrêté, soumis aux avis de la HAS et de la CNIL s’agissant de la nature des dispositifs médicaux, devra aussi mentionner les personnels de santé habilités à accéder aux données.

M. le président (Parti socialiste) : Quel est l’avis de la commission ?

M. Philippe Berta (Union pour la démocratie française) : Avec cet amendement, vous essayez de définir les catégories de professionnels qui seront habilités à accéder aux données. Je considère que cette question est du domaine réglementaire. Je donne un avis de sagesse et je me tourne vers M. le secrétaire d’État.

M. le président (Parti socialiste) : Quel est l’avis du Gouvernement ?

M. Adrien Taquet : Avis défavorable, pour les mêmes raisons. La liste des professionnels concernés peut évoluer selon les objectifs visés : la figer dans la loi serait plus handicapant qu’autre chose.

M. le président (Parti socialiste) : La parole est à Mme Christine Hennion.

Mme Christine Hennion (Mouvement démocrate, Renaissance) : Il ne s’agit pas de la figer dans la loi. Cela dit, je retire l’amendement car je pense qu’il sera satisfait par l’avis que donnera la CNIL.