Bioéthique : Article 11

Bioéthique : Article 11

debate, 04/10/2019, fr — source : Assemblée nationale, compte rendu intégral

M. le président (Renaissance) : Avant de donner la parole à l’oratrice inscrite sur l’article 11, je voudrais souhaiter la bienvenue à notre collègue Pierre Venteau qui siège aujourd’hui pour la 8532première fois dans l’hémicycle, où il succède à M. Jean-Baptiste Djebbari. Bienvenue à vous, mon cher collègue ! (Applaudissements sur tous les bancs.)
La parole est à Mme Christine Hennion.

Mme Christine Hennion (Mouvement démocrate, Renaissance) : Le présent article porte sur l’utilisation des traitements algorithmiques des données par l’intelligence artificielle dans le cadre de la relation entre le patient et le professionnel de santé.
C’est la première fois, il faut le souligner, que la loi bioéthique intègre des dispositions relatives à l’intelligence artificielle. Nous devons nous en réjouir, cette technologie étant porteuse d’espoirs au profit de la santé de nos concitoyens. L’article vise à privilégier l’humain et à faire en sorte que les professionnels de santé aient la prééminence sur la technique.
Puisque cet article est technique, il faut veiller à produire un texte qui soit clair dans ses objectifs, précis dans ses termes et compréhensible par tous. Or certains termes employés me semblent obscurs. Je souhaite que ces débats les éclairent.
Prenons le terme « traitement ». Il me semble prêter à confusion, car on ne comprend pas toujours très bien s’il s’agit d’un traitement algorithmique ou d’un traitement médical.
Dans l’alinéa 3, il est question du paramétrage des traitements par le professionnel de santé. Qu’entend-on par le terme « paramétrage » ? D’un point de vue technique, le paramétrage d’un algorithme peut mettre en jeu des compétences qui ne relèvent pas toujours du champ de celles des professionnels de santé.
Dans l’alinéa 4, on évoque la « traçabilité des actions d’un traitement ». Je m’interroge sur ce que peut désigner cette expression, sachant que, pour certains algorithmes d’intelligence artificielle parmi les plus utilisés actuellement, la traçabilité de la décision de l’algorithme est techniquement impossible.
J’espère que nos débats permettront d’éclairer la signification de ces termes.

M. le président (Renaissance) : Nous en venons à l’examen des amendements.
L’amendement bknoek 116 de M. Pierre-Alain Raphan est défendu.

M. le président (Renaissance) : La parole est à M. Thibault Bazin, pour soutenir l’amendement bknoek 1232.

M. Thibault Bazin (Les Républicains) : Comme vient de l’indiquer notre collègue Mme Hennion, l’expression « traitement algorithmique de données » semble insuffisant, monsieur le secrétaire d’État. En effet, l’intelligence artificielle n’a plus nécessairement besoin d’algorithmes ; elle se développe parfois au moyen des réseaux neuronaux. Il convient donc d’élargir le champ en accolant à cette expression les termes « ou assimilé », ce que je propose par cet amendement d’appel – je suis certain que Mme Hennion le votera elle aussi. Cela permettrait de confirmer, dans le compte rendu de nos débats, que vous avez une interprétation large de cette expression.

M. le président (Renaissance) : Quel est l’avis de la commission ?

M. Philippe Berta (Union pour la démocratie française) : Votre amendement, si je le comprends bien, me semble déjà satisfait par le texte de l’article 11, l’expression « traitement algorithmique de données massives » étant suffisamment large pour inclure les différentes techniques d’intelligence artificielle. De fait, sont visées par la présente rédaction non seulement les techniques actuelles mais aussi les techniques à venir ayant un lien avec le traitement algorithmique. En outre, le terme « assimilé » que vous proposez me semble trop flou pour répondre à l’exigence de clarté de la loi. J’émets un avis défavorable.

M. le président (Renaissance) : Quel est l’avis du Gouvernement ?

M. Adrien Taquet : Il est similaire à celui du rapporteur, pour les mêmes raisons. J’ajoute que l’expression « traitement algorithmique de données massives » a été consacrée par le Comité consultatif national d’éthique – CCNE – dans son avis bknoek 130 intitulé « Données massives et santé : une nouvelle approche des enjeux éthiques ». Cette expression me semble donc couvrir les champs que vous souhaitiez ajouter. L’amendement étant satisfait, je vous invite à le retirer. À défaut, j’émettrai un avis défavorable.

M. le président (Renaissance) : La parole est à Mme Christine Hennion, pour soutenir l’amendement bknoek 2351.

Mme Christine Hennion (Mouvement démocrate, Renaissance) : Il vise à atteindre le même objectif que le précédent, mais d’une autre manière : je propose de supprimer le terme « massives ». En effet, les données traitées par les algorithmes ne sont pas toujours massives. C’est particulièrement vrai dans le domaine de la santé où, lorsque les données sont de bonne qualité, on essaie d’en utiliser une quantité restreinte pour réaliser les traitements algorithmiques ou les calculs d’intelligence artificielle.
La suppression de ce terme permettrait d’élargir le champ des techniques d’intelligence artificielle couvert par l’article. N’oublions pas que cette loi a vocation à rester applicable pendant plusieurs années, alors que ces technologies progressent de plus en plus vite.
Dans les avis bknosek 129 et 130 du CCNE, l’expression « données massives » est effectivement utilisée, notamment dans le titre de l’avis bknoek 130, mais elle n’est jamais confondue avec la notion d’« intelligence artificielle ». Il serait donc utile de préciser les choses.

M. le président (Renaissance) : Quel est l’avis de la commission ?

M. Philippe Berta (Union pour la démocratie française) : L’adjectif « massives », qui vous pose problème, n’est que la transcription exacte de l’adjectif utilisé par le CCNE. Nous souhaitons respecter cette définition, qui semble inclure toutes les formes d’intelligence artificielle. J’émets un avis défavorable.

M. le président (Renaissance) : Quel est l’avis du Gouvernement ?

M. Adrien Taquet : Le terme « massives » permet de désigner les traitements d’intelligence artificielle conjuguant puissance de calcul et données massives – ce que l’on appelle traditionnellement le « big data ». Cela couvre aussi le cas qui vous préoccupe : l’utilisation de dispositifs d’intelligence artificielle par un professionnel de santé, pour un patient en particulier. Dans un tel cas de figure, le professionnel soumet les données personnelles du patient dans un dispositif d’intelligence artificielle, lui-même entraîné à partir 8533de données massives, afin que l’algorithme compare les données singulières avec une base de données massives. L’expression couvre bien l’ensemble du champ, notamment le cas particulier que vous évoquez. L’amendement étant satisfait, je vous suggère de le retirer. À défaut, j’émettrai un avis défavorable.

M. le président (Renaissance) : La parole est à Mme Christine Hennion.

Mme Christine Hennion (Mouvement démocrate, Renaissance) : Vos propos, monsieur le secrétaire d’État, montrent bien que l’article 11 manque de clarté. Comme le souligne la Commission nationale de l’informatique et des libertés – CNIL – dans son avis sur ce projet de loi, il est difficile de distinguer ce qui relève de la phase amont, période d’apprentissage de l’intelligence artificielle – lequel peut être réalisé, dans le domaine de la santé, à partir de jeux de données restreints si celles-ci sont de très bonne qualité – et ce qui est fait en aval pour le patient. J’y reviendrai par la suite en défendant d’autres amendements, l’article n’étant pas toujours clair à cet égard. En tout cas, je maintiens mon amendement.

M. le président (Renaissance) : L’amendement bknoek 1026 de Mme Marine Brenier est défendu.

M. Maxime Minot (Les Républicains) : Dommage !

M. le président (Renaissance) : Je suis saisi de deux amendements, bknosek 2405 et 1233, pouvant être soumis à une discussion commune.
La parole est à Mme Christine Hennion, pour soutenir l’amendement bknoek 2405.

Mme Christine Hennion (Mouvement démocrate, Renaissance) : Il s’agit d’un amendement de précision qui permettrait de rendre l’article 11 conforme au RGPD, le règlement général sur la protection des données. Celui-ci dispose en effet que les personnes dont les données sont soumises à des traitements informatiques ou à l’intelligence artificielle doivent en être informées en amont. Or cela n’est pas clairement indiqué dans l’article.

M. le président (Renaissance) : La parole est à M. Thibault Bazin, pour soutenir l’amendement bknoek 1233.

M. Thibault Bazin (Les Républicains) : Je propose une modification similaire, mais qui tient en trois mots – ainsi, la loi serait moins bavarde ! Il s’agit de prévoir une information du patient préalablement à l’utilisation du traitement algorithmique de données massives, conformément au principe du consentement aux soins.

M. le président (Renaissance) : Quel est l’avis de la commission sur ces deux amendements ?

M. Philippe Berta (Union pour la démocratie française) : Il est défavorable, car il faut tenir compte des pratiques médicales : le praticien qui remet les résultats au patient n’est pas forcément celui qui a eu recours au dispositif d’intelligence artificielle en amont.

M. le président (Renaissance) : Quel est l’avis du Gouvernement ?

M. Adrien Taquet : La proposition que vous faites par ces deux amendements ne semble pas de nature à améliorer la qualité et la sécurité des soins donnés aux patients.

M. Thibault Bazin (Les Républicains) : Il est question de leur consentement !

M. Adrien Taquet : Laissez-moi répondre…
L’utilisation d’un dispositif doté d’une intelligence artificielle ne présente pas, en elle-même, de risque spécifique pour la santé. Ce qui importe, c’est de prévoir une garantie humaine dans le paramétrage du dispositif, afin que celui-ci réponde précisément à la situation du patient. C’est ce qui est proposé à l’article 11.
Dans sa pratique, un médecin est tenu de se fonder sur les meilleurs moyens d’investigation existants en l’état des connaissances. Les logiciels d’aide à la décision thérapeutique peuvent être un de ces moyens. Il ne faut donc pas considérer le recours à l’intelligence artificielle comme une pratique médicale particulière, à l’écart de la pratique quotidienne.
Le plus important, selon moi, est que cette utilisation soit transparente. C’est la raison pour laquelle le patient sera informé au moment de la communication des résultats et pourra bien sûr demander leur interprétation par un autre professionnel de santé, s’il en ressent le besoin. Cela garantit que la décision finale, qui s’appuie sur les résultats produits par ces dispositifs, est prise par le médecin en interaction avec le patient.
Je suggère le retrait des amendements. À défaut, je donnerai un avis défavorable.

M. le président (Renaissance) : La parole est à Mme Christine Hennion.

Mme Christine Hennion (Mouvement démocrate, Renaissance) : Vous êtes en train de nous dire que vous n’appliquez pas le RGPD, que ce projet de loi entre en contradiction avec un autre texte. Je ne comprends pas pourquoi on ne pourrait pas expliquer à l’avance à un patient que, pendant son parcours médical, il subira des examens et que les médecins recourront éventuellement à l’intelligence artificielle pour choisir un traitement. C’est une simple information. Vous parlez de transparence. Or une telle information est plutôt de nature à mettre le patient en confiance ; l’absence d’information, au contraire, peut susciter des questions.

M. Thibault Bazin (Les Républicains) : Il y aussi le problème du consentement !

Mme Christine Hennion (Mouvement démocrate, Renaissance) : Oui, le consentement est important aussi. En tout cas, cela me pose un problème que l’article 11 soit en contradiction avec un autre texte de loi.

M. Thibault Bazin (Les Républicains) : Très juste !

M. Thibault Bazin : etM. Patrick Hetzel. Si, il est adopté !

M. Thibault Bazin (Les Républicains) : Monsieur le président, vous faites comme le président Ferrand !

M. le président (Renaissance) : L’amendement n’est pas adopté, et il ne me semble guère judicieux de faire référence à ce précédent.
Mes chers collègues, afin que le nombre d’incidents de séance soit aussi limité que possible, je vous invite à lever la main lorsque vous souhaitez participer à un vote, sans quoi votre voix ne sera pas comptabilisée.

M. le président (Renaissance) : L’amendement bknoek 1664 de Mme Annie Vidal est défendu.

M. le président (Renaissance) : La parole est à Mme Christine Hennion, pour soutenir l’amendement bknoek 2354.

Mme Christine Hennion (Mouvement démocrate, Renaissance) : Je le présente sans être certaine que ma proposition corresponde bien au sens que le Gouvernement souhaite donner à l’alinéa 3. Il vise à préciser la notion de paramétrage, qui n’est définie clairement nulle part. Je propose de remplacer l’expression « l’adaptation des paramètres d’un traitement » par « la saisie des données relatives au patient dans le but de mettre en œuvre un traitement ».
Quel est le sens de la rédaction actuelle ? Si les paramètres sont techniques, ce n’est pas le médecin qui pourra les modifier. Il doit, pour sa part, saisir des données relatives au patient, donc personnelles, puis confirmer ou rectifier l’interprétation apportée par le système d’aide à la décision. Tel est, me semble-t-il, l’objectif du recours à l’intelligence artificielle.
Je vous serais reconnaissante de me fournir des explications. Je suis disposée, le cas échéant, à retirer mon amendement. Mes amendements précédents ont été rejetés, mais il conviendrait selon moi de revoir la rédaction de l’article 11 à la faveur de la navette parlementaire, afin de le rendre plus compréhensible et plus aisément interprétable par les praticiens.

M. le président (Renaissance) : Quel est l’avis de la commission ?

M. Philippe Berta (Union pour la démocratie française) : L’expression utilisée à l’alinéa 3 signifie effectivement que l’on doit pouvoir adapter les paramètres aux caractéristiques du patient, dans le cadre d’une médecine personnalisée. Je vous propose de retirer votre amendement. À défaut, mon avis sera défavorable.

M. le président (Renaissance) : Quel est l’avis du Gouvernement ?

M. Adrien Taquet : J’interviendrai dans le même sens que M. le rapporteur, tout en apportant des exemples visant à clarifier l’intention du Gouvernement. J’espère ainsi répondre à vos interrogations.
Le paramétrage du traitement, mentionné à l’alinéa 3 consiste à ajuster ses variables aux caractéristiques d’un patient, pour qu’il réponde exactement à sa situation – dans le cadre d’une médecine de plus en plus personnalisée, comme l’a indiqué M. le rapporteur. S’agissant d’un dispositif médical implanté, le professionnel de santé pourra ainsi procéder aux réglages nécessaires à l’utilisation des règles induites dans ce dispositif, pour l’adapter aux caractéristiques individuelles du patient, en vue de son implantation. Par exemple, il adaptera un pancréas artificiel aux caractéristiques d’un patient diabétique – poids, taille, vitesse d’action de l’insuline… – pour qu’il lui administre le dosage d’insuline le plus juste.
Comme vous pouvez le constater, le paramétrage va au-delà de la simple saisie de données, qui est l’objet de votre amendement. J’espère avoir clarifié, avec cet exemple, l’intention du Gouvernement. Je vous invite à retirer l’amendement. À défaut, je recommanderai son rejet.
Je me permets d’ajouter, au sujet de votre amendement précédent, que le RGPD s’applique aux données personnelles saisies dans le traitement, non au traitement lui-même. L’article 11 n’entre donc pas en contradiction avec le RGPD.

M. le président (Renaissance) : La parole est à Mme Christine Hennion.

Mme Christine Hennion (Mouvement démocrate, Renaissance) : Je retire l’amendement, mais je continue à penser qu’il faut développer un peu plus les choses dans l’article, parce que l’intelligence artificielle permet de traiter bien d’autres cas que celui que vous venez d’exposer. En outre, les éléments que vous avez cités comme exemples de paramètres, comme le poids ou d’autres caractéristiques du patient, sont bien des données personnelles, de caractère médical qui plus est. Dès lors, elles doivent être traitées de manière spécifique.
Par ailleurs, pour utiliser un outil de traitement des données, il faut bien saisir des données. Je pense que le patient doit donner son consentement à l’utilisation de ses données personnelles.

M. le président (Renaissance) : Je suis saisi de deux amendements identiques, bknosek 1053 et 1829.
La parole est à M. Maxime Minot, pour soutenir l’amendement bknoek 1053.

M. Maxime Minot (Les Républicains) : Il convient de recourir à des référentiels de bonnes pratiques, afin d’établir les modalités de la traçabilité prévue à l’alinéa 4. L’amendement vise également à associer les associations d’usagers à l’élaboration de ces référentiels.

M. le président (Renaissance) : La parole est à M. Christian Hutin, pour soutenir l’amendement bknoek 1829.

M. Christian Hutin (Rassemblement pour la République) : Je sens souffler un petit vent d’inquiétude, mais peut-être n’est-ce pas votre cas, monsieur le président, monsieur le rapporteur, monsieur le secrétaire d’État, ni celui des éminents collègues qui connaissent particulièrement bien la question. Quant aux internautes qui suivent nos débats de cet après-midi, qui doivent être une dizaine tout au plus, ils les trouvent sans doute complètement surréalistes. Moi-même je n’y comprends ! Ou plutôt, le peu que je comprends suffit à m’inquiéter.
Il se trouve que l’on célèbre cette année le soixante-dixième anniversaire de la publication de 1984, le roman d’Orwell… L’expression « traitement algorithmique de données massives » est extrêmement inquiétante, d’autant que Mme Hennion, qui semble s’y connaître, vient d’indiquer que le terme « algorithmique » était déjà dépassé. C’est un peu comme si le patron, les internes et les externes parlaient latin devant le lit du patient !
Le but de notre amendement est d’imposer quelques limites à ce surréalisme, en encadrant l’avancée prévue. Nous tenons beaucoup à ce que les données personnelles des patients gardent leur caractère privé. L’article 11 prévoit un certain nombre de garanties, dont la traçabilité des actions du traitement algorithmique, mais il ne précise en rien comment celle-ci sera assurée. C’est pourquoi le groupe Socialistes et apparentés propose qu’elle le soit grâce à des référentiels de bonnes pratiques médicales. Les associations de patients seraient associées à leur élaboration et pourraient les valider.

M. le président (Renaissance) : Quel est l’avis de la commission sur ces deux amendements ?

M. Philippe Berta (Union pour la démocratie française) : Il y a là un problème de sémantique. Vous demandez que la traçabilité soit assurée « par des référentiels de bonnes pratiques ». Or on ne réalise rien « par » des bonnes pratiques ; on ne peut accomplir des choses que « selon » des bonnes pratiques. Vos amendements ne sont donc pas susceptibles d’apaiser votre inquiétude. L’avis est défavorable.

M. le président (Renaissance) : Quel est l’avis du Gouvernement ?

M. Adrien Taquet : Pour compléter les propos du rapporteur et rassurer, si c’est nécessaire, la dizaine de Français qui nous regardent, je précise que les traitements algorithmiques de données massives sont considérés comme des dispositifs médicaux. À ce titre, ils devront déjà, aux termes du projet de loi, comporter une fonction assurant la traçabilité de leurs actions. C’est donc au niveau de la conception et de la fabrication de ces traitements que les règles en matière de traçabilité seront posées. Prévoir que des référentiels de bonnes pratiques viendront guider cette traçabilité n’apporterait rien, en pratique, en matière de sécurité. Celle-ci est assurée par le règlement européen relatif aux dispositifs médicaux, notamment par les normes relatives au marquage « CE », qui viennent d’être renforcées.
Soyez donc rassurés, messieurs les députés : vos amendements sont satisfaits. D’où une demande de retrait, sinon de rejet.

M. le président (Renaissance) : La parole est à M. Pierre-Alain Raphan, pour soutenir l’amendement bknoek 123.

M. Pierre-Alain Raphan (Renaissance) : Nous proposons par cet amendement que toutes les données de santé des citoyens français soient stockées sur le territoire français, afin qu’elles ne relèvent pas de lois extraterritoriales telles que le Cloud Act, sorte de permis d’espionner étranger. À défaut, certains États pourraient accéder à ces données, le cas échéant avec des intentions obscures. Il s’agit de préserver notre souveraineté. Il est nécessaire de prévoir une réponse française, voire européenne, en la matière.

M. le président (Renaissance) : Quel est l’avis de la commission ?

M. Philippe Berta (Union pour la démocratie française) : Votre souci que ces données de santé ne partent pas à l’étranger est légitime. Nous avons exprimé la même préoccupation ce matin à propos des séquençages massifs d’ADN opérés depuis l’étranger à la demande de certains de nos concitoyens. Si ce souci est totalement partagé, le cadre juridique actuel suffit à y répondre. En effet, le RGPD et la loi relative à la protection des données personnelles ont considérablement renforcé les modalités de protection des données personnelles. Parmi celles-ci, les données de santé bénéficient de la qualification de « données sensibles », ce qui leur confère le plus haut niveau de protection aux étapes de la collecte et du traitement, mais aussi de la conservation. L’avis est donc défavorable.

M. le président (Renaissance) : Quel est l’avis du Gouvernement ?

M. Adrien Taquet : Il sera similaire à celui du rapporteur. Je compléterai simplement les propos de celui-ci en rappelant un élément de sécurisation supplémentaire déjà évoqué mercredi dernier, lors d’un débat similaire que vous avez eu à propos du registre des donneurs et de l’utilisation des serveurs de l’Agence de la biomédecine : un arrêté d’application relatif au système national des données de santé, le SNDS, prévoit que ces données ne peuvent être hébergées que par des opérateurs établis dans un pays qualifié de « sûr » par la CNIL. D’où ma demande de retrait, sinon de rejet, de cet amendement.

M. le président (Renaissance) : La parole est à M. Pierre-Alain Raphan.

M. Pierre-Alain Raphan (Renaissance) : Je le maintiens parce qu’il semblerait que, même au niveau européen, on n’ait pas encore trouvé de réponse au Cloud Act, lequel pourrait prévaloir sur le RGPD au cas où ces données seraient stockées par des opérateurs étrangers.

M. le président (Renaissance) : La parole est à M. Thibault Bazin, pour soutenir l’amendement bknoek 1234.

M. Thibault Bazin (Les Républicains) : Défendu ! Je ne peux en dire plus en raison du temps législatif programmé.

M. Patrick Hetzel (Union pour un mouvement populaire) : Quel dommage !

M. le président (Renaissance) : Sur l’article 11, je suis saisi par le groupe La République en marche d’une demande de scrutin public.
Le scrutin est annoncé dans l’enceinte de l’Assemblée nationale.
La parole est à M. Alain Ramadier, pour soutenir l’amendement bknoek 1661.

M. Alain Ramadier (Les Républicains) : Défendu ! Je ne peux pas en dire plus en raison du temps législatif programmé.

M. le président (Renaissance) : Je suis saisi de deux amendements identiques, bknosek 206 et 462.
La parole est à M. Alain Ramadier, pour soutenir l’amendement bknoek 206.

M. Alain Ramadier (Les Républicains) : Défendu ! Je ne peux en dire plus en raison du temps législatif programmé.

M. le président (Renaissance) : La parole est à M. Patrick Hetzel, pour soutenir l’amendement bknoek 462.

M. Patrick Hetzel (Union pour un mouvement populaire) : Défendu, monsieur le président ! Je ne peux pas en dire plus en raison du temps législatif programmé.

M. le président (Renaissance) : La parole est à M. Pierre-Alain Raphan, pour soutenir l’amendement bknoek 1059.

M. Pierre-Alain Raphan (Renaissance) : Défendu.

M. Patrick Hetzel (Union pour un mouvement populaire) : Il ne peut pas en dire plus en raison du temps législatif programmé ! (Sourires.)

M. le président (Renaissance) : La parole est à Mme Agnès Thill, pour soutenir l’amendement bknoek 1502.

Mme Agnès Thill (Parti socialiste) : Défendu.

M. le président (Renaissance) : La parole est à M. Patrick Hetzel, pour soutenir l’amendement bknoek 463.

M. Patrick Hetzel (Union pour un mouvement populaire) : Défendu ! Je ne peux pas en dire plus en raison du temps législatif programmé.

M. le président (Renaissance) : Je mets aux voix l’article 11.

M. le président (Renaissance) : Voici le résultat du scrutin :