Protection des données personnelles : Article 14

Protection des données personnelles : Article 14

debate, 12/04/2018, fr — source : Assemblée nationale, compte rendu intégral

M. le président (Renaissance) : La parole est à M. le secrétaire d’État, pour soutenir l’amendement bkno ek10.

M. Mounir Mahjoubi : L’article 14 ouvre plus largement la possibilité à l’administration de prendre des décisions individuelles sur le seul fondement d’un algorithme. Nous avons toutefois assorti cette disposition de garanties, en instituant notamment une obligation de notification.
Au cours des discussions, le Sénat et l’Assemblée se sont légitimement inquiétés de la mise en œuvre réelle de ces garanties, et ont posé le principe de la nullité de la décision en cas d’absence de la mention explicite d’information prévue à l’article L. 311-3-1 du code des relations entre le public et l’administration.
Le Gouvernement a entendu ces préoccupations, bien qu’il considère que la nullité constitue une sanction particulièrement forte qui, en outre, n’est pas nécessaire pour garantir ces obligations. En effet, la rédaction existante, par les modifications qu’elle apporte à l’article L. 311-3-1 du code des relations entre le public et l’administration, apporte une garantie suffisante. Cette disposition a une portée très large : elle ne s’applique non pas seulement aux décisions prises sur le seul fondement d’un algorithme mais à toutes les décisions, y compris celles faisant intervenir en partie un traitement algorithmique, quand bien même un humain aurait pris la décision finale.
Le dispositif dépasse donc l’objet même du règlement général pour la protection des données. Cet amendement vise à maintenir ce principe de nullité – le Gouvernement a opéré une avancée sur ce point – mais en le limitant à l’objet spécifique du texte, c’est-à-dire aux décisions intégralement prises sur le fondement d’un algorithme.

M. le président (Renaissance) : La parole est à Mme Danièle Obono, pour soutenir l’amendement bkno ek6.

Mme Danièle Obono (La France insoumise) : L’article 14 autorise un recours accru au profilage administratif et à l’utilisation d’algorithmes, notamment par les autorités publiques. Il s’agit de thématiques fondamentales pour les droits et libertés numériques. Aussi estimons-nous que les algorithmes utilisés dans la prise de décision publique doivent être soumis à un contrôle citoyen. Pour éviter les biais discriminants que peuvent introduire de nombreux algorithmes utilisés par les pouvoirs publics, nous considérons qu’un contrôle citoyen des algorithmes eux-mêmes doit être organisé avec les équipes d’inspection de la CNIL. Nous nous inspirons notamment des constats et conclusions du rapport sur les modalités de régulation des algorithmes de traitement des contenus remis à la secrétaire d’État chargée du numérique en mai 2016.
L’introduction de ce contrôle permettrait de compléter une première ouverture importante introduite par la loi pour une République numérique, qui a conféré un droit d’accès et d’information à la personne concernée par une décision individuelle prise sur la base d’un traitement algorithmique. Celle-ci peut demander à l’administration la communication des éléments suivants : le degré et le mode de contribution du traitement algorithmique à la prise de décision ; les données traitées et leurs sources ; les paramètres de traitement et, éventuellement, leur pondération, appliqués à la situation de l’intéressé ; les opérations effectuées par le traitement, conformément à l’article R. 311-3-1-2 du code des relations entre le public et l’administration, issu du décret du 14 mars 2017, applicable à compter du bk1er ekseptembre 2017.
Nous proposons donc, par cet amendement, de renforcer la capacité de tout citoyen, tout contribuable et tout administré de demander des comptes et de vérifier la nature des données et des algorithmes utilisés. Il me semble que cela participerait de la pédagogie numérique et de la nécessaire transparence concernant des décisions qui ont une incidence sur des questions privées, très importantes pour la vie de nos concitoyens et concitoyennes.

M. le président (Renaissance) : Quel est l’avis de la commission ?

Mme Paula Forteza (Renaissance) : Madame Obono, comme souvent, je suis d’accord avec une grande partie de votre argumentaire, mais pas avec votre conclusion ; en l’occurrence, il ne me paraît pas utile d’inscrire ce dispositif dans la loi. Les personnes intéressées peuvent déjà accéder aux codes sources, aux algorithmes et étudier ces derniers dans différents cadres. Par exemple, la CNIL avait réalisé une étude sur APB – admission post-bac. Il serait intéressant que d’autres institutions, comme l’INRIA – Institut national de recherche en informatique et en automatique –, le CNNUM ou des associations le fassent également. Il n’est pas nécessaire, en tout état de cause, d’inscrire cette disposition dans la loi. Avis défavorable.

M. le président (Renaissance) : Quel est l’avis du Gouvernement ?

M. Mounir Mahjoubi : Madame la députée, comme l’a rappelé la rapporteure, les obligations de transparence actuelles sont très importantes. De surcroît, la CNIL s’est saisie de ce sujet et fournit déjà énormément d’informations. Elle a publié, en décembre 2017, un rapport intitulé Comment permettre à l’Homme de garder la main ?, dans le cadre de la mission de réflexion sur les enjeux éthiques et les questions de société soulevés par l’évolution des technologies numériques, qui lui a été confiée par la loi. La CNIL s’inspire des conclusions de ce rapport, qui traite des enjeux éthiques des algorithmes d’intelligence artificielle, dans le cadre, par exemple, de la mise en œuvre de l’un de ses dispositifs, le LINC – laboratoire d’innovation numérique – et de ses partenariats avec l’INRIA. C’est pourquoi il n’est pas nécessaire, à nos yeux, de prévoir cette expérimentation, mais qu’il faut plutôt célébrer le travail déjà accompli par la CNIL sur ces sujets. L’avis est donc défavorable.

M. le président (Renaissance) : La parole est à M. le secrétaire d’État, pour soutenir l’amendement bkno ek9.

M. Mounir Mahjoubi : Si vous me le permettez, monsieur le président, je consacrerai un assez long développement à cet amendement, comme je l’ai fait au Sénat. En effet, je souhaitais vous apporter des informa2876tions très claires et très précises sur cet amendement qui a fait l’objet de nombreux débats. Cela me permettra de mettre en perspective les enjeux des discussions des dernières semaines.
Le présent amendement a vocation à rétablir une disposition de la loi du 8 mars 2018 relative à l’orientation et à la réussite des étudiants qui a été supprimée par le Sénat. Pour mettre un terme à l’opacité qui entourait la plateforme APB, le Gouvernement a souhaité refondre les modalités d’entrée dans l’enseignement supérieur autour de deux exigences fondamentales qui ont guidé notre réflexion dans la rédaction de ces dispositions. La première exigence consiste à remettre de l’humain dans la procédure d’affectation, en écartant toute prise de décision sur le seul fondement d’un algorithme. La seconde consiste à garantir la transparence de la procédure d’affectation et les droits des étudiants. L’article L. 612-3 du code de l’éducation, issu de la loi ORE permet de garantir un niveau exigeant de transparence, jusqu’alors inédit dans l’accès à l’enseignement supérieur.
La loi a inscrit un principe fort : le critère retenu pour l’examen des vœux est la cohérence entre le profil du candidat et les attendus de la formation demandée. Les critères d’examen des vœux sont connus, publics, affichés sur Parcoursup dans les caractéristiques des formations. Ils sont donc accessibles à tous. Cela est vrai pour les 13 000 formations déjà référencées dans Parcoursup, y compris celles qui sont sélectives.
Le II de l’article L. 612-3 précité prévoit la publication de tous les algorithmes de Parcoursup, c’est-à-dire ceux qui permettent le fonctionnement de la plateforme au niveau national, mais aussi la publication de l’outil d’aide à la décision qui est mis à la disposition des établissements pour les appuyer dans leur travail. On rend ainsi publics l’algorithme principal comme l’algorithme spécifique et, pour chaque établissement, tous les critères qui auront été utilisés pour l’évaluation.
Au sein des établissements, toutes les mesures ont été prises pour garantir une intervention humaine sur chaque dossier, ce qui était essentiel. Le décret d’application de la loi instaure, pour chaque formation, une commission d’examen des vœux, principalement composée d’enseignants, chargée d’examiner et de classer les dossiers. Ces instances sont constituées, j’y insiste, d’enseignants, c’est-à-dire d’êtres humains, de femmes et d’hommes qui vont regarder chacun des dossiers. Comme son nom l’indique, l’outil d’aide à la décision, dont le code sera publié, n’est qu’un appui à la commission d’examen composée de femmes et d’hommes experts du sujet.
La commission peut décider – certaines l’ont déjà fait – de ne pas utiliser l’algorithme spécifique. Si la commission souhaite l’utiliser, elle doit alors paramétrer l’outil en fonction des éléments d’appréciation pédagogiques qu’elle seule peut déterminer. Elle doit en superviser le fonctionnement et en valider le résultat. Ce paramétrage consiste, pour l’essentiel, à préciser, hiérarchiser, pondérer les critères qui ont été portés à la connaissance des candidats.
Seule la commission d’examen des vœux est compétente pour décider des réponses qui seront apportées aux candidats. Ainsi, la manière dont l’outil d’aide à la décision est utilisé est indissociable de la délibération, mais ce dispositif ne peut se substituer à elle. Aucune décision ne sera prise sans l’action de ces êtres humains, de façon collégiale, dans le cadre de ces commissions. Le module en lui-même ne peut fonder la décision de l’établissement et aucun d’eux n’a prévu de le faire de cette manière. La décision ne peut découler que des délibérations de la commission. Chacun des dossiers est examiné individuellement. Le travail de ces commissions est essentiel, car elles doivent notamment identifier les étudiants qui auront besoin d’un accompagnement pédagogique spécifique pour aller au terme de leur cursus.
Or la disposition votée par le Sénat retire toute forme de protection à la délibération de ces commissions. La disposition que nous souhaitons réintégrer permettra d’ancrer dans la loi le rôle de ces équipes pédagogiques et de protéger le contenu de ces délibérations. Ce contenu, ces échanges et ces débats sont essentiels. Concrètement, nous garantissons à chaque candidat un accès individuel aux informations et motifs qui justifient la décision prise par l’établissement – comme je vous le disais, la seconde de nos exigences consiste à renforcer la transparence, au bénéfice des étudiants. Cela n’était pas possible auparavant. C’est donc une avancée majeure en faveur de la transparence. On pourra savoir quels critères ont été pris en compte et comment ils ont été évalués.
En revanche, sans cette disposition, les formations devraient dévoiler une part substantielle de leurs propres délibérations, qui sont en principe couvertes par le secret, conformément à la jurisprudence du Conseil d’État. Une telle remise en cause serait très excessive. En effet, sans protection des délibérations, les équipes pédagogiques, par crainte de recours, seraient conduites soit à renoncer au module d’aide à la décision, soit à y recourir de façon mécanique, sans intervention humaine ; dans ce dernier cas, alors qu’on entend se protéger des algorithmes, on retournerait au système APB d’attribution purement algorithmique.
Le Gouvernement et la majorité ont eu à cœur, au cours de l’examen de la loi ORE, de faire progresser la transparence dans l’accès au premier cycle de l’enseignement supérieur. Pour nous, il n’est pas envisageable de revenir sur la lettre de la loi, qui a été votée et promulguée. En revanche, il est naturel et sain – tel a été l’objet de nos discussions ces dernières semaines – que ce sujet suscite le débat, que le Parlement puisse disposer d’une information régulière et indépendante sur les garanties de transparence de la nouvelle procédure Parcoursup. À cette fin, le présent amendement permettra au comité éthique et scientifique, dont la mission de contrôle de Parcoursup est fixée dans la loi, de faire connaître au Parlement son évaluation indépendante des garanties permises par la loi en la matière. Cela pourra prendre la forme d’un rapport – comme le stipule le texte de l’amendement –, mais cela pourra aussi se traduire par une audition publique, comme le permet le règlement de l’Assemblée nationale.
J’irai même plus loin, mesdames et messieurs les députés : je souhaite prendre date devant vous, au nom du Gouvernement, sur cette question. Si le dispositif doit évoluer après quelques années, il évoluera et le Gouvernement soutiendra toutes les initiatives en ce sens. Par ailleurs, ma collègue Frédérique Vidal, ministre de l’enseignement supérieur, de la recherche et de l’innovation, qui a construit et défendu ce texte, se tient à votre disposition – vous êtes d’ailleurs nombreux à l’avoir sollicitée – pour répondre à vos questions et rendre compte du traitement des vœux au sein de toutes les formations lors de la première session d’affectation, qui vient de commencer.
Je vous propose par conséquent de rétablir cette disposition en adoptant l’amendement du Gouvernement. Vous pourrez, par là même, rassurer toutes les familles de France 2877qui ont déjà rempli leurs dossiers sur Parcoursup et qui attendent maintenant que leur examen avance. (Applaudissements sur plusieurs bancs des groupes LaREM et MODEM.)

M. le président (Renaissance) : Quel est l’avis de la commission ?

Mme Paula Forteza (Renaissance) : Je salue l’engagement du Gouvernement et de tous les acteurs en faveur du renforcement de la transparence, qui est une exigence que nous partageons. À titre personnel, je continue à m’interroger sur la rédaction de la loi ORE, mais nous n’avons pas eu le temps de mener des auditions complémentaires. Nous savons très bien que ces réformes sont en cours et que l’on demande beaucoup d’efforts à tous les acteurs.
Nous saluons la volonté du Gouvernement de rendre un rapport au Parlement l’année prochaine, de manière à pouvoir, le cas échéant, revenir sur les dispositions juridiques et retravailler le texte, afin qu’il soit plus en accord avec la réalité. Nous ne savons pas encore comment les acteurs vont se saisir des outils d’aide à la décision : vont-ils les utiliser de façon automatique ou les paramétrer d’une façon ou d’une autre ? Les paramétrages seront-ils couverts par le secret des délibérations ou feront-ils partie du code source qui devra être rendu public ? Des sujets restent donc à creuser, et la question demeure de savoir, pour un certain nombre de points, où le curseur sera placé. Nous allons suivre cela de près avec notre collègue Gabriel Attal, qui a beaucoup travaillé sur le sujet, pour voir s’il faut apporter des corrections à la loi. Avis favorable sur l’amendement bkno ek9.

M. le président (Renaissance) : La parole est à M. Philippe Gosselin.

M. Philippe Gosselin (Union pour un mouvement populaire) : Je m’en veux, d’une certaine manière, de m’exprimer avant notre collègue Gabriel Attal, qui est concerné au premier chef. Le texte porte sur le numérique, les données personnelles et le RGPD, mais on voit bien que le débat universitaire, qui est d’actualité, s’introduit dans notre discussion. Sans doute faudrait-il, monsieur le secrétaire d’État, que la vidéo de votre intervention soit largement diffusée dans les universités, car elle serait de nature à rassurer certains étudiants, qui en manipulent d’autres.

Mme Danièle Obono (La France insoumise) : Ben voyons !

M. Philippe Gosselin (Union pour un mouvement populaire) : Il serait grand temps de débloquer les universités.

M. Pierre Dharréville (Parti communiste français) : Et comment comptez-vous vous y prendre ?

M. Philippe Gosselin (Union pour un mouvement populaire) : J’espère que ce plaidoyer, qui intéresse le rapporteur du texte relatif à Parcoursup, éclairera les choses. Ce que vous venez de rappeler est important et je donne acte au Gouvernement de sa volonté de transparence sur ce sujet.
Cela dit, même après vous avoir entendu, je ne suis pas sûr que le sujet soit totalement clos. Certaines inquiétudes sont inhérentes au parcours estudiantin, à la qualification professionnelle, aux études supérieures, à la recherche d’emploi et à la place de chacun dans la société. Ce débat est légitime, et ce que vous avez dit permettra peut-être de l’éclairer.
Sans vouloir passer la brosse à reluire, il me semble que l’amendement bkno ek9 va dans le bon sens et, même si c’est un casse-bras pour certains, je n’en doute pas, les uns et les autres doivent faire œuvre de pédagogie. Quoi qu’il en soit, il n’y a pas aujourd’hui de malaise particulier sur ce point précis. Pour le reste, le débat n’est pas clos, et un petit bout de blanc-seing n’est pas une sanctification rapide. Ce n’est pas encore le moment de dire : « Santo subito ». (Applaudissements sur les bancs du groupe LR.)

M. le président (Renaissance) : La parole est à M. Gabriel Attal.

M. Gabriel Attal (Renaissance) : Je voudrais remercier Philippe Gosselin pour ses mots, qui montrent que nous sommes tous engagés pour l’objectif d’affecter dans les meilleures conditions possibles dans l’enseignement supérieur, l’an prochain, les bacheliers qui ont formulé leurs vœux sur la plateforme Parcoursup.
Nous ne sommes pas ici aujourd’hui pour débattre de nouveau de la relative à l’orientation et à la réussite des étudiants. Il n’en demeure pas moins qu’elle a constitué une percée majeure et historique en matière de transparence. Avant, avec APB, l’algorithme et le code source n’étaient pas publiés, alors que les associations le réclamaient. Les pouvoirs publics ont été pressés par la commission d’accès aux documents administratifs – la CADA – et la CNIL de les publier, ce qu’ils avaient finalement fait, mais en version papier. Cela montre quel était alors l’engagement des pouvoirs publics pour la transparence des algorithmes.
La nouvelle loi prévoit la transparence totale des critères d’affectation, puisqu’ils sont tous publics et consultables par tout un chacun sur la plateforme Parcoursup, filière par filière. Un amendement de notre collègue Cédric Villani, soutenu par notre groupe, permet la publication du code source et de l’algorithme de la plateforme au niveau national, et du module d’aide à la décision utilisé dans les universités au niveau local. Le Président de la République a indiqué, lors de son discours sur l’intelligence artificielle, combien cet engagement était important à ses yeux.
La manière dont la réforme se met en place fera l’objet d’une évaluation extrêmement fine de la part du Parlement. Un amendement adopté impose au Gouvernement de publier toutes les données de la campagne d’affectation, qui aura lieu tous les ans et dès cette année. Le Parlement rédigera un rapport d’évaluation dans deux ans, sur la base d’un autre rapport du Gouvernement contenant toutes les informations nécessaires.
Nous franchissons une nouvelle étape dans la transparence avec cet amendement, puisque le comité éthique et scientifique devra remettre chaque année un rapport sur les délibérations. Le groupe La République en marche le soutiendra donc.

M. le président (Renaissance) : La parole est à Mme Danièle Obono.

Mme Danièle Obono (La France insoumise) : Le Gouvernement et la majorité tiennent à ce que l’on rediscute de la mobilisation actuelle contre la sélection à l’université, c’est très bien. Je salue cette mobilisation.

M. Philippe Gosselin (Union pour un mouvement populaire) : On ne salue pas de la même façon !

Mme Danièle Obono (La France insoumise) : En ce moment même, une très belle assemblée générale a lieu à la faculté de Nanterre.
Les outils numériques peuvent être un élément de l’analyse politique des citoyens et des citoyennes. La situation actuelle montre que ceux qui se mobilisent n’ont pas mal compris la réforme, mais en ont au contraire saisi le sens politique, car il ne s’agit pas d’une question technique. Le sens politique de la loi de mars dernier est de favoriser la sélection, et l’utilisation des techniques numériques pour effectuer cette sélection pose question et suscite la contestation, n’en déplaise à 2878M. Gosselin. Ce n’est pas une minorité d’ultra-gauchistes, ou que sais-je encore : ce sont des étudiants, des jeunes gens qui s’inscrivent dans une démarche de compréhension technique, mais aussi d’apprentissage politique de la citoyenneté. Ne vous en déplaise, ils ont très bien compris ce qu’il y avait derrière l’algorithme et ce projet de loi.

M. Philippe Gosselin (Union pour un mouvement populaire) : On les manipule !

Mme Danièle Obono (La France insoumise) : Ils exercent pleinement leurs droits et leurs devoirs de citoyenneté. La représentation nationale devrait être fière que la jeunesse soit si consciente, si dynamique et si éveillée. En tout cas, nous, à La France insoumise, en sommes fiers et la soutenons pleinement.

M. le président (Renaissance) : La parole est à M. Philippe Latombe.

M. Philippe Latombe (Renaissance, Mouvement démocrate) : Je ne souhaite pas entrer dans une polémique. Cet amendement et les propos du ministre sont clairs et transparents. Nous soutenons cet amendement, qui correspond à tout ce que nous avons voulu faire sur ce sujet et à ce que nous avons dit en commission. Nous soutenons l’intégralité du propos du ministre et, comme l’a dit M. Gosselin, la pédagogie doit être exportée à l’extérieur de cet hémicycle. La démonstration était claire et répondra à un certain nombre de questions posées par d’autres personnes, sur les bancs de cet hémicycle et à l’extérieur. Cela permettra certainement d’apaiser les tensions.

M. le président (Renaissance) : La parole est à M. Pierre Dharréville.

M. Pierre Dharréville (Parti communiste français) : Notre collègue Philippe Gosselin appelait à débloquer les universités. Il y a deux manières de le faire : soit en envoyant les forces de l’ordre, ce qui a commencé à être fait et qui n’est pas une bonne nouvelle ni une bonne façon de traiter les jeunes qui se mobilisent, à juste raison, dans ces facultés pour leur avenir ; soit en ouvrant une discussion, ce qui n’a pas été le cas, même lors de l’élaboration du projet de loi.
Les étudiants ne sont pas les seuls à s’opposer à cette réforme : beaucoup d’enseignants font de même,…

M. Philippe Gosselin (Union pour un mouvement populaire) : Il y en a quelques-uns.

M. Pierre Dharréville (Parti communiste français) : …et ont organisé des conférences de presse et mené des actions. Il y a un problème, dont le Gouvernement devrait prendre la juste mesure. Il devrait ouvrir de véritables discussions et arrêter de renvoyer les opposants à cette réforme au dispositif précédent, qu’ils contestaient déjà.