Protection des données personnelles : Article 14

Protection des données personnelles : Article 14

debate, 21/03/2018, fr — source : Sénat, compte rendu intégral

M. le président : I. – L’article 10 de la loi n° 78-17 du 6 janvier 1978 précitée est ainsi rédigé :
« Art. 10. – Aucune décision de justice ne peut être fondée sur le profilage, tel que défini au 4 de l’article 4 du règlement (UE) 2016/679 du Parlement européen et du Conseil du 27 avril 2016 précité.
« Aucune décision produisant des effets juridiques à l’égard d’une personne ou l’affectant de manière significative ne peut être prise sur le seul fondement d’un traitement automatisé de données à caractère personnel, y compris le profilage, à l’exception :
« 1° Des cas mentionnés au a et c du 2 de l’article 22 du même règlement, sous les réserves mentionnées au 3 du même article et à condition, lorsque la décision produit des effets juridiques, que l’intéressé en soit informé par le responsable de traitement et que les règles définissant le traitement ainsi que les principales caractéristiques de sa mise en œuvre lui soient communiquées à sa demande, sous réserve des secrets protégés par la loi ;
« 2° Des décisions administratives individuelles fondées sur un traitement automatisé de données à caractère personnel dont l’objet est d’appliquer strictement des dispositions légales ou réglementaires à des faits dont la matérialité et la qualification juridique sont établies sur un autre fondement, à condition que le traitement ne porte pas sur des données mentionnées au I de l’article 8 de la présente loi ;
« 3° Des actes pris par l’administration dans l’exercice de ses pouvoirs de contrôle ou d’enquête.
« Par dérogation au 2° du présent article, aucune décision par laquelle l’administration se prononce sur un recours administratif mentionné au titre Ier du livre IV du code des relations entre le public et l’administration ne peut être prise sur le seul fondement d’un traitement automatisé de données à caractère personnel. »
II (nouveau). – Au premier alinéa de l’article L. 311-3-1 du code des relations entre le public et l’administration, après le mot : « comporte », sont insérés les mots : « , à peine de nullité, ».
III (nouveau). – Le dernier alinéa du I de l’article L. 612-3 du code de l’éducation est supprimé.

M. le président : L’amendement n° 95, présenté par le Gouvernement, est ainsi libellé :
Alinéa 2
Rédiger ainsi cet alinéa :
« Art. 10. – Aucune décision de justice impliquant une appréciation sur le comportement d’une personne ne peut avoir pour fondement un traitement automatisé de données à caractère personnel destiné à évaluer certains aspects de la personnalité de cette personne.
La parole est à M. le secrétaire d’État.

M. Mounir Mahjoubi (Secrétaire d’État au Numérique) : Monsieur le président, monsieur le président de la commission des lois, madame la rapporteur, mesdames, messieurs les sénateurs, cet amendement vise à maintenir dans sa rédaction actuelle l’alinéa 1er de l’article 10 de la loi dite CNIL.
Nous considérons que le champ de la rédaction issue de la commission et celui du droit actuel sont identiques. Il nous semble préférable de s’en tenir au droit en vigueur, qui présente au moins deux avantages : d’une part, il s’agit du droit actuellement pratiqué et connu ; d’autre part, il est plus explicite que la rédaction adoptée par la commission, en ce qu’il ne renvoie pas au règlement et vise directement les traitements automatisés de données à caractère personnel prohibés, c’est-à-dire ceux qui sont destinés à évaluer certains aspects de la personnalité.
Nous estimons ainsi que le droit actuel est plus performant que ne le serait le dispositif proposé par la commission.

M. le président : Quel est l’avis de la commission ?

Mme Sophie Joissains : La définition retenue par la commission nous semblait plus complète. En effet, à la place de l’expression « appréciation sur le comportement d’une personne », elle renvoie à la définition du profilage, qui consiste, à partir de faits passés relatifs à une personne, à évaluer la probabilité de faits passés, présents ou futurs la concernant.
La commission émet cependant un avis de sagesse.

M. le président : Je mets aux voix l’amendement n° 95.
(L’amendement est adopté.)

M. le président : Je suis saisi de deux amendements faisant l’objet d’une discussion commune.
L’amendement n° 96, présenté par le Gouvernement, est ainsi libellé :
Alinéa 5
Rédiger ainsi cet alinéa :
« 2° Des décisions administratives individuelles prises dans le respect de l’article L. 311-3-1 et du chapitre Ier du titre Ier du livre IV du code des relations entre le public et l’administration, à condition que le traitement ne porte pas sur des données mentionnées au I de l’article 8 de la présente loi. Pour ces décisions, le responsable de traitement s’assure de la maîtrise du traitement algorithmique et de ses évolutions afin de pouvoir expliquer, en détails et sous une forme intelligible, à la personne concernée la manière dont le traitement a été mis en œuvre à son égard ;
La parole est à M. le secrétaire d’État.

M. Mounir Mahjoubi (Secrétaire d’État au Numérique) : En préambule, le Gouvernement tient à souligner la convergence de vues sur le fond avec Mme la rapporteur, qui a écrit dans son rapport que l’« on ne saurait admettre que l’administration se défausse de ses responsabilités sur la machine, en jouant de la complexité technique et de la réputation d’infaillibilité des automates pour masquer ses propres choix ».
Je souscris tout à fait à cette analyse : c’est bien cela, en définitive, qui fait du tort à la dématérialisation et à la modernisation de nos modes d’action et qui les caricature.
Malheureusement, cette convergence, visible dans le rapport, semble s’être perdue dans le texte finalement adopté par la commission des lois, qui nous paraît obscurcir et limiter considérablement le champ des décisions pouvant être prises sur le fondement d’un traitement algorithmique.
C’est pourquoi le présent amendement tend à rétablir globalement le texte dans sa version issue de l’Assemblée nationale. L’équilibre qui avait été trouvé visait à permettre le recours à des décisions administratives prises sur le fondement d’un traitement algorithmique, tout en offrant les garanties nécessaires à la sauvegarde des droits et libertés, ainsi que des intérêts légitimes des usagers concernés.
Pour cela, il importe que figurent explicitement dans le texte de la loi Informatique et libertés les trois garanties de transparence, d’intervention humaine et de maîtrise.
En ce qui concerne la transparence, d’abord, l’usager, lorsqu’une décision est prise sur le fondement d’un traitement algorithmique, en est informé systématiquement. Il peut demander des informations supplémentaires très détaillées.
L’intervention humaine, ensuite, est assurée à travers le droit de recours, déjà ouvert aujourd’hui.
Enfin, la garantie de maîtrise du traitement doit être explicitée ; la CNIL y a particulièrement insisté dans son avis.
Le lien entre la maîtrise et la transparence à travers l’explicitation du traitement est important pour l’économie globale du dispositif.
À notre sens, l’obligation de maîtrise constitue une intervention humaine a priori, dans le cadre de l’élaboration du traitement algorithmique lui-même. C’est la garantie que propose le Gouvernement contre le risque lié à l’essor de l’intelligence artificielle, des algorithmes dits « auto-apprenants » et des traitements dits « de boîte noire ».
Le Gouvernement vous propose d’affirmer ces garanties, selon lui suffisantes, plutôt que de restreindre drastiquement le champ d’application de ces usages.

M. le président : Quel est l’avis de la commission ?

Mme Sophie Joissains : La commission des lois a estimé que les garanties apportées par l’Assemblée nationale en ce qui concerne les décisions prises par l’administration sur le fondement d’algorithmes n’étaient pas suffisantes.
Sans méconnaître les bénéfices liés à l’usage d’algorithmes par l’administration, la commission a entendu prévenir un triple risque.
D’abord, une décision automatisée risque d’être aveugle à des circonstances de l’espèce qui mériteraient d’être prises en compte, parce que l’algorithme n’a pas été programmé pour en tenir compte. Le recours aux algorithmes doit donc être réservé à des cas n’appelant aucun pouvoir d’appréciation.
Le deuxième risque lié à l’essor de l’intelligence artificielle est que des décisions administratives individuelles soient prises sans que personne ne sache suivant quels critères, l’algorithme ayant déterminé lui-même les critères à appliquer et leur pondération ; c’est ce qu’on appelle le phénomène des « boîtes noires ».
Enfin, il faut éviter que la programmation des algorithmes destinés à prendre des décisions individuelles n’aboutisse à contourner les règles de fond et de forme encadrant l’exercice du pouvoir réglementaire.
Ainsi, dans la procédure dite « Admission post-bac », ou APB, les candidatures des lycéens aux licences universitaires étaient classées suivant des critères reposant sur une base légale fragile, n’ayant jamais été explicités dans un texte réglementaire et qui n’étaient pas même rendus publics.
Comme l’a dit M. le secrétaire d’État, on ne saurait accepter que l’administration se défausse ainsi de ses responsabilités sur la machine, en jouant de la complexité technique et de la réputation d’infaillibilité des automates pour masquer ses propres choix.
La commission des lois a donc choisi de n’autoriser les décisions administratives individuelles prises sur le fondement d’un traitement automatisé de données personnelles que lorsque ce traitement a pour objet d’appliquer strictement des dispositions légales ou réglementaires à des faits dont la matérialité et la qualification juridique ont été établies sur un autre fondement que celui d’un traitement automatisé.
Cela rend inutile la précision apportée par l’Assemblée nationale selon laquelle « le responsable de traitement s’assure de la maîtrise du traitement algorithmique et de ses évolutions afin de pouvoir expliquer, en détail et sous une forme intelligible, à la personne concernée la manière dont le traitement a été mis en œuvre à son égard ».
D’une part, en effet, l’algorithme ne pourra pas évoluer : programmé pour appliquer strictement le droit, il ne sera pas une « boîte noire ». C’est là l’une de nos exigences principales.
D’autre part, le code des relations entre le public et l’administration garantit déjà à tout administré la possibilité de se voir communiquer les règles et les principales caractéristiques de mise en œuvre d’un algorithme lorsque celui-ci a servi à prendre une décision à son égard. L’examen d’autres amendements nous conduira à reparler de cette question.
Enfin, contrairement à ce que fait valoir le Gouvernement dans l’objet de son amendement, il paraît tout à fait nécessaire d’inscrire dans la loi que l’algorithme doit avoir pour objet d’appliquer strictement des dispositions légales ou réglementaires. Il existe en effet toutes sortes de décisions administratives individuelles dont le sens n’est pas déterminé par le cadre législatif ou réglementaire : celles pour lesquelles l’administration dispose d’un pouvoir d’appréciation. Or nous refusons absolument que de telles décisions soient prises sur le fondement d’un algorithme – ce qui reviendrait d’ailleurs pour l’administration à renoncer à son pouvoir d’appréciation au cas par cas…
Pour ces raisons, la commission est défavorable à l’amendement.

M. le président : Je mets aux voix l’amendement n° 96.
(L’amendement n’est pas adopté.)

M. le président : L’amendement n° 138, présenté par Mme S. Robert, MM. Durain, Sutour, Sueur, Kanner et les membres du groupe socialiste et républicain, est ainsi libellé :
Alinéa 5
Compléter cet alinéa par les mots :
et que l’intéressé puisse exprimer son point de vue et contester la décision
La parole est à Mme Sylvie Robert.

Mme Sylvie Robert : Cet amendement reprend en partie les garanties apportées par le paragraphe 3 de l’article 22 du règlement européen en matière de protection des droits et libertés de l’individu. Nous voulons nous assurer que, dans le cadre de décisions administratives individuelles prises sur le fondement d’un algorithme, l’intéressé pourra exprimer son point de vue, et surtout contester la décision résultant du traitement automatisé. En fait, il s’agit de renforcer le droit au recours.
S’agissant de l’article 14, je tiens à féliciter Mme la rapporteur pour la réécriture qu’elle a opérée, qui, de mon point de vue, apporte beaucoup plus de garanties.
Lors de l’examen, voilà quelques semaines, du projet de loi relatif à l’orientation et à la réussite des étudiants, nous avons longuement évoqué Parcoursup, qui n’est autre qu’un algorithme central apparié à des algorithmes locaux. On peut avoir un débat sur la transparence de ce dispositif. On se souvient, concernant son prédécesseur APB, que précisément l’opacité ne permettait plus la confiance. De fait, la question de la confiance est de la plus haute importance en matière d’algorithmes. C’est pourquoi je trouve que la réécriture par Mme la rapporteur de l’article 14, que nous essayons d’améliorer encore par nos amendements, est fort bienvenue.

M. le président : Quel est l’avis de la commission ?

Mme Sophie Joissains : Avis favorable.

M. le président : Quel est l’avis du Gouvernement ?

M. Mounir Mahjoubi (Secrétaire d’État au Numérique) : Le Gouvernement souscrit à l’objectif des auteurs de l’amendement : s’assurer que la personne concernée par la décision pourra faire valoir son point de vue et bénéficier d’un plein droit de recours. Il partage tout autant, madame la sénatrice, votre vision générale de l’article 14 en ce qui concerne la nécessité absolue de la transparence.
Toutefois, le Gouvernement est défavorable à votre amendement, car il considère que les mesures prévues par ailleurs répondent pleinement à cette ambition.

M. le président : La parole est à M. Pierre Ouzoulias, pour explication de vote.

M. Pierre Ouzoulias : Notre collègue Sylvie Robert vient d’évoquer le débat que nous avons eu dans cet hémicycle sur Parcoursup lors de l’examen du projet de loi relatif à l’orientation et à la réussite des étudiants. Unanimement, la Haute Assemblée avait alors considéré que les algorithmes locaux devaient être dissociés de la décision prise par l’administration. La ministre de l’enseignement supérieur s’était engagée sur ce principe, mais nous nous sommes aperçus, à la lecture des décrets, qu’une autre voie réglementaire a été prise : le résultat donné par les algorithmes est considéré comme partie prenante à la décision du jury, couverte par le secret des délibérations. Cela n’est pas recevable en droit, puisqu’il s’agit d’un traitement automatisé préalable aux débats des enseignants sur les dossiers.
L’article 14, tel qu’il est rédigé aujourd’hui, vient combler un vide juridique de façon tout à fait pertinente. Je le voterai donc volontiers.

M. le président : La parole est à Mme Catherine Morin-Desailly, pour explication de vote.

Mme Catherine Morin-Desailly : Je me ferai ici, en quelque sorte, la porte-parole du rapporteur de la loi relative à l’orientation et à la réussite des étudiants, Jacques Grosperrin, avec qui je me suis entretenue de la transparence des algorithmes ces derniers jours.
Il est vrai que, lors des débats, M. Grosperrin s’est montré très sensible à l’idée de publier les algorithmes locaux, afin que l’on ne retombe pas dans un système de « boîte noire ». En effet, APB avait fini par être appréhendé de cette façon : on avait l’impression que toute décision humaine avait disparu et qu’on s’en remettait totalement à la machine.

M. Pierre Ouzoulias : Tout à fait !

Mme Catherine Morin-Desailly : Je crois que tel n’est pas l’esprit de la loi relative à l’orientation et à la réussite des étudiants. Certes, l’inscription sera automatisée selon un certain nombre de critères, mais le résultat produit par l’algorithme ne sera qu’une aide à la prise de décision, et ne conditionnera pas inéluctablement celle-ci. Un comité pédagogique examinera les dossiers. Je ne suis donc pas tout à fait d’accord avec notre collègue Ouzoulias sur ce point.
Je rappelle aussi que le Sénat, dans sa sagesse, a entendu instaurer un comité d’éthique et scientifique chargé de prévenir tout risque lié à un déficit de transparence.
Concrètement, les décisions prises comporteront une part humaine. À cet égard, le secret des délibérations des instances pédagogiques chargées d’étudier les dossiers est tout à fait légitime.
Je tenais à apporter ces précisions, en soulignant que nous sommes dans une année de transition, au cours de laquelle les universités vont expérimenter le dispositif. Il faudra être attentif aux remontées du terrain, pour ajuster au mieux le processus d’orientation des élèves vers un parcours de réussite. Ce processus est en cours. De ce fait, tout en saluant l’excellent travail accompli par Mme Joissains, je me demande s’il ne vaudrait pas mieux attendre qu’il soit parvenu à son terme pour appliquer la disposition proposée, qui consiste en un renforcement de l’obligation de transparence.

Mme Sophie Joissains : Nous reviendrons sur cette question ultérieurement.

M. le président : Je mets aux voix l’amendement n° 138.
(L’amendement est adopté.)

M. le président : Je suis saisi de deux amendements identiques.
L’amendement n° 97 est présenté par le Gouvernement.
L’amendement n° 133 est présenté par MM. Durain et Sutour, Mme S. Robert, MM. Sueur, Kanner et les membres du groupe socialiste et républicain.
Ces deux amendements sont ainsi libellés :
Alinéa 6
Supprimer cet alinéa.
La parole est à M. le secrétaire d’État, pour présenter l’amendement n° 97.

M. Mounir Mahjoubi (Secrétaire d’État au Numérique) : Avant de présenter cet amendement, je tiens à indiquer que nous débattrons de l’application de la loi relative à l’orientation et à la réussite des étudiants lors de la discussion de l’amendement n° 99 ; je prendrai alors le temps d’exposer la position du Gouvernement de façon détaillée et de vous communiquer de nombreuses informations actualisées, afin de vous rassurer sur un sujet sur lequel nous avons la même ambition.
La défense de l’amendement n° 97 me donne aussi l’occasion de présenter quelques observations plus générales sur l’utilisation des sciences de la donnée, les data sciences, au sein de l’administration.
Dans le cadre de la modernisation de l’action publique, nous souhaitons que les sciences de la donnée se répandent dans l’administration française et que les opérations d’enquête ou de contrôle puissent s’appuyer plus souvent sur des analyses de données. L’objectif est d’optimiser l’activité des services d’enquête, dont les ressources, notamment humaines, sont toujours trop limitées.
Toutefois, les traitements sur lesquels les services peuvent s’appuyer doivent rester strictement des outils d’aide à la décision : rien de plus, rien de moins. Telle est bien la situation, aujourd’hui, dans l’appareil d’État, y compris au sein de l’administration fiscale : on recourt à des outils d’aide à la décision fondés sur les sciences de la donnée.
L’alinéa 6 de l’article 14, dans sa rédaction issue des travaux de la commission, nous paraît contraire au règlement européen, dans la mesure où il ne prévoit aucune garantie concernant les actes visés, alors qu’ils affectent significativement les personnes. En particulier, le droit à former un recours et à faire valoir son point de vue n’est pas prévu, non plus que la présence dans l’acte d’une mention informant la personne du recours à un algorithme. Cet amendement vise à y remédier.

M. le président : La parole est à M. Jérôme Durain, pour présenter l’amendement n° 133.

M. Jérôme Durain : Il est défendu, monsieur le président.

M. le président : Quel est l’avis de la commission ?

Mme Sophie Joissains : Un simple acte d’enquête ou de contrôle peut être intrusif, quoi que la commission ait pu en penser. La réflexion sur les algorithmes est vraiment loin d’être aboutie : nous ne savons pas encore très clairement dans quelle mesure nous pouvons nous y fier, quels biais ils peuvent comporter, quelles discriminations ils peuvent engendrer ni quelle est la bonne manière de les contrôler.
Au demeurant, il serait bon que le Gouvernement nous fasse part de son appréciation sur l’idée de créer une commission consultative, voire une autorité administrative, spécialement chargée du contrôle des algorithmes.
En attendant d’y voir plus clair, je pense qu’il convient de faire preuve de prudence. C’est pourquoi, à titre personnel, j’émets un avis favorable sur ces amendements identiques.

M. le président : Je mets aux voix les amendements identiques nos 97 et 133.
(Les amendements sont adoptés.)
(M. Thani Mohamed Soilihi remplace M. David Assouline au fauteuil de la présidence.)

M. le président : Je suis saisi de trois amendements faisant l’objet d’une discussion commune.
L’amendement n° 98, présenté par le Gouvernement, est ainsi libellé :
Alinéa 8
Supprimer cet alinéa.
La parole est à M. le secrétaire d’État.

M. Mounir Mahjoubi (Secrétaire d’État au Numérique) : Le présent amendement vise à supprimer l’alinéa 8 de l’article 14, qui prévoit la nullité des décisions administratives individuelles prises sur le fondement d’un traitement algorithmique qui ne comporteraient pas la mention prévue à l’article L. 311-3-1 du code des relations entre le public et l’administration.
Si le Gouvernement souscrit pleinement, je le répète, à l’objectif de faire appliquer l’article L. 311-3-1 du code des relations entre le public et l’administration, il n’est pas favorable à ce que l’absence de cette mention dans la décision conduise immédiatement à la nullité de cette dernière. Ce serait, selon nous, tout à fait disproportionné.
D’une part, il semble au Gouvernement que ce point doit être laissé à l’appréciation du juge administratif, la jurisprudence Danthony, en la matière, n’étant pas univoque.
D’autre part, le Gouvernement observe qu’il n’existe aucun précédent de ce type en matière d’obligations d’éditique. En effet, aujourd’hui, l’autre mention devant obligatoirement figurer dans les décisions administratives concerne les voies et délais de recours. L’absence de cette mention entraîne non pas la nullité des décisions, mais la simple non-opposabilité des délais de recours. La décision reste valide.
Concrètement, que signifierait, pour les Français, la nullité de la décision dans des cas très pratiques ? Si mon avis d’imposition ne comporte pas la mention en question, puis-je refuser de payer l’impôt ? Quelles seraient les conséquences de son absence dans un avis d’attribution du RSA ?
Je le redis simplement pour que la position du Gouvernement soit bien comprise : la mention est bien obligatoire et prévue par le droit existant ; nous faisons et ferons respecter cette obligation.

M. le président : L’amendement n° 145, présenté par Mme M. Carrère, est ainsi libellé :
Alinéa 8
Remplacer cet alinéa par trois alinéas ainsi rédigés :
II. – Le premier alinéa de l’article L. 311-3-1 du code des relations entre le public et l’administration est ainsi modifié :
1° À la première phrase, après le mot : « comporte », sont insérés les mots : « , à peine de nullité, » ;
2° À la seconde phrase, les mots : « communiquées par l’administration à l’intéressé s’il en fait la demande » sont remplacés par les mots : « publiées, ainsi que les modifications ultérieures relatives à ces règles ou caractéristiques ».
La parole est à Mme Maryse Carrère.

Mme Maryse Carrère : Nous avons tous conscience des gains administratifs à tirer de l’utilisation des nouveaux outils technologiques, tels les algorithmes. Lors de l’examen de la loi pour une République numérique, le groupe du RDSE avait cependant déjà pointé les limites de l’utilisation des algorithmes en termes de transparence des décisions individuelles prises sur ce fondement. Mes collègues avaient alors proposé et obtenu que les caractéristiques de ces algorithmes puissent être communiquées aux personnes intéressées qui en feraient la demande.
Comme l’a souligné l’Office parlementaire d’évaluation des choix scientifiques et technologiques, c’est moins le logiciel d’admission post-bac que les dispositions juridiques et les choix politiques sur le fondement desquels il a été programmé qui ont conduit au bug largement commenté.
Beaucoup considèrent que la réticence des ministères à communiquer les codes sources de tels algorithmes contribue à alimenter les suspicions à leur encontre. En cas de généralisation de traitements automatisés similaires, il est à craindre que les fondements effectifs des décisions administratives ne deviennent moins accessibles et moins intelligibles si ces codes sources ne sont pas communiqués.
Nous souhaitons donc que ces caractéristiques techniques soient systématiquement publiées, afin que chacun puisse prendre connaissance des critères effectivement retenus pour l’élaboration des décisions individuelles. Dès lors que ces algorithmes n’ont pas vocation à se substituer totalement à l’appréciation des agents administratifs chargés de préparer les décisions, il n’y a pas de raison de s’opposer à la libre communication de leurs codes sources. À l’heure de la transparence, il serait invraisemblable de maintenir l’opacité sur ce point !

M. Pierre Ouzoulias : Tout à fait !

Mme Esther Benbassa : Bravo !

M. le président : L’amendement n° 134 rectifié, présenté par MM. Durain et Sutour, Mme S. Robert, MM. Sueur, Kanner et les membres du groupe socialiste et républicain, est ainsi libellé :
Après l’alinéa 8
Insérer un paragraphe ainsi rédigé :
… - À la seconde phrase du premier alinéa de l’article L. 311-3-1 du code des relations entre le public et l’administration, les mots : « à l’intéressé s’il en fait la demande », sont remplacés par les mots : « aux intéressés ».
La parole est à M. Jérôme Durain.

M. Jérôme Durain : Le présent amendement s’inscrit dans le droit fil de l’amendement présenté par notre collègue Maryse Carrère.
Dans sa rédaction actuelle, l’article L. 311-3-1 du code des relations entre le public et l’administration prévoit que l’administration communique les informations concernant le fonctionnement de l’algorithme à l’intéressé, s’il en fait la demande.
Nous proposons d’inverser le principe : dès lors que les algorithmes sont partout et qu’ils seront encore plus présents dans les années à venir, il faut que la communication de ces informations se fasse de manière systématique et que l’intéressé n’ait plus à en faire la demande. Tel est l’objet de cet amendement, dont l’adoption permettrait d’assurer l’information des administrés sur le degré et le mode de contribution du traitement algorithmique à la prise de décision, la nature des données traitées et leurs sources, les paramètres de traitement et, éventuellement, leur pondération. Les modalités d’application de cet article seraient fixées par décret en Conseil d’État.

M. le président : Quel est l’avis de la commission ?

Mme Sophie Joissains : La commission est défavorable à l’amendement n° 98. À quoi cela sert-il de créer ou de déclarer des droits si le citoyen n’en est pas informé et si, finalement, ces droits restent lettre morte ?
La loi pour une République numérique, qui a été promulguée en octobre 2016, a prévu que les décisions individuelles fondées sur un traitement algorithmique devraient comporter une mention en ce sens.

M. Mounir Mahjoubi (Secrétaire d’État au Numérique) : Tout à fait !

Mme Sophie Joissains : L’administration doit appliquer la loi, tout simplement.
Dans la pratique, monsieur le secrétaire d’État, cela imposera simplement à l’administration d’envoyer, pour la même décision, le même courrier, mais comportant la mention. Il n’est pas forcément mauvais de sonner l’alarme de temps à autre…
L’amendement n° 145 de Maryse Carrère nous semble quant à lui satisfait. La commission s’en remettra toutefois à la sagesse du Sénat et, à titre personnel, je le voterai. Il en va de même pour l’amendement n° 134 rectifié.

M. le président : Quel est l’avis du Gouvernement ?

M. Mounir Mahjoubi (Secrétaire d’État au Numérique) : Le Gouvernement est défavorable à l’amendement n° 134 rectifié, un bon équilibre ayant été trouvé en matière d’information sur les algorithmes.
En premier lieu, les administrations sont soumises à une obligation générale de publier en ligne les règles définissant les principaux traitements algorithmiques utilisés dans l’accomplissement de leurs missions, lorsqu’ils fondent des décisions individuelles. C’est donc là un premier niveau d’information a priori pour tous les usagers et à tout moment. Cette obligation sera généralisée à compter du mois d’octobre 2018.
En deuxième lieu, une information systématique est délivrée à toute personne concernée par une décision administrative individuelle. La personne est informée à chaque fois de la mise en œuvre d’un traitement algorithmique par une mention bien visible dans la décision.

Mme Sophie Joissains : Cette obligation n’est pas respectée !

M. Mounir Mahjoubi (Secrétaire d’État au Numérique) : Nous ne nous opposons, madame la rapporteur, que sur la conséquence de l’absence de cette mention ; celle-ci est obligatoire. C’est d’ailleurs l’une des administrations que je dirige qui est chargée de faire respecter cette obligation : elle l’est déjà et elle le sera de plus en plus à l’avenir. En tout état de cause, la nullité de la décision en cas d’absence de cette mention est une sanction qui nous paraît disproportionnée.
La mention en question précise la finalité de l’algorithme et rappelle le droit de la personne concernée d’obtenir communication des règles du traitement et de leur application dans son cas particulier, ainsi que des modalités d’exercice de son droit à la communication et à la saisine.
En troisième lieu, si la personne en fait la demande, elle obtient beaucoup plus d’informations. Celles-ci, qui sont précisées au niveau réglementaire, sont au nombre de quatre : le degré et le mode de contribution du traitement algorithmique à la prise de décision ; les données traitées et leurs sources ; les paramètres de traitement et, le cas échéant, leur pondération appliquée à la situation de l’intéressé ; les opérations effectuées par le traitement.
Cette information est individualisée, très détaillée. Elle comprend l’intégralité des données ayant servi à faire fonctionner l’algorithme. Toutes ces caractéristiques font l’intérêt du dispositif, mais elles expliquent aussi que celui-ci ne soit pas, pour l’heure, automatisable ou généralisable. Elles imposent un traitement au cas par cas, ce qui représente une charge réelle pour les services. Aujourd’hui, ce sont bien des êtres humains, des agents publics qui prennent le temps de faire des réponses personnalisées, en réunissant toutes les informations.
S’il fallait informer systématiquement les personnes, comme le prévoit l’amendement n° 134 rectifié, il faudrait mettre en place un mécanisme automatisé, ce qui aurait pour conséquence une dégradation du niveau d’information.
Il existe aujourd’hui, à mon sens, un bon équilibre entre des vecteurs d’information systématique et la possibilité d’obtenir sur demande des informations beaucoup plus détaillées, par exemple lorsque la décision est défavorable ou en cas de questionnement sur ses motivations. La garantie de transparence doit notamment être considérée en lien avec les garanties liées au recours prévues dans le considérant 71 du règlement européen.
Enfin, les codes sources des algorithmes ayant des conséquences sociales, sanitaires ou économiques seront également mis à la disposition du public, ce qui permettra une complète redevabilité de l’administration, puisque des personnes, y compris des experts de la société civile, pourront les analyser en détail, voire rejouer des situations ou des scénarios, et vérifier que la procédure s’est correctement déroulée.
Concernant l’amendement n° 145, j’ai déjà évoqué la question de la nullité en cas d’absence de mention. Pour le reste, cet amendement est très largement, voire complètement, satisfait par le droit actuel. En effet, en vertu de l’article L. 312-1-3 du code des relations entre le public et l’administration, les administrations devront, à compter du mois d’octobre 2018, publier en ligne, de façon accessible au grand public, toutes les règles définissant les principaux traitements algorithmiques utilisés.
Le Gouvernement est défavorable à l’amendement n° 145.

M. le président : La parole est à M. Pierre Ouzoulias, pour explication de vote.

M. Pierre Ouzoulias : Monsieur le secrétaire d’État, j’aimerais être sûr d’avoir parfaitement compris votre analyse… J’ai en tout cas le sentiment qu’elle répond à l’une des interrogations que nous avons soulevées à l’instant.
Revenons sur la mise en œuvre de la loi relative à l’orientation et à la réussite des étudiants. Parcoursup est soumis au contrôle que vous venez d’évoquer. Les dossiers adressés aux universités sont traités par des algorithmes locaux, qui réalisent un pré-tri automatisé. Ensuite, ils sont transmis aux jurys, qui prennent une décision sur le fondement d’un examen pédagogique. Pouvez-vous me confirmer, monsieur le secrétaire d’État, que les algorithmes locaux mis au point par les universités seront eux aussi soumis aux règles posées à l’article 14 ?

M. Mounir Mahjoubi (Secrétaire d’État au Numérique) : Oui ! Je défendrai d’ailleurs cette position en présentant l’amendement n° 99 du Gouvernement.

M. Pierre Ouzoulias : Cette réponse vous engage, monsieur le secrétaire d’État !

M. le président : La parole est à Mme Nathalie Goulet, pour explication de vote.

Mme Nathalie Goulet : Je soutiens Mme la rapporteur sur le sujet, car une grande confiance n’exclut pas une petite méfiance ! (Sourires.)

M. Philippe Bas : C’est un proverbe normand ! (Nouveaux sourires.)

Mme Nathalie Goulet : En effet !
Monsieur le secrétaire d’État, pour votre part, vous connaissez tout cela par cœur, mais, il n’y a pas si longtemps, quand le ministre de la défense parlait d’algorithmes et qu’on lui demandait des détails, on s’apercevait qu’il n’avait peut-être pas tout compris, non plus que nous, d’ailleurs ! Peut-être serez-vous demain au banc du Gouvernement pour l’examen du projet de loi portant transposition de la directive concernant les services de paiement dans le marché intérieur : il faudrait en prévoir une version « pour les nuls », afin que nous puissions comprendre de quoi il s’agit, tant ce texte est abscons !
Il serait bon que vous puissiez nous exposer comment l’administration s’y prendra pour expliquer en détail à nos concitoyens la procédure et le fonctionnement des algorithmes, et quels éléments elle produira à cette fin.

M. Jérôme Durain : Tout à fait !

Mme Nathalie Goulet : Je pense en particulier à l’exemple, figurant dans l’excellent rapport de notre commission, d’un établissement de crédit souhaitant confier à un automate le soin d’évaluer la solvabilité des emprunteurs…
Je doute non pas de la qualité de ces explications, mais de leur compréhension par le citoyen lambda. La procédure est somme toute un peu nouvelle et elle recourt à des processus parfois totalement étrangers aux contribuables, aux demandeurs d’un crédit et, plus encore, aux étudiants confrontés à Parcoursup.
Plus les garanties inscrites dans la loi seront nombreuses, plus les sanctions seront importantes, mieux cela vaudra. Ainsi, la nullité de la décision en l’absence de mention obligera l’administration à se montrer intelligible.

M. le président : La parole est à M. Arnaud de Belenet, pour explication de vote.

M. Arnaud de Belenet : J’entends les doutes qui s’expriment sur ce sujet très technique, mais aussi les explications d’un secrétaire d’État qui, à la différence du ministre des armées évoqué à l’instant,…

Mme Nathalie Goulet : … connaît son sujet !

M. Arnaud de Belenet : … est un expert de ce domaine. Ses explications sont pragmatiques, claires et presque intelligibles pour les non-initiés ! (Sourires.)

M. Jérôme Durain : « Presque »…

M. Arnaud de Belenet : Je parle à titre personnel !
En tout état de cause, je suis pour ma part plutôt enclin à lui faire confiance. Peut-être cette inclination n’est-elle pas pleinement partagée dans l’hémicycle,…

Mme Esther Benbassa : Non, pas vraiment !

M. Arnaud de Belenet : … auquel cas il me semblerait intéressant d’examiner la manière dont ceux qui sont directement concernés vivent les choses.
À cet égard, la Conférence des présidents d’université confirme en pratique ce que nous dit le secrétaire d’État, puisqu’elle attend de nous que nous adoptions l’amendement n° 99, qui viendra en discussion dans un instant. Mme Morin-Desailly pourrait nous le confirmer. Dans ces conditions, pourquoi prendre le risque indiqué par M. le secrétaire d’État ?

M. le président : La parole est à M. Jérôme Durain, pour explication de vote.

M. Jérôme Durain : L’inclination de M. de Belenet est finalement assez logique. Pour ma part, j’ai trouvé l’argumentation de M. le secrétaire d’État non pas « presque », mais tout à fait intelligible, très solide et très argumentée.
Ce qui m’inquiète tout de même, en dernière analyse, c’est que, en guise de réponse à notre demande que les administrés bénéficient d’une information systématique, il décrive un parcours du combattant extrêmement ardu et escarpé, avec plusieurs niveaux de recours, pour obtenir communication de l’ensemble des éléments utiles et nécessaires. Il y a un monde entre ce que nous demandons et ce que vous exposez !
Enfin, vous opposez à notre demande d’une information systématique, qui relève d’une position de principe, un argument de moyens : ce n’est pas possible parce que cela représenterait trop de travail.
Pour ces raisons, je maintiens mon amendement, conservant une petite méfiance, pour reprendre le proverbe normand cité par notre collègue Nathalie Goulet…

M. le président : Je mets aux voix l’amendement n° 98.
(L’amendement n’est pas adopté.)

M. le président : Je mets aux voix l’amendement n° 145.
(L’amendement est adopté.)

M. le président : En conséquence, l’amendement n° 134 rectifié n’a plus d’objet.
L’amendement n° 99, présenté par le Gouvernement, est ainsi libellé :
Alinéa 9
Supprimer cet alinéa
La parole est à M. le secrétaire d’État.

M. Mounir Mahjoubi (Secrétaire d’État au Numérique) : Si vous me le permettez, monsieur le président, je prendrai un peu de temps pour présenter de manière précise et complète cet amendement, d’une particulière importance.
Il a pour objet de rétablir une disposition de la loi du 8 mars 2018 relative à l’orientation et à la réussite des étudiants qui a été supprimée par la commission des lois.
Avant toute chose, je rappelle que cette loi est entrée en vigueur il y a tout juste deux semaines, après avoir été adoptée par le Sénat en février dernier. Que l’on envisage de modifier le droit applicable à ce stade de la procédure Parcoursup suscite déjà une très vive inquiétude dans les établissements d’enseignement supérieur, lesquels devront entamer l’examen des vœux de plusieurs millions de lycéens dans une dizaine de jours.
À la lumière de l’article 14 du présent projet de loi, la commission des lois du Sénat considère que cette disposition qui protège le secret des délibérations des équipes pédagogiques chargées de l’examen des candidatures ouvrirait la voie à une généralisation du traitement algorithmique pour produire les décisions d’affectation sans aucune intervention humaine.
Dans un souci de clarté et de précision, je voudrais rappeler quelle vision et quelle philosophie ont guidé le Gouvernement tout au long de la refondation de l’accès au premier cycle universitaire.
Pour mettre un terme à l’opacité qui entourait le fonctionnement de la plateforme APB, opacité que nous avons nous-mêmes dénoncée dès notre arrivée au pouvoir, le Gouvernement a articulé la procédure d’inscription en licence autour de deux exigences fondamentales : remettre de l’humain dans la procédure d’affectation en écartant toute prise de décision sur le seul fondement d’un algorithme ; garantir la transparence de la procédure d’affectation, tant au niveau national qu’au niveau local. Tels sont les deux piliers de notre projet.
Les nouvelles dispositions de l’article L. 612-3 du code de l’éducation issues de la loi relative à l’orientation et à la réussite des étudiants garantissent la transparence, qu’il s’agisse du fonctionnement de la plateforme Parcoursup en général ou de la procédure de traitement des dossiers de candidature dans les établissements. Les critères d’examen des vœux sont publics. La loi instaure un critère général, celui de la cohérence entre le profil du candidat et les caractéristiques des formations demandées.
Conformément aux alinéas 2 et 3 du I de l’article du code de l’éducation précité, toutes les informations relatives aux éléments pris en compte pour l’examen des dossiers au titre des 13 000 formations inscrites dans Parcoursup sont mises à la disposition des lycéens sur la plateforme.
Les critères d’examen ne sont pas les seuls éléments rendus publics. Le II de l’article prévoit que la transparence s’applique également aux traitements automatisés, ainsi qu’au code source de l’outil d’aide à la décision proposé aux formations par le ministère pour les assister dans l’examen des vœux. En d’autres termes, il n’y a pas de « boîte noire » : le principe de transparence vaut pour les critères, les traitements, le code source de l’algorithme national et celui de l’outil d’aide aux établissements.
Ce n’est pas fini ! J’ai rappelé que l’obligation d’une intervention humaine constituait le premier pilier de la loi relative à l’orientation et à la réussite des étudiants. Dans les établissements, les équipes pédagogiques devront suivre une procédure d’examen des vœux qui exclut toute prise de décision automatisée. C’est pourquoi vous me permettrez, monsieur Ouzoulias, de nuancer la présentation que vous avez pu faire de la procédure telle qu’elle se déroule aujourd’hui dans les établissements.
Le décret d’application de la loi instaure, pour chaque formation, une commission d’examen des vœux, principalement composée d’enseignants chargés d’examiner et de classer les dossiers. Comme son nom l’indique, l’outil d’aide à la décision, dont le code source sera donc publié, n’est qu’un appui proposé à la commission d’examen. Celle-ci peut décider de ne pas l’utiliser du tout ; certaines de ces commissions ont d’ailleurs fait ce choix. Si la commission d’examen souhaite utiliser cet outil, elle doit le paramétrer en fonction des éléments d’appréciation pédagogique qu’elle seule peut déterminer, en superviser le fonctionnement et en valider le résultat. Il s’agit bien d’un outil à la main de la commission d’examen. Ce paramétrage consiste, pour l’essentiel, à préciser, à hiérarchiser et à pondérer les critères qui ont été portés à la connaissance des candidats sur la plateforme Parcoursup.
Seule la commission d’examen des vœux est compétente pour décider des réponses qui seront faites aux candidats. Ainsi, la manière dont l’outil d’aide à la décision est utilisé est indissociable de la délibération elle-même, mais ne s’y substitue pas. Le module en lui-même ne peut fonder la décision de l’établissement. Celle-ci ne peut découler que des délibérations de la commission, qui doit examiner chaque dossier individuel : c’est l’esprit même de tout le projet. C’est d’ailleurs pour garantir que les établissements pourront procéder à l’évaluation de chacun des dossiers que le Gouvernement a mobilisé, en leur faveur, une aide spéciale de près de 10 millions d’euros.

M. Pierre Ouzoulias : On nous avait parlé de 6 millions d’euros, mais bon, si vous le dites…

Mme Esther Benbassa : Le chiffre change tout le temps !

M. Mounir Mahjoubi (Secrétaire d’État au Numérique) : Cela a été annoncé dimanche.

Mme Esther Benbassa : Très bien !

Mme Sophie Joissains : L’amendement de la commission aura fait beaucoup de bien, finalement…

M. Mounir Mahjoubi (Secrétaire d’État au Numérique) : Enfin, la disposition que nous souhaitons rétablir permet d’ancrer le rôle des équipes pédagogiques dans la loi et de protéger le contenu de leurs délibérations. Concrètement, il s’agit de garantir à chaque candidat un accès individuel aux éléments et motifs qui justifient la décision prise par l’établissement.
Jusqu’à présent, la loi de 1979 relative à la motivation des actes administratifs n’imposait pas aux équipes pédagogiques de motiver leurs notes et leurs décisions. La disposition adoptée en février dernier par le Sénat est donc une avancée majeure en faveur de la transparence.
Elle permet à chaque étudiant, à titre individuel, d’obtenir tous les éléments qui ont justifié localement la décision de l’établissement. Cette transparence va jusqu’au rang assigné au candidat par la commission d’examen, et même jusqu’au niveau de l’appréciation portée par elle sur chacun des critères utilisés pour l’évaluation des dossiers.
L’application des dispositions de droit commun conduirait à rendre publics tous les éléments d’appréciation retenus par les équipes pédagogiques, lesquels sont couverts par le principe du secret des délibérations, conformément à la jurisprudence du Conseil d’État. Une telle remise en cause serait excessive : elle priverait de protection les délibérations des équipes pédagogiques, lesquelles, par crainte de recours contentieux, seraient amenées soit à renoncer au module d’aide à la décision, soit à y recourir, mais de façon mécanique, sans l’orienter dans le sens d’une véritable démarche pédagogique. Seul le rétablissement de la disposition en question permettra d’assurer l’équilibre entre la souveraineté de la commission et l’utilisation d’outils modernes d’aide à la décision.
En vue de parer à d’éventuelles dérives, la loi du 8 mars 2018 relative à l’orientation et à la réussite des étudiants a par ailleurs institué un comité d’éthique et scientifique qui a vocation à prévenir ce type de risques et à garantir une intervention humaine systématique dans le traitement des dossiers, ainsi qu’un haut niveau de protection des candidats. Le Sénat a consacré l’existence de ce comité dans la loi, de manière à lui conférer pérennité et indépendance.
Frédérique Vidal, ministre de l’enseignement supérieur, de la recherche et de l’innovation, se tient à votre disposition et à celle des commissions des lois et de la culture pour rendre compte du traitement des vœux.
Je propose au Sénat de rétablir cette disposition en adoptant l’amendement du Gouvernement. J’espère que ma présentation de celui-ci, que nous avons voulu aussi précise et complète que possible, aura pu vous convaincre ; l’ensemble du Gouvernement y a travaillé !

M. Philippe Bas : Merci !

M. le président : Quel est l’avis de la commission ?

Mme Sophie Joissains : Je voudrais d’abord dire que, si le dépôt de cet amendement a permis le déblocage de 10 millions d’euros au bénéfice des établissements d’enseignement supérieur, nous en sommes déjà très heureux ! (Sourires.)

M. Pierre Ouzoulias : Oui !

Mme Esther Benbassa : C’est déjà pas mal !

Mme Sophie Joissains : Il s’agit ici de la nouvelle procédure d’affectation des bacheliers dans l’enseignement supérieur, dite « Parcoursup ».
On se souvient du scandale provoqué par la précédente procédure, dite « Admission post-bac », qui utilisait à la fois des algorithmes de classement des candidatures, notamment dans les filières non sélectives en tension, et un algorithme d’appariement. Les paramètres utilisés par les algorithmes de classement reposaient sur une base légale extrêmement fragile. Jusqu’à l’an dernier, ils n’avaient été ni explicités dans un texte réglementaire ni publiés sous quelque forme que ce soit. La communication du ministère était même délibérément trompeuse à ce sujet. Je crois que tout le monde le reconnaît aujourd’hui. Cela explique que nous n’hésitions pas, désormais, à tirer la sonnette d’alarme en temps et en heure.
Avec Parcoursup, il ne sera plus fait appel à un algorithme d’appariement du type de celui que comportait APB. En revanche, les formations devront examiner et classer un nombre de dossiers beaucoup plus élevé que précédemment et auront recours, pour ce faire, à des algorithmes de classement.

Mme Esther Benbassa et M. Pierre Ouzoulias : Bien sûr !

M. Mounir Mahjoubi (Secrétaire d’État au Numérique) : Oui, mais on expliquera avec quels critères ils fonctionnent !

Mme Sophie Joissains : Or, le 7 février dernier, lors de l’examen du projet de loi relatif à l’orientation et à la réussite des étudiants, le Gouvernement a fait adopter un amendement de dernière minute, déposé en séance publique sans que la commission de la culture ait pu en faire un examen approfondi, qui exonère ces algorithmes de classement des obligations de transparence prévues par le code des relations entre le public et l’administration. Le rapporteur de la commission de la culture, Jacques Grosperrin, avait, au contraire, déposé un amendement imposant dans tous les cas la publication des règles de l’algorithme et des principales caractéristiques de sa mise en œuvre.
La commission des lois a choisi de revenir sur cette première entorse aux règles de transparence définies par la loi pour une République numérique.
Écartons d’emblée l’un des griefs avancés par le Gouvernement : la suppression du dernier alinéa du I de l’article L. 612-3 du code de l’éducation ne prive nullement de base légale les délibérations des équipes pédagogiques.
Nous voulons bien faire crédit au Gouvernement qu’aucun dossier ne sera accepté ou rejeté sans examen, sur le simple fondement du résultat produit par l’algorithme de classement.
Cependant, la loi n’empêche pas une telle dérive : le critère de la cohérence entre le profil du candidat et les attendus de la formation demandée est tout de même extrêmement large, pour ne pas dire vague.
Si tous les dossiers doivent être réexaminés par les équipes pédagogiques, pourquoi les préordonnancer au moyen d’algorithmes de classement ? Il y a tout lieu de craindre que l’examen humain ne soit, au mieux, que superficiel, et a minima pour certains dossiers très bien ou très mal classés. Dès lors, il nous paraît légitime que les bacheliers puissent savoir quels critères de classement leur ont été appliqués par voie d’algorithme, conformément au droit commun.
Toutefois, je peux entendre la crainte que les établissements d’enseignement supérieur soient déstabilisés au cours de la première année d’application de Parcoursup, alors qu’ils l’ont déjà été avec le système APB il y a très peu de temps.
L’application des règles de transparence de droit commun a attiré l’attention sur l’usage fait par les établissements d’algorithmes de classement, sur les différences entre les résultats produits par un algorithme et le classement issu des délibérations des équipes pédagogiques. Cela pourrait évidemment encourager les recours.
Dans ces conditions, les enseignants-chercheurs pourraient être encore plus réticents qu’ils ne le sont déjà à l’égard de la nouvelle procédure.
Mes chers collègues, je crois nécessaire que le Sénat réaffirme une position de principe à ce sujet. Il n’y a aucune raison que les garanties de transparence offertes à l’ensemble des administrés ne s’appliquent pas à l’accès à l’université, d’autant qu’il y a aussi une vertu pédagogique à cela : un étudiant qui aura échoué à entrer dans un établissement d’enseignement supérieur aura besoin de connaître les critères appliqués, ne serait-ce que pour mieux se préparer en vue de l’année suivante.
Cela étant, par souci de pragmatisme, je prends l’engagement, au nom de la commission des lois, de rechercher un terrain de compromis, en commission mixte paritaire, en vue de reporter au 1er janvier 2019 l’entrée en vigueur du III de l’article 14. Cela obligera le Gouvernement à revenir sur le sujet dans la perspective de la rentrée 2019, mais laissera tout de même une année d’apaisement aux établissements d’enseignement supérieur.
Par ailleurs, il nous paraît important de faire apparaître clairement dans le code de l’éducation que les décisions d’inscription ou de refus d’inscription dans un établissement d’enseignement supérieur ne peuvent être prises sur le fondement exclusif d’un algorithme.
En conclusion, la commission émet un avis défavorable sur l’amendement du Gouvernement. (Mmes Esther Benbassa et Catherine Morin-Desailly, M. Loïc Hervé applaudissent.)

M. le président : La parole est à Mme Sylvie Robert, pour explication de vote.

Mme Sylvie Robert : Je souhaite répondre à l’interpellation de Mme la rapporteur et, plus généralement, aux propos que nous venons d’entendre.
Je dois avouer que mes collègues de groupe et moi-même avons été extrêmement frustrés de ce qui s’est produit à la fin de l’examen du projet de loi relatif à l’orientation et à la réussite des étudiants. Je fais référence à la question du secret des délibérations et à cet amendement, présenté beaucoup trop tardivement pour que nous puissions véritablement l’examiner en commission.
En plus de l’urgence à mettre en œuvre Parcoursup et les nouvelles politiques d’orientation des étudiants, en plus de l’urgence en matière de financement et du contexte ayant prévalu à l’examen du projet de loi, voilà que nous découvrions un angle mort !
Cet amendement nous a donc laissés sur notre faim, et je suis très heureuse, aujourd’hui, que nous puissions reprendre ce débat, à la faveur du présent texte de loi et de cet amendement du Gouvernement. Comme vous l’imaginez, mes chers collègues, nous ne souscrivons pas à son contenu, mais l’intervention de Mme la rapporteur nous a au moins permis de relancer le sujet.
Je serai très brève. Je peux tout à fait entendre qu’un délai de quelques semaines – la CMP et la promulgation sont prévues, je crois, pour le mois d’avril prochain – mette les universités en difficulté, la loi ayant « abandonné » aux établissements le traitement des dossiers en vue du classement des candidats.
Néanmoins, nous savons tous que les universités vont mettre en place des algorithmes « maison » – c’est ainsi que je les appelle. C’est obligatoire au vu du nombre de dossiers à traiter et de la situation extrêmement difficile à laquelle elles sont, et continueront à être, confrontées.
Vous êtes forcément attachés, madame la garde des sceaux, monsieur le secrétaire d’État, à la question de la transparence, car celle-ci participe de la confiance de nos concitoyens, à la fois dans l’outil mis en place et, plus généralement, dans le recours aux algorithmes.
Si, comme Mme la rapporteur l’a souligné, nous avons l’assurance que de tels principes seront bien inscrits dans la loi, avec un compromis en CMP permettant d’envisager une mise en œuvre pour Parcoursup seulement au début de l’année 2019, nous pourrons trouver un accord, me semble-t-il.

M. le président : Il faut conclure, ma chère collègue.

Mme Sylvie Robert : Je terminerai en soulignant que cette question n’est vraiment pas anodine. On parle d’orientation et au-delà, vous l’avez bien vu, de sélection. C’est cela aussi qui a brouillé les cartes.

M. le président : Mes chers collègues, compte tenu du nombre de demandes d’explication de vote, je vais devoir interrompre nos travaux (Exclamations.) ; nous les reprendrons à vingt et une heures trente-cinq.
La séance est suspendue.
(La séance, suspendue à vingt heures cinq, est reprise à vingt et une heures trente-cinq.)

M. le président : La séance est reprise.
Nous poursuivons la discussion du projet de loi, adopté par l’Assemblée nationale après engagement de la procédure accélérée, relatif à la protection des données personnelles.
Dans la discussion du texte de la commission, nous poursuivons, au sein de l’article 14, les explications de vote sur l’amendement n° 99.
La parole est à M. Pierre Ouzoulias, pour explication de vote.

M. Pierre Ouzoulias : Ce sera, mes chers collègues, une intervention en deux temps.
Sur la forme, tout d’abord, vous nous opposez une nouvelle fois le problème du temps, monsieur le secrétaire d’État, en évoquant la pression suscitée par la nécessité d’assurer une rentrée sans ombrage.
Vous savez parfaitement, pour l’avoir appris, que c’est le dispositif tactique mis au point par la ministre de l’enseignement supérieur, de la recherche et de l’innovation durant toute la discussion du projet de loi relatif à l’orientation et à la réussite des étudiants, laquelle est même allée jusqu’à promulguer un arrêté avant l’examen du texte au Sénat.
À cette occasion, nous lui avons indiqué avoir les plus grandes craintes quant à la précipitation avec laquelle les différents dispositifs étaient mis en place. Malheureusement, les remontées du terrain nous donnent aujourd’hui raison ! Il aurait fallu prendre un peu plus de temps, afin de réaliser un travail législatif plus approfondi.
Sur le fond, ensuite, je comprends parfaitement votre raisonnement in abstracto, consistant à prendre devant nous l’engagement absolu que tous les dossiers bénéficieront d’un examen individuel et que les algorithmes, s’ils sont employés, seront uniquement constitutifs de la prise de décision pédagogique des jurys.
Toutefois, cela, c’est la théorie ; la pratique, telle qu’elle se dévoile aujourd’hui dans les universités, est tout autre ! Nos collègues universitaires – vous le savez, car vous disposez des mêmes informations que nous – sont confrontés à une avalanche de dossiers que, matériellement, ils ne peuvent pas traiter de manière individuelle. C’est absolument impossible ! Ils ont donc bien évidemment recours à des traitements automatisés.
Même si nous ne pouvons que partager votre volonté que se mette en place un traitement personnalisé de chaque dossier, il faudra bien admettre que, dans certaines situations, les équipes pédagogiques seront contraintes de procéder autrement. Dans de tels cas – exceptionnels selon vous, ordinaires selon nous –, il y a nécessité, sur les fondements juridiques que notre rapporteur a explicités, de rendre possible un examen des algorithmes permettant un traitement automatisé.

M. le président : La parole est à Mme Catherine Morin-Desailly, pour explication de vote.

Mme Catherine Morin-Desailly : Je veux rebondir sur les propos de Mme Sylvie Robert, que je partage tout à fait. Je suis également d’accord avec vous, cher Pierre Ouzoulias, sur l’urgence que l’on nous impose sans cesse dans notre travail de législateur. Or pour bien légiférer, pour réaliser les études, mener la réflexion, conduire les concertations, il faut du temps. Je partage tout à fait ce constat.
La contrainte, dans le cadre du projet de loi relatif à l’orientation et à la réussite des étudiants, c’était l’organisation de la rentrée scolaire, prise dans l’étau de la fin du système Admission post-bac, dit « APB », déclaré illégal, et d’une nouvelle procédure à mettre en place. On ne pouvait se permettre une année blanche.
La loi que nous avons votée est désormais en application. Elle a été promulguée voilà quelques jours, après, d’ailleurs, que le Conseil constitutionnel s’est prononcé, validant le travail réalisé dans nos assemblées – je tiens à le dire pour rassurer ceux qui nous écoutent.
Néanmoins, on sait très bien que cette année sera nécessairement une année d’adaptation et de transition, après la disparition d’un ancien système, qui, je le rappelle, était hautement critiquable et que nous avions critiqué à l’époque. C’était un dispositif complètement opaque, dans lequel la décision humaine ne semblait plus avoir sa place pour garantir une orientation utile de nos étudiants.
Je soutiens complètement Mme la rapporteur dans sa proposition consistant, dans le cadre de la CMP – cela nous laissera un peu de temps pour approfondir le sujet –, à rassurer les présidents d’université, les universitaires et les enseignants dans les lycées, qui finalisent actuellement la procédure avec les élèves et les parents accompagnateurs, tout en prenant en compte une exigence accrue de transparence des algorithmes. En effet, notre rapporteur l’a bien dit, il est absolument nécessaire que nous puissions savoir précisément comment ces boîtes noires fonctionnent.
Par ailleurs, n’oublions pas l’élément humain dans cette affaire, car les principaux concernés sont les étudiants.
Pour ma part, je plaide pour que ces outils numériques ne soient que des outils d’aide, éventuelle, à la prise de décision dans le cadre des commissions pédagogiques, mais aussi à l’organisation des vœux et à la réussite de l’orientation. Oui, ils ne doivent être que des outils au service de la réussite des étudiants, afin que leurs aspirations soient bien respectées dans les vœux finaux, pour le succès de leur vie future.
Je me fie donc entièrement à Mme la rapporteur, qui nous indique qu’elle réfléchira d’ici à la CMP pour dégager des solutions pratiques. Nous pouvons ainsi avancer utilement, et je crois que les collègues de la commission de la culture ici présents ne verront rien à y redire. (Mme Sylvie Robert acquiesce.)

M. le président : La parole est à Mme Esther Benbassa, pour explication de vote.

Mme Esther Benbassa : Je suis tout à fait d’accord avec Mme Catherine Morin-Desailly.
Monsieur le secrétaire d’État, il faut cesser de nous décrire, comme vous venez de le faire, une version idéale de Parcoursup. Nous avons plus ou moins discuté dans les universités et nous sommes conscients que nous ne pourrons pas gérer les dossiers. Nous passerons par des algorithmes, et vous le savez bien. Nous ne disposons tout simplement pas des moyens en personnel, sachant que nous avons aussi notre travail d’enseignement à assurer.
Peut-être faut-il chercher des solutions pratiques pour que l’on puisse, l’année prochaine, travailler sur ces dossiers d’une manière beaucoup plus humanisée, et pas uniquement à base d’algorithmes. Pour l’heure, nous allons choisir les meilleurs, et pour les autres, on verra…
C’est la vérité ! Il ne faut pas la cacher. Nous sommes les praticiens de Parcoursup. Les mots ne suffisent pas à gérer les problèmes. Nos dirigeants semblent naviguer dans un monde quelque un peu idéalisé, mais nous, nous faisons le travail. Certes, le système que vous proposez est mieux qu’avant, mais ne prétendez pas, monsieur le secrétaire d’État, que ce sera fait par des humains. Hormis une partie des dossiers, peut-être, c’est impossible !

M. le président : La parole est à M. Marc Laménie, pour explication de vote.

M. Marc Laménie : Sur cet amendement n° 99 du Gouvernement, dont M. le secrétaire d’État a largement développé l’objet, je soutiens complètement l’avis circonstancié de la commission des lois. Je partage aussi les propos de Mme la présidente de la commission de la culture, de l’éducation et de la communication, qui a rappelé à quel point la loi que nous avons examinée voilà quelques semaines a constitué un temps fort pour l’enseignement supérieur et la recherche. Différents problèmes ont été abordés et, naturellement, il faut saluer le travail des membres des deux commissions compétentes.
Je tiens donc simplement à apporter un témoignage de soutien. Cet amendement vient à point pour rappeler la nécessité d’une intervention humaine – vous avez longuement évoqué le sujet, madame la garde des sceaux, monsieur le secrétaire d’État –, pour faire évoluer les choses positivement. Il faut rassurer, parce que la situation suscite tout de même des inquiétudes et parce le devenir de la jeunesse et de nos étudiants doit être une priorité.

M. le président : Je mets aux voix l’amendement n° 99.
(L’amendement n’est pas adopté.)

M. le président : Je mets aux voix l’article 14, modifié.
(L’article 14 est adopté.)