Protection des données personnelles : Demande de renvoi à la commission de l’article 14

Protection des données personnelles : Demande de renvoi à la commission de l’article 14

debate, 19/04/2018, fr — source : Sénat, compte rendu intégral

Mme la présidente : Je suis saisie, par M. Ouzoulias, Mme Assassi, M. Bocquet, Mme Cohen, M. Collombat, Mme Cukierman, MM. Foucaud, Gay et Gontard, Mme Gréaume, M. P. Laurent, Mme Prunaud et MM. Savoldelli et Watrin, d’une motion n° 1 rectifié.
Cette motion est ainsi rédigée :
En application de l’article 44, alinéa 5, du règlement, le Sénat décide qu’il y a lieu de renvoyer à la commission l’article 14 du projet de loi relatif à la protection des données personnelles (n° 425, 2017-2018).
Je rappelle que, en application de l’article 44, alinéa 8, du règlement du Sénat, ont seuls droit à la parole sur cette motion l’auteur de l’initiative ou son représentant, pour deux minutes trente, un orateur d’opinion contraire, pour deux minutes trente également, le président ou le rapporteur de la commission saisie au fond et le Gouvernement.
Aucune explication de vote n’est admise.
La parole est à M. Pierre Ouzoulias, pour la motion.

M. Pierre Ouzoulias : Madame la présidente, madame la ministre, mes chers collègues, je veux en préambule remercier fortement Sophie Joissains, notre rapporteur, de ses propos de ce matin, lesquels étaient empreints d’un sens républicain qui honore la Haute Assemblée.
Madame la rapporteur, la demande de renvoi à la commission est destinée à vous aider dans votre argumentation et à vous apporter, si vous le souhaitez, en commission, des éléments techniques et un peu longs à exposer, mais qui me paraissent déterminants et qui vont tout à fait dans votre sens.
L’article 14 porte sur ce qu’on a appelé les algorithmes locaux. De quoi s’agit-il ? Il s’agit de traitements informatisés automatiques mis en place dans les universités à partir des données collectées par Parcoursup. Ce corpus peut être soumis à différents traitements multiples sur lesquels nous désirons vivement, et je le souhaite comme vous, que la plus grande transparence soit faite.
Il nous semble en effet, et c’est ce qui remonte du terrain, que certains critères ne correspondent pas à l’esprit de la loi, notamment le recours systématique à des tirages aléatoires, au tirage au sort. L’acharnement du Gouvernement à ne pas vouloir de transparence sur ces algorithmes locaux est destiné à cacher quelque chose qui commence à être avéré, c’est-à-dire le recours systématique au tirage au sort dans ces algorithmes mis au point au petit bonheur la chance par chacune des universités.
J’aimerais, pour conclure, vous citer le propos de la rapporteur à l’Assemblée nationale : « Le Sénat a eu une position conservatrice peu compréhensible, visant à restreindre considérablement, et souvent en contradiction avec le règlement européen, le recours à ces outils d’aide à la décision. »
Oui, le Sénat est conservateur, conservateur des libertés individuelles, et nous y tenons.

Mme la présidente : Y a-t-il un orateur contre la motion ?…
Quel est l’avis de la commission ?

Mme Sophie Joissains : Le renvoi à la commission est difficile. Néanmoins, nous partageons totalement sur le fond les arguments de notre collègue Pierre Ouzoulias et de certains des membres du groupe communiste républicain citoyen et écologiste.
L’article 14 est, effectivement, d’une importance tout à fait considérable. Pour la première fois dans notre droit, il ouvre la voie à l’automatisation complète des décisions individuelles prises par l’administration.
Je n’ai pas ménagé mes efforts pour convaincre nos collègues députés de la nécessité de trouver une rédaction de cet article protectrice des droits et libertés des citoyens. Le texte du Gouvernement ne comportait presque aucun garde-fou, et ceux qu’a ajoutés l’Assemblée nationale m’ont paru très insuffisants.
Hélas, ces efforts ont été vains, car l’Assemblée nationale s’est pliée à la volonté du Gouvernement.
Il en va de même du problème particulier de Parcoursup : les députés se sont contentés d’une demande de rapport au Comité éthique et scientifique chargé de superviser Parcoursup.
Tout cela est désolant. Le rôle du Parlement n’est pas de demander des rapports, en même temps qu’il ouvre grand la voie à des dérives qu’il prétend dénoncer. Le rôle du Parlement est de fixer des normes et, en l’occurrence, d’obliger l’administration à respecter les droits des citoyens.
Pour ce qui concerne Parcoursup, je suis d’autant plus étonnée de voir le Gouvernement et l’Assemblée nationale rester sourds aux préoccupations exprimées par le Sénat que deux éléments nouveaux sont apparus depuis la première lecture.
D’une part, dans sa délibération du 22 mars 2018 sur Parcoursup, la CNIL a relevé que la dérogation dont bénéficie Parcoursup aux règles de transparence prévues par le code des relations entre le public et l’administration était sans effet, puisque la loi Informatique et libertés et le règlement européen lui-même comportent des règles similaires. Selon la CNIL, « les établissements d’enseignement supérieur qui recourraient à un traitement algorithmique pour examiner les candidatures qui leur sont soumises devront également fournir l’ensemble des éléments permettant de comprendre la logique qui sous-tend cet algorithme. »
D’autre part, le Président de la République, dans son allocution du 28 mars 2018 au Collège de France sur l’intelligence artificielle, a clairement pris position pour la transparence dans l’usage des algorithmes, y compris pour l’accès à l’université. Il a d’ailleurs émis le souhait que des décisions ne soient jamais entièrement déléguées à un algorithme, ce qui va directement à l’encontre des dispositions prévues à cet article – il faut bien le dire.
Pour le Président de la République, « la clé est de mettre partout de la transparence publique sur les algorithmes, rendre les algorithmes publics, s’assurer qu’ils sont utilisés en transparence, traquer leurs biais, ne pas leur confier le monopole de la décision, s’engager à les enrichir ou les compléter par la décision humaine. » C’est ce que le Sénat avait prévu.
Le chef de l’État poursuivait ainsi : « Cette transparence, elle suppose une interaction permanente entre l’intelligence artificielle et l’humain et les choix qui seront faits, elle suppose des débats permanents, des corrections, elle suppose à partir du moment où on va mettre l’entrée à l’université, l’entrée dans une profession ou une formation derrière un algorithme, la nécessité de rendre plus démocratique cet algorithme et donc de s’assurer de sa loyauté, de s’assurer de sa transparence complète et qu’il puisse y avoir un débat sur ces règles sinon nous déléguons à l’algorithme le choix entre des priorités démocratiques. »
Voilà d’excellents principes, qui restent lettre morte dans ce texte qui sera bientôt voté par l’Assemblée nationale.
Dans ce contexte, nous avons appris à la lecture du journal Le Monde que l’Inspection générale de l’administration de l’éducation nationale et de la recherche avait produit, à l’intention de la ministre de l’enseignement supérieur, une note de suivi particulièrement alarmiste.
Dans cette note, l’Inspection générale aurait mis en garde contre un dispositif qui pose des difficultés philosophiques ou techniques liées à l’examen des candidatures. Elle aurait souligné que les établissements sont encore loin d’être prêts à examiner et à sélectionner les dossiers qui vont leur être soumis, que les critères appliqués varient d’une université à l’autre et sont parfois dénués de fondement légal. Bref, elle aurait déploré le manque d’accompagnement – c’est un minimum – du ministère.
Cela étant, à regret, je sollicite le retrait de cette motion de renvoi à la commission. Et la commission demande au Gouvernement de communiquer au Sénat cette note d’inspection, car nous ne pouvons pas légiférer à l’aveugle.

Mme la présidente : Madame la rapporteur, la procédure de la motion de renvoi à la commission d’un article du texte étant peu commune, j’ai fait preuve de beaucoup de souplesse par rapport au temps qui vous était accordé pour donner l’avis de la commission. Il me semblait en effet important que le Sénat dispose de l’ensemble de vos explications.
Quel est l’avis du Gouvernement ?

Mme Nicole Belloubet (Garde des Sceaux, ministre de la Justice) : Monsieur le sénateur Ouzoulias, vous demandez le renvoi à la commission de l’article 14 pour pouvoir apprécier le rapport de l’Inspection générale auquel vous faites allusion.
Nous parlons d’une loi et de l’article L.612-3 du code de l’éducation, loi qui a été votée par le Parlement de manière démocratique, comme toute loi, et vous avez eu, madame la rapporteur, l’occasion de nous le rappeler ce matin.
Je veux en outre souligner que le Gouvernement est extrêmement respectueux du bicamérisme, dans la manière dont il fonctionne sous la Ve République et tel que l’ensemble des articles de la Constitution l’a organisé – l’article 45 de la Constitution existe et s’impose à nous tous.
Par ailleurs, au-delà des institutions, le Gouvernement est également extrêmement respectueux des femmes et des hommes qui composent nos deux assemblées. À titre personnel, je suis toujours très attentive, mesdames, messieurs les sénateurs, à tout ce que vous pouvez formuler – remarques, critiques, apports –, et vous pourrez observer que, à l’image de mes collègues ministres, j’essaie toujours de prendre appui sur les propositions susceptibles d’améliorer un texte en cours de discussion.
Le bicamérisme, c’est aussi le compromis, et nous y sommes très attachés, dans le respect, je le répète, des règles constitutionnelles.
J’en viens aux propos que vous venez de tenir, monsieur le sénateur Ouzoulias, en soutien de la motion de renvoi à la commission, et au document de l’Inspection générale de l’administration de l’éducation nationale et de la recherche, l’IGAENR, que Mme la rapporteur a évoqué en réponse à votre intervention. Il s’agissait non d’un document officiel stabilisé, mais d’un document interne de travail. Il faut non pas en préciser le contenu – je ne l’ai personnellement pas lu – mais souligner qu’il constituait, lors de sa diffusion à la suite d’une fuite dans la presse au mois de février dernier, un point d’étape.
Je le rappelle, l’IGAENR assure une mission de suivi de Parcoursup et, au-delà, de l’ensemble de la réforme du premier cycle ; cette mission se poursuit encore aujourd’hui. À ce stade, il n’y aurait donc pas de sens à diffuser un rapport purement interne, mais daté. Le chef de service de l’Inspection générale s’est d’ailleurs clairement prononcé sur la divulgation de ces travaux ; ceux-ci avaient fait, à ses yeux, l’objet d’une déformation.
En revanche, il me semble tout à fait naturel que la représentation nationale puisse mener ses missions de contrôle et d’évaluation dans les meilleures conditions, et cela me paraît tout aussi évident pour le sujet qui nous occupe aujourd’hui. Dans ce cadre, il paraîtrait tout à fait normal et envisageable que la commission des lois, éventuellement accompagnée de la commission de la culture, procède aux auditions qu’elle jugerait utiles. Les responsables de l’Inspection générale, je puis vous l’affirmer, se tiennent à la disposition du Sénat, si vous le jugez nécessaire, pour fournir une information complète sur ces sujets et pour répondre à toutes vos questions.
Sur le fond, vous avez aussi évoqué, madame la rapporteur et, indirectement, monsieur Ouzoulias, un manque de garantie quant au contrôle effectué sur ces algorithmes. À cet égard, on a créé le Comité éthique et scientifique, mentionné à l’article L. 612-3 du code de l’éducation, objet de nos échanges aujourd’hui. Cette disposition a d’ailleurs été introduite au travers d’un amendement sénatorial…

M. Pierre Ouzoulias : Tout à fait, j’avais voté pour !

Mme Nicole Belloubet (Garde des Sceaux, ministre de la Justice) : … – cela prouve d’ailleurs que le Gouvernement est à l’écoute du Sénat –, déposé par le groupe Union Centriste, qui souhaitait ancrer dans la loi la mission de contrôle de ce comité. L’Assemblée nationale a renforcé cette disposition en demandant à cette instance de rendre un rapport annuel sur les garanties de transparence de la procédure nationale de préinscription dans le premier cycle de l’enseignement supérieur.
On peut voir là l’expression d’une divergence entre l’Assemblée nationale et le Sénat, mais ce n’est pas mon cas. Il s’agit au contraire, selon moi, de l’amplification par l’Assemblée nationale d’une disposition adoptée par le Sénat.
Là encore, les commissions permanentes sont libres d’auditionner qui elles veulent, et le Gouvernement est très clair sur ce point, comme il l’a été à l’Assemblée nationale pour le Comité éthique et scientifique.
Sur le fondement de ces éléments, et en indiquant de nouveau que le Gouvernement et son administration se tiennent à votre disposition pour vous fournir les renseignements que vous souhaiteriez connaître, je vous suggère de retirer cette motion.

Mme la présidente : La parole est à M. le président de la commission des lois.

M. Philippe Bas : Mme la rapporteur a exprimé avec suffisamment de précision la position de la commission pour que je ne renouvelle pas l’exposé très précis qu’elle nous a présenté précédemment.
Je veux dire à quel point nous partageons les préoccupations que manifeste le texte de la motion de renvoi à la commission. Notre seul objectif est de renforcer la protection de nos concitoyens vis-à-vis de traitements qui peuvent engager le destin de nombre d’entre eux, s’agissant de l’inscription à l’université. Il n’est pas acceptable que les paramètres des algorithmes mis en œuvre restent cachés.
Nous avons été sensibles aux informations de presse indiquant l’existence d’un rapport circonstancié de nature à confirmer nos inquiétudes.

Mme Esther Benbassa : Oui !

M. Philippe Bas : Si je vous ai bien comprise, madame la garde des sceaux, vous nous indiquez qu’il s’agit en réalité d’un document intermédiaire de travail qui est déjà dépassé. Je suis bien obligé de me contenter de vos assurances, mais vous savez à quel point le Sénat est attaché au renforcement des pouvoirs de contrôle du Parlement.

M. Pierre Ouzoulias : Absolument !

M. Philippe Bas : Je crois d’ailleurs que ce renforcement figure parmi les intentions exprimées par le Président de la République devant le Parlement réuni en Congrès, le 3 juillet dernier ; c’est un objectif auquel il attache lui-même de l’importance.

M. Pierre Ouzoulias : Nous aussi !

M. Philippe Bas : C’est la raison pour laquelle nous attendons davantage de transparence de la part du Gouvernement.
Cela dit, je suis prêt à saisir l’offre que vous nous avez faite de convoquer les responsables de l’Inspection qui ont approfondi ce dossier. Toutefois, je dois vous le dire, si leurs explications s’avéraient insuffisantes, nous reviendrions vers le Gouvernement pour, cette fois, non pas demander, mais exiger une information plus complète du Parlement. Je vous remercie par avance d’y être attentive.
Moyennant le débat que nous avons eu, d’une part, et dans la mesure où le texte adopté par la commission des lois fait droit aux préoccupations de notre collègue, d’autre part, je confirme la demande de retrait de la motion, tout en précisant que la commission des lois voterait contre la motion si tel n’était pas le cas.

Mme la présidente : Monsieur Ouzoulias, la motion n° 1 rectifié est-elle maintenue ?

M. Pierre Ouzoulias : La Haute Assemblée agit de façon unanime dans la défense de valeurs qui la touchent, notamment de la liberté individuelle. C’est un point important.
J’ai entendu les paroles fortes du président de la commission des lois qui exigera d’obtenir – je lui fais entièrement confiance pour cela – les éclaircissements que le Gouvernement ne nous donnerait pas.
Pour préserver cette unanimité, je retire ma motion, madame la présidente. (Applaudissements.)

Mme la présidente : La motion n° 1 rectifié est retirée.
Nous poursuivons l’examen du texte de la commission.