Protection des données personnelles : Après l’article 14
debate, 07/02/2018, fr — source : Assemblée nationale, compte rendu intégral
Mme la présidente (Renaissance) : Je suis saisie de deux amendements tendant à introduire un article additionnel après l’article 14.
La parole est à M. François Ruffin, pour soutenir l’amendement bkno ek61.
M. François Ruffin (Parti communiste français, Debout !) : Je me suis fait expliquer les enjeux de ces algorithmes, dont je ne suis pas spécialiste, et qui ne visent au fond qu’à renforcer des discriminations qui existent déjà. En effet, si l’on constate plus de fraudes auprès de la caisse d’allocations familiales parmi les gens qui habitent en banlieue, on peut craindre qu’un algorithme ne systématise les contrôles dans cette population. De même, si l’on observe plus de retards parmi les personnes qui habitent loin de leur lieu de travail, un algorithme pourra sélectionner les candidats à un poste en fonction de leur adresse.
C’est pourquoi nous soutenons toute mesure qui irait dans le sens d’une plus grande transparence de l’utilisation des algorithmes. Nous souhaitons donc que la CNIL puisse enquêter sur ceux-ci comme sur le reste, ce qui pourrait être fait avec la participation des citoyens et à titre expérimental.
Notre demande s’inspire des conclusions du rapport intitulé Modalité de régulation des algorithmes de traitement des contenus, remis à la secrétaire d’État chargée du numérique en mai 2016 – ce qui prouve son sérieux.
Mme Danièle Obono (La France insoumise) : Très bien !
Mme la présidente (Renaissance) : Quel est l’avis de la commission ?
Mme Paula Forteza (Renaissance) : Avis défavorable. Je suis d’accord avec l’esprit dans lequel a été rédigé l’amendement, mais le contrôle des algorithmes ne me semble pas devoir être confié à une entité particulière. Toutes les associations, tous les citoyens, toute la société civile doivent pouvoir y contribuer. C’est ce à quoi tendait l’amendement précédent, qui visait à accroître la transparence et l’accès aux ressources, et à permettre à la société civile de travailler sur ce contrôle.
Mme la présidente (Renaissance) : Quel est l’avis du Gouvernement ?
Mme Nicole Belloubet : La mesure ne nous paraît pas nécessaire. La CNIL exerce déjà ce type de mission, puisque, dans le cadre de ses prérogatives de droit commun, elle peut contrôler le respect de l’article 10 de la loi qui l’a créée, lequel prohibe les décisions automatisées. Pour citer un exemple récent, auquel vous avez vous-même fait allusion, le 30 août 2017, cette instance a mis en demeure le ministère de l’enseignement supérieur, de la recherche et de l’innovation, et demandé à contrôler directement le traitement de la plateforme APB.
La mesure que vous demandez étant satisfaite, j’émets un avis défavorable.
Mme la présidente (Renaissance) : La parole est à M. François Ruffin.
M. François Ruffin (Parti communiste français, Debout !) : Les deux réponses – celle de la rapporteure et de la ministre – ne coïncident pas.
Mme Nicole Belloubet : Rien n’oblige à ce qu’elles coïncident.
M. François Ruffin (Parti communiste français, Debout !) : En effet, mais j’ai le droit de le mentionner et d’en faire l’analyse.
Mme Forteza nous assure que la société civile exercera un contrôle. Cela m’inquiète beaucoup, car je souhaite qu’il y ait un véritable gendarme, qui ne se réduise pas à quelques vagues associations et à la société civile.
Selon Mme Belloubet, ce contrôle figure potentiellement dans les missions de la CNIL, pourvu que celle-ci en fasse la demande. Si tel est le cas, j’aimerais autant que le texte le 1003mentionne explicitement. Pourquoi ne pas indiquer que la CNIL doit se préoccuper de manière active de ces algorithmes, qui posent quelques problèmes ? (Applaudissements sur les bancs du groupe FI.)
Mme la présidente (Renaissance) : La parole est à M. Philippe Gosselin, pour soutenir l’amendement bkno ek154.
M. Philippe Gosselin (Union pour un mouvement populaire) : Lorsque les données sont collectées auprès de mineurs de moins de quinze ans – et non plus de seize –, il nous semble nécessaire que les responsables leur expliquent dans un langage clair et limpide les obligations qui pourraient peser sur eux. Tel est l’objet de l’amendement.
Mme la présidente (Renaissance) : Quel est l’avis de la commission ?
Mme Paula Forteza (Renaissance) : La précision me paraît bienvenue.