Protection des données personnelles : Après l’article 14 A

Protection des données personnelles : Après l’article 14 A

debate, 07/02/2018, fr — source : Assemblée nationale, compte rendu intégral

Mme la présidente : La parole est à Mme Marietta Karamanli, pour soutenir l’amendement bkno ek19, portant article additionnel après l’article 14 A.
Sur cet amendement, je suis saisie par le groupe Nouvelle Gauche d’une demande de scrutin public.
Le scrutin est annoncé dans l’enceinte de l’Assemblée nationale.

Mme Marietta Karamanli : Cet amendement, que nous avons déjà évoqué en commission des lois, est important et je tiens à saluer la discussion que nous avons eue avec Mme la rapporteure et Mme la ministre sur ce texte très important, sur lequel nous avons beaucoup avancé dans le cadre des négociations au niveau européen.
L’amendement concerne l’utilisation des algorithmes. C’est un point sur lequel je tiens à insister car, si un peu plus de 80 % des Français ont déjà entendu ce terme, à peine un peu plus de la moitié d’entre eux savent ce dont il s’agit.
Selon un scientifique interrogé récemment dans la presse dans une perspective de vulgarisation, un algorithme est une séquence d’instructions utilisée pour résoudre un problème. L’arrivée et le développement des machines ont néanmoins changé la donne, comme cela a été rappelé ici à plusieurs reprises, car – et cela a un impact important – ces algorithmes décident au quotidien des informations qui nous parviennent et fondent des décisions prises par des tiers en fonction d’éléments et de combinaisons dont la plupart d’entre nous n’ont pas même conscience ni connaissance. Ce phénomène suscite des inquiétudes légitimes, car l’utilisation et la manipulation des algorithmes peuvent également avoir des répercussions sur la liberté de choix, voire sur l’égalité des personnes.
Cet amendement vise donc à faire connaître systématiquement cette utilisation dans le cadre d’une administration que nous voulons plus transparente et d’orientations que nous voulons plus équilibrées. Il répond au souci exprimé non seulement depuis hier, tout au long de ce débat, par la rapporteure et l’ensemble de l’hémicycle, mais également lors de la discussion du texte relatif à une société de confiance, où nous exprimions notre volonté de disposer d’une administration transparente et responsable, qui informe le citoyen. Nous serions donc ravis de pouvoir compter sur la mobilisation de tous autour de ce simple amendement qui exprime un principe fondamental qui doit figurer dans la loi.

Mme la présidente : Quel est l’avis de la commission ?

Mme Paula Forteza : Je m’attarderai un peu sur ce sujet, qui m’intéresse tout particulièrement, pour rappeler le droit en vigueur dans ce domaine, instauré par la loi Lemaire.
Les administrations sont tout d’abord soumises à une obligation générale de publier en ligne des règles définissant les principaux traitements algorithmiques utilisés dans l’accomplissement de leurs missions lorsqu’ils fondent des décisions individuelles : c’est donc un premier niveau d’information a priori.
Il existe par ailleurs un droit d’information au niveau individuel : lorsque la décision est transmise, la personne concernée reçoit l’information sur la finalité poursuivie par cet algorithme et a le droit d’obtenir en outre une communication sur les règles et leur application dans son cas particulier, ainsi que sur les modalités d’exercice de son droit à la communication et à la saisine.
Lorsque la personne demande plus d’informations, ces informations, précisées au niveau réglementaire, sont au nombre de quatre : le degré et le mode de contribution du traitement algorithmique à la prise de décision, les données traitées et leurs sources, les paramètres de traitement et, le cas échéant, leur pondération, appliqués à la situation de l’intéressé et, quatrièmement, les opérations effectuées par le traitement. De nombreuses informations sont donc déjà mises à disposition des usagers.
Par ailleurs, la loi Lemaire avait également fait du code source un document administratif, ce qui permet de l’inscrire dans la logique du droit relevant de la Commission d’accès aux documents administratifs – CADA. L’accès au code source de ces algorithmes permet de les rejouer et de les tester à nouveau dans un cas particulier afin de disposer d’une sorte d’audit réalisé par une personne neutre. Le droit existant me semble donc assez complet en la matière.
Je voudrais cependant demander au Gouvernement quelques précisions. En effet, si les informations fournies à la personne qui formule une demande pour son cas particulier font l’objet de détails très précis, nous ne savons pas encore sous quelle forme s’exprimera cette obligation générale de communication. Je souhaiterais donc savoir si le Gouvernement peut nous communiquer des détails en la matière, à propos par exemple des décrets d’application de la loi Lemaire ou des éléments relevant du niveau réglementaire, ce qui pourrait peut-être répondre aux préoccupations de Mme Karamanli.
Nous proposerons en outre d’autres amendements en ce sens, qui seront discutés par ailleurs.
Avis défavorable, donc, mais j’attends une réponse de M. le secrétaire d’État.

M. Philippe Gosselin : Je passe la patate chaude !

Mme la présidente : La parole est à M. le secrétaire d’État chargé du numérique, pour donner l’avis du Gouvernement.

M. Mounir Mahjoubi : Madame la présidente, madame la rapporteure, mesdames et messieurs les députés, je souhaite répondre à cette question, car il se trouve que les administrations placées sous mon autorité sont chargées de la mise en œuvre de ce dispositif et qu’il s’agit là d’un sujet sur lequel je me suis beaucoup engagé au cours des dernières années. Il me semble donc important de rappeler quelques engagements du Gouvernement.
Pour ce qui est d’abord de la maîtrise et de la transparence, que vous avez évoquées, nous partageons les mêmes objectifs. Le droit existant y répond du reste en partie, et cet article permettra d’aller encore plus loin.
Soyons précis. Madame la rapporteure, votre analyse a été très complète : vous avez rappelé les éléments existants, soulignant que le droit actuel satisfaisait déjà largement les demandes formulées. Je rappellerai néanmoins dans le détail, sur le plan opérationnel, comment les choses se passeront et comment elles se passent aujourd’hui, afin d’apporter à vos questions, sinon toutes les réponses, au moins quelques-unes.
L’article L. 312-1-3 du code des relations entre le public et l’administration, qui met à disposition en open data, comme vous l’avez rappelé, les règles des algorithmes, doit entrer en vigueur à partir d’octobre 2018 : il s’agit d’un article jeune, récent, auquel les administrations ont dû s’adapter et se préparer. Les services de la direction interministérielle du numérique et du système d’information et de communication de l’État – DINSIC – sont mobilisés à cette fin.
Vous avez également rappelé que, pour les algorithmes qui ont des conséquences sociales, sanitaires ou économiques, les articles L. 300-2 et L. 312-1-2 prévoient une redevabilité complète de l’intégralité du code source, qui sera fourni afin que l’on puisse l’analyser en détail, voire rejouer des scénarios individuels, et vérifier que la procédure s’est déroulée correctement. Cela ne concernera cependant que des utilisateurs très avertis – dont vous faites et dont j’ai fait partie –, qui sont aussi ceux qui permettent d’éclairer le monde en disant qu’ils ont pu tester et pousser jusqu’au bout l’analyse de cette transparence.
Vous avez enfin rappelé quelles seront les informations qui seront systématiquement données au public. N’oublions pas qu’à partir de l’entrée en vigueur de ces dispositions, toutes les décisions algorithmiques signaleront que la décision comportait une composante algorithmique : vous saurez donc que le document que vous recevez aura fait l’objet d’un traitement algorithmique, et les droits qui y sont associés seront rappelés. Une information systématiquement fournie avec le document signalant un traitement par algorithme vous indiquera à chaque fois, sous la forme d’une mention bien visible dans la décision, les droits de communication dont vous disposez.
Vous avez rappelé, ensuite, quelles informations l’usager a le droit d’obtenir sur demande : il s’agit d’informations personnelles, délivrées sur demande, individualisées et détaillées. Elles doivent comprendre l’intégralité des données ayant servi à faire fonctionner l’algorithme. Toutes ces caractéristiques font l’intérêt du dispositif, mais en font aussi la limite : aujourd’hui, la seule façon de répondre à ces demandes individuelles, c’est de recourir à un traitement humain.
C’est pour cette raison d’organisation que l’on ne peut, comme vous le proposez, généraliser la transmission des données utilisées dans ces décisions administratives. Mais vous verrez qu’à l’usage, toutes les personnes concernées par des décisions impliquant un traitement automatique de données pourront demander ces informations – je fais tout à fait confiance à la société civile, aux utilisateurs avancés, à cet égard. Pour toutes ces raisons, il ne nous paraît pas nécessaire d’intervenir par décret : l’article de loi apportera lui-même les informations suffisantes.
Vous avez enfin demandé, de façon plus opérationnelle, quel serait le contenu de ces informations. Avant de vous répondre, je tiens à vous dire que nous travaillons sur ce décret, sur ces questions. Pour déterminer les informations qui seront transmises, il faut se demander lesquelles seront compréhensibles et utilisables par les usagers.
Nous travaillons actuellement à tirer toutes les conséquences de ces principes. Nous pourrons, lors de l’examen de ce texte en deuxième lecture, apporter plus de précisions, mais je rappelle encore une fois les deux enjeux : la transparence et la maîtrise. Les algorithmes ne font pas ce qu’ils 998veulent, mais ce qu’on leur dit de faire. L’État et le Gouvernement prennent leurs responsabilités sur ce sujet. Nous analyserons plus en détail, à l’occasion de l’examen d’un deuxième amendement, les dispositifs qui permettront de maintenir à la fois cette maîtrise et cette expertise au sujet des traitements algorithmiques.

Mme la présidente : La parole est à Mme Marietta Karamanli.

Mme Marietta Karamanli : Je vous remercie, madame la rapporteure, pour votre volonté de compléter le dispositif. Je vous remercie aussi, monsieur le secrétaire d’État, pour les éléments que vous avez évoqués. Cependant, un élément vous a manqué pour être vraiment complet : c’est que la majeure partie des personnes concernées par de telles décisions ne demandent pas ces informations, parce qu’elles ne connaissent pas ou comprennent mal les algorithmes.
Ce que nous proposons par cet amendement, finalement, c’est donc de faire œuvre de pédagogie : il est logique que les personnes à l’encontre desquelles une décision automatisée est prise aient systématiquement accès aux éléments de l’algorithme sur lequel cette décision se fonde afin de mieux la comprendre.
Vous avez dit, monsieur le secrétaire d’État, que nous reviendrions sur cette question en deuxième lecture. Mais rien ne nous empêche d’adopter cet amendement dès aujourd’hui ! Je m’adresse à tous les députés : les amendements que mes collègues du groupe Nouvelle Gauche et moi-même avons défendus sont plutôt raisonnables et réfléchis. Faisons un geste, adoptons cet amendement ; nous y reviendrons plus tard, au besoin, au cours des discussions dans notre assemblée.

Mme la présidente : La parole est à M. François Ruffin.

M. François Ruffin : Je ne sais pas si c’est un service que je rends à Mme Karamanli, mais je tiens à lui apporter tout mon soutien. Nous avons nous aussi déposé des amendements allant dans ce sens, afin d’être plus attentifs à ce qui se passe au niveau des algorithmes, en rendant publiques au maximum les informations qui fondent la décision. Nous appuyons donc cet amendement de Mme Karamanli.

Mme la présidente : Je mets aux voix l’amendement bkno ek19.

Mme la présidente : Voici le résultat du scrutin :