République numérique : Article 2

République numérique : Article 2

debate, 19/01/2016, fr — source : Assemblée nationale, compte rendu intégral

Mme la présidente : La parole est à M. Christian Paul, inscrit sur l’article.

M. Christian Paul : J’appelle l’attention de notre assemblée sur la question des algorithmes. Nous la retrouverons au moment de l’examen de l’article 4, puis quand il s’agira d’évoquer la loyauté des plateformes privées et la transparence de leurs algorithmes. En l’occurrence, à l’article 2, il s’agit des algorithmes publics.
Dans le champ du numérique, c’est l’une des questions essentielles de cette décennie. En effet, l’on parle de plus en plus de régulation par les algorithmes. On parle même de « gouvernement des algorithmes » pour montrer la place que prennent ces traitements automatisés dans les décisions des pouvoirs publics. Ce sont en effet des algorithmes qui calculent nos impôts, les allocations familiales ou l’affectation de nos enfants dans telle école ou telle université. Il est donc très important que le recours à ces algorithmes ne dissimule pas les éléments constitutifs des décisions derrière un écran opaque, ce qui risquerait de laisser place à l’arbitraire.
Cet article 2 propose des dispositions en ce sens. Nous sommes plusieurs à vouloir aller plus loin, par voie d’amendement. Il ne suffit pas, dans cette affaire, que les algorithmes soient communiqués à ceux qui sont directement concernés par la décision ; il faut que la publication soit beaucoup plus systématique et surtout préalable, afin que des experts citoyens puissent les analyser.
C’est une question éminemment politique, en dépit de son caractère apparemment technique. Des inquiétudes se font jour, pour des raisons objectives et fondées, à propos des techniques d’optimisation des politiques publiques, notamment les analyses prédictives.
Je n’entends pas diaboliser les algorithmes. Je pense néanmoins que nous devons nous pencher très sérieusement sur cette question, afin de créer les conditions d’une réelle transparence. Il s’agit de choix éthiques et politiques essentiels pour la civilisation numérique. Je vous invite donc à examiner très attentivement les articles 2 et 4 de ce projet de loi, et les amendements que nous proposerons, car ils recouvrent des choix essentiels.

Mme la présidente : La parole est à M. Patrice Martin-Lalande, pour soutenir l’amendement bkno ek55.

M. Patrice Martin-Lalande : Dans sa rédaction actuelle, l’article 2 prévoit que « lorsqu’une décision individuelle est prise sur le fondement d’un traitement algorithmique, les règles définissant ce traitement ainsi que les principales caractéristiques de sa mise en œuvre sont communiquées par l’administration à l’intéressé s’il en fait la demande ».
L’amendement bknoek 55, cosigné par plusieurs de mes collègues, dont Lionel Tardy, vise à ajouter après le mot : « algorithmique » la précision suivante : « l’administration informe l’intéressé de l’existence de ce traitement algorithmique dans la décision qui lui est notifiée. » En effet, il ne sert à rien de donner à l’intéressé le pouvoir de demander ces informations s’il ne sait pas, en lisant la décision individuelle qu’il reçoit, s’il y a eu ou non un traitement algorithmique ! Si cette mention ne figure pas sur la décision, cela aura pour effet de limiter l’effectivité de ce droit.
D’ailleurs, madame la secrétaire d’État, vous avez dit en commission, au sujet d’un amendement identique à celui-ci, que « le Gouvernement juge intéressant cet amendement qui renforce l’effectivité du nouveau droit ». J’insiste : il faut dire aux administrés si un algorithme a été utilisé dans les décisions individuelles qui les concernent, sans quoi le droit institué par l’article 2 sera peu effectif. Sans cela, en effet, ce droit ne sera utilisé qu’accidentellement.

Mme la présidente : Quel est l’avis de la commission ?

M. Luc Belot : L’enjeu est de garantir la transparence et de donner aux citoyens la possibilité de connaître et d’obtenir ces informations. Or la rédaction que vous proposez supprimerait la communication à l’intéressé des principales caractéristiques de la mise en œuvre du traitement algorithmique, pour ne conserver que l’information selon laquelle un tel traitement a eu lieu. Comme Christian Paul vient de le dire, l’enjeu est non seulement que les intéressés aient connaissance de l’existence d’un traitement algorithmique, mais qu’ils sachent aussi quelles en sont les principales règles. Nous reviendrons ultérieurement à ce sujet, pour garantir l’ensemble de ces éléments. Avis défavorable.

Mme la présidente : Quel est l’avis du Gouvernement ?

Mme Axelle Lemaire : Même avis. En outre, l’obligation d’information systématique pour l’ensemble des décisions administratives individuelles risque de créer une charge nouvelle excessive, en imposant aux administrations de retracer, pour chaque décision, l’existence ou non d’un traitement algorithmique.

Mme la présidente : La parole est à M. Patrice Martin-Lalande.

M. Patrice Martin-Lalande : Monsieur le rapporteur, vous dites que mon amendement supprime une partie de l’article 2 ; permettez-moi de ne pas être d’accord avec vous !

M. Luc Belot : C’est pourtant ce qui est écrit !

M. Patrice Martin-Lalande : Nous proposons d’insérer, après le mot « algorithmique », les mots suivants : « l’administration informe l’intéressé de l’existence de ce traitement algorithmique dans la décision qui lui est notifiée », le reste sans changement. Il s’agit non pas de supprimer une partie du dispositif, mais de le compléter.
Quant à l’alourdissement de la charge, madame la secrétaire d’État, nous voulons maintenir la proportionnalité entre résultat et charge, à laquelle nous sommes attachés. Il suffirait qu’un logo figure sur la décision individuelle, indiquant qu’elle a été prise sur le fondement d’un traitement algorithmique. Cela suffirait à inviter les intéressés à se renseigner, s’ils le souhaitent.

Mme la présidente : La parole est à M. le rapporteur.

M. Luc Belot : Je viens de comprendre les raisons de notre incompréhension mutuelle, cher collègue. Votre amendement vise, après le mot : « algorithmique », à « rédiger ainsi la fin de l’alinéa 2 » et non à compléter l’alinéa 2, ce qui vous conduit à supprimer les éléments auxquels vous semblez tenir autant que moi. Je vous demande donc de retirer cet amendement.

Mme la présidente : La parole est à M. Patrice Martin-Lalande.

M. Patrice Martin-Lalande : Au temps pour moi. La rédaction de l’amendement n’est pas la bonne, mais l’intention demeure. M. le rapporteur serait-il d’accord pour rectifier l’amendement afin qu’il puisse être adopté ? Ainsi, l’intéressé aurait toutes les informations pour faire valoir son droit à connaître les éléments concernant le traitement algorithmique.

Mme la présidente : La parole est à M. le rapporteur.

M. Luc Belot : Je préfère que l’existence d’un traitement algorithmique ne soit pas notifiée systématiquement, mais qu’il existe une information générale. Nous y reviendrons ultérieurement. Je maintiens donc mon avis défavorable.

Mme la présidente : Nous venons de faire du travail de commission…

Mme Laure de La Raudière : Nous avions demandé le renvoi du texte en commission, mais cela n’a pas été accepté !

Mme la présidente : Je suis saisie de cinq amendements, bknos ek733, 630, 606, 732 et 631, pouvant être soumis à une discussion commune.
La parole est à M. Lionel Tardy, pour soutenir l’amendement bkno ek733.
Mon cher collègue, pourriez-vous défendre également, par avance, l’amendement bkno ek732 ?

M. Lionel Tardy : Bien volontiers, madame la présidente.
Dans le cadre du droit à communication, la communication des règles définissant un algorithme rend bien sur le papier. Mais j’y vois deux limites. Il ne faudrait pas que les explications soient complexes et inaccessibles pour les non initiés. C’est le sens de l’amendement bkno ek733, qui prévoit que les éléments seront communiqués de façon claire, ainsi que nous l’avons prévu dans d’autres articles.
Par ailleurs, comment l’intéressé peut-il faire la demande s’il ne sait pas que la décision a été prise sur le fondement d’un traitement algorithmique ? Cela reste un mystère pour moi – et certainement pour vous ! Conserver les termes « s’il en fait la demande » à l’alinéa 2 réduit considérablement la portée de cet article. C’est le sens de l’amendement bkno ek732.

M. Patrice Martin-Lalande : C.Q.F.D. !

Mme la présidente : La parole est à Mme Jeanine Dubié, pour soutenir l’amendement bkno ek630.

Mme Jeanine Dubié : Cet amendement a pour objet de préciser que l’administration communique « de manière claire, transparente et loyale » l’information concernant le traitement algorithmique.

Mme la présidente : La parole est à Mme Delphine Batho, pour soutenir l’amendement bkno ek606.

Mme Delphine Batho : L’information des usagers doit être la règle, non l’exception. Je souhaite apporter un argument au débat : pour les administrations, il me semble beaucoup plus simple et efficace de faire figurer une mention expliquant que la décision a été prise sur le fondement d’un traitement algorithmique, et d’en définir les règles, que d’avoir à traiter, une par une, des demandes individuelles d’information. Cette solution est préférable, tant sur le plan des principes que sur le plan pratique.

Mme la présidente : L’amendement bkno ek732 a déjà été défendu par M. Tardy.
La parole est à Mme Jeanine Dubié, pour soutenir l’amendement bkno ek631.

Mme Jeanine Dubié : Il est défendu.

Mme la présidente : Quel est l’avis de la commission sur l’ensemble de ces amendements ?

M. Luc Belot : Lorsque l’on demande à une administration de communiquer, la moindre des choses est qu’elle le fasse de manière claire. Peut-être vaudrait-il mieux demander au Premier ministre d’adresser une note à l’ensemble des administrations en ce sens. En effet, si nous devions commencer à le préciser dans la loi, il faudrait le faire à chaque fois – je ne suis pas sûr que nous y gagnerions en lisibilité, et surtout en efficacité pour nos concitoyens.
Je vous propose que nous nous reportions à l’amendement de notre collègue Christian Paul à l’article 4 sur la publication des principales règles. Celui-ci permet d’apporter un cadre satisfaisant et toutes les garanties que vous souhaitez. Avis défavorable, donc, aux amendements bknos ek733, 630 et 606.
S’agissant des amendements bknos ek732 et 631, je crains que nous ayons une lecture inverse de la manière dont les choses doivent se passer – nous avons déjà eu ce débat en commission, monsieur Tardy. Si nous en sommes à la communication, c’est que l’intéressé a déjà fait la demande. Ne voyant pas l’intérêt de ces amendements, j’en demande le retrait.

Mme la présidente : Quel est l’avis du Gouvernement ?

Mme Axelle Lemaire : Les intéressés feront ces demandes probablement dans le cas de décisions de masse, prises par exemple par le ministère de l’éducation nationale pour l’affectation des enseignants dans les rectorats ou des étudiants dans les universités. Il appartiendra aux administrations de juger de l’opportunité d’informer systématiquement les administrés de l’existence d’un traitement algorithmique. Il convient de ne pas imposer une obligation par la loi, de manière aveugle et généralisée, mais de faire confiance aux administrations pour décider elles-mêmes des cas où il sera utile de recourir à ce procédé.

Mme la présidente : La parole est à M. Christian Paul.

M. Christian Paul : On peut faire confiance aux administrations dans de nombreux domaines, madame la secrétaire d’État, mais pour ce qui est d’organiser la transparence de leurs décisions, nous sommes nombreux à penser que la loi n’est pas inutile. (Sourires.) Ce texte donne d’ailleurs beaucoup d’occasions de tendre vers cet objectif.
L’enjeu est double. Une personne ayant fait l’objet d’une décision prise sur le fondement d’un algorithme doit pouvoir se voir communiquer les règles qui régissent cet algorithme. Par ailleurs, et je rejoins Delphine Batho, il serait de meilleure administration publique que la règle soit la publication préalable des règles algorithmiques, avant même toute décision individuelle – sans pour autant, bien sûr, écarter la possibilité d’introduire des exceptions. Cela simplifierait l’ensemble des démarches, éviterait l’opacité et l’arbitraire. 339C’est le sens d’un amendement que je défendrai à l’article 4, et qui répondra aux problèmes soulevés par nos collègues, dont je soutiens néanmoins les amendements.