Protection des données personnelles : Article 14
debate, 07/02/2018, fr — source : Assemblée nationale, compte rendu intégral
Mme la présidente (Renaissance) : La parole est à Mme Emmanuelle Ménard.
Mme Emmanuelle Ménard (Rassemblement national) : L’intelligence artificielle s’invite depuis quelques mois dans les débats, et pour cause : elle est révolutionnaire, car elle est aujourd’hui capable de simuler des décisions de justice. C’est ce qui s’appelle la justice prédictive. Pour y parvenir, des algorithmes permettent d’analyser une très importante quantité de données, qui sont croisées pour apporter des réponses juridiques. L’objectif affiché est simple : désengorger les tribunaux et soulager les magistrats débordés par un nombre d’affaires en constante augmentation, alors que le nombre de juges est insuffisant.
D’autres vont même jusqu’à dire que la justice artificielle permet de répondre aux inégalités liées à la nature humaine. Bref, la justice artificielle séduit, et il est vrai que par certains aspects on pourrait la considérer comme une avancée. Mais attention : aucune décision de justice impliquant une appréciation sur le comportement ou la personnalité ne peut avoir pour seul fondement un traitement automatisé des données à caractère personnel destiné à évaluer certains aspects de la personnalité d’un individu.
Cela peut être envisagé lorsque les enjeux sont minimes, dans certaines affaires civiles ou commerciales, mais en aucun cas le traitement automatisé de données ne peut être généralisé en matière familiale ou pénale, car dans ces domaines les affaires sont étroitement liées aux personnes et à l’étude de leur comportement.
Les risques liés à l’intelligence artificielle sont réels. C’est d’ailleurs ce qu’a révélé une étude de l’Institut des ingénieurs en électricité et électronique, concernant notamment le traitement des données personnelles ou le possible isolement des magistrats qui, pour remédier à une charge de travail trop importante, pourraient s’appuyer de façon excessive sur cette technologie, au point qu’elle pourrait prendre la place des juges eux-mêmes, ce qui – vous en conviendrez – n’est pas souhaitable.
Mme la présidente (Renaissance) : Je suis saisie de deux amendements identiques, bknos ek53 et 119.
La parole est à M. Ugo Bernalicis, pour soutenir l’amendement bkno ek53.
M. Ugo Bernalicis (Parti de gauche, La France insoumise) : Par cet article, le Gouvernement souhaite autoriser la définition du profil d’une personne comme aide à la prise de décision administrative. Rappelons qu’auparavant, définir un profil était interdit. Aux termes de ce projet de loi, c’est seulement « prévoir » un profil qui sera interdit. Mais vous conviendrez que la frontière juridique entre « définir » et « prévoir » est assez mince !
Il faut se méfier de cette possibilité, dont les conséquences sur notre société risquent d’être sans précédent. Souhaitez-vous réellement instaurer, par exemple, le recours à la justice prédictive, méthode très décriée – j’en veux pour preuve le logiciel américain Compas, logiciel commercial largement utilisé pour prédire la récidive dans certains États. Or ses prédictions ne sont ni plus pertinentes ni plus justes que celles de personnes n’ayant aucune expertise judiciaire, ou très peu.
Le profilage est-il envisagé pour la délivrance des titres de séjour aux étrangers ? Pour les demandes d’emploi formulées par des chômeurs ? Pour une demande de permis de construire déposée par un riverain de l’océan ? Les demandeurs seront-ils classés selon leur pays d’origine, leur âge, leur adresse, leur cursus scolaire ? Les algorithmes autorisés par cet article ne permettront-ils de présélectionner – c’est-à-dire de discriminer, ou de renforcer des discriminations ?
Attention à ne pas ouvrir la boîte de Pandore : les dossiers doivent être analysés de façon individuelle par des êtres humains. Rappelons qu’à l’heure actuelle, le défaut d’examen individuel et personnalisé est considéré par les juges comme une erreur de droit. Le groupe La France insoumise refuse donc les conséquences directes de cet article. Pour nous, il conduit à une quasi-automatisation, et donc à une déshumanisation, du fonctionnement de l’administration de l’État et des collectivités territoriales. Ce n’est pas acceptable.
Mme la présidente (Renaissance) : La parole est à M. Jean-Paul Dufrègne, pour soutenir l’amendement bkno ek119.
M. Jean-Paul Dufrègne (Parti communiste français) : Nous demandons nous aussi la suppression de cet article qui ouvre plus largement la possibilité, pour l’administration, de recourir à des décisions automatisées prises sur le fondement d’un algorithme, dans le champ des décisions administratives individuelles. Les garanties offertes en contrepartie en matière d’information pleine et entière des personnes, de maîtrise des traitements, de droit au recours et de données traitées – à l’exception, dans ce cadre, des données dites « sensibles » – ne sont pas suffisantes au regard des risques qui pèsent sur les droits et libertés des personnes concernées.
L’étude d’impact du projet de loi justifie cette évolution en ces termes : « Le maintien de l’interdiction absolue ne permet pas de répondre aux évolutions de l’activité administrative qui a de plus en plus recours à des traitements algorithmiques, notamment pour les décisions de masse que la réglementation encadre précisément et dont l’édiction rapide permet la bonne délivrance du service public. »
L’objectif visé est clairement le développement d’une administration numérique, voire d’une administration totalement dématérialisée, qui ne requerra plus une intervention humaine. Or la CNIL regrette le manque de garanties précises lors de l’utilisation de traitements algorithmiques débouchant sur l’adoption de décisions administratives et appelle à l’approfondissement de la réflexion sur ces différents points. De son côté, le Conseil d’État estime qu’« alors même qu’il n’est plus nécessaire que l’action humaine s’interpose entre le traitement et la prise de décision », il est essentiel « de garantir à tout instant une maîtrise humaine complète des algorithmes, comportant notamment la capacité d’interrompre le fonctionnement du traitement, notamment lorsque ceux-ci sont dotés de capacités d’apprentissage leur permettant de modifier leur logique de fonctionnement sans une démarche humaine préalable de validation. »
Pour notre part, nous considérons qu’il convient de maintenir l’article 10 de la loi de 1978 dans sa version actuelle, qui interdit de prendre des décisions administratives individuelles sur le seul fondement d’un traitement automatisé de données. Nous considérons que les enjeux juridiques et éthiques fondamentaux de cette question méritent d’être analysés de façon plus approfondie avant tout élargissement du recours aux décisions administratives automatisées.
Mme la présidente (Renaissance) : Quel est l’avis de la commission ?
Mme Paula Forteza (Renaissance) : Je rappelle tout d’abord qu’il est interdit de fonder des décisions de justice sur l’utilisation d’un algorithme ; cela était vrai avant le RGPD, cela sera toujours vrai après.
Il me semble que la suppression complète des décisions administratives individuelles automatisées serait un peu excessive. Nous devons aussi travailler sur la simplification et la modernisation de l’administration. Les citoyens ont de grandes attentes en la matière, ils sont de plus en plus exigeants : ils veulent des services publics rapides et de qualité.
M. Laurent Furst (Union pour un mouvement populaire) : Ils veulent des services publics humains !
Mme Paula Forteza (Renaissance) : Or nous avons besoin pour cela de pouvoir utiliser des algorithmes.
Ceci dit, des garanties suffisantes sont mises en place. Nous avons déjà parlé des garanties d’information, de transparence, de communication ; le RGPD prévoit aussi des voies de recours. Enfin, il est prévu que les algorithmes doivent rester maîtrisables par des humains. Ces algorithmes ne seront pas des boîtes noires : ce n’est pas de l’intelligence artificielle. Nous saurons toujours comment fonctionnent ces algorithmes, nous pourrons toujours comprendre comment les décisions sont prises.
Je laisse M. le secrétaire d’État chargé du numérique compléter ces éléments. L’avis de la commission est défavorable.
M. Philippe Gosselin (Union pour un mouvement populaire) : C’est la deuxième fois que vous refilez la patate chaude au secrétaire d’État !
Mme la présidente (Renaissance) : La parole est à M. le secrétaire d’État.
M. Mounir Mahjoubi : Ces technologies algorithmiques sont de plus en plus utilisées dans notre monde, non seulement dans l’économie, mais aussi dans l’administration. Une décision algorithmique peut être plus juste qu’une mauvaise décision prise au terme d’un processus mal organisé. Il n’est pas envisageable que l’administration se prive de ces innovations. Cependant nous rappelons toujours une exigence, qui figure dans ce texte : la maîtrise. Aucun algorithme non explicable ne pourra être utilisé. Vous l’avez rappelé : les algorithmes de décisions judiciaires sont interdits et continueront de l’être.
Le RGPD prend en compte ces évolutions et autorise le recours aux algorithmes pour fonder des décisions individuelles, à condition de prévoir les mesures appropriées pour la sauvegarde des droits et des libertés : c’est l’objet de l’article 14.
Je voudrais à présent aller dans le détail, pour vous expliquer comment ces garanties seront mises en œuvre. La première, c’est l’information de l’usager, dont nous avons parlé tout à l’heure. Lorsqu’une décision le concernant a été prise sur la base d’un algorithme, il peut obtenir, sur simple demande, la communication des règles qui ont défini le traitement algorithmique et ses principales caractéristiques. Cela répond à l’objectif de transparence de l’action de l’administration, et crée un droit à l’explication pour l’usager. La commission des lois a clarifié le texte sur ce point, et je vous en remercie.
Je n’ai pas rappelé tout à l’heure qu’il existe une autre obligation, plus générale : le contenu et les règles de tous les algorithmes significatifs seront disponibles en open data, sans qu’il y ait pour cela besoin de formuler une demande, afin que la société civile, les experts, puissent s’en saisir. Je ne pense pas que l’ouverture globale permette à chaque citoyen de comprendre l’algorithme. En revanche, leur ouverture, leur demande, leur traitement par ceux qui veulent plus de transparence, permettront de diffuser cette confiance et cette maîtrise.
La deuxième garantie, c’est le droit au recours, qui implique une intervention humaine a posteriori. Ce droit à une intervention humaine est maintenu, et il s’applique à tous. Il s’agit du droit à un recours hiérarchique ou gracieux contre toute décision administrative individuelle – qui est de droit commun. Ce droit historique, je le répète, est maintenu : lorsqu’une personne concernée par une décision reposant sur un traitement automatisé de données le voudra, ce traitement sera bien repris en main par un humain. Je le rappelle encore une fois : cette possibilité sera conservée.
L’autre élément essentiel est l’exclusion des données sensibles, que le Gouvernement a souhaitée bien qu’elle ne soit pas obligatoire aux termes du RGPD.
Enfin, vous l’avez rappelé, madame la rapporteure, il y a pour ce qui est des décisions administratives une obligation de maîtrise du traitement algorithmique par le responsable du traitement. Cela signifie que les algorithmes boîte noire, c’est-à-dire ceux qui apprennent d’eux-mêmes, qui au fur et à mesure de leur utilisation peuvent prendre une décision dans un sens plutôt qu’un autre sans que celui qui l’a créé soit capable de définir pourquoi l’algorithme est allé dans un sens ou un autre, sont interdits et continueront de l’être.
Pour le Gouvernement, ces garanties permettent de répondre à vos inquiétudes. Un cadre juridique trop figé risquerait de nous empêcher d’innover, ce qui est pourtant essentiel. La CNIL, dans son dernier rapport sur l’éthique de l’intelligence artificielle et des algorithmes, nous invite à d’autres futurs. Elle invite à s’interroger sur l’opportunité de l’intervention humaine autrement qu’à l’échelle de chaque décision individuelle. L’avenir est là, et mes équipes comme la CNIL travaillent beaucoup sur ces sujets.
Le gouvernement précédent avait saisi l’Institut national de recherche en informatique et en automatique, l’INRIA, du sujet de la transparence des algorithmes avec TransAlgo. J’avais moi-même travaillé sur ce sujet au sein du Conseil national du numérique. Ces sujets continuent d’être des sujets de réflexion ; il sera très important d’être capable de les maîtriser quand ces algorithmes seront partout dans l’administration et dans la société. Il faudra alors être capable de les analyser et d’en garantir la transparence.
C’est aussi un des enjeux du rapport que le Gouvernement a confié à M. Cédric Villani. Il abordera ce sujet dans ses conclusions et le Gouvernement aura à se prononcer sur la capacité technologique de l’État à développer des algorithmes plus justes, plus transparents, mais aussi à les contrôler pour apporter plus de valeur au citoyen.
Mme la présidente (Renaissance) : La parole est à M. Ugo Bernalicis.
M. Ugo Bernalicis (Parti de gauche, La France insoumise) : Vous nous dites que la manière dont sont construits les algorithmes est publique et que la « société civile des experts » va pouvoir regarder cela de plus près, et pourquoi pas lancer l’alerte. Ce serait merveilleux s’il existait un statut du lanceur d’alerte – je vous renvoie ici aux amendements que La France insoumise a déposés et qui ont été rejetés. Ce n’est donc pas à l’ordre du jour.
Il faudrait aussi que les gens qui détecteraient un problème aient la capacité de se faire entendre. Je vous renvoie ici à l’amendement relatif au compteur Linky : je ne doute pas que vous allez l’adopter, puisqu’il vise à faire la lumière sur un problème qui reste sous les radars alors qu’il concerne le grand public.
Cela me fait penser à un reportage que le Journal de France 2 a consacré à la Chine, où la vidéosurveillance utilise des algorithmes de reconnaissance faciale. L’un des créateurs de ces algorithmes vante son produit en arguant qu’il ne se trompe qu’une fois sur cent mille quand un être humain se tromperait une fois sur mille et qu’il a déjà permis de procéder à plus de trois mille arrestations en 2017. C’est ça, la société que vous voulez ? Pour nous, il est hors de question de mettre le doigt dans cet engrenage !
L’être humain n’est pas réductible à un algorithme, et il doit rester au cœur de la décision. Votre algorithme va-t-il demander des pièces complémentaires ? Va-t-il, dans le cadre de votre loi pour une société de confiance, apporter du conseil ? Non, il va décider en fonction de données, d’une manière bête et méchante.
M. Loïc Prud’homme (La France insoumise) : Très bien !
Mme la présidente (Renaissance) : La parole est à M. Laurent Furst.
M. Laurent Furst (Union pour un mouvement populaire) : Ma question est simplement le fruit d’une immense interrogation. Votre proposition semble parée de toutes les vertus de la modernité, sauf que j’ai beaucoup de mal à déterminer où commence et où finit l’application du dispositif. Ce flou, l’absence de lisibilité quant à son champ d’application, suscitent chez moi un certain nombre d’interrogations, même si je n’ai pas de religion particulière en la matière. On parle là de décisions individuelles qui peuvent changer la vie des gens, or on ne connaît ni l’ampleur ni la profondeur du dispositif. Vous dites qu’il y a des voies de recours, mais jusqu’où ? Quel est le champ d’application de cette mesure ? Vous ne l’avez pas indiqué avec précision, laissant ouvertes toute une série de questions.
Nous sommes face à un texte formidablement mal écrit et mal expliqué. Nous n’avons pas d’hostilité de principe à l’égard de ce dispositif, mais nous ne comprenons pas jusqu’où il est possible d’aller avec une telle rédaction. J’aimerais que vous nous expliquiez précisément quelle sera l’incidence de ce dispositif sur la vie quotidienne de nos concitoyens et qui sera concerné.
M. Jean-Paul Dufrègne (Parti communiste français) : Vous avez raison : c’est essentiel.
M. Laurent Furst (Union pour un mouvement populaire) : Vos explications sont insuffisantes pour que nous prenions position. Pardonnez-moi, mais nous sommes dans le flou absolu. (Applaudissements sur quelques bancs du groupe LR et du groupe GDR.)
Mme la présidente (Renaissance) : La parole est à M. Stéphane Peu.
M. Stéphane Peu (Parti communiste français, La France insoumise) : Apparemment, nous ne rencontrons pas tout à fait les mêmes personnes, madame la rapporteure. Ceux que je rencontre critiquent plus la numérisation de l’administration telle qu’elle a déjà commencé qu’ils n’expriment une aspiration à la voir se développer.
Aujourd’hui, l’administration a atteint un tel degré de numérisation qu’on ne peut plus traiter un dossier de Sécurité sociale, obtenir un permis de conduire ou une carte grise sans passer par une borne ; il n’y a plus d’agents dans les préfectures. Tous ceux que je rencontre demandent qu’on réintroduise de l’humain dans les relations entre les administrations et les administrés ; j’entends davantage cela qu’une aspiration à l’automatisation.
Il aurait été utile de suivre la recommandation de la CNIL, qui nous appelle à pousser plus loin la réflexion sur ce sujet avant de légiférer. Je pense à certain algorithme : j’ignore s’il 1001s’agissait d’un algorithme boîte noire ou sous maîtrise humaine, mais ce que je sais, c’est qu’à cause de lui, des milliers de lycéens sont restés sans affectation à la rentrée universitaire. Il s’agit de l’algorithme qui a fait APB (« Ah ! » sur les bancs du groupe FI.). Cela mérite qu’on prenne le temps de la réflexion avant d’étendre ce type d’administration à de nombreux autres domaines. (Applaudissements sur les bancs des groupes GDR et FI.)
Mme la présidente (Renaissance) : La parole est à M. le secrétaire d’État.
M. Mounir Mahjoubi : Les 13 millions de Français, soit 20 % d’entre eux, qui ne savent pas utiliser une interface numérique sont une priorité de ce gouvernement, et ce depuis le premier jour – 45 % des Français disent qu’ils trouvent plus difficile de passer par une interface numérique.
Que doit-on faire pour ces 20 % de Français ? Tout faire pour qu’ils n’utilisent pas le numérique, qu’ils ne communiquent pas plus avec leur famille, ou bien les accompagner ? C’est tout l’enjeu du dispositif lancé dans le cadre de la Conférence nationale des territoires. Il s’agit de voir, dans chaque département, comment on peut les accompagner et les former en maintenant toujours l’accès à quelqu’un susceptible de les aider à traiter leurs problèmes administratifs.
M. Pierre Cordier (Les Républicains) : Ce n’est pas le cas !
M. Mounir Mahjoubi : L’apport de la numérisation, c’est qu’elle libère du temps qui pourra être consacré par les agents à ceux qui en ont le plus besoin et au traitement des demandes les plus complexes.
M. Jean-Paul Dufrègne (Parti communiste français) : C’est du pipeau, ça !
M. Mounir Mahjoubi : APB est un algorithme qui a été mis en place avant l’ère de la transparence. Ce qui a été le plus demandé, c’est qu’on ouvre ce code, mais il l’a été de façon maladroite, puisqu’il n’y avait pas de règles indiquant comment cela devait être fait. Mais les incidents auxquels il a donné lieu nous ont permis de lancer ce débat national et de nous poser la question de la nécessité de la transparence – et ce texte en est le reflet.
Il y a aujourd’hui, comme vous l’avez rappelé, un enjeu de maîtrise, d’accessibilité et d’inclusion numérique. (Applaudissements sur les bancs du groupe REM.)
Mme la présidente (Renaissance) : La parole est à Mme la rapporteure.
Mme Paula Forteza (Renaissance) : Les citoyens se félicitent de la modernisation de l’administration quand ils peuvent s’acquitter de leurs impôts en un clic via leur portable ou quand ils peuvent savoir quels sont leurs droits en se rendant sur un site en ligne.
M. Pierre Cordier (Les Républicains) : Allez donc dire ça à des personnes de quatre-vingts ans !
Mme Paula Forteza (Renaissance) : Par ailleurs, l’ouverture du code source du calculateur des impôts a été une expérience très positive, à laquelle la société civile a participé. Elle a vu dans le détail comment les impôts dus par chaque citoyen étaient calculés. Il est donc possible d’auditer ces algorithmes.
M. Jean-Paul Dufrègne (Parti communiste français) : Il y a une grande naïveté sur ces choses !
Mme la présidente (Renaissance) : La parole est à M. Philippe Gosselin.
M. Philippe Gosselin (Union pour un mouvement populaire) : Je n’ai pas de problème avec la « démat » : il est évident qu’on doit vivre avec son époque, mais je ne peux pas vous laisser dire, madame la rapporteure, que les gens sont contents de payer avec leur smartphone. Certains sont sans doute satisfaits de pouvoir le faire, mais je recevais il y a quelques jours encore des personnes de quatre-vingts ans qui ont dû payer 15 euros supplémentaires faute d’être capables de s’acquitter par voie dématérialisée de plus de 2000 euros d’impôts locaux. Ils sont donc sanctionnés parce qu’ils sont démunis de moyens numériques de paiement.
Voilà pourquoi je ne peux pas laisser dire que tout le monde est content : ce n’est pas vrai.
M. Loïc Prud’homme (La France insoumise) : Très bien !
M. Philippe Gosselin (Union pour un mouvement populaire) : Il y a des gens qui restent sur le bord de la route et ceux-là, il faut les accompagner. Il ne s’agit pas de revenir sur cette évolution, mais par pitié, prenons soin de celles et ceux, pas toujours de milieux défavorisés, qui sont laissés au bord du chemin par cette marche quelque peu forcée vers la numérisation, qui oublie parfois que les citoyens peuvent avoir besoin d’aide.
Mme la présidente (Renaissance) : La parole est à Mme Marietta Karamanli.
Mme Marietta Karamanli (Parti socialiste) : Ce débat montre bien à la fois l’inquiétude de certaines populations de nos territoires et la volonté d’aller plus loin de ceux qui se sentent à l’aise avec tout cela. Il faut arriver à concilier ces divers besoins. L’exemple de l’algorithme qui a été utilisé pour l’orientation des étudiants illustre le besoin de transparence, et celle-ci devrait être systématique, avant même qu’on demande quelque explication que ce soit. C’est ainsi qu’on accompagnera et qu’on éduquera la population.
Mme la présidente (Renaissance) : La parole est à Mme la rapporteure.
Mme Paula Forteza (Renaissance) : Je rejoins vos préoccupations, monsieur Gosselin : il ne faut pas qu’il y ait de dématérialisation sans médiation numérique, et c’est tout le travail que le Gouvernement est en train d’entreprendre. Tout un réseau d’associations y travaille également au niveau local et nous devons les accompagner en tant que législateurs – et chaque député dans sa circonscription.
M. Philippe Gosselin (Union pour un mouvement populaire) : Ah ! si nous avions encore la réserve parlementaire !
Mme Danièle Obono (La France insoumise) : Les associations n’ont pas les moyens de faire ce travail !
Mme la présidente (Renaissance) : La parole est à M. Loïc Prud’homme.
M. Loïc Prud’homme (La France insoumise) : Je viens de comprendre que cette assemblée est un algorithme, puisque tous les amendements des groupes FI ou GDR ont automatiquement droit à un avis défavorable !
Puisque vous dites que les algorithmes vont libérer du temps, monsieur le secrétaire d’État, je propose qu’on vous remplace par un algorithme. Cela nous permettra de gagner du temps dans les débats et cela vous permettra de consacrer du temps à faire de la pédagogie auprès des personnes qui seraient tellement heureuses de pouvoir payer leurs impôts sur smartphone.
M. Ugo Bernalicis (Parti de gauche, La France insoumise) : Très bien !
Mme la présidente (Renaissance) : La parole est à M. Éric Bothorel.
M. Éric Bothorel (Parti socialiste) : Si certains amendements ont été rejetés en commission, ce n’est pas la faute d’un algorithme, mais c’est parce que ceux qui devaient les défendre étaient absents. (Applaudissements sur les bancs du groupe REM.)
M. Ugo Bernalicis (Parti de gauche, La France insoumise) : C’est scandaleux ! Je vais prendre note de toutes vos absences !
Mme la présidente (Renaissance) : La parole est à Mme la rapporteure, pour soutenir l’amendement bkno ek127.
Mme Paula Forteza (Renaissance) : L’amendement tend à élargir au secteur privé les garanties d’information et de transparence que la loi Lemaire pour une République numérique a établies pour le secteur public. Reste à savoir comment monter ce dispositif. Selon l’article 22 du RGPD, une personne a le droit de ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé, y compris le profilage, sauf dans trois cas : dans le cadre d’un consentement, d’un contrat ou d’une décision administrative individuelle automatisée, que nous venons d’évoquer.
Dans les deux premiers cas, je souhaite ouvrir la possibilité d’appliquer les règles de transparence qui définissent le traitement automatisé, ainsi que les principales caractéristiques de sa mise en œuvre. La décision s’appliquerait aux algorithmes traitant le taux de solvabilité quand on veut contracter une assurance ou un crédit, à ceux utilisés sur les plates-formes ou les réseaux sociaux afin de lutter contre les fake news, ou qui permettent de fermer les comptes diffusant des propos considérés comme déviants. Dans ce cas, les personnes pourraient demander aux plates-formes comment et selon quels critères les décisions ont été prises. Ce serait un premier pas vers une transparence des algorithmes dans le secteur privé.
Mme la présidente (Renaissance) : Quel est l’avis du Gouvernement ?
Mme Nicole Belloubet : J’émets un avis favorable. L’amendement s’inscrit en effet dans la logique que nous avons adoptée, puisqu’il vise non à contester l’arrivée des algorithmes dans certaines décisions, mais l’assortir de garanties supplémentaires.
Les dispositions proposées renforceront le texte initial en apportant une meilleure information à l’utilisateur, y compris dans le champ privé, ce que la loi Lemaire n’avait pas prévu initialement.
Pour ce faire, il faut décliner la notion d’information permettant de connaître et de contester la logique qui sous-tend le traitement automatisé prévu par l’article 15 du règlement, à travers une obligation dont l’amendement définit le contenu de manière plus concrète.