Jeux olympiques et paralympiques de 2024 : Article 7 (suite)

Jeux olympiques et paralympiques de 2024 : Article 7 (suite)

debate, 23/03/2023, fr — source : Assemblée nationale, compte rendu intégral

Mme la présidente : La parole est à Mme Anne Le Hénanff, pour soutenir l’amendement bknoek 300.

Mme Anne Le Hénanff : Je vais revenir au fond.

Mme Sandra Regol : La politique, c’est aussi le fond, madame !

Mme Anne Le Hénanff : Le texte exige des sociétés qui répondraient au marché public d’être en mesure de fournir l’ensemble des données collectées et utilisées lors des traitements expérimentaux. Or nombre de sociétés ne sont pas capables de fournir ces données, car ces dernières n’ont pas été conservées – généralement, il s’agit d’informations collectées au cours de nombreuses années de recherche et développement.
L’amendement vise donc à assouplir les critères exigés dans le cadre de ce marché public en supprimant la condition de recueil des données utilisées par les sociétés pendant ces années de recherche et développement. Une telle suppression ne contrevient pas aux directives de la Cnil et du Conseil constitutionnel. Au contraire, elle bénéficiera au marché public en augmentant les chances que des sociétés françaises et européennes y répondent. Le rapport d’expérimentation publié six mois après les Jeux olympiques permettra de tirer tous les enseignements, et de supprimer d’éventuels biais.

Mme la présidente : La parole est à M. Philippe Latombe, pour soutenir l’amendement bknoek 398.

M. Philippe Latombe : Il s’agit d’un amendement d’appel et de clarification. En l’état de sa rédaction, s’agissant du contrôle des algorithmes, l’article impose une obligation de résultat à l’État. Je souhaiterais que le ministre le confirme, ce qui serait plus protecteur. Dans ce cas, je retirerai l’amendement.

Mme la présidente : Quel est l’avis de la commission ?

M. Sacha Houlié : C’est un avis défavorable, dans la mesure où l’amendement dégrade la protection apportée par l’alinéa 14.

Mme la présidente : Quel est l’avis du Gouvernement ?

M. Gérald Darmanin : Sans vouloir contrarier M. le président de la commission des lois (Sourires), je suis tenté de m’en remettre à la sagesse de votre assemblée. Mais je peux également vous rassurer, monsieur le député, il s’agit d’une obligation de moyens, et non de résultat. Cela pourrait éventuellement être précisé lors de la commission mixte paritaire (CMP). Dans l’attente, vous pourriez sans doute retirer votre amendement.

Mme la présidente : La parole est à M. Philippe Latombe.

M. Philippe Latombe : Effectivement, nous clarifierons, le cas échéant, lors de la CMP. L’obligation de résultat nous convient bien.

Mme la présidente : La parole est à M. Léo Walter, pour soutenir l’amendement bknoek 618.

M. Léo Walter : Cet amendement vise à insérer, après l’alinéa 14, un alinéa prévoyant que « les bases de données collectées à cette occasion ne peuvent être ensuite revendues à des opérateurs privés ». Cela ne vous aura pas échappé, nous sommes inquiets de la mise en place de la vidéosurveillance algorithmique.
Nous plaidons à tout le moins pour que cela ne devienne pas un terrain de profits pour les opérateurs de sécurité privée souhaitant acquérir les données collectées afin d’améliorer 2947leurs propres systèmes. Cette fête populaire ne saurait servir à enrichir des sociétés de surveillance et ses participants, français et étrangers, servir de cobayes à des expérimentations attentatoires aux libertés et droits fondamentaux.

Mme la présidente : Quel est l’avis de la commission ?

M. Sacha Houlié : Défavorable.

Mme la présidente : Quel est l’avis du Gouvernement ?

M. Gérald Darmanin : Défavorable.

Mme la présidente : La parole est à M. Ugo Bernalicis.

M. Ugo Bernalicis : Je partage l’analyse de mon collègue : les gens vont servir de cobayes pour améliorer l’algorithme et, en plus, ils ne seront même pas indemnisés. Ils vont être filmés sans l’avoir voulu et vont enrichir des entreprises sans que leur démarche ou leur « comportement de foule » soit rétribué. C’est vraiment lamentable…

M. Ugo Bernalicis : Un algorithme n’aurait jamais laissé passer ça !

Mme la présidente : La parole est à M. Léo Walter, pour soutenir l’amendement bknoek 538.

M. Léo Walter : Cet amendement de repli vise à insérer le mot « discriminatoires » après le mot « biais » à l’alinéa 16. Nous souhaitons renforcer le contrôle humain dans le traitement de la vidéosurveillance afin d’éviter les biais, et tout particulièrement les biais discriminatoires.

Mme la présidente : Quel est l’avis de la commission ?

M. Sacha Houlié : Défavorable.

Mme la présidente : Quel est l’avis du Gouvernement ?

M. Gérald Darmanin : Défavorable.

Mme la présidente : La parole est à M. Antoine Léaument.

M. Antoine Léaument : Il nous semble indispensable d’adopter cet amendement qui évite…

M. Gérald Darmanin : Bonjour, monsieur Léaument.

M. Antoine Léaument : Bonjour, monsieur le ministre. Tout se passe bien ?

Mme la présidente : Monsieur Léaument, s’il vous plaît !

M. Antoine Léaument : Madame la présidente, c’est une question de politesse.

Mme la présidente : Monsieur Léaument, je vous souhaite également la bienvenue, mais, s’il vous plaît, revenons-en au débat.

M. Antoine Léaument : Bonjour, madame la présidente. C’est de la courtoisie républicaine face à un ministre qui réprime le mouvement social.

M. Benjamin Lucas : Quand on se fait interpeller là-bas, pas de problème ! Franchement !

M. Antoine Léaument : J’en reviens à l’amendement. Nous proposons d’ajouter le mot « discriminatoires », pour éviter que ces algorithmes ne le soient, pour une raison simple. Aux États-Unis, on les a utilisés dans des quartiers populaires, et les algorithmes en ont conclu que les responsables de violences et de crimes étaient des personnes racisées – des personnes noires, notamment. Sans cette précision visant à protéger de la discrimination, notamment celle liée à la couleur de peau, vos algorithmes, monsieur Darmanin, deviendront potentiellement racistes puisque vous les utiliserez notamment dans les quartiers populaires. Monsieur le ministre, si vous souhaitez protéger les individus de tels comportements algorithmiques, je vous invite à donner un avis favorable à cet amendement. (Exclamations sur quelques bancs des groupes RE, Dem et HOR.)

Mme la présidente : La parole est à Mme Anne Le Hénanff.

Mme Anne Le Hénanff : Vos propos et votre demande me choquent. Préciser qu’il peut exister des biais est une chose, écrire qu’ils sont discriminatoires en est une autre ! Je vous renvoie la balle : donnez-nous la liste des comportements que l’on peut considérer comme discriminatoires. Allez au bout de votre raisonnement, il sera très intéressant de disposer d’une telle liste ! (Applaudissements sur quelques bancs des groupes RE, Dem et HOR.)

M. Hadrien Clouet : C’est dans le code pénal !

M. Ugo Bernalicis : À l’article 225-1 !

Mme la présidente : La parole est à M. le président de la commission des lois.

M. Sacha Houlié : Le débat est intéressant, mais nous l’avons eu il y a une heure, monsieur Léaument. Nous avons précisé que le terme de « biais » visait toutes les discriminations, également interdites, évidemment, dans le traitement algorithmique. Je confirme donc mon avis défavorable.

Mme la présidente : La parole est à M. le ministre.

M. Gérald Darmanin : C’est la raison pour laquelle je vous ai dit bonjour, monsieur Léaument. (M. Antoine Léaument proteste.) Il s’agissait de souligner que vous n’étiez pas là quand nous avons évoqué le sujet ce matin dès neuf heures. Sinon, vous auriez entendu la réponse à votre question.

M. François Cormier-Bouligeon : Grasse mat’ ! (Exclamations sur les bancs du groupe LFI-NUPES.)

Mme Sandra Regol : Nous n’avons pas accepté la réponse que vous nous avez donnée !

Mme la présidente : La parole est à M. Éric Bothorel, pour soutenir l’amendement bknoek 701.

M. Éric Bothorel : Le présent amendement vise à introduire un critère de performance dans le traitement algorithmique, conformément aux recommandations de la Cnil.

Mme la présidente : Quel est l’avis de la commission ?

M. Sacha Houlié : Votre amendement est satisfait, puisqu’un rapport de validation viendra conclure la phase de test prévue à l’alinéa 18 et 2948qu’une attestation de conformité du traitement sera délivrée par l’État selon les termes de l’alinéa 21. Je vous demanderai donc de bien vouloir le retirer.

Mme la présidente : Quel est l’avis du Gouvernement ?

M. Gérald Darmanin : Même avis.

Mme la présidente : L’amendement bknoek 218 de M. Stéphane Lenormand est défendu.

Mme la présidente : L’amendement bknoek 524 de M. Jean-Pierre Cubertafon est rédactionnel.

Mme la présidente : La parole est à M. Philippe Latombe, pour soutenir l’amendement bknoek 399.

M. Philippe Latombe : Il s’agit de supprimer l’obligation pour les fournisseurs de traitements de transmettre une déclaration des intérêts qu’ils détiennent. Une telle disposition pose un problème d’effectivité. Nombre d’entreprises de taille importante, notamment des entreprises de services du numérique (ESN) françaises comme Atos, ou d’autres, ne pourraient pas candidater aux appels d’offres. Or, ce sont les entreprises les plus vertueuses. En outre, il est possible d’effectuer des contrôles. Il s’agissait d’un ajout de la commission des lois du Sénat, que nous proposons donc de supprimer, quitte à prévoir éventuellement une nouvelle rédaction pour la CMP.

Mme la présidente : Quel est l’avis de la commission ?

M. Sacha Houlié : La commission a émis un avis défavorable à cet amendement, ainsi qu’à l’amendement bknoek 400. L’obligation pour les tiers développeurs des traitements de fournir une déclaration de leurs intérêts a été ajoutée au Sénat. Elle vise à renforcer l’objectif d’impartialité et à prévenir les conflits d’intérêts.
Cependant, à titre personnel, et en fonction des explications que pourrait nous fournir le ministre, je m’en remets à la sagesse de notre assemblée pour l’amendement bknoek 400, mais demeure défavorable à l’amendement bknoek 399.

Mme la présidente : Quel est l’avis du Gouvernement ?

M. Gérald Darmanin : Même avis.

Mme la présidente : La parole est à M. Philippe Latombe.

M. Philippe Latombe : Je retire l’amendement bknoek 399 au profit de l’amendement bknoek 400, qui est défendu.

Mme la présidente : L’amendement bknoek 400 de M. Philippe Latombe est défendu.

Mme la présidente : La parole est à M. Hadrien Clouet, pour soutenir l’amendement bknoek 501.

M. Hadrien Clouet : Cet amendement vise à rendre transparents les codes intégrés aux algorithmes. Cela s’inscrit, me semble-t-il, dans la continuité de plusieurs mesures adoptées par l’Assemblée depuis une dizaine d’années, de manière généralement assez consensuelle, au sujet de dispositions sécuritaires potentiellement discriminatoires.
Nos débats l’ont montré, le fait de renforcer la transparence, c’est-à-dire la libre consultation des codes, et donc la possibilité d’en rectifier les erreurs, est une manière de faire bénéficier les usagers de ce fameux droit à l’erreur que vous offrez aux entreprises privées, afin qu’ils puissent vérifier le contenu des algorithmes. Un algorithme, on le sait, établit un lien entre une action qu’engage une personne et certaines données, lien qui peut être plus ou moins légitime. Mon camarade Léaument vient d’expliquer que l’établissement de ce lien peut conduire à ce qu’une donnée en cache une autre : c’est la question des biais algorithmiques ; parce que certaines populations sont plus couramment associées à certains types de données, il existerait un lien logique entre ces populations et un certain type d’action. Pour éviter ces discriminations, il faut que le code soit public, afin que l’on puisse vérifier comment s’établissent les liens en amont, quelles sont les formules utilisées. Il s’agit de protéger les libertés individuelles, dans un texte qui les met déjà suffisamment à mal.

Mme la présidente : Quel est l’avis de la commission ?

M. Sacha Houlié : Défavorable.

Mme la présidente : Quel est l’avis du Gouvernement ?

M. Gérald Darmanin : Même avis.

Mme la présidente : La parole est à M. Jordan Guitton.

M. Jordan Guitton : Rendre public le code de l’algorithme serait contre-productif, voire très dangereux. Pourquoi ? Parce que les caméras algorithmiques ont pour principale vocation d’aider à lutter contre le terrorisme. Si demain, un terroriste s’empare du code de l’algorithme et sait exactement comment fonctionne la caméra algorithmique,…

M. Hadrien Clouet : Le code, pas la caméra : une caméra, on sait comment ça marche !

M. Jordan Guitton : …il pourra adapter son comportement de manière à ne plus pouvoir être décelé par la caméra.

Mme Sandra Regol : Je croyais que derrière les caméras, c’étaient des êtres humains qui réfléchissaient !

M. Hadrien Clouet : Intoxication !

M. Jordan Guitton : Soyez donc un peu cohérents ! Auriez-vous l’idée de prévenir un individu que vous allez interpeller du mode opératoire que vous avez choisi, en lui précisant l’heure et le lieu de son interpellation par les forces de l’ordre ? Non. Eh bien, c’est la même chose avec le code algorithmique.

M. Hadrien Clouet : Mais non ! Ce n’est pas ce que dit un code !

M. Jordan Guitton : Le Rassemblement national défend évidemment les libertés publiques, mais il y a d’autres moyens de les protéger que de donner aux terroristes le code algorithmique d’une caméra qui a précisément vocation à les combattre. (Applaudissements sur les bancs du groupe RN.)

Mme la présidente : La parole est à M. Ugo Bernalicis.

M. Ugo Bernalicis : Je dois avouer qu’en commission, j’ai moi-même pu faire la confusion entre le code de l’algorithme, son implémentation, sa finalité et les bases de données qui lui sont couplées. J’ai donc lu avec intérêt la littérature de la Quadrature du net, qui explique que la plupart des codes utilisés dans les algorithmes sont en libre accès, et donc consultables par tous. La question est donc moins celle de leur consultation que celle de leur fonctionnement et de leur paramétrage.
Il me semble, monsieur Guitton, que vous avez raté un point de nos débats – pour ma part, j’essaie de suivre. Sachant qu’on nous a expliqué que la vidéosurveillance algorithmique ne concernerait qu’une liste prédéterminée d’événements validée par la Cnil, demandons-nous déjà si les attaques terroristes figureront dans cette liste transmise par le ministre. Pas sûr, puisqu’on nous a plutôt parlé de mouvements de foule ou de colis abandonnés – à moins qu’on ne se concentre uniquement sur les colis abandonnés dans une visée terroriste. Je crois donc que vous ne parlez pas exactement de la même chose que nous : vous parlez de la vidéosurveillance telle que vous la rêvez et telle que vous aimeriez qu’elle soit généralisée… comme ce sera le cas après l’adoption de cette loi.
Prenez-en de la graine ! Nous en sommes aux prémices, mais la technique consiste à d’abord mettre le pied dans la porte grâce à un texte sur les JO, tout à fait acceptable par la population, pour ensuite étendre la surveillance à tout le monde, comme vous le souhaitez.

M. Jordan Guitton : C’est faux !

Mme la présidente : L’amendement bknoek 738 de M. le rapporteur est rédactionnel.

Mme la présidente : La parole est à Mme Sandra Regol, pour soutenir l’amendement bknoek 722.

Mme Sandra Regol : On s’éloigne de plus en plus de la transparence, dans la mesure où vous venez de voter un allègement des conditions de vérification des conflits d’intérêts des entreprises qui vont gérer ces données hautement sensibles et où vous opposez un refus systématique à nos demandes visant à donner à la population plus de moyens d’information.
Je rappelle que l’efficacité des systèmes fondés sur le tout-vidéo, le tout-technologique ou le tout-automatique pour la protection des personnes n’a été prouvée par aucune étude. On sait, bien sûr, que ces images peuvent être utilisées a posteriori, mais il me semble que vous nous avez dit que ce ne serait pas le cas.
La technique proposée par ce texte constitue donc une menace pour les libertés publiques, comme la liberté d’expression – ce n’est pas un petit sujet, à l’heure où je parle et où des millions de personnes défilent dans les rues et s’exposent à la répression : je n’ose imaginer ce que serait la situation avec de tels dispositifs de surveillance. Il en va de même pour la liberté d’association – rien d’anodin non plus, dans le contexte actuel – ou pour la liberté de circulation : on a pu voir, notamment à Strasbourg, qu’il était manifestement permis de prendre en nasse des manifestants dans un cul-de-sac – et je suis aussi curieuse que mon collègue Emmanuel Fernandes de votre réponse, monsieur le ministre.
Non seulement ces menaces ont été dénoncées par les associations de défense des droits humains, mais elles vont à l’encontre du droit international. Vous soutenez que les systèmes algorithmiques ne traiteront d’aucune donnée biométrique. Ces arguments sont exactement les mêmes que ceux des entreprises qui vendent ces systèmes et qui sont, comme vous, incapables de présenter les garanties techniques permettant de s’assurer que c’est bien vrai. Il est problématique que les argumentaires de vente et la réalité technique ne soient pas conformes : c’est sans doute qu’il y a un loup.
C’est pourquoi, dans la mesure où ces données échappent au contrôle de l’État, nous demandons que la Cnil puisse disposer d’un libre accès aux traitements algorithmiques des données.

Mme la présidente : Quel est l’avis de la commission ?

M. Sacha Houlié : Avis défavorable.

Mme la présidente : Quel est l’avis du Gouvernement ?

M. Gérald Darmanin : L’intervention de Mme Regol me permet non seulement d’exprimer mon avis défavorable sur l’amendement, mais également de lui répondre – ainsi qu’à son collègue – à propos de Strasbourg. Je vous livre donc les informations qui m’ont été communiquées par la préfète : lundi soir, à Strasbourg, s’est déroulée une manifestation qui n’a pas été déclarée dans les temps – c’est comme pour le dépôt des comptes de campagne : après l’heure, c’est plus l’heure –…

M. Sacha Houlié : Postérieurement à la manifestation, ça ne marche pas !

M. Gérald Darmanin : …et dont je note d’ailleurs qu’elle a été déclarée par le collaborateur du député Fernandes.

Mme Sandra Regol : Il n’est pas interdit d’être militant !

M. Gérald Darmanin : Lors de cette manifestation d’une centaine de personnes, donc, une cinquantaine d’éléments que la police a qualifiés de radicaux se sont retrouvés vers vingt-deux heures dans une des rues du centre-ville, la rue de la Dentelle – apparemment très étroite, mais je ne la connais pas. Devant les nombreux troubles à l’ordre public et les nombreuses dégradations dont font foi, paraît-il, les caméras piétons, les forces de sûreté intérieure…

M. Antoine Léaument : Paraît-il ?

M. Gérald Darmanin : Je dis « paraît-il », parce qu’étant ici, avec vous, je n’ai pas vu personnellement les images… Les forces de l’ordre, devant l’étroitesse de la rue, ont demandé la dispersion.

Mme Sandra Regol : Mais c’est un cul-de-sac !

M. Ugo Bernalicis : La dispersion dans un cul-de-sac ?

M. Gérald Darmanin : Une partie des manifestants ont alors quitté les lieux, tandis qu’une cinquantaine d’éléments radicaux n’ont pas souhaité obtempérer.

Mme Sandra Regol : Ils ne pouvaient pas sortir !

M. Gérald Darmanin : Ils se sont alors retrouvés dans la rue de la Dentelle, tandis que les forces de l’ordre étaient positionnées autour du pâté de maisons. Ils ont été autorisés à sortir deux par deux – ce qui prouve bien que la nasse était ouverte, contrairement à ce qui a été dit –, après qu’on s’est assuré qu’ils ne portaient aucun objet dangereux. Un manifestant de 22 ans a fait un léger malaise.

Mme Sandra Regol : Très rassurant…

M. Gérald Darmanin : Il a été pris en charge par les secours, à la demande de la police nationale ; les sapeurs-pompiers sont arrivés à vingt-deux heures vingt-trois. La personne est repartie avec une douleur à la gorge ; elle a préféré quitter les lieux seule. Hormis cet incident, précise Mme la préfète, rien de notable n’a été signalé. Le retour au calme est intervenu rapidement. Voilà, je pense que vous avez votre réponse.

Mme Sandra Regol : C’était donc une manifestation déclarée, avec une nasse dont il était impossible de sortir !