Prévention de la diffusion en ligne de contenus à caractère terroriste : Après l’article unique

Prévention de la diffusion en ligne de contenus à caractère terroriste : Après l’article unique

debate, 16/02/2022, fr — source : Assemblée nationale, compte rendu intégral

Mme la présidente (Union pour un mouvement populaire) : La parole est à M. Ugo Bernalicis, pour soutenir l’amendement bknoek 3 portant article additionnel après l’article unique.

M. Ugo Bernalicis (Parti de gauche, La France insoumise) : Cet amendement prolonge la discussion que nous venons d’avoir et vise un contrôle plus large des algorithmes utilisés sur les internets, que ce soit sur les réseaux sociaux ou dans d’autres domaines. Je rappelle en effet que les algorithmes ne sont pas réservés à Facebook, Twitter ou YouTube mais qu’ils sont aussi employés par les services de l’État – c’est même de plus en plus fréquent – et par des services privés. À cet égard, vous avez instauré la loi de programmation 2018-2022 et de réforme pour la justice, à laquelle je m’étais opposé, qui autorise les legaltech, c’est-à-dire les cabinets de conseils en droit, à réaliser des expertises juridiques en ligne pour la conciliation préalable obligatoire en matière de litiges civils d’un montant inférieur à 1 500 euros. Mais nous ne nous sommes pas donné les moyens de déterminer si l’analyse algorithmique des données produirait un biais indésirable.
Il en est de même du décret portant création d’un traitement automatisé de données à caractère personnel, dit DataJust, qui a été fortement contesté par les syndicats de magistrats administratifs et judiciaires et qui suscite des interrogations quant à l’interprétation des informations qui pourraient ne pas toujours être utilisées en vue d’une meilleure organisation administrative ou à des fins bienveillantes.
Cessons de penser que puisqu’une technologie existe, il faut absolument l’employer. Nous pouvons aussi lui fixer des limites, prévoir des contrôles ou décider de ne pas y recourir parce que son usage serait attentatoire aux droits fondamentaux inclus dans le bloc de constitutionnalité.
Le présent amendement vise donc à réaffirmer la nécessité de décortiquer les algorithmes utilisés par les opérateurs de plateformes, de manière à en identifier les effets pervers et à obliger les plateformes en question à les corriger, parce que ce sont souvent des biais de discrimination qui n’ont pas grand-chose à voir avec le terrorisme mais qui polluent la vie en collectivité.

Mme la présidente (Union pour un mouvement populaire) : Quel est l’avis de la commission ?

Mme Aude Bono-Vandorme (Les Centristes) : Vous avez raison, nous sommes tous conscients des dérives que les algorithmes peuvent entraîner s’ils ne font l’objet d’aucune supervision. Mais je vous rappelle que la présente proposition de loi a pour seul objectif de transposer le règlement TCO. Je ne veux donc pas y introduire d’autres mesures qui dépasseraient ce cadre restreint, sans évaluation ni réflexion d’ensemble. (M. Ugo Bernalicis sourit.)
Cela ne veut pas dire que nous n’agissons pas. C’est précisément parce que nous sommes conscients de ces enjeux que le Digital Services Act créera des obligations de transparence pour les algorithmes développés par les plateformes en ligne. Je vous invite à lire les rapports déjà publiés sur le sujet.
C’est aussi pour cette raison que le règlement et la proposition de loi sont particulièrement exigeants quant aux contenus à caractère terroriste. Je tiens à préciser que le règlement TCO prévoit déjà de fortes garanties afin de prévenir les abus que vous mentionnez : l’article 5 du règlement oblige ainsi les hébergeurs qui recourent à des mesures techniques à prévoir des garanties, notamment au moyen d’une surveillance et d’une vérification humaines. Par ailleurs, j’ai souhaité renforcer ces garanties en présentant la semaine dernière en commission des lois – vous étiez d’ailleurs présent – un amendement qui a été adopté, permettant à l’ARCOM de solliciter tout renseignement nécessaire à l’accomplissement de sa mission et de s’assurer que les obligations de proportionnalité et de non-discrimination des mesures instaurées par les hébergeurs sont bien respectées. Pour toutes ces raisons, j’émets un avis défavorable.

Mme la présidente (Union pour un mouvement populaire) : Quel est l’avis du Gouvernement ?

Mme Marlène Schiappa : Même avis.

Mme la présidente (Union pour un mouvement populaire) : La parole est à M. Ugo Bernalicis.

M. Ugo Bernalicis (Parti de gauche, La France insoumise) : Vous avez effectivement ajouté cette disposition, mais elle se trouve enserrée dans votre proposition de loi qui ne concerne que les contenus à caractère terroriste sur les plateformes. Certes, par extension, l’ARCOM pourrait solliciter des données plus larges, mais les plateformes seraient en droit de le contester en se prévalant, au hasard, de la loi relative à la protection du secret des affaires, que vous avez également adoptée. Le fonctionnement de l’algorithme est souvent un secret bien gardé, dans la mesure où il génère de l’argent pour les plateformes en question.

M. Philippe Bolo (Mouvement démocrate) : C’est une affaire de business !

M. Ugo Bernalicis (Parti de gauche, La France insoumise) : C’est ce que révèlent les différents rapports que nous avons pu lire – ou dont nous avons lu en tout cas des synthèses ou des analyses diverses et variées.
Notre amendement, qui est relativement complet, pointe les biais potentiels des algorithmes et la raison pour laquelle nous demandons des informations. Il précise en outre que les opérateurs de plateformes doivent rendre public le contenu des algorithmes de manière intelligible et accessible – ils refilent souvent les informations en vrac en disant « débrouillez-vous » et vous n’y voyez que du feu. Je vois des collègues acquiescer, parce que c’est la vérité. C’est ce que disent la CNIL ou l’ARCOM, qui ne peuvent rien faire des informations ainsi transmises. C’est pourquoi il est nécessaire de bien rédiger la loi. Vous vous grandiriez en reconnaissant que la procédure administrative peut être attentatoire aux libertés et en prévoyant, par équilibre, de nouvelles garanties pour superviser les algorithmes. Vous ne le faites même pas, ce qui en dit long sur vos intentions.

Mme la présidente (Union pour un mouvement populaire) : La parole est à M. Ugo Bernalicis, pour soutenir l’amendement bknoek 5.

M. Ugo Bernalicis (Parti de gauche, La France insoumise) : Il s’agit de demander un rapport sur les moyens dont dispose l’OCLCTIC. La police judiciaire française manque de moyens : elle compte 5 600 agents sur les 120 000 policiers qui forment la police nationale ; pour vous donner un ordre de grandeur, 15 000 d’entre eux sont affectés à la police aux frontières et 7 500 dans les brigades anticriminalité (BAC). Il faudrait au moins doubler les effectifs de la police judiciaire – et je ne parle pas de la sécurité publique.
Les offices centraux rencontrent des difficultés pour recruter des spécialistes sur ces sujets. On survalorise la lutte contre les stupéfiants notamment – ce n’est pas le ministre Darmanin qui dira le contraire –, ce qui explique qu’on galère à trouver des candidats en interne prêts à intégrer les filières cyber, économique et financière. C’est la réalité. C’est pourquoi le groupe La France insoumise préconise de modifier les procédures de recrutement – nous nous en chargerons nous-mêmes dès le 24 avril prochain. Mais si d’aventure vous vouliez adopter cet amendement, cela nous permettrait d’obtenir des éléments sans attendre cette échéance.

Mme la présidente (Union pour un mouvement populaire) : Quel est l’avis de la commission ?

Mme Aude Bono-Vandorme (Les Centristes) : Vous savez, cher collègue, que l’Assemblée nationale est traditionnellement défavorable aux demandes de rapports.

M. Ugo Bernalicis (Parti de gauche, La France insoumise) : Non, pas l’Assemblée ! Vous !

Mme Aude Bono-Vandorme (Les Centristes) : De telles demandes surchargent les services de l’État sans pour autant contribuer à une meilleure information du Parlement. En outre, il nous est déjà possible de nous saisir de ce sujet, dans le cadre des prérogatives du Parlement en matière d’évaluation. La commission des lois s’empare d’ailleurs très régulièrement – vous le savez puisque vous en faites partie – de ces sujets qui se trouvent au cœur de ses missions.

M. Ugo Bernalicis (Parti de gauche, La France insoumise) : Pourquoi ne produit-elle donc aucun rapport ? Zéro rapport en cinq ans !

Mme Aude Bono-Vandorme (Les Centristes) : À ce titre, rien n’empêchera le Parlement de créer une mission d’évaluation de la loi en temps voulu…

M. Ugo Bernalicis (Parti de gauche, La France insoumise) : On s’en chargera après le 24 avril !

Mme Aude Bono-Vandorme (Les Centristes) : …ni de se saisir du sujet précis évoqué dans votre amendement. Avis défavorable.