Contenu haineux sur internet : en ligne ou hors ligne, la loi doit être la même.
debate, 19/11/2020, fr — source : Sénat, compte rendu intégral
Mme la présidente : L’ordre du jour appelle le débat, organisé à la demande du groupe Les Indépendants – République et Territoires, sur le thème : « Contenus haineux sur internet : en ligne ou hors ligne, la loi doit être la même. »
Nous allons procéder au débat sous la forme d’une série de questions-réponses, dont les modalités ont été fixées par la conférence des présidents.
Je rappelle que l’auteur de la demande du débat dispose d’un temps de parole de huit minutes, puis le Gouvernement répond pour une durée équivalente.
À l’issue du débat, l’auteur de la demande dispose d’un droit de conclusion pour une durée de cinq minutes.
Dans le débat, la parole est à M. Claude Malhuret, pour le groupe auteur de la demande. (Applaudissements sur les travées des groupes INDEP, RDSE et UC.)
M. Claude Malhuret : Madame la présidente, monsieur le secrétaire d’État, mes chers collègues, il y avait autrefois dans les villages celui qu’on appelait l’idiot du village.
Aujourd’hui, les idiots du village global sont sur internet. Ils croient que la terre est plate ou que la lune est habitée parce qu’il y a de la lumière la nuit. Ils sont complotistes, harceleurs, racistes, haineux, radicalisés ou délirants.
Cela n’aurait pas beaucoup d’importance si les réseaux sociaux ne leur permettaient de se reconnaître, de se rassembler et de se réunir. On s’aperçoit alors qu’ils sont bien plus nombreux qu’on ne le croyait. Staline demandait : « Le pape, combien de divisions » ? L’armée des idiots du village en a beaucoup.
Pourquoi s’en préoccuper ? Après tout, peut-être vaut-il mieux laisser délirer entre eux ceux qui croient que Bill Gates veut tuer 15 % de l’humanité avec un vaccin contre la covid…
Mais les choses ont changé depuis que Facebook, au lendemain de l’élection américaine de 2016, a modifié ses algorithmes qui avaient permis aux fake news de peser sur le résultat du vote. Dégrader la promotion des pages au profit des groupes partait d’une idée intéressante, mais l’enfer est pavé de bonnes intentions : une grande partie du contenu des fils d’actualité proviennent aujourd’hui des groupes et de leurs centaines de liens, de vidéos et de commentaires indignés.
Les plateformes sont désormais remplies de bataillons soudés à l’intérieur par leurs certitudes et leurs indignations, et à l’extérieur par le combat contre ceux qui ne pensent pas comme eux. Qu’il s’agisse des groupes sur Facebook, des combattants sur Twitter, le tout exacerbé par YouTube, une bonne partie de l’écosystème des réseaux dits « sociaux » ressemble chaque jour un peu plus à des gangs rivaux s’agressant dans des quartiers mal famés.
« Nul ne ment autant qu’un homme indigné », écrivait Nietzsche. Et le mensonge est devenu généralisé, favorisé par l’anonymat et la certitude de l’impunité. Le mensonge, mais aussi l’injure, la haine, le sexisme, le racisme, l’homophobie, les menaces, la violence, la propagande terroriste : tout un pan de l’internet est devenu un dépotoir.
Ce qui est grave, ce sont les conséquences, celles qui s’exercent sur la vie des victimes du harcèlement, du revenge porn, des dénonciations, des menaces de mort.
Beaucoup ne s’en aperçoivent pas parce qu’ils n’ont pas été victimes personnellement des tombereaux de boue déversés quotidiennement. Ils n’ont pas été forcés de fermer leurs comptes en ligne, de changer d’école ou de ville, leur réputation n’a pas été détruite. Ils ne sont pas obligés de vivre chaque jour sous protection policière, comme Sonia Mabrouk, comme Zineb El Rhazoui et tant d’autres, victimes de fatwas sur internet.
Mais le phénomène a pris tant d’ampleur que personne ne peut plus fermer les yeux. L’affaire Mila, médiatisée dans tous ses détails et dans toute son horreur, a permis à la France entière de prendre la mesure du fléau et de comprendre l’urgence de l’endiguer. Et chacun sait désormais que les torrents d’injures des fanatiques sur les réseaux ont préparé l’assassinat de Samuel Paty.
Il est urgent de se donner des lois enfin efficaces contre la haine en ligne. Ce ne sera pas facile en raison de l’obstruction des plateformes, qui luttent pied à pied contre les régulations, parce que c’est leur business model même qui est en cause.
Voici ce que l’ancien ingénieur de Google Tristan Harris, auditionné par la commission d’enquête du Sénat américain, dit de Twitter : « Pour chaque mot d’indignation ajouté à un tweet, le taux de retweet augmente en moyenne de 17 %. En d’autres termes, la polarisation de notre société fait partie du modèle commercial des réseaux sociaux. »
Bien sûr, les plateformes ne peuvent pas avouer la raison de leur passivité : le pognon ! Alors, leurs milliers d’avocats et de lobbyistes partent à l’assaut des gouvernements, des parlements et des opinions publiques avec un argument massue : la liberté d’expression.
Et malheureusement, cela marche souvent, comme on l’a vu lors du débat sur la loi Avia. Celle-ci ne prévoyait pas une privatisation de la censure, elle ne visait pas à confier aux plateformes ce qui relève du juge. C’est aujourd’hui que la censure existe, et elle est toute-puissante. La censure, ce sont les milliers d’internautes qui n’osent plus s’exprimer sur les réseaux sociaux, qui ont résilié leur abonnement pour ne plus s’exposer aux attaques racistes, antisémites, homophobes et sexistes, menées sous forme de raids en bandes organisées, ou de « fermes de trolls » submergeant les pages individuelles. C’est là qu’est le scandale, c’est là qu’est la censure !
Comment peut-on soutenir que le retrait des contenus haineux porte atteinte à la liberté d’expression ? La liberté d’expression, ce n’est pas la diffusion de la haine, de la violence, des appels au meurtre ou au viol ; ce n’est pas non plus empêcher les autres de s’exprimer par des attaques massives ou des menaces.
En confondant ces délits avec la liberté d’expression, ce ne sont pas les victimes que l’on défend, ce sont les agresseurs. Comment comprendre que l’on n’impose pas aux plateformes ce que l’on impose à la presse depuis 1881 : l’interdiction de livrer des contenus haineux, diffamatoires ou injurieux ? La presse s’y conforme évidemment, et personne n’a jamais dit qu’on lui confiait le rôle de juge.
Et bien sûr que plateformes et presse ont les mêmes responsabilités. Excusez-moi si mon raisonnement peut paraître un peu simpliste aux éminents juristes opposés à la loi Avia, mais le voici : il n’y a aucune raison que l’on puisse lire sur la toile ce qui est interdit dans un journal.
C’est dire à quel point j’ai été heureux de découvrir la récente interview dans Le Monde de Thierry Breton, commissaire européen au numérique, qui prépare le Digital Services Act de l’Union européenne. Il y déclare : « Ce qui est illégal offline doit être illégal online. » Pourquoi cette évidence est-elle si difficile à faire comprendre ?
Le projet de loi annoncé hier par le ministre de l’intérieur et le garde des sceaux est bienvenu, mais, d’une part, il ne traite qu’un aspect du problème et, d’autre part, il n’est que français, alors que la seule réponse efficace est européenne, comme le règlement général sur la protection des données (RGPD) l’a démontré. Nous avons désormais un commissaire européen et une présidente de la Commission qui veulent agir et frapper fort. Ne manquons pas cette occasion et soutenons-les.
Le Digital Services Act doit marcher sur deux jambes. Il doit imposer une obligation de moyens et une obligation de résultats.
L’obligation de moyens consiste, pour les plateformes, à faire en sorte que leurs algorithmes ne favorisent plus, mais au contraire empêchent, la viralité des propos indignés, colériques, haineux ou injurieux. Ces algorithmes doivent être transparents pour les régulateurs, et non dissimulés au nom de prétendus secrets de fabrication.
L’obligation de résultats consiste, pour les plateformes, à mettre enfin en place les moyens suffisants en personnel et en technologie pour une modération effective, réelle et efficace. « C’est très cher », nous disent-elles en gémissant. De tels propos sont indécents de la part des sociétés les plus riches du monde.
Le combat sera difficile puisqu’il s’agit d’une collision frontale avec le business model actuel des réseaux, mais il y va de la lutte contre les incendiaires du web, de la sécurité des victimes et, in fine, de la stabilité de nos démocraties.
Pour ceux qui penseraient que j’exagère, je citerai Barack Obama, qui a déclaré lors d’un entretien donné il y a quelques jours à The Atlantic : « L’internet et les réseaux sociaux sont devenus une des principales menaces contre la démocratie. »
C’est pourquoi nous comptons beaucoup sur le gouvernement français pour convaincre l’Europe de ne pas se satisfaire de demi-mesures. Jean Castex nous l’a promis ici même il y a quelques jours, et vous l’avez dit sur votre blog, monsieur le secrétaire d’État. Le but de ce débat est de contribuer à ce que cette promesse soit tenue. (Applaudissements sur les travées des groupes INDEP, UC et Les Républicains.)
Mme la présidente : La parole est à M. le secrétaire d’État.
M. Cédric O : secrétaire d’État auprès du ministre de l’économie, des finances et de la relance et de la ministre de la cohésion des territoires et des relations avec les collectivités territoriales, chargé de la transition numérique et des communications électroniques . Monsieur le président Malhuret, je commencerai, en m’écartant du discours que j’avais préparé, par partager quelques réflexions sur un sujet qui nous a déjà beaucoup occupés lors de l’examen de la proposition de loi Avia, tant il est absolument essentiel – je suis complètement d’accord avec vous sur ce point.
Ce qui est en jeu à travers la régulation d’internet, c’est ni plus ni moins la pertinence de l’action publique et la persistance de la foi de nos concitoyens en la réalité et en l’efficacité de l’action de l’État s’agissant de l’une de ses missions principales, la protection des individus.
Aujourd’hui, en théorie, ce qui est interdit hors ligne est interdit en ligne, mais, dans les faits, compte tenu des spécificités techniques du fonctionnement et de la régulation d’internet, ce n’est pas le cas.
Avant d’évoquer la régulation des grandes plateformes, enjeu absolument central dans ce débat, je voudrais que l’on n’oublie pas le plus important : aucune démocratie n’est capable aujourd’hui de contrôler et de réguler efficacement ce qui se passe sur internet, et ce en raison de trois facteurs inhérents à ses contenus : la viralité, la massification et la persistance.
Imaginons que les plateformes soient capables de réguler efficacement les contenus problématiques ou haineux. Ce serait bienvenu, mais combien d’infractions en ligne sont-elles commises chaque jour en France aujourd’hui ? Leur nombre est difficile à estimer, mais disons qu’on peut l’évaluer à plusieurs milliers, voire à plusieurs dizaines de milliers. Voilà ce qui se passe aujourd’hui en ligne en France.
L’ensemble de ces infractions sont commises quasiment en toute impunité. Tout le monde s’accorde sur ce point aujourd’hui : si vous insultez quelqu’un, si vous le menacez de mort, vous ne risquez quasiment rien, même si certaines situations peuvent permettre l’identification et l’appréhension des coupables.
Imaginons, disais-je, que nous soyons capables de réguler efficacement les contenus problématiques et haineux : comment faire ensuite pour juger rapidement et sanctionner efficacement plusieurs milliers, voire des dizaines de milliers de personnes par jour ?
Cette question continuera de se poser : demain, même si l’on parvient à réguler efficacement la haine en ligne, même si les plateformes suppriment réellement toutes les injures et les menaces de mort, cela signifiera simplement que l’on aura mis la poussière sous le tapis. On aura supprimé les contenus haineux et les menaces de mort sans pour autant avoir réglé le problème principal, c’est-à-dire l’impunité des contrevenants.
Le problème fondamental que nos démocraties doivent régler, pour que les Chinois et un certain nombre de régimes ayant un rapport un peu différent à la liberté, ne soient pas les seuls capables de réguler les contenus en ligne, c’est l’efficacité de la chaîne police – justice – sanctions.
Hélas, nous risquons de rester durablement confrontés à ce problème. On risque en effet de progresser en ce qui concerne le retrait des contenus problématiques – je reviendrai tout à l’heure sur les textes européens –, mais on aboutira à un paradoxe extrêmement intéressant d’un point de vue ontologique : les contenus les plus faciles à retirer sont les contenus terroristes – une vidéo de décapitation est en effet très bien détectée par les algorithmes –, alors que les contenus gris, c’est-à-dire les insultes et les menaces de mort, proférées avec une faute d’orthographe afin de les rendre indétectables de façon automatique, ou en tout cas plus difficilement détectables, resteront en ligne et feront l’objet d’une plainte.
On aboutira donc à une aberration : les personnes présentées devant un juge seront celles qui auront proféré des menaces de mort, tandis que les individus qui auront publié des photos de décapitation – et donc fait bien pire – y échapperont parce qu’il est beaucoup plus facile de détecter ce type de contenus.
Nous sommes donc au cœur du texte auquel travaillent actuellement Gérald Darmanin et Éric Dupond-Moretti : comment faire pour que la sanction ait valeur d’exemple et pour qu’elle soit réellement appliquée ? Lorsqu’un individu contrevient en ligne à la loi, comment faire pour qu’il soit véritablement sanctionné ? C’est pour répondre à ces questions que nous proposons la spécialisation du parquet et que nous améliorons les procédures permettant de porter plainte en ligne. Il existe donc un certain nombre de sujets techniques sur lesquels nous devons avancer.
Je le disais, internet se caractérise par sa massification et sa viralité. Les plateformes ont une responsabilité en ce qu’elles accélèrent la diffusion des contenus et créent des effets de silo : ainsi, plus vous êtes complotiste, plus vous regardez des vidéos complotistes, plus vous aimez tel ou tel contenu, plus on vous propose des vidéos ayant un rapport avec ce contenu. C’est pourquoi on doit imposer aux plateformes un certain nombre d’obligations relatives à la viralité et à l’« éditorialisation » – je suis prudent en employant ce terme – des sujets.
Il n’empêche, nous continuerons de nous heurter à certaines difficultés : ainsi, les boucles WhatsApp relèvent de la correspondance privée parce qu’on n’y trouve aucun contenu éditorialisé. Pour faire un parallèle avec une autre époque, c’est comme si vous envoyiez des milliers de courriers à des personnes que vous connaissez, ou que vous ne connaissez pas d’ailleurs, tout en bénéficiant du secret de la correspondance privée. Personne n’a jamais demandé à La Poste d’ouvrir l’ensemble des courriers pour vérifier qu’ils ne posaient aucun problème. Voilà un autre sujet sur lequel il nous faudra nous pencher, car il soulève beaucoup d’interrogations.
En attendant et en tout état de cause, on doit imposer aux grandes plateformes des obligations de moyens. Il faut les obliger à respecter un niveau minimum de modération, évalué en fonction du nombre de modérateurs et de la transparence de la modération, et à améliorer leurs règles en la matière, sous la supervision de la puissance publique. Enfin, nous devons comprendre leur manière de fonctionner.
Cette question doit d’abord être réglée à l’échelon européen, parce qu’il s’agit du bon niveau de régulation : c’est du reste l’objet du prochain texte qui sera présenté par les commissaires européens Thierry Breton et Margrethe Vestager au début du mois de décembre.
La France et l’Allemagne ont été extrêmement actives sur ce dossier. Je pense que l’une des principales difficultés à surmonter tient aux différences de conception entre les États européens sur la question des contenus illégaux : une partie des pays nordiques et des pays de l’Est ont en effet une vision différente de la nôtre et de celle des pays méditerranéens sur l’endroit où placer le curseur entre liberté d’expression et protection des concitoyens.
Cela étant, je pense qu’un accord est possible si l’on parvient à un compromis européen sur l’obligation de moyens, tout en laissant la définition des contenus licites ou illicites à l’appréciation de chaque État, à l’échelon national. Cet équilibre permettrait de tenir compte de la différence de perception et de culture de chaque pays sur le sujet.
Je ne serai pas beaucoup plus long. Ce débat est extrêmement intéressant, et je viens de partager avec vous un certain nombre d’idées fortes ou, en tout cas, d’interrogations que la puissance publique se pose elle-même. Cela ne l’empêche pas d’avancer, en se tenant parfois sur une ligne de crête afin d’éviter la censure du juge constitutionnel, comme vous l’avez constaté dernièrement.
Quoi qu’il en soit, je crois profondément qu’il faut considérer que ces questions sont très principielles si l’on veut que les démocraties libérales et les pays qui ont une conception un peu différente du contrôle ne soient pas les seuls capables de réguler efficacement internet.
Il ne faut pas se tromper, si l’on n’est pas capable de réguler efficacement internet et de protéger nos concitoyens, ces derniers finiront par opter pour des solutions plus radicales. (Applaudissements sur les travées du groupe INDEP. – M. Julien Bargeton applaudit également.)