Lutte contre les contenus haineux sur internet : Article 4
debate, 17/12/2019, fr — source : Sénat, compte rendu intégral
Mme la présidente (Union pour la démocratie française) : I. – Après l’article 17-2 de la loi n° 86-1067 du 30 septembre 1986 relative à la liberté de communication, il est inséré un article 17-3 ainsi rédigé :
« Art. 17-3. – I. – Le Conseil supérieur de l’audiovisuel veille au respect des dispositions des articles 6-2 et 6-3 de la loi n° 2004-575 du 21 juin 2004 pour la confiance dans l’économie numérique par les opérateurs mentionnés à l’article 6-2 de la même loi.
« À ce titre, il adresse aux opérateurs mentionnés au même article 6-2 des recommandations visant à assurer le respect des dispositions mentionnées au premier alinéa du I du présent article.
« Il s’assure du suivi des obligations reposant sur ces opérateurs.
« Il publie chaque année un bilan de l’application de ces dispositions par les opérateurs de plateforme en ligne et de leur effectivité.
« Il recueille auprès des opérateurs mentionnés à l’article 6-2 de la loi n° 2004-575 du 21 juin 2004 précitée toutes les informations nécessaires au contrôle des obligations prévues à l’article 6-3 de la même loi.
« Le Conseil supérieur de l’audiovisuel peut mettre en demeure un opérateur de se conformer, dans le délai qu’il fixe, aux dispositions mentionnées au premier alinéa du I du présent article.
« Dans l’appréciation du manquement de l’opérateur, le Conseil supérieur de l’audiovisuel prend en compte le caractère insuffisant ou excessif du comportement de l’opérateur en matière de retrait des contenus portés à sa connaissance ou qu’il constate de sa propre initiative.
« Lorsque l’opérateur faisant l’objet de la mise en demeure ne se conforme pas à celle-ci, le Conseil supérieur de l’audiovisuel peut, dans les conditions prévues à l’article 42-7 de la présente loi, prononcer une sanction pécuniaire dont le montant doit prendre en considération la gravité des manquements ainsi que, le cas échéant, leur caractère réitéré, sans pouvoir excéder 4 % du chiffre d’affaires mondial total de l’exercice précédent.
« Le Conseil supérieur de l’audiovisuel peut rendre publiques les mises en demeure et sanctions qu’il prononce. Il détermine dans sa décision les modalités de cette publication, qui sont proportionnées à la gravité du manquement. Il peut également ordonner leur insertion dans des publications, journaux et supports qu’il désigne, aux frais des opérateurs faisant l’objet de la mise en demeure ou de la sanction.
« Les sanctions pécuniaires sont recouvrées comme les créances de l’État étrangères à l’impôt et au domaine.
« III. – Le Conseil supérieur de l’audiovisuel encourage les opérateurs mentionnés à l’article 6-2 de la loi n° 2004-575 du 21 juin 2004 précitée à mettre en œuvre :
« – des outils de coopération et de partage d’informations dans la lutte contre les infractions mentionnées au troisième alinéa du 7 du I de l’article 6 de la même loi ;
« – des dispositifs techniques proportionnés facilitant, dans l’attente du traitement de la notification d’un contenu illicite, la désactivation ou la limitation temporaire des fonctionnalités qui permettent de multiplier ou d’accélérer l’exposition du public à ce contenu, et notamment les possibilités de partage, d’interaction, ou d’envoi de messages liés à ce dernier ;
« – des standards techniques communs d’interopérabilité entre services de communication au public en ligne, conformes à l’état de l’art, documentés et stables, afin de favoriser le libre choix des utilisateurs entre différentes plateformes. »
I bis A. – Le 1° de l’article 19 de la loi n° 86-1067 du 30 septembre 1986 relative à la liberté de communication est complété par un alinéa ainsi rédigé :
« – auprès des opérateurs mentionnés à l’article 6-2 de la loi n° 2004-575 du 21 juin 2004 pour la confiance dans l’économie numérique, toutes les informations nécessaires au contrôle des obligations mentionnées à l’article 6-3 de la même loi ; ».
I bis. – (Non modifié) Au premier alinéa et à la deuxième phrase du 6° de l’article 42-7 de la loi n° 86-1067 du 30 septembre 1986 relative à la liberté de communication, après le mot : « prévues », sont insérés les mots : « au II de l’article 17-3 ainsi qu’ ».
I ter. – Le chapitre II du titre Ier de la loi n° 2004-575 du 21 juin 2004 pour la confiance dans l’économie numérique est ainsi modifié :
1° (Supprimé)
2° Le troisième alinéa de l’article 6-1 est ainsi modifié :
a) La première phrase est ainsi modifiée :
– les mots : « la Commission nationale de l’informatique et des libertés » sont remplacés par les mots : « le Conseil supérieur de l’audiovisuel » ;
– à la fin, les mots : « dans cette commission » sont remplacés par les mots : « au Conseil » ;
b) La deuxième phrase est supprimée.
II. – (Supprimé)
Mme la présidente (Union pour la démocratie française) : La parole est à Mme la rapporteure pour avis.
Mme Catherine Morin-Desailly : Cet article constituera probablement l’héritage le plus durable et utile de la proposition de loi, puisqu’il pose les bases d’une régulation des acteurs du numérique menée par un CSA dont le champ de compétences sera significativement étendu par la future loi sur l’audiovisuel.
Comme je le signalais dans mon propos introductif, nous sommes favorables à cette régulation, dont on parle depuis un certain temps d’ailleurs, et nous pensons que le CSA, qui deviendra bientôt l’Arcom, si la loi est bien inscrite à l’ordre du jour des travaux du Parlement dans les mois qui viennent, est le plus à même d’accomplir cette mission.
Je tiens à souligner que le texte que nous examinons ne confie à aucun moment au CSA la responsabilité de juger du caractère licite ou non des contenus. Sa mission est bien de s’assurer des moyens mis en œuvre et de l’efficacité dans l’application des règles fixées par la loi.
Je formulerai trois autres observations.
Premièrement, je remercie la commission des lois d’avoir réservé une suite favorable aux amendements de la commission de la culture. Nous avons simplement cherché à mieux encadrer l’intervention du régulateur et je crois que le texte est meilleur sur ce point.
Deuxièmement, comme l’ont fait d’autres orateurs avant moi, j’insiste sur la nécessité de doter le CSA des moyens nécessaires, juridiques, techniques, mais aussi financiers, pour lutter à armes égales contre les grandes plateformes. Le régulateur va vite se trouver confronté à des acteurs qui sont, je n’hésite pas à le dire, dénués de scrupules, mais qui disposent aussi des meilleurs experts et de moyens illimités.
Troisièmement, monsieur le secrétaire d’État, afin de tracer une perspective plus large sur l’avenir des plateformes, puisque cet article pose les bases de leur régulation, je vous incite à regarder de près les réflexions en cours aux États-Unis sur le démantèlement des plateformes.
La Federal Trade Commission – ce n’est pas rien ! – s’intéresse actuellement de très près au projet de Facebook de fusion des infrastructures techniques du réseau social avec WhatsApp et Instagram.
Des politiques militent aujourd’hui pour une application très stricte du droit de la concurrence aux géants du numérique, à l’instar de ce qui a été fait avec la Standard Oil en 1914 ou AT&T en 1982, ces exemples ayant permis de stimuler à terme la concurrence et l’innovation technique.
Il ne faudrait pas que l’Europe soit une nouvelle fois contrainte de suivre et de subir. Nous serions bien inspirés d’anticiper ce qui semble être une évolution inéluctable.
Je vous ai entendu parler de ce sujet, monsieur le secrétaire d’État, mais je ne partage pas tout à fait votre point de vue. Le problème, c’est que ces oligopoles gèrent tout à notre désavantage.
Les États-Unis eux-mêmes s’interrogent, comme les fondateurs des réseaux.
Mme la présidente (Union pour la démocratie française) : La parole est à M. Pierre Ouzoulias, sur l’article.
M. Pierre Ouzoulias : L’article 13 de la loi relative à la lutte contre la manipulation de l’information – j’y reviens, j’en suis désolé – prévoit, afin de faciliter le travail du CSA, que « les opérateurs de plateforme en ligne désignent un représentant légal exerçant les fonctions d’interlocuteur référent ». Si j’ai bien compris votre analyse, cet article pourrait aujourd’hui être anticonstitutionnel. Vous ouvrez la voie à une question prioritaire de constitutionnalité intéressante !
J’ai déposé un amendement sur l’article 4 visant à permettre au CSA de recevoir de manière effective les algorithmes des plateformes, ce qui n’est pas le cas aujourd’hui, mais cet amendement a été déclaré irrecevable par la commission des finances au titre de l’article 40 de la Constitution, la commission ayant estimé, à raison, que cet amendement entraînerait une charge financière supplémentaire pour le Conseil. Le CSA n’a pas aujourd’hui les moyens financiers d’exercer totalement sa mission, notamment de vérifier les algorithmes, qu’il ne reçoit pas – j’y insiste.
Le CSA nous a remis une étude très récente sur cette question. Pour tester les algorithmes, il en est réduit à se connecter à YouTube pour effectuer des requêtes. Ces analyses pratiques lui permettent de déduire le comportement des algorithmes.
Il serait tout de même plus simple, monsieur le secrétaire d’État, que vous exigiez des plateformes qu’elles transmettent leurs algorithmes, conformément à la loi, même sous le sceau du secret professionnel. J’avais proposé qu’elles les transmettent à un tiers de confiance. Il est absurde que le CSA, qui est chargé de la régulation et de l’examen des algorithmes, soit obligé d’avoir recours à des méthodes aussi rudimentaires pour effectuer ses tests.
Monsieur le secrétaire d’État, vous êtes sincère dans votre lutte contre les Gafam, je n’en doute pas, alors faites appliquer la loi ! Obtenez des Gafam qu’ils transmettent les algorithmes au CSA. Nous avons besoin de savoir ce que contiennent ces boîtes noires. Aujourd’hui, ce sont elles qui jouent le rôle de chambre d’écho, ce sont elles qui amplifient les phénomènes que nous combattons ce soir.
Mme la présidente (Union pour la démocratie française) : La parole est à M. David Assouline, sur l’article.
M. David Assouline : Avant d’évoquer des amendements précis, je tiens à dire que j’adhère à l’appel qui vient d’être lancé. La question de la transparence des algorithmes est posée. Il s’agit d’une question démocratique, de l’un des prochains enjeux de la révolution numérique, laquelle exige un tant soit peu de régulation.
Lorsque l’on demande à accéder au code source, on nous oppose le secret des affaires. L’article 4 est une réponse. On demande aux Gafam non pas de remettre leur code source au premier venu, mais de le confier à une instance de régulation chargée de le vérifier. Si ce n’est pas fait, tout le monde se fera balader, y compris le CSA.
Vous savez mieux que quiconque, monsieur le secrétaire d’État, que, aujourd’hui, les plus grands ingénieurs, les plus grands spécialistes travaillent pour les plateformes – Catherine Morin-Desailly et moi l’avons rappelé –, et que le CSA, même quand on lui donnera, ce que j’espère, les moyens financiers, n’aura pas la possibilité d’embaucher dans l’immédiat de tels profils, voire de débaucher les meilleurs d’entre eux, sachant en outre qu’ils sont difficiles à trouver. Les meilleurs se vendent à ceux qui payent le plus ! Or les plateformes disposent de moyens illimités. Heureusement, certains spécialistes sont guidés non par l’appât du gain, mais par l’intérêt général. Le combat n’est donc pas perdu. En tous les cas, la question du CSA est posée.
Je dois dire que nous faisons les choses de manière complètement folle. Nous avons, dans le cadre de l’examen d’un autre texte, prorogé les mandats des membres de la Hadopi, anticipant ainsi l’adoption de la loi sur l’audiovisuel et la fusion du CSA et de la Hadopi. Et là, nous légiférons en vitesse ; nous actons le fait que le CSA pourra agir sur le net ; nous lui confions des missions qu’il n’aura pas, en l’état actuel, les moyens d’assumer, si la loi est promulguée en début d’année !
Mme la présidente (Union pour la démocratie française) : L’amendement n° 62, présenté par M. Frassa, au nom de la commission des lois, est ainsi libellé :
Alinéa 7, au début
Insérer la mention :
II. -
La parole est à M. le rapporteur.
M. Christophe-André Frassa : Il s’agit d’un amendement rédactionnel.
Mme la présidente (Union pour la démocratie française) : Quel est l’avis du Gouvernement ?
M. Cédric O : Favorable.
Mme la présidente (Union pour la démocratie française) : Je mets aux voix l’amendement n° 62.
(L’amendement est adopté.)
Mme la présidente (Union pour la démocratie française) : L’amendement n° 33, présenté par M. Bonnecarrère, est ainsi libellé :
Alinéa 9
Après les mots :
sans pouvoir excéder
rédiger ainsi la fin de cet alinéa :
20 millions d’euros ou, s’agissant d’une entreprise, 4 % du chiffre d’affaires annuel mondial total de l’exercice précédent, le montant le plus élevé étant retenu.
La parole est à M. Philippe Bonnecarrère.
M. Philippe Bonnecarrère (Union pour un mouvement populaire, Rassemblement pour la République) : Cet amendement vise à établir un parallélisme entre les sanctions applicables aux opérateurs en cas de manquement et celles que prévoit le règlement général sur la protection des données (RGPD). Nous évoquons ici des sanctions administratives. Il est question de régulation et non de droit pénal.
Nous vous proposons une solution alternative, à savoir des sanctions financières dont le montant serait forfaitaire ou représenterait un pourcentage du chiffre d’affaires. L’idée est extrêmement simple : donner à la régulation des moyens d’action assez forts à l’égard de plateformes qui n’auraient pas de vocation commerciale, qui pourraient être instrumentalisées par un pays étranger ou par d’autres structures. De façon caricaturale, on pourrait imaginer que leur activité principale serait la distribution de contenus haineux, en dehors de toute logique commerciale.
Mme la présidente (Union pour la démocratie française) : Quel est l’avis de la commission ?
M. Christophe-André Frassa : L’amendement n° 33 de M. Bonnecarrère vise à revoir le montant maximal des sanctions pécuniaires prononçables par le CSA pour prévoir le cas d’opérateurs ne réalisant pas de chiffre d’affaires ou réalisant un chiffre d’affaires temporairement ou artificiellement faible.
Le fait de combiner un montant forfaitaire et un pourcentage du chiffre d’affaires permettra d’éviter des comportements opportunistes non prévus par le mécanisme actuel et d’aligner les sanctions sur celles qui sont prévues par le RGPD en matière de violation de données personnelles.
La commission émet donc un avis favorable sur cet amendement.
Mme la présidente (Union pour la démocratie française) : Quel est l’avis du Gouvernement ?
M. Cédric O : Monsieur Bonnecarrère, la comparaison avec le RGPD a certaines limites : ce règlement s’applique à toutes les entreprises, alors que la présente proposition de loi a vocation, notamment parce qu’elle est extrêmement lourde à assumer, à ne s’appliquer qu’aux très grands réseaux sociaux.
Pour que ces réseaux sociaux soient moins puissants, il faut que de nouveaux entrants puissent les concurrencer. Si l’on applique des contraintes extrêmement fortes à tout le monde, on se heurtera à des problèmes de compétition, comme dans le secteur bancaire. Plus les contraintes que vous imposez sont fortes, plus vous mettez de barrières à l’entrée.
Dans les faits, la somme de 20 millions d’euros que vous proposez me semble assez peu opérante, les sanctions existantes pouvant aujourd’hui atteindre un montant plus élevé.
Vous évoquez un cas de figure auquel, je l’avoue, je n’avais pas pensé : le développement par un pays étranger d’un réseau social comptant plusieurs millions, voire plusieurs dizaines de millions d’abonnés français. Honnêtement, sans modèle économique, je doute qu’un tel réseau soit possible. Vous soulevez donc un problème assez hypothétique, qui pourrait toutefois théoriquement se produire.
Je m’en remettrai donc à la sagesse du Sénat sur cet amendement.
Mme la présidente (Union pour la démocratie française) : Je mets aux voix l’amendement n° 33.
(L’amendement est adopté.)
Mme la présidente (Union pour la démocratie française) : L’amendement n° 11 rectifié quater, présenté par Mme N. Goulet, M. Détraigne, Mme A.M. Bertrand, MM. Janssens, Guerriau, Henno et Louault, Mme Kauffmann, MM. Danesi, Lefèvre et Decool et Mme N. Delattre, est ainsi libellé :
Après l’alinéa 11
Insérer un alinéa ainsi rédigé :
« L’opérateur peut contester les dispositions prévues aux sixième à dixième alinéas du présent I devant le juge des référés du tribunal de grande instance de Paris.
La parole est à M. Antoine Lefèvre.
M. Antoine Lefèvre : Cet amendement est défendu, madame la présidente.
Mme la présidente (Union pour la démocratie française) : Quel est l’avis de la commission ?
M. Christophe-André Frassa : La commission émet un avis défavorable sur cet amendement, qui vise à attribuer au seul juge des référés du tribunal de grande instance de Paris le contentieux des décisions de régulation des plateformes prises par le CSA. C’est une complexité inutile. Le droit commun de la compétence contentieuse a vocation à s’appliquer, faute de dérogation expresse par le législateur.
Pour mémoire, le Conseil d’État est juge des recours dirigés contre les décisions prises par les autorités indépendantes au titre de leur mission de contrôle ou de régulation.
Mme la présidente (Union pour la démocratie française) : Quel est l’avis du Gouvernement ?
M. Cédric O : Défavorable.
Mme la présidente (Union pour la démocratie française) : Je mets aux voix l’amendement n° 11 rectifié quater.
(L’amendement n’est pas adopté.)
Mme la présidente (Union pour la démocratie française) : Je suis saisie de quatre amendements faisant l’objet d’une discussion commune.
Les trois premiers sont identiques.
L’amendement n° 8 rectifié bis est présenté par MM. A. Marc, Chasseing, Fouché, Guerriau, Lagourgue et Malhuret, Mme Mélot et MM. Wattebled et Decool.
L’amendement n° 38 est présenté par MM. Assouline et Montaugé, Mme de la Gontrie, M. Kanner, Mmes Artigalas et S. Robert, MM. Temal, Sueur, Jacques Bigot, Durain et Fichet, Mme Harribey, MM. Kerrouche, Leconte, Marie, Sutour et Antiste, Mmes Blondin, Ghali et Lepage, MM. Lozach, Magner et Manable, Mme Monier, M. M. Bourquin, Mme Conconne, MM. Courteau, Daunis et Duran, Mme Guillemot, MM. Tissot, Bérit-Débat et Joël Bigot, Mme Bonnefoy, MM. Botrel, Boutant et Carcenac, Mme Conway-Mouret, MM. Dagbert, Daudigny, Devinaz et Éblé, Mme Espagnac, M. Féraud, Mmes Féret et M. Filleul, M. Gillé, Mme Grelet-Certenais, MM. Houllegatte et Jacquin, Mme Jasmin, MM. P. Joly et Jomier, Mme G. Jourda, M. Lalande, Mme Lubin, MM. Lurel et Mazuir, Mmes Meunier, Perol-Dumont et Préville, MM. Raynal et Roger, Mmes Rossignol, Taillé-Polian et Tocqueville, MM. Todeschini, Tourenne et Vallini, Mme Van Heghe et M. Vaugrenard.
L’amendement n° 50 rectifié est présenté par MM. Bonhomme, D. Laurent, Mouiller et Cambon, Mme Berthet, MM. Kennel et Pellevat, Mme Morhet-Richaud, MM. Rapin, Longuet, Morisset, Mandelli et Duplomb, Mme Gruny, MM. Piednoir et Laménie et Mme Duranton.
Ces trois amendements sont ainsi libellés :
Alinéa 13
1° Après le mot :
outils
insérer le mot :
gratuits
2° Après le mot :
informations
insérer les mots :
, dans un format ouvert et conforme à ses recommandations,
La parole est à M. Claude Malhuret, pour présenter l’amendement n° 8 rectifié bis.
M. Claude Malhuret : Cet amendement vise, pour lutter efficacement contre les contenus haineux, à permettre au CSA d’organiser le partage transparent d’informations entre tous les opérateurs, quelles que soient leur taille et leurs relations concurrentielles.
Mme la présidente (Union pour la démocratie française) : La parole est à M. David Assouline, pour présenter l’amendement n° 38.
M. David Assouline : Le texte de l’Assemblée nationale prévoit que le CSA encourage les opérateurs de plateformes en ligne à mettre en œuvre des outils de coopération dans la lutte contre les contenus à caractère haineux.
La commission des affaires économiques du Sénat a adopté un amendement de son rapporteur pour avis visant à aller plus loin. Il tend à proposer la mise en œuvre d’outils de coopération et de partage d’informations. La création de mécanismes garantissant la lutte contre la duplication de contenus haineux doit être en effet au cœur du dispositif de lutte contre les contenus haineux.
La mise en place d’un mécanisme de partage d’informations entre opérateurs renforcera la coopération systémique visant à lutter contre la haine sur internet. Le CSA pourrait organiser la coopération entre les plateformes pour éviter que des contenus rendus inaccessibles sur une plateforme ne restent disponibles sur une autre plateforme.
Ce partage d’informations permettrait une réaction proactive des plateformes, dont le signalement de contenus illicites, et une lutte efficace contre les sites miroirs.
Cet amendement, suggéré d’ailleurs par des plateformes et des moteurs de recherche dits « alternatifs », tend à permettre au CSA d’organiser un partage transparent d’informations entre tous les opérateurs, quelles que soient leur taille et leurs relations concurrentielles.
Mme la présidente (Union pour la démocratie française) : La parole est à Mme Pascale Gruny, pour présenter l’amendement n° 50 rectifié.
Mme Pascale Gruny (Union pour un mouvement populaire) : Il est défendu.
Mme la présidente (Union pour la démocratie française) : L’amendement n° 39, présenté par MM. Assouline et Montaugé, Mme de la Gontrie, M. Kanner, Mmes Artigalas et S. Robert, MM. Temal, Sueur, Jacques Bigot, Durain et Fichet, Mme Harribey, MM. Kerrouche, Leconte, Marie, Sutour et Antiste, Mmes Blondin, Ghali et Lepage, MM. Lozach, Magner et Manable, Mme Monier, M. M. Bourquin, Mme Conconne, MM. Courteau, Daunis et Duran, Mme Guillemot, MM. Tissot, Bérit-Débat et Joël Bigot, Mme Bonnefoy, MM. Botrel, Boutant et Carcenac, Mme Conway-Mouret, MM. Dagbert, Daudigny, Devinaz et Éblé, Mme Espagnac, M. Féraud, Mmes Féret et M. Filleul, M. Gillé, Mme Grelet-Certenais, MM. Houllegatte et Jacquin, Mme Jasmin, MM. P. Joly et Jomier, Mme G. Jourda, M. Lalande, Mme Lubin, MM. Lurel et Mazuir, Mmes Meunier, Perol-Dumont et Préville, MM. Raynal et Roger, Mmes Rossignol, Taillé-Polian et Tocqueville, MM. Todeschini, Tourenne et Vallini, Mme Van Heghe et M. Vaugrenard, est ainsi libellé :
Alinéa 13
Après le mot :
informations
insérer les mots :
, dans un format ouvert et conforme à ses recommandations,
La parole est à M. David Assouline.
M. David Assouline : La mise en place par la présente proposition de loi d’un mécanisme de coopération et de partage d’informations entre opérateurs est essentielle pour mieux lutter contre les contenus haineux sur internet, comme je viens de l’expliquer à l’instant.
Il est tout aussi essentiel que le régulateur puisse organiser cette coopération et éviter que des contenus rendus inaccessibles sur une plateforme ne restent disponibles sur une autre plateforme, à qui ces contenus n’auraient pas été notifiés.
Le régulateur doit être en mesure de fixer les principes et les modalités de mise en œuvre des outils de coopération et de partage d’informations entre opérateurs.
Cet amendement de repli s’inscrit dans la logique de l’amendement précédent. Il vise à conforter le rôle du CSA, qui pourra ainsi mieux intervenir dans l’organisation de la coopération entre les plateformes. Il est centré sur la conformité de la mise en œuvre des outils de coopération et de partage aux recommandations du CSA.
J’espère que le rapporteur, qui a émis un premier avis favorable sur un amendement du groupe socialiste, en émettra un second sur cet amendement de repli !
Mme la présidente (Union pour la démocratie française) : Quel est l’avis de la commission ?
M. Christophe-André Frassa : J’indique d’emblée que je souhaite le retrait des amendements identiques nos 8 rectifié bis, 38 et 50 rectifié et l’adoption de l’amendement de repli n° 39 de M. Assouline, auquel je suis favorable.
M. Pierre Ouzoulias : Il y en a qui ont de la chance ! (Sourires.)
M. Christophe-André Frassa : Tous ces amendements visent à préciser les modalités des échanges d’informations entre plateformes.
Permettez-moi de rappeler quelques éléments de contexte.
Alors que nos gouvernements renforcent les devoirs de coopération des plateformes, la constitution par les grands acteurs du numérique de base de données de textes et d’images illicites est une source d’efficacité notable dans leur lutte contre ces contenus. Des outils techniques leur permettent, par exemple, de comparer, de filtrer et d’éliminer de façon quasi automatisée les images illicites. Ils épargnent ainsi à leurs modérateurs humains une tâche difficile et font disparaître des contenus illicites avant même que leurs utilisateurs n’aient eu besoin de les leur notifier.
Mais ces bases de données de contenus illicites constituent aussi désormais un enjeu économique majeur. Leur maîtrise est un moyen de conserver ou de créer de solides barrières à l’entrée, aux dépens de plateformes plus modestes.
Je vous rappelle que, sur l’initiative de notre collègue rapporteur pour avis, Yves Bouloux, la commission des lois a précisé les missions confiées au CSA afin d’encourager le partage d’informations entre opérateurs.
Les auteurs des trois amendements identiques nos 8 rectifié bis, 38 et 50 rectifié souhaitent aller plus loin et imposer la mise à disposition de ces informations de façon gratuite. Malheureusement, en raison de la valeur économique des informations collectées par les plateformes, il me semble difficile d’adopter de tels amendements : ils s’apparentent à une forme d’expropriation sans prévoir de garanties ou d’indemnisation appropriée. Telles sont les raisons pour lesquelles je demande leur retrait.
En revanche, la seconde partie de ces amendements, qui est reprise dans l’amendement de repli n° 39, me semble intéressante, et j’y suis favorable : il s’agit de donner au CSA compétence pour préciser le format de ces informations afin d’en faciliter la circulation entre plateformes, dans un format ouvert et conforme à ses recommandations.
Mme la présidente (Union pour la démocratie française) : Quel est l’avis du Gouvernement ?
M. Cédric O : Comme le rapporteur, j’indique d’emblée que je suis défavorable aux amendements identiques nos 8 rectifié bis, 38 et 50 rectifié. Je m’en remettrai à la sagesse du Sénat sur l’amendement n° 39 de M. Assouline.
Permettez-moi seulement une remarque : alors que M. Assouline considérait que le Gouvernement aurait pu mieux définir certains termes, il propose maintenant de compléter un article prévoyant d’« encourager » le CSA. Je dois dire que j’ai quelques doutes sur la portée normative d’un « encouragement ».
Mme la présidente (Union pour la démocratie française) : Monsieur Malhuret, l’amendement n° 8 rectifié bis est-il maintenu ?
M. Claude Malhuret : Non, je le retire, madame la présidente.
Mme la présidente (Union pour la démocratie française) : L’amendement n° 8 rectifié bis est retiré.
Monsieur Assouline, l’amendement n° 38 est-il maintenu ?
M. David Assouline : Oui, cet amendement sera rejeté, mais mon amendement de repli sera adopté. Je ne retire jamais rien !
Mme la présidente (Union pour la démocratie française) : Je mets aux voix les amendements identiques nos 38 et 50 rectifié.
(Les amendements ne sont pas adoptés.)
Mme la présidente (Union pour la démocratie française) : Je mets aux voix l’amendement n° 39.
(L’amendement est adopté.)
Mme la présidente (Union pour la démocratie française) : Je suis saisie de deux amendements faisant l’objet d’une discussion commune.
L’amendement n° 17, présenté par M. Ouzoulias et les membres du groupe communiste républicain citoyen et écologiste, est ainsi libellé :
Après l’alinéa 14
Insérer un alinéa ainsi rédigé :
« IV. – Le Conseil supérieur de l’audiovisuel impose aux opérateurs mentionnés au même article 6-2 à mettre en œuvre :
La parole est à M. Pierre Ouzoulias.
M. Pierre Ouzoulias : Cet amendement porte encore sur l’interopérabilité. Je serai donc bref, car j’en ai déjà beaucoup parlé.
Tel qu’il a été modifié par la commission, l’article 4, en son alinéa 12, prévoit que le Conseil supérieur de l’audiovisuel « encourage » les opérateurs à développer des standards techniques communs d’interopérabilité. Je suis tout à fait favorable à cette disposition.
Je crains toutefois, comme vous, monsieur le secrétaire d’État, que le terme « encourager » n’ait pas une très grande portée juridique. Je vous propose donc de remplacer, à l’alinéa 12, le mot : « encourage » par le mot : « impose ».
Mme la présidente (Union pour la démocratie française) : L’amendement n° 55, présenté par le Gouvernement, est ainsi libellé :
Alinéa 15
Supprimer cet alinéa.
La parole est à M. le secrétaire d’État.
M. Cédric O : Sur le principe, nous sommes d’accord, l’interopérabilité des services des grandes plateformes est un enjeu important. Les problématiques liées à cette question nous semblent toutefois devoir être appréhendées, comme je l’ai expliqué, de façon plus globale, sans doute à l’échelon européen.
En l’espèce, il n’apparaît pas évident que le CSA puisse imposer de tels standards de manière large à des acteurs non basés en France. Cette disposition pourrait en outre renforcer les interrogations soulevées par la Commission européenne sur le caractère ciblé et proportionné du dispositif, qui l’a conduite à poser des questions sur la conventionnalité de la loi.
Pour ces raisons, nous proposons la suppression de cette disposition.
Mme la présidente (Union pour la démocratie française) : Quel est l’avis de la commission ?
M. Christophe-André Frassa : La commission des lois a souhaité, je le rappelle, donner au CSA la nouvelle mission d’encourager l’interopérabilité entre plateformes, afin de permettre aux victimes de haine de se « réfugier » sur des réseaux sociaux ayant des politiques de modération différentes, tout en continuant à échanger avec les contacts qu’elles avaient noués jusqu’alors.
Il s’agit ni plus ni moins d’approfondir l’obligation de portabilité en complétant la boîte à outils du régulateur des plateformes, conformément d’ailleurs aux recommandations de la commission d’enquête du Sénat sur la souveraineté numérique, dont certains d’entre nous ont été membres.
Les amendements nos 17 et 55 tendent à proposer deux modifications radicalement opposées sur le sujet de l’interopérabilité, auxquelles je ne suis pas favorable.
Le premier, de M. Ouzoulias, vise à « imposer », et non plus à « encourager », l’interopérabilité ; le second, du Gouvernement, tend à supprimer totalement cette mission du CSA.
Je vous proposerai d’en rester à la voie médiane de la commission – in medio stat virtus, comme disaient les Anciens ! – et de nous en tenir à une mission d’encouragement, typique du droit souple désormais cher aux régulateurs agiles.
Je renvoie également aux travaux en cours de la commission des affaires économiques et à la proposition de loi de notre collègue Sophie Primas visant à garantir le libre choix du consommateur dans le cyberespace.
Mme la présidente (Union pour la démocratie française) : La parole est à M. Pierre Ouzoulias, pour explication de vote.
M. Pierre Ouzoulias : Monsieur le secrétaire d’État, vous faites une utilisation un peu opportuniste de l’argument européen. Vous nous avez expliqué au début de ce débat que l’avis de la Commission européenne ne nous engageait pas et que la France devait montrer le chemin. J’en étais très heureux.
Or, là, vous nous expliquez qu’il ne nous est pas possible de toucher à un point technique, le problème devant être réglé à l’échelon européen.
En tant qu’Européen convaincu, je pense que ce n’est pas rendre service à la construction européenne que d’utiliser l’Europe de cette manière.
Mme la présidente (Union pour la démocratie française) : La parole est à M. le secrétaire d’État.
M. Cédric O : Monsieur le sénateur, j’ai dit qu’il était urgent de réguler dès à présent la question des contenus. En revanche, je pense qu’on ne peut pas régler les problèmes que posent les Gafam nuitamment par voie d’amendement.
Je suis favorable à une régulation beaucoup plus forte, au-delà de la seule question de l’interopérabilité. Je pense ainsi aux questions d’acquisitions. Certaines plateformes sont quasiment devenues des services essentiels et doivent pouvoir être ouvertes, en tout cas à des tarifs régulés, à leurs concurrents. De nombreuses questions se posent à cet égard, et il faut avancer sur ces sujets.
En outre, si votre amendement était adopté, il fragiliserait la conventionnalité du texte. La Commission européenne se pose des questions sur les obligations disproportionnées que nous imposerions aux plateformes. Si nous leur imposions l’interopérabilité totale de leurs services, la Commission serait en droit de concevoir que nous allons réellement très loin.
Je répète que, sur le fond, je suis favorable à une régulation plus forte.
Mme la présidente (Union pour la démocratie française) : Je mets aux voix l’amendement n° 17.
(L’amendement n’est pas adopté.)
Mme la présidente (Union pour la démocratie française) : Je mets aux voix l’amendement n° 55.
(L’amendement n’est pas adopté.)
Mme la présidente (Union pour la démocratie française) : L’amendement n° 37, présenté par MM. Montaugé et Assouline, Mme de la Gontrie, M. Kanner, Mmes Artigalas et S. Robert, MM. Temal, Sueur, Jacques Bigot, Durain et Fichet, Mme Harribey, MM. Kerrouche, Leconte, Marie, Sutour et Antiste, Mmes Blondin, Ghali et Lepage, MM. Lozach, Magner et Manable, Mme Monier, M. M. Bourquin, Mme Conconne, MM. Courteau, Daunis et Duran, Mme Guillemot, MM. Tissot, Bérit-Débat et Joël Bigot, Mme Bonnefoy, MM. Botrel, Boutant et Carcenac, Mme Conway-Mouret, MM. Dagbert, Daudigny, Devinaz et Éblé, Mme Espagnac, M. Féraud, Mmes Féret et M. Filleul, M. Gillé, Mme Grelet-Certenais, MM. Houllegatte et Jacquin, Mme Jasmin, MM. P. Joly et Jomier, Mme G. Jourda, M. Lalande, Mme Lubin, MM. Lurel et Mazuir, Mmes Meunier, Perol-Dumont et Préville, MM. Raynal et Roger, Mmes Rossignol, Taillé-Polian et Tocqueville, MM. Todeschini, Tourenne et Vallini, Mme Van Heghe et M. Vaugrenard, est ainsi libellé :
Alinéa 17
Compléter cet alinéa par les mots :
, y compris l’accès aux principes et méthodes de conception des algorithmes ainsi qu’aux données sur lesquels ils se basent, sans que le secret des affaires mentionné par la loi n° 2018-670 du 30 juillet 2018 relative à la protection du secret des affaires puisse lui être opposé
La parole est à M. Franck Montaugé.
M. Franck Montaugé (Parti socialiste) : L’auditabilité et la redevabilité, au sens de « rendre compte », des algorithmes utilisés par les plateformes doivent être des objectifs du législateur. C’est l’une des recommandations de la commission d’enquête sénatoriale sur la souveraineté numérique. Cela suppose que les autorités concernées, dont les régulateurs, puissent avoir recours à une expertise spécialisée pour développer et mettre en œuvre des techniques de contrôle adaptées.
Sur ce point particulier, monsieur le secrétaire d’État, nous suivrons avec attention le projet de loi sur l’audiovisuel, qui prévoit, dans son article 36, la création d’un « pôle d’expertise numérique », lequel apporterait une expertise technique spécialisée aux autorités intervenant dans la régulation des opérateurs de plateforme en ligne, dont le CSA. J’ai compris que ce pôle d’expertise numérique se verrait doté de 30 millions d’euros sur trois ans, ce qui n’est pas rien. Nous espérons que ces crédits seront à la hauteur des enjeux et qu’ils permettront à ce pôle de travailler.
Pour assumer les missions de régulation et de contrôle qui lui sont conférées par la présente proposition de loi, le CSA doit être en mesure, d’une part, d’évaluer et de garantir la transparence des algorithmes utilisés par les plateformes et, d’autre part, de vérifier leur conformité à la loi.
L’alinéa 17 de l’article 4 de la proposition de loi prévoit que le CSA doit pouvoir obtenir auprès des opérateurs de plateformes en ligne « toutes les informations nécessaires au contrôle des obligations » prévues par la proposition de loi.
Notre amendement vise à renforcer les moyens d’action et le champ d’investigation du régulateur. Il tend à compléter en conséquence l’alinéa 17 et à préciser que le CSA a accès, dans le cadre de ses missions de contrôle, aux principes et méthodes de conception des algorithmes, ainsi qu’aux données sur lesquelles ils se basent, sans que le secret des affaires puisse lui être opposé.
Mme la présidente (Union pour la démocratie française) : Quel est l’avis de la commission ?
M. Christophe-André Frassa : Cet amendement est intéressant, monsieur Montaugé, car il vise à préciser les pouvoirs de contrôle dont dispose le CSA pour assurer le respect des nouvelles obligations à la charge des plateformes en matière de lutte contre la haine. Ces pouvoirs figurent déjà dans la loi relative à la lutte contre la manipulation de l’information.
Il s’agirait, en l’espèce, de permettre expressément l’accès du régulateur aux systèmes algorithmiques utilisés par les plateformes, afin de pouvoir les auditer.
Par principe, je suis favorable à cet amendement. Je souhaite néanmoins connaître l’avis du Gouvernement.
Mme la présidente (Union pour la démocratie française) : Quel est l’avis du Gouvernement ?
M. Cédric O : Monsieur Montaugé, la question que vous soulevez est au fond la suivante : grâce à cette proposition de loi, le CSA pourra-t-il avoir accès à l’ensemble des éléments lui permettant de juger ce que font les plateformes s’agissant des contenus haineux ? La réponse est : oui, le CSA pourra aller jusqu’à tester les algorithmes et demander aux grandes plateformes un certain nombre de précisions sur la diffusion de contenus haineux. Votre amendement me paraît donc satisfait de ce point de vue, monsieur le sénateur.
Cela étant, je l’ai dit, votre amendement pose un problème, au-delà de la question des contenus haineux, c’est qu’il tend à prévoir que tous les algorithmes des plateformes doivent être en libre accès ou être accessibles par le CSA et transparents pour lui. Une telle disposition sera probablement jugée disproportionnée par la Commission européenne. Il y a un décalage entre l’objectif qui est le vôtre – vous ne visez que les contenus haineux – et la mesure que vous proposez. Nous estimons que cette disposition pose un problème de non-conventionnalité.
Le véritable défi, c’est de parvenir à recruter les ingénieurs et les chercheurs compétents. Tel est l’objectif de la création de la cellule que vous évoquez. La CNIL, l’Arcep, le CSA, la DGCCRF (direction générale de la concurrence, de la consommation et de la répression des fraudes) ont tous besoin de savoir-faire spécifiques en intelligence artificielle, en sciences des données, mais, pour dire les choses clairement, ils ne pourront pas tous s’offrir les services de spécialistes de ces domaines, qui exercent en outre des métiers en tension. Ils pourront donc puiser ces compétences dans cette cellule, qui comprendra des gens de très bon niveau. L’idée est de mutualiser les compétences. Nous aurons, je pense, l’occasion de discuter de ce sujet lors de l’examen du projet de loi sur l’audiovisuel.
Je tiens par ailleurs à préciser un élément important : il faut bien avoir conscience que l’algorithme ne suffit pas. Aujourd’hui, dans l’état actuel des connaissances sur le machine learning et l’intelligence artificielle, on n’explique pas les résultats par l’algorithme.
Dans l’état actuel de la science, si l’algorithme voit 500 fois une photo de chat, il reconnaîtra un chat la 501e fois, mais il pourra ensuite cesser brusquement de le reconnaître. Personne, pas même les chercheurs de Google et de Facebook, ne sait expliquer pourquoi. Dès lors, le seul moyen de comprendre comment l’algorithme fonctionne, c’est de le tester ; c’est d’ailleurs ce que font Google et Facebook. C’est très bien d’obtenir l’algorithme, mais il faut aussi avoir des professionnels capables de réaliser des centaines, voire des milliers de tests pour en comprendre le fonctionnement. L’algorithme seul ne suffit pas ; il faut avoir la compétence.
Le Gouvernement sollicite donc le retrait de cet amendement, faute de quoi l’avis serait défavorable. D’une part, nous considérons que la demande est satisfaite s’agissant des contenus haineux. D’autre part, la transparence de l’ensemble des algorithmes serait à la fois disproportionnée et contraire à nos engagements conventionnels.
Mme la présidente (Union pour la démocratie française) : Quel est maintenant l’avis de la commission ?
M. Christophe-André Frassa : La commission reste favorable à cet amendement sur le principe.
Mme la présidente (Union pour la démocratie française) : Je mets aux voix l’amendement n° 37.
(L’amendement est adopté.)
Mme la présidente (Union pour la démocratie française) : Je mets aux voix l’article 4, modifié.
(L’article 4 est adopté.)