Sécuriser et réguler l’espace numérique : Article 4 bis
debate, 09/10/2023, fr — source : Assemblée nationale, compte rendu intégral
Mme la présidente (Parti socialiste) : Je suis saisie de deux amendements identiques, bknosek 880 et 955.
La parole est à Mme la rapporteure de la commission spéciale pour les titres bkIer eket II, afin de soutenir l’amendement bknoek 880.
Mme Louise Morel (Député, 16ᵉ législature) : Il s’agit d’un amendement de précision rédactionnelle, madame la présidente.
Mme la présidente (Parti socialiste) : La parole est à M. Erwan Balanant, pour soutenir l’amendement bknoek 955.
M. Erwan Balanant (Mouvement démocrate, Renaissance) : C’est un tout petit peu plus qu’un amendement rédactionnel, si vous me permettez de vous contredire, madame la rapporteure, chose que je n’aime pas vraiment faire. La simple mention de la publication d’un hypertrucage – j’adore ce mot –, puisque c’est de cette technique qu’il est question au présent article, ne permet pas d’englober tous les moyens employés pour diffuser des contenus malveillants. Nous proposons donc de remplacer le mot « publier » par les mots « porter à la connaissance du public ou d’un tiers », ce qui permettra notamment de sanctionner les personnes repartageant ces contenus. Par souci de cohérence, l’amendement procède à la même modification à l’article 226-8 du code pénal.
Par ailleurs, afin de mieux prendre en compte les caractéristiques de la personne visée, nous proposons de remplacer le mot « reproduisant » par le mot « représentant ». Cela élargira la marge d’appréciation des contenus incriminés.
Mme la présidente (Parti socialiste) : La parole est à M. le ministre délégué chargé du numérique pour donner l’avis du Gouvernement sur ces deux amendements identiques ?
M. Jean-Noël Barrot : Favorable.
Mme la présidente (Parti socialiste) : La parole est à Mme Ségolène Amiot.
Mme Ségolène Amiot (La France insoumise) : Je suis d’accord avec vous sur la nécessité de sanctionner la publication des hypertrucages mais la rédaction retenue dans vos amendements pourrait conduire à viser des personnes retweetant, repostant, repartageant des contenus qu’elles ne savent pas être issus de cette technique, d’autant qu’ils peuvent être très bien faits.
Il me paraîtrait plus sage de retravailler le texte afin de cibler les personnes les produisant ou les diffusant sciemment.
Mme la présidente (Parti socialiste) : La parole est à M. Charles Sitzenstuhl, pour soutenir l’amendement bknoek 22.
M. Charles Sitzenstuhl (Député, 16ᵉ législature) : Dans le cadre de notre discussion sur les hypertrucages, il me semble important de préciser que le consentement doit être exprès. Sans cela, il me semble que cette exigence peut rester un peu vague.
Mme la présidente (Parti socialiste) : Quel est l’avis de la commission ?
Mme Louise Morel (Député, 16ᵉ législature) : Cet ajout me paraît problématique. Raisonnons en miroir : que serait un consentement qui ne serait pas exprès ? Comment établir une distinction entre ces deux types de consentement ? La rédaction actuelle est suffisamment claire : la diffusion d’un hypertrucage est sanctionnée pénalement si elle est faite sans le consentement de la personne concernée. Demande de retrait ou avis défavorable.
Mme la présidente (Parti socialiste) : La parole est à M. Victor Habert-Dassault, pour soutenir l’amendement bknoek 1042.
M. Victor Habert-Dassault (Député, 16ᵉ législature) : Nous proposons de supprimer la notion d’évidence et d’ajouter que la sanction s’applique si la publication est intervenue sans le consentement de la personne « ou de celui de ses héritiers légaux lorsque la personne est décédée ».
Mme la présidente (Parti socialiste) : Quel est l’avis de la commission ?
Mme Louise Morel (Député, 16ᵉ législature) : Votre amendement pose deux problèmes. D’une part, il revient à sanctionner la publication de tous les hypertrucages, y compris ceux qui sont présentés comme ayant été générés en recourant à l’intelligence artificielle. D’autre part, il élargit le consentement aux héritiers légaux alors que, comme l’a rappelé la Cour de cassation dans sa décision du 31 janvier 2018, le droit à l’image s’éteint au décès de son titulaire et n’est pas transmissible aux héritiers.
M. Olivier Marleix (Les Républicains, Union pour un mouvement populaire, Rassemblement pour la République) : Mais ce n’est pas la Cour de cassation qui fait la loi !
Mme la présidente (Parti socialiste) : Quel est l’avis du Gouvernement ?
M. Jean-Noël Barrot : J’ajouterai un argument : il est important de maintenir la condition posée dans le texte car il existe des hypertrucages qui ne sauraient passer pour des contenus réels. Poursuivant une visée simplement récréative – je pense en particulier à ceux qui sont humoristiques –, ils ne veulent faire du tort ou du mal à personne. Il ne faudrait pas dévitaliser ces possibilités créatives.
Mme la présidente (Parti socialiste) : L’amendement bknoek 27 de M. Ian Boucard est défendu.
Mme la présidente (Parti socialiste) : La parole est à M. Charles Sitzenstuhl, pour soutenir l’amendement bknoek 20.
M. Charles Sitzenstuhl (Député, 16ᵉ législature) : Cet amendement, comme celui que j’ai précédemment défendu, est sous-tendu par la volonté de renforcer la sécurité du dispositif juridique. L’article 4 bis assimile à une infraction déjà présente dans le code pénal en matière de montage « le fait de publier, par quelque voie que ce soit, un contenu visuel ou sonore généré par un traitement algorithmique et reproduisant l’image ou les paroles d’une personne sans son consentement, s’il n’apparaît pas à l’évidence qu’il s’agit d’un contenu généré algorithmiquement ou s’il n’en est pas expressément fait mention ». Je constate, madame la rapporteure, que le mot « expressément » renvoie bien à une réalité juridique puisqu’il en est fait mention dans le projet de loi. Cela dit, je ne reviendrai pas sur le débat soulevé par l’amendement bknoek 22.
Le présent amendement a pour but d’ajouter l’adverbe « visiblement » après « expressément » afin d’éviter que la mention ne soit fondue dans l’image ou écrite en trop petits caractères pour qu’elle soit lisible. Cela éviterait tout détournement.
Mme la présidente (Parti socialiste) : Quel est l’avis de la commission ?
Mme Louise Morel (Député, 16ᵉ législature) : Je salue, monsieur Sitzenstuhl, votre volonté d’apporter des précisions au texte afin qu’il soit pleinement effectif. Nous estimons toutefois que le juge sera capable d’apprécier ces possibles détournements car le mot « expressément » englobe la nécessité de rendre la mention visible. Demande de retrait ou avis défavorable.
Mme la présidente (Parti socialiste) : Quel est l’avis du Gouvernement ?
M. Jean-Noël Barrot : Votre souci de la précision a conduit la commission comme le Gouvernement à donner un avis favorable à l’un de vos amendements portant sur un précédent article. Toutefois, en l’espèce, « visiblement » n’ajouterait pas grand-chose à « expressément ». Demande de retrait.
Mme la présidente (Parti socialiste) : Je suis saisie de deux demandes de scrutin public : l’un sur l’article 4 bis, par le groupe Renaissance, l’autre, sur les amendements bknosek 456 et identique, par le groupe Rassemblement national.
Les scrutins sont annoncés dans l’enceinte de l’Assemblée nationale.
La parole est à Mme Constance Le Grip, pour soutenir l’amendement bknoek 1059.
Mme Constance Le Grip (Député, 16ᵉ législature) : Il a pour objet d’exclure les œuvres cinématographiques et audiovisuelles du champ d’application de l’article 4 bis. Si nous adhérons à la volonté qui l’anime de lutter contre la désinformation et la manipulation en sanctionnant la publication et la diffusion de deepfakes, il nous semble que le fait que son champ d’application soit large comporte un risque. En effet, la sanction pourrait s’appliquer à de nombreuses situations inhérentes à l’acte même de créer : je pense en particulier aux œuvres cinématographiques ou audiovisuelles, qu’il s’agisse de films, de séries, de documentaires ou d’émissions de télévision. Les hypertrucages sont en effet susceptibles de constituer des sources d’inspiration pour les artistes.
Les difficultés à obtenir les autorisations et la complexité technique des solutions à mettre en œuvre pour faire mention de l’utilisation des hypertrucages sont susceptibles de générer une situation d’insécurité juridique pour les réalisateurs et les producteurs mais aussi les exploitants de salles, les opérateurs télévisuels ou les distributeurs dont la responsabilité pourrait être engagée pénalement.
Signalons en outre que le projet de règlement européen dédié à l’intelligence artificielle, en cours d’élaboration, traite précisément de l’utilisation des hypertrucages dans la création artistique. Mieux vaut attendre de savoir où le curseur sera placé avant de légiférer en ce domaine.
Mme la présidente (Parti socialiste) : Quel est l’avis de la commission ?
Mme Louise Morel (Député, 16ᵉ législature) : Madame la députée, je comprends votre inquiétude mais il est bien indiqué à l’article 4 bis que seuls les contenus dont il n’apparaît pas, à l’évidence, qu’ils sont issus d’hypertrucages seront sanctionnés. Cela ne concerne donc pas les œuvres audiovisuelles qui, à l’évidence, ne se confondent pas avec la réalité.
Par ailleurs, l’article 226-8 du code pénal, qui punit d’ores et déjà le fait de réaliser un montage avec les paroles ou l’image d’une personne sans son consentement, n’a jamais donné lieu à la censure d’œuvres audiovisuelles.
Demande de retrait ou avis défavorable.
Mme la présidente (Parti socialiste) : Quel est l’avis du Gouvernement ?
M. Jean-Noël Barrot : Même avis.
Mme la présidente (Parti socialiste) : La parole est à Mme Constance Le Grip.
Mme Constance Le Grip (Député, 16ᵉ législature) : En ce cas, je retire mon amendement, madame la présidente. Je suis heureuse que Mme la rapporteure ait apporté des précisions car de fortes inquiétudes règnent dans le monde de création audiovisuelle et cinématographique. Les choses sont dites et clairement dites.
Mme la présidente (Parti socialiste) : L’amendement bknoek 494 de Mme Amiot étant tombé du fait de l’adoption des amendements identiques bknosek 880 et 955, la parole est à M. Erwan Balanant, pour soutenir l’amendement bknoek 861.
M. Erwan Balanant (Mouvement démocrate, Renaissance) : Dans cet hémicycle, c’est la première fois, me semble-t-il, que nous évoquons les deepfakes ou hypertrucages et je peux vous assurer que ce n’est pas la dernière. L’intelligence artificielle générative, technologie en plein développement, aboutit à la réalisation de contenus qu’aucun truqueur n’imaginait possible d’obtenir il y a à peine deux ou trois ans.
Le présent article a pour but de sanctionner le fait de « publier, par quelque voie que ce soit » un hypertrucage. Fort bien, mais pour que ce contenu soit diffusé, il faut bien qu’il ait été créé. Or la rédaction actuelle ne fait pas de différences entre la réalisation et la diffusion des hypertrucages, alors que ce sont deux choses différentes – cela répond peut-être aux préoccupations exprimées par Mme Amiot.
Or la personne qui produit un hypertrucage avec un objectif malveillant est à l’origine du délit – deux ou trois prompts suffisent pour obtenir un résultat très réaliste sur l’application MyJourney. Cette personne devrait donc être sanctionnée plus fortement que celle qui porte l’hypertrucage à la connaissance d’autrui.
Sans doute le présent amendement ne sera-t-il pas adopté ; je prends en tout cas rendez-vous avec vous, car nous aurons à en reparler.
Mme la présidente (Parti socialiste) : Quel est l’avis de la commission ?
Mme Louise Morel (Député, 16ᵉ législature) : Je vous remercie pour votre proposition. Vous souhaitez sanctionner la production d’un hypertruquage en vue de le diffuser, alors que le texte prévoit seulement de sanctionner la diffusion d’un hypertruquage qui ne serait pas présenté comme tel.
En effet, si un producteur présente son hypertrucage comme tel au moment de le diffuser, cela ne pose pas de problème. Seule la dissimulation du caractère truqué est problématique. Demande de retrait ; à défaut, avis défavorable.
Mme la présidente (Parti socialiste) : Quel est l’avis du Gouvernement ?
M. Jean-Noël Barrot : Vous avez raison, monsieur Balanant, ce n’est pas la dernière fois que nous abordons les hypertrucages.
Cela étant, l’adoption de votre amendement ce soir serait prématurée. Outre les raisons qu’a évoquées la rapporteure, nous ne saurions interdire à quiconque de produire un hypertrucage. Vous proposez de punir une telle production, quand elle vise à « porter à la connaissance du public ou d’un tiers » les montages visés. Mais une telle intention est particulièrement difficile à évaluer.
La rédaction actuelle de l’article 4 bis, qui vise certaines formes de diffusion constatables sans ambiguïté est donc préférable. Je vous demande de retirer l’amendement, en convenant que nous aurons à rediscuter de ces questions.
Mme la présidente (Parti socialiste) : La parole est à M. Erwan Balanant.
M. Erwan Balanant (Mouvement démocrate, Renaissance) : Je précise que l’amendement vise « la production [d’un hypertrucage] aux fins de [le] porter à la connaissance du public ou d’un tiers ». Tout le monde a bien compris : vous proposez de sanctionner la diffusion des hypertrucages sur internet, mais non leur création.
Je comprends vos interrogations et je retire l’amendement. Nous devrons toutefois travailler sur ce point – une telle démarche est en cours au niveau européen. Comme le demandait également Mme Le Grip, pour mieux protéger nos concitoyens, nous devrons distinguer les hypertrucages qui relèvent d’une production artistique ou servent un objectif d’information et ceux qui sont simplement malveillants et qui doivent donc faire l’objet d’une sanction.
M. Hervé Saulignac (Parti socialiste) : Je reprends l’amendement !
Mme la présidente (Parti socialiste) : Je rappelle qu’un amendement repris est mis aux voix sans discussion.
Mme la présidente (Parti socialiste) : Je mets aux voix l’article 4 bis, tel qu’il a été amendé.
Mme la présidente (Parti socialiste) : Voici le résultat du scrutin :