Sécuriser et réguler l’espace numérique : Article 5 ter
debate, 11/10/2023, fr — source : Assemblée nationale, compte rendu intégral
M. le président (Rassemblement Bleu Marine, Rassemblement national) : La parole est à M. Charles Sitzenstuhl, pour soutenir l’amendement bknoek 23.
M. Charles Sitzenstuhl (Député, 16ᵉ législature) : Par souci de cohérence avec les amendements que j’ai défendus lundi, je reviens brièvement sur la question du consentement. Il me semble important, lorsqu’on entend sanctionner la diffusion non consentie d’un deepfake, de préciser que le consentement de la personne concernée doit être obtenu de façon expresse, cette notion figurant déjà dans la section du code pénal que nous entendons compléter.
M. le président (Rassemblement Bleu Marine, Rassemblement national) : Quel est l’avis de la commission ?
Mme Louise Morel (Député, 16ᵉ législature) : Je suis ravie de reprendre ce débat sémantique. Dès lors que nous avons rejeté votre proposition à l’article 4 bis, il ne me semblerait pas cohérent de l’accepter pour l’article 5 ter. Plus fondamentalement, le dispositif impose déjà de recueillir le consentement de la personne dont l’image est diffusée. Le fait d’exiger un consentement exprès ne me semble pas améliorer la rédaction et serait même de nature à créer un flou. La notion de consentement exprès s’oppose en effet généralement à celle de consentement tacite. Or l’éventualité d’un consentement tacite n’existe pas dans le cas d’un deepfake, le montage étant par définition réalisé sans la collaboration de la personne représentée. J’émets donc un avis défavorable.
M. le président (Rassemblement Bleu Marine, Rassemblement national) : La parole est à M. Erwan Balanant, pour soutenir l’amendement bknoek 950.
M. Erwan Balanant (Mouvement démocrate, Renaissance) : Nous avons déjà débattu de cette question à l’occasion de l’examen de l’article 4 bis : il s’agit d’être plus précis en remplaçant le mot « reproduisant » par le mot « représentant », qui décrit mieux la réalité des hypertrucages.
M. le président (Rassemblement Bleu Marine, Rassemblement national) : Quel est l’avis de la commission ?
Mme Louise Morel (Député, 16ᵉ législature) : Par souci de cohérence avec la rédaction de l’article 4 bis, la commission spéciale a émis un avis favorable. J’émets tout de même une réserve à titre personnel : le mot « représenter » étant plutôt associé à la vue, il me paraît difficile de représenter les paroles d’une personne. Peut-être faudrait-il donc retenir la formulation « représentant l’image ou reproduisant les paroles d’une personne ». Il s’agit cependant là d’une question de vocabulaire, qui n’a pas empêché la commission spéciale d’émettre un avis favorable.
M. le président (Rassemblement Bleu Marine, Rassemblement national) : Je suis saisi de quatre amendements identiques, bknosek 333, 545, 953 et 1069.
La parole est à M. Philippe Gosselin, pour soutenir l’amendement bknoek 333.
M. Philippe Gosselin (Union pour un mouvement populaire) : Il s’agit en quelque sorte d’un amendement de précision relatif à la charge de la preuve. Nous souhaitons préciser, après l’alinéa 2 de l’article 5 ter, que la plateforme aura l’obligation de contacter l’auteur ou l’éditeur de la vidéo signalée. Nous voulons qu’une mesure concrète s’impose formellement aux plateformes pour qu’elles ne puissent pas s’exonérer de leurs responsabilités.
M. le président (Rassemblement Bleu Marine, Rassemblement national) : La parole est à M. Romain Daubié, pour soutenir l’amendement bknoek 545.
M. Romain Daubié (Député, 16ᵉ législature) : J’évoquais, en défendant mon amendement précédent, la nécessité d’adapter le droit aux nouvelles technologies. Cette remarque s’applique aussi aux deepfakes, que la technologie ne permettait pas de réaliser il y a quelques années et, encore récemment, dont beaucoup d’entre nous ignoraient jusqu’à l’existence.
L’amendement vise tout simplement à inverser la charge de la preuve en demandant à l’éditeur de démontrer le consentement de la personne concernée. Cette inversion, qui prévaut dans d’autres domaines du droit, permettrait évidemment de renforcer les droits de la personne filmée.
M. le président (Rassemblement Bleu Marine, Rassemblement national) : La parole est à M. Aurélien Taché, pour soutenir l’amendement bknoek 953.
M. Aurélien Taché (#NousDemain, Les Écologistes – Europe Écologie Les Verts) : Il a été élaboré en lien avec le Conseil national des barreaux. Une des lacunes du texte concerne la responsabilité des plateformes : que l’État se soucie des contenus qu’elles diffusent, c’est bien, mais si ces acteurs pouvaient, à l’occasion, être jugés eux-mêmes responsables, ce serait encore mieux. Il leur revient par exemple de s’assurer que l’auteur d’un deepfake a bien recueilli le consentement de la personne concernée. Cette dimension fait quelque peu défaut au texte : les plateformes doivent assumer leurs responsabilités.
M. le président (Rassemblement Bleu Marine, Rassemblement national) : La parole est à M. Victor Habert-Dassault, pour soutenir l’amendement bknoek 1069.
M. Victor Habert-Dassault (Député, 16ᵉ législature) : Comme les précédents, il vise à responsabiliser davantage les plateformes et à inverser la charge de la preuve en exigeant de l’auteur qu’il démontre, dans un délai de quarante-huit heures, qu’il avait bien obtenu le consentement de la personne concernée. Le droit de la victime s’en trouverait ainsi renforcé.
M. Ian Boucard (Les Républicains) : Très bien !
M. le président (Rassemblement Bleu Marine, Rassemblement national) : Quel est l’avis de la commission sur ces amendements identiques ?
Mme Louise Morel (Député, 16ᵉ législature) : Je comprends votre intention de mettre les plateformes dans la boucle, mais j’émets un avis défavorable, pour trois raisons. D’abord, ce dispositif ne me semble pas avoir sa place dans le code pénal ni dans la définition du deepfake à caractère sexuel : il porte plutôt sur la question du retrait des contenus, abordée à d’autres endroits du texte et que nous avons d’ailleurs déjà évoquée.
J’ajoute que, sur le fond, un tel mécanisme se heurterait au droit européen, qui interdit d’adopter des dispositions revenant à instituer une obligation de surveillance généralisée des contenus.
Mme Élisa Martin (Parti de gauche) : Oh !
Mme Louise Morel (Député, 16ᵉ législature) : Si nous souhaitions les adopter, vos amendements devraient donc être retravaillés.
Enfin, je m’interroge sur le caractère opérationnel d’un tel dispositif, qui conduirait en quelque sorte à ériger les plateformes en juges de la véracité du consentement. Pour toutes ces raisons, j’émets un avis défavorable.
M. le président (Rassemblement Bleu Marine, Rassemblement national) : Quel est l’avis du Gouvernement ?
M. Jean-Noël Barrot : Même avis.
M. le président (Rassemblement Bleu Marine, Rassemblement national) : La parole est à Mme Élisa Martin.
Mme Élisa Martin (Parti de gauche) : Avec ces amendements, nous abordons la question de la responsabilité des plateformes. Il importe, me semble-t-il, de mettre au fin au sentiment d’impunité de certaines d’entre elles, en adoptant ces amendements.
De surcroît, après l’adoption de la loi d’orientation et de programmation du ministère de l’intérieur (Lopmi), de la loi d’orientation et de programmation du ministère de la justice 2023-2027 et de la loi relative aux Jeux olympiques et paralympiques de 2024, je m’étonne d’entendre Mme la rapporteure – même si, bien entendu, elle ne représente pas directement le Gouvernement – s’élever contre l’éventualité d’une surveillance généralisée des contenus. Peut-être aurons-nous l’occasion d’y revenir, mais l’accumulation des dispositifs législatifs que la majorité nous a contraints à adopter tend précisément vers une société de la surveillance généralisée, je vous le garantis !
M. le président (Rassemblement Bleu Marine, Rassemblement national) : La parole est à M. le ministre délégué.
M. Jean-Noël Barrot : J’entends vos propos, madame la députée, mais des membres de votre groupe se sont inquiétés à de très nombreuses reprises, depuis le début de l’examen du texte, de voir les plateformes récolter des données permettant d’identifier leurs utilisateurs. En la matière, deux modèles s’affrontent : celui qui prévaut aujourd’hui en Europe et qui consacre le principe d’absence de surveillance généralisée, lequel figure dans le règlement sur les services numériques ; et un autre, que certains appellent de leurs vœux et qui consiste à renforcer considérablement la responsabilité des plateformes en faisant d’elles des éditeurs.
Pour l’heure, le modèle applicable en Europe reste celui de l’interdiction de toute surveillance généralisée et ne permet pas d’obliger les plateformes à solliciter certaines informations auprès de leurs utilisateurs ou à les recueillir à partir de leurs contenus. C’est ce qui explique l’avis défavorable de la rapporteure, auquel se joint le Gouvernement.
M. le président (Rassemblement Bleu Marine, Rassemblement national) : La parole est à M. Erwan Balanant, pour soutenir l’amendement bknoek 862.
M. Erwan Balanant (Mouvement démocrate, Renaissance) : Nous avons évoqué maintes fois, au cours de l’examen du texte, et encore à l’instant, la notion de responsabilité. Il s’agit ici de l’appliquer aux deepfakes : actuellement, le droit punit ceux qui les diffusent, mais pas la personne produisant un hypertrucage en vue de le porter à la connaissance du public. Cela paraîtrait pourtant assez logique, dès lors qu’il faut bien que le montage ait été généré par quelqu’un : même s’il a été réalisé par une intelligence artificielle, comme celle du laboratoire Midjourney, par exemple, celle-ci doit faire l’objet de demandes pour générer l’image souhaitée.
Si la loi punit déjà les personnes qui diffusent cette image dans un but malveillant – puisqu’on peut évidemment générer des images avec une visée artistique, voire documentaire –, l’amendement vise à infliger une peine plus lourde à la personne qui se trouve à l’origine du deepfake. Ce n’est en effet pas le cas actuellement, ce que je regrette.
M. le président (Rassemblement Bleu Marine, Rassemblement national) : Quel est l’avis de la commission ?
Mme Louise Morel (Député, 16ᵉ législature) : Nous avons déjà eu ce débat à propos d’un précédent amendement. L’avis de la commission était alors défavorable ; il l’est encore cette fois-ci.
D’une part, le champ de l’infraction a été bien défini en commission. D’autre part, pour revenir plus précisément sur votre argumentation, la production aux fins de diffusion – que vous visez – correspond au fond, en droit pénal, à la complicité par aide ou assistance. Par conséquent, l’ajout que vous suggérez me semble presque superfétatoire.
M. le président (Rassemblement Bleu Marine, Rassemblement national) : La parole est à Mme Soumya Bourouaha, pour soutenir l’amendement bknoek 604.
Mme Soumya Bourouaha (Député, 16ᵉ législature) : Il porte sur un phénomène qui touche particulièrement les femmes et qui nous inquiète terriblement : la diffusion de faux nus d’adolescentes générés par une intelligence artificielle.
Vous savez peut-être qu’il y a quelques semaines, en Espagne, une dizaine de jeunes filles ont porté plainte après avoir été victimes de la diffusion de fausses images générées par une application d’intelligence artificielle, capable de produire des photomontages très réalistes.
Rappelons que, selon une étude réalisée en 2019 par la société néerlandaise Sensity, spécialisée dans les questions liées à l’intelligence artificielle, 96 % des fausses vidéos en ligne comportent de la pornographie non consensuelle, mettant en scène, le plus souvent, des femmes.
Si nous sommes satisfaits que l’article 5 ter pénalise le partage des deepfakes présentant un caractère sexuel, nous souhaitons aggraver la peine prévue lorsque ces contenus mettent en scène des mineurs.
M. le président (Rassemblement Bleu Marine, Rassemblement national) : Quel est l’avis de la commission ?
Mme Louise Morel (Député, 16ᵉ législature) : Vous avez raison, la situation que vous évoquez est dramatique pour de nombreuses personnes – majoritairement des femmes. Je rappelle au passage qu’avec ce texte, nous défendons aussi les droits des femmes. Croyez bien que j’y suis très attachée et que je suis très vigilante sur ce point.
Cependant, mon avis sur votre amendement est défavorable parce que le texte prévoit déjà, pour la publication de deepfakes générés par une intelligence artificielle, une peine de trois ans d’emprisonnement, un quantum maximal très élevé, ce qui permet au juge d’adapter la peine effectivement prononcée à la gravité des faits et aux circonstances – celles que vous mentionnez pourront tout à fait être prises en considération.
Il n’est donc pas nécessaire de prévoir une nouvelle circonstance aggravante qui pourrait porter les peines jusqu’à cinq ans d’emprisonnement. Avis défavorable.