Protéger les mineurs des risques des réseaux sociaux : Après l’article 1er

Protéger les mineurs des risques des réseaux sociaux : Après l’article 1er

debate, 31/03/2026, fr — source : Sénat, compte rendu intégral

M. le président : L’amendement n° 31 rectifié quater, présenté par Mme Aeschlimann, M. Lefèvre, Mme Belrhiti, M. Burgoa, Mme Gruny, MM. Daubresse, Sol, Panunzi et Khalifé, Mme Petrus, MM. Chasseing et Fargeot, Mme Josende, MM. Saury et Michallet, Mmes Dumont, Berthet, Lassarade, Malet et Bellamy, M. Margueritte, Mmes de Cidrac et Ventalon et MM. Gremillet, Milon et Séné, est ainsi libellé :
Après l’article 1er
Insérer un article additionnel ainsi rédigé :
I. – L’article L. 34-9-3 du code des postes et des communications électroniques est complété par un paragraphe ainsi rédigé :
« …. – Les dispositifs mentionnés au I permettent notamment aux titulaires de l’autorité parentale de limiter ou d’interdire, en fonction de l’âge de l’utilisateur, l’accès des mineurs aux services de réseaux sociaux en ligne au sens de l’article 6-7 de la loi n° 2004-575 du 21 juin 2004 pour la confiance dans l’économie numérique, ainsi qu’aux autres services en ligne susceptibles de présenter des risques particuliers pour les mineurs.
« À cette fin, les fournisseurs de systèmes d’exploitation et, le cas échéant, les fabricants d’équipements terminaux mettent en œuvre, dans le cadre des dispositifs mentionnés au même I, des solutions techniques permettant de vérifier l’âge de l’utilisateur et, le cas échéant, de recueillir l’autorisation d’un titulaire de l’autorité parentale pour l’accès des mineurs de moins de quinze ans aux services de réseaux sociaux en ligne. Ces solutions sont conformes à un référentiel élaboré à cette fin par l’Autorité de régulation de la communication audiovisuelle et numérique, après avis de la Commission nationale de l’informatique et des libertés et consultation des acteurs concernés.
« La mise en œuvre des obligations prévues au présent paragraphe ne donne lieu à aucun surcoût pour l’utilisateur et respecte les principes de minimisation des données et de protection de la vie privée, notamment en interdisant toute utilisation à des fins commerciales des données collectées ou générées dans ce cadre. »
II. – Après le premier alinéa du I de l’article 6-7 de la loi n° 2004-575 du 21 juin 2004 pour la confiance dans l’économie numérique, il est inséré un alinéa ainsi rédigé :
« Pour satisfaire à l’obligation prévue au présent I et à loi n° … du … visant à protéger les mineurs des risques auxquels les expose l’utilisation des réseaux sociaux, les fournisseurs de services de réseaux sociaux en ligne peuvent s’appuyer sur les dispositifs mentionnés à l’article L. 34-9-3 du code des postes et des communications électroniques. Ils mettent en œuvre tous leurs efforts pour assurer l’articulation de leurs propres mécanismes de contrôle de l’âge et de recueil de l’autorisation parentale avec ces dispositifs, afin d’empêcher l’accès à leurs services des mineurs de moins de quinze ans, sauf autorisation d’un titulaire de l’autorité parentale. »
La parole est à Mme Marie-Do Aeschlimann.

Mme Marie-Do Aeschlimann : Cet amendement vise à parachever le socle du contrôle parental au niveau de l’équipement terminal institué par la loi du 2 mars 2022 visant à renforcer le contrôle parental sur les moyens d’accès à internet, dite loi Studer. Son objet s’inscrit donc pleinement dans les objectifs du texte que nous examinons.
Actuellement, nous faisons reposer l’essentiel du contrôle sur les plateformes elles-mêmes. Or, chacun le sait, ces dispositifs sont facilement contournables, que cela soit au moyen d’une éventuelle fausse déclaration d’âge tant que nous sommes dans l’attente d’un mécanisme de déclaration robuste et fiable, de la sollicitation d’un VPN (Virtual Private Network) ou bien d’un changement de compte utilisateur.
Nous proposons ainsi de déplacer le point de contrôle de l’âge en le positionnant en amont, au niveau du téléphone, de la tablette ou de l’ordinateur de l’utilisateur mineur, c’est-à-dire au niveau du système d’exploitation ou du fabricant.
Nous prévoyons par ailleurs que la vérification de l’âge et l’autorisation parentale soient intégrées de manière simple, sécurisée et sans surcoût.
Une telle solution correspond aux recommandations formulées par l’Arcom elle-même : dans son avis du 26 septembre 2024, elle considère que le niveau du terminal est le plus pertinent pour protéger les mineurs.
Cette solution présente trois avantages concrets.
D’abord, elle est beaucoup plus difficile à contourner, puisqu’elle agit en amont, quel que soit le service utilisé.
De plus, elle est plus protectrice de la vie privée, car elle évite de multiplier les vérifications d’âge sur chaque plateforme.
Enfin, elle redonne aux parents un rôle central en leur donnant la maîtrise effective de l’accès de leurs enfants aux réseaux sociaux.
Les plateformes, quant à elles, restent responsables, car elles conservent une obligation de moyens pour empêcher l’accès des mineurs. Il s’agit non pas de les décharger, mais de rendre l’ensemble du dispositif plus cohérent, plus simple et plus efficace.
Mes chers collègues, l’adoption de cet amendement n’enfreindrait enfin aucune disposition du DSA, conformément à l’une de nos principales préoccupations.

M. le président : Quel est l’avis de la commission ?

Mme Catherine Morin-Desailly : De multiples dispositifs sont aujourd’hui en lice pour assurer la vérification de l’âge et permettre d’appliquer la présente proposition de loi.
Les lignes directrices adoptées en application de l’article 28 du DSA n’imposent pas aux réseaux sociaux concernés une solution de vérification d’âge en particulier, en particulier afin de s’assurer du respect du RGPD.
Selon l’Arcom, une quinzaine d’opérateurs offriraient aujourd’hui des solutions privées. Pour ce qui est des solutions publiques, France Titres développe une solution souveraine de génération de preuves d’âge. France Identité numérique a vocation à être compatible avec les solutions de portefeuille d’identité européen – European Digital Identity Wallet, ou mini wallet que vous avez mentionné tout à l’heure, madame la ministre.
France Titres explore également une autre voie, celle du développement d’une solution pour les moins de 18 ans fondée sur leur compte ÉduConnect.
Toutefois, l’amendement tend à ce qu’il s’agisse d’une simple faculté pour les plateformes et non d’une obligation. Dans la mesure où la solution dépend en partie de l’état d’avancement du travail des administrations, la commission souhaite connaître l’avis du Gouvernement sur cet amendement.

M. le président : Quel est l’avis du Gouvernement ?

Mme Anne Le Hénanff (Horizons) : La position du Gouvernement est assez claire : nous voulons une double protection, qui combine à la fois un contrôle parental sur les appareils et les systèmes d’exploitation, d’ailleurs déjà prévu par la loi Studer, mais également un contrôle de l’âge des personnes sur les plateformes, prévu par l’article 28 du DSA.
Par ailleurs, quelle que soit la rédaction qui sera retenue pour ce texte, je vous informe que les plateformes et les réseaux sociaux œuvreront avec la direction générale des entreprises (DGE) et avec l’Arcom, à partir de la mi-avril, à établir ensemble les règles de vérification d’âge qu’elles devront appliquer en France après la promulgation de cette loi. C’est l’objet d’un groupe de travail que j’ai constitué à Bercy.
Le Gouvernement émet un avis défavorable sur cet amendement.

M. le président : Quel est finalement l’avis de la commission ?

Mme Catherine Morin-Desailly : La commission émet un avis défavorable.

M. le président : Je mets aux voix l’amendement n° 31 rectifié quater.
(L’amendement n’est pas adopté.)

M. le président : L’amendement n° 11 rectifié bis, présenté par M. Pla, Mmes Artigalas et Bonnefoy, MM. Bouad, Bourgi et Chaillou, Mme Conway-Mouret, MM. Devinaz et Fichet, Mmes G. Jourda et Matray et M. Michau, est ainsi libellé :
Après l’article 1er
Insérer un article additionnel ainsi rédigé :
L’article 226-8-1 du code pénal est ainsi modifié :
1° À la seconde phrase du premier alinéa, après le mot : « algorithmique », sont insérés les mots : « ou par l’intelligence artificielle » ;
2° Il est ajouté un alinéa ainsi rédigé :
« Lorsque l’image reproduite ou modifiée est celle d’un mineur de quinze ans captée à l’occasion d’une connexion effectuée par celui-ci, les peines prévues au premier alinéa sont portées à trois ans d’emprisonnement et 75 000 euros d’amende et celles prévues au troisième alinéa sont portées à cinq ans d’emprisonnement et 150 000 euros d’amende. »
La parole est à M. Sebastien Pla.

M. Sebastien Pla : Cet amendement vise à reconnaître comme un acte délictueux le fait de diffuser grâce à l’intelligence artificielle une représentation qui sexualise les enfants ou une photographie ou pseudo-photographie indécente d’un mineur.
Nous sommes à la croisée des chemins avec l’IA générative. Créer du contenu à grande échelle est plus facile que jamais. De la même manière que le nombre des préjudices sexuels hors ligne et en ligne contre les enfants a été accru par internet, l’utilisation abusive de l’IA générative a de profondes implications pour la sécurité des intéressés : identification des victimes, prévention et prolifération des abus. Les mauvaises utilisations et les dommages en aval qui y sont associés sont réels et justifient une action volontariste aujourd’hui.
En octobre 2023, l’Internet Watch Foundation a publié un rapport sur sa découverte de plus de 20 000 images issues de l’IA générative sur un forum du dark web. Les analystes ont déterminé qu’environ 3 000 d’entre elles relevaient du droit pénal en vigueur contre la production, la distribution et la possession d’une « photographie ou pseudo-photographie indécente d’un enfant » ou la possession d’une « image interdite d’un enfant ».
Alors que les outils d’IA générative se sont multipliés, la réglementation et la législation spécifiques sont très en retard, ce qui facilite les abus de la part de criminels cherchant à exploiter sexuellement des enfants.

M. le président : Quel est l’avis de la commission ?

Mme Catherine Morin-Desailly : Par cet amendement, vous proposez de reconnaître comme un acte délictueux le fait de diffuser grâce à l’intelligence artificielle une représentation qui sexualise les enfants ou une photographie ou pseudo-photographie indécente d’un mineur et de modifier le quantum de peine applicable.
Au préalable, je dois reconnaître que la commission n’a pas eu le temps d’interroger la justice sur la nécessité ou la légitimité de cette mesure. En outre, je rappelle que la loi Sren, qui a créé cette infraction, a moins de deux ans. Nous n’avons pas encore le recul nécessaire sur son application. Il serait donc plus raisonnable d’attendre une évaluation avant de revoir le quantum de peine si, en effet, une telle décision est légitime. Votre préoccupation, à savoir que la sanction soit à la juste mesure, l’est, bien entendu, mais je ne dispose pas d’éléments qui plaideraient pour un avis favorable.
La commission demande donc le retrait de cet amendement ; à défaut, elle y sera défavorable.

M. le président : Quel est l’avis du Gouvernement ?

Mme Anne Le Hénanff (Horizons) : Votre amendement est déjà satisfait par le code pénal : les peines sont plus sévères pour les infractions relatives aux mineurs.
Pour votre information, la France défend auprès de la Commission, dans le cadre d’un nouveau règlement sur l’IA, une évolution très forte des règles applicables à la suite du scandale Grok. En effet, c’est à l’échelle européenne que les sanctions pourront être bien plus massives, notamment contre les plateformes.
Le Gouvernement émet un avis défavorable sur cet amendement.

M. le président : Je mets aux voix l’amendement n° 11 rectifié bis.
(L’amendement n’est pas adopté.)

M. le président : L’amendement n° 10 rectifié bis, présenté par M. Pla, Mmes Artigalas et Bonnefoy, MM. Bouad, Bourgi et Chaillou, Mme Conway-Mouret, MM. Devinaz et Fichet, Mmes G. Jourda et Matray et M. Michau, est ainsi libellé :
Après l’article 1er
Insérer un article additionnel ainsi rédigé :
Le A du IV de l’article 6 de la loi n° 2004-575 du 21 juin 2004 pour la confiance dans l’économie numérique est ainsi modifié :
1° Le deuxième alinéa est complété par les mots : « , ou dont elles ont connaissance par elles-mêmes, par un signalement précis permettant d’identifier l’auteur de l’infraction » ;
2° Après le deuxième alinéa, il est inséré un alinéa ainsi rédigé :
« Les signalements comprennent les détails suivants : le message ou les discussions en cause ; des informations sur l’utilisateur ou l’abonné (nom, nom d’utilisateur, adresse électronique, numéro de téléphone, date de naissance) associées à l’infraction signalée ; les adresses IP (y compris les numéros de port) avec les dates et heures d’accès à un service, de téléversement de contenu abusif ou de communication avec un autre utilisateur ; le contenu abusif et d’autres fichiers liés à l’exploitation sexuelle des mineurs qui révèlent clairement la nature d’une infraction ou permettent de localiser ou d’identifier un auteur ou une victime. »
La parole est à M. Sebastien Pla.

M. Sebastien Pla : Dans son esprit, cet amendement vise à inverser la charge de la preuve en faisant un peu plus porter la responsabilité sur les opérateurs. Pour ce faire, il tend à encourager les plateformes en ligne à inclure des informations précises sur les utilisateurs et les enfants victimes dans les signalements transmis aux autorités.
Les principales plateformes en ligne mondiales disposent d’outils de signalement. Malheureusement, nombre d’entre eux ne contiennent pas les informations de base nécessaires pour identifier les lieux potentiels des incidents, ceux où se trouvent les enfants victimes et/ou pour permettre aux forces de l’ordre de les protéger en facilitant leurs investigations.
Je propose que les signalements soient davantage fournis. Le recueil de détails doit être bien plus précis : informations sur l’utilisateur ou l’abonné, adresses IP de provenance, contenus abusifs et autres fichiers liés à l’exploitation sexuelle des enfants, et messages ou discussions dont les contenus sont suffisants pour étayer les soupçons d’incitation en ligne.

M. le président : Quel est l’avis de la commission ?

Mme Catherine Morin-Desailly : La liste des données que les plateformes sont tenues de conserver afin de permettre l’identification de quiconque a contribué à la création d’un tel contenu est fixée par un décret en conseil d’État pris en vertu du V de l’article 6 de la loi pour la confiance dans l’économie numérique. La durée de leur conservation est également prévue dans ce décret. En fixant une obligation de transmission de données sans limite de temps, votre amendement ne respecte pas ce dispositif et risque ainsi d’être contraire au RGPD.
La commission émet un avis défavorable sur cet amendement.

M. le président : Quel est l’avis du Gouvernement ?

Mme Anne Le Hénanff (Horizons) : Défavorable.

M. le président : Je mets aux voix l’amendement n° 10 rectifié bis.
(L’amendement n’est pas adopté.)