Adaptation au droit de l’Union européenne en diverses matières : Article 24

Adaptation au droit de l’Union européenne en diverses matières : Article 24

debate, 17/02/2026, fr — source : Sénat, compte rendu intégral

M. le président : Après le titre V de la loi n° 2004-575 du 21 juin 2004 pour la confiance dans l’économie numérique, il est inséré un titre V bis ainsi rédigé :
« TITRE V BIS
« DES SYSTEMES D’INTELLIGENCE ARTIFICIELLE
« Art. 55-1. – I. – Les systèmes d’intelligence artificielle ou « systèmes d’IA » sont soumis au règlement (UE) 2024/1689 du Parlement et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle et modifiant les règlements (CE) n° 300/2008, (UE) n° 167/2013, (UE) n° 168/2013, (UE) 2018/858, (UE) 2018/1139 et (UE) 2019/2144 et les directives 2014/90/UE, (UE) 2016/797 et (UE) 2020/1828 (règlement sur l’intelligence artificielle), dans les conditions et limites définies par ce même règlement.
« II. – Pour l’application du présent titre, les définitions de l’article 3 du règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 précité s’appliquent. »

M. le président : L’amendement n° 373, présenté par MM. Basquin, Gay et Lahellec, Mme Margaté et les membres du groupe Communiste Républicain Citoyen et Écologiste – Kanaky, est ainsi libellé :
Après l’alinéa 4
Insérer un alinéa ainsi rédigé :
« …. – En application de l’article 14 du règlement (UE) 2024/1689 du 13 juin 2024 précité, et sans préjudice des dispositions du code des relations entre le public et l’administration, l’usage par une autorité administrative ou un organisme chargé d’une mission de service public d’un système d’intelligence artificielle pour concourir à l’adoption d’une décision individuelle est subordonné à l’exercice d’un contrôle humain effectif. Ce contrôle garantit à la personne concernée le droit d’obtenir, à sa demande et à tout moment de la procédure, le réexamen de sa situation par un agent de ladite autorité ou dudit organisme.
La parole est à M. Alexandre Basquin.

M. Alexandre Basquin : Nous abordons avec cet article un sujet qui est au cœur même de la relation entre les services publics et les citoyens : celui de la place de l’intelligence artificielle (IA) au sein de nos services publics.
L’article 24 rappelle que les systèmes d’intelligence artificielle sont soumis au règlement européen établissant des règles harmonisées concernant l’intelligence artificielle, aussi connu comme AI Act, mais il ne dit rien des conditions concrètes dans lesquelles ces systèmes pourront être utilisés dans nos services publics.
Or, chacun le voit bien, l’intelligence artificielle n’est plus une abstraction. Elle commence déjà à intervenir dans des décisions qui concernent directement nos concitoyens, en matière d’accès aux droits et d’attribution d’aides, ou encore pour le déclenchement de contrôles.
Une décision administrative n’étant pas un simple calcul, elle ne peut être le fait de seuls algorithmes. Il doit avant tout s’agir d’une décision humaine, surtout lorsqu’elle émane de nos services publics.
Par cet amendement, nous entendons donc poser un principe clair et simple : l’intelligence artificielle ne peut devenir une autorité de décision.

M. le président : Quel est l’avis de la commission ?

Mme Marie-Lise Housseau : Par cet amendement, mon cher collègue, vous demandez qu’une décision individuelle prise par une autorité administrative ou un organisme chargé d’une mission de service public soit soumise à un contrôle humain.
Sur la forme, une telle règle n’a pas vocation à être inscrite dans la loi française, car elle figure déjà dans le règlement européen relatif à l’intelligence artificielle, qui est d’application directe et procède à une harmonisation maximale dans l’ensemble du marché unique.
Sur le fond, l’article 14 de ce règlement prévoit déjà que la conception et le développement des systèmes d’intelligence artificielle à haut risque doivent permettre un contrôle humain effectif par des personnes physiques pendant leur période d’utilisation.
Cet amendement étant satisfait, la commission lui est défavorable.

M. le président : Quel est l’avis du Gouvernement ?

M. Sébastien Martin (Député, 17ᵉ législature) : Il est également défavorable, pour les mêmes raisons.

M. le président : Je mets aux voix l’amendement n° 373.
(L’amendement n’est pas adopté.)

M. le président : L’amendement n° 372, présenté par MM. Basquin, Gay et Lahellec, Mme Margaté et les membres du groupe Communiste Républicain Citoyen et Écologiste – Kanaky, est ainsi libellé :
Compléter cet article par un paragraphe ainsi rédigé :
« …. – L’application du règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle et modifiant les règlements (CE) no 300/2008, (UE) n° 167/2013, (UE) n° 168/2013, (UE) 2018/858, (UE) 2018/1139 et (UE) 2019/2144 et les directives 2014/90/UE, (UE) 2016/797 et (UE) 2020/1828 (règlement sur l’intelligence artificielle) ne peut avoir pour effet de réduire le niveau de protection garanti par le droit national en matière de protection des données personnelles, de libertés publiques et de droits fondamentaux. »
La parole est à M. Alexandre Basquin.

M. Alexandre Basquin : Le règlement européen sur l’intelligence artificielle définit un cadre harmonisé applicable dans l’ensemble de l’Union. Toutefois, cette harmonisation ne saurait conduire à un affaiblissement du niveau de protection garanti par le droit français, notamment en matière de libertés publiques et de protection des données personnelles.
Dans un contexte où plusieurs initiatives européennes tendent, malheureusement, à assouplir certaines règles relatives au traitement des données, il est à mon sens indispensable d’inscrire dans la loi une clause de non-régression, afin de garantir que l’encadrement de l’intelligence artificielle demeurera conforme aux exigences constitutionnelles et aux principes fondamentaux de protection des personnes.

M. le président : Quel est l’avis de la commission ?

Mme Marie-Lise Housseau : Mon cher collègue, je vous rappelle en premier lieu que le règlement sur l’intelligence artificielle a précisément été adopté pour protéger les droits fondamentaux des citoyens contre les dérives des systèmes d’IA, en définissant des usages interdits, des usages à haut risque, ainsi que des usages qui impliquent des obligations de transparence.
En second lieu, ce règlement prévoit lui-même, dans son article 77, que les autorités nationales de protection des droits fondamentaux, telles que le Défenseur des droits ou la Cnil en France, doivent être dotées des pouvoirs nécessaires pour faire respecter les droits fondamentaux en lien avec l’utilisation de l’IA.
Cet amendement, comme le précédent, étant déjà satisfait, la commission lui est donc également défavorable.

M. le président : Quel est l’avis du Gouvernement ?

M. Sébastien Martin (Député, 17ᵉ législature) : Il est défavorable, pour les mêmes raisons.

M. le président : La parole est à Mme Catherine Morin-Desailly, pour explication de vote.

Mme Catherine Morin-Desailly : Je souhaite apporter un complément d’explication. Il est certain, madame la rapporteure, que le texte actuel comporte déjà des mesures de protection des droits fondamentaux. Toutefois, si ce règlement venait à être affaibli par le paquet omnibus que j’ai évoqué lors de la discussion générale, il y aurait de quoi s’inquiéter.
Je souscris donc totalement à votre analyse en l’état, mais il nous faudra être à l’avenir très vigilants sur une possible régression des ambitions de ce texte, qui doit conjuguer innovation et protection des droits humains. Je tiens à vous alerter sur ce point. D’ailleurs, notre commission des affaires européennes, sous l’autorité de Jean-François Rapin, va effectuer un travail sur ce texte.

M. le président : La parole est à M. Alexandre Basquin, pour explication de vote.

M. Alexandre Basquin : J’irai dans le même sens que notre collègue Catherine Morin-Desailly : nous voyons bien aujourd’hui ce qu’il en est du Digital Markets Act (DMA), le règlement sur les marchés numériques, et du Digital Services Act (DSA), le règlement sur les services numériques, dont la philosophie est remise en cause sous la pression de Donald Trump. Je rappelle ainsi que Thierry Breton a été interdit de visa par les Etats-Unis pour avoir œuvré à l’adoption de ces règlements. La même chose pourrait se produire demain avec l’AI Act et d’autres textes.
Il me semble donc important de soutenir cet amendement d’appel.

M. le président : Je mets aux voix l’amendement n° 372.
(L’amendement n’est pas adopté.)

M. le président : L’amendement n° 444, présenté par le Gouvernement, est ainsi libellé :
Compléter cet article par dix-sept alinéas ainsi rédigés :
« Art. 55-2. – Sous réserve de l’application du paragraphe 3 de l’article 78 du règlement (UE) 2024/1689 du 13 juin 2024, les autorités compétentes au sens de l’article 70 de ce même règlement peuvent se communiquer les informations et documents détenus ou recueillis dans l’exercice de leurs missions respectives, sans que les dispositions de l’article 11 du code de procédure pénale ou celles relatives au secret professionnel ne fassent obstacle à une telle communication. Dans ce cadre, afin de prévenir un cumul des poursuites et des sanctions pour les mêmes faits, les autorités compétentes s’informent mutuellement de leur intention d’engager des poursuites ou d’infliger une sanction à un opérateur sur le fondement du règlement (UE) 2024/1689.
« Art. 55-3. – I. – Dans l’exercice de leurs missions, les autorités de surveillance du marché compétentes au sens de l’article 70 du règlement (UE) 2024/1689 du 13 juin 2024 et les agents habilités pour effectuer les contrôles des systèmes d’IA peuvent notamment, dans le cadre du contrôle de la conformité de ces systèmes d’IA avec les obligations de ce même règlement, recourir à l’expertise technique du service administratif de l’État mentionné à l’article 36 de la loi n° 2021-1382 du 25 octobre 2021 relative à la régulation et à la protection de l’accès aux œuvres culturelles à l’ère numérique.
« Dans ce cadre, ce service peut être rendu destinataire d’informations, de documents, de codes informatiques et de données détenus ou recueillis par les autorités ou agents mentionnés au premier alinéa du présent I, aux fins d’expertise et d’appui dans la mise en œuvre de leurs prérogatives et selon les modalités définies par eux.
« Le recours à cette expertise pourra donner lieu à l’adoption d’une convention, laquelle précise notamment les conditions propres à garantir la confidentialité et la protection des informations, documents et données transmis, y compris au sein du service lui-même, leur utilisation aux seules fins mentionnées au présent I et, le cas échéant, leur utilisation dans le respect des procédures contradictoires applicables au sein des autorités mentionnées au premier alinéa.
« Le service mentionné au même premier alinéa veille également à ce que ses agents répondent, lorsque cela est nécessaire aux fins de l’accomplissement des missions mentionnées au premier alinéa, aux conditions d’assermentation et d’habilitation requises par les procédures d’enquête applicables au sein des autorités mentionnées à ce premier alinéa.
« II. – Les autorités et agents mentionnés au I peuvent également, dans le cadre du contrôle de la conformité de ces systèmes d’IA avec les obligations relatives à la sécurité des systèmes d’information du règlement (UE) 2024/1689 du 13 juin 2024, recourir notamment à l’expertise technique de l’autorité nationale de sécurité des systèmes d’information. À cette seule fin, cette dernière peut être destinataire d’informations, de documents, de codes informatiques et de données traités par les autorités ou agents auxquels elle apporte son concours, dont elle préserve la confidentialité.
« L’autorité nationale de sécurité des systèmes d’information veille également à ce que ses agents répondent, lorsque cela est nécessaire aux fins de l’accomplissement des missions mentionnées au premier alinéa, aux conditions d’assermentation et d’habilitation requises par les procédures d’enquête applicables au sein des autorités mentionnées à ce premier alinéa.
« Art. 55-4. – Les autorités notifiantes compétentes au sens de l’article 28 du règlement (UE) 2024/1689 du 13 juin 2024 sont informées des constats des autorités de surveillance du marché au sens de l’article 70 de ce même règlement lorsqu’ils portent sur des manquements des organismes notifiés à leurs obligations.
« Art. 55-5. – Des agents de la direction générale de entreprises, sont habilités à rechercher et constater les infractions et les manquements à la section 4 du chapitre III du règlement (UE) 2024/1689 du 13 juin 2024, lorsqu’ils sont mis en œuvre par les organismes notifiés dans le secteur du jouet tel que défini par la directive 2009/48/CE du Parlement européen et du Conseil du 18 juin 2009 relative à la sécurité des jouets.
« Entre huit heures et vingt heures, ces agents habilités peuvent pénétrer dans les lieux à usage professionnel ou dans les lieux d’exécution d’une prestation de service. Ces agents habilités peuvent exiger la communication de documents de toute nature, propres à faciliter l’accomplissement de leur mission. Ils peuvent les obtenir ou en prendre copie, par tout moyen et sur tout support, ou procéder à la saisie de ces documents en quelques mains qu’ils se trouvent.
« Ces agents habilités peuvent recueillir, sur place ou sur convocation, tout renseignement, toute justification ou tout document nécessaire aux contrôles. Ils peuvent procéder à toute audition des personnes inspectées dans l’intérêt des investigations menées. Les auditions font l’objet de procès-verbaux contresignés par les personnes entendues. En cas de refus de signer des personnes auditionnées, mention en est faite au procès-verbal.
« Les conditions d’application du présent article sont fixées par décret en Conseil d’État »
« Art. 55-6 – L’autorité notifiante pour le secteur des jouets tel que défini par la directive 2009/48/CE du Parlement européen et du Conseil du 18 juin 2009 relative à la sécurité des jouets est compétente pour prononcer les amendes administratives sanctionnant les manquements aux dispositions de la section 4 du chapitre III du règlement (UE) 2024/1689 du 13 juin 2024 et l’inexécution des mesures d’injonction relatives à des manquements constatés à l’aide des pouvoirs énoncés à l’article 55-5.
« Ces amendes administratives sont prononcées dans les conditions prévues au présent article et selon les plafonds des amendes administratives mentionnées à l’article 99 du règlement (UE) 2024/1689 du 13 juin 2024, fondées sur des constatations réalisées avec les pouvoirs mentionnés à l’article 55-5.
« Une copie du procès-verbal constatant les manquements passibles d’une amende administrative en est transmise à la personne mise en cause.
« Avant toute décision, l’autorité notifiante informe par écrit la personne mise en cause de la sanction envisagée à son encontre, en lui indiquant qu’elle peut se faire assister par le conseil de son choix et en l’invitant à présenter, dans un délai d’un mois, ses observations écrites et, le cas échéant, ses observations orales.
« Passé ce délai, elle peut, par décision motivée, prononcer l’amende. »
La parole est à M. le ministre délégué.

M. Sébastien Martin (Député, 17ᵉ législature) : Le présent amendement a pour objet d’adapter notre droit national, à la suite de l’entrée en vigueur du règlement sur l’intelligence artificielle, afin de faciliter le travail que les différentes autorités compétentes auront à mener au titre de ce règlement, en prévoyant des mesures de coordination.
À cet effet, il vise à compléter le titre V bis, consacré aux systèmes d’intelligence artificielle, que le présent projet de loi insère dans la loi pour la confiance dans l’économie numérique, par des articles 55-2 à 55-6.
L’article 55-2 organise la mise en œuvre d’une coordination infralégislative entre les autorités compétentes, au titre du règlement sur l’IA. Il prévoit une information mutuelle coordonnée à l’échelon interministériel, permet un suivi des poursuites et des sanctions et apporte une garantie d’absence de cumul.
L’article 55-3 permettra aux mêmes autorités compétentes de recourir aux compétences techniques du pôle d’expertise de la régulation numérique (PEReN) et de l’Agence nationale de la sécurité des systèmes d’information (Anssi).
Les articles 55-4 à 55-6, enfin, créent une obligation d’information des autorités notifiantes quand les constats des autorités de surveillance de marché portent sur des manquements des organismes notifiés, permettent à la direction générale des entreprises d’exercer ses missions d’autorité notifiante pour le secteur du jouet en habilitant certains de ses agents et définit les régimes de sanctions administratives et les garanties procédurales associées.

M. le président : Quel est l’avis de la commission ?

Mme Marie-Lise Housseau : Cet amendement a essentiellement pour objet les échanges d’informations entre les autorités chargées de l’application du règlement sur l’intelligence artificielle, ainsi que le recours aux ressources du PEReN et de l’Anssi.
Les dispositions proposées sont très importantes pour permettre le bon fonctionnement de l’application du règlement sur l’IA en France, dans la mesure où une bonne coordination entre les nombreuses autorités chargées de la régulation des différents systèmes d’IA doit être mise en place.
Il est en effet essentiel que ces autorités puissent se communiquer les informations et les documents recueillis dans l’exercice de leurs missions respectives, afin de ne pas être conduites à engager en parallèle des poursuites ou des sanctions pour les mêmes faits. Il s’agit de respecter le principe non bis in idem.
Le niveau d’expertise de ces autorités en matière d’IA étant assez disparate, il importe qu’elles puissent s’appuyer sur les compétences techniques du PEReN et de l’Anssi.
La commission a donc émis un avis favorable sur cet amendement.

M. le président : La parole est à M. Thomas Dossus, pour explication de vote.

M. Thomas Dossus : Cet amendement, le premier d’une longue série d’amendements gouvernementaux déposés sur cet article, nous est arrivé assez tard, ce qui nous a empêchés de l’analyser de manière suffisamment poussée.
Il s’agit pourtant d’un amendement important, car il tend à établir une forme de gouvernance et à répartir les rôles entre un certain nombre d’autorités administratives. On peut toutefois craindre que la tuyauterie mise en place soit un peu trop segmentée : ce fonctionnement en silo nuit à la volonté de transversalité affichée, des doutes subsistant notamment sur le caractère piloté et contrôlé de cette gouvernance.
La multiplication des autorités compétentes – une quinzaine au total – crée un risque élevé d’illisibilité. De plus, les flux d’informations entre ces différentes autorités, dont les compétences sont variables, même si elles pourront évidemment faire appel à l’Anssi et au PEReN, nous inquiètent du point de vue de la cybersécurité. Nous constatons en effet en ce moment un certain nombre de fuites de données, y compris depuis des administrations. Nous risquons donc d’accroître les risques de cyberattaques.
Cet amendement soulève de nombreuses questions sur la manière dont il faut légiférer sur l’intelligence artificielle, laquelle entraînera évidemment un bouleversement technologique et démocratique dans notre vie citoyenne et démocratique.
N’aurait-il pas mieux valu créer une autorité de coordination unique pour gérer la régulation de l’IA ? L’approche retenue dans cet amendement nous obligera à courir en permanence après les évolutions de cette technologie. Nous risquons parfois de taper dans le vide et de nous laisser prendre de vitesse.

M. le président : La parole est à Mme Catherine Morin-Desailly, pour explication de vote.

Mme Catherine Morin-Desailly : Je suivrai bien sûr l’avis de notre rapporteure, mais je déplore, moi aussi, que nous découvrions si tardivement cette proposition.
Il est certes nécessaire que le travail de l’ensemble des autorités indépendantes désignées soit très bien coordonné, mais il est regrettable que nous n’ayons pas eu le temps, ces dernières semaines, d’avoir un échange approfondi sur ce sujet, que nous ne découvrons pas aujourd’hui. Pour ma part, j’aurais aimé que l’on puisse en discuter au sein de la Cnil, dont je suis membre.
Monsieur le ministre, tout en reconnaissant que le cadre budgétaire est très contraint, je vous alerte, comme beaucoup de nos collègues avant moi, sur la modestie des moyens dont ces autorités disposent alors qu’elles se voient confier de très nombreuses missions, tout à fait stratégiques, par les règlements européens. Sincèrement, le travail de ces organismes se fait déjà à flux tendu ; si l’on doit leur confier des missions supplémentaires, il leur faudra encore recruter des hommes et des femmes compétents, ce qui requiert des crédits en proportion.
Quels moyens seront donc dévolus à ces autorités indépendantes, en particulier pour assurer leur coordination ?

M. le président : La parole est à M. Michaël Weber, pour explication de vote.

M. Michaël Weber : Comme l’ont dit mes collègues, quand bien même nous constatons une volonté d’avancer, sans doute louable à certains égards, il est éminemment regrettable que nous n’ayons pas pu prendre le temps nécessaire pour nous assurer que les dispositions qui nous sont soumises sont les bonnes. Nous avons un peu le sentiment, sur ce sujet particulier, de répondre avec un train de retard aux préoccupations qui vont croissant s’agissant de l’intelligence artificielle.

M. le président : Je mets aux voix l’amendement n° 444.
(L’amendement est adopté.)

M. le président : Je mets aux voix l’article 24, modifié.
(L’article 24 est adopté.)