Lutte contre les discriminations par la pratique de tests individuels et statistiques : Article 3 bis

Lutte contre les discriminations par la pratique de tests individuels et statistiques : Article 3 bis

debate, 12/03/2024, fr — source : Sénat, compte rendu intégral

M. le président : I. – L’article 225-1 du code pénal est ainsi modifié :
1° Aux premier et second alinéas, le mot : « patronyme » est remplacé par les mots : « nom de famille » ;
2° Au premier alinéa, après le mot : « résidence », sont insérés les mots : « ou de leur domiciliation bancaire » ;
3° Au second alinéa, après le mot : « résidence », sont insérés les mots : « ou de la domiciliation bancaire ».
II (nouveau). – À l’article L. 131-1 du code général de la fonction publique, le mot : « patronyme » est remplacé par les mots : « nom de famille ».
III (nouveau). – La loi n° 2008-496 du 27 mai 2008 portant diverses dispositions d’adaptation au droit communautaire dans le domaine de la lutte contre les discriminations est ainsi modifiée :
1° Au premier alinéa de l’article 1er, le mot : « patronyme » est remplacé par les mots : « nom de famille » ;
2° Au septième alinéa de l’article 2, le mot : « patronyme » est remplacé par les mots : « nom de famille ».

M. le président : L’amendement n° 12, présenté par M. Benarroche, Mme M. Vogel, MM. G. Blanc et Dantec, Mme de Marco, MM. Dossus, Fernique et Gontard, Mme Guhl, MM. Jadot et Mellouli, Mmes Ollivier et Poncet Monge, M. Salmon et Mmes Senée et Souyris, est ainsi libellé :
Après l’alinéa 4
Insérer un paragraphe ainsi rédigé :
…. – L’article 225-2 du code pénal est complété par un alinéa ainsi rédigé :
« L’emploi d’un traitement algorithmique dont le fonctionnement a des effets discriminatoires au sens des articles 225-1 à 225-1-2 est puni de trois ans d’emprisonnement et de 45 000 euros d’amende dès lors que ces effets discriminatoires ont été révélés par un test de discrimination rendu public. »
La parole est à M. Guy Benarroche.

M. Guy Benarroche : Nous devons sanctionner toutes les discriminations de la même manière, peu importe le mécanisme qui les sous-tend.
Il en est de même pour les algorithmes – j’y reviens. De nombreuses études ont démontré que les algorithmes, par exemple ceux qui sont utilisés pour la reconnaissance faciale, reproduisent les discriminations issues des biais de leurs programmeurs.
Ces discriminations émanent par exemple du fait que les visages entraînés pour utiliser ces algorithmes ne sont pas très divers. Un algorithme qui n’a pas été entraîné à reconnaître une personne avec une poussette, des hommes aux cheveux roux ou une femme racisée vêtue d’un manteau, ne reconnaît tout simplement pas ces personnes, ou commet des erreurs.
En pratique, les systèmes de reconnaissance faciale ne reconnaissent que très peu les femmes racisées, ainsi que l’Agence des droits fondamentaux de l’Union européenne l’a fait remarquer.
Ces discriminations ont des conséquences d’autant plus graves que les traitements algorithmiques sont de plus en plus fréquents. Par exemple, la ville de Nice expérimente la reconnaissance automatique pour l’identification des personnes responsables de dépôts sauvages. En outre, les réseaux sociaux emploient une multitude d’algorithmes potentiellement discriminatoires.
Parfois, il est vrai que les développeurs ne se rendent pas compte des biais de leurs algorithmes. Mais cela ne change rien aux résultats, et nous ne pouvons pas aborder cette question aujourd’hui.
Lorsqu’un test statistique public révèle le caractère discriminatoire d’un traitement algorithmique, nous devons éviter que ce dernier soit utilisé dans un autre contexte. Un tel emploi serait inacceptable aux yeux de tous, car il reviendrait alors, pour une entreprise ou un développeur, à accepter volontairement la discrimination.
Pour mettre un terme à ces pratiques, nous demandons de réprimer le recours à un algorithme dont le fonctionnement discriminatoire a été révélé par un test, dans le prolongement des infractions déjà prévues par le code pénal.

M. le président : Quel est l’avis de la commission ?

Mme Catherine Di Folco : Monsieur Benarroche, vous proposez de sanctionner pénalement l’emploi d’un traitement algorithmique ayant des effets discriminatoires dès lors que ces effets sont rendus publics.
Je comprends votre intention, mais le dispositif ne me semble pas applicable en l’état. En effet, pourquoi lier la sanction à la publication des résultats d’un test de discrimination ? Dans certains cas, l’employeur pourrait avoir pris connaissance des biais de l’algorithme sans qu’un test de discrimination ait été réalisé, et continuer néanmoins à utiliser cet algorithme. Cela ne serait pourtant pas sanctionné par le dispositif prévu par cet amendement.
Nous pourrions explorer la voie de la création d’une nouvelle circonstance aggravante à l’infraction de discrimination, mais à ce stade le dispositif proposé n’est pas mûr. La commission émet donc un avis défavorable sur cet amendement.

M. le président : Quel est l’avis du Gouvernement ?

Mme Sarah El Haïry (Union pour un mouvement populaire, Mouvement démocrate) : Dans le même sens que ce que j’indiquais précédemment au sujet de l’intelligence artificielle, tout ce qui va dans le sens de la lutte contre les discriminations est bienvenu. Le Gouvernement émet donc un avis favorable sur cet amendement.

M. le président : Je mets aux voix l’amendement n° 12.
(L’amendement n’est pas adopté.)

M. le président : Je mets aux voix l’article 3 bis.
(L’article 3 bis est adopté.)