Protection des données personnelles : Après l’article 2
debate, 06/02/2018, fr — source : Assemblée nationale, compte rendu intégral
Mme la présidente : Je suis saisie d’un amendement, bkno ek54, portant article additionnel après l’article 2.
La parole est à M. Loïc Prud’homme, pour le soutenir.
M. Loïc Prud’homme : Les données classifiées comme sensibles ou personnelles le sont pour des raisons de confidentialité d’une part, et de lutte contre les discriminations d’autre part, les deux impératifs ne s’excluant pas l’un l’autre.
Or de nombreuses données sensibles sont ainsi classifiées car elles sont habitées de significations sociales particulières et qu’elles peuvent entraîner un traitement différencié défavorable. En cela, le monde numérique est un miroir, un prolongement de notre réalité physique. Les recherches récentes montrent que les algorithmes peuvent produire ou reproduire certaines associations discriminantes.
Cet amendement vise à faire de la CNIL une force d’impulsion dans l’information et la formation, afin de lutter contre ce phénomène pouvant avoir des conséquences graves pour les individus dans leurs recherches d’emploi ou d’appartement, ou encore leur demande de crédit, alors même que les informations sont erronées. Cela vient, dans de nombreux cas, renforcer les difficultés pour des personnes se trouvant déjà, de manière structurelle, dans une situation de vulnérabilité sociale.
Parce que la France insoumise est convaincue que l’internet doit être un espace de liberté pour tous et toutes, et non d’oppression pour certains ou certaines, elle souhaite par cet amendement renforcer et encourager l’information et le conseil dans ce domaine.
Mme la présidente : Quel est l’avis de la commission ?
Mme Paula Forteza : Avis défavorable. Je partage votre préoccupation, monsieur Prud’homme, s’agissant des possibles biais discriminatoires des algorithmes, un sujet que j’étudie car il m’intéresse beaucoup.
Cependant, la CNIL fait déjà beaucoup d’efforts dans ce sens : elle travaille sur le sujet et rédige des rapports. Le contrôle social sur les algorithmes devra être assuré par plusieurs acteurs, non seulement la CNIL, mais aussi le Conservatoire numérique des arts et métiers – CNUM –, l’Institut national de recherche en informatique et en automatique – INRIA –, diverses associations et les citoyens eux-mêmes. La transparence des algorithmes est un moyen d’assurer ce contrôle, afin que chacun puisse en contrôler les modalités d’application et les effets.
Nous proposerons des amendements dans ce sens. La loi pour une République numérique, dont les décrets doivent être publiés dans les prochains mois, avait déjà introduit de nombreuses avancées.
Mme la présidente : Quel est l’avis du Gouvernement ?
Mme Nicole Belloubet : Avis défavorable. Cet amendement paraît satisfait par le droit en vigueur. Comme en témoigne son rapport Comment permettre à l’Homme de garder la main ?, paru en décembre 2017, la CNIL a d’ores et déjà engagé sa mission de réflexion éthique, qui comporte un volet d’information, mis en place par la loi pour une République numérique.
Ce rapport, qui porte sur les enjeux éthiques des algorithmes et sur l’intelligence artificielle, comporte des développements sur la question des biais discriminatoires et les bonnes pratiques pour les éviter. Il me semble donc, monsieur Prud’homme, que les dispositions législatives existantes répondent déjà à vos interrogations.
Mme la présidente : La parole est à M. Ugo Bernalicis.
M. Ugo Bernalicis : Dans la même veine que la discussion que nous venons d’avoir, nous avions déposé un amendement à un article du projet de loi d’adaptation au droit de l’Union européenne dans le domaine de la sécurité, visant à instaurer des primes pour ceux qui découvrent des failles dans un logiciel, les fameux bugs bountys. Un dispositif similaire aurait pu être imaginé ici pour faire tester les algorithmes par les citoyens.
Hélas, la majorité a déjà rejeté l’amendement en question. Il est dommage que, lorsque nous faisons des propositions intéressantes, nos amendements ne tombent jamais au bon moment. On nous oppose toujours un rapport sur le même sujet.
Il est regrettable que l’on ne puisse pas inscrire certaines dispositions dans la loi. Cela nous permettrait d’être au clair, ensemble. Je tenais à protester contre ces positions à géométrie variable.