Impacts économique, social et politique de l’intelligence artificielle générative
debate, 12/04/2023, fr — source : Sénat, compte rendu intégral
M. le président : L’ordre du jour appelle le débat d’actualité sur le thème : « Impacts économique, social et politique de l’intelligence artificielle générative ».
Je vous rappelle que, dans ce débat, le Gouvernement aura la faculté, s’il le juge nécessaire, de prendre la parole immédiatement après chaque orateur pour une durée de deux minutes ; l’orateur disposera alors à son tour du droit de répartie, pour une minute.
Le temps de réponse du Gouvernement à l’issue du débat est limité à cinq minutes.
Monsieur le ministre, vous pourrez donc, si vous le souhaitez, répondre après chaque orateur, une fois que celui-ci aura regagné sa place dans l’hémicycle.
Dans le débat, la parole est à M. André Gattolin.
M. André Gattolin : Monsieur le président, monsieur le ministre, mes chers collègues, je voudrais tout d’abord remercier le groupe Union Centriste, qui a proposé à M. le président du Sénat d’inscrire ce débat à notre ordre du jour.
Il me revient d’ouvrir le bal, si j’ose dire, sans introduction préalable par le Gouvernement ou par un rapporteur, sur un sujet à la fois important et particulièrement complexe : l’intelligence artificielle (IA) générative.
Je voudrais dire en préambule que nous devrions en parler au pluriel, puisqu’il existe plusieurs types d’IA générative. Cette dernière est en fait un sous-ensemble de ce que l’on appelle « l’apprentissage profond », lui-même un sous-ensemble de ce que l’on appelle « l’apprentissage machine ».
L’IA générative est fondée sur des systèmes neuronaux artificiels, un concept qui a été créé au sein d’universités américaines dans les années 1940, mais qui n’a trouvé des applications concrètes et des débouchés que ces dernières années, avec le développement des capacités de calcul et de stockage des données.
C’est un sujet hautement complexe, car expliquer ce qu’est un système neuronal artificiel n’est pas chose aisée. L’idée est de copier le modèle de fonctionnement du cerveau humain. Quand votre œil enregistre une donnée, il la transfère à travers le nerf optique au cerveau, et celui-ci l’analyse.
Je vais prendre un exemple. Nous sommes le matin, vous venez de vous réveiller, vous avez un discours à écrire pour une discussion générale et vous ne voulez qu’une chose : boire un café.
L’image que l’œil va envoyer à votre cerveau est celle de la cuisine et de la porte ouverte du placard. Vous savez que les tasses se situent à tel endroit et que, par chance, vous avez vidé le lave-vaisselle : vous êtes donc à peu près sûr de trouver une tasse pour votre café.
Il existe aussi une mémoire d’alerte qui vous rappelle que, la dernière fois, vous vous êtes pris la porte du placard dans le visage.
Ainsi, le cerveau réalise un traitement complexe de toutes ces informations, et pas seulement de la donnée de base transmise à un moment donné par le nerf optique, en intégrant tout dans un environnement de synapses et de neurones qui vous permettra de vous guider jusqu’à la fameuse tasse. Ce système est donc particulièrement riche et performant.
La particularité des IA génératives est de s’appuyer non pas sur un seul algorithme, mais sur un ensemble complexe d’algorithmes qui échangent – c’est ce que permettent les progrès des dernières années.
Sans entrer dans les détails, certaines IA sont qualifiées d’« adversorielles » – elles mettent en concurrence deux systèmes de réseaux neuronaux qui se transmettent des informations et s’enrichissent l’un l’autre –, d’autres de « probabilistes » – le niveau de détail et d’information est alors plus élevé.
En tout cas, nous vivons aujourd’hui une véritable révolution, qui touche la production de contenus et d’images comme les processus de décision.
Comme je n’étais pas très réveillé ce matin, j’ai demandé à une intelligence artificielle de préparer mon discours sur les impacts économique, social et politique de l’IA générative. Le résultat est sympathique, mais il est extrêmement plat et descriptif. Il ne contient pas d’éléments complètement faux, mais il est incapable d’évaluer véritablement ses impacts. La marge de progression reste donc particulièrement importante.
Pour autant, nous devons nous intéresser aux conséquences du développement des IA. J’ai eu la chance de travailler récemment, avec Catherine Morin-Desailly et Cyril Pellevat, sur le projet de législation européenne destiné à encadrer l’intelligence artificielle. Nous avons retenu deux idées fortes : il faut à la fois préserver les libertés, les responsabilités et l’éthique, dans un cadre européen, et permettre le développement et l’innovation en matière d’IA.
Nous sommes tous affolés aujourd’hui par le succès de ChatGPT : diffusé en novembre dernier, celui-ci a atteint plus de cent millions de téléchargements en seulement deux mois. Le précédent record était détenu par TikTok, qui avait atteint le même nombre de téléchargements en neuf mois.
C’est donc bien un incroyable succès, qui transforme, par exemple dans le secteur de l’éducation, notre manière d’enseigner ou de valider les travaux. Le numérique n’est pas uniquement négatif ; il faut aussi considérer ses aspects positifs. Par exemple, le plagiat dans le monde universitaire a été en grande partie éradiqué par un logiciel ad hoc.
Pour conclure, nous devons prendre en compte les apports, mais aussi les risques et les dangers de l’IA générative – nous ne les mesurons certainement pas tous. Nous devons apprendre à utiliser ce nouvel outil. (Applaudissements sur des travées du groupe UC.)
Mme Catherine Morin-Desailly : Très bien !
M. le président : La parole est à M. le ministre délégué.
M. Jean-Noël Barrot (Mouvement démocrate) : Monsieur le président, mesdames, messieurs les sénateurs, je voudrais simplement, en cet instant, saluer l’initiative prise par le Sénat d’inscrire à son ordre du jour ce débat d’actualité sur l’impact économique, social et politique de l’intelligence artificielle.
Je salue également l’introduction qu’André Gattolin, révélant son expertise sur le sujet, vient de réaliser.
Je salue enfin le rapport d’information publié récemment par la commission des affaires européennes du Sénat sur la proposition de législation européenne relative à l’intelligence artificielle, dont M. Gattolin est l’un des auteurs.
M. le président : La parole est à M. Christian Redon-Sarrazy.
M. Christian Redon-Sarrazy : Monsieur le président, monsieur le ministre, mes chers collègues, « l’intelligence artificielle générative, une technologie capable de créer de nouveaux contenus, écrits ou images, recèle un fort potentiel, et ses impacts sociaux sont multiples.
« Dans le champ économique, l’intelligence artificielle générative, en permettant l’automatisation de certaines tâches répétitives et sans grande valeur ajoutée, accroît l’efficacité du travail et donc sa rentabilité. En créant de nouveaux produits ou services basés sur cette technologie, elle est potentiellement créatrice d’emplois.
« Toutes ces potentialités peuvent néanmoins être disruptives pour notre modèle économique actuel. En générant un risque de destruction d’emplois ou en limitant la nécessité d’acquérir de nouveaux savoirs, l’intelligence artificielle générative obligera plusieurs secteurs industriels à s’adapter pour demeurer compétitifs.
« Les risques politiques et éthiques existent aussi pour nos valeurs démocratiques, notamment par la génération de faux contenus, qu’ils soient écrits, visuels ou sonores, qui viendraient nourrir propagandes diverses et désinformation. Les répercussions sur les processus électoraux sont possibles. À mesure que les intelligences artificielles génératives se perfectionneront, il deviendra de plus en plus difficile de distinguer le vrai du faux. »
Ce que vous venez d’entendre, mes chers collègues, ce n’est pas un discours rédigé exclusivement par mes soins ou par ceux de ma collaboratrice. Ce début d’intervention a été généré à près de 95 % par l’application ChatGPT.
Monsieur le ministre, vous avez qualifié ChatGPT de « perroquet approximatif ». Utilisé dans le contexte précis d’une intervention dans l’hémicycle, le trouvez-vous convaincant ou maintenez-vous votre jugement ?
« Distinguer le vrai du faux », « création d’emplois » et « potentiel disruptif », etc. En une minute, je pense que vous avez pu relever les principaux apports et risques de l’intelligence artificielle générative, limites et promesses dont la machine elle-même semble parfaitement consciente.
Vous constatez également la nécessité qui est la nôtre de les identifier pour combler le vide juridique entourant le développement de cette technologie, dont on ne peut nier le potentiel de fascination et qui évolue à une vitesse sidérante.
Comme toute innovation majeure dans l’histoire de l’humanité, les intelligences artificielles génératives font planer le spectre de destructions d’emplois, d’un remplacement de la force humaine par l’agilité de la machine et d’une forme de simplification de l’organisation du travail par la suppression du facteur humain.
On oublie seulement de dire que les nouvelles technologies, quelles qu’elles soient, créent souvent davantage d’emplois qu’elles n’en détruisent. Par ailleurs, leur développement ne signifie pas systématiquement un abandon des savoir-faire antérieurs. L’intelligence artificielle peut au contraire permettre la création et l’acquisition de nouvelles compétences.
Le secteur qui sera le plus directement affecté par leur développement sera sans surprise celui de l’informatique. Cela induira nécessairement une adaptation et, par là même, une expertise plus poussée de la part des ingénieurs, ainsi que la création de nouveaux métiers attractifs.
L’une des principales craintes généralement partagées face à un tel potentiel est aussi de voir l’humain dépassé par sa créature.
Toutefois, cette source d’intelligence repose encore et toujours sur l’humain, tandis que les intelligences artificielles génératives ne demeurent, en tout cas en 2023, que des fabriques d’illusions. En dépit de leur qualité, le contenu proposé ne se fonde que sur des corrélations statistiques, un volume de données certes exponentiel, mais toujours limité. Sans l’humain, point de machine, pour l’instant !
Ces inventions posent néanmoins de réelles questions éthiques et philosophiques. Comme toutes les technologies qui les ont précédées, par exemple internet, elles sont un pharmakon, à la fois poison et remède selon l’usage que l’on en fait.
Bien sûr, entre de mauvaises mains, ces outils sont dangereux, parce qu’ils sont hautement capables de tromper notre vigilance ou d’être utilisés pour défendre des intérêts particuliers. Mais cette créature-là ne nous échappera que si nous ne nous posons pas les bonnes questions et si nous n’anticipons pas ses effets pervers.
Les mêmes interrogations relatives à la régulation, aux normes et à une éventuelle gouvernance mondiale se posent aujourd’hui pour l’intelligence artificielle, comme elles se posent depuis plus de vingt-cinq ans face à l’essor d’internet. Force est de constater que nous avons appris en marchant. Il pouvait difficilement en être autrement, faute de précédent.
Toutefois, nous disposons aujourd’hui de cette expérience, d’un corpus de réflexions, de normes et d’une jurisprudence – tout cela peut nous guider. Il nous faut nous servir de ce savoir empirique.
Une difficulté demeure cependant : face à une technologie par nature dynamique, qui progresse sans cesse, le risque de caducité rapide des normes définies à un moment précis est réel. Il nous faut donc être plus rapides que la machine. Et c’est là, je pense, que se situe l’aspect le plus positif de cette technologie novatrice : en nous débarrassant du superflu, elle peut aussi nous permettre de nous concentrer sur l’essentiel. En vérité, elle nous lance un défi : elle nous invite à un regain d’intelligence.
Si l’IA générative peut nous affranchir de certaines tâches répétitives, doit-elle fatalement nous rendre intellectuellement paresseux ? C’est à l’humain de montrer qu’aucune machine ne peut surpasser son intelligence, son jugement, son esprit critique et sa remarquable capacité d’adaptation.
« Qu’ils soient positifs ou négatifs, les impacts sociaux et économiques de l’intelligence artificielle générative doivent être évalués. Nous ne pourrons pas faire l’économie d’une réflexion éthique, afin que cette technique puisse être utilisée au bénéfice de l’intérêt général. »
Cette conclusion, mes chers collègues, m’a été proposée par l’application ChatGPT… Je vous laisse apprécier sa pertinence ! (Applaudissements sur les travées du groupe SER. – M. André Gattolin applaudit également.)
M. le président : La parole est à M. Pascal Savoldelli.
M. Pascal Savoldelli : Monsieur le président, monsieur le ministre, mes chers collègues, la révolution numérique a suscité un véritable bouleversement du monde du travail, opérant une transformation en profondeur de notre modèle économique et des métiers qui en constituent l’architecture.
Il est estimé qu’environ la moitié des métiers que les jeunes écoliers d’aujourd’hui exerceront demain n’existent pas encore. Si les potentialités de ce capitalisme numérique sont présentées comme assurément immenses, une telle numérisation du monde, au vu de l’orientation qu’elle a prise, alimente la crainte d’une déshumanisation de la société et d’une robotisation généralisée.
Nous sommes aujourd’hui dans un système où l’utilisateur est poussé par un ensemble de plateformes et de systèmes algorithmiques à générer toujours plus de données, au service finalement d’annonceurs, de publicitaires et de producteurs d’intelligence artificielle. Ces gigantesques masses de données numériques sont valorisées dans ce big data et exploitées au profit des algorithmes d’intelligence artificielle.
Or ce système, mes chers collègues, c’est celui de l’intensification de l’exploitation et de l’aliénation des travailleurs.
J’en veux pour preuve l’enquête du magazine Time, qui a révélé que l’entreprise OpenAI employait des travailleurs kenyans, rémunérés moins de deux dollars de l’heure, pour indexer d’immenses quantités de contenus toxiques circulant sur internet et ainsi nettoyer les données d’entraînement de ChatGPT.
Parce que « mal nommer un objet, c’est ajouter au malheur de ce monde », comme disait Albert Camus, il convient de rappeler que l’intelligence artificielle n’est ni artificielle ni intelligente. Considérer le logiciel ChatGPT comme intelligent, c’est se tromper lourdement sur la nature de notre débat et sur ses enjeux écologiques, politiques et sociaux.
ChatGPT n’est pas simplement un automate computationnel. Il implique l’exploitation des ressources minérales – terres rares – et humaines nécessaires à sa production et à son fonctionnement. Il dépend du travail gratuit des millions d’utilisateurs dont les requêtes améliorent l’algorithme. Par ces « micro-tâches », rémunérées moins de 2 euros de l’heure, on s’affranchit du salariat et on précarise, à l’heure actuelle, des centaines de milliers de personnes à travers le monde, selon les travaux d’Antonio Casilli.
Comme toute révolution technologique, la révolution numérique est au cœur d’un affrontement de classes ; l’industrie du numérique a pour seule obsession de casser le coût du travail, en espérant substituer du capital mort au capital vivant.
Pourtant, cette révolution numérique pourrait créer de nouveaux métiers, augmenter les besoins en formation initiale et professionnelle et offrir la possibilité de réduire le temps de travail pour gagner du temps libre.
Néanmoins, l’orientation choisie par l’industrie du numérique, avec la collaboration aveugle de nos gouvernants, est manifeste : il s’agit d’exercer une pression sur les salaires et sur l’emploi, en captant la valeur, plutôt que d’améliorer l’efficacité sociale du travail. Il s’agit aussi de transformer en plateformes nos services publics et administratifs, créant de facto davantage d’insécurité sociale.
Cette industrie est dominée, à l’exception de la Chine, par une poignée de firmes américaines concentrant des capitalisations boursières démesurées et motivées par une visée politique mondiale, celle d’un capitalisme à son paroxysme, où l’on peut s’arroger certaines prérogatives étatiques en toute impunité.
Face à cela, la France et l’Union européenne ont joué le jeu de la big tech en reléguant le choix de l’outil numérique ou d’un prestataire technique à une logique utilitariste, sans prendre en compte les aspects politiques et stratégiques.
Il est impératif de reprendre la main sur notre destin et de choisir la société dans laquelle nous voulons vivre demain. Nous devons nous réapproprier collectivement nos données sous forme de communs, en exigeant la transparence et la lisibilité des algorithmes participant à l’apprentissage automatique.
Cet espoir de transition numérique, je le place aussi dans notre jeunesse, dans ce nombre considérable de jeunes adultes qui ne supportent plus de faire des « jobs à la con » – entendez par là, mes chers collègues, un travail auquel on ne trouve pas de sens, qui prive d’une réelle protection sociale et dans lequel règne une hiérarchie autre que celle de la compétence.
Parmi ces jeunes, nombreux sont ceux qui veulent créer et entreprendre, mais pas forcément en fondant une start-up pour la revendre au plus offrant et faire fortune. Leur objectif est plutôt d’entretenir et de rendre accessibles, via un réseau numérique, des communs mondiaux d’innovation partagée.
Cette jeunesse pense nouveaux modes de production, coopératives, économie sociale et solidaire, économie circulaire, lutte contre l’obsolescence programmée et mise en commun !
Ces nouveaux terrains de la lutte de classe, où l’on prépare une alternative au monde numérique capitalistique tel qu’il est conçu aujourd’hui, on les retrouve dans les ateliers coopératifs de fabrication et de création numériques, au sein des communautés de développement de logiciels libres, mais aussi dans les plateformes numériques coopératives. Ces tiers lieux préfigurent une possible République des communs.
Oui, mes chers collègues, cette révolution numérique, à l’œuvre depuis des années déjà, nous place au pied du mur du dépassement de la condition salariale. Mais aujourd’hui, nous devons choisir : est-ce pour aller vers une société d’« entrepreneurs de soi-même », sur le modèle des chauffeurs Uber esclaves du diktat du marché, ou est-ce pour construire la société de libres producteurs associés que Marx, d’ailleurs, appelait de ses vœux ?
M. le président : La parole est à Mme Catherine Morin-Desailly.
Mme Catherine Morin-Desailly : Monsieur le président, monsieur le ministre, mes chers collègues, le développement exponentiel de la technologie signifie-t-il la fin programmée de l’humanité, telle que nous la connaissons ?
Sans être aussi pessimiste, on peut être inquiet des menaces que l’intelligence artificielle générative fait peser, avec l’automatisation croissante, sur l’emploi dans tous les secteurs, sur l’éducation et la création, ainsi que sur nos modèles sociaux, politiques et démocratiques, notamment par de possibles abus en matière de désinformation, de manipulation des opinions ou de contrôle des individus.
Si la presse se fait, jour après jour, l’écho des nouvelles prouesses de ChatGPT, des pays comme l’Italie ou le Canada l’ont interdit, tout comme d’autres ont banni TikTok.
Faut-il mettre en pause la recherche sur l’intelligence artificielle, comme l’ont demandé Elon Musk et un millier de scientifiques ? Peut-être, mais ne soyons pas dupes : au-delà des considérations éthiques, il y a là pour le dirigeant de SpaceX et de Twitter une occasion de régler ses comptes avec OpenAI dans la course effrénée à laquelle se livrent les entreprises pour la captation du marché.
Faut-il de la régulation et une intervention des pouvoirs publics pour mieux encadrer ces futures applications ? Assurément. Je le demande depuis dix ans, rapport après rapport, car je mesure la puissance transformatrice des nouvelles technologies, mais aussi leurs effets incertains et potentiellement dangereux sur la mise en réseau du monde.
En matière de régulation, après le règlement général sur la protection des données (RGPD), l’Europe légifère de nouveau, avec le Digital Markets Act (DMA), le Digital Services Act (DSA), puis la proposition de règlement sur l’intelligence artificielle en cours d’examen.
Rapporteure de ce dernier texte pour notre commission des affaires européennes, avec André Gattolin, Cyril Pellevat et Elsa Schalck, et coauteure à ce titre d’une proposition de résolution européenne, je veux en souligner le caractère précurseur, l’Europe étant la première à se doter d’un cadre juridique en la matière.
Cependant, si son approche par le risque est pertinente, cette proposition de règlement ne résout pas, hélas, les questions éthiques que posent les algorithmes gourmands de nos données et les modèles économiques qui les sous-tendent.
Comme je le réclamais pour le DSA, il faut exiger la transparence absolue, des audits indépendants et, tant avant la mise sur le marché d’une application ou d’un logiciel que tout au long de leur cycle de vie, une évaluation des possibles effets dangereux, en somme un safety by design.
Je n’ai pas le temps d’évoquer en détail à cette tribune les mesures que nous avons suggérées pour hisser la proposition de règlement à un haut niveau de protection et pallier certaines lacunes. Nous avons pris en considération, comme l’a rappelé André Gattolin, les risques de l’intelligence artificielle, mais également les progrès fulgurants qu’elle rend possibles. Elle n’est en effet ni positive ni négative : en réalité, sa valeur dépend intrinsèquement de l’usage qui en est fait.
L’intelligence artificielle peut nous aider à résoudre des questions environnementales, de santé, de productivité, toutes questions stratégiques ; d’où la nécessité, pour l’Europe, de soutenir l’innovation !
Or par manque de stratégie industrielle ces dernières années, l’Europe a été largement distancée par les États-Unis et la Chine, car ces États ont massivement investi dans la recherche et le développement de leurs propres entreprises, qui dominent aujourd’hui le monde.
Si l’Europe ne veut pas totalement disparaître de la carte des technologies de demain, monsieur le ministre, elle doit se réveiller et sortir de ces dépendances dangereuses.
Avec l’Inflation Reduction Act, les États-Unis vont investir près de 348 milliards de dollars. On en est loin en Europe ! Il nous faut pourtant un minimum d’investissements dans l’intelligence artificielle, dans le cloud et dans les réseaux, ce qui n’est pas vraiment prévu dans la boussole numérique pour 2030, qui est censée constituer le plan d’action de l’Union en la matière.
Il faut donc une réglementation exigeante, mais aussi une formation et une information de tous, pour ne pas se laisser dominer par une élite technologique seule capable de décider de notre avenir, ainsi qu’un investissement dans la recherche et un soutien assumé à notre écosystème européen, grâce à un Buy European Act : tel est le triptyque pour lequel je ne cesse de plaider.
La maîtrise des technologies les plus avancées est devenue un enjeu géopolitique. Cette approche n’est donc pas du protectionnisme ; c’est la seule manière de promouvoir un monde fondé sur nos valeurs fondamentales, un monde qui n’exprime ni le modèle business above all de la big tech – le profit avant la sécurité – ni le modèle du contrôle social par le parti communiste chinois.
L’Europe doit aussi peser dans les instances mondiales où s’élaborent les protocoles et les standards. Elle doit peser, monsieur le ministre, dans l’élaboration du Pacte numérique mondial proposé par les Nations unies pour 2024.
Ce cadre d’engagement universel, au sujet duquel j’ai défendu, au nom de l’Assemblée parlementaire de la francophonie (APF), un rapport devant l’Organisation internationale de la francophonie (OIF), doit absolument comprendre des mesures claires en faveur d’une intelligence artificielle qui soit au service de l’humain, fiable et éthique. Il y a là un enjeu de civilisation. (Mme Sylvie Robert et M. André Gattolin applaudissent.)
M. le président : La parole est à M. Stéphane Ravier.
M. Stéphane Ravier : L’avenir, la liberté et la souveraineté : voilà, monsieur le président, monsieur le ministre, mes chers collègues, les défis majeurs que suscite l’essor de l’intelligence artificielle générative.
À l’heure où 100 millions de personnes ont les yeux rivés sur leur écran pour admirer les prouesses aussi extraordinaires qu’effrayantes du robot ChatGPT, la société semble programmée pour une forme d’obsolescence de ses modes de production et d’éducation.
Monsieur le ministre, vous avez qualifié l’intelligence artificielle générative, de façon assez légère et péremptoire, de « perroquet approximatif »… Je crois que vous n’avez pas pris la mesure de la révolution en cours.
Les balbutiements de cette technologie – car nous n’en sommes qu’aux balbutiements – dépassent déjà les performances de tous les outils que nous connaissions jusqu’ici. Les équilibres économiques du monde vont être bouleversés, et Google pourrait être remisé au rang de curiosité du passé.
Alors que la parole publique et les fonctions électives sont plus que jamais remises en question dans notre pays, le peuple va chercher les réponses à ses questions auprès d’algorithmes pré-entraînés dont la capacité stupéfiante à singer l’intelligence humaine crée les conditions d’une dystopie nouvelle.
Les craintes que nous éprouvons, mais aussi les chances que nous entrevoyons avec une telle technologie ne font que rappeler l’intrusion du numérique dans nos vies depuis de nombreuses années.
Nous assistons à l’extension de l’ubérisation au domaine de la pensée. Cela pose la question de la liberté et du rapport à la réalité. Créées dans la Silicon Valley, ces technologies diffusent un conformisme idéologique fidèle au progressisme de ses concepteurs et aux références anglo-saxonnes. C’est donc l’esprit critique et notre souveraineté qui sont menacés.
L’intelligence artificielle générative représente aussi une occasion de développer le secteur de la santé et de refondre l’éducation nationale en un système d’instruction tourné vers l’innovation et l’ingénierie. Le monde accélère. Monsieur le ministre, il faudrait vous mettre, ou vous remettre, en marche ! (Sourires.)
Aussi, qu’avez-vous prévu pour promouvoir le développement des entreprises françaises dans ce domaine et réfléchir aux limites éthiques que nous devons mettre en place pour empêcher l’effondrement de notre pays et assurer notre compétitivité ?
M. le président : La parole est à M. Jean-Claude Requier.
M. Jean-Claude Requier : Monsieur le président, monsieur le ministre, mes chers collègues, de ChatGPT à Midjourney en passant par DeepMind, l’intelligence artificielle a franchi des étapes inimaginables il y a encore quelques années, une évolution qui suscite à la fois intérêt et inquiétudes.
Intérêt, car l’intelligence artificielle dite « générative » – celle qui nous intéresse aujourd’hui – est une nouvelle révolution industrielle, porteuse d’innovations à venir tant pour les biens que pour les services.
Inquiétudes, car son mode de fonctionnement est de prendre ses propres décisions indépendamment de l’homme. Dit ainsi, cela peut faire peur. À force de progrès, dans quel univers allons-nous basculer ? Sera-ce celui dépeint par Aldous Huxley dans Le meilleur des mondes, où technologie et humanité se fondent ?
Nous n’en sommes pas là, heureusement, mais n’attendons pas que certains des enjeux de l’intelligence artificielle soient hors de contrôle. Au moment où nous parlons, je ne pense pas que la question soit encore celle de savoir si cette technologie est souhaitable ou non. Elle est déjà à l’œuvre, et les investisseurs s’y engouffrent avec allégresse. Par conséquent, nous en sommes plutôt à savoir comment l’encadrer, afin de ne pas la subir.
L’éthique est un des premiers enjeux de l’intelligence artificielle générative. Par exemple, doit-on permettre ses usages pour des prescriptions médicales, des fonctions d’encadrement du travail, ou encore des programmes de surveillance ? Ce dernier point me conduit à celui de la protection des données personnelles.
Tout d’abord, on doit se réjouir que deux plaintes aient été récemment déposées en France auprès de la Commission nationale de l’informatique et des libertés, la Cnil, par deux spécialistes de la protection des données personnelles.
Ensuite, faisons confiance à l’Union européenne, qui travaille aussi sur ce sujet au travers de l’Artificial Intelligence Act.
Bien entendu, on sait que la mise en place d’un cadre réglementaire va prendre du temps, alors que le caractère exponentiel de cette technologie lui est presque intrinsèque. L’Italie a purement et simplement interdit ChatGPT. Quelle est aujourd’hui votre position, monsieur le ministre, sur le principe d’un moratoire ?
À une autre échelle que celle des pays, on observe également que des institutions se mobilisent. Je pense par exemple à l’interdiction par Sciences Po d’utiliser le robot conversationnel d’OpenAI en dehors d’un encadrement pédagogique.
En effet, l’une des grandes craintes suscitées par cette technologie est l’appauvrissement des cerveaux, dans la mesure où l’intelligence artificielle générative inviterait à la paresse de l’esprit critique et de l’effort de construction intellectuelle. Une vaste réflexion menée au sein de l’éducation nationale pourrait permettre d’en circonscrire l’usage, au moins durant le temps scolaire. Il faut en tout cas rapidement s’intéresser à cet enjeu.
Le RDSE, attaché à l’esprit des Lumières, souhaite que la question des sources soit également bien appréhendée vis-à-vis de cette technologie, qui peut alimenter contre-vérités et mauvaises informations. Dans nos sociétés démocratiques, le rapport à la vérité est essentiel. On le sait, il doit absolument être maîtrisé, ce qui est complexe quand on ne connaît pas le cheminement de l’intelligence artificielle générative dans la confrontation des sources.
Enfin, je n’oublie pas une autre question cruciale : l’intelligence artificielle peut-elle être une réponse à la pénurie de compétences dans certains secteurs, ou est-ce au contraire une terrible promesse de destruction d’emplois ?
Les avis des experts sont partagés. Selon certains, près de 46 % des tâches administratives et 44 % des emplois juridiques seraient susceptibles d’être automatisés. D’autres études affirment que les développements de l’intelligence artificielle créeraient de nouveaux métiers en compensation de ces pertes, ne serait-ce que pour accompagner le développement de cette technologie et ses impacts.
Au fond, la question est celle-ci : comment partager équitablement les gains de productivité ? On se demande aussi ce que cette innovation peut offrir à la société : une nouvelle organisation du travail, par exemple une semaine de quatre jours ? Il faut en tout cas se préparer à une évolution des emplois, le plus important étant d’éviter leur précarisation, cette ubérisation que l’on a pu regretter dans certains secteurs.
Aussi, monsieur le ministre, il revient à la puissance publique de s’engager fermement sur ce chantier, afin de rappeler que tout n’est pas permis à l’intelligence artificielle et que sa vocation devrait être de supprimer des tâches et non des métiers.
En attendant, le groupe RDSE ne souhaite pas verser dans la technophobie, sous réserve que l’humanisme reste la valeur centrale du progrès.
M. le président : La parole est à M. Cyril Pellevat. (Applaudissements sur les travées du groupe Les Républicains. – M. Franck Menonville applaudit également.)
M. Cyril Pellevat : Monsieur le président, monsieur le ministre, mes chers collègues, depuis quelques mois, les intelligences artificielles sont au centre de l’actualité.
Qu’il s’agisse de logiciels conversationnels tels que ChatGPT ou Eliza, de modèles de génération d’images et de vidéos, ou encore d’auto-encodeurs, pas une semaine ne passe sans que l’on mette à la une les prouesses de ces nouvelles technologies pouvant produire des contenus de manière autonome, suscitant tour à tour admiration et inquiétudes.
En réalité, la très probable révolution industrielle que représentent les intelligences artificielles s’est amorcée il y a plusieurs années déjà. Nous en utilisons chaque jour sans le savoir. Au fil des mises à jour et de la collecte toujours plus massive de données, elles ne cessent de se perfectionner.
Si elles partagent des similitudes avec les intelligences artificielles plus traditionnelles, les IA génératives soulèvent des problèmes spécifiques, notamment en matière d’éthique, de désinformation, de protection des données, ou encore de productivité et d’impact sur les emplois.
Bien que des améliorations soient encore nécessaires pour qu’elles soient utilisables à une échelle industrielle, de nombreuses études montrent que leur éventuelle généralisation aura des impacts d’une ampleur inédite depuis l’arrivée de l’ordinateur.
Ainsi, une étude menée par OpenAI, Open Research et l’université de Pennsylvanie avance que 80 % de la main-d’œuvre américaine pourraient voir au moins 10 % de leurs tâches réalisées par une intelligence artificielle générative. Pour 19 % des travailleurs, 50 % de leurs tâches pourraient être prises en charge par ces nouvelles technologies, en particulier dans les domaines des services administratifs et juridiques, du management, des services financiers, du marketing, de la communication, ou encore du graphisme et de la conception.
D’après une autre étude de la banque Goldman Sachs, 300 millions d’emplois pourraient à terme être menacés, mais la productivité au travail pourrait progresser de 1,5 point chaque année pendant dix ans, tandis que la hausse annuelle du PIB mondial pourrait atteindre 7 %, contre 2,9 % prévus pour 2023 par le FMI.
Sans qu’il puisse être affirmé que certains métiers disparaîtront inévitablement, puisqu’un gain de productivité n’entraîne pas nécessairement la disparition d’un emploi, il est certain que le marché du travail sera bouleversé.
De même, de nouveaux métiers apparaîtront et compenseront probablement le nombre de postes supprimés. Si une étude du Forum économique mondial estime que 87 millions d’emplois seront remplacés par des intelligences artificielles, elle met en exergue que celles-ci permettront la création de 95 millions d’emplois.
Bien sûr, il ne s’agit à ce stade que de prévisions ; les effets de ces technologies sur le marché du travail devront de toute évidence être suivis de près, afin que nous puissions nous adapter à des conséquences imprévues de leur usage.
En outre, si la France veut profiter pleinement des externalités positives de l’intelligence artificielle générative, il ne faut pas qu’elle loupe le coche en matière d’innovation comme de formation à ces nouveaux métiers.
Les géants de la tech sont déjà dans les starting-blocks et, malgré l’existence de certaines start-up françaises prometteuses, notre pays et, plus largement, l’Europe font bien pâle figure face aux compagnies américaines et chinoises, qui investissent des milliards de dollars dans ces technologies.
Ma première question, monsieur le ministre, porte donc sur les moyens que le Gouvernement compte mettre en œuvre, pour, d’une part, soutenir l’innovation des entreprises françaises dans le domaine de l’intelligence artificielle, et, d’autre part, favoriser la formation à ces métiers d’avenir, ainsi que la reconversion pour les travailleurs dont l’emploi deviendrait obsolète.
Abordons désormais certains aspects de l’intelligence artificielle générative qui sont autrement moins réjouissants que la hausse de la productivité et que la création de nouveaux emplois.
Il apparaît en effet que des usages malveillants de ce type d’IA, ainsi que des erreurs du programme lui-même, peuvent avoir des conséquences dramatiques pour les libertés fondamentales, notamment le droit à la protection des données personnelles.
Les expériences de ces dernières semaines, voire de ces dernières années, nous prouvent que ces dangers sont réels : qu’il s’agisse du non-respect du RGPD par ChatGPT, du jeune homme poussé au suicide par le chatbot Eliza en Belgique, des images devenues virales du Président de la République et du pape, créées par intelligence artificielle, des deep fakes de personnalités publiques, du logiciel de recrutement d’Amazon qui s’est révélé discriminatoire envers les femmes, ou encore du scandale des allocations familiales aux Pays-Bas, où un algorithme d’auto-apprentissage ciblait les minorités et les accusait à tort de fraude, les exemples sont nombreux et se multiplient.
Que ces problèmes découlent d’une non-conformité du logiciel avec la réglementation, d’erreurs faites par l’intelligence artificielle ou d’usages sciemment malveillants qu’en font ses utilisateurs, il est nécessaire de trouver des solutions et de légiférer pour éviter ces effets de bord, sans pour autant interdire les intelligences artificielles génératives.
Il s’agirait en effet d’une grave erreur d’un point de vue économique, qui ferait une nouvelle fois perdre à la France du temps dans la course effrénée à l’innovation. Les entreprises développant des intelligences artificielles sont elles-mêmes en faveur de l’élaboration d’une réglementation, comme l’a récemment fait savoir OpenAI, car ce n’est qu’avec un cadre clair, assurant une sécurité juridique, que les potentialités économiques et sociétales de l’intelligence artificielle pourront pleinement se réaliser.
Le RGPD apporte un premier échelon de réponse en matière de protection des données utilisées par les intelligences artificielles, mais il n’est pas suffisant pour éviter l’ensemble des potentielles externalités négatives et peut, parfois, se révéler contre-productif en matière d’innovation, notamment parce que ce n’est qu’en traitant certaines données personnelles que les entreprises pourront lutter contre les biais de certains systèmes d’intelligence artificielle.
Des dérogations au RGPD devront donc être prévues, mais il faut qu’elles soient encadrées strictement pour nous prémunir de toute utilisation détournée de ces données sensibles, notamment à des fins commerciales.
Ces dangers réels ou prévisibles des IA et cette inadaptation du RGPD ont conduit l’Union européenne à se saisir de la question des intelligences artificielles au sens large, par le biais d’une proposition de règlement.
Avec mes collègues André Gattolin, Catherine Morin-Desailly et Elsa Schalck, dans le cadre des travaux de la commission des affaires européennes, j’ai été chargé d’élaborer une proposition de résolution européenne et un rapport relatif à ce règlement. Ce dernier est assurément un pas dans la bonne direction pour sécuriser les intelligences artificielles, mais mes corapporteurs et moi avons relevé certaines lacunes.
Faute de temps, je ne m’arrêterai pas sur chacune d’entre elles, mais je souhaiterais, monsieur le ministre, connaître la position du Gouvernement sur nos propositions, ainsi que les points principaux que vous souhaitez soutenir au Conseil au sein de ce règlement.
En outre, j’insiste sur l’absolue nécessité pour la France comme pour l’UE d’engager des discussions avec les pays tiers au sein des instances internationales de normalisation, pour les inviter à adopter des réglementations similaires. En effet, si nous sommes les seuls États à imposer des normes aussi ambitieuses, cela protégera certes les citoyens européens, mais cela pourrait nous désavantager d’un point de vue concurrentiel.
Aussi, monsieur le ministre, pourriez-vous m’indiquer si des échanges ont déjà été entamés avec d’autres pays, notamment les États-Unis et la Chine, afin de promouvoir l’élaboration de législations similaires dans ces États ? (Applaudissements sur les travées du groupe Les Républicains. – M. Franck Menonville applaudit également.)
M. le président : La parole est à Mme Vanina Paoli-Gagin.
Mme Vanina Paoli-Gagin : Monsieur le président, monsieur le ministre, mes chers collègues, en 2017, le groupe Les Indépendants – République et Territoires avait organisé en ces murs un débat sur le thème : « Intelligence artificielle, enjeux économiques et cadres légaux ».
Au vu de l’accélération de ces technologies et des enjeux y afférents, nous avons jugé opportun de proposer de nouveau un débat sur ce thème. Je salue donc le choix collectif d’évoquer, ensemble, les défis de l’intelligence artificielle générative.
J’ai eu personnellement la chance d’assister, dans ma pratique professionnelle, au forum mondial sur l’intelligence artificielle qui s’est tenu en Chine, à Wuzhen, en 2017, avec d’éminents chercheurs du monde entier, dont Yuval Noah Harari, que vous connaissez tous, mes chers collègues. J’ai cru y comprendre que la différence majeure entre l’intelligence artificielle et le cerveau humain était l’intention, apanage de ce dernier. C’est sur cet élément, me semble-t-il, que nous devons nous concentrer d’un point de vue éthique, monsieur le ministre.
Dès 2016, l’OCDE, l’Organisation de coopération et de développement économiques, prévenait que 9 % des emplois en France présentaient un « risque élevé de substitution » par des robots. Avec l’amélioration permanente de l’intelligence artificielle, cette proportion augmentera.
Cette vérité est à nuancer, car ces prévisions pessimistes n’évoquent que les destructions et non les nouvelles créations d’emplois. J’ai un exemple frappant de cette dynamique positive dans mon département de l’Aube, où l’entreprise familiale Gamba et Rota a investi 10 millions d’euros pour robotiser son outil logistique via l’IA, ce qui permettra d’envisager la création d’une centaine d’emplois.
Nous sommes à l’aube d’une vaste révolution de l’emploi et du rapport au travail. Cela vaut particulièrement pour les jeunes, qui sont plus que jamais en quête de sens dans leur vie professionnelle.
La dichotomie entre technophiles béats et détracteurs outranciers est bien évidemment dépassée. L’immense défi de l’intelligence artificielle nous invite, au contraire, à la nuance et à la précision, dans un univers en perpétuelle mutation.
Il s’agit d’anticiper les grandes évolutions sociétales, économiques et politiques qui en découleront. L’importance des progrès permanents entraînés par l’intelligence artificielle fait écho à l’ampleur des craintes qu’elle nous inspire.
À ces inquiétudes, il nous faut répondre avec pédagogie, pour tirer profit des perspectives positives ouvertes par cette technologie. Il nous faut aussi répondre avec lucidité, pour anticiper les changements d’ampleur qui surviendront, notamment sur le marché du travail. Il nous faut enfin répondre avec fermeté, par un cadre réglementaire solide, pour garantir à nos concitoyens une intelligence artificielle fiable et sûre.
L’Europe doit développer une approche éthique des données, avec une méthode et un cadre réglementaire propres. Cela implique de s’affranchir de la Chine et des États-Unis, qui nous imposent, depuis un certain temps, leur calendrier et leurs objectifs.
Les Gafam – Google, Apple, Facebook, Amazon et Microsoft – conservent leur puissance par les supports qu’ils fournissent au monde depuis tant d’années. ChatGPT est d’ailleurs financé par Microsoft. L’Europe a perdu la bataille des données personnelles ; celle des données professionnelles est en cours. Les géants y abusent de leur position dominante.
Nous devons aborder avec une grande vigilance le recours à l’intelligence artificielle, via des outils tels que ChatGPT, dans nos entreprises. Les gains de productivité espérés ne doivent pas masquer l’aspirateur à données qu’est cet outil.
La France est également pénalisée par la fuite de certains de ses cerveaux, alors même que leur formation a été assurée sur les deniers publics. Nous finançons, en partie, notre propre dépendance.
Notre pays dispose pourtant d’atouts essentiels et d’un vivier d’acteurs spécialisés. Selon l’association France Digitale, l’écosystème français rassemble 590 start-up et plus de 80 laboratoires de recherche en intelligence artificielle, ce qui nous place en pole position à l’échelle européenne.
Nous avons des compétences réelles et pointues dans certaines niches. Cela fait notre force. Nous pouvons également dynamiser ces forces grâce au droit. Nous attendons ainsi beaucoup de l’Artificial Intelligence Act. Ce cadre nouveau doit nous redonner une longueur d’avance.
Je profite de cette occasion pour saluer la mobilisation de Thierry Breton, commissaire européen au marché intérieur, sous l’impulsion duquel nous avons, en deux ans – un temps record ! – bâti une réglementation de l’intelligence artificielle dont la précision et la complétude sont inégalées.
Les prochaines années s’annoncent décisives. Il n’est pas question de se laisser distancer davantage, sous peine de rater définitivement l’occasion de rester dans la course.
Dès lors, monsieur le ministre, comment la France s’engage-t-elle pour ériger l’Europe en chef de file, tout en garantissant la sécurité et les droits des utilisateurs ? Que pensez-vous à cet égard des récentes positions de l’Italie ? Et pouvez-vous nous indiquer précisément notre feuille de route sur ce sujet, à l’échelle tant nationale qu’européenne ? (Applaudissements sur les travées du groupe INDEP.)
M. le président : La parole est à Mme Monique de Marco.
Mme Monique de Marco : Monsieur le président, monsieur le ministre, mes chers collègues, vous connaissez mon appétence pour l’intelligence artificielle. J’ai d’ailleurs moi aussi tenté de rédiger mon intervention avec ChatGPT, mais j’ai trouvé le résultat décevant. (Sourires.)
En revanche, je l’avais fait il y a quelques mois pour rédiger la question d’actualité que j’avais posée au ministre de l’éducation nationale et de la jeunesse afin de l’alerter sur la suppression de la technologie en classe de sixième, alors même que cette matière est directement liée aux enjeux du numérique. En effet, la France a plus que jamais besoin d’une jeunesse ouverte aux sciences et aux technologies.
En tant qu’enseignante, je suis impressionnée par les résultats obtenus par le recours à l’intelligence artificielle. Les perspectives semblent sans limites, dans des domaines aussi variés que l’agriculture, la logistique ou la santé.
À l’inverse, en tant que citoyenne, l’essor fulgurant de ces nouvelles technologies m’interroge : dans quel cadre les circonscrire, par quelle réglementation, pour quels objectifs et avec quelles conséquences pour notre société ?
Aussi, en tant que parlementaires, devons-nous mener un travail colossal sur ce sujet.
À cet égard, je salue les parlementaires européens, qui examinent en ce moment même l’Artificial Intelligence Act (AI Act), une proposition de règlement pour encadrer l’usage et la commercialisation des intelligences artificielles.
De même, je regarde avec intérêt la décision de l’Italie, qui vient de bloquer ChatGPT pour respecter la législation sur les données personnelles. L’interdiction n’est probablement pas la bonne solution, mais elle doit nous interroger sur les limites de cet outil.
Malgré la fascination que suscitent de telles innovations technologiques, nous devons garder les pieds sur terre et légiférer dans l’intérêt général.
Il y a dix ans, nous nourrissions de grands espoirs vis-à-vis des assistants numériques comme Siri ou Alexa ; il y a encore quelques mois, nous parlions des cryptomonnaies avec des étoiles dans les yeux. Pourtant, ces innovations n’ont fait que créer de nouveaux besoins, sans apporter de solutions concrètes.
Malgré la révolution informatique et la généralisation d’internet, la croissance de la productivité ralentit depuis trente ans. Si certains prophétisent de formidables gains de productivité et voient l’intelligence artificielle comme une poule aux œufs d’or, la réalité sera certainement tout autre.
Par ailleurs, nous devons nous interroger sur les conséquences sociales d’un développement massif de l’intelligence artificielle. Dans une récente étude, Goldman Sachs estimait que 300 millions d’emplois seraient menacés par l’essor de l’intelligence artificielle.
S’il ne sert à rien de crier au loup, nous ne pouvons ignorer cette alerte, d’autant qu’une partie des emplois qui sont créés par ces nouvelles technologies sont ingrats et mal payés. Derrière les ingénieurs, les petites mains de l’intelligence artificielle sont à l’ouvrage.
Des Kenyans employés par OpenAI sont ainsi payés entre 1 et 2 dollars par jour pour repérer les contenus toxiques, à un rythme soutenu et dans des conditions de travail déplorables. Si l’intelligence artificielle ne remplace pas nos emplois, elle pourrait être à l’origine d’une nouvelle dégradation du travail.
Enfin, l’intitulé de notre débat oublie un aspect fondamental, qu’il n’est plus acceptable d’ignorer au XXe siècle : je parle bien sûr de l’impact environnemental et climatique de l’intelligence artificielle.
En effet, le numérique représente d’ores et déjà 4 % des émissions de gaz à effet de serre dans le monde, dont une partie est imputable à l’intelligence artificielle. Entraîner un modèle tel que celui de ChatGPT pendant quatre à sept jours émettrait autant de gaz à effet de serre qu’un être humain en produit en 57 ans, et cette estimation progresse à mesure que les modèles d’intelligence artificielle se perfectionnent et accumulent des connaissances.
Derrière la chimère d’un numérique durable, dont les applications feraient disparaître par magie les risques environnementaux, il y a la réalité des chiffres. Ainsi, si les possibilités permises par l’intelligence artificielle nous font rêver, nous devons être pleinement conscients des impacts économiques, sociaux et environnementaux de cette technologie.
L’intelligence artificielle est là, elle fait déjà partie de nos vies. Il n’est donc pas question de l’interdire ou de la réserver à une élite. Toutefois, nous devons la réguler et la conditionner à sa plus-value sociale et environnementale. La technique n’est pas neutre, mais elle n’est ni bonne ni mauvaise en soi non plus. Elle est, comme l’a souligné le penseur Jacques Ellul, « ambivalente ». (Applaudissements sur les travées des groupes GEST et SER. – Mme Catherine Morin-Desailly applaudit également.)
M. le président : La parole est à Mme Sylvie Robert. (Applaudissements sur les travées du groupe SER.)
Mme Sylvie Robert : Monsieur le président, monsieur le ministre, mes chers collègues, en 2018, le Grand Palais organisait une exposition intitulée « Artistes & Robots ». En 2019, c’était au tour du Barbican Centre, à Londres, de présenter au public une exposition interactive intitulée « AI : More than Human ».
À la curiosité et à l’enthousiasme suscités par l’émergence de ces nouvelles technologies, d’abord perçues comme récréatives et utiles en matière de productivité, ont succédé l’inquiétude, la méfiance et, surtout, les questionnements.
Ne soyons pas dupes des intentions cachées de l’entrepreneur qui a orchestré la tribune tonitruante cosignée par plus de 1 000 experts du secteur de l’IA, même si elle a eu une vertu, celle de frapper les esprits en évoquant un moratoire. Il nous faut vraiment prendre du recul sur l’IA générative afin d’en mesurer les conséquences et de la réguler en mettant en place des garde-fous.
C’est d’ailleurs le sens de la décision de l’équivalent italien de la Cnil, qui a temporairement bloqué ChatGPT, pour deux motifs principaux. D’une part, aucun mécanisme de vérification de l’âge des mineurs n’est prévu, alors que le droit et la protection des mineurs en ligne sont un sujet politique majeur. D’autre part, ChatGPT a récolté indûment les données personnelles des utilisateurs italiens.
La protection des données personnelles et le respect de la vie privée des utilisateurs d’IA génératives sont des enjeux fondamentaux, au cœur de la régulation et du contrôle de ces dernières par les autorités de protection des données personnelles des différents États.
La difficulté de réguler l’IA – et les outils numériques dans leur ensemble – procède du fait que les usages se développent bien plus vite que la réglementation. Ainsi, ChatGPT est apparu dans le débat public après avoir été utilisé par les étudiants pour rédiger divers devoirs.
À cet égard, en matière éducative, l’IA générative pose plusieurs questions sérieuses.
Tout d’abord, elle est très souvent configurée pour fonctionner selon la technique du machine learning. En d’autres termes, elle est nourrie de contenus dont la fiabilité et la véracité peuvent être sujettes à caution, voire complètement fantaisistes.
Ensuite, ces contenus pouvant être orientés, l’IA peut apporter des réponses comportant des biais importants, notamment sociaux, raciaux et de genre, ce qui peut avoir des conséquences dramatiques dans la formation des élèves et dans leurs représentations.
Enfin, en l’état, l’usage d’IA génératives est contradictoire avec deux fondements essentiels de l’instruction, qui doit reposer sur des faits – et non de fausses informations – et favoriser l’acquisition d’aptitudes et de compétences par l’expérience. Dans le domaine de l’éducation, l’encadrement du recours aux IA se révèle donc primordial ; le fait de recourir à la médiation constitue un préalable minimal.
Par ailleurs, l’une des incidences les plus visibles de l’IA générative a trait au secteur culturel, singulièrement à la définition de l’acte de création et à la protection du droit d’auteur.
Sur ce point, je tiens à affirmer une position claire et sans ambiguïté : le cadre juridique, notamment européen, n’est ni adapté ni suffisant. Il est indispensable que l’Artificial Intelligence Act, en cours de discussion au Parlement européen et percuté de plein fouet par l’émergence des IA génératives, comporte des dispositions qui protègent les artistes-auteurs.
Au regard de la révolution que constituent ces IA, il n’est pas possible d’en rester à une simple possibilité d’opt-out pour les titulaires de droits qui ne souhaitent pas que leurs œuvres alimentent ces machines. Le statu quo serait synonyme de déséquilibre et de renoncement à l’effectivité du droit d’auteur.
Néanmoins, cet impératif de protection renforcée des créateurs, qui concerne l’ensemble des champs culturels, n’épuise aucunement la réflexion sur l’impact culturel de l’IA générative. À ce titre, le Conseil supérieur de la propriété littéraire et artistique a produit en 2020 un rapport sur l’intelligence artificielle et la culture, dans lequel il soulevait deux questions majeures, qui devront être traitées : quel statut accorder aux créations réalisées à partir d’une IA et aux personnes qui en sont à l’origine ? Surtout, un processus créatif est-il réellement à l’œuvre lorsque l’IA est utilisée ?
Ainsi, l’IA générative bouscule et interroge jusqu’à notre conception même de l’acte de création. Bien qu’elle en soit encore à ses prémices, il me semble que nous partageons l’intuition et la conviction qu’il nous faut impérativement l’encadrer, de sorte qu’elle soit porteuse du meilleur et non du pire. À nous de lui donner du sens ! (Applaudissements sur les travées des groupes SER, CRCE et GEST. – Mme Catherine Morin-Desailly applaudit également.)
M. le président : La parole est à M. Pierre-Antoine Levi. (Applaudissements sur les travées du groupe UC, ainsi que sur des travées du groupe Les Républicains.)
M. Pierre-Antoine Levi : Monsieur le président, monsieur le ministre, mes chers collègues, avec l’émergence de l’intelligence artificielle dans nos vies, le monde va vivre une quatrième révolution industrielle. Il la vit d’ailleurs déjà, des outils conversationnels ou de génération d’images particulièrement innovants et bluffants d’efficacité ayant vu le jour ces dernières semaines.
Nous aurions d’ailleurs tous pu demander à ChatGPT-4 de préparer ce discours – cela nous aurait fait gagner du temps. (Sourires.) Au-delà du temps gagné, je pense que nous nous serions tous – ou presque – retrouvés avec le même discours, ce qui aurait rendu ce débat d’actualité fort ennuyeux.
Face aux capacités extrêmement impressionnantes de l’intelligence artificielle, nous voyons naître de nombreuses inquiétudes – et cela est légitime. L’humain sera-t-il dépossédé de son travail au fur et à mesure du développement de l’IA ? Penserons-nous de moins en moins ? Allons-nous vers un monde où nous ne serons plus maîtres de nos avis et de nos destins ?
Monsieur le ministre, il y a quelques semaines, vous avez qualifié ChatGPT de « perroquet approximatif ». Peut-être aviez-vous testé la version 3, car je peux vous assurer que de nombreuses réponses, dans la version 4, sont teintées de bon sens, de réflexion et de précision.
Aussi, je n’ose pas imaginer ce que donnera la version 5 de ChatGPT, dont la mise en ligne est annoncée pour le mois de décembre prochain et qui, d’après OpenAI, son développeur, serait d’un niveau équivalant l’intelligence humaine.
Il y a donc de quoi avoir peur : que vont devenir les secteurs dont des milliers d’emplois pourront être remplacés efficacement par les intelligences artificielles ? Comment allons-nous apprendre, maintenant que l’intelligence artificielle est censée savoir faire à peu près tout ce qui demande de la réflexion ?
Si elles sont réelles, ces craintes doivent être nuancées, car notre perception de l’intelligence artificielle varie selon les pays. Les chiffres suivants proviennent d’un sondage international réalisé par Ipsos en 2022 : en Chine, 79 % des personnes sondées considèrent que l’intelligence artificielle est plus bénéfique que nocive ; elles sont 71 % en Inde, 65 % en Malaisie, seulement 31 % en France, et c’est à peine mieux chez nos voisins européens…
Ce chiffre, symptomatique de notre rapport à l’innovation et aux nouvelles technologies, me fait penser à la phrase de la dirigeante de la Confindustria – le patronat italien – Emma Marcegaglia : « Lorsqu’il y a une innovation, les Américains en font commerce, les Chinois la copient, et nous, Européens, nous en faisons un règlement. »
En effet, le commissaire européen Thierry Breton a annoncé, avec une grande fierté, que, en moins de deux ans, l’Union européenne aura créé une réglementation pour encadrer les intelligences artificielles. Je vous avoue que j’aurais tout de même préféré qu’il annonce le lancement d’un grand projet de création d’un champion européen de l’intelligence artificielle.
Nous pouvons faire tous les règlements, toutes les lois, cette nouvelle révolution industrielle est lancée et elle ne pourra pas être arrêtée. Nous avons le choix de l’utiliser comme un merveilleux outil, notamment au service de la médecine et de l’éducation. Dans le monde du travail, les gains de productivité seront énormes.
Ne soyons pas à la traîne, accompagnons le mouvement. Apprenons à nos jeunes à se servir de cet outil de façon intelligente, comme un assistant d’éducation, un instrument au service du savoir et non un producteur de plagiats.
Monsieur le ministre, je salue vos propos refusant d’interdire a priori, comme l’ont fait temporairement nos voisins italiens, l’utilisation de ChatGPT, interdiction qui, du reste, est contournée par l’utilisation de VPN (Virtual Private Network).
Je salue également les travaux colossaux réalisés par nos chercheurs à Paris-Saclay sur Bloom, l’outil français d’intelligence artificielle. Google, qui a lancé sa propre intelligence artificielle pour concurrencer OpenAI a reconnu que ChatGPT était une Ferrari, alors que la sienne était, au mieux, « une Honda Civic améliorée ». (Sourires.)
Ma crainte est donc la suivante : n’avons-nous pas déjà pris trop de retard sur les entreprises américaines ? Aussi, monsieur le ministre, pouvez-vous nous rassurer sur le fait que la France sera au rendez-vous de cette quatrième révolution industrielle ? (Applaudissements sur les travées du groupe UC, ainsi que sur des travées du groupe Les Républicains.)
M. le président : La parole est à M. Jean-Jacques Panunzi. (Applaudissements sur les travées du groupe Les Républicains.)
M. Jean-Jacques Panunzi : Monsieur le président, monsieur le ministre, mes chers collègues, depuis quelques mois, les intelligences artificielles génératives influencent notre quotidien et monopolisent l’espace médiatique : ChatGPT, Lensa ou Midjourney sont autant de logiciels d’IA engagés dans une course frénétique pour devenir la référence en la matière.
Qu’est-ce que l’intelligence artificielle générative ? Elle est un sous-domaine de l’intelligence artificielle, qui crée des contenus tels que des textes, des images, des vidéos, des programmes informatiques. C’est à l’IAG que l’on doit notamment les photos truquées du pape François en doudoune blanche ou de l’ancien président américain Donald Trump menotté, qui ont beaucoup circulé.
Moins de deux mois après son lancement, en janvier 2023, ChatGPT, développé par l’entreprise californienne OpenAI, dépassait les 100 millions d’utilisateurs, ce qui en fait à ce jour l’application ayant connu la croissance la plus rapide.
La nouvelle version GPT-4, dévoilée à la mi-mars, comporte d’incroyables améliorations et nous conduit à nous poser la grande question : l’IA remplacera-t-elle les humains par les machines ?
L’intelligence artificielle est déjà en train de changer le monde du travail. Les machines sont capables d’apprendre et de s’adapter à des tâches qui étaient auparavant réservées aux humains. La question des conséquences sur l’emploi se pose, comme à chaque grande révolution technologique, ce qui déclenche appréhensions et crispations.
Ainsi, dans les rédactions, se posera la question suivante : aura-t-on encore besoin des journalistes et des illustrateurs ? Dans les cabinets d’avocats ou de conseil, on se demandera s’il est encore nécessaire d’avoir des juristes et des consultants. En effet, OpenAI a fait passer le concours du barreau américain à ChatGPT, qui a été brillamment reçu. Les experts de Goldman Sachs estiment ainsi que les IA génératives pourraient supprimer jusqu’à 300 millions d’emplois dans le monde.
Au cours de l’histoire, les grandes innovations ont souvent eu des conséquences sur les emplois. Le cabinet américain McKinsey souligne que le fossé risque de se creuser entre les travailleurs et entre les pays. Les principaux pays qui tireront parti de l’IA seront sans doute les États-Unis et la Chine. Toutefois, la France, le Royaume-Uni ou la Corée du Sud seraient relativement bien positionnés.
D’un point de vue économique en général, l’IA générative peut avoir des impacts considérables. Selon les économistes de Goldman Sachs, l’adoption généralisée de l’IA pourrait accroître la productivité et augmenter le PIB mondial de 7 % par an.
L’IAG, nous l’avons vu, peut être utilisée pour produire des contenus à grande échelle en un temps record ou pour créer des produits et des services personnalisés. Néanmoins, l’utilisation de l’IAG dans les affaires doit être éthique et responsable, afin de minimiser les impacts négatifs potentiels.
Des fake news propagées grâce à l’intelligence artificielle, des images truquées, de fausses révélations, peuvent avoir des répercussions très importantes sur les cours des Bourses mondiales et les faire chuter.
D’un point de vue social ou sociétal, les effets de l’IA générative peuvent également se révéler positifs comme négatifs. Si celle-ci peut contribuer à la création de contenus artistiques et culturels innovants, elle peut aussi, par de faux contenus, semer la désinformation.
En outre, l’IAG peut être utilisée pour propager des discours de haine ou du cyberharcèlement et favoriser la violence des campagnes mensongères. C’est pourquoi la Cnil commence à s’intéresser au cas de ChatGPT et a défini un plan d’action, plaidant pour « une clarification du cadre légal ».
D’un point de vue politique, l’IAG peut avoir des conséquences importantes. Elle peut aider à la prise de décision, mais elle peut aussi véhiculer insidieusement des idéologies dans de très nombreux domaines – santé, environnement… – ou encore être utilisée pour surveiller les citoyens.
Le Parlement européen a créé une commission sur l’intelligence artificielle à l’ère numérique. La Commission européenne a lancé, au mois d’avril 2021, un règlement sur l’IA, qui est en cours d’examen au Parlement européen, et n’a pas fermé la porte à l’usage d’IA recourant à la biométrie. Elle s’est gardé la possibilité d’utiliser la reconnaissance faciale a posteriori, sous contrôle judiciaire.
En France, le ministère des sports et des jeux Olympiques et Paralympiques a affirmé que le recours à la reconnaissance faciale était exclu par le projet de loi relatif aux jeux Olympiques et Paralympiques de 2024 et portant diverses autres dispositions. Seules seront utilisées des caméras usant d’algorithmes intelligents.
Par ailleurs, l’agence de police européenne Europol a averti que les criminels étaient prêts à tirer parti de l’intelligence artificielle.
En somme, l’IAG peut avoir une incidence très importante sur la politique, en offrant de nouvelles aubaines. Toutefois, il est nécessaire de veiller à ce qu’elle soit utilisée dans des limites clairement établies et validées légalement.
À l’échelle internationale, une compétition acharnée est prévisible. La Chine est très en avance et déploie de gros moyens, tandis que le président russe Vladimir Poutine estimait dès 2017 que quiconque deviendrait le leader dans ce domaine deviendrait le dirigeant du monde.
Aux États-Unis, Elon Musk, cofondateur d’OpenAI avec Sam Altman, l’inventeur de ChatGPT, a réclamé une pause de six mois dans la recherche sur l’IA, en évoquant « des risques majeurs pour l’humanité ». Le 4 avril dernier, le président Joe Biden a évoqué les risques liés à l’intelligence artificielle et a demandé au Congrès de fixer des « limites strictes » aux données personnelles collectées et d’interdire la publicité ciblée visant les enfants.
En tant que pays leader en matière de technologie et de recherche, la France a un rôle important à jouer. Elle doit continuer de soutenir la recherche, tout en élaborant une réglementation adaptée, et investir dans la formation, tout en assurant la sécurité et la protection des droits des individus.
Monsieur le ministre, compte tenu de ces éléments, estimez-vous que la France a la capacité d’être suffisamment réactive en matière d’IAG ? A-t-elle pris du retard ? Le cas échéant, de quelle manière et avec quels moyens allons-nous le combler ? (Applaudissements sur les travées du groupe Les Républicains. – Mme Catherine Morin-Desailly applaudit également.)
M. le président : La parole est à M. le ministre délégué.
M. Jean-Noël Barrot (Mouvement démocrate) : Monsieur le président, mesdames, messieurs les sénateurs, j’ai suivi l’exemple de Monique de Marco et de Pierre-Antoine Levi en ne faisant pas appel à ChatGPT pour répondre à vos interventions – la preuve : papier, crayon ! (M. le ministre délégué brandit un feuillet manuscrit.)
Pourquoi ? Pour bien légiférer, il faut bien comprendre l’intelligence artificielle générative, sujet de notre débat, dire ce qu’elle est, mais aussi ce qu’elle n’est pas. Ce qu’elle n’est pas, ou ne devrait pas être, c’est une nouvelle Pythie qui rendrait des oracles sur tous les sujets du monde.
Elle est une intelligence générative, plutôt que créative, en cela qu’elle réagence des contenus préexistants sans avoir une connaissance structurée du monde, ce qui fait d’elle un perroquet stochastique – ou, en langage commun, un perroquet approximatif, n’en déplaise à Stéphane Ravier qui, restant dans le registre animalier, a évoqué la capacité de ChatGPT à singer les comportements humains.
La différence fondamentale entre l’intelligence humaine et l’intelligence artificielle générative, évoquée par Vanina Paoli-Gagin et soulevée il y a quatre siècles par Blaise Pascal, inventeur de la première machine d’intelligence artificielle – la pascaline –, est l’intention, c’est-à-dire la capacité de volonté.
Mesdames, messieurs les sénateurs, nous entendons apporter à l’irruption de systèmes du type de ChatGPT, que vous avez abondamment cité, des réponses volontaristes, qui reposent sur une position équilibrée. Christian Redon-Sarrazy et Monique de Marco l’ont souligné, la technologie n’est, intrinsèquement, ni poison ni remède. Pour notre part, nous ne sommes donc ni technolâtres ni technophobes : nous considérons que la technologie doit être placée au service de l’homme.
Certes, l’émergence très rapide de cette technologie suscite des questions qui demeurent sans réponse. Cyril Pellevat et Jean-Jacques Panunzi, entre autres, ont par exemple évoqué les effets ambigus que l’on pouvait attendre de cette technologie sur le marché du travail. Des travailleurs seront sans doute soulagés de tâches pénibles, répétitives et fastidieuses, mais des professions entières seront bousculées.
Aussi devons-nous évidemment donner tous les moyens à nos concitoyens de se saisir de ces outils, afin qu’ils puissent en bénéficier. Nous devons nous assurer que l’adoption de ces technologies se fasse dans la justice sociale. Nous ne comptons pas sur la technologie pour nous dicter le cours des choses ; au contraire, nous avons la volonté de dicter le cours des choses à la technologie.
Par ailleurs, l’intelligence artificielle générative n’exclut pas les communs numériques, que Pascal Savoldelli a abordés. Pour preuve, avant ChatGPT est né un modèle open source, collaboratif, et fonctionnant notamment en Français : le modèle Bloom, qui a pu être conçu grâce au soutien du supercalculateur Jean Zay.
Faut-il marquer une pause ou décider d’un moratoire, comme l’a suggéré Catherine Morin-Desailly ? Si la question mérite d’être posée, la réponse apportée par les signataires de la récente pétition est mauvaise. À bien des égards, il nous faut accélérer, car la France dispose de tous les atouts pour maîtriser ces technologies d’intelligence artificielle générative.
Notre action en la matière n’est pas nouvelle, puisque le Président de la République a lancé il y a cinq ans une stratégie nationale pour l’intelligence artificielle, dotée de 1,5 milliard d’euros. Ainsi, nous avons déjà fait émerger des instituts interdisciplinaires d’intelligence artificielle (3IA) à Nice, à Toulouse, à Grenoble et à Paris, qui ont permis d’établir 190 chaires de recherche pour l’intelligence artificielle, de multiplier par deux le nombre de diplômés en intelligence artificielle et d’augmenter de 500 le nombre de doctorants.
Cette stratégie se couple à une stratégie d’accélération pour l’intelligence artificielle inscrite au cœur de France 2030, ce qui répond aux questions de Cyril Pellevat, Jean-Jacques Panunzi ou Pierre-Antoine Levi relatives à nos ambitions en la matière.
Faut-il ou non réguler ? Évidemment qu’il faut le faire. Le règlement sur l’intelligence artificielle impose non seulement des obligations de transparence, de manière à permettre à nos concitoyens de toujours faire la différence entre l’humain et la machine, mais aussi un régime de responsabilité pour les concepteurs des systèmes d’intelligence artificielle en fonction des risques associés aux usages de ces systèmes.
Ainsi, pour certains usages, le recours à l’intelligence artificielle sera proscrit. Pour d’autres, il sera encadré par des obligations de transparence et d’audit préalables à la mise sur le marché de ce type de solution. Pour d’autres encore, l’intelligence artificielle sera plus librement mobilisable.
Ce règlement couvre-t-il tous les sujets ? Non, certains d’entre eux ont d’ailleurs été cités par certains orateurs. C’est notamment le cas de l’empreinte carbone, mentionnée par Sylvie Robert. De même, en ce qui concerne la normalisation avec les États-Unis et la Chine, abordée par Cyril Pellevat et Catherine Morin-Desailly, des discussions ont d’ores et déjà eu lieu avec les États-Unis au sein du Conseil du commerce et des technologies (TTC, pour Trade and Technology Council), mais elles doivent être approfondies.
De plus, nous devrons être vigilants sur la question de l’exploitation des travailleurs des pays du Sud, évoquée par Monique de Marco et Pascal Savoldelli. Nous devrons également traiter la question des droits d’auteur, soulevée par Sylvie Robert et Jean-Claude Requier, ainsi que celle de la protection des données personnelles, qui est la raison invoquée par l’équivalent italien de la Cnil pour interdire ChatGPT sur le sol italien.
Les modèles d’intelligence artificielle sont entraînés sur des jeux de données assemblés sur internet. Or des données personnelles qui alimentent des jeux d’entraînement ont été collectées à une époque où aucun consentement n’était prévu. Il va donc nous falloir concilier la réglementation que nous construisons pour l’intelligence artificielle et celle que nous avons construite – et dont nous sommes très fiers – pour la protection des données personnelles.
Mesdames, messieurs les sénateurs, je vous remercie du temps que vous avez consacré à ce débat. Certaines de vos préoccupations sont d’ores et déjà prises en considération dans la réglementation sur laquelle nous avançons et par le plan d’investissement souhaité par le Président de la République, tandis que d’autres nourriront, à n’en pas douter, les travaux du Sénat dans les mois et les années à venir. (MM. Franck Menonville et Jean-Claude Requier applaudissent.)
M. le président : Nous en avons terminé avec le débat d’actualité sur le thème : « Impacts économique, social et politique de l’intelligence artificielle générative ».
Mes chers collègues, nous allons interrompre nos travaux pour quelques instants.
La séance est suspendue.
(La séance, suspendue à dix-sept heures quarante, est reprise à dix-sept heures quarante-cinq.)
M. le président : La séance est reprise.