Legibot106/Assemblee17 huggingface dataset:
Mutations liées à l’intelligence artificielle : quelle stratégie pour la France et l’Europe ?
M. Nicolas Turquois (Dem) : Je ne suis pas du tout un spécialiste de l’IA et je retiens de nos échanges une impression très anxiogène. Vous avez évoqué différentes pistes : davantage de régulation ainsi que la promotion d’acteurs européens. En tant que responsables politiques, quelles mesures et quelles grandes orientations pourrions-nous prendre ?D’un côté, nous avons besoin de contrôler l’IA, mais de l’autre nous en avons besoin. Votre intervention, monsieur Benhamou, m’a fait penser à un sujet qui m’est cher, celui du Health Data Hub. En effet, avec la quantité de données dont nous disposons, notamment en matière de maladies rares, nous pourrions identifier des profils de guérison et des parcours d’accompagnement médical. Nous possédons une base de données exceptionnelle mais nous n’avons pas les outils techniques suffisants pour les traiter – on nous dit qu’il nous faudrait l’équivalent de Microsoft pour ce faire. Nous avons donc besoin de l’IA mais nous ne disposons pas pour l’instant d’acteurs propres. Comment agir pour à la fois réguler et faire émerger ces acteurs ?
Mutations liées à l’intelligence artificielle : quelle stratégie pour la France et l’Europe ?
M. le président : Je remercie les intervenants d’avoir participé à nos travaux.
Mutations liées à l’intelligence artificielle : quelle stratégie pour la France et l’Europe ?
M. le président : La séance est suspendue.
Mutations liées à l’intelligence artificielle : quelle stratégie pour la France et l’Europe ?
 : (La séance, suspendue à vingt-deux heures quarante-cinq, est reprise à vingt-deux heures cinquante.)
Mutations liées à l’intelligence artificielle : quelle stratégie pour la France et l’Europe ?
M. le président : La séance est reprise.Nous en venons à la seconde phase du débat : une séquence de questions-réponses, précédée d’une intervention liminaire du gouvernement.La parole est à M. le ministre chargé de l’industrie et de l’énergie.
M. le président : La parole est à Mme Josy Poueyto.
Mme Josy Poueyto (Dem) : L’actualité récente a montré une nouvelle fois à quel point la France et l’Europe ont intérêt à se saisir du développement de l’intelligence artificielle. Face aux géants américains, qui ont choisi de foncer sans s’encombrer de questions morales ou éthiques, je pense que nous avons une carte particulière à jouer.En effet, l’objectif est que l’IA soit utilisée pour rendre les meilleurs services possibles aux populations. Pour asseoir les usages, il est obligatoire, selon moi, que se concrétise un lien de confiance particulièrement fort entre l’usager et la machine. Pour maintenir la confiance, il paraît essentiel de garantir une conception et une utilisation éthiques de l’IA. La régulation, autrement dit le cadre réglementaire applicable à l’IA, doit non seulement assurer une conception et un développement technologique empreints d’un très grand sens des responsabilités, mais aussi assurer une croissance économique durable.Dans le domaine sanitaire, par exemple, où il serait délicat de faire n’importe quoi, la garantie de résultat va de soi. Siégeant à la commission de la défense, je vois bien, dans les domaines de l’information et de la communication, voire dans ceux de l’influence ou du renseignement, les menaces susceptibles de peser tant sur les individus que sur les sociétés en général et les démocraties en particulier.Ma question est toute bête mais je ne suis pas la seule à la poser. Alors que les réseaux dits sociaux nous exposent déjà à des abus majeurs que nous ne parvenons pas à prévenir, comment allons-nous faire face à des outils déployés à une échelle planétaire et capables d’aller plus loin encore dans la manipulation du « temps de cerveau disponible », pour reprendre la formule utilisée à propos de la télévision par Patrick Le Lay quand il était à la tête de TF1 ?
M. Marc Ferracci : Parce qu’elle porte sur l’appropriation de l’IA par nos concitoyens et par les entreprises, il s’agit d’une question essentielle, à laquelle il y a trois niveaux de réponse. Le premier est celui de la formation et de l’éducation. Dans mon propos liminaire, j’ai évoqué un dispositif parmi d’autres : les cafés IA, qui permettent de s’approprier les outils de l’intelligence artificielle dans un cadre coopératif et convivial. J’y ajoute l’annonce faite par la ministre de l’éducation nationale, Élisabeth Borne, à propos de la formation à l’IA dès le collège. Cela participe à ces nécessaires appropriation et éducation.Le deuxième niveau de réponse consiste à prévenir et rassurer nos concitoyens au sujet des contenus de l’IA auxquels ils sont confrontés. Un des enjeux est la dissimulation de contenus présentés comme réels alors qu’ils ne le sont pas. Sur ce point, les législations française et européenne ont évolué. La loi visant à sécuriser et à réguler l’espace numérique (Sren) a introduit l’obligation de mentionner les deepfakes issus de l’intelligence artificielle, tandis que le règlement européen sur l’intelligence artificielle oblige à signaler les moments où les usagers interagissent avec une IA. Cela participe à la prévention et à la réassurance que nous devons à nos concitoyens.Le troisième niveau de réflexion et d’action – et donc de protection, dans une certaine mesure – porte sur l’ergonomie des applications. Pour reprendre la formule que vous avez utilisée, on sait que certaines applications prennent du temps de cerveau disponible, favorisent l’addiction et créent une forme de déconnexion d’avec la réalité. Il faut donc favoriser une conception et une ergonomie des applications qui limitent ces phénomènes. Voilà quels peuvent être nos axes de réflexion et d’action.
M. le président : La parole est à M. Nicolas Sansu.
M. Nicolas Sansu (GDR) : Je ne vais pas m’appesantir sur le surprenant exercice d’autosatisfaction du ministre, très éloigné de la réalité qui ressort des chiffres mondiaux et de ce que les intervenants précédents ont avancé.La course technologique entre OpenAI et DeepSeek fait de l’IA le nouveau terrain d’affrontement de la guerre commerciale entre les États-Unis et la Chine. Force est de le constater, l’Europe est à la traîne, d’autant plus que, à la suite des menaces exprimées par l’administration Trump, la Commission européenne vient de retirer la directive sur la responsabilité en matière d’IA de son programme de travail final pour 2025.Ainsi que l’ont indiqué MM. Benhamou et Cavada, c’est aujourd’hui le risque de vassalisation, de technoféodalisme, pour reprendre le concept des économistes Yanis Varoufakis et Cédric Durand, qui nous menace. Nous n’avons donc qu’une interrogation : comment sortir de la tentation technoféodale et faire de l’IA un vecteur d’émancipation sociale ?Cela m’amène à demander au gouvernement de préciser sa position sur trois points. Premièrement, comme le préconise un récent rapport du Conseil économique, social et environnemental, intitulé « Pour une IA au service de l’intérêt général », nous devons défendre dans la réglementation européenne la plus grande transparence des algorithmes et des jeux de données d’entraînement. Cette réglementation devrait renforcer l’accès direct des citoyens à leurs propres données et améliorer la traçabilité des données pour que puissent être retracées les transformations qu’elles ont subies. Nous pourrions par exemple parler du Health Data Hub, livré aux Américains contre toute logique de souveraineté – cela a été rappelé dans la première phase du débat.Deuxièmement, comment assurer, face à OpenAI et à DeepSeek, la protection des données personnelles ? Quelles doivent être les modalités d’utilisation, de réutilisation et de rectification des données personnelles publiées sur le web et servant à l’entraînement de l’IA ? Monsieur le ministre, on ne saurait se contenter d’incantations comme celles que vous avez formulées tout à l’heure.Troisièmement, on sait, documents à l’appui, qu’à Madagascar ou au Kenya, les petites mains de l’IA sont payées moins de 2 dollars par heure pour perfectionner les résultats des recherches. On sait aussi qu’une simple question posée à ChatGPT consomme un demi-litre d’eau et que les besoins en électricité des data centers devraient doubler dans les deux ans. Ma question est donc simple : comment comptez-vous rendre les logiques industrielles de l’IA compatibles avec les objectifs de décarbonation, alors que les États-Unis et la Chine s’en contrefichent ?
M. Marc Ferracci : Je ne sais pas très bien quel contenu donner à cette notion de technoféodalisme, mais peut-être aurons-nous l’occasion d’en discuter. Je ne pense pas que la vassalisation que vous évoquez soit une fatalité. Vous avez mentionné DeepSeek. Il s’agit à mes yeux d’un modèle technologique qui valide les choix faits par des acteurs français de l’IA, comme Mistral AI. Le choix de l’open source, par exemple, nous distingue des solutions technologiques adoptées par certains acteurs américains. Il n’y a pas de fatalité dès lors que l’on crée de la souveraineté à travers l’infrastructure. Je l’ai dit dans mon propos liminaire, l’infrastructure est un élément indispensable pour faciliter l’appropriation de l’IA par les entreprises et pour permettre de créer du cloud souverain. Évidemment, il faut articuler cela avec les réglementations française et européenne.À propos des données, comme vous le savez, le règlement européen sur l’IA distingue plusieurs niveaux de risque auxquels sont attachés plusieurs niveaux d’obligations juridiques et de contraintes. Cela permet d’éviter de traiter tous les problèmes de la même manière et d’éviter de construire des garde-fous juridiques qui, parce que trop puissants et trop contraignants, limiteraient l’innovation. Nous avons besoin d’une régulation européenne qui s’appuie sur les initiatives et les textes existants, comme le DSA et le DMA. Nous travaillons au niveau européen sur une régulation des clouds qui soit le pendant du SecNumCloud français. À cet égard, nos exigences vis-à-vis de la Commission européenne sont fortes.Je termine avec l’enjeu de la décarbonation – même s’il est difficile de répondre à trois questions en deux minutes. Lorsqu’on va sur le terrain comme je le fais, lorsqu’on visite des data centers installés en France, on constate que beaucoup ont fait le choix de solutions respectueuses de l’environnement, tel le recyclage, dans les collectivités avoisinantes, d’une partie de la chaleur qu’ils produisent. C’est le cas d’un data center qui vient d’ouvrir à Meudon. Là non plus, il n’y a aucune fatalité à ce que l’aspect énergivore des data centers fasse obstacle à la décarbonation.
M. le président : La parole est à M. Arnaud Saint-Martin.
M. Arnaud Saint-Martin (LFI-NFP) : J’ai une série de questions à propos des mutations du numérique au lendemain du Sommet pour l’action sur l’IA, qui s’est achevé par des annonces que vous avez rappelées. Si l’on peut convenir qu’il faut exiger une réévaluation critique de notre prise de conscience collective sur cette technologie qui se déploie presque sans limites, force est de constater que le compte n’y est pas. Plusieurs contradictions inquiètent tout autant sur la nature des solutions proposées que sur les conditions de leur mise en œuvre.Dans la frénésie de la course à l’IA, les citoyens sont aux abonnés absents, et le scénario qui s’annonce – technologie partout, démocratie nulle part – mériterait un débat plus solide et plus sérieux. J’en veux pour preuve que, sous couvert de simplification dans le cadre de la loi relative à l’industrie verte, les trente-cinq data centers dont la création a été annoncée échapperaient à une enquête publique. On sait pourtant qu’en l’absence de cadre d’arbitrage clair, ils suscitent des conflits d’usage. Et je ne parle pas de leur financement par des fonds étrangers – dont l’émirien MGX, par ailleurs engagé dans le projet américain Stargate –, un choix pour le moins discutable à l’heure où la souveraineté numérique est érigée en priorité.Dans un autre registre, on s’étonne de voir Google participer à l’initiative Current AI, lancée lors du sommet, alors que cette entreprise abandonne tout engagement éthique en matière d’armement. N’est-il pas plutôt temps de défendre avec vigueur l’IA Act, le DSA et le DMA adoptés par l’Europe mais déjà menacés ?De même, en France, l’IA met à mal la cohérence des politiques publiques. Sans même s’étendre sur l’improvisation à prétention pédagogique et le pillage des données qu’entraîneraient les cours sur ChatGPT annoncés par le ministère de l’éducation nationale pour la rentrée prochaine, comment ne pas noter qu’au même moment, des milliers de postes de conseillers numériques sont sur la sellette, alors que l’inclusion numérique est en grande souffrance dans notre pays ?Enfin, se pose avec urgence la question de la cohérence démocratique à donner au développement de l’IA, qui ne saurait se faire dans le dos des citoyens. Plutôt que céder aux sirènes des Gafam-X et de leur technoféodalisme prédateur, n’est-il pas vital d’encourager des technologies conçues en France, comme Scikit-learn, à même de nous assurer autonomie et indépendance sur les créneaux interconnectés du numérique ?
M. Marc Ferracci : Comme je l’ai dit dans ma réponse à M. Sansu, il faut évidemment défendre la régulation européenne. C’est pourquoi j’ai parlé du DSA, du DMA et du projet de certification européenne pour les services de cloud (EUCS). Par ailleurs, il est primordial de se prémunir contre l’extraterritorialité de certaines législations, notamment de la législation américaine. C’est un risque auquel s’exposent certains acteurs, même si leurs données sont stockées sur des clouds localisés en Europe ou en France. Il s’agit d’un point des discussions autour de l’EUCS, sur lequel nous exerçons toute notre vigilance.À propos de l’usage de l’IA à l’éducation nationale, je pense que, à un moment où l’illectronisme et l’illittératie touchent malheureusement un grand nombre de nos concitoyens, il ne faut se priver d’aucune source ni d’aucune piste susceptible d’améliorer l’efficacité des programmes d’enseignement. Je suis enseignant – même si cela fait longtemps que je n’ai pas donné de cours dans un cadre universitaire – et je suis parfois frappé par la réticence, voire le dogmatisme, avec lesquels on repousse des solutions qui apportent des améliorations considérables aux modalités pédagogiques. Il ne faut se priver de rien, il faut tout évaluer, avec les acteurs et avec les enseignants. Je suis persuadé que, pour prendre à bras-le-corps les problèmes d’illittératie, d’illectronisme et d’innumérisme, il faut aussi aller chercher du côté de ces solutions.
M. le président : La parole est à Mme Céline Calvez.
Mme Céline Calvez (EPR) : Monsieur le ministre, vous avez parlé de la nécessité pour toute la société, que ce soit dans le monde du travail ou dans l’exercice de nos droits démocratiques, de mieux comprendre l’IA, de mieux s’en saisir. Vous avez parlé d’initiatives comme les cafés IA ou, à l’instant, de celles prises par l’éducation nationale. Pour ma part, je veux citer l’exemple d’une nation européenne, la Finlande, où, dès 2017, le gouvernement et les entreprises privées se sont donné comme objectif de créer des modules pour former 1 % de la population aux enjeux de l’IA. Cet objectif a été dépassé et, de plus, ces modules ont été mis à disposition dans toutes les langues européennes. Ils sont assez facilement accessibles. La France pourrait-elle se fixer la même ambition ? Dans la mesure où l’IA touche tous les métiers, pourrions-nous intégrer des modules incontournables de sensibilisation à l’IA dans les formations financées grâce au compte personnel de formation (CPF) ?Je tiens à souligner le succès de la France dans l’accueil des chercheurs et de l’innovation IA de plusieurs entreprises. Plusieurs facteurs l’expliquent : le talent de nos propres chercheurs, l’accès à l’énergie, peut-être aussi la qualité de vie. Que savons-nous du rôle de dispositifs comme le crédit d’impôt recherche (CIR) ? Que faut-il préserver pour maintenir cette attractivité dont nous pouvons être fiers ?
M. Marc Ferracci : L’appropriation de l’IA par nos concitoyens est un enjeu important. Je ne reviens pas sur les cafés IA, que vous avez évoqués. Un autre enjeu est son appropriation par les entreprises. À cette fin, plusieurs dispositifs ont été lancés dans le cadre de la stratégie nationale pour l’IA et financés notamment par le plan France 2030. Je pense en particulier au programme IA Booster, qui a déjà permis d’accompagner des très petites, petites et moyennes entreprises (TPE et PME). Il faut multiplier ces initiatives, mais aussi les évaluer, car tout n’est pas nécessairement efficace.Le recours au CPF est effectivement une piste intéressante, qui mérite d’être poursuivie, car il s’agit d’un dispositif souple que se sont approprié nombre de nos concitoyens – c’est un succès de ce point de vue. Identifions les modules les plus efficaces – j’ignorais l’exemple finlandais que vous avez cité – afin de certifier ceux qui ont fait leurs preuves pour qu’ils deviennent éligibles au CPF.Dans le public comme dans le privé, favoriser l’attractivité d’une IA innovante fondée sur la science et la recherche suppose de conserver certains dispositifs essentiels : nos entreprises, en particulier celles qui développent l’IA générative, s’appuient très fortement sur le CIR, par exemple. Il faut absolument le préserver, ce que nous avons fait en dépit du cadre budgétaire très contraint qui est le nôtre.
M. le président : La parole est à M. Philippe Latombe.
M. Philippe Latombe (Dem) : Il y a un éléphant dans la pièce, donc je mets les pieds dans le plat : la plateforme des données de santé, encore appelée Health Data Hub, est hébergée par Microsoft. Du fait de l’extraterritorialité du droit américain, on peut s’étonner que ces données sensibles à haute valeur ajoutée soient confiées à cette entreprise. Il y a plus de trois ans et demi, Olivier Véran, ministre des solidarités et de la santé, s’était engagé devant l’Assemblée et le Sénat à organiser la réversibilité de ces données vers un cloud souverain. Or celle-ci n’a même pas commencé !Dès lors, quelle cohérence attribuer au discours gouvernemental prônant la souveraineté numérique ? Comment croire, comme on nous l’a expliqué lors du sommet sur l’IA, que le déploiement de data centers sur le territoire national pourra garantir la souveraineté de l’État à l’égard des données hébergées, alors même que le groupement d’intérêt public (GIP) Health Data Hub semble très rétif à mettre en œuvre la réversibilité annoncée ?
M. Marc Ferracci : Le Health Data Hub est une plateforme qui centralise et facilite l’accès aux données de santé pour les chercheurs – j’y insiste – tout en respectant des normes de confidentialité et de sécurité. Son potentiel en tant que support de la recherche en IA est donc très important.Vous êtes familier des enjeux de souveraineté, puisque vous aviez présenté un amendement au projet de loi Sren visant à contraindre les opérateurs publics à faire migrer leurs données vers des solutions souveraines. Dans ce domaine très sensible des données de santé, nous devons nous assurer que l’on arrive au bout de l’exercice. Nous devons nous assurer que le Health Data Hub favorise l’interopérabilité en utilisant des standards communs.Il faut aussi, en procédant par tâtonnements, éviter l’apparition de nouveaux usages de données sensibles. J’y suis très attaché car, dans ma vie précédente, par exemple lorsque je travaillais sur le centre d’accès sécurisé aux données (CASD) de l’Insee, j’ai pu constater des angles morts échappant à la régulation, ce qui ouvrait parfois des brèches dans la confidentialité des données. Il faut se montrer très vigilants à cet égard. C’est en travaillant avec les chercheurs et les instances de régulation, dont la représentation nationale fait partie, que nous trouverons des solutions sur ce point.
M. le président : La parole est à Mme Élisa Martin.
Mme Élisa Martin (LFI-NFP) : « Mutations liées à l’intelligence artificielle : quelle stratégie pour la France et l’Europe ? » J’ose une réponse : en s’affranchissant du respect des libertés fondamentales et des droits afin de permettre au privé de réaliser un maximum de profits !Je vise en particulier la notion de bac à sable réglementaire, censée favoriser l’innovation en la dispensant de respecter l’ensemble du cadre réglementaire. Elle permet en fait une innovation sans entrave, au détriment des droits et des libertés fondamentales. Ce dispositif est évidemment plébiscité par les acteurs privés et prend une telle ampleur qu’il affecte désormais le pilotage de la recherche publique, laquelle devrait viser non pas le profit mais bien l’intérêt général.Quelle limite entendez-vous fixer à la remise en cause de nos libertés ? Que pensez-vous de cette notion de bac à sable réglementaire ? Imaginez-vous que l’on puisse attenter au droit d’aller et venir ou à la liberté d’opinion ? Petit à petit, le gouvernement promeut et organise la surveillance généralisée – pardonnez-moi de m’exprimer sans ambages mais nous sommes pressés par le temps. Les Jeux olympiques ont été l’occasion de tester la surveillance algorithmique et nous sommes fondés à croire que vous souhaitez instaurer la reconnaissance faciale dans l’espace public. Les promoteurs du bac à sable réglementaire se montrent d’ailleurs très critiques à l’égard des dispositions – pourtant loin d’être les plus protectrices – du règlement européen sur l’IA.
M. Marc Ferracci : Vous brossez un tableau assez sombre.
Mme Élisa Martin : Mais tellement réaliste !
M. Marc Ferracci : Pas tant que cela, si l’on veut bien tenir compte des régulations, des protections et des garde-fous déjà en vigueur. C’est pour moi l’occasion d’évoquer de manière plus détaillée le règlement européen sur l’intelligence artificielle, car il répond selon moi à un grand nombre de vos préoccupations et objections.Ce règlement est fondé sur une hiérarchie ou pyramide des risques. Ainsi, les applications qui présentent des risques minimaux ne doivent donner lieu à aucune obligation réglementaire – citons, par exemple, les algorithmes qui recommandent des playlists musicales. À l’échelon suivant, on trouve les applications – certaines sont très populaires et bien connues – qui doivent respecter une obligation de transparence à l’égard des citoyens ainsi qu’une obligation de transparence algorithmique. Viennent ensuite les applications plus invasives, présentant des risques plus importants, telles que celles qui sont utilisées dans le cadre de procédures de recrutement, qui peuvent poser des problèmes considérables du point de vue des libertés publiques ; des obligations réglementaires plus strictes s’imposent à elles. Enfin sont définis les risques inacceptables, liés aux usages de l’IA permettant la surveillance de masse au moyen de la reconnaissance faciale ; dans ce cas, les obligations sont plus importantes encore et confinent à l’interdiction.Ce règlement prévoit donc une gradation. Peut-être y a-t-il des améliorations à y apporter, mais je constate qu’il traite déjà des exemples que vous avez cités.
Mme Élisa Martin : Vous ne m’avez pas répondu au sujet du bac à sable réglementaire !
M. le président : De nombreux collègues souhaitent encore poser des questions, madame Martin. Je propose que nous passions à la question suivante.La parole est à M. Nicolas Bonnet.