Stratégie nationale de lutte contre les manipulations de l'information_FR.pdf — page 44

42 
OBJECTIF STRATÉGIQUE 7. CONSOLIDER LA CAPACITÉ NATIONALE D’ÉVALUATION DES 
RISQUES POSÉS PAR L’INTELLIGENCE ARTIFICIELLE DANS LE CHAMP DE LA MANIPULATION 
DE L’INFORMATION 
Créer une capacité d’expertise de référence, capable de qualifier, quantifier et anticiper les effets systémiques de l’IA 
sur la fiabilité de l’environnement informationnel. 
L’essor de l’intelligence artificielle (IA), en particulier des technologies génératives et des systèmes 
agentiques, redéfinit profondément le paysage informationnel. Si ces outils offrent de nouvelles 
opportunités, ils introduisent également des risques systémiques majeurs, notamment en matière de 
production, d’amplification et de diffusion automatisée et coordonnée de contenus manifestement 
inexacts ou trompeurs. 
Hypertrucages, génération de textes persuasifs, synthèse vocale, clonage d'identités, microciblage 
algorithmique : l’IA permet aujourd’hui de manipuler l’information à une échelle inédite, de manière 
difficilement détectable, et à un coût marginal. Ces usages soulèvent des menaces directes pour la 
sincérité du débat démocratique, notamment en période électorale ou en situation de crise. 
Sur le plan réglementaire, le règlement européen sur l’IA (AI Act) introduit une typologie des risques 
fondée sur leur impact potentiel sur les droits fondamentaux et la sécurité. Certains systèmes utilisés à 
des fins de manipulation de l’information relèveront de la catégorie des systèmes à haut risque, voire 
des pratiques interdites (recours à des techniques manipulatrices, trompeuses ou subliminales). 
L’obligation de transparence, l’étiquetage des contenus synthétiques, et la traçabilité des modèles 
constituent les premiers garde-fous réglementaires. 
Le Rapport scientifique international sur la sécurité de l’IA avancée 6F7 confirme par ailleurs le consensus 
croissant sur les risques que les modèles génératifs font peser sur l’environnement informationnel. En 
particulier, il existe un consensus scientifique sur le fait que les modèles génératifs (i) facilitent les 
mécanismes de manipulation de l’information ; (ii) facilitent pour le moins une manipulation à grande 
échelle de l’opinion publique, notamment en période électorale ou en situation de crise. 
ÉVALUER ET RÉPONDRE AUX RISQUES LIÉS À L’IA : CRÉATION D’UN CENTRE D’EXCELLENCE IA X LMI AU SEIN 
DE VIGINUM 
Face à ces constats, la France doit se doter d’une capacité d’évaluation robuste, pluridisciplinaire et 
coordonnée s’appuyant sur les activités de recherche et d'évaluation de son Institut national pour 
l’évaluation et la sécurité de l’intelligence artificielle (INESIA), les services d'expertise technique en IA 
au sein de l'État, comme le Pôle d’expertise de la régulation numérique (PEReN), l’Institut national de 
recherche en sciences et technologies du numérique (INRIA) et le Laboratoire national de métrologie et 
d'essais (LNE) ainsi que sur les expertises opérationnelles de VIGINUM et des administrations 
concernées. 
Pour maximiser l’effet de la contribution de VIGINUM au travail collectif, son équipe DATALAB sera 
transformée en centre d’excellence IAxLMI. Le travail réalisé en source ouverte par ces acteurs 
permettra notamment de : 
• 
fournir des outils et services clés en main aux communautés de vérification de faits, aux médias, aux 
ONG et chercheurs ;  
• 
renforcer l’appui à l’ARCOM, au titre des missions découlant du règlement européen sur les services 
numériques (RSN, ou DSA en anglais), sur la modération et la vérification des algorithmes ;  
 
7 Le International AI Safety Report 2026 est une évaluation internationale des capacités et des risques des systèmes d’intelligence 
artificielle avancée. Il a été lancé à la suite d’une résolution adoptée par 30 pays, ainsi que par des représentants de l’Union européenne 
et de l’ONU, lors du sommet sur la sécurité de l’IA de Bletchley Park. Inspiré du modèle du GIEC, il rassemble un panel d’experts 
internationaux afin de fournir une base scientifique commune aux décideurs publics.