20250207_NP_SGDSN_VIGINUM_Rapport menace informationnelle IA_VF.pdf — page 14

14 
 
 
II. Enjeux et perspectives de l’impact de l’IA sur la menace 
informationnelle 
Si les acteurs de la menace informationnelle utilisent de manière croissante les technologies de l’IA 
générative pour armer leurs manœuvres, la question des effets et de l’impact de celles-ci sur l’opinion 
demeure néanmoins posée. 
La mesure de l’impact d’une campagne numérique de manipulation de l’information ne fait actuellement 
pas l’objet d’un consensus au sein du monde académique. Principalement empirique, l’analyse de l’impact 
consiste souvent à relever des indicateurs quantitatifs de visibilité, fournis par les principales plateformes 
de réseaux sociaux (nombres de vues, de likes, de repartages ou de commentaires), mais ne fournissant 
qu’une vision parcellaire de l’exposition d’un lectorat ou d’un auditorat à la campagne, sans permettre la 
mesure de ses effets sur le long terme. Ainsi, et en dépit de quelques rares outils disponibles21, l’impact des 
manipulations de l’information en ligne sur les comportements des publics visés ou exposés demeure mal 
connu. 
Aussi, dans cette partie et sur la base de ses observations, VIGINUM s’attache à formuler des hypothèses 
de travail sur le risque d’impact des manœuvres malveillantes utilisant l’IAg.  
1. Un risque réel d’élévation du niveau de menace informationnelle, mais un impact 
encore modéré à date 
a. Un risque d’accroissement de la réactivité des acteurs étrangers malveillants 
En réduisant le temps de production du contenu, les technologies d’IA sont de nature à accroître 
considérablement la réactivité des acteurs étrangers malveillants, en plus de leur permettre de produire à 
grande échelle. Sur la base d’une interaction avec un modèle de langage comme ChatGPT, il est possible 
de faire rédiger par l’outil du contenu de qualité mobilisable dans le cadre d’une opération d’ingérence 
numérique étrangère lancée sans préavis, dans une logique opportuniste par exemple. Cette 
automatisation de la création de contenus en temps réel via un modèle de langage ne nécessite aucune 
expertise particulière, facilitant ainsi la conception d’opérations simples à grande échelle.  
b. Un risque d’accroissement de la furtivité des manœuvres informationnelles 
Les modèles d’IA générateurs de contenus textuels sont aujourd’hui en capacité de produire des textes 
traduits en plusieurs langues étrangères, avec une qualité de syntaxe et d’usages parfois proches d’une 
langue maternelle. Au-delà de faciliter l’atteinte de certaines audiences (comme les diasporas par 
exemple), cette performance des outils d’IAg peut également contribuer à mieux dissimuler l’implication 
d’un acteur étranger dans le cadre de campagnes numériques de manipulation de l’information et rendre 
ainsi plus aléatoire la détection de ces dernières.  
Par ailleurs, concernant la génération de texte, des tactiques aujourd’hui facilement identifiables – telles 
que le copy-pasta avec une traduction approximative - pourraient être remplacées demain par des 
procédés plus élaborés, via notamment la génération d’un grand volume de reformulations, plus 
complexes à mettre à jour. S’agissant des images, le recours à des générateurs d’image pour créer du 
contenu synthétique implique la mise à disposition de nouveaux types d’outils avancés de détection pour 
en identifier la source. 
                                                        
21 Notamment : Breakout Scale de Ben Nimmo (The breakout scale: Measuring the impact of influence operations, 2020, 
https://www.brookings.edu/wp-content/uploads/2020/09/Nimmo_influence_operations_PDF.pdf ) et Impact risk-index de EU 
Disinfolab (Towards an impact-risk index of disinformation: measuring the virality and engagement of single hoaxes, 2022, 
https://www.disinfo.eu/wp-content/uploads/2022/06/20220617_IndexImpactAssessment_Final.pdf)