20250207_NP_SGDSN_VIGINUM_Rapport menace informationnelle IA_VF.pdf — page 7

7 
 
 
viser plus spécifiquement certaines communautés linguistiques (diasporas par exemple) au sein d’un même 
pays. 
c. Une aide pour la génération et la gestion de comptes inauthentiques sur les 
plateformes en ligne 
L’un des défis techniques rencontrés par les acteurs de la manipulation de l’information relève de 
l’optimisation de la diffusion des contenus sur les plateformes en ligne. En effet, une opération d’ingérence 
numérique étrangère a besoin de vecteurs pour atteindre l’audience visée. Or, la gestion et l’animation des 
comptes inauthentiques, utilisés pour la diffusion, soulèvent à la fois des problématiques de crédibilité des 
profils, de furtivité et d’anonymisation de l’activité. 
Comme l’a rappelé un rapport de la société OpenAI8, l’utilisation d’images générées par une IA est 
massivement employée dans le cadre de campagnes de manipulation de l’information, afin de fournir à de 
faux comptes une photo de profil crédible, mais également pour industrialiser et crédibiliser la génération 
de comptes inauthentiques : nom, biographie, âge, contenu etc. 
La combinaison de modèles génératifs textuels et de modèles génératifs visuels est ainsi susceptible de 
faciliter grandement la création de comptes inauthentiques, et ce malgré les dispositifs de détection des 
comportements inauthentiques mis en place par les plateformes elles-mêmes. 
3. Cas d’usages observés de l’IAg à des fins d’ingérences numériques étrangères 
S’appuyant sur les travaux de VIGINUM et d’acteurs de référence internationaux, cette partie vise à 
documenter différents cas d’usage observés de l’IAg à des fins d’ingérence numérique étrangère, sur la 
base d’investigations en sources ouvertes. 
a. Principaux modes opératoires documentés 
Dans le cadre des missions qui lui sont dévolues, VIGINUM a observé depuis 2022 un recours croissant à 
l’IA générative par les acteurs étrangers de la menace visant le débat public numérique francophone. 
i. La génération de textes  
Ce mode opératoire consiste à produire à grande échelle du contenu textuel via des applications d’IAg. À 
titre d’exemple, VIGINUM a observé à plusieurs reprises au cours de l’année 2024, notamment dans le 
contexte des Jeux Olympiques et Paralympiques de Paris, la diffusion de textes très probablement générés 
par IA9 sur différentes plateformes telles que X et Tumblr, par des écosystèmes de comptes aux 
caractéristiques inauthentiques, très probablement affiliés au mode opératoire Spamouflage10. Bien que 
ces manœuvres aient été massives en termes de volume de messages publiés, elles n’ont finalement généré 
que très peu d’engagement, notamment en raison du fait que les comptes inauthentiques émetteurs ne 
disposaient que d’une faible audience, atténuant de facto le risque d’impact de ces publications 
coordonnées. 
                                                        
8 https://openai.com/global-affairs/an-update-on-disrupting-deceptive-uses-of-ai/  
9 A l’instar des deux exemples de publications mentionnés supra, VIGINUM a identifié au total une centaine de messages diffusés 
avec un narratif quasiment identique lors de cette manœuvre. 
10 Le mode opératoire Spamouflage, documenté pour la première fois publiquement par Graphika en 2019, est un dispositif 
d’influence pro-RPC dont l’objectif est de diffuser des narratifs favorables aux intérêts du Parti communiste chinois (PCC) auprès 
d’une audience internationale. Il repose sur des réseaux de comptes aux caractéristiques inauthentiques chargés de mener des 
manœuvres informationnelles sur une multitude de plateformes. Cf. https://www.graphika.com/reports/spamouflage.