20250207_NP_SGDSN_VIGINUM_Rapport menace informationnelle IA_VF.pdf — page 4

4 
 
 
I. L’IA, une technologie utilisée par les acteurs de la menace informationnelle ................................................ 5 
1. 
Définitions ......................................................................................................................................................... 5 
2. 
Une technologie attractive pour les acteurs de la menace informationnelle ..................................... 5 
a. 
Un changement d’échelle dans la génération de contenus potentiellement inexacts ou 
trompeurs ............................................................................................................................................................... 5 
b. 
Des capacités décuplées pour la réplication et la publication coordonnée de contenus 
inauthentiques à grande échelle ........................................................................................................................ 6 
c. 
Une aide pour la génération et la gestion de comptes inauthentiques sur les plateformes en 
ligne…………………….. ................................................................................................................................................... 7 
3. 
Cas d’usages observés de l’IAg à des fins d’ingérences numériques étrangères ................................ 7 
a. 
Principaux modes opératoires documentés ......................................................................................... 7 
i. 
La génération de textes ......................................................................................................................................... 7 
ii. 
La génération d’images ......................................................................................................................................... 8 
iii. 
Génération de vidéos et d’audios ....................................................................................................................... 9 
b. 
Regards croisés sur la menace informationnelle utilisant l’IAg : les acteurs internationaux 
institutionnels........................................................................................................................................................ 10 
i. 
Union européenne : point de vue du Service européen pour l’action extérieure .................................... 10 
ii. 
Suède : point de vue de l’Agence de Défense Psychologique ...................................................................... 11 
iii. 
Canada : point de vue du Mécanisme de Réponse Rapide du Canada : cas d’étude Spamouflage ...... 12 
iv. 
Royaume-Uni : point de vue du bureau des Affaires étrangères et du Commonwealth ......................... 13 
II. Enjeux et perspectives de l’impact de l’IA sur la menace informationnelle .................................................. 14 
1. 
Un risque réel d’élévation du niveau de menace informationnelle, mais un impact encore modéré 
à date ........................................................................................................................................................................... 14 
a. 
Un risque d’accroissement de la réactivité des acteurs étrangers malveillants ........................... 14 
b. 
Un risque d’accroissement de la furtivité des manœuvres informationnelles ............................. 14 
c. 
Une évolution modérée de la menace à ce stade. .............................................................................. 15 
2. 
Perspectives d’évolution de la menace informationnelle liée à l’IA ..................................................... 15 
a. 
Vers une altération du rapport à la réalité ? ........................................................................................ 15 
b. 
Risques liés à la prolifération de contenus synthétiques .................................................................. 16 
c. 
Risque de pollution et d’auto-dégradation des modèles d’IA .......................................................... 16 
III. L’IA comme opportunité en appui des opérations de lutte contre les manipulations de l’information18 
1. 
L’expérience du service VIGINUM ............................................................................................................... 18 
a. 
Le Datalab de VIGINUM : l’analyse avancée de données au service des opérations .................. 18 
b. 
Cas d’usage de l’IA pour la lutte contre les ingérences numériques étrangères ......................... 20 
i. 
Analyse sémantique de contenus textuels ...................................................................................................... 20 
ii. 
Construction d’une chaîne de traitement pour explorer le contenu de vidéos ....................................... 21 
iii. 
Détection de duplications massives de contenus .......................................................................................... 23 
iv. 
Détection de bots ................................................................................................................................................ 24 
v. 
Détection de contenus générés par IA ............................................................................................................ 24 
2. 
Les expériences issues de la société civile ................................................................................................ 25 
 
Point de vue de Lupa, agence brésilienne de fact-checking ............................................................ 25 
b. 
Point de vue de Full Fact, organisation britannique indépendante de fact-checking ................ 26 
Conclusion ....................................................................................................................................................................... 27