20250207_NP_SGDSN_VIGINUM_Rapport menace informationnelle IA_VF.pdf — page 11

11 
 
 
ii. Suède : point de vue de l’Agence de Défense Psychologique  
L’Agence de Défense Psychologique Suédoise (MPF) a pour mission de contrer les manipulations de 
l'information et les ingérences étrangères visant la Suède et ses intérêts.  
L'intelligence artificielle (IA), en particulier l'intelligence artificielle générative, transforme le paysage de la 
manipulation de l'information, permettant aux acteurs adverses de produire à très grande échelle une 
désinformation réaliste et peu coûteuse. Cela inclut notamment la génération de textes, d'images, de vidéos, 
de documents et d'extraits sonores fabriqués de toutes pièces, conçus pour manipuler les perceptions du 
public, éroder la confiance des citoyens et déstabiliser les institutions démocratiques. Des acteurs hostiles 
tels que la Russie, la Chine et l'Iran, ainsi que des groupes à motivation idéologique, exploitent l'IA de manière 
croissante pour créer des campagnes de désinformation sur mesure qui trouvent un écho auprès de publics 
spécifiques, en s'appuyant sur des modèles d'IA open source pour en contourner les restrictions. 
L'un des principaux défis consiste à atténuer et à limiter la diffusion de la désinformation générée par l'IA, 
qui se propage rapidement et efficacement par le biais des médias sociaux et d'autres plateformes 
numériques. Ce contenu va des « deepfakes » sophistiqués aux « cheap fakes », des manipulations plus 
simples conçues pour une diffusion virale. L'accessibilité croissante de l'IA a brouillé les frontières entre le 
contenu authentique et le contenu manipulé, créant ce que les spécialistes appellent le « dividende du 
menteur », où même les contenus authentiques peuvent être mis en doute comme étant faux. Ces évolutions 
compliquent le fact-checking, accentuent la polarisation de la société et posent des défis importants à la 
résilience démocratique. 
L'IA est principalement utilisée pour le blanchiment d'informations et l'amplification du contenu. Par 
exemple, des entités russes ont créé des sites web ressemblant à des sites d’actualité européens et 
américains légitimes. Ces sites, qui font partie d'opérations d'information telles que « Döppelgänger20 », 
servent de « portails alimentés par l'IA » contrôlés par des intérêts russes. Les articles hébergés sur ces sites, 
dont le texte a été généré par l'IA, ont été disséminés via des réseaux de bots et des intermédiaires sur les 
plateformes de médias sociaux, et amplifiés par des réseaux coordonnés afin d’en maximiser la portée et 
l'impact. Ces opérations s'étendent souvent au-delà des médias sociaux, afin de rendre les campagnes de 
désinformation plus difficiles à identifier et à contrer. 
Des acteurs étatiques et non étatiques motivés des convictions idéologiques ont exploité l'IA pour inciter à 
la division et amplifier les préjugés. Par exemple, des images générées par l'IA représentant des musulmans 
caricaturaux et menaçants ont été utilisées pour alimenter la haine envers les musulmans, et ces contenus 
ont été largement diffusés sur les médias sociaux par le biais de hashtags. Cette stratégie vise à normaliser 
les préjugés, et à les intégrer dans le discours dominant. De même, des clips vidéo manipulés, tels que ceux 
représentant des politiciens américains parlant chinois, peuvent manquer de sophistication mais restent des 
outils efficaces pour diffuser de la désinformation. 
Parmi les autres exemples, peuvent être cités la génération de clips vidéo ou la production de contenus 
synthétiques visant à tromper les utilisateurs. Avant les élections américaines, les autorités ont identifié le 
groupe Storm-1516 comme responsable de plusieurs campagnes d'influence très médiatisées, qui 
s'appuyaient sur de faux journalistes, de faux lanceurs d’alertes et sur des photos manipulées. En outre, les 
contenus synthétiques créés par des individus ont accentué la saturation de l'espace informationnel, rendant 
la détection et la lutte contre la désinformation de plus en plus difficiles. 
Malgré ces avancées, la menace sous-jacente reste ancrée dans les tactiques d'influence traditionnelles 
adaptées aux nouvelles plateformes. L'IA a simplement amplifié ces techniques, les rendant plus 
généralisées, et plus difficiles à détecter. Pour faire face à ces défis, il est nécessaire d’avoir une population 
bien informée et résiliente, capable de résister aux manipulations adverses. La défense psychologique doit 
être un effort collaboratif impliquant les agences gouvernementales, les municipalités, la société civile, les 
organisations privées et le grand public. Il s'agit notamment de sensibiliser la population par le biais de 
campagnes ciblées, d'efforts d’éducation, de formation et la conduite d'exercices. La recherche démontre 
qu'une meilleure connaissance et une plus grande sensibilisation réduisent la vulnérabilité à la manipulation, 
renforçant ainsi les fondements d'une société ouverte et démocratique. » 
                                                        
20 VIGINUM a documenté cette campagne sous le nom de RRN. 
«