20250207_NP_SGDSN_VIGINUM_Rapport menace informationnelle IA_VF.pdf — page 15

15 
 
 
c. Une évolution modérée de la menace à ce stade 
Si l’IAg accroît la capacité des acteurs malveillants à produire de grands volumes de contenus sur les 
plateformes en ligne, cela ne semble pas constituer à ce stade une véritable rupture dans le champ des 
manipulations de l’information. 
En effet, la qualité des contenus générés ne présume pas nécessairement de leur impact sur les audiences 
visées. Certaines recherches ont d’ailleurs démontré que des contenus manipulés exploitant des méthodes 
moins sophistiquées (« cheapfakes ») peuvent être aussi nuisibles que des contenus synthétiques 
sophistiqués22. À titre d’exemple, de vraies images, non générées par IA, mais instrumentalisées ou 
décontextualisées dans le cadre de manœuvres informationnelles, peuvent avoir un impact important23.  
En outre, si l’IAg permet d’accélérer les capacités de production et de dissémination de contenus et 
d’abaisser leur coût, elle ne permet pas encore de résoudre les défis liés à leur diffusion et leur viralité 
auprès de nouvelles audiences, qui demeurent le principal frein des manœuvres informationnelles24 25. 
Aussi, et avec toute la prudence requise, l’intelligence artificielle semble aujourd’hui représenter davantage 
une « évolution » qu’une « révolution » en matière de menace informationnelle. Elle permet en effet une 
« industrialisation » des modes opératoires existants, avec des volumes de production bien supérieurs et à 
un moindre coût, mais ne semble pas encore avoir contribué à la création de modes opératoires inédits. 
Néanmoins, les évolutions technologiques rapides en matière d’IA présentent des risques structurels en 
termes de menace informationnelle à moyen et à long terme. 
2. Perspectives d’évolution de la menace informationnelle liée à l’IA 
a. Vers une altération du rapport à la réalité ? 
La généralisation et l’accélération des capacités des modèles d’IAg font craindre le risque d’une 
prolifération massive de contenus générés par des outils d’IA sur les plateformes en ligne. Cette tendance 
peut déjà être observée sur certaines plateformes de réseaux sociaux (YouTube, LinkedIn, TikTok, Pinterest) 
et concerne également la production de médias synthétiques.  
Sur le long terme, ce phénomène pourrait être susceptible d’accroître la méfiance des utilisateurs, et plus 
largement du grand public, à l’encontre de tout contenu en ligne, que celui-ci soit authentique ou non, et 
d’induire progressivement une forme de défiance envers la notion même d’information. L’essor de ces 
technologies pourrait ainsi provoquer un scepticisme généralisé (« deep doubt »), faisant peser pour les 
citoyens le risque d’une altération profonde de leur rapport à la réalité. C’est ce que constatent les auteurs 
d’un rapport de l’Institute for Strategic Dialogue (ISD) sur le rôle de l’IA dans les élections américaines de 
2024 : « (…) bien souvent, les contenus dont discutaient les gens n'étaient pas générés par l'IA, mais c’est le 
« spectre » de l’IA qui a eu un impact. L’IA donne l’occasion aux gens de nier la réalité comme ils le font déjà, 
mais de manière encore plus intense26 ». 
                                                        
22 M. Hameleers, « Cheap Versus Deep Manipulation: The Effects of Cheapfakes Versus Deepfakes in a Political Setting », 
International Journal of Public Opinion Research, 2024, vol. 36, pages 1–9, https://doi.org/10.1093/ijpor/edae004  
23 A titre d’exemple, en octobre 2023, 250 pochoirs figurant des étoiles de David sont retrouvés sur des murs à Paris et proche 
banlieue. Des photographies de ces pochoirs ont ensuite été diffusées et amplifiées de manière inauthentique sur les réseaux 
sociaux. L’opération a été dénoncée par la France : https://www.diplomatie.gouv.fr/fr/dossiers-
pays/russie/evenements/evenements-de-l-annee-2023/article/russie-nouvelle-ingerence-numerique-russe-contre-la-france-09-11-23. 
24 A. Narayanan et S. Kapoor, « The LLaMA is out of the bag. Should we expect a tidal wave of disinformation? », AI Snake Oil, 6 mars 
2024, https://www.aisnakeoil.com/p/the-llama-is-out-of-the-bag-should  
25 A. Narayanan et S. Kapoor, « We Looked at 78 Election Deepfakes. Political Misinformation is not an AI Problem. », AI Snake Oil, 
13 décembre 2024, https://www.aisnakeoil.com/p/we-looked-at-78-election-deepfakes 
26 « L’IA n’a pas chamboulé l’élection américaine, mais elle a changé le rapport à la réalité » de Radio-Canada. https://ici.radio-
canada.ca/nouvelle/2120725/intelligence-artificielle-campagne-electorale-etats-unis-trump-harris