LMI_Tome2_PEC2024.pdf — page 35

35
générative peuvent être utilisées pour créer de fausses 
vidéos ou des enregistrements audio très réalistes, et 
un rapport d’EUROPOL établit d’ailleurs quels sont les 
grands enjeux relatifs à la menace des deepfakes du 
point de vue des forces de maintien de l’ordre public(4).
•	
Activité Web automatisée : des avatars ou des 
robots peuvent être utilisés pour usurper ou créer 
des comptes sur les réseaux sociaux, amplifier 
certains messages ou diffuser des informations 
erronées, créant l’illusion d’un soutien ou d’une 
opposition généralisée pour une cause particulière(5).  
  
Utilisation 
de 
l’IA 
pour 
contrer 
les 
attaques 
informationnelles
L’IA peut être exploitée de diverses manières pour contrer 
les attaques informationnelles et atténuer la propagation 
de la désinformation.  Voici quelques exemples :
•	
Détection et surveillance : les algorithmes 
d’exploration de données sont utilisés pour 
surveiller les plateformes de médias sociaux, les 
sites Web d’information et les forums en ligne à la 
recherche de signes d’activité suspecte, tels que des 
campagnes coordonnées ou des réseaux de robots(6).  
•	
Vérification du contenu : les réseaux d’apprentissage 
profonds permettent de vérifier la véracité 
d’allégations textuelles, l’authenticité des images, des 
vidéos et des enregistrements audio pour identifier les 
contrefaçons profondes ou les médias manipulés(7) .  
•	
Analyse et attribution : des techniques IA 
d’analyse comportementale, de classification, 
d’identification et de pistage permettent d’attribuer 
les origines des campagnes de désinformation, 
suivre leur évolution au fil du temps et découvrir 
les liens entre les différents acteurs impliqués(8).
•	
Réponse et atténuation : l’IA générative peut aider 
à créer des contre-récits et des réponses fondées 
sur des faits, éduquer le public et promouvoir les 
compétences de pensée critique(9).  Des assistants 
virtuels peuvent, par exemple, répondre aux questions 
des internautes relatives à la désinformation.
•	
Évaluation et amélioration : des algorithmes 
d’apprentissage par renforcement sont utilisés 
pour évaluer l’impact des actions de contre-
attaque et suivre leurs évolutions dans le temps(10).  
Des techniques d’IA cognitive permettent 
d’augmenter l’efficacité des équipes de réponse.  
En suivant ces étapes et en tirant parti des capacités 
de l’IA, les parties prenantes peuvent développer 
des stratégies plus solides et plus efficaces 
pour lutter contre la désinformation et protéger 
l’intégrité des écosystèmes d’information en ligne.
La sophistication des deepfakes et la diffusion des robots 
sociaux sont des tendances fortes en matière d’attaques 
informationnelles.  Contrairement aux techniques 
traditionnelles, des modèles génératifs, tels que les réseaux 
antagonistes génératifs et les transformeurs multimodaux, 
peuvent créer des contenus et des comportements d’un 
réalisme confondant.  En contrepartie, les systèmes de 
fouille de donnée permettent d’améliorer la surveillance 
en temps réel des plateformes de médias sociaux, des 
sites Web d’information et des forums en ligne, afin 
de détecter et de signaler les contenus suspects dès 
leur apparition.  Par ailleurs, des techniques d’analyse 
multimodale permettent une détection plus robuste des 
deepfakes, des médias manipulés et d’autres formes de 
désinformation visuelle.  A mesure que l’IA pénètre les 
usages des attaquants, des victimes et des défenseurs, les 
vulnérabilités inhérentes à cette technologie deviennent 
plus critiques.  Il en résulte une course à l’expertise en 
matière d’IA antagoniste, la brique technologique clef 
commune à toutes les parties.  Ce besoin de renforcement 
de la sécurité de l’IA est à la croisée des chemins, entre la 
science des données, la lutte informationnelle et la lutte 
informatique défensive.  Une fusion des compétences 
entre ces trois métiers semblerait nécessaire.  Cet 
apprentissage peut être soutenu par l’introduction d’outils 
de collaboration intelligents, de systèmes d’entraînement 
immersifs, et de plateformes éducatives augmentées 
par l’IA.  La lutte contre la désinformation est l’affaire 
de tous : individus, entreprises, force de l’ordre, acteurs 
régaliens et coopérations internationales.  Il s’agit ici 
de mettre l’IA au service de l’intelligence collective.