Brochure-Referentiel-6.pdf — page 21

Pôle d’excellence cyber
Pôle d’excellence cyber
40 - référentiel CYBER V6.1 - Février 2021
Février 2021 - référentiel cyber V6.1 - 41
La normalisation d’une démarche d’évaluation / certification opérationnelle de 
ce type devrait voir le jour d’ici quelques années sous l’impulsion de l’ENISA 
et des Agences Nationales de Sécurité qui vont multiplier les investissements 
autour de cette thématique.
B.6.5 _Big data, technologies dédiées  
à l’implémentation de solutions d’IA
Aujourd’hui branche phare de l’IA, l’apprentissage statistique (Machine Lear-
ning, Deep Learning) requiert massivement un accès aux données. Or, ces 
données sont souvent la propriété de quelques acteurs et leur accès peut être 
complexe, notamment pour des domaines sensibles tels que la cybersécurité. 
Précisons ci-dessous les enjeux spécifiques à la constitution, au transport et à 
l’exploitation de ces jeux de données.
Sans préjuger de la solution adoptée, un besoin en traitement numérique se 
décomposera systématiquement en questions élémentaires associées aux ca-
tégories suivantes :
• Estimation de paramètres dans un système ;
• Classification (appariement à des classes prédéterminées) et partitionnement 
de données (clustering) (classes non prédéterminées) ;
• Prédiction pour anticipation de séries temporelles ;
• Commande optimale (planification de suite d’opérations).
En s’appuyant sur les performances atteintes par les processeurs, l’apprentissage 
statistique a connu ces dernières années des progrès spectaculaires dans toutes 
ces catégories : détermination de paramètres physiologiques, reconnaissance 
d’images, traitement du langage naturel, transport autonome, cybersécurité. 
Les techniques utilisées reposent toutes sur l’exploitation de données massives.
Ces données sont soit issues du terrain, ce qui est nécessaire en l’absence de 
modèle descriptif, soit synthétisées quand un modèle descriptif permet des 
simulations extensives.
S’agissant de la constitution de bases de données terrain, il est crucial de 
disposer d’une capacité de collecte et de création de données dans les 
domaines d’application visés. Dans cette perspective, l’Internet des Objets (IoT), 
qui présente une complémentarité symbiotique avec l’IA, pourra permettre la 
capture, la numérisation et la centralisation des données physiques alimentant 
les algorithmes de prédiction et de prise de décision. 
Concernant la génération de données synthétiques, des capacités de calcul 
sont requises dès la phase de simulation ainsi que des capacités de stockage 
pour les données générées.
Dans les deux cas, l’exploitation nécessite des capacités réseaux pour l’achemine-
ment des données vers des plateformes disposant de capacités de stockage et 
de calcul intensif. Ces plateformes devront répondre aux enjeux de confidentialité 
et de souveraineté des projets demandeurs et les offres de « Clouds privés » 
fournies par des acteurs de confiance sont à privilégier.
Ces plateformes doivent s’appuyer sur des architectures matérielles et 
logicielles à l’état de l’art. Au niveau matériel, l’infrastructure doit être 
dimensionnée pour héberger plusieurs centaines de téraoctets de données 
et fournir du traitement sur différents types de processeurs (CPU, GPU, 
FPGA…). 
Au niveau logiciel, le volume de données visé privilégie des bases de données 
de type NoSQL avec, par exemple, des canevas logiciels issus de l’open 
source comme Hadoop, ElasticSearch… 
L’offre de service de ces plateformes doit également inclure l’instanciation 
à la demande de pipeline de traitement de données se basant sur des 
librairies d’apprentissage statistique à l’état de l’art comme Spark, TensorFlow, 
PyTorch, Scikit-Learn.
B.6.6 _Hyper-trucage (Deepfake), enjeu de 
cybersécurité des contenus numériques
Depuis 2018, la génération de contenus audiovisuels réalistes a connu des 
progrès fulgurants11, 12, 13. Ces succès sont la conséquence d’une maîtrise 
sans cesse plus grande des techniques d’apprentissage automatique gé-
nératif comme les Generative Adversarial Networks (GAN14), apparentées 
au Deep Learning, et de rendu synthétique. Les GAN sont précisément 
conçus pour imiter des phénomènes observés au sein de grandes bases de 
données. L’une des applications dérivées de la génération du contenu est 
la manipulation automatique des images de visage, devenue omniprésente 
et génériquement appelée hyper-trucage (Deepfake). Cette technologie 
permet entre autre de travestir de façon réaliste les attitudes ou propos 
d’une personne et conduit inéluctablement à la création de fausses infor-
mations visuelles. Sa démocratisation pose déjà des problèmes éthiques 
et sociétaux. Elle est devenue un enjeu de cybersécurité de premier plan.
En pratique, quatre familles d’hyper-trucage se dégagent : la synthèse in-
tégrale de visage, la modification d’un ou plusieurs attributs du visage, 
le remplacement d’une expression du visage par une autre ainsi que 
l’échange de visage15, 16. Les mêmes stratégies peuvent être transposées 
sur une autre modalité comme l’audio en synthétisant ou changeant l’ex-
pressivité d’une voix17. Pour distinguer parmi les contenus multimédia ces 
créations visuelles artificielles, l’urgence est de proposer des solutions de 
détection fiables et efficaces. C’est d’ores et déjà l’objectif assigné à des 
défis planétaires18. La mise au point de ces détecteurs nécessite une com-
préhension approfondie des mécanismes de Deepfake. Rétroactivement, 
l’amélioration des détecteurs présentera de nouveaux défis pour les géné-
rateurs, structurant la thématique du Deepfake selon un paradigme adver-
saire générateur-détecteur.
11 Nhu-Tai Do et al. 2018: « Forensics Face Detection from GANs using Convolutional Neural Networks », qui introduit les structures GANs dans ce context d’application,
12 Xin Yang et al. 2018 : « Exposing Deep Fakes Using Inconsistent Head Poses », qui s’appuie sur des incohérences dans les attitudes mesurables du visage,
13 A. Rössler et al. 2019 : « FaceForensics++: Learning to Detect Manipulated Facial Images », qui réalise une comparaison de toutes les méthodes utilisées dans la 
détection de deepfake.
14 Ian J. Goodfellow, Jean Pouget-Abadie, Mehdi Mirza, Bing Xu, David Warde-Farley, Sherjil Ozair, Aaron Courville et Yoshua Bengio, « Generative Adversarial 
Networks », dans Advances in Neural Information Processing Systems 27, 2014
15 http://studios.disneyresearch.com/2020/06/29/high-resolution-neural-face-swapping-for-visual-effects/
16 https://techcrunch.com/2019/05/22/mona-lisa-frown-machine-learning-brings-old-paintings-and-photos-to-life/
17 https://www.ohadf.com/projects/text-based-editing/
18 https://ai.facebook.com/blog/deepfake-detection-challenge/