LMI_Tome2_PEC2024.pdf — page 38

Pôle d’excellence cyber
38
Dans un message sur Linkedin(1), un participant à la 
conférence Responsible Artificial Intelligence in the Military 
Domain(2) en septembre 2024 à Séoul synthétise les points 
sur lesquels il a dû intervenir lors d’une table ronde : 
•	
Comment les normes civiles de l’IA peuvent-
elles être adaptées à d’autres applications ?
•	
Quels 
sont 
les 
défis 
éthiques 
dans 
le 
développement de l’IA pour toute utilisation ?
•	
Pourquoi 
une 
évaluation 
continue 
est-
elle cruciale pour une IA responsable ?
Il met en parallèle avec cette conférence les 
objectifs du projet AI for Defense qui est soutenu 
et financé par la Commission européenne dans le 
cadre du Programme européen de développement 
industriel dans le domaine de la défense (EDIDP).
Les notions de défis éthiques et d’évaluation continue 
à caractère crucial sous-entendent que l’intelligence 
artificielle porte des risques consubstantiels à ses 
principes de développement et d’exploitation.  
L’adaptation des normes civiles de l’IA et leur 
adaptation aux applications militaires postule que 
ce sont les normes civiles qui doivent s’adapter 
aux usages militaires afin de les encadrer.  
Au vu de ces enjeux, l’Union Européenne a promulgué 
en juillet 2024 un texte appelé AI Act ou Règlement sur 
l’intelligence Artificielle (RIA) qui définit différents niveaux 
de risques pour les systèmes d’intelligence artificielle : 
systèmes interdits, systèmes à haut risque, à risque 
modéré, à risque faible.  Chaque niveau de risque implique 
pour les parties prenantes - producteur, déployeur 
ou utilisateur - différents types de contraintes.  Les 
systèmes d’intelligence artificielle à usage général, comme 
le sont les modèles de langage et son représentant 
le plus connu ChatGPT sont soumis eux aussi à des 
obligations.  Un principe essentiel de cette réglementation 
concerne directement le secteur de la défense : ses 
applications sont exclues de son champ d’application.  
Elles doivent donc être régulées par ailleurs.  De l’autre 
côté de l’Atlantique, on s’intéresse aussi aux risques de 
l’IA.  Le Massachussets Institute of Technology publie un 
article(3)assorti d’une base de données recensant 3000 
événements réels d’incidents liés à l’IA, à partir de laquelle 
et après une étude systématique de la littérature actuelle 
ainsi que la synthèse de 43 modèles de classification 
des risques, dégage une taxonomie près de 800 risques 
avérés liés à l’intelligence artificielle.  Ils les classes en deux 
niveaux : un niveau lié aux causes, aux intentions, et un 
niveau de domaines et de sous-domaines de risques.
Notons que la mésinformation ou la déformation est 
un sous-domaine de risques clairement identifié par les 
auteurs de cette étude, réalisée à partir de la synthèse 
de 43 matrices de classement des risques de l’IA.
Les auteurs constatent que les risques liés à l’intelligence 
artificielle causant de la pollution informationnelle ou des 
biais de perception de la réalité sont peu explorés dans la 
littérature.  Ils relèvent aussi que la majeure partie (75%) des 
risques recensés sont le fait des algorithmes et non d’une 
volonté humaine (13%), or ce sont bien ces opérations 
d’influence avec comme vecteur l’intelligence artificielle 
qui méritent une description publique.  Les scientifiques 
pourront ainsi s’en saisir et mieux les intégrer dans les 
modèles de connaissances dont le secteur a besoin.
Seulement 1% des risques recensés ou décrits dans la 
littérature concernent la pollution informationnelle ou la 
distorsion de la perception de la réalité par de l’intelligence 
artificielle.  Ce chiffre très faible ouvre sur de futurs 
travaux qui permettraient de compléter par exemple 
la matrice DISARM par un sous-ensemble décrivant 
IA, risques et désinformation
Dr Jean-Philippe RIANT
Directeur conseil 
en intelligence artificelle 
et communication digitale
L’intelligence artificielle présente de très nombreuses opportunités 
d’innovation, mais c’est par l’analyse de ses risques que s’organise aussi le 
débat sur son potentiel.