20180719-NP-CICDE-CEIA-3.0.2-IA-et-SYST.AUT-2018.pdf — page 17

17 
d. 
l’intelligence artificielle, en tant que simple logiciel, est réplicable : on peut la dupliquer 
autant de fois que possible dans des systèmes existants. Pour certaines applications, 
elle est plus rapide, plus réactive et plus précise que l’homme ; 
e. 
dans un monde où la vitesse est devenue un facteur clé, la possibilité pour 
l’intelligence artificielle d’analyser et de proposer une réponse presque instantanément 
est un atout stratégique décisif ;  
f. 
de même, la capacité de réaction instantanée des systèmes automatisés et de 
l’intelligence artificielle combinés tend à devenir indispensable aux fonctions 
d’autoprotection des plates-formes aériennes, navales ainsi que, dans l’avenir, des 
plates-formes et bases terrestres ; 
g. 
les adversaires des forces armées françaises, que ce soit, dans des conflits 
asymétriques liés au terrorisme, ou dans des scénarios d’affrontement de puissances, 
disposent ou disposeront de vecteurs automatisés armés susceptibles de leur conférer 
un avantage opérationnel. Les options alternatives aux systèmes automatisés armés, 
apportant les mêmes niveaux de persistance, d’endurance et de fulgurance, ne sont 
pour l’instant pas identifiées. Si la France n’est pas en mesure d’employer ces mêmes 
capacités pour obtenir les avantages opérationnels décrits précédemment, elle risque 
un déclassement opérationnel majeur.  
h. 
les systèmes automatisés peuvent constituer une réponse face à un ennemi utilisant 
des modes d’actions imprévus ou aux systèmes contre lesquels les moyens 
conventionnels ont une efficacité limitée (mines furtives, armes à énergie dirigée, 
robots armés…). Ils peuvent être employés également dans des engagements à 
caractère défensif plus marqué, dans le cas d’une défense de zone contre des 
essaims de drones par exemple. 
207. 
Enjeux sur l’interopérabilité : 
a. 
les principaux alliés (États-Unis, Royaume-Uni, etc.) disposent de systèmes téléopérés 
armés, essentiellement aériens. Ces systèmes sont déjà employés en opération, 
principalement par les États-Unis. Les forces armées françaises pourraient se 
retrouver dans une problématique d’interopérabilité si elles n’étaient pas en mesure de 
suivre l’accélération du tempo opérationnel apportée par les systèmes automatisés 
(boucle courte observation-orientation-décision-action).  
208. 
Les risques opérationnels sont : 
a. 
risques liés à :  
(1) 
des attaques cyber pouvant entraîner le piratage, la prise de contrôle la 
reprogrammation, etc., 
(2) 
du brouillage limitant ou interdisant l’emploi ou la supervision ; 
b. 
risque de mauvaises programmations du système (qualité insuffisante des données 
d’apprentissage, incomplétude ou mauvaises bases de menaces et de tactiques, etc.) ; 
c. 
risque que l’opérateur et/ou le commandement ne comprennent pas suffisamment le 
fonctionnement du système et l’emploient de façon erronée, ce qui peut induire un 
manque de confiance dans le système ; 
d. 
risque que les utilisateurs du système finissent par avoir le sentiment d’un système 
(intelligence artificielle) infaillible et perdent tout sens critique, alors même que : 
(1) 
les algorithmes d’intelligence artificielle peuvent ne pas être adaptés à un 
scénario opérationnel et à des menaces non prévus (effet de surprise par 
exemple). Dans ces conditions, les résultats obtenus peuvent ne pas 
correspondre à la situation opérationnelle réelle,