Maquette-IA-DEFENSE_2025_VDEF_WEB.pdf — page 70

Pôle d’excellence cyber
70
SALA - SALIA, une distinction « de confiance » ?
L’affirmation française d’un Terminator qui ne 
défilerait pas au 14 juillet[1] trouva sa force morale, en 
2021, dans une distinction réalisée entre les Systèmes 
d’Armes Létaux Autonomes (SALA) et les Systèmes 
d’Armes Létaux Intégrant de l’Autonomie (SALIA)[2]. 
C’est une position de principe (et d’experts !) fondée 
sur les capacités d’une machine à définir seule sa cible, 
c’est-à-dire à disposer d’une faculté de choix (d’où le 
terme autonomie) sans toutefois en être responsable 
(c’est là que l’autonomie technique se distingue de 
celle humaine). C’est une réponse au « syndrome 
Terminator » cette crainte de la domination, par les 
armes, de la race robotique sur la race humaine, qui 
fut mis en avant dès 2012.   
La réponse française n’est pas isolée puisqu’elle fait 
écho aux discussions menées sur ce sujet au sein 
de l’enceinte de la Convention sur certaines armes 
classiques (CCAC). En effet, depuis douze ans, un 
groupe d’experts gouvernementaux travaille sur la 
mise en place d’un cadre normatif et opérationnel 
applicable aux SALA[3].  
Au début, l’approche était très technico centrée, 
braquée sur le besoin de trouver des « paramètres 
techniques de rupture » dont l’activation engendrerait 
une déshumanisation complète des conflits et donc 
une interdiction de la technologie. Or aucune des 
trois faces de la technologie n’en comportent per ipse 
qu’il s’agisse de la première face « IA » qui permet 
l’adaptation d’un système à son environnement, de la 
deuxième face « vecteur » qui permet l’évolution du 
système dans un environnement et de la troisième 
face « létalité » qui permet la rupture de et avec son 
environnement[4].  
 
Les débats ont ainsi évolué vers une approche 
humano-centrée fondée sur les capacités humaines 
à maîtriser cette technologie tout le long de son cycle 
de vie. Cela a construit une dernière approche dite 
à double entrée (“Two tier approach”) qui consiste 
en un renoncement aux SALA opérant en dehors 
de toute forme de contrôle humain («  pleinement 
autonomes ») et en une mise en œuvre des mesures 
nécessaires afin de garantir que les systèmes d’armes 
létaux dotés d’autonomie dans leurs fonctions 
critiques (« partiellement autonomes ») soient 
développés et utilisés en conformité avec le droit 
international humanitaire[5]. Nous retrouvons, en 
substance, l’approche française fondée sur la place 
de l’homme dans la boucle décisionnelle homme-
machine comme élément classificateur. Ce qui est à 
la fois très ambitieux et particulièrement ardue et ce, 
pour deux raisons.  
 
La première des raisons est que le contrôle humain 
n’étant pas une seule chose indivisible[6], les travaux 
au sein de l’article 367 devront être précis quant à la 
panoplie d’actions de contrôle spécifiques à opérer, 
des premiers temps de développement jusqu’aux 
derniers sorts jetés sur terrain. Ce n’est pas tant 
la technologie qu’il faudra ainsi éprouver mais 
l’efficacité du contrôle humain à travers des critères de 
performance préalablement définis. Ce changement 
de paradigme exprime bien le défi sous-jacent de ce 
qu’on appelle la confiance en IA qui vise en réalité 
à opérer une réduction de l’imprévisibilité de cette 
technologie par une prévisibilité accrue de ceux qui 
vont l’opérer.  
La seconde raison est que les caractéristiques de 
ces nouvelles procédures de contrôle devront être 
idéalement partagées par chaque pays les mettant 
en œuvre afin de tendre vers une compréhension, 
voire une adoption commune de celles-ci. Un 
exercice de transparence qui s’inscrira utilement 
dans l’écriture d’une vision commune, non moins 
du visage de la guerre pour demain, mais bien 
plus pragmatiquement, des intérêts communs 
à protéger pour garantir une forme de stabilité 
internationale. Il y va de la confiance dans nos 
institutions internationales et in fine, dans l’État 
et sa capacité à savoir et pouvoir répondre à cette 
promesse technologique.  
Ysens de FRANCE 
Docteur en droit international
Chargée de mission IA Gendarmerie nationale