Maquette-IA-DEFENSE_2025_VDEF_WEB.pdf — page 62

Pôle d’excellence cyber
62
Systèmes d’Armes Létales Autonomes 
– aspects juridiques
« Le déploiement de l’IA est donc un défi 
multidimensionnel, qui doit donc être compris 
pour ce qu’il est : l’instrument de la puissance au 
XXIe siècle  »[1]. L’Europe s’est récemment dotée 
d’un règlement établissant des règles harmonisées 
concernant l’intelligence artificielle. Toutefois, ce 
règlement n’a vocation à régir que les usages civils 
de l’IA au sein de l’Union européenne et ne s’applique 
pas aux systèmes d’IA utilisés à des fins militaires, de 
défense ou de sécurité nationale. 
Se pose alors la question du régime juridique 
applicable aux usages militaires de l’IA. Le droit 
international 
humanitaire, 
notamment 
les 
Conventions de Genève (1949) et leurs protocoles 
additionnels, impose des règles applicables à toutes 
les armes, y compris les SALA. Ces textes établissent 
des principes fondamentaux, tels que :
•	
Le principe de distinction, qui impose aux 
belligérants de distinguer les combattants et la 
population civile, ainsi que les biens civils et les 
objectifs militaires ;
•	
Le principe d’humanité, qui vise à alléger et, dans 
la mesure du possible, éviter les maux superflus 
engendrés par le recours à la force ;
•	
Le principe de discrimination ou de précaution, 
qui intervient lorsqu’une opération militaire 
présente des risques pour les populations civiles ;
•	
Le principe de proportionnalité impliquant que 
les attaques ne doivent pas causer des dommages 
excessifs aux civils par rapport à l’avantage 
militaire attendu ;
•	
Le principe d’interdiction des maux superflus, 
qui interdit de causer des dommages ou des 
souffrances qui ne sont pas nécessaires pour 
atteindre des buts strictement militaires et 
l’affaiblissement du camp adverse. 
Si, d’un point de vue éthique et juridique, de 
nombreux systèmes d’IA utilisés par l’armée peuvent 
probablement être régis par des principes similaires 
à ceux qui sont retenus, selon le cas, dans le domaine 
civil ou, s’agissant d’armes, par le droit international 
humanitaire, des systèmes tels que les Systèmes 
d’Armes Létales Autonomes (SALA), ou “killer robots”, 
eux, soulèvent à l’échelle mondiale des questions 
beaucoup plus spécifiques. 
Malgré l’existence de nombreuses initiatives et forums 
internationaux de discussions et de négociation sur 
la régulation des SALA, à commencer par les travaux 
du groupe d’experts gouvernementaux (GEG) au 
sein de la Convention sur certaines armes classiques 
(CCAC)[2], aucun accord contraignant n’a encore été 
adopté. En effet, la principale difficulté reste l’absence 
de consensus entre des pays ayant des intérêts 
stratégiques divergents.
Ainsi, le concept de « contrôle humain significatif » 
est une exigence relativement consensuelle dans 
les débats internationaux sur les SALA. Cependant, 
ce consensus apparent masque des différences 
significatives dans leur interprétation et application 
par les pays, influencés par leurs doctrines militaires, 
leur 
niveau 
technologique 
et 
leurs 
objectifs 
stratégiques. 
L’autonomie dans les SALA se réfère à la capacité 
d’un système à effectuer des tâches sans intervention 
humaine directe, en utilisant des algorithmes pour 
prendre des décisions basées sur des données 
reçues en temps réel, tandis que le contrôle 
humain 
significatif 
implique 
qu’un 
opérateur 
humain doit pouvoir superviser et intervenir dans le 
processus décisionnel critique, en particulier lors de 
l’identification et de l’engagement des cibles.
A titre d’exemples :
•	
Le Parlement européen adopte une position 
stricte, exigeant que toutes les décisions critiques 
Anne-Laure GAILLARD
Avocate en droit du numérique passionnée par les sujets d’éthique et de souveraineté
Withlaw Avocats