caia-125-bd-ok.pdf — page 70

68
LE MAGAZINE DES INGÉNIEURS DE L’ARMEMENT - N°125
ÉTHIQUE, NORMES ET RÉGLEMENTATION
Catherine Tessier, 
Référente intégrité 
scientifique et 
éthique de la 
recherche de 
l’ONERA
Référente intégrité scientifique et éthique 
de la recherche de l’ONERA
Membre du Comité d’éthique de la 
défense et du Comité national pilote 
d’éthique du numérique
« AUTONOMIE » : POLYSÉMIE, 
CONFUSION, ÉTHIQUE
Par Catherine Tessier, ONERA
Un drone peut être qualifié d’« auto­
nome », ou bien de « partiellement » 
ou « semi autonome », ou encore, 
comme le dit le Comité d’éthique de 
la défense, comme «  intégrant de 
l’autonomie  ». Cependant l’usage 
des termes « autonomie » et « au­
tonome » pour caractériser un objet 
est problématique à plusieurs titres 
[Steels21]. 
Le premier problème est d’ordre sé­
mantique. Dans l’expression « drone 
autonome », « autonome » est em­
ployé selon l’acception de la robo­
tique  : un robot «  autonome  » est 
une machine mobile dotée de ca­
pacités programmées de perception 
et de calcul d’actions qu’elle effec­
tue dans son environnement, sans 
intervention extérieure, ces actions 
étant spécifiées dans un cahier des 
charges précis. Or l’acception cou­
rante du mot « autonomie », à pro­
pos d’êtres vivants et particulière­
ment d’êtres humains, est la faculté 
de déterminer ses propres objectifs 
et de choisir librement ses actions. Il 
se crée alors une confusion entre les 
acceptions, source de malentendus, 
de craintes ou d’attentes infondées, 
y compris au sein des instances de 
négociations internationales  : un 
drone « autonome » serait imprévi­
sible par nature, prendrait « lui-même 
» des « initiatives » ou « déciderait » 
de lui-même [CNPEN21].
Le deuxième problème est d’ordre 
fonctionnel. Lorsqu’on dit qu’un 
drone est «  autonome  », quelles 
fonctions exactement sont automa­
tisées ? Car il s’agit bien de cela : 
loin des discours stériles au sujet 
des différences entre « automatisé » 
et «  autonome  », c’est une fonc­
tion, ou un ensemble de fonctions, 
qui est automatisé, c’est-à-dire mis 
sous forme mathématique puis pro­
grammé sur un ordinateur, le plus 
souvent embarqué dans la ma­
chine. On peut ainsi envisager d’au­
tomatiser les fonctions de déplace­
ment dans l’espace, d’élaboration 
de la situation tactique, d’évaluation 
de cette situation, d’engagement 
de cibles. Il convient alors de se 
poser la question : pour quelles rai­
sons souhaite-t-on automatiser ces 
fonctions ? 
Le troisième problème est d’ordre 
scientifique et technique. La mise 
sous forme mathématique (modé­
lisation) des environnements dans 
lesquels le drone est susceptible 
d’évoluer, des critères de calcul 
des actions, est-elle possible ? Par 
exemple, il semble illusoire de mo­
déliser le principe de proportionna­
lité, alors même qu’il n’est pas dé­
fini précisément – justement parce 
c’est le jugement humain qui, dans 
une situation particulière, estimera 
qu’une action est ou non compa­
tible avec ce principe. 
Les questions d’éthique concer­
nant l’automatisation de fonctions 
embarquées dans des robots ar­
més ne peuvent être envisagées 
qu’en posant clairement le voca­
bulaire et en décrivant précisément 
les mécanismes scientifiques et 
techniques de ces fonctions. C’est 
d’ailleurs là la première posture 
éthique à adopter.
Pour aller plus loin :
-	
[Steels21] Luc Steels – Defining AI for purposes of ethics and legal reg­
ulations. AI4EU Workshop: The Culture of Trustworthy AI. Public debate, 
education, practical learning, September 2021. https://www.youtube.
com/watch?v=1B2dsOZcxfA (à partir de 16mn45s)
-	
[CNPEN21] Comité National Pilote d’Éthique du Numérique – Avis 2 : 
Le véhicule « autonome » : enjeux d’éthique, avril 2021. https://www.
ccne-ethique.fr/fr/actualites/cnpen-le-vehicule-autonome-enjeux-de­
thique 
Les questions d’éthique concernant les armes obligent à préciser des termes qui ne vont 
pas de soi. Catherine Tessier met en lumière trois questions autour du mot autonomie, 
trois éclairages pour les consciences…
Big dog armé