caia-125-bd-ok.pdf — page 69

67
LE MAGAZINE DES INGÉNIEURS DE L’ARMEMENT - N°125
ÉTHIQUE, NORMES ET RÉGLEMENTATION
Il recommande également de su­
bordonner la conception et la mise 
en oeuvre des SALIA au respect de 
garanties de bon emploi dans diffé­
rents domaines :
• commandement, en veillant à 
préserver une chaîne de res­
ponsabilité, de commandement 
et de contrôle,
• contrôle des risques, en ap­
puyant les réflexions en la 
matière sur des fondements 
éthiques et en ne cherchant pas 
à donner un avis sur les techno­
logies en soi,
• conformité, avec des points 
d’attention spécifiques en ma­
tière de contrôle de licéité,
• connaissance, en insistant sur 
l’importance des facteurs hu­
mains, de la formation et de 
l’entraînement,
• confiance, ce qui doit conduire 
à poursuivre les initiatives de dé­
veloppement et de qualification 
de technologies de confiance 
(notamment dans le domaine 
de l’IA) et de veiller à l’autono­
mie stratégique.
Mon 
vécu 
d’IA 
au 
comité 
d’éthique de la Défense
Les membres du comité sont nom­
més intuitu personae et ne sont pas 
les porteurs de la position de leur 
institution d’appartenance. Les avis 
du comité, qui ne constituent pas 
per se des avis du ministère, sont 
portés vers la Ministre et ses grands 
subordonnés pour alimenter leur ré­
flexion ; ils peuvent aussi servir de 
vecteur d’influence témoignant de 
l’importance apportée par la France 
à ces enjeux – à titre d’exemple, 
une délégation du comité a été in­
vitée à présenter ses analyses sur 
les SALIA aux experts représentant 
les 125 Etats participant à la CCAC 
à Genève sur les SALA.
En effet, les travaux du comité s’ins­
crivent dans un paysage général 
où des réflexions connexes sont 
conduites par d’autres acteurs, soit 
dans des thématiques proches mais 
non militaires (biomédical, éthique 
du numérique), soit sur le domaine 
militaire par des tiers plus ou moins 
bienveillants à l’égard de nos insti­
tutions (think-tanks, ONG…) ; et les 
avis du comité ont donc vocation à 
être examinés par un large spectre 
d’acteurs, ce qui donne d’ailleurs 
un sel particulier à la participation à 
ses travaux.
Le comité d’éthique se caractérise 
par une belle interdisciplinarité. 
Ses dix-huit membres sont issus 
pour partie du ministère des Ar­
mées sur proposition des grands 
subordonnés (deux membres issus 
de la DGA  : moi-même et Cathy 
Thilly-Soussan, conseillère finan­
cière, juridique et éthique auprès 
du DI), et pour partie de la société 
civile, avec des profils variés, qu’il 
s’agisse d’acteurs académiques 
(de l’histoire au numérique en 
passant par la géopolitique ou la 
neurologie), de militaires d’active, 
d’officiers généraux en deuxième 
section, d’ingénieurs, de juristes, 
de médecins… La diversité des 
expériences et des compétences 
qu’il rassemble, est une garantie 
d’indépendance 
et 
d’ouverture 
d’esprit et permet l’appréhension 
globale des questions qui lui sont 
soumises.
Le comité s’appuie pour rendre ses 
avis sur des consultations d’experts 
aux profils également variés. Ces 
consultations donnent l’occasion 
de recueillir des témoignages d’une 
grande profondeur. Des visites de 
sites du ministère, et les entretiens 
qui peuvent y être conduits, ain­
si que la mise à disposition d’un 
riche corpus documentaire par le 
secrétariat du comité (documents 
de doctrine, publications de think-
tanks…), complètent ce tour d’ho­
rizon. 
Ma participation et celle de Cathy, 
y apportent, je l’espère, une sen­
sibilité DGA, et en particulier pour 
que la réalité technique, qui s’im­
pose parfois à nous, soit dûment 
prise en compte ; et pour s’assurer 
que les formulations des principes 
ou des recommandations ne soient 
pas inapplicables dans la vie des 
projets. Elle doit aussi permettre de 
connecter les travaux du comité à 
l’expertise du ministère  : ainsi de 
la visite des centres DGA Maîtrise 
NRBC et DGA Maîtrise de l’Infor­
mation au profit de délégations du 
comité, ou de la proposition de pro­
fils DGA à auditionner.
Pour ma part, j’y trouve une sti­
mulation intellectuelle certaine  ; 
cela apporte également un autre 
regard sur les opérations d’arme­
ment (retex de vécu opération­
nel, sur l’environnement humain 
de nos systèmes d’armes) qui 
conduit à prendre de la hauteur et 
à avoir envie de regarder de plus 
près certains thématiques dans 
nos projets. Ainsi de l’importance 
des facteurs humains tant pour 
les plates-formes que pour l’er­
gonomie cognitive des systèmes 
d’information en général, à laquelle 
mon passage à DGA Maîtrise de 
l’Information m’avait sensibilisé, et 
que je confirme à l’aune de mes ré­
flexions au sein du comité. 
En résumé, une belle expérience 
humaine. 
Michel Gostiaux, 
ICA, Directeur de 
DGA/UMNBC
L’ICA Michel Gostiaux a été chargé du 
contrôle des activités militaires du CEA, 
architecte du système de forces dissua­
sion puis de préparation des systèmes 
futurs de missiles et de sous-marins, 
sous-directeur technique de DGA Maî­
trise de l’Information, directeur adjoint 
de l’unité de management Opérations 
Navales. Il dirige aujourd’hui l’unité de 
management Nucléaire, Biologique et 
Chimique.