20180719-NP-CICDE-CEIA-3.0.2-IA-et-SYST.AUT-2018.pdf — page 19

19 
(1) 
place et responsabilité (juridique) des organisations et de l’homme dans le 
système/la fonction lors des phases de spécification, conception, qualification, 
certification, emploi et engagement opérationnels, 
(2) 
rôle de l’entraînement des systèmes automatisés pour l’amélioration des 
performances et la réduction des risques, 
(3) 
responsabilités des forces quand elles fournissent des données de 
programmation et des règles d’emploi et d’engagement : 
a) 
création, validation et certification des bases de données, de règles 
d’apprentissage et de test ; 
b) 
contrôle (retour d’expérience) des règles d’emploi et d’engagement, 
(4) 
responsabilités de certains opérateurs, éventuellement étrangers, quand ils 
fournissent des bases d’apprentissage, voire des algorithmes d’IA (cas des 
systèmes à reconnaissance de forme) ; 
(5) 
formation, habilitation et/ou accréditation des personnels intervenant dans 
l’emploi des systèmes autonomes, ou en interactions. 
218. 
Les enjeux sociétaux concernent l’éthique et l’acceptation des nouvelles technologies du 
numérique par la société. Ces enjeux nécessitent d’identifier les qualités et les biais de 
l’intelligence artificielle. 
a. 
L’acceptation va nécessiter une démarche d’évaluation critique puis  d’explication 
propre à rationaliser les problématiques et les débats, puis l’illustration sur des cas 
d’emploi opérationnel de l’apport opérationnel de ces technologies. 
Afin d’être accepté par la société et par l’institution militaire, un système automatisé 
doit donc atteindre, dans son spectre de missions, une probabilité d’effets inappropriés 
ou de dommages collatéraux inférieure aux systèmes pilotés tout en démontrant une 
efficience supérieure. 
De même, la mise en œuvre des systèmes automatisés ne devra pas s’accompagner 
d’une augmentation du risque juridique et leur emploi devra être conforme à une 
doctrine nationale, elle-même conforme au droit international. 
b. 
Le travail sur l’éthique devra permettre de passer d’une éthique générale à une éthique 
appliquée et opératoire. 
L’éthique générale consiste en un discours méta-éthique sur le sens des actions par 
rapport aux notions de bien et de mal et à un système de valeurs.  
L’intelligence artificielle ne peut cependant se contenter de principes généraux 
éthiques : une éthique appliquée, c’est-à-dire une éthique de responsabilité permettant 
de choisir effectivement entre plusieurs options, doit donc être élaborée. Cette éthique 
devra être compréhensible, neutre, transparente et acceptable.  
L’éthique doit également être opératoire, c’est-à-dire qu’elle doit pouvoir être décrite 
sous forme de règles et d’algorithmes programmables. 
L’éthique appliquée peut se décomposer en trois catégories ou phases distinctes de 
par leurs implications : 
(1) 
l’éthique de conception : il s’agit de s’assurer dès la conception, qu’un 
certain nombre de règles et de précautions seront prises, notamment celles 
relatives au respect du droit,  
(2) 
l’éthique d’emploi : il s’agit de l’usage qu’un utilisateur fait des systèmes 
automatisés et de l’IA. Cet usage est intrinsèquement lié à l’utilisateur final.