20180719-NP-CICDE-CEIA-3.0.2-IA-et-SYST.AUT-2018.pdf — page 27

27 
Exemple 3 : 
dans le domaine juridique, les systèmes d’IA en cours de développement ou 
d’expérimentation devraient pouvoir bâtir automatiquement, en fonction de 
l’ensemble des lois et des jurisprudences, des décisions de justice avec 
l’exposé des motifs et les dispositions en découlant. L’humain se contentant 
d’en valider le contenu. 
414. 
Aide à l’anticipation : l’IA, en tant qu’agent de surveillance d’un système, peut lancer de façon 
préventive des processus d’alarmes ou l’activation de processus de sécurité et de prévention : 
Exemple : 
l’IA peut détecter des événements (signaux faibles) précurseurs potentiels 
d’une panne (d’un) système et proposer des actions de maintenance 
préventive. 
415. 
Aide à l’action : une fois l’action décidée, l’IA pourra accompagner l’homme dans tous les 
volets de sa mission. Simultanément, l’IA le soulagera des tâches ingrates et à faible valeur 
ajoutée, lui apportera des éléments de compréhension, d’optimisation et de décision, en temps 
réel : 
Exemple : 
l’IA peut assister un pilote d’aéronef dans des phases particulières 
d’atterrissage ou d’appontage. Dans ce cas, l’IA est en mode supervisé : le 
pilote peut reprendre la main à tout moment. 
416. 
Substitution à l’homme dans l’action : dans un certain nombre de domaines où la réactivité 
est primordiale (autoprotection des plates-formes, domaine cyber, domaine informationnel, 
etc.), dans les domaines où la quantité d’informations à traiter et les traitements à effectuer sont 
inaccessibles à l’homme, dans les milieux où l’homme ne peut être présent, les algorithmes se 
substituent déjà à l’homme : 
Exemple 1 : 
l’IA, une fois activée, déclenche seule les systèmes d’autoprotection de 
certaines plates-formes (frégates, etc.) en fonction des menaces rencontrées ; 
Exemple 2 : 
les sondes martiennes (et autres « robots » martiens) sont capables de se 
mouvoir seules et constituent des systèmes semi-autonomes (pour mémoire 
un des premiers développements de l’intelligence artificielle a été pour les 
sondes spatiales qui devaient faire de nombreuses analyses moléculaires et 
chimiques et devaient « optimiser » seules leurs stratégies d’analyse en 
s’affranchissant des délais de communication). 
417. 
La substitution à l’homme dans l’apprentissage (apprentissage pleinement autonome) n’a, à 
ce jour, pas d’emploi opérationnel identifié. Le principe même de l’apprentissage pleinement 
autonome pose des questions philosophiques et éthiques pour l’instant non résolues. 
Section II – Emploi des systèmes automatisés 
Complémentarité de l’homme et des systèmes automatisés 
418. 
Les différentes classes de systèmes automatisés sans équipage à bord disposent d’atouts et 
de contraintes d’emplois opérationnels propres et répondent à des besoins particuliers sur 
le champ de bataille. L’emploi de ces systèmes s’avère particulièrement utile dans des 
scénarios où l’homme est fortement contraint.  
Emploi des systèmes supervisés 
419. 
Des opérateurs préparent la mission du système et en supervisent en permanence le 
déroulement. Un opérateur intervient en cas d’incident, d’anomalie ou de besoin de modification 
de la mission.