20180719-NP-CICDE-CEIA-3.0.2-IA-et-SYST.AUT-2018.pdf — page 23

23 
 
Chapitre 4 
Emploi opérationnel 
 
Section I – Emploi opérationnel de l’intelligence artificielle 
401. 
La définition des concepts d’emploi opérationnel de l’intelligence artificielle dans les systèmes 
d’armes est présidée par les effets militaires recherchés en tenant compte des qualités et biais 
respectifs de l’intelligence humaine et de l’intelligence artificielle.  
402. 
Qualités et biais constituent la capacité d’un humain ou d’un système à agir juste, en prenant en 
compte l’ensemble des informations apprises et accessibles et en identifiant l’action la plus 
pertinente selon les règles qui ont été fixées. 
403. 
Qualités et biais de l’intelligence humaine : 
a. 
l’esprit critique permet de s’interroger sur la réalité et la pertinence de résultats ou 
d’analyses, quelle qu’en soit l’origine, en les remettant volontairement en question. Les 
résultats ou analyses peuvent être incomplets ou inadaptés à un nouveau contexte 
opérationnel ; 
b. 
l’intuition et l’imagination permettent de mener des expériences par la pensée. 
L’être humain dispose de facultés d’imagination lui permettant de se projeter dans des 
mondes alternatifs possibles et d’envisager des solutions innovantes ne répondant, a 
priori, à aucun raisonnement logique : 
(1) 
là où la machine est prisonnière de son contexte d’apprentissage, l’homme 
dispose de facultés de détachement propices à l’innovation, 
(2) 
là où la machine fournira invariablement la même réponse à partir du même 
apprentissage et de données d’entrée identiques, l’homme fournira en 
fonction des individus un panel de réponses très variables, éventuellement 
atypiques, 
(3) 
la vision anthropomorphique des systèmes à intelligence artificielle forte, qui 
leur accorderait la reconnaissance de capacités d’intuition et d’imagination en 
lieu et place de simples algorithmes, reste pour l’instant très théorique ; 
c. 
les biais cognitifs sont des mécanismes qui génèrent des « distorsions » et des 
« déviations » de la perception, de l’évaluation, de l’interprétation et in fine du 
jugement. Un codex des biais cognitifs a été établi et recense près de 200 types de 
biais. L’étude des biais fait l’objet de nombreux travaux dans les sciences cognitives et 
ne sont pas toujours conscientisés. Ces biais peuvent être atténués par la qualité de la 
sélection, la rigueur de la formation, l’existence d’un corpus doctrinal, des règles 
d’emploi et d’engagement clairs et surtout par l’entraînement et la confrontation au réel 
(apprentissage). Parmi les biais les plus courants et les plus significatifs, on notera :  
(1) 
le biais culturel consiste à favoriser inconsciemment des raisonnements ou 
des croyances en phase avec sa propre culture, 
(2) 
le biais de confirmation d’hypothèse consiste à maintenir un point de vue 
initial sans prendre en compte de nouvelles informations pouvant remettre en 
question ce point de vue, 
(3) 
le biais d’ancrage consiste à accorder plus d’importance aux éléments déjà 
mémorisés. Ce biais est partagé dans une certaine mesure entre les humains 
et les machines qui s’appuient sur un nombre fini de données d’apprentissage 
pour effectuer leurs traitements,