20180719-NP-CICDE-CEIA-3.0.2-IA-et-SYST.AUT-2018.pdf — page 24

24 
(4) 
les biais d’apprentissage proviennent d’un apprentissage imparfait ou 
incomplet. L’humain a néanmoins la capacité d’apprentissage autonome, 
d’intuition et d’initiative permettant de corriger autant que faire se peut ses 
biais d’apprentissage. Le « coût » de son apprentissage autonome peut être 
élevé, sans garantie de succès, 
(5) 
les biais émotionnels sont le propre de l’humain. Ils consistent en une 
distorsion de la connaissance et de la décision en raison de facteurs 
émotionnels. Ils peuvent être déclenchés accidentellement, et sont par 
essence peu accessibles à la raison, 
(6) 
l’inhibition (sidération ou incapacité à traiter les informations et à agir) se 
caractérise pour un humain par une paralysie, une saturation ou une limitation 
intellectuelle dans un environnement non planifié, dégradé, stressant ou non 
appris, 
(7) 
les biais d’usure, très prégnants chez l’humain, proviennent d’une lassitude, 
d’une résignation, voire d’une croyance que la machine, ou l’organisation 
d’appartenance, 
a 
« toujours » 
raison 
ou 
est 
inaccessible 
à 
la 
compréhension ; 
d. 
Les différents biais humains ont tendance à s’accentuer en situation de fatigue, de 
stress et peuvent évoluer dans le temps.  
404. 
Qualités et biais de l’intelligence artificielle : 
a. 
les mécanismes d’intelligence artificielle se caractérisent par une puissante capacité 
de traitement des données dépassant de plusieurs ordres de grandeurs les 
capacités humaines. Dès lors que les données sont accessibles, la vitesse de 
traitement est essentiellement limitée par la puissance de calcul21. De plus, la 
capitalisation des informations et l’apprentissage peuvent être un processus sans fin 
accroissant en permanence la pertinence des traitements de l’intelligence artificielle ; 
b. 
l’intelligence artificielle est insensible à la fatigue et au stress et résistante aux 
contraintes physiologiques. Les machines alimentées en énergie peuvent 
fonctionner sans interruption dans des infrastructures adaptées (conditions 
d’environnement compatibles, dont température et humidité). Par ailleurs, ces 
machines – sauf programmations particulières – sont insensibles aux pressions 
hiérarchiques, à la pression du temps ou au stress de combat ; 
c. 
les biais cognitifs touchent les humains, mais peuvent également être présents dans 
les traitements de données réalisés par les systèmes d’intelligence artificielle, puisque 
validés par les humains. Le reliquat des biais cognitifs humains dans les algorithmes 
d’intelligence artificielle, malheureusement difficilement quantifiable, pourrait se révéler 
être un paramètre d’intérêt dans l’appréciation de la qualité d’un algorithme ; 
d. 
les biais d’apprentissage de l’IA proviennent de l’incomplétude ou de l’imperfection 
des bases d’apprentissage, que ce soit dans les données d’entrée ou dans celles de 
sortie : 
(1) 
l’apprentissage de l’IA est un processus incrémental, non fini, et non régressif 
puisqu’il n’y a ni « oubli » ni « usure », 
(2) 
la complétude des bases d’apprentissage est un élément indispensable à la 
performance 
de 
l’intelligence 
artificielle. 
Un 
oubli dans 
une 
base 
d’apprentissage pourra se traduire par des biais de fonctionnement, voire des 
accidents ; 
                                                 
 
21 Le développement d’ordinateurs quantiques devrait permettre d’obtenir des gains spectaculaires dans ce domaine.