Maquette-IA-DEFENSE_2025_VDEF_WEB.pdf — page 67

67
quand bien même l’inaction aboutirait logiquement 
à un meilleur résultat ou le biais de confirmation[11] 
qui nous amène à accorder moins d’importance aux 
informations qui contredisent nos croyances. 
 
L’IA est principalement utilisée pour sa capacité à 
accélérer le traitement de l’information et les prises 
de décision[12]. Or, nos performances cognitives se 
dégradent très vite sous l’effet de l’instantanéité. Nous 
tirons des conclusions hâtives, simplistes et parfois 
erronées, sous l’effet d’un sentiment d’urgence. Le 
contrôle humain aura donc quoi qu’il arrive ses limites 
dans les systèmes d’IA et il ne suffira pas à garantir 
que les principes de proportionnalité et de distinction 
seront toujours respectés.
 
Le rôle clef des comités d’éthique
 
A moins que ce contrôle ne s’appuie sur un cadre qui 
autorise les débats contradictoires et le jugement à 
s’exercer pleinement et en continu. Les dilemmes 
éthiques sont complexes et leur résolution nécessite 
un temps plus long et une expertise pluridisciplinaire. 
Une partie de la solution consiste ainsi à créer un 
comité d’éthique dans chaque structure qui développe 
en interne des systèmes d’IA ou qui en achète à un 
fournisseur tiers. Ce comité doit contenir à minima un 
membre compétent en :
•	
Éthique, pour évaluer les risques et faciliter les 
délibérations,  
•	
Stratégie 
opérationnelle, 
pour 
décider 
des 
meilleures tactiques de défense à adopter,
•	
Droit international ou humanitaire, pour veiller à 
la conformité juridique des décisions,
•	
Technique, pour déterminer les solutions qu’il est 
possible d’implémenter,
•	
(Neuro)psychologie, pour réduire l’impact des 
biais.
 
 
Réconcilier by design nos deux modes de pensée
 
En somme, pour reprendre l’analogie de Kahneman, il 
s’agit de redonner toute sa place au mode de pensée 
plus réfléchi du système 2, pour que celui du système 
1 plus impulsif ne soit pas le seul maître à bord des 
systèmes d’IA.[13]
 
Notre cerveau fonctionne en effet suivant deux modes 
de pensée distincts qui interagissent au quotidien. Le 
Système 1 est dominant et toujours actif en arrière-
plan, pour prendre en charge la majorité des décisions 
simples et rapides qui s’imposent à nous, sans 
effort conscient. Ce n’est que lorsque nous sommes 
confrontés à une situation complexe que le Système 
2, plus lent et coûteux en énergie, est sollicité. Mais, il 
reste très influençable par les associations d’idées et 
des schémas préétablis du Système 1 qui peuvent vite 
le conduire à des conclusions totalement erronées.
 
Conscient de ces limites intrinsèques, on attendra 
donc aussi du comité d’éthique qu’il soit en mesure 
de fiabiliser les décisions humaines dans le respect 
des objectifs opérationnels fixés, en suggérant 
l’implémentation de garde-fous cognitifs dès la 
conception des systèmes d’IA. En d’autres termes, il 
est temps de ne plus voir les systèmes d’IA seulement 
comme des technologies à réguler avec une 
supervision humaine stricte, mais aussi comme des 
leviers d’amélioration de notre propre rationalité. Une 
co-régulation pourrait être le plus court chemin vers 
une IA de confiance.