Maquette-IA-DEFENSE_2025_VDEF_WEB.pdf — page 66

Pôle d’excellence cyber
66
Comment garantir qu’une IA respectera les principes 
de proportionnalité et de distinction
L’éthique de la Défense est un équilibre subtil entre 
impératifs opérationnels, respect des droits humains 
et des droits internationaux. Un équilibre actuellement 
remis en question par la généralisation de l’usage de 
l’intelligence artificielle dans les systèmes de défense 
qui gagnent certes en précision, en efficience et en 
autonomie, mais qui doivent en retour faire face à des 
risques accrus de dérives telles que :
•	
Des erreurs opérationnelles pouvant causer des 
dommages collatéraux et des pertes civiles,
•	
Une violation des droits humains en discriminant 
ou en ciblant involontairement des populations 
spécifiques, 
•	
Une exacerbation des conflits ou la création de 
nouvelles tensions, en raison d’une mauvaise 
identification des comportements adverses.
 
Un contrôle humain indispensable
 
Aussi, face aux dommages que pourrait causer un 
système d’IA doté d’autonomie décisionnelle, le 
Comité d’Éthique de la Défense (COMEDEF) préconise 
de maintenir systématiquement un contrôle humain 
sur les décisions critiques. Surtout, lorsqu’il s’agit de 
systèmes d’armes létaux[1].
 
Néanmoins, une autonomie même partielle des 
systèmes d’IA questionne encore les principes 
de proportionnalité et de distinction du droit 
international. En effet, comment vérifier que le 
système n’entraînera pas des conséquences excessives 
pour les populations civiles, par rapport à l’avantage 
militaire attendu ? Comment s’assurer qu’un système 
identifiera correctement une cible militaire et ne 
commettra pas une erreur de classification menant à 
une attaque contre des civils ? 
 
Des biais ancrés dès la conception
 
Les biais algorithmiques sont difficilement décelables 
et même inévitables au moment de la conception 
d’un programme. Nous en avons pris conscience, bien 
avant l’utilisation commerciale des modèles d’IA, avec 
de simples systèmes automatisés qui amplifiaient 
déjà des discriminations opérées dans la réalité[2], [3]. 
Mais, l’absence de neutralité des données historiques 
n’est pas la seule source de biais dans les systèmes 
d’IA :
•	
Un 
mauvais 
échantillonnage 
des 
données 
d’apprentissage peut entraîner ensuite une 
mauvaise généralisation du modèle, comme le 
ciblage d’un rassemblement de civils suivant des 
indicateurs fallacieux[4], 
•	
Un mauvais choix des variables représentatives 
peut créer des corrélations erronées, comme le 
fait d’associer une menace à un certain type de 
bâtiment ou d’équipement[5],
•	
Des objectifs mal formalisés peuvent conduire 
l’algorithme 
à 
optimiser 
des 
métriques 
techniques aux détriment des impératifs éthiques 
ou stratégiques. Par exemple, un drone militaire 
qui associe le contrôle de son opérateur à une 
menace l’empêchant d’atteindre son objectif et 
qui décide de se retourner contre lui[6].
 
Un faux sentiment de maîtrise
 
Malgré la vigilance portée à la qualité des bases de 
données d’entraînement des modèles d’IA, aux 
hypothèses implicites et aux choix des équipes 
de conception[7],[8], c’est souvent à l’usage que les 
algorithmes révèlent leurs défaillances. Le risque 
zéro n’existe donc pas. D’autant que les biais des 
utilisateurs peuvent aussi aggraver l’impact de ces 
défaillances. Notamment le biais d’automatisation [9] 
qui fait que nous avons naturellement tendance à 
privilégier les suggestions d’un système automatisé, 
même en présence d’informations contradictoires 
évidentes, le biais d’action[10] qui nous pousse à agir, 
Olivia BREYSSE 
Experte indépendante en IA et cybersécurité
Collège Numérique France 2030