Maquette-IA-DEFENSE_2025_VDEF_WEB.pdf — page 49

49
bien adapté à ce cadre d’emploi et qu’il ne comprend ni 
portes dérobées, ni stratégies décisionnelles malveillantes ?
La solution proposée consiste à faire appel à une IA 
de type Raisonnante Générale[3] (IARG) pour induire 
automatiquement un SD transparent, composé de 
règles SI…ALORS à logiques continues, et révélant 
le comportement décisionnel caché du SD opaque, 
ici Magika. L’expert métier est alors en mesure 
d’auditer les règles induites pour débusquer un 
éventuel comportement malveillant. Cet ensemble 
de connaissances est facilement embarquable et 
actionnable avec une frugalité et une efficience 
énergétique de premier ordre.
Au cœur de ce processus de conception de SD, la 
collaboration unique homme-machine forme une 
boucle vertueuse :
1.	
L’expert pose le problème de modélisation à 
résoudre (définition des prédicteurs potentiels, 
collecte et caractérisation des données) ;
2.	
L’IARG 
augmente 
l’expertise 
humaine 
en 
découvrant, par perfectionnement évolutif de 
ses stratégies d’induction, des connaissances 
robustes, tout en les exprimant de manière 
compréhensible, sous la forme de règles SI…
ALORS à logiques continues (boucle d’induction 
évolutive).
3.	
L’expert corrige les erreurs et les biais détectés par 
l’IARG et relance l’induction pour découvrir des 
connaissances plus robustes (boucle d’induction 
corrective).
 
En outre, l’intelligibilité (i.e. l’interprétabilité) d’un SD 
à base de règles permet de faire face à un problème 
prégnant, notamment dans le monde de la défense : 
les données « opérationnelles » peuvent être partielles, 
incomplètes, entachées d’erreur, sans annotation, non 
représentatives, etc.
	
Dans ce contexte, comment prendre des décisions 
critiques sur la base de données lacunaires ?
L’intelligibilité est encore une fois le critère décisif. Elle 
apporte des avantages suivants :
•	
L’explicabilité de chaque décision permet la 
détection explicite des erreurs du modèle (biais, 
mauvais prédicteurs…) par l’expert métier.
•	
L’interprétabilité globale du modèle facilite la 
certification.
•	
En cas de changement de comportement du 
processus étudié, l’IARG émettra des refus de 
décision. L’expert métier devra alors analyser les 
nouveaux cas non reconnus pour les qualifier. La 
nouvelle base de données est aussitôt soumise à 
l’IARG pour découvrir le nouveau SD modélisant 
le nouveau comportement du processus (boucle 
d’induction adaptative).
•	
L’expert peut intégrer des règles métier saisies 
manuellement et demander à l’IAG d’évaluer leur 
robustesse en interaction avec les autres règles 
induites 
automatiquement. 
Cette 
approche 
permet l’annotation rapide de données non 
annotées et le contrôle de la qualité de cette 
annotation par l’IARG.
Conclusion
La possibilité de travailler au niveau de la connaissance, 
et pas uniquement au niveau de la donnée, permet 
d’augmenter l’intelligence globale du SD et de l’expert 
métier. À partir d’un grand ensemble de données, les IA 
non-linéaires (réseau de neurones, arbre boosté, forêt 
aléatoire) sont capables de produire des SD robustes. 
Toutefois, ces SD sont opaques : ils ne peuvent être 
audités, ni certifiés. A l’inverse, certaines techniques 
d’IA sont capables de produire des SD intelligibles. 
Toutefois, ces SD sont non-robustes. Répondant, par 
conception, aux contraintes inhérentes à l’intégration 
de l’IA dans les systèmes critiques, les SD induits 
par l’IARG, sont à la fois robustes et intelligibles, 
autorisant leur usage éthique et responsable.