Maquette-IA-DEFENSE_2025_VDEF_WEB.pdf — page 36

Pôle d’excellence cyber
36
L’IA de confiance est une illusion : 
construisons des produits de confiance
1.	
L’IA de confiance, une illusion technique et 
opérationnelle ?
Le monde de l’intelligence artificielle a connu 
plusieurs évolutions majeures au cours des dernières 
décennies. À ses débuts, l’automatisation reposait 
sur une algorithmique déterministe, fournissant des 
preuves formelles de résultats pour des instructions 
données. Toute erreur intrinsèque au fonctionnement 
d’un algorithme était rare et identifiable. Ce cadre 
de prévisibilité s’est érodé avec l’arrivée du Machine 
Learning, où les sorties générées par l’IA se font 
sur des bases probabilistes et non algorithmiques. 
Bien que les résultats ne soient plus totalement 
explicables, il reste encore possible d’évaluer 
quantitativement la performance de ces modèles.
L’arrivée des modèles génératifs, en particulier 
des grands modèles de langage, a amplifié cette 
incertitude. Dans de nombreux cas, il est désormais 
impossible de mesurer objectivement la fiabilité et 
la performance des sorties des LLMs. Comment, par 
exemple, mesurer les biais d’un LLM qui rédige des 
résumés de textes ? Si les conclusions générées par 
des LLMs sont donc toujours vraisemblables, leur 
exactitude, le respect des consignes données, et donc 
leur fiabilité, ne peuvent pas être objectivement établies. 
Cette difficulté à évaluer la fiabilité des modèles s’étend 
aux conditions dans lesquelles ils sont développés et 
exploités. Un modèle peut être biaisé ou manipulé à 
trois niveaux critiques : l’infrastructure, l’inférence et 
l’embedding[1]. À ce dernier niveau, de subtiles altérations 
dans les premières couches du modèle permettent 
d’intégrer des instructions cachées, potentiellement 
malveillantes et presque indétectables[2].
L’idée d’une ‘IA de confiance’ repose ainsi sur une 
hypothèse erronée : celle qu’un modèle pourrait être 
fiable, prévisible et explicable. Non seulement les modèles 
ne sont plus fiables à 100 %, mais la question même de la 
mesure de la fiabilité devient délicate. Étant donc entendu 
qu’il n’existe pas de méthode permettant de garantir la 
confiance dans les réponses générées par l’IA, il apparaît 
illusoire de vouloir se doter d’une IA de confiance.
Par ailleurs, la possibilité même de labelliser une IA 
comme fiable introduirait un risque majeur dans un 
contexte opérationnel où la rapidité de décision est 
essentielle : celui d’une délégation aveugle à une 
machine perçue comme infaillible. Plus un système 
est estampillé de confiance, moins ses résultats seront 
interrogés, augmentant le risque d’une acceptation 
automatique de ses conclusions sans analyse 
critique. L’IA n’est autre qu’un conseiller éclairé, un 
outil d’aide à la décision dont l’humain reste l’ultime 
responsable—tant sur le plan juridique que moral.
Pour autant, l’impossibilité d’établir la fiabilité de ces 
modèles n’enlève rien à la puissance de ces outils 
lorsqu’il s’agit d’analyser de grandes quantités de 
données, d’automatiser des tâches répétitives et de 
dégager des tendances exploitables. Plutôt que de 
chercher une IA infaillible, l’enjeu est d’intégrer ces 
modèles dans des systèmes qui en maximisent la 
valeur sans en déléguer aveuglément le contrôle.
Florian MAILLARBAUX
Directeur Développement 
Commercial
Comand AI
Violette NICAISE
Responsable de projets - Dévelop-
pement Commercial & Stratégie
Comand AI