Gérard de Boisboissel

Ingénieur de recherche
Centre de Recherche
des Ecoles
de Saint-Cyr Coëtquidam (CREC)

Abstract

Gérard de Boisboissel wonders what consciousness is, whether or not it is possible to have conscious machines, and how useful it would be in the military context. He begins by making a clear distinction between intelligence and conscience: if there are machines to which the qualifier intelligent is attributed without much discussion, none of them can be seen, for the moment, as "conscious". He then examines the different categories of consciousness, using the typology separating consciousness measured by a state of alertness from the awareness of access to such and such information; he adds awareness of the consequences of the choice of action. He takes sides by stating that we won't be able to equip a machine with any of these types of consciousness. However, even if it can be done at all one day, in addition to AI algorithms, would it really be useful or desirable? To reflect on this question G. de Boisboissel analyzes the different facets of (human) consciousness necessary to (and implemented by) a combatant on a battlefield. This analysis allows him to determine which facets could advantageously be integrated - when they are not already there - into robotic systems. He ends by assuming that a program, however advanced it may be, will never have the intuition or the instinct of a human being. And that a machine, military or not, is and will remain (or must remain) a tool in the service and under the control of those who use it.
De nombreux chercheurs sont persuadés qu’un état mental conscient est la résultante de phénomènes biologiques localisés dans le cerveau, et que donc la modélisation de ces phénomènes et leur implémentation au travers d’algorithmes virtuels ou embarqués permettra de créer une conscience artificielle. La question fait débat.

L'objet de cet article est de réfléchir à ce concept de conscience artificielle, et de voir si celui-ci pourrait être appliqué à des systèmes militaires, afin de rendre conscientes des machines autonomes déployées sur le champ de bataille.

# 1. Intelligence n'est pas conscience

En préambule, il convient avant tout de distinguer intelligence de la machine et conscience de soi par une machine. Actuellement, il est déjà notable qu'une machine peut donner une impression d'intelligence dans son comportement ou son raisonnement. C'est dès à présent le cas avec l'Intelligence Artificielle faible qui surpasse déjà l'Homme dans certaines tâches telles que le programme Deep Blue d'IBM qui bat Gary Kasparov aux échecs en 1997, le jeu de Go avec le programme AlphaGo de Google DeepMind qui devint champion du monde en 2016, et simulateur de vol de combat Alpha de l'université de Cincinnati qui bat le colonel américain Gene Lee en simulation de combat aérien. D'autres machines peuvent générer des compositions artistiques qui pour certaines s'avèrent pertinentes comme le tableau numérique « The Next Rembrandt », qui a été dévoilé le 5 avril 2016, à la galerie Looiersgracht60 d'Amsterdam.

Mais excellentes sur l'exécution d'une fonction donnée, ces machines programmées pour exécuter certaines fonctions sont essentiellement esclaves de leurs composants et des contraintes de programmation et ne peuvent faire preuve de créativité hors des bornes qu'on leur a données. Elles apparaissent en tout cas ne pas avoir conscience d'elles-mêmes au sens où nous l'entendons humainement et le sens de leur création ou de leur action leur échappe. Elles ne peuvent comprendre les principes qui les structurent et qui ont été élaborés par l'Homme. Tout au plus pourront-elles donner l'impression de simuler un comportement qui s'apparente à celui que pourrait avoir un humain, en se fondant sur des langages formels qui décrivent une représentation mathématique de la réalité, langages spécifiés par l'homme et par conséquent restreints aux choix des spécifications retenues.

# 2. Les différents types de conscience

Selon Stanislas Dehaene, le mot « conscience » est polysémique, mais la plupart des chercheurs conviennent de distinguer, au minimum, l'état de conscience et le contenu de la conscience.

Selon lui, « le premier usage, intransitif, du mot « conscience » renvoie aux variations graduelles de l'état de vigilance : veille, sommeil, anesthésie, coma, état végétatif... Le
second usage, intransitif, fait référence à la prise de conscience d'une information particulière. On parle alors de « conscience d'accès », ou d'accès d'une information à la conscience »<fnref n="1" />.

Traduit dans le monde des machines, un parallèle pourrait être fait entre état de vigilance et un mode actif de la machine permettant de traiter physiquement une information. Tout simplement un mode où les capteurs sont alimentés et actifs et où le processeur traite les informations reçues. C'est le bouton « ON » de la machine activé qui rend la machine vigilante.

Suit, dans le processus décrit par le professeur Dehaene, l'accès de l'information à la conscience, ce qui pour la machine se traduirait par une prise de conscience qu'elle traite de l'information. Pour cette étape, les limites d'une caractérisation anthropomorphique de cet état à une machine sont dès cette étape criantes, car tout au plus une machine sera capable de classer, stocker et mettre en corrélation des informations, mais on ne pourra jamais parler de conscience propre ou d'état mental conscient dans la mesure où un jugement moral fait appel à des interprétations que l'on ne peut mettre en équation, car elles deviendraient alors des règles de droit figées (ce que n'est pas la morale). Selon le professeur Lambert, « l'usage d'un vocabulaire anthropomorphique à propos d'une machine et donc la confusion intentionnelle entre l'être humain et cette dernière pose une question éthique car cette identification n'est pas défendable. Ce n'est pas parce qu'un système imite, simule, représente une ou même toutes les fonctions de l'humain que l'on peut l'identifier purement et simplement à une personne humaine »<fnref n="2" />.

Nous rajouterons ici un troisième état de conscience qui concerne la conscience de ses choix ou le jugement de l'action que la machine peut effectuer. Ce troisième état nous ramène, pour une machine militaire, à la possibilité de mesurer les conséquences éthiques ou morales de son action, et de vérifier le respect des règles ou des droits du monde militaire (les règles d'engagement, le Droit International Humanitaire), ce qui se heurte à la très difficile, voire impossible transcription de règles morales sous forme d'algorithmes, ou de possibilité de libre arbitre face à des choix complexes.

<footnote n="1">¹ « Psychologie cognitive expérimentale », professeur Stanislas Dehaene, membre de l'Institut (Académie des sciences) https://www.college-de-france.fr/media/stanislas-dehaene/UPL62003_Dehaene.pdf</footnote>

<footnote n="2">² Cfr M. Gabriel, *Pourquoi la pensée humaine est inégalable. La philosophie met l'intelligence artificielle au défi* (trad. G. Sturm, S.M. Sturm), Paris, JC Lattes, 2019; H. Atlan, *Cours de philosophie biologique et cognitiviste. Spinoza et la biologie actuelle*, Paris, Odile Jacob, pp. 538-545.</footnote>
### 3. En quoi une conscience artificielle serait utile au monde militaire ?

Le mythe et rêve de l'homme d'avoir un esclave à son service qui effectue les actions difficiles ou pénibles à sa place est vieux comme le monde. Si le respect de l'autre dans son humanité a de nos jours fort heureusement condamné l'esclavage, il reste que le rêve de remplacer l'humain par une machine dans les tâches hautement dangereuses est toujours actuel, et l'humanité y tendra tant qu'elle se développera technologiquement.

C'est d'autant plus vrai pour le milieu militaire, de par son extrême dangerosité et les risques et abnégations que doivent assumer les hommes et les femmes qui exercent le métier de soldat. Le robot soldat idéalisé devient ainsi un partenaire de combat qui s'expose à votre place et vous remplace pour des missions fatigantes, répétitives ou dangereuses.

En conséquence, le développement de machines de plus en plus autonomes fait miroiter de nouvelles perspectives de remplacement du soldat par des systèmes robotisés assurant une ou plusieurs fonctions en remplacement de l'homme<fnref n="3" />.

Néanmoins si l'on souhaite voir des machines militaires devenir intelligentes, ou tout du moins embarquer des techniques d'intelligence artificielle qui donnent l'illusion d'une forme d'intelligence, dans le but que ces premières soient plus réactives et plus précises que l'Homme dans leur exécution, on peut se poser la question de la nécessité et de la possibilité de développer une forme de conscience artificielle.

Dans quel but ? Celui de rendre la machine vertueuse dans le choix de ses actes, et respectueuse des règlements militaires et réglementations internationales, et apte à porter des jugements sur des actes qu'elle aura accomplis ou que les autres auront accomplis autour d'elle. Mais la chose est-elle possible ? Avant d'en débattre, nous partirons tout d'abord de ce que ressent le plus ultime pion tactique sur le champ de bataille : le fantassin.

### 4. Quels types de consciences pour un combattant sur le champ de bataille ?

Le soldat sur le champ de bataille ressent de très nombreuses sensations et ses sens sont généralement amplifiés au sein d'un environnement qui peut brutalement être foncièrement hostile. Il a conscience de sa finitude face aux dangers auxquels il s'expose, face à la responsabilité qu'il a de porter les armes au service de son pays, et conscience des règles qu'il doit respecter qui vont de la loyauté à ses chefs au respect des règles internationales du droit de la guerre.

<footnote n="3">³ Voir à cet effet l'ouvrage édité par le CREC Saint-Cyr « Autonomie et létalité en robotique militaire » édité par les Cahiers de la Revue Défense Nationale :
https://fr.calameo.com/read/000558115a2727297e70a</footnote>
Nous présenterons ici les différentes formes de conscience que le soldat expérimente en opération, et tenterons d'imaginer comment cette forme de conscience pourrait être transcrite dans une machine militaire faite de silicium, d'électronique et de logiciels embarqués.

# 4.1 Le soldat a conscience du contexte militaire dans lequel il est engagé

## 4.1.1 Conscience d'être un maillon dans un système plus complexe

Un soldat n'est jamais seul, mais il est intégré dans une unité, elle-même dépendante d'entités plus larges, et toujours soumis à une autorité supérieure. Il est loyal envers sa hiérarchie, ayant conscience qu'il s'expose à de graves risques et qu'il expose ses camarades s'il n'obéit pas. Cette conscience de l'autre et de la nécessaire entraide au sein du groupe est le fruit d'un entraînement commun, de multiples exercices, et de l'empathie que les frères d'armes ont les uns pour les autres. C'est ce qui forge un esprit de corps.

Une machine ne pourra jamais avoir une telle conscience, ce sentiment d'appartenance et de redevabilité envers les autres. Cette dimension est purement humaine, fruit de nos fragilités et de nos forces, et d'un vécu commun et partagé.

## 4.1.2 Conscience de sa relation aux autres

Au niveau tactique, toutes les unités sont plus ou moins spécialisées dans une fonction (tireur d'élite, démineur, fantassin), un moyen d'action (commando, reconnaissance) ou dans la gestion d'équipements qui lui sont confiés (artillerie, blindés). Cette organisation implique une interdépendance entre les unités pour une sécurité et une efficacité optimale. Ainsi nous trouvons des unités d'appui (artillerie, génie) et de soutien (transmission, train, matériel). Elles sont toutes organisées au sein d'un dispositif où chacun connait sa place et son rôle.

Pour le soldat, ceci nécessite à la fois a) d'avoir conscience de ce que les autres unités peuvent m'apporter dans mon action, et à la fois b) avoir conscience de ce que je dois mettre en œuvre pour soutenir ou appuyer ou secourir les autres. Les autres en effet comptent sur moi, tout comme moi je compte sur les autres, et cette relation de dépendance passe par la confiance.

Concrètement, le premier réflexe du soldat dans le feu de l'action, hormis se protéger soi-même, est de penser au groupe dont il fait partie pour à la fois s'assurer de la protection de ses camarades, tout en faisant effort sur l'ennemi. Un fantassin ne progresse jamais à l'aveugle : il regarde autour de lui en permanence ses camarades et adapte sa progression en fonction de leur vitesse, des risques perçus. De la même façon, il a dans sa progression conscience du soutien de ses camarades ce qui le met en confiance.

Cette conscience de l'autre accompagne toute action militaire, et conditionne le choix du combattant : va-t-il continuer son assaut ou s'arrêter quelques instants pour protéger la
progression de son camarade ? Va-t-il s'exposer plus encore pour dépasser un obstacle, reprendre l'initiative ? C'est la prise de risque pour lui et pour les autres qui conditionne sa décision, le tout en suivant le cadre d'ordre qu'il a reçu. C'est également la possibilité de se sacrifier le cas échéant pour sauver une situation ou un camarade.

L'interconnexion entre systèmes permet un échange d'information, mais ne permet pas de donner une valeur de confiance à la donnée, ni à personnaliser un équipement avec lequel j'interagis. Cette valeur de confiance et la nécessaire mise en contexte de la donnée sont le fruit d'une perception globale qu'une machine ne saura jamais reproduire car elle n'aura jamais cette confiance que les individus peuvent avoir dans leur camarade, et ne sera jamais en mesure de mesurer la force morale qui fait la grandeur des armées.

Néanmoins, la machine ayant une force calculatoire supérieure à celle de l'Homme, va pouvoir anticiper les besoins nécessaires à la situation tactique demandée en fonction des éléments qu'elle a collectés, et proposer un redéploiement des moyens ou ressources dont elle dispose au profit de telle unité ou de telle autre.

### 4.1.3 Conscience de ses limites et des limites du groupe auquel il appartient

Le militaire effectue son action en ayant conscience des limites de cette action. Il prend en compte les armes qu'il a à sa disposition, leur portée, les effets de ces dernières sur l'objectif (le percement du blindage) etc. Sur ce point il est possible qu'une machine ait la possibilité de traduire les caractéristiques de ses équipements (capteurs, processeurs, effecteurs etc.) en limites structurelles qui pourront être prises en compte dans toute décision algorithmique.

Le militaire mesure aussi les risques auxquels il s'expose, en dévoilant ou non son dispositif durant la manœuvre. Le chef, de son côté, prend en compte les potentiels et contraintes de son unité de combat, voyant si avec les éléments qu'il a il peut conduire une manœuvre victorieuse dans le temps, ce qui n'est pas sans rappeler l'évangile selon Saint Luc (14, 31-33).

La machine peut là encore effectuer des calculs probabilistes sur les chances de réussite d'une manœuvre selon l'option choisie. Néanmoins, ce qui fait la force de l'Homme, c'est sa capacité à rebondir face à l'adversité en inventant un mode opératoire innovant. Une telle créativité ne sera pas possible pour une machine qui restera dans les bornes qui lui auront été fixées, limitant ici toute capacité d'innovation hors du cadre prédéfini.

## 4.2 La conscience dans l'action

Sur le terrain prédomine la conscience de situation au cœur de l'action militaire.
### 4.2.1 Perception de ce qu'il ressent

Au combat, l'individu a tous ses sens en éveil. Notamment ses sens physiologiques, sa fréquence cardiaque, sa respiration vont réagir et s'adapter pour faire face au danger<fnref n="4" />. Cette perception de lui-même lui permet d'être conscient de sa capacité à réfléchir et de ses capacités à décider, ou pas.

De nombreux facteurs peuvent influer sur sa conscience relationnelle avec le monde extérieur, c'est-à-dire sur sa capacité de concentration, de réflexion, d'anticipation, ses réflexes... : il s'agit de la fatigue, le stress, la peur, le froid, la faim. Prenons pour exemple la fatigue : un soldat fatigué va lutter contre le sommeil, et s'organiser pour faire en sorte qu'il soit toujours opérationnel au moment de l'action militaire, quitte à s'organiser avec ses camarades (tours de garde et de repos).

Toutes ces agressions de l'environnement extérieur, favorisent une réaction physiologique sur l'individu, d'autant plus intense que la guerre est un acte violent. Notez qu'un des objectifs du projet de recherche sur le soldat augmenté du CREC Saint-Cyr est de tirer parti du développement des nouvelles technologies pour trouver des substituts ou des manières de préserver ou de maintenir la conscience psychologique du soldat face à des situations le mettant à l'épreuve (psychique, psychologique, physique)<fnref n="5" />.

Mais pour ce qui est de la machine, celle-ci ne ressent rien de ces indicateurs physiologiques, car elle n'a pas de physiologie vivante. En conséquence, elle peut juste analyser des informations transmises par des capteurs, et les transformer en comportement imitant la perception d'une indication physique. La faim devient ainsi un niveau en énergie inférieur à un seuil, le froid ou le chaud deviennent une mesure de température couplée avec les tolérances limites des composants, la fatigue un seuil de prédiction de panne en fonction des heures d'utilisation.

### 4.2.2 Perception : maîtrise de l'environnement, de la position dans l'espace, de l'appropriation de l'espace

Un terrain se sent. Le fort de l'entraînement militaire est de faire apprendre aux combattants les caractéristiques des objets et éléments qui l'entourent (route, coupures humides ou végétales, relief), des temps nécessaires pour y évoluer (progression des véhicules, des hommes), et en déduire des positions favorables ou des zones à risques.

L'expérience est primordiale pour percevoir un espace. Néanmoins, il est très raisonnable de penser que les machines du futur auront la possibilité d'étudier de très nombreux paramètres caractérisant un espace, et d'en déduire des choix optimaux selon tel ou tel

<footnote n="4">⁴ Lieutenant-colonel Michel Goya, Sous le feu, cahier de réflexion doctrinale, p17.</footnote>

<footnote n="5">⁵ Cahier de la Revue Défense Nationale, « Le soldat augmenté : les besoins et les perspectives de l'augmentation des capacités du combattant »:
https://fr.calameo.com/read/0005581159f5e895e1a2c</footnote>
besoin : vitesse de progression, optimisation énergétique des mouvements, risque IED, position des appuis etc. Il en est ainsi de l'Intelligence Artificielle qui par son apprentissage des données cartographiques et la consultation de bases de données existantes pourra analyser un terrain peut-être mieux qu'un individu ne le peut. Il reste néanmoins que le fait de sentir le terrain fait appel à une conscience externe de l'environnement que seul l'Homme est en mesure de faire.

### 4.2.3 Perception de la menace

La perception de la menace est le fruit d'un apprentissage extrêmement long qui dure depuis les premiers âges de notre vie, fruit d'une expérience personnelle et de notre éducation. La perception de la menace nait de la méfiance. Or la méfiance est impossible à spécifier pour un langage informatique. Un homme en colère contre lui-même aura un visage fermé, mais n'est pas forcément menaçant. Un homme souriant peut tout à fait simuler une attitude bienveillante, alors qu'il a des intentions hostiles. Pour le monde militaire, un ennemi peut être en mesure de déclencher le feu, mais dans une attitude d'attente d'un ordre de son supérieur. Et un enfant peut jouer avec une arme factice et vous mettre en joue.

Comment une machine pourra-t-elle percevoir ces subtilités, alors qu'elle n'a aucune « éducation à la sociologie humaine » ? Et quand bien même un processus d'apprentissage par l'IA lui ferait apprendre certains comportements, chaque situation est unique et c'est pour cette raison que l'on forme les militaires et notamment leurs chefs au discernement. Les exemples abondent dans la littérature militaire de cette retenue au combat avant le déclenchement du feu, notamment au sein de populations civiles agressives mais non pas animées d'une volonté de destruction. C'est ce qui constitue une partie de l'enseignement aux écoles de Saint-Cyr Coëtquidan dont le but est de former les officiers de demain aux qualités leur permettant de :

* discerner dans la complexité (déployer une véritable intelligence de situation) ;

* décider dans l'incertitude (avoir une véritable force de caractère permettant d'accepter des risques calculés) ;

* agir dans l'adversité (pour fédérer les énergies, susciter l'action collective et décider en conscience).

## 4.3 Le soldat a conscience de ses actes

La conscience au sens moral désigne la « capacité mentale à porter des jugements de valeur moraux [...] sur des actes accomplis par soi ou par autrui »<fnref n="6" />. Or l'homme est un être doué de profondeur et capable de transcendance, lui donnant cette conscience morale. La machine n'est qu'un exécutant de lignes de code sans âme et sans conscience.

<footnote n="6">⁶ https://fr.wikipedia.org/wiki/Conscience</footnote>
### 4.3.1 L'éthique comme règle de la conscience

Avoir conscience de mes actes implique une analyse morale de la conséquence de mes actes. Ce qui reviendrait à pouvoir mesurer les effets d'une action et pouvoir l'analyser en amont de la décision, c'est-à-dire de développer une éthique algorithmique embarquée. Mais selon le professeur Dominique Lambert, « s'il est pensable de programmer un système de telle manière qu'il contrôle la satisfaction de certaines règles, l'évaluation éthique ou morale repose d'abord sur trois éléments majeurs : une appréciation de l'objet d'un acte ou d'une action, une prise en compte des éléments du contexte et enfin une appréhension de l'intention sous-jacente. Il faut un travail d'interprétation qui est, pour une bonne part, intuitif et créatif sans être arbitraire, et la complexité et le caractère inédit des situations imposent parfois que l'on puisse sortir (sans « règles de sortie de règles » !) de tout ensemble existant de règles « classiques », pour pouvoir sauver et faire fonctionner l'esprit général des règles et celui des lois ». De même les éthiques militaires peuvent différer selon les pays et ne pas être « algorithmisables » de la même manière.

### 4.3.2 Pour le chef, la conscience de la portée des actes de ses soldats

La conscience du chef et de sa mission de commandement, de sa responsabilité envers les soldats, implique de savoir si l'ordre qu'il donne à ses soldats est juste ou injuste, moral ou immoral.

Si nous appliquons cela à des machines numériques, il nous semble qu'avoir conscience de la portée des actes des autres revient à centraliser une analyse et une prise de décision à un niveau déporté ailleurs que sur la machine même, c'est-à-dire sur un serveur déporté collectant les données collectives de tous les combattants et équipements du champ de bataille, en vue d'une synthèse. Ce qui nécessite une interconnexion totale entre tous et ce qui aurait pour effet d'abandonner l'initiative à un niveau calculatoire supérieur.

### 4.3.3 La non transgression des règles

Le quatrième article du code du soldat stipule qu'il doit obéir aux ordres dans le respect des lois, des coutumes de la guerre et des conventions internationales. Le soldat doit ainsi faire preuve de discernement lorsqu'il reçoit un ordre contraire aux lois, aux coutumes de guerres et aux conventions internationales et, en se référant à sa conscience, refuser l'application de cet ordre d'un point de vue moral. Sur ce point, sous réserve qu'il soit possible d'algorithmiser les règles et lois humanitaires internationales, la machine sera potentiellement plus performante que l'être humain, car non soumise comme ce dernier aux comportements irréfléchis que peuvent être le stress, la colère, la peur et l'envie de vengeance.

<footnote n="7">⁷ « Autonomie et létalité en robotique militaire » Cahiers de la Revue Défense Nationale, p.231-232.</footnote>
#### 4.3.4 La conscience de son autonomie décisionnelle

Ce qui fait la liberté de l'Homme, c'est sa capacité de décider en son âme et conscience. Dans le monde militaire, cela se traduit par une relation de subsidiarité entre le chef et son subordonné.

Les machines n'ont pas et n'auront jamais de volonté propre, elles ne sont que des algorithmes réagissant à des stimuli (capteurs notamment) et s'adaptant à la situation par l'écoute de leurs capteurs et le traitement de l'information qui en suivra. On ne pourra donc pas parler de volonté des algorithmes, mais éventuellement d'une volonté humaine « algorithmisée » dans une machine.

En outre, il n'est d'aucun intérêt pour un chef militaire d'avoir un système robotique qui se gouverne avec ses propres règles et ses propres objectifs, ni qui puisse faire preuve de désobéissance ou s'affranchir du cadre qu'on lui a fixé. Tout système autonome doit respecter les ordres et les consignes militaires, car c'est le chef qui les donne et qui donne du sens à l'action militaire, tout en étant le responsable<fnref n="8" />.

En conséquence il n'est pas souhaitable d'avoir des machines avec une intelligence artificielle simulant une prise de décision autonome en dehors du cadre normatif militaire, à savoir une obéissance totale aux ordres et consignes que lui ont donnés les chefs militaires qui l'ont en charge.

Il reste que le progrès est dû à l'intelligence de l'Homme lorsqu'elle s'exprime pour dépasser ses propres limites. Or, par construction, et pour garder confiance dans la machine, cette dernière ne sera pas autorisée à dépasser ses limites dans le monde militaire, sous peine de dérives incontrôlables et inacceptables.

### 5. Les cas particulier de l'intuition et de l'instinct

Certaines personnes sont aptes à voir plus loin que le simple visible, à pressentir des menaces, des évènements à venir ou bien les conséquences de certaines actions, sans être dans la possibilité de l'expliquer rationnellement. C'est-à-dire avoir une intuition de ce qui peut se réaliser dans le futur. Ce n'est parfois même qu'après coup qu'elles prennent conscience du fait.

<footnote n="8">⁸ Guillaume Venard et Gérard de Boisboissel : La nécessaire place du chef militaire dans les systèmes d'armes robotisés autonomes, Cahier de la RDN « autonomie et létalité en robotique militaire », p. 118.</footnote>
Ainsi, le pressentiment – ou intuition – et l’instinct échappent souvent à toute logique rationnelle et peuvent conditionner des réactions qui sauveront la vie sur le champ de bataille. Leur codage dans des machines semble hautement improbable.

Le témoignage du capitaine Clément H, officier de cavalerie, lieutenant chef de peloton au moment des faits, nous en donne un exemple saisissant :

« Nous sommes en 2011, dans un pays africain francophone. L’unité à laquelle j’appartiens conduit un raid blindé dans une grande ville.

Après avoir été au contact pendant plus d’une heure contre un ennemi mobile et entreprenant, la situation semble brusquement se calmer dans ma zone d’action. Je reçois donc l’ordre de mon capitaine de reprendre la progression vers l’objectif du bataillon.

Toutefois, j’ai le sentiment qu’une menace est toujours présente à proximité de ma position. Je décide donc d’envoyer mon chef d’escouade mener « un coup de sonde » sur le carrefour situé à une cinquantaine de mètres devant moi. A l’issue seulement, j’envisagerai de m’y engager avec mes chars. Mon chef d’escouade, le maréchal des logis Boris D., s’y déplace et me rend compte que la situation est « claire ». Je lui demande néanmoins d’y retourner, car j’ai toujours l’intuition que quelque chose ne va pas. Il exécute l’ordre et y retourne. Au même moment, mon commandant d’unité, pressé, me demande d’accélérer le mouvement, ne comprenant pas pourquoi je suis toujours à l’arrêt. Je temporise autant que possible.

Puis, alors que j’observe mon chef d’escouade depuis la tourelle de mon engin blindé, je remarque que son véhicule blindé léger se met subitement à reculer rapidement. Et ce dernier me rend compte d’une voix forte à la radio : « BMP2 posté secteur gauche du carrefour ! ». Le capitaine me donne immédiatement l’ordre de détruire le blindé ennemi : « ALPHA 10, détruisez ! ». Après trois à quatre minutes interminables, percé d’un obus flèche tiré par mon opérateur tourelle, le blindé ennemi explose.

Quand je repense à cet événement et au vu de la situation, objectivement, on aurait pu y aller ; « mais je ne le sentais pas ». Cela nous a certainement sauvé la vie. »

## 6. Conclusion

On le voit, ce n’est pas une conscience unique à laquelle le soldat fait appel sur le champ de bataille, mais à plusieurs types de consciences. Pour certaines d’entre elles, il semble envisageable pour une machine d’avoir des comportements qui puissent sembler en concordance avec une analyse consciente, comme par exemple la perception active de son environnement et de ses dangers (à un horizon de 5 ans), l’aide à la décision pour le commandement (à horizon de 10 ans avec l’Intelligence Artificielle) et la non violation des règles et des lois internationales quel que soit le contexte (à plus long terme).
Il reste qu'une machine numérique n'aura jamais connaissance de sa propre physiologie, ne connaitra jamais ce que peut être une relation psychique avec des équipiers, préambule à toute notion de confiance dans les autres. Elle « ne pourra jamais comprendre les subtilités du cerveau humain, capable de simuler, de bluffer, de mentir, et surtout d'aimer. A fortiori le cerveau d'un adversaire distant sur le champ de bataille. Tout au plus pourra-t-elle simuler. Enfin l'audace restera toujours le propre de l'homme car elle intègre la notion de sacrifice nécessaire pour la mission, ou pour sauver un camarade»<fnref n="9" />.

Le docteur Patrick Theillier indique que « depuis des décennies, des recherches scientifiques ont été conduites pour localiser la conscience et la mémoire à l'intérieur du cerveau. Or la Science n'a à l'heure actuelle aucune idée sur la façon dont les cellules cérébrales pourraient engendrer des pensées... et certains suggèrent que la conscience est séparée du corps »<fnref n="10" />. Comment une machine militaire pourrait-elle avoir une telle transcendance et écouter sa conscience ? De fait, générant des données en sortie après traitement algorithmique de données en entrée, elle est par construction finie. Elle restera donc un outil au service du chef militaire et sous son contrôle, afin de lui laisser l'initiative et le contrôle de la manœuvre, actions que ce dernier effectuera de lui-même, mais en toute conscience.

<footnote n="9">⁹ idem.</footnote>

<footnote n="10">¹⁰ Patrick Theillier, Expériences de mort imminente, p. 96.</footnote>