Présentation

La troisième partie rassemble, par-delà les avancées scientifiques et techniques des deux parties précédentes, différentes réflexions sur l'intelligence, la conscience et l'impact de l'IA sur les activités humaines. Avant la conscience, il y a l'intelligence. Le premier texte expose d'abord une approche statistique des différents termes associés à la notion d'intelligence, pour aboutir par le biais des mots les plus fréquemment associés à une sorte de définition « faible » de l'Intelligence, faible mais consensuelle. L'auteur se pose alors la question de la différence entre Intelligence et Intelligence Artificielle, et propose une approche de cette différence, basée sur des références philosophiques. La conscience a été longtemps considérée comme une exclusivité humaine, mais la conviction grandit - et s'est pour ainsi dire pratiquement établie - que les animaux ont également une forme de conscience, à des degrés dépendant de leur place dans l'arbre phylogénétique. Mais peut-on, nous humains, avoir une expérience de - trouver au fond de nous-même - ce que peuvent être ces consciences animales, sachant que notre expérience immédiate de la conscience est langagière ; c'est à cette question difficile que s'attaque le second texte, en s'appuyant sur de nombreuses références philosophiques. Les deux derniers textes traitent de l'utilisation des robots, et du contrôle de cette utilisation. Le premier se place dans le contexte militaire, mais lui aussi se pose la question de la distinction entre Intelligence et Conscience, des différents types de conscience, de l'utilité et de la possibilité de robots conscients. Le second traite de l'éthique entre Humains et Robots, et du degré d'intelligence voire de conscience – mais l'auteur ne croit pas à cette dernière possibilité-souhaitable pour ces derniers dans de telles interactions.

Définir l'intelligence

La définition des mots « Intelligence », « Intelligence artificielle » relève de la gageure. Non pas qu'il soit difficile d'en trouver une définition ; au contraire, il y a de profusion. Ernesto Di Mauro part ainsi à la recherche de définitions couramment données du mot « intelligence », dans le but d'en extraire les traits les plus fréquents, et d'aboutir ainsi à une formulation commune et consensuelle. Il base son analyse sur 70 définitions de l'intelligence parues dans la littérature anglophone spécialisée. Au terme d'une analyse comparative, il aboutit à rassembler les termes majeurs dans la définition suivante :
« L'intelligence est la capacité de s'adapter à de nouveaux environnements au service d'un but, d'apprendre et de comprendre. » Ernesto Di Mauro réfléchit ensuite à ce qui sépare l'Intelligence de l'Intelligence Artificielle. La démarche adoptée s'appuie sur la distinction, que les philosophes stoïciens de l'antiquité ont fait leur<fnref n="1" />, entre le logos endiathètos et le logos prophorikos. Le premier est le discours intérieur, le « dialogue de l'âme avec elle-même » selon l'expression de Platon, s'identifiant à la pensée consciente, telle que l'homme l'expérimente. Le second est le discours externe, le discours proféré par la voix. L'intelligence humaine ressortirait ainsi, dans son essence, du logos endiathètos. L'IA se situerait, à contrario, du côté du logos prophorikos. Ces distinctions se rattachent en fait aux discussions très anciennes, mais réactualisées par les recherches en IA, sur les rapports entre langage et pensée.

## Une conscience animale ?

L'intelligence et/ou la conscience sont-elles réservées, dans le monde vivant, aux seuls êtres humains ? La réponse à la question a évolué dans le temps entre une refus net de toute forme d'intelligence et de conscience au sein des animaux et une reconnaissance tout aussi globale, largement empreinte d'anthropomorphisme. Conclure est difficile, car d'une part, les animaux ne peuvent pas « rapporter » leurs éventuelles expériences conscientes et d'autre part les humains, dans leur essai de compréhension de ce que peut être une conscience animale, sont bloqués par leur propre expérience. A partir de ce constat Franck Cosson, en s'appuyant sur sa connaissance de l'éthologie, développe son analyse philosophique. Il prend parti en mettant en avant l'idée d'une différence de degré et non de nature entre les diverses potentialités conscientes. Ce principe de continuité l'autorise à affirmer que les humains peuvent accéder, par une introspection bien conduite dans leur propre animalité, à ce que peut vivre un animal, et à théoriser les moyens d'approcher ainsi ce que peut être son niveau de conscience. Franck Cosson poursuit en tentant de cerner ce qu'est ce niveau de conscience primaire, dans ses rapports avec la perception de l'environnement, la perception de son propre corps et de ce qui l'affecte : besoin, plaisir, douleur, ressenti du danger, ressenti de l'effort ; dans ses rapports avec les émotions, les interactions avec les semblables ; dans ses rapports enfin avec le parcours de vie, l'expérience acquise, la mémoire, éléments pouvant conduire à l'émergence d'une « singularité » de chaque individu, base de l'apparition d'une conscience d'un niveau supérieur.

## Conscience artificielle et monde militaire

Un tel sujet peut surprendre ; moins cependant quand on sait la place que prennent les drones, et d'une façon plus large toutes sortes de techniques liées à l'IA, dans l'armement

<footnote n="1">¹ Cf Curzio Chiesa, Le problème du langage intérieur dans la philosophie antique de Platon à Porphyre. *Histoire Epistémologie du Langage, tome 14, fascicule 2, 1992, (partie d'un numéro thématique « Théories linguistiques et opérations mentales »)*</footnote>
contemporain. Aussi n'est-il pas étonnant qu'un spécialiste de ces questions, Gérard de Boisboissel, vienne devant nous s'interroger sur ce qu'est la conscience, sur la possibilité ou non de disposer de machines conscientes, et sur l'intérêt qu'il y aurait à le faire dans le contexte militaire. Il commence par bien distinguer intelligence et conscience : s'il existe des machines auxquelles sont attribuées sans trop de discussion le qualificatif d'intelligentes, aucune d'entre elles ne peut être vue, pour l'instant, comme « consciente ». Il examine ensuite les différentes catégories de conscience, en reprenant la typologie séparant conscience mesurée par un état de vigilance et conscience d'accès à telle ou telle information ; il y rajoute la conscience des conséquences de ses choix d'action. Il prend parti en posant qu'on ne pourra pas doter une machine d'aucun de ces types de conscience. Si tant est qu'on puisse cependant un jour le faire, en complément d'algorithmes d'IA, serait-ce vraiment utile ou souhaitable ? Pour réfléchir à cette question G. de Boisboissel analyse les différentes facettes de la conscience (humaine) nécessaires à (et mises en œuvre par) un combattant sur un champ de bataille. Cette analyse lui permet de déterminer quelles seraient les facettes qui pourraient avantageusement être intégrées - lorsqu'elles ne le sont pas déjà - dans des systèmes robotisés. Il termine en posant qu'un programme, aussi évolué soit-il, n'aura jamais l'intuition ou l'instinct d'un être humain. Et qu'une machine, militaire ou non, est et restera (ou devra rester) un outil au service et sous le contrôle de ceux qui l'utilisent.

## Relation émotionnelle entre humains et robots : quelle éthique ?

Le dernier chapitre concerne l'application de l'IA et de la robotique au secteur de l'aide à la personne. Le choix de ce thème résulte d'un constat tout aussi dramatique que le constat sur la course aux armements sous-tendant le thème précédent : l'explosion de la longévité et la rupture, dans la plupart des civilisations, du tissu familial, avec des fins de vie solitaires. C'est, pour beaucoup de personnes, une situation tragique et on n'a rien trouvé de mieux que de fournir aux vieillards des aides, à la fois matérielles et morales : des robots affectueux... Les bénéficiaires en seront-ils comblés ? Avec ces questions en arrière plan, Laurence Devillers aborde ce qu'on appelle le thème de la « robotique émotionnelle », entrant dans le cadre de la relation entre humain et robots. Elle commence par rappeler les avancées, apportées par la psychologie et les neurosciences, sur la compréhension des émotions, de leur rôle, de leur rapport avec la conscience ; elle revient également sur cette dernière notion, ses différentes définitions et composantes. Elle retrace ensuite le parcours de l'IA sous l'angle de son propos, savoir l'intégration des machines dans la société, l'utilisation de plus en plus fréquente de ces machines par les individus, les travaux concernant, dans le cadre de ces interactions, la détection des émotions individuelles par les machines et leur simulation en retour. Elle s'interroge enfin sur les bénéfices et les risques de toutes ces avancées. Doter des robots de simulation émotionnelle ou de capacité d'interprétation est notamment réalisé dans le domaine de la santé. Ils peuvent alors apporter une aide précieuse : jeu avec les enfants malades, surveillance des personnes hospitalisées, intervention en cas de dépression ou d'autisme, aide au diagnostic... Mais d'un autre côté, « les robots sont aussi porteurs de risques importants d'isolement, de déshumanisation et de manipulation des humains ». La co-adaptation humain-machine
s'étend rapidement mais demande réflexion tant la possibilité d'être manipulés par ces
engins est grande. Laurence Devillers incite donc à la vigilance et assure que cette co-
adaptation « devra sur le long terme être un axe de recherche et de surveillance important
dans les prochaines années. »

Pour le comité de lecture de l’AEIS<fnref n="2" />

<footnote n="2">²Gilbert Belaubre, Jean Schmets, Jean-Pierre Treuil</footnote>