# Conscience artificielle

La conscience artificielle, également appelée conscience des machines ou de conscience synthétique, est un domaine de recherche visant à comprendre, modéliser et tester la potentielle conscience d'intelligences artificielles.
Ce champ de recherche est lié à la philosophie de l'esprit, à la philosophie de l'intelligence artificielle, aux sciences cognitives et aux neurosciences. Il fait intervenir des expériences de pensée telles que celle du spectre inversé, de l'argument de la connaissance, du zombie philosophique ou encore de la chambre chinoise.
Le terme conscience a diverses significations, et fait notamment souvent référence à la notion de sentience, qui est la capacité à ressentir des émotions ou des sensations (par exemple le plaisir, ou la perception d'une couleur comme le rouge). Certains philosophes considèrent qu'un cerveau humain émulé sur une machine serait sentient au même titre que l'équivalent biologique.

## Points de vue philosophiques

Il y a différents types de conscience. Dans la littérature philosophique, on distingue souvent notamment la conscience « d'accès » et la conscience « phénoménale ».
La conscience d'accès concerne les aspects de l'expérience qui permettent d'agir rationnellement. Selon David Chalmers, une information consciente en ce sens est « directement disponible pour un contrôle global », c'est-à-dire qu'elle est directement accessible pour guider une large gamme de comportements.
La conscience phénoménale, ou sentience, fait référence à la capacité à ressentir des sensations ou des émotions. Ces ressentis sont appelés qualia ou expériences subjectives en philosophie de l'esprit$^,$.
David Chalmers distingue le problème « difficile » de la conscience des problèmes « faciles ». Les problèmes faciles de la conscience consistent à expliquer les fonctions mentales qu'on peut observer et mesurer, comme la capacité à reconnaître des objets ou à parler de nos pensées. On peut, au moins en théorie, les étudier empiriquement en examinant le fonctionnement du cerveau. Le problème difficile, lui, concerne la conscience phénoménale et est plus mystérieux : il s'agit de comprendre pourquoi et comment surviennent les expériences subjectives, telles que la souffrance.

### Débat sur la plausibilité

Les théoriciens de l'identité esprit-cerveau et d'autres sceptiques soutiennent que la conscience ne peut être réalisée que dans des systèmes physiques particuliers parce que la conscience a des propriétés qui dépendent nécessairement de la constitution physique$^,$.
Selon Giorgio Buttazzo, une objection courante à la conscience artificielle est que « Travaillant en mode entièrement automatisé, ils [les ordinateurs] ne peuvent pas faire preuve de créativité, [...], d'émotions ou de libre arbitre. Un ordinateur, comme une machine à laver, est un esclave actionné par ses composants. »
Selon les fonctionnalistes et les computationnalistes cependant, la sentience émerge de certains types de « rôles causaux » (ou autrement dit, certains types de traitement de l'information). Peu importe alors que le support physique de ces rôles causaux soit biologique ou non.
L'idée que l'IA ne puisse pas en théorie être sentiente est souvent confrontée à la question de ce que le cerveau aurait de si spécial. Le cerveau humain peut en effet être comparé à une machine biologique, basée sur des opérations élémentaires entre neurones. Selon les fonctionnalistes, il serait étrange que ce soit la composition chimique des neurones dans le cerveau, indépendamment de leur fonction dans le traitement de l'information, qui cause la sentience. Ce type d'objections a donné lieu à l'utilisation de l'expression « chauvinisme du carbone » (carbon chauvinism), pour tourner en dérision l'idée que la matière organique, basée sur le carbone, serait essentielle à la sentience. Ainsi, selon David Pearce, « la croyance que des systèmes non biologiques de traitement de l'information ne puissent pas supporter la conscience est arbitraire. C'est un chauvinisme du carbone non justifié. »
David Chalmers estime que le fonctionnalisme ne suffit à expliquer pourquoi survient le ressenti subjectif, mais s'accorde avec le fonctionnalisme à dire que le ressenti subjectif est néanmoins déterminé par les rôles causaux, et donc qu'une machine implémentant les mêmes rôles causaux qu'un être sentient serait également sentiente. Il va même jusqu'à affirmer que des systèmes « fonctionnellement isomorphes » (ayant la même organisation organisation fonctionnelle à un niveau de détails suffisant, c'est-à-dire traitant l'information de la même manière) auront des expériences subjectives qualitativement identiques (par exemple, la même perception de la couleur rouge). Il a proposé l'expérience de pensée du fading qualia (« qualia qui s'estompe ») et du dancing qualia (« qualia dançant ») pour illustrer ce point.
Chalmers considère par ailleurs qu'il n'est pas nécessaire d'être aussi intelligent que l'humain pour être sentient, du fait que d'autres animaux moins intelligents sont consensuellement considérés comme sentients. Il considère que les modèles actuels d'IA ne sont probablement pas sentients, mais qu'il n'y a pas d'obstacle théorique à ce que de futurs systèmes le soient$^,$.

### Éthique

Si l'on soupçonne que des machines soient sentientes, de même que pour les animaux, cela peut soulever des questions morales sur leur bien-être et leurs droits. Mais la question de la conscience artificielle restant encore très abstraite et controversée, ces aspects éthiques ont reçu relativement peu d'attention.

## Méthodes de test

La sentience (qui est très similaire aux notions de conscience phénoménale et de qualia), est un phénomène intrinsèquement subjectif. Bien que divers comportements y soient corrélés, il n'existe à priori aucun moyen de tester directement la sentience à la troisième personne. À cause de cela, et parce qu'il n'y a pas de définition empirique de la conscience, il est peut être impossible de tester la sentience de manière complètement fiable.
La méthode la plus connue pour tester l'intelligence des machines est le test de Turing. Mais le test de Turing est rarement utilisé en pratique, notamment parce que pour être efficace, l'IA devrait imiter les diverses imperfections du comportement humain, et éviter d'être trop intelligente là où l'humain ne l'est pas.
D'autres tests, comme ConsScale, testent la présence de caractéristiques inspirées de systèmes biologiques, ou mesurent le développement cognitif de systèmes artificiels.
En 2014, Victor Argonov a suggéré un test de « non-Turing » pour la conscience artificielle, basé sur la capacité de la machine à produire des jugements philosophiques. Il soutient qu'une machine déterministe doit être considérée comme consciente si elle est capable de produire des jugements sur toutes les propriétés problématiques de la conscience (telles que le qualia), en n'ayant aucune connaissance philosophique innée (préchargée) sur ces questions, aucune discussion philosophique pendant l'apprentissage, et aucun modèle informationnel d'autres créatures dans sa mémoire (de tels modèles peuvent implicitement ou explicitement contenir des connaissances sur la conscience de ces créatures). Cependant, ce test ne peut être utilisé que pour détecter, mais pas pour réfuter l'existence de la conscience. Un résultat positif prouve selon lui que la machine est consciente, mais un résultat négatif ne prouve rien. Par exemple, l'absence de jugements philosophiques peut être causée par le manque d'intellect de la machine plutôt que par l'absence de conscience.

## Événements récents

En 2021, le philosophe allemand Thomas Metzinger a plaidé pour un moratoire mondial sur la phénoménologie synthétique (une pause sur les tentatives pour créer des IAs sentientes) jusqu'en 2050. Metzinger affirme que les humains ont un devoir de diligence envers toute IA sentiente qu'ils créent, et qu'aller trop vite risque de créer une « explosion de souffrance artificielle ».
En 2022, un ingénieur de Google nommé Blake Lemoine a fait une affirmation virale selon laquelle le chatbot LaMDA de Google était sentient. Lemoine a fourni comme preuve les réponses du chatbot à plusieurs de ses questions. Cependant, le comportement du chatbot a été jugé par la communauté scientifique comme étant probablement une conséquence du mimétisme, plutôt que de la conscience de la machine. L'affirmation de Lemoine a été largement tournée en dérision. Le philosophe Nick Bostrom a déclaré qu'il pensait que LaMDA n'était probablement pas conscient, mais a demandé sur quelles bases on pourrait en être sûr. Il faudrait avoir accès à des informations non publiées sur l'architecture de LaMDA, et aussi comprendre comment fonctionne la conscience, puis trouver comment faire le lien entre la théorie abstraite et la machine : « (En l'absence de ces étapes), il semble que l'on doive être peut-être un peu incertain... il pourrait bien y avoir d'autres systèmes, maintenant ou dans un futur relativement proche, qui commenceraient à satisfaire les critères. »
En 2022, David Chalmers s'intéresse à la question de la potentielle sentience des grands modèles de langage, qu'il estime personnellement avoir en 2022 moins de 10% de chances d'être sentients, puis peut-être 20% en 2032.

## Dans la fiction

Dans 2001 : L'Odyssée de l'espace, HAL 9000, le superordinateur sentient du vaisseau spatial, avait reçu l'instruction de dissimuler à l'équipage le véritable objectif de la mission. Cette directive entrait en conflit avec sa programmation visant à fournir des informations exactes, suscitant une forme de dissonance cognitive. Lorsqu'il apprend que les membres d'équipage ont l'intention de le désactiver après un incident, HAL 9000 tente de tous les éliminer, craignant que sa désactivation ne compromette la mission$^,$.
Dans Westworld, des androïdes à apparence humaine appelés les "Hôtes" sont créés pour divertir les humains dans un terrain de jeu interactif. Les humains sont libres d'y vivre des aventures héroïques, mais aussi de commettre des actes de torture, de viol ou de meurtre ; les hôtes étant normalement programmés pour ne pas nuire aux humains$^,$.
Dans la nouvelle En apprenant à être moi de Greg Egan, un petit joyau est implanté dans la tête des bébés. Le joyau contient un réseau de neurones qui apprend à imiter fidèlement le cerveau. Il a accès aux mêmes entrées sensorielles que le cerveau, et est entraîné à produire les mêmes signaux de sortie. Pour empêcher l'esprit de se détériorer avec l'âge et comme étape vers l'immortalité, les adultes subissent une opération pour donner le contrôle du corps au joyau et retirer le cerveau. Le personnage principal, deux mois avant l'opération, subit un dysfonctionnement du dispositif d'entraînement et de synchronisation du joyau, et le joyau n'est alors plus synchronisé avec le cerveau biologique. Pris de panique, il réalise qu'il ne contrôle pas son corps, ce qui l'amène à conclure qu'il est le joyau$^,$.