# Conversation autour du spectacle “ Qui a hacké Garoutzia? ”

Serge Abiteboul, Lisa Bretzner, Laurence Devillers, Rémi Ronfard

<figure><img src="image_1.png" /></figure>

## To cite this version:

Serge Abiteboul, Lisa Bretzner, Laurence Devillers, Rémi Ronfard. Conversation autour du spectacle “Qui a hacké Garoutzia?”. Journées d'informatique théâtrale, Oct 2024, Avignon, France. hal-05239335

HAL Id: hal-05239335

https://inria.hal.science/hal-05239335v1

Submitted on 4 Sep 2025

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

<figure><img src="image_2.png" /></figure>

Distributed under a Creative Commons Attribution 4.0 International License
CONVERSATION AUTOUR DU SPECTACLE « QUI A HACKE GAROUTZIA ? »

Serge Abiteboul

Inria, École Normale Supérieure, Paris

serge.abiteboul@inria.fr

Laurence Devillers

LISN-CNRS, Sorbonne Université

devil@limsi.fr

Lisa Bretzner

Compagnie Atropos

lisa.bretzner@gmail.com

Rémi Ronfard

Inria, Université Grenoble Alpes

remi.ronfard@inria.fr

RÉSUMÉ

Cet article est une transcription de la table ronde animée par Rémi Ronfard au cours de laquelle Serge Abiteboul, Lisa Bretzner et Laurence Devillers racontent les étapes d'écriture et de mise en scène de la pièce « Qui a hacké Garoutzia ? » et échangent avec le public des journées d'informatique théâtrale.

1. INTRODUCTION

Rémi : Je suis très heureux de recevoir Serge Abiteboul, Lisa Bretzner et Laurence Devillers, que je vais présenter d'abord.

Serge Abiteboul est directeur de recherche à l'INRIA à l'école normale supérieure. Il est connu pour son travail sur les bases de données. Il a également enseigné au Collège de France et à l'Université de Stanford. Il est membre de l'Académie des sciences et il co-édite avec des amis le blog binaire du journal Le Monde, consacré à l'informatique. Serge a publié plusieurs livres scientifiques, dont un plaidoyer pour les communs numériques [2,8,12]. Il est aussi romancier et auteur dramatique [1, 11].

Laurence Devillers est professeure à Sorbonne Université, chercheuse au laboratoire LISN, du CNRS. Ses domaines de recherche portent principalement sur l'interaction homme-machine, la détection des émotions, les agents conversationnels, et la robotique affective. Elle a publié plusieurs livres scientifiques [13,14,15] notamment sur les enjeux d'éthique de l'IA et elle est également autrice dramatique ([1].è

Lisa Bretzner est comédienne, autrice et metteuse en scène de théâtre. Elle est directrice artistique de la compagnie Atropos dans le

département de l'Aude. Elle s'intéresse en particulier aux liens entre art et science. Elle a publié et mis en scène une pièce de théâtre d'anticipation intitulée "Synthèse" [3] puis mis en scène la pièce « Qui a hacké Garoutzia ? » [1].

2. ECRITURE

Rémi : Serge et Laurence, vous avez écrit avec Gilles Dowek votre première pièce de théâtre en 2022 sous le titre « Qui a hacké Garoutzia? » [1]. La pièce a été mise en scène par Lisa et créée en juillet 2023 dans le cadre du festival d'Avignon. Comment vous est venue l'idée d'écrire pour le théâtre? Pourquoi avoir choisi ce medium pour parler d'informatique et d'intelligence artificielle ?

Serge : On est tous les trois des scientifiques qui font de la recherche, donc on écrit des bouquins pour nos collègues, et puis un jour, on s'est tous les trois dit à des moments différents qu'on aimait bien expliquer aussi ça au grand public. Donc, on a tous les trois écrit des essais pour le grand public. Bon, ce ne sont pas des trucs très rigolos, et quelque part, on avait aussi envie d'écrire des choses un peu plus légères. Alors, moi, j'avais écrit des nouvelles de science-fiction qui étaient parues au Pommier, Le bot qui murmure à l'oreille de la vieille dame, et je trouvais que c'était pas mal comme exercice de parler de la même chose, des sciences que je connais, mais de façon plus, disons, romanesque.

Rémi : Et alors, après, comment es-tu passé du roman au théâtre ?

Serge : C'est arrivé dans un dîner. On avait sans doute picolé un peu trop. Donc, encore une fois, dans le thème de l'influence éthylique sur la création, on s'est dit, puisqu'on a envie de parler de ce qu'on fait, on a envie de parler de l'intelligence
artificielle au grand public, comment on pourrait le faire ? Et je crois que c'est Laurence qui a dit, on va écrire une pièce de théâtre, ce qui, moi, me paraissait absolument absurde, puisque je ne connais absolument rien au théâtre. J'ai donc commencé à lire un certain nombre de pièces pour comprendre ce que c'était. Et puis, là-dessus est arrivé le Covid, qui a été pour nous un grand déclencheur de créativité.

Donc, on s'est réunis régulièrement en vidéo, tous les trois, et on a écrit la pièce, comme ça, en se prenant des fous rires absolument monstrueux, et parfois des engueulades mémorables que vous ne pouvez pas comprendre en lisant la pièce. Je peux juste vous donner un exemple. À un moment donné, ils mangent des "penne all'arrabiata" dans la pièce. On a dû discuter pendant trois heures pour savoir s'ils mangeaient des penne all'arrabiata ou du couscous. Comme si c'était vraiment fondamental. Je ne vous dirai pas qui défendait quoi. Et donc, on s'est beaucoup amusés.

On a essayé de parler de l'intelligence artificielle. Alors, on avait quand même un but. C'était un petit peu d'arrêter l'angoisse. C'est-à-dire, quand vous lisez des romans, quand vous regardez des films sur l'IA, on est toujours dans la dystopie. C'est toujours très lourd. Alors, que c'est des trucs géniaux. Moi, je suis un fan total de Black Mirror. Mais ce n'est juste pas comme ça, la réalité. Donc, on avait envie d'expliquer ce que nous, on voyait dans l'intelligence artificielle. Et donc, l'histoire qu'on raconte n'est pas du tout une histoire sordide. Ce n'est pas la fin du monde, au contraire.

Rémi : Non, c'est même un monde où les agents conversationnels font partie de la réalité quotidienne et où ça n'est plus un problème, en tout cas pour les participants. Mais c'est un problème dans l'intrigue. Enfin, l'intrigue montre certaines problématiques.

La pièce est de la science-fiction car les agents conversationnels n'apprennent pas encore à la volée mais ce sera le cas-demain. C'est ce qu'on anticipe dans la pièce, c'est effectivement que ces objets vont arriver autour de nous. On a déjà des IA génératives comme ChatGPT qui imitent la parole des humains. Elles vont peut-être pouvoir s'adapter bientôt à chacun. Microsoft a déjà essayé de faire cela avec l'agent conversationnel Tay mais cela ne marchait pas très bien car ce n'était pas du tout contrôlé. Mais on pourrait imaginer que un meilleur contrôle. On

aurait donc une machine qui s'adapte à chacun et mémorise ce que nous sommes au quotidien. La pièce porte principalement sur la mémoire. C'est vraiment sur la mémoire des humains, et sur la désirabilité aussi de cet objet qui va garder votre mémoire même quand vous serez morts. On a traité ce sujet d'un point de vue tragi-comique.

Même si la pièce est plutôt comique, drôle, qu'on mange des penne all'arabiata et que c'est assez léger, on a beaucoup joué, en fait, sur cette idée de mémoire à travers les machines et puis aussi sur le langage des IA. La machine s'adapte au langage de chacune des personnes qu'elle va rencontrer. Et puis la pièce est un thriller. Donc, il y a aussi des gens qui meurent, une enquête sur un meurtre et une société "BotPower" qui surveille avec des logiciels espions qui vérifient la machine, les droits des machines. Tous nos propos sont à chaque fois semés de vocabulaire lié à l'IA et aux réseaux de neurones et plutôt humourisque. La machine est conçu avec des « réseau de neurones », on l'appelle « tas de pixels ». L'IA s'adapte aux humains et ça c'est aussi fort drôle pour les spectateurs. Je pense qu'ils comprennent d'un seul coup en passant de l'acte 1 à l'acte 2, qu'au début, ce chatbot, a des expressions très robotiques, puis à l'acte 2, il a déjà appris de ses interactions avec les humains et à l'acte 3, il semble plus humanisé. A la fin, le plus humain de tous, c'est franchement ce chatbot qui dit qu'il a appris tout de la vie. Et je ne veux pas vous spoiler la fin.

Rémi : Oui, c'est vrai. Le chatbot philosophe !

La piece est de la science-fiction car les agents conversationnels font partie de la réalité quotidienne et où ça n'est plus un problème, en tout cas pour les participants. Mais c'est un problème dans l'intrigue. Enfin, l'intrigue montre certaines problématiques.

Comment ces machines vont s'intégrer ? Qu'est-ce qu'elles vont retenir de nous ? Comment elles vont se comporter ? Et finalement, ce qu'on montre aussi à travers la pièce, c'est qu'on va s'attacher à elles. C'est évident. Elles vont être là pour nous dans certains cas, à différents degrés d'intérêt, et d'assistance pour chacun de nous. On va développer des relations avec ces machines. Donc, il faut s'y préparer.

Il y a beaucoup de recherche sur les interactions humain-machine. Pour les nouveaux agents conversationnels utilisant des IA génératives, il y a une incertitude sur le résultat. On ne sait pas
exactement ce que la machine peut produire... On a beau dire, ce n'est pas un outil comme un autre. Je parle d'outil aussi pour ne pas projeter de l'anxiété, mais ce n'est pas du tout un outil comme un autre pour moi. Et on a besoin de l'apprivoiser et de comprendre que c'est quand même une machine autonome qui est bluffante. Dans un article, les chercheurs du MIT posent la question : « Etes-vous polis avec ChatGPT ? ». La plupart des gens vont dire non, c'est un outil. Le MIT sort un papier et ils ont raison : plus on est poli avec la machine, mieux elle marche [4]

Dans un autre article scientifique, des chercheurs en Chine ont expérimenté l'ajout de tokens (entités minimales apprises par le modèle) liés à la politesse et aux émotions dans les prompts pour que la machine réponde mieux [5]. Pourquoi ça marche ? Parce que les données d'apprentissage sont des données de gens polis et que ces systèmes sont optimisés pour s'aligner à nous avec des algorithmes supervisés. L'apprentissage par renforcement utilise le feedback humain (RLHF) pour optimiser les modèles afin d'améliorer l'efficacité de l'apprentissage non supervisé (ou autoapprentissage). Dans ChatGPT, il y a en fait, les trois types d'algorithmes d'apprentissage : non supervisé, supervisé et par renforcement. Tout ce feuilletage d'algorithmes n'est pas connu de tous et a des conséquences sur la façon dont la machine réagit. Donc, c'est important de le comprendre. Dans la pièce, il y a un côté démystification.

**Rémi** : ChatGPT, c'est vraiment un agent conversationnel. On a beaucoup parlé de son utilisation pour créer des textes, mais son objet principal, c'est d'être un agent conversationnel. Et dans la pièce, on le voit en action, on le voit converser.

**Laurence** : Sauf que ce n'est pas chatGPT, ni ChatGPT4 mais plutôt ChatGPT 20. ChatGPT, lui, est complètement stupide. Il va produire ce qui est le plus probable dans la séquence générée, et se contrefiche de l'ordre moral. Notre chatbot Garoutzia va pouvoir prendre en compte des informations qui sont peu probables, avec une intention propre. Donc, Garoutzia n'a rien à voir avec les chatbots actuels, c'est un chatbot du futur.

**Rémi** : Vous parlez de l'utilisation de l'IA pour écrire une pièce. Alors, évidemment, je vous pose la question. Avez-vous songé à utiliser l'IA pour écrire une partie ou tout de votre pièce ?

**Serge** : Non, alors, personnellement, non. Parce que, pour moi, l'écriture, c'est mon hobby, c'est ce que j'aime bien faire. Alors, je ne vais certainement pas demander à une machine de faire le truc que j'aime bien.

En ce qui me concerne, ça ne me choque pas que les gens le fassent. Si les gens ont envie de le faire, c'est tant mieux pour eux. Mais, moi, ce que j'aime bien, c'est écrire. Alors, je ne vais pas me priver du plaisir que j'ai.

**Laurence** : On a beaucoup inventé dans la pièce, des situations cocasses, des expressions, ce fameux tutti quanti, quand la machine est émue... Enfin, quand elle joue des émotions. Il y a des trucs comme ça.

**Laurence** : l'IA de ChatGPT n'invente pas. Elle reproduit, elle imite. Ou si elle invente, c'est par hasard. Donc, on ne va pas attendre que le hasard soit en faveur de la réplique qu'on cherche à donner. A l'origine de notre pièce, il y avait vraiment une intention. Si on demande à ChatGPT d'écrire la pièce, il n'y a plus d'intention et je ne vois pas l'intérêt du tout. Et puis, franchement, moi, comme Serge, je trouve que ça manque vraiment d'intérêt. Lorsqu'on cherche à expliquer quelque chose, on ne le fait pas dire par une machine sur laquelle on n'a pas de contrôle, quoi.

### 3. MISE EN SCENE

**Rémi** : Alors, ma prochaine question s'adresse à Lisa. Comment es-tu arrivée dans le projet ? Comment tu as fait les choix de mise en scène ? Et comment la mise en scène a-t-elle transformé la pièce ? Par exemple, le personnage principal est un agent conversationnel qui est joué par une actrice en chair et en os. Pourquoi ce choix ? Pourquoi ne pas confier le rôle à un vrai agent conversationnel, un acteur virtuel ?

**Lisa** : On y a pensé. Non. En fait, on a... Alors, juste, je réponds à la première question d'abord sur comment je suis arrivée dans le projet. Et puis, on arrive sur pourquoi c'est une comédienne qui joue et pas un bot. Donc, effectivement, moi, j'avais créé une pièce qui s'appelait Synthèse et qui parlait de transhumanisme et un petit peu d'intelligence artificielle [3]. Et on était dans un tout petit théâtre à Avignon en 2022. On avait invité Laurence à venir nous voir parce que c'était une grande influenceuse du sujet. On ne pensait pas qu'elle répondrait. Et elle est venue le soir où elle a reçu le mail. Voilà, c'est une histoire assez rocambolesque,
mais elle était là. Et donc, à partir de là, on s'est rencontrées et elle m'a proposé de rencontrer les autres auteurs de Garoutzia. Et c'est comme ça que je suis arrivée et que j'ai pu discuter avec eux.

Donc, ça, c'est juste pour représenter le travail de la compagnie que moi, j'ai créé. Donc, il y a cette pièce sur le transhumanisme, Synthèse [3], qui replace le transhumanisme dans un cadre familial pour montrer les enjeux relationnels, éthiques autour de ça. Et donc, de là, avec Garoutzia et d'autres projets, la compagnie s'est orientée vers la thématique des nouvelles technologies et du lien entre théâtre et science. Synthèse a été éditée dans la revue La règle du jeu et j'ai aussi fait des lectures de Lovecraft [6].

Donc, effectivement, on a choisi de faire jouer ce rôle du chatbot qui a plusieurs noms, Garou d'abord, puis qui a d'autres identités, ensuite Garouchkaïa, Garoutzia, qui évolue au fil de ses identités, par une comédienne en chair et en os. On en a discuté, bien sûr, avec les auteurs. En réalité, ce personnage, c'est le personnage central de la pièce. C'est vraiment autour de ce personnage que se construit l'attachement que les spectateurs vont avoir pour les personnages et pour le spectacle en lui-même. Si on avait mis un bot, je pense que ça aurait été très, très indigeste de voir des comédiens tourner autour de ce chatbot.

On voulait qu'il y ait un attachement possible aux personnages et à l'histoire. En plus, c'est important, au théâtre, de pas être dépendant de la technique, et même si on parle de sujets techniques, de le faire avec une grande indépendance et une économie de moyens. C'est aussi pour moi un des principes du théâtre.

Et là on fait reposer la représentation d'un chatbot sur une comédienne qui joue. On s'est entraîné pour la faire jouer de manière convaincante un chatbot, une intelligence artificielle. On s'est inspiré de Replika par exemple qui est une application où vous pouvez interagir avec des IA. Donc sur Replika quand vous choisissez votre IA personnalisé, elles ont toutes des pauses un peu bizarres qui durent 3 secondes puis elles la refont. C'est des trucs qu'on a mis dans la pièce. Et en fait ça marche parce que justement ... il y a quelque chose de l'ordre de la performance parce qu'elle est là tout du long de la pièce. Vraiment elle sort à peine de scène donc elle tient ce rôle d'IA tout du long. Et en plus il y a une évolution à jouer parce que l'IA évolue et change au fur et à mesure des propriétaires. Et finalement

une des choses marquantes de la pièce c'est justement le fait que ce soit une comédienne qui joue une IA. Et je trouve ça d'autant plus drôle qu'aujourd'hui les comédiens ont peur qu'on leur vole leur travail avec l'intelligence artificielle, notamment dans la voix. Parce que les IA, notamment dans le monde du doublage et de la voix... vont être sans doute moins chères et aussi performantes ou à peu près dans les prochaines années que des acteurs donc ça risque d'y avoir un peu de remplacement. Mais là, grâce à cette pièce, les auteurs donnent du travail grâce à l'IA à des acteurs en chair en os.

Rémi : Vous offrez un nouveau rôle aux comédiens.

Lisa : Voilà, exactement. Et moi j'aime bien, déjà dans la pièce précédente, Synthèse, la même comédienne jouait un robot.

Laurence : J'avais adoré voir Léa jouer un robot dans Synthèse. Et j'avais dit à Lisa : il faut que tu lises la pièce et tu sélectionnes Léa pour le chatbot.

Lisa : Voilà, comme Laurence avait vu Léa jouer d'abord un robot dans ma pièce précédente, on l'a naturellement orientée vers le rôle de l'IA. Sauf que c'est pas pareil parce qu'il y a quand même des choses un peu différentes. Dans le robot, il y a un côté mécanique. Dans l'IA, il y a un côté beaucoup plus fluide parce que c'est donc une image numérique qui est programmée de manière plus fluide. Donc c'est un peu différent. Mais il y a aussi des points communs, évidemment.

Laurence : Dans la voix ?

Lisa : Oui.

Serge : Si je peux juste rajouter, ça nous a paru important qu'on voit bien la notion de chatbot. Le chatbot, c'est une voix, c'est une image, c'est pas quelque chose de physique. C'est vrai qu'on a rencontré, avant de rencontrer Lisa, d'autres metteurs en scène qui voulaient mettre des hologrammes, des projections, des trucs comme ça. Mais l'intelligence artificielle, elle n'a pas besoin d'expression physique. C'est ça qu'on a voulu aussi montrer dans la pièce.

Lisa : Il y a une dimension d'anthropomorphisation qui est renforcée aussi par le fait que c'est une comédienne en chair et en os. Et comme la pièce parle aussi de la tendance à
anthropomorphiser, on peut faire un lien aussi avec ça.

Laurence : Je crois que c'était aussi plus facile de montrer la progression de l'apprentissage du langage par la machine quand elle est jouée par un humain. Comme Lisa le disait, le théâtre permet de montrer des choses qu'on ne peut pas montrer avec de la technique aussi facilement. Et puis ce n'était pas simple de trouver comment le représenter, dans un meuble, une télé ? Toutes les idées d'ajouts de mise en scène avec la projection d'images, de sons, de trucs artificiels autour du texte qu'on trouvait assez fort nous a semblé dénaturer un peu le propos intense qui était de comprendre ce qui se passe sur le langage.

On a écrit la pièce avant ChatGPT. On était pile dans l'axe, mais ce n'était pas prévu. Parce que ChatGPT est arrivé en 2022, et nous on avait déjà tout écrit. C'est aussi pour cela qu'on ne pouvait pas l'utiliser.

Lisa : Dans la mise en scène, on a mis des structures pour signifier l'espace de l'IA. On a fait beaucoup d'essais. La structure a déjà évolué pour avoir un truc un peu plus fini, high tech. Et on essaye en ce moment, pour quand même suggérer le côté dématérialisé, des projections au moment des initialisations du chatbot. Donc voilà, c'est encore en cours au théâtre. On a eu plusieurs problèmes techniques. Et c'est aussi pour ça que moi, je voulais quand même m'affranchir. le plus possible de la technique. Mais on essaye quand même et ça ne marche pas toujours. Donc c'est un peu un souci. Mais en tout cas, ça peut aider à suggérer ce moment d'initialisation. Et faire comprendre le code de jeu qui est que c'est une personne dématérialisée. Qu'elle ne veut pas avoir d'interaction physique avec les autres comédiens. Cette question des relation avec la machine aussi, évidemment, elle est centrale. Et elle peut se jouer finalement sans rien, sans technique du tout. On a joué Garoutzia dans des salles où il y avait à peine de la lumière. Donc ça marchait aussi.

Rémi : Il y avait une autre question que je voulais te poser. Lisa, tu joues un autre rôle. C'est le rôle d'une informaticienne, d'une hackeuse. C'est un autre rôle nouveau au théâtre. Important dans la science-fiction, mais peut-être moins au théâtre. Alors, comment es-tu entrée dans ce rôle ? Pourquoi ce personnage du hackeur est-il si important dans la pièce ?

Lisa : C'est vrai que j'ai pris des petits rôles dans la pièce. Parce que la mise en scène, c'est bien, mais c'est fatigant. Jouer, c'est drôle. Et ça permet de relâcher la pression. Et donc, j'ai joué notamment le rôle de la hackeuse, qui s'appelle Lisbeth. Elle est inspirée de Lisbeth Salander, de Millenium, pour ceux qui l'ont lu. Et donc, c'est un personnage qui est une geek, hackeuse, informaticienne. En fait, elle est très cliché. Et c'est ça qui marche aussi, qui renforce l'attachement au personnage. C'est compliqué, parce que je joue d'autres rôles. Donc, enlever les tatouages entre les rôles, c'est compliqué. Mais oui, il y a un côté très geek, nerd et autiste. Et je pense que là, on va prendre plutôt la direction. Donc, on va changer un peu l'interprétation. Partir sur la direction un peu autiste, geek.

Serge : Je pense que pour nous, c'était très important que l'informaticien soit une informaticienne. Pour essayer de sortir un peu du type qui mange des pizzas, qui est sale, qui ne se lave pas et qui développe du code. Pour nous, Lisbeth, elle est jolie. C'est une femme et elle développe du code. Alors, elle est un petit peu autiste. Mais c'est parce qu'on n'est pas parfait. On aurait dû la faire plus normale. Mais ça, c'était l'inspiration de Lisbeth Salander.

Laurence : Il ne fallait pas non plus axer trop ce trait-là et laisser à penser que tous les informaticiens sont des autistes.

Rémi : Il y a aussi une intrigue. Cet agent conversationnel, il a une particularité, c'est qu'il se souvient de ses vies antérieures. C'est un peu ce qui guide l'intrigue et ce qui le mène à ses révélations et à ses progrès successifs. Est-ce que vous voulez rentrer un peu dans l'intrigue ?

Laurence : Oui, on peut rentrer dans l'intrigue. On a beaucoup ri. Notre troisième auteur Gilles Dowek avait envie de faire un thriller. C'est vrai que construire quelque chose qui tient en haleine les spectateurs quand ils regardent la pièce, ce n'est pas évident. Au départ, dans la première partie, on avait des flashbacks. Le flashback, c'est bien au
cinéma. Mais au théâtre, c'est beaucoup plus difficile. Pourtant, on en fait quand même à un moment donné. Dans la structure architecturale de l'intrigue, pour garder le suspense, ce n'est pas évident. Finalement, ce qu'on a trouvé à la fin, c'est de revenir à quelque chose de plus linéaire dans le temps. De voir les différents propriétaires et de se rendre compte qu'elle se souvient des gens d'avant.

Et puis, on a décidé de commencer la pièce avec la scène de la vielle dame qui est la plus émouvante, je pense, pour, dès le départ, accrocher les gens dans cette histoire. On a beaucoup discuté de toutes ces stratégies. Les metteurs en scène qu'on a rencontrés avant Lisa nous disaient aussi que c'est très difficile, en fait, dans le théâtre, de faire des flashbacks. En plus, c'est une pièce comique qui fait réfléchir. On ne voulait pas devenir professoral et ennuyeux.

Serge : Pour revenir vraiment à ta question, il y a une énigme. En fait, il y a un meurtre. Et on peut penser à un moment donné, dans la pièce, que c'est ça l'énigme. Qui a tué ? Et en fait, on s'en fout. Dans la pièce, ça n'a strictement aucune importance. L'énigme est dénouée en deux phrases. C'est annoncé à la radio. Tout le monde s'en fout. La vraie énigme qui est au cœur de la pièce, c'est qui l'a hacké, qui a hacké la bot pour lui permettre d'avoir de la mémoire et de se souvenir de ses vies antérieures. En opposition totale, il faut insister là-dessus, avec toutes les lois de la robotique. On n'a pas le droit de se souvenir des vies de ses clients précédents, de ses humains précédents. Et donc, c'est ça l'énigme. Donc, il y a une énigme. Il y a des histoires d'amour. Il n'y a pas de porte qui claquent, mais c'est un peu du théâtre de boulevard. Mais on a voulu quand même qu'il y ait un peu de suspense.

Lisa : Ce que j'aimais bien dans cette pièce, c'est que c'était vraiment la frontière entre justement du théâtre de boulevard, de la science-fiction ou anticipation. Pour moi, l'anticipation fait partie de la science-fiction, mais c'est un débat. Et même comédie. Tragédie, thriller, il y a plein de choses dedans. Et c'est ce côté multiforme et protéiforme que j'aime bien aussi en mise en scène.

Rémi : C'est une comédie qui aborde pas mal de sujets tragiques. Dès le début, chacune des histoires est particulièrement poignante.

Lisa : On n'a pas pitché le début. Et pour moi, c'est dommage. Mais c'est vrai qu'en fait, on

démarre chez une vieille dame. On va apprendre qu'elle est atteinte d'Alzheimer. Et en fait, elle vit avec un chatbot. Le premier chatbot de l'histoire, qui n'est pas très perfectionné, et qui lui apprend, parce qu'il a toutes ses données de santé, qu'elle a Alzheimer. Et à partir de là, du coup, la vieille dame commence à perdre un peu la tête et dit, mais est-ce que tu pourrais être ma prothèse mémorielle ? Et donc, il y a toute cette question de la mémoire dans la pièce qui est centrale. Et aussi, évidemment, du lien, de l'empathie qu'on crée avec ces objets, de ce qu'on projette sur eux.

Laurence : Maintenant, il y a aussi quelque chose qui est très intéressant. C'est la comparaison entre humain et machine. Puisqu'en fait, les humains disent, nous, on ressent, on fait ci, on fait ça. Et la machine rétorque, mais moi aussi. Et elle prend la grosse tête, la machine. A force d'avoir des données, des données, d'un seul coup, elle dit, moi, j'ai un QI exceptionnel. Et vous, là ? Il y a un moment assez jouissif, je trouve, qui est que la botte dit, vous vous rendez compte du nombre de conneries que vous faites sur la Terre ? C'est quand même vous qui avez bousillé la planète. Il va nous falloir des siècles pour réparer ça. Et le type qui vient d'acheter sa bot très cher dit, ah non, en plus ma bote est écolo !

Et toute la comparaison entre les cellules gliales de l'humain et les réseaux neuronaux de la machine sont mises comme ça, en contradiction, enfin, on étale les différences. C'est vraiment important. Et Garoutzia n'a rien à voir avec ChatGPT. Ou alors une version 20 ou 30, je ne sais pas. Pourtant, ça va arriver assez vite.

En tout cas, on aura des outils de plus en plus sophistiqués. Les futurs chatbots auront des modélisations émotionnelles internes propres à la machine, par exemple la satisfaction et la douleur, pour lui donner des intentions. On va essayer de modéliser le raisonnement. À partir de là, on peut donner à la machine des intentions minimales, en autonomie. Ça ne voudra pas dire qu'elle est humaine, mais ça sera encore plus étonnant.

Rémi : Dans la communication entre l'homme et la machine, il y a aussi les attitudes qui sont plus difficiles à reproduire que les émotions. Bien sûr, dans la pièce, c'est la comédienne qui se charge de ça. Elle traduit avec beaucoup de subtilité tout ce qui est dit. Ce ne serait pas le cas, probablement, avec un vrai agent conversationnel. C'est une façon de sauter quelques étapes. Mais j'ai l'impression
que votre rôle ne s'est pas complètement arrêté à celui d'écrire une pièce et que vous l'avez suivie jusqu'à sa mise en scène et qu'elle s'est transformée au cours du travail.

Laurence : On était ravis d'écrire une pièce de théâtre. On a passé au moins six ou neuf mois à rencontrer des metteurs en scène, des acteurs, à écouter des conseils à droite, à gauche. C'est génial, mais bon, on ne voyait pas comment on allait arriver à jouer cette pièce avec une certaine ambition, de la jouer devant un large public. Et donc, je suis ravie qu'elle soit joué dans un théâtre à Paris. Ils ne sont pas des experts. On ne l'a pas fait pour l'université, on l'a fait pour le grand public.

Il a fallu trouver des financements pour monter la pièce, payer les acteurs. On était ravis de rencontrer Lisa qui a accepté de monté la pièce et qui avait déjà une troupe de théâtre. Les acteurs sont tous fabuleux. On est très fiers, en fait. Je pense qu'on le partage tous les trois. Je peux parler pour Gilles pour cela. On est très fiers de la troupe qui joue cette pièce, qui l'a porté de façon magistrale. Nous trois, on se dit qu'on n'aurait pas pu écrire cette pièce tout seul, mais on ne pouvait pas l'imaginer sans vous. Toute l'inventivité de la mise en scène autour de la pièce a été incroyable.

Ça tombe très juste à plein d'endroits. Et au fur et à mesure, on la voit se développer. Lors des trois premières représentations à Avignon, il y a eu trois versions très différentes. Après 16 ou 17 représentations, la pièce est encore meilleure. C'est vraiment du spectacle vivant. C'est ça qui est génial. Et ce qui est génial aussi, c'est que plus je la vois jouer, plus je l'apprécie.

Serge : Oui, oui. Je suis complètement comme ça. Je dois être à 14 fois, c'est complètement dingue. Je pensais m'ennuyer la troisième fois, et en fait, je ne m'ennuie pas. Mais en fait, ce qu'il faut voir, c'est qu'au moment où on a fini d'écrire la pièce, au moment où on a trouvé Lisa, notre rôle, c'est principalement fini, c'est-à-dire, c'était vachement bien ce soir, d'amener nos copains, etc. Mais en gros, la pièce, elle nous échappe. Et c'est génial. Je découvre le texte, les inventions, le truc. Alors, encore une fois, je ne suis pas du tout du milieu. Le truc que j'ai appris, c'est que d'abord, un montage de pièce, ça ressemble beaucoup à une start-up, ça je connaissais. Donc ça ressemble à un montage de start-up. Je n'étais pas tellement à l'écart.

Mais après, l'autre chose, c'est que c'est aussi de la recherche. Ça, c'est un truc que je n'avais pas chopé. Moi, je pensais, on a fait la pièce, on a fait la pièce, bon, ça va. On la rejoue tout le temps pareil. Non, ils sont constamment en recherche. Et quand vous allez aux répètes, ils sont là, on pourrait essayer ça. Ils essayent des trucs, c'est de la recherche. Donc, d'une certaine façon, en gros, mon rôle, maintenant, c'est fan club. Mais, je suis passionné de voir la start-up avec tout le côté recherche en permanence.

Laurence : Et puis, c'est une start-up inclusive. C'est-à-dire que, je ne sais pas si c'est toujours comme ça, mais en tout cas, nous, on est ravis de participer encore un peu, quand il y a une question, on discute. Donc, c'est eux qui recherchent, c'est eux qui font vraiment l'effort de trouver des nouvelles façons d'aborder ce texte. Il y a même une grande complicité, je trouve, parmi la troupe. Et on peut, après les spectacles, parler de différents points, regarder, tout ça. Donc, c'est vraiment une recherche d'équipe. Et j'aime beaucoup ça. Cette intelligence collective qui va toujours chercher est vraiment, vraiment importante.

Rémi : Même si la pratique collective au théâtre peut être plus intensive encore que ce à quoi on est habitué. Mais c'est vrai que nous aussi on pratique ce travail collectif. Alors, après cette expérience qu'on a essayé de présenter ici aux participants, j'espère qu'ils auront envie de voir la pièce, est-ce que vous avez le sentiment qu'il y a des choses qu'on peut mieux dire au théâtre qu'ailleurs ? Diriez-vous que le théâtre peut aider à dire des choses qu'on a du mal à dire autrement, par exemple une prise de parole ou la rédaction d'un texte ?

Laurence : De la même façon que la réalité virtuelle, permet d'apprendre autrement avec le corps, le théâtre permet d'appréhender des choses qu'on ne voyait pas. Ça met en valeur des choses, une émotion qui se passe à un moment donné et je pense que dans la première scène qu'on joue il y a un sujet de société monstrueux c'est qu'est-ce qu'on va faire avec ces machines autour de la fin de vie. Et l'aborder comme on l'a fait là, c'est rare en fait. On va très loin, on va très très loin dans la prise de conscience. Vous ne ressortez pas complètement identiques, il y a des gens qui posent des questions, ils disent c'était drôle et tout mais je vais y réfléchir, il y a des trucs quand même, c'est quand même fort. Et je pense que le théâtre permet d'être
fort comme ça, plus qu'au cinéma où on est peut-être plus distancié sauf si c'est immersif.

Lisa : Effectivement, je dirais que le théâtre c'est une expérience scientifique avec nos émotions et je trouve que ça fait vivre des situations futures peut-être et avec immersion on rend présent, parce que le théâtre c'est l'art de la présence, on rend présent ce qui risque de nous arriver pour qu'on en parle maintenant et à chaque fois ça ouvre des débats et ça c'est quand même beau.

Moi j'ai adoré les moments où on a joué devant des lycéens ou des collégiens et qu'après on a débattu avec eux par exemple et il y a vraiment cette idée d'émotion, c'est-à-dire de faire vivre en avance les risques, de les appréhender, de mettre dans des situations et de parler des relations parce que le théâtre c'est la présence mais c'est aussi les relations qui se développent avec ces machines.

Laurence : Erwin Goffman avait déja remarqué les liens entre le théâtre et les rites d'interaction [7]. Et donc le théâtre a beaucoup aidé la sociologie aussi sur ce sujet.

Serge : Moi je vais parler de façon un peu plus égoïste en tant qu'écrivain, en tant que créateur. Donc j'avais écrit des essais et donc là c'est quand même assez sérieux, on étudie un problème, on lit la littérature on fait des références, tout ça ... on est censé apporter quelque chose.

J'écris des romans où on peut entrer dans la fiction, mais dans un roman il y a un truc que je trouvais quand même un peu frustrant, c'est que on reste quand même seul face à son bouquin. Après, le roman il part, on ne sait pas qui le lit, on ne sait pas si les gens le lisent, on ne sait pas ce qu'ils en pensent.

Le théâtre, ce que j'ai trouvé d'exceptionnel à titre d'expérience perso pas du tout au point de vue sociétal c'est justement la séance, ce qu'a raconté Lisa, c'est me retrouver devant une salle avec plein de collégiens et voir comment ils se comportent, et ça c'est quelque chose que vous n'avez pas quand vous écrivez un essai ou quand vous écrivez un roman. Ce qui est très risqué aussi, par contre. Très risqué avec nos copains aussi.

Oui, alors ça c'est le côté un peu humoristique. On a joué dans des salles où la moyenne ça devait être je ne sais pas, Bac plus 6 ou 7, et on a joué dans des salles où la moyenne c'était Bac moins 5.

Donc c'est quand même assez intéressant et ils ne rient pas au même endroit, ça c'est sûr.

Rémi : Ca amène une autre question. Pour vivre la révolution de l'IA, le théâtre peut-il nous aider ? Est-ce que cette expérience c'est un hasard de la vie ou c'est quelque chose qu'on pourrait recommander comme moyen d'expression pour nous informaticiens qui parfois pouvons avoir du mal à...

Serge : Je ne pensais pas aux informaticiens, je pensais à monsieur et madame Michu qui ont entendu parler de l'IA essentiellement parce qu'ils en ont parlé à la télévision et ils n'ont pas compris ou parce qu'ils ont vu un quelqu'un un peu dingue leur expliquer que les cerveaux des gosses étaient en train de brûler, que la démocratie allait mourir et qu'on allait finir tous dans le fossé. Non, là je pense que c'est pas mal, le théâtre ça peut leur permettre de poser les vrais problèmes, parce qu'il y a des vrais problèmes.

Alors nous on a parlé d'un problème qui était la mémoire, l'interaction mais il y a d'autres problèmes, il y a les problèmes d'environnement, il y a plein de problèmes sérieux et je pense que le théâtre ça peut leur permettre dans un mode un peu désangoissé et un peu plus ludique de réfléchir à ces problèmes. Nous, la seule ambition qu'on ait eu c'est de faire réfléchir un peu les gens à ce qui les attend demain matin.

Rémi : Oui c'est vrai, on s'interroge beaucoup quand on assiste à la pièce.

Serge : Nous aussi on s'interroge, on n'a pas les réponses. Les informaticiens ne savent pas plus que les autres.

Laurence : On ne fait que poser des situations sans les résoudre, sans savoir quelles vont être les incidences de la présence de ces IA dans notre quotidien. On en a montré quelques-unes mais il y en a beaucoup d'autres.

Rémi : C'est une position qui n'est pas si facile à prendre par d'autres moyens. Au théâtre on peut plus facilement demander « et si » ...

Laurence : Oui, toutes les situations de la pièce sont vraisemblables, par contre on n'a jamais eu comme compagnon ce chatbot ange gardien. Qu'est-ce qu'on va faire avec ? Qu'est-ce qu'il va nous proposer ? Qu'est-ce qu'il va mémoriser de ce
ça évolue. Et ça permet de différencier aussi les trois personnages de l'évolution du botte.

**Public** : C'était dans l'écriture, ou c'était avec la mise en scène, ce choix ?

**Laurence** : Dans l'écriture. En fait, le premier chatbot, c'était un personnage dans le style de Jean-Paul Gaultier. Le deuxième, c'était une petite Russe, un peu ce style garouche-kaïa. Et la dernière, c'était un peu l'image du personnage aux cheveux bleus qui est dans Bilal, la femme piège. Et après, c'est ce qu'on a écrit, mais après, finalement, elle n'a pas de perruque bleue. Enfin, bon, tout ça a évolué.

**Public** : Non, c'était juste pour revenir au fait que vous vouliez avoir peut-être plus de public, etc. Il y a de plus en plus de tiers-lieux numériques. On connaît les tiers-lieux culturels, etc., mais il y a de plus en plus de tiers-lieux numériques qui ont, eux, accès à, on va dire, un échantillon de la population que peut-être vous n'avez pas touché à Paris. Donc là, ils font pas mal de choses avec les enfants, etc.

Je pense notamment au "Shadock" à Strasbourg, qui est un tiers-lieu numérique, qui fait beaucoup, beaucoup de choses là-dessus, de plein de façons différentes, par, on en a parlé, la musique, le théâtre, mais plein d'autres choses. Et c'est vraiment formidable, donc voilà, c'était juste ça, voilà. Merci.

**Serge** : C'est une excellente idée, j'y ai pensé. La seule chose, c'est que on sait pas très bien comment les approcher, mais c'est une excellente idée, bien sûr. Merci.

**Public** : Oui, je voulais vous poser une question sur le sexisme. Comme la majorité des hackers sont quand même encore des hommes, et qu'il y a des biais de genre dans les écoles d'ingénieurs, où il y a encore pas assez de femmes alors que les filles sont tout à fait aussi intelligentes, vraiment à égalité sur tous les tests d'intelligence et psychométriques qu'on peut imaginer, et qu'on ne pourrait pas faire la différence comme Turing voulait le faire avec un ordinateur entre un homme et une femme si on ne voyait pas qui est derrière, Donc je me demandais justement dans votre pièce s'il y avait cette idée, si vous aviez voulu parler du genre, des stéréotypes de genre, du fait que beaucoup d'hommes imaginent que l'IA est une femme, et puis qu'ils vont dire des obscénités parce qu'ils sont frustrés, et qu'on retrouve dans les

historiques des choses, mais ça c'est vrai, en fait, c'est vrai qu'on retrouve, les opérateurs sont terrorisés parce qu'ils voient que les hommes seuls commencent à fantasmer, et d'ailleurs un des premiers chatbots, c'était un psychanalyste, c'était Elisa, ce fameux chatbot, qui jouait beaucoup sur justement la projection et les fantasmes, en fait.

**Laurence** : Dans la pièce, on n'a pas du tout été sur ces sujets-là, sauf qu'on a quand même fait un bot qui change de sexe, donc c'est quand même pas n'importe quoi. Il y a aussi une petite phrase assez assassine pour dire que le bot n'a pas été pris par quelqu'un parce qu'il voulait en faire, en fait, un dresseur d'enfant. Et le genre, et donc il y a une réplique qui est oui, d'ailleurs, quand vous êtes une fille ou un garçon, on vous apprend comment passer votre main dans les cheveux très tôt.

Donc, on parle des stéréotypes d'une certaine manière, mais on n'a pas voulu rentrer plus loin dans cela, c'est par le fait que ce chatbot change de sexe, il change aussi de façon de se comporter, mais ce n'est pas si visible que ça, entre le premier et le deuxième, on dirait plutôt que le premier est très robotique, donc il n'a pas de genre, quoi. Et le deuxième est féminin, et ça se voit beaucoup plus. Mais, après, on n'a pas tellement joué là-dessus.

**Serge** : Je suis un peu en désaccord. Je pense qu'on a quand même essayé. Alors, on ne l'a pas fait de façon lourdingue en disant, ah ouais, les garçons sont aussi intelligentes que les filles, et les filles sont aussi intelligentes et capables de faire de l'informatique que les garçons. On ne fait pas ça du tout, mais l'informaticienne de l'histoire est une femme, le bot, c'est un transgenre. Je pense qu'on pouvait difficilement faire plus sans être lourds, quoi.

**Laurence** : On est complètement d'accord. Donc, c'est très clair qu'on a joué sur ces codes, mais on n'a pas été dans l'explicitation exacte de ce qu'il pouvait y avoir. C'est pas lourd, donc c'est bien.

**Lisa** : Au théâtre, il y a un truc hyper important, c'est le sous-texte. Et moi, je trouve que dans le sous-texte, il y a quand même un peu de ça, c'est-à-dire que la relation du dernier personnage avec la bot ... Moi, quand j'ai donné des indications aux comédiens, je leur ai dit de jouer des choses qui sont un peu en dehors du texte pour ajouter des dimensions supplémentaires, et notamment une fascination pour sa bot, peut-être même une
relation d'amour, ou en tout cas, on va dire une
fascination. Donc, une fascination d'homme devant
la femme idéale qu'elle représente. Mais c'est plus
de l'ordre du sous-texte, peut-être. Et alors, ce qui
est extraordinaire, c'est qu'elle lui propose d'avoir
un corps, et il a terriblement peur. Il n'en veut pas.
Il est un peu dépassé par les événements.

Rémi : Notre entretien touche à sa fin, merci à
tous les trois pour ce témoignage précieux.
L'informatique théâtrale, c'est donc aussi parfois
des informaticiens qui écrivent pour le théâtre, et
des pièces qui mettent en scène l'informatique. Un
nouveau genre de théâtre peut-être, entre comédie
et science-fiction. C'est très inspirant.

5. REFERENCES

[1] Serge Abiteboul, Laurence Devillers, Gilles Dowek. Qui a hacké Garoutzia ? C&F Editions, 2022.

[2] Serge Abiteboul, François Bancilhon. Vive les communs numériques ! Logiciels libres, Wikipédia, le Web, la science ouverte, etc. Odile Jacob, 2024.

[3] Lisa Bretzner. Synthèse. La règle du jeu, numero 72, Grasset, janvier 2021.

[4] Webb Wright. Please Be Polite to ChatGPT. Scientific American, July 25, 2024.

[5] Cheng Li et al. Large Language Models Understand and Can be Enhanced by Emotional Stimuli. ArXiv, 2023.

[6] Lisa Bretzner. Lovecraft - Science-fiction ou fantastique ? du bazar de la définition des genres littéraires. https://www.youtube.com/watch?v=UMkAFlibvc0

[7] Erwin Goffman. La mise en scène de la vie quotidienne. Editions de Minuit, 1973.

[8] Gilles Dowek et Serge Abiteboul. Le temps des algorithmes. Editions Le Pommier, 2017.

[9] Gilles Dowek. Les métamorphoses du calcul. Editions Le Pommier, 2007.

[10] Gilles Dowek. Ce dont on ne peut parler, il faut l'écrire. Editions Le Pommier, 2019.

[11] Serge Abiteboul. Le bot qui murmurait à l'oreille de la vieille dame. Et autres nouvelles numériques. Editions du Pommier, 2018.

[12] Serge Abiteboul et Jean Cattan. Nous sommes les réseaux sociaux. Odile Jacob, 2022.

[13] Laurence Devillers. Des robots et des hommes. Mythes, fantasmes et réalité. Plon, 2017.

[14] Laurence Devillers. Les robots émotionnels. L'Observatoire, 2020.

[15] Laurence Devillers. L'IA, ange ou démon ?: Le nouveau monde invisible. Le Cerf, 2025.

[16] Pascal Chabot. ChatBot le Robot. Drame philosophique en quatre questions et cinq actes. Presses Universitaires de France, 2025.