<figure><img src="image_1.png" /></figure>

MATHIEU BOURGAIS, PATRICK TAILLANDIER, LAURENT VERCOUTER

BEN : Une architecture pour des agents cognitifs, affectifs et sociaux dans la simulation

Volume 3, n° 5-6 (2022), p. 501-525.

DOI not yet assigned

© Les auteurs, 2022.

<figure><img src="image_2.png" /></figure>

Cet article est diffusé sous la licence

CREATIVE COMMONS ATTRIBUTION 4.0 INTERNATIONAL LICENSE.

http://creativecommons.org/licenses/by/4.0/

<figure><img src="image_3.png" /></figure>
# BEN : Une architecture pour des agents cognitifs, affectifs et sociaux dans la simulation

Mathieu Bourgais<sup>a</sup>, Patrick Taillandier<sup>b, c, d</sup>, Laurent Vercouter<sup>a</sup>

RÉSUMÉ. — La simulation sociale en tant qu’outil scientifique nécessite le développement de comportements crédibles pour les agents modélisant le comportement d’acteurs humains. Une façon d’améliorer la crédibilité des simulations obtenues est d’intégrer des dimensions cognitives, affectives et sociales dans la prise de décision des agents. Pour autant, développer des agents avec ces dimensions peut s’avérer compliqué si l’on veut rester accessible à des chercheurs qui ne sont pas experts en programation. L’architecture BEN (Behavior with Emotions and Norms) couple des dimensions affectives et sociales à une prise de décisions basée sur une architecture BDI pour le développement de simulations sociales. BEN est implémenté dans la plateforme de modélisation et de simulation multi-agent GAMA et son utilisation est ici illustrée au travers d’un cas d’étude portant sur l’évacuation d’un bâtiment.

MOTS-CLÉS. — Simulations sociales, cognition, émotion, personnalité, normes.

## 1. INTRODUCTION

Les simulations à base d'agents sont utilisées pour étudier les systèmes complexes impliquant des acteurs humains ; on parle dans ce cas de simulations sociales [28]. Le but principal est alors de reproduire par simulation des situations réelles où des acteurs humains prennent des décisions, influençant ainsi l'évolution globale du système. De cette façon, la situation reproduite peut être étudiée dans un cadre contrôlé.

Le défi consiste alors à développer un comportement de prise de décision crédible pour les agents simulant des acteurs humains. Pour ce faire, il est nécessaire d'intégrer des processus cognitifs, affectifs et sociaux dans la prise de décision des agents [58], un point de vue soutenu par le principe EROS (Enhancing Realism of Simulation) [32] qui favorise des simulations à la modélisation proche du cas réel, contrairement aux principes KISS (Keep It Simple, Stupid) [8] qui favorise des modèles simples,

<footnote><sup>a</sup> Normandie Univ, INSA Rouen, UNIHAVRE, UNIROUEN, LITIS 76000 Rouen, France</footnote>

<footnote><sup>b</sup> INRAE, Université de Toulouse, MIAT, 31000 Toulouse, France</footnote>

<footnote><sup>c</sup> IRD, Sorbonne Université, UMMISCO, 93140 Bondy, France</footnote>

<footnote><sup>d</sup> Thuyloi University, WARM, 10000 Hanoi, Vietnam
E-mail: patrick.taillandier@inrae.fr, mathieu.bourgais@insa-rouen.fr, laurent.vercouter@insa-rouen.fr.</footnote>
facilement compréhensibles ou KIDS (Keep It Descriptive, Stupid) [26] qui favorise
des modèles descriptifs.

Dans cette optique, l'architecture BEN (Behavior with Emotions and Norms), proposée dans cet article et s'appuyant sur de précédents travaux [13], intègre la cognition, les émotions, la personnalité, la contagion émotionnelle, les relations sociales et la définition d'un système normatif pour la prise de décisions en simulation sociale. Ces dimensions cognitives, affectives et sociales sont formalisées dans un même cadre pour pouvoir interagir entre elles, tout en étant suffisamment indépendantes pour ne pas obliger l'utilisateur à toutes les utiliser si ce n'est pas nécessaire.

BEN a été implémentée dans la plateforme de modélisation et de simulation multi-agent GAMA [61], réputée pour être accessible à un public non expert en programmation informatique [49][40]. L'utilisation de BEN est illustrée par la simulation d'un cas réel d'évacuation de boîte de nuit pour montrer comment le comportement des agents peut être exprimé de manière crédible et explicable dans les termes de la psychologie naïve [43].

La section 2 de l'article propose un état de l'art sur la prise de décision en simulation sociale, la section 3 expose le formalisme utilisé pour définir les notions liées aux dimensions cognitives, affectives et sociales dans l'architecture BEN, qui est présentée dans la section 4. La section 5 présente une mise en application de BEN sur le cas d'étude de l'évacuation du Kiss Nightclub au Brésil et la section 6 conclut l'article.

## 2. ÉTAT DE L'ART

Le développement d'agents crédibles est un élément clé pour la simulation sociale qui a été étudié précédemment. Plusieurs travaux ont donc été menés pour créer des architectures d'agent en s'appuyant sur différentes théories issues de la psychologie ou de la sociologie.

Dans le contexte de la simulation sociale, l'ajout de la cognition à la prise de décision est une première étape permettant aux agents de prendre des décisions plus complexes que la simple réponse réflexive à une perception [2][9]. Ainsi, la mise en place d'un moteur cognitif doit être la base d'une architecture pour la simulation sociale.

### 2.1. PRISE DE DÉCISION COGNITIVE

Parmi les différentes plates-formes multi-agents [38], certaines comme JACK [31] ou Jadex [48] implémentent le paradigme BDI (Belief Desire Intention) [17], donnant un comportement cognitif aux agents, en s'appuyant sur un formalisme basé sur la logique modale [21]. Pour autant, ces plates-formes ne sont pas adaptées à la simulation de milliers d'agents.

Pour contourner ce problème, Sing et Padgham [55] proposent de connecter une plateforme de simulation à un framework BDI existant (comme JACK ou Jadex). Suivant cette même idée, Padgham et al. [47] ont connecté la plate-forme Matsim [10] au
framework BDI GORITE [51]. Néanmoins, l'utilisation de ces travaux et en particulier la définition du comportement des agents exigent un haut niveau en informatique, ce qui rend difficile leur utilisation par des modélisateurs ayant de faibles compétences en programmation.

D'autre part, les plates-formes de simulation comme Netlogo [65] ou GAMA [61] sont des logiciels dédiés avec leur propre langage de programmation, leur propre interface et leur propre interpréteur et compilateur. Par défaut, ces plates-formes ne proposent pas d'architecture particulière pour le comportement de l'agent : les modélisateurs doivent définir ces comportements avec des règles « if-then-else ». Cependant, il existe des plugins pour NetLogo [52] et pour GAMA [60] permettant d'utiliser des architectures agents basées sur le paradigme BDI afin de créer des simulations sociales avec un comportement plus complexe et plus crédible. Ils fournissent tous deux aux agents des concepts de haut niveau tels que les croyances et les intentions. Cependant, le plugin de GAMA va plus loin en offrant également un moteur de raisonnement qui permettent aux agents de prendre des décisions en se basant sur leur perception de l'environnement.

## 2.2. PRISE DE DÉCISION AFFECTIVE ET SOCIALE

Une autre approche consiste à axer le raisonnement des agents autour de leurs émotions. Deux exemples sont EMA [29], qui est basée sur la théorie de l'évaluation cognitive des émotions [6] développée par Smith et Lazarus [56] et DETT [64], qui est basée sur la théorie OCC [46] des émotions. Ces deux systèmes créent des émotions en évaluant les perceptions de l'environnement et en déduisant ensuite un comportement de l'état émotionnel de l'agent. De son coté, l'architecture FAtiMA Modular [24] propose d'intégrer des émotions à la prise de décision de façon théorique, sans imposer une théorie émotionnelle particulière. Cette solution représente un framework générique qu'il convient d'implémenter et qui pourrait accueillir d'autres modules pour complexifier la prise de décision des agents.

eBDI [33] s'appuie également sur la théorie OCC mais utilise une architecture BDI pour prendre des décisions. Cela signifie que les émotions sont créées par les perceptions et agissent ensuite sur les croyances, les désirs et les intentions. Enfin, ces états mentaux modifiés sont utilisés pour prendre une décision. Cette proposition n'a pas encore été intégrée à une plate-forme de simulation.

Enfin, certains chercheurs proposent de s'appuyer sur le contexte social de l'agent pour décrire son comportement : cela se fait avec des architectures normatives. EMIL-A [4] et NoA [36] décrivent le comportement de l'agent avec des normes, obligations et sanctions sociales. En d'autres termes, un agent prend une décision en fonction de l'état du système normatif au niveau d'une société d'agents.

BOID [19] et BRIDGE [25] proposent de combiner une architecture normative avec le paradigme BDI, conduisant l'agent à prendre en compte le système social dans sa décision. Cependant, contrairement à EMIL-A et NoA, l'agent a des croyances, des désirs et des intentions personnels, créant un comportement plus hétérogène et
crédible. Néanmois, à notre connaissance, ces architectures n'ont jamais été intégrées
à des plateformes de simulation pour traiter des milliers d'acteurs simulés.

## 2.3. SYNTHÈSE

Pour respecter le principe EROS, les modélisateurs ont besoin d'architectures proposant plusieurs dimensions psychologiques et sociales. Actuellement, comme le montre cette section, il n'existe pas d'architecture unique proposant à la fois des dimensions cognitives, affectives et sociales pour la simulation. Les seules tentatives, à notre connaissance, sont les travaux de [39] qui combinent la cognition avec les émotions et la contagion émotionnelle et ceux de [44] qui combinent la cognition avec les émotions et les relations sociales. D'autres travaux ont proposé de mêler émotions et normes pour le comportements d'agents [5] [53] [37] [27] mais pas dans le contexte d'une simulation sociale avec plusieurs dizaines d'agents.

Dans cet article, nous abordons cette question en proposant BEN (Behavior with Emotions and Norms), une architecture d'agent mettant en scène la cognition, les émotions, la personnalité, la contagion émotionnelle, les relations sociales et la gestion des normes. Pour le mettre en œuvre, nous avons basé notre travail sur l'architecture cognitive existante fournie par GAMA. Pour faciliter l'utilisation de BEN, nous l'avons implémenté en utilisant les structures de GAMA (actions, opérateurs, etc) qui a prouvé sa facilité d'utilisation [40][49] grâce à son langage de modélisation GAML que nous avons étendu.

# 3. FORMALISATION DES DIMENSIONS COGNITIVES, AFFECTIVES ET SOCIALES

L'architecture BEN se compose des notions telles que la cognition, la personnalité, les émotions, la contagion émotionnelle, les normes et les relations sociales pour décrire le comportement des agents dans le contexte d'une simulation sociale. Chacun de ces composants est représenté à l'aide d'un formalisme unifié pour assurer leur compatibilité. Ce formalisme est discuté plus en détails dans [14], notamment le choix des concepts et des modèles utilisés qui s'est fait en considérant les théories pouvant être inter-opérables parmi les théories les plus utilisées en simulations sociales.

La partie principale de BEN est la cognition de l'agent. Un agent cognitif peut raisonner sur un ensemble de perceptions de son environnement et sur un ensemble de connaissances précédemment acquises. Dans BEN, cet environnement est représenté par le concept de prédicats. $P_j(v)$ représente un prédicat de façon générale avec les éléments suivants :

* P : l'identifiant du prédicat.

* j : l'agent causant l'information.

* v : l'ensemble de valeurs stockées dans le prédicat.

En fonction du contexte, cette représentation générale peut évoluer. $P_j$ représente une information sans valeur particulière attachée, $P(v)$ représente une information qui
n'est pas causée par un agent en particulier et **P** représente une information sans valeur particulière et sans qu'un agent en soit la cause.

Par exemple, l'information qu'il y a un incendie dans l'environnement est représentée par le prédicat **fire**. Si ce feu est causé par l'agent *Bob*, le prédicat devient **fire<sub>Bob</sub>**. Enfin, si cet incendie causé par *Bob* est à un endroit (x;y), cette information est représentée par **fire<sub>Bob</sub>(location : :(x,y))**.

### 3.1. FORMALISME DES NOTIONS COGNITIVES

Avec BEN, un agent dispose d'états mentaux cognitifs sur lesquels il effectue son raisonnement. $M_i(\text{PMEm}, \text{Val}, \text{Li})$ représente un état mental de façon générale de l'agent *i* avec les éléments suivants :

* **M**: la modalité indiquant le type de l'état mental cognitif (par exemple une croyance).

* **PMEm**: l'objet sur lequel porte l'état mental cognitif, pouvant être un prédictat, un autre état mental cognitif ou une émotion.

* **Val**: une valeur réelle dont la signification dépend de la modalité. Permet de comparer deux états mentaux cognitifs de même modalité.

* **Li**: une durée de vie indiquant le temps que mettra l'agent pour oublier cet état mental.

Dans BEN, la cognition s'appuie sur le modèle BDI [17] qui indique que l'agent possède des croyances, des désirs et des intentions. Pour lier la cognition avec les dimensions affectives et sociales, l'architecture définit 6 modalités d'états mentaux cognitifs :

* **Belief<sub>i</sub>(P)** : représente ce que l'agent croit sur le monde. La valeur attachée à cette croyance représente la force qui lui est accordée par l'agent.

* **Uncertainty<sub>i</sub>(P)** : représente une information incertaine sur le monde. La valeur attachée à cette incertitude représente son importance du point de vue de l'agent.

* **Desire<sub>i</sub>(P)** : représente un état du monde que l'agent souhaite atteindre. La valeur attachée à ce désir représente sa priorité par rapport aux autres désirs.

* **Intention<sub>i</sub>(P)** : représente un état du monde que l'agent s'engage à atteindre. La valeur attachée à cette intention représente sa priorité par rapport aux autres intentions.

* **Ideal<sub>i</sub>(P)** : représente une information sur laquelle l'agent porte un jugement social. La valeur attachée à cet idéal représente la valeur morale accordée à P. Celle-ci peut être positive (P est louable) ou négative (P est blâmable).

* **Obligation<sub>i</sub>(P)** : représente un état du monde que l'agent doit atteindre. La valeur attachée à cette obligation représente sa priorité par rapport aux autres obligations.
Pour agir sur le monde selon ses intentions, un agent a besoin d'un plan d'actions, c'est-à-dire d'un ensemble de comportements exécutés dans un certain contexte en réponse à une intention.

## 3.2. FORMALISME DES DIMENSIONS AFFECTIVES

La définition des traits de personnalité dans BEN suit le modèle OCEAN (Ouverture, Conscience, Extraversion, Agreabilité, Neurotisme) [41]. La personnalité d'un agent est représentée par un vecteur de 5 valeurs réelles comprises entre 0 et 1, avec la valeur neutre placée à 0.5. Les 5 traits de personnalité sont les suivants :

* **O** : représente l'ouverture d'esprit d'une personne. Quelqu'un de fermé d'esprit a une valeur de 0, quelqu'un d'ouvert d'esprit a une valeur de 1.

* **C** : représente la capacité de préparation à la prise d'action d'une personne. Quelqu'un d'impulsif a une valeur de 0, quelqu'un qui agit avec préparation a une valeur de 1.

* **E** : représente l'extraversion d'une personne. Quelqu'un de timide a une valeur de 0, quelqu'un d'extraverti a une valeur de 1.

* **A** : représente la capacité d'une personne à être agréable. Quelqu'un ayant une attitude hostile envers les autres a une valeur de 0, quelqu'un d'amical a une valeur de 1.

* **N** : représente la capacité d'une personne à contrôler ses réactions émotionnelles. Quelqu'un de neurotique, qui n'arrive pas à contrôler ses émotions, a une valeur de 0, quelqu'un restant calme devant ses émotions a une valeur de 1.

Les émotions dans BEN sont basées sur la théorie OCC [46] : les émotions sont des réponses valuées à l'évaluation cognitive d'une situation. **Em**<sub>i</sub>(P,Ag,I,De) représente une émotion possédée par l'agent i avec les éléments suivants :

* **Em** : le nom de l'émotion.

* **P** : le prédicat à propos duquel l'émotion est ressentie.

* **Ag** : l'agent responsable de l'émotion.

* **I** : l'intensité de l'émotion. Cette valeur est positive ou nulle.

* **De** : la valeur de décroissance de l'intensité émotionnelle.

Cette représentation permet à l'agent d'avoir plusieurs émotions en même temps, toutes sur des prédicats différents. Aussi, cette représentation peut être adaptée, avec **Em**<sub>i</sub>(P,Ag) représentant une émotion sans intensité particulière ni valeur de déclin.

## 3.3. FORMALISME DES DIMENSIONS SOCIALES

Parmi les dimensions sociales considérées dans l'architecture BEN se trouve la contagion émotionnelle, défini comme le processus où les émotions d'un agent sont influencées par les émotions des autres agents proches [30]. Cette influence peut conduire à la copie de l'émotion perçue ou à la création d'une nouvelle émotion. Dans BEN, le formalisme de ce processus est basé sur une version simplifiée du modèle
ASCRIBE [12], représenté par $(Em_i, Em_j, Ch_i, R_j, Th_j)$ pour une contagion de l'agent $i$ vers l'agent $j$ avec les éléments suivants :

* $Em_i$: l'émotion de l'agent $i$ qui déclenche la contagion si elle est perçue par l'agent $j$.

* $Em_j$: l'émotion créée par l'agent $j$. Cela peut être une copie de $Em_i$ (avec d'autres valeurs d'intensité et de décroissance) ou une nouvelle émotion.

* $Ch_i$: la valeur de charisme de l'agent $i$, indiquant sa capacité à exprimer ses émotions.

* $R_j$: la valeur de réceptivité de l'agent $j$, exprimant sa capacité à être influencé par les autres agents.

* $Th$: une valeur de seuil. La contagion n'est exécutée que si et seulement si $Ch_i \times R_j$ est supérieur à ce seuil.

Chaque agent peut avoir une relation sociale avec d'autres agents. Nous nous appuyons pour caractériser ces relations sur le travail de Svennevig [59] qui identifie quatre dimensions minimales pour décrire une relation sociale entre deux personnes. Dans BEN, la confiance est ajoutée comme cinquième dimension sociale, liant ainsi les relations sociales avec le comportement normatif. $R_{i,j}(L,D,S,F,T)$ représente une relation sociale, de l'agent $i$ vers l'agent $j$, avec les éléments suivants :

* **R**: l'identifiant de la relation sociale.

* **L**: une valeur réelle entre -1 et 1 représentant le degré d'appréciation avec l'agent concerné par le lien. Une valeur de -1 indique que l'agent $j$ est détesté, une valeur de 1 indique que l'agent $j$ est adoré.

* **D**: une valeur réelle entre -1 et 1 représentant le degré de pouvoir exercé sur l'agent concerné par le lien. Une valeur de -1 indique que l'agent $j$ domine la relation, une valeur de 1 indique que l'agent $j$ est dominé dans la relation.

* **S**: une valeur réelle entre 0 et 1 représentant le degré de solidarité avec l'agent concerné par le lien. Une valeur de 0 indique qu'il n'y a aucune solidarité envers l'agent $j$, une valeur de 1 indique une solidarité totale avec l'agent $j$.

* **F**: une valeur réelle entre 0 et 1 représentant le degré de familiarité avec l'agent concerné par le lien. Une valeur de 0 indique qu'il n'y a aucune familiarité avec l'agent $j$, une valeur de 1 indique qu'il y a une familiarité totale avec l'agent $j$.

* **T**: une valeur réelle entre -1 et 1 représentant le degré de confiance avec l'agent concerné. Une valeur de -1 indique que l'agent $i$ n'a aucune confiance envers l'agent $j$, une valeur de 1 indique une totale confiance envers l'agent $j$.

Pour agir sur l'environnement selon un système normatif, l'agent suit des normes, représentant dans BEN des séquences d'instructions auxquelles l'agent peut désobéir.
4. BEN : UNE ARCHITECTURE COGNITIVE, AFFECTIVE ET SOCIALE

L'architecture BEN, représentée par la figure 4.1, est la principale contribution de cet article. Celle-ci est composée de quatre modules connectées aux bases de connaissances de l'agent et en lien direct avec la personnalité de l'agent. Chaque partie est constituée de processus qui sont pour certains calculés automatiquement (en bleu), ou pour d'autre qui nécessitent d'être définis manuellement par le modélisateur (en rose). Certains de ces processus sont obligatoires (en trait plein) et d'autres sont optionnels (en trait pointillé). Cette modularité permet à chaque modélisateur de n'utiliser que les composants qui lui semblent pertinents par rapport à la situation étudiée sans créer de calculs lourds et inutiles.

<figure><img src="image_4.png" /><figcaption>FIGURE 4.1. L'architecture BEN</figcaption></figure>

Dans cette section, nous expliquons comment un agent utilisant BEN prend une décision en tenant compte de la cognition, des émotions, de la contagion émotionnelle, de la personnalité, des relations sociales et des normes comme définies en section 3. Avec ces dimensions, un agent simulant un acteur peut réagir à un changement dans l'environnement et expliquer son comportement avec des concepts de haut niveau dans le cadre d'une simulation sociale.
## 4.1. PRÉSENTATION GLOBALE DE L'ARCHITECTURE

La connaissance de l'agent est composée de bases cognitives, contenant des états mentaux cognitifs formalisés en section 3, d'une base émotionnelle, d'une base sociale et d'une base de normes. Cette connaissance peut évoluer à travers la simulation, ce qui n'est pas le cas des plans pour le moteur cognitif et des sanctions pour le moteur normatif, qui sont stockés dans des bases dédiées, hors de la connaissance de l'agent, comme le montre la figure 4.1.

En plus de ces bases de connaissances, l'agent dispose également de variables liées à certaines des caractéristiques sociales. L'idée est de connecter ces variables au module de personnalité et en particulier aux cinq dimensions du modèle OCEAN, selon le formalisme défini en section 3, afin de réduire le nombre de paramètres qui doivent être entrés par l'utilisateur. Ces variables supplémentaires sont la probabilité de garder le plan actuel, la probabilité de garder l'intention actuelle, une valeur de charisme liée au processus de contagion émotionnelle, une valeur de réceptivité émotionnelle liée à la contagion émotionnelle et une valeur d'obéissance utilisée par le moteur normatif.

Avec la cognition, l'agent dispose de deux paramètres représentant la probabilité de supprimer aléatoirement le plan ou l'intention en cours afin de vérifier s'il existe un meilleur plan ou une meilleure intention dans le contexte actuel. Ces deux valeurs sont liées à la composante de la conscience (C) du modèle OCEAN car elles décrivent la tendance de l'agent à préparer ses actions (avec une valeur élevée) ou à agir impulsivement (avec une valeur faible).

$$ Probabilite\_Conservation\_Plans = \sqrt{C} \qquad (4.1) $$

$$ Probabilite\_Conservation\_Intentions = \sqrt{C} \qquad (4.2) $$

Pour la contagion émotionnelle, le formalisme proposé dans la section 3 exige que le charisme (Ch) et la réceptivité émotionnelle (R) soient définis pour chaque agent. Dans BEN, le charisme est lié à la capacité d'expression, qui correspond à l'extraversion du modèle OCEAN, tandis que la réceptivité émotionnelle est liée à la capacité de contrôler les émotions, qui est exprimée avec la valeur de neurotisme (N) du modèle OCEAN.

$$ Ch = E \qquad (4.3) $$

$$ R = 1 - N \qquad (4.4) $$

Avec le concept de normes, l'agent possède une valeur d'obéissance entre 0 et 1, qui indique sa tendance à suivre les lois, les obligations et les normes. Selon les recherches en psychologie, qui ont tenté d'expliquer le comportement des personnes participant à une reproduction de l'expérience de Milgram [11], l'obéissance est liée aux notions de conscience (C) et d'agréabilité (A), ce qui donne l'équation suivante :

$$ obeissance = \sqrt{\frac{C + A}{2}} \qquad (4.5) $$
Sur le même principe, tous les paramètres nécessaires par les différents processus de l'architecture BEN sont liés au modèle OCEAN comme expliqué dans le reste de cette section.

## 4.2. PERCEPTIONS

La première étape de BEN, correspondant au module numéro 1 de la Figure 4.1, consiste à percevoir l'environnement. Cette étape permet de faire le lien entre l'environnement et les connaissances de l'agent, en créant des croyances et des incertitudes sur les informations de l'environnement, en définissant la contagion émotionnelle avec d'autres agents ou en créant de nouvelles relations sociales.

Le premier processus de cette perception consiste à ajouter des croyances sur le monde. Au cours de cette phase, les informations provenant de l'environnement sont transformées en prédicats qui sont inclus dans des croyances ou des incertitudes, puis ajoutés aux bases de connaissances de l'agent. Ce processus permet à l'agent de mettre à jour ses connaissances sur le monde. Du point de vue du modélisateur, il est seulement nécessaire de spécifier quelle information est transformée en quel prédicat. L'ajout d'une croyance $Belief_A(X)$ déclenche plusieurs processus liés à la révision des croyances : il supprime $Belief_A(notX)$, il supprime $Intention_A(X)$, il supprime $Desire_A(X)$ si $Intention_A(X)$ vient d'être supprimé, il supprime $Incertitude_A(X)$ ou $Incertitude_A(notX)$, et il supprime $Obligation_A(X)$.

La contagion émotionnelle permet à l'agent de mettre à jour ses émotions en fonction des émotions des autres agents perçus. Sur la base du formalisme exposé dans la section 3, le modélisateur doit indiquer l'émotion déclenchant la contagion, l'émotion créée chez l'agent percevant et le seuil de cette contagion; les valeurs de charisme (Ch) et de réceptivité (R) sont automatiquement calculées comme expliqué dans la section 4.1. La contagion de l'agent i vers l'agent j ne se produit que si $Ch_i \times R_j$ est supérieur ou égal au seuil (Th), dont la valeur est de 0,25 par défaut. La présence de l'émotion déclenchante chez l'agent perçu est vérifiée afin de créer l'émotion indiquée. Les équations permettant de déterminer l'intensité et la décroissance de la nouvelle émotion sont exprimées par l'équation (4.6) et l'équation (4.7).

$$ \begin{cases} \text{Si } Em_j(P) \text{ existe déjà : } & I[Em_j(P)] = I[Em_j(P)] + I[Em_i(P)] \times Ch_i \times R_j \\ \text{sinon : } & I[Em_j(P)] = I[Em_i(P)] \times Ch_i \times R_j \end{cases} \tag{4.6} $$

$$ \begin{cases} \text{Si } Em_j(P) \text{ existe déjà : } & De[Em_j(P)] = \begin{cases} De[Em_i(P)] & \text{si } I[Em_i(P)] > I[Em_j(P)] \\ De[Em_j(P)] & \text{si } I[Em_j(P)] > I[Em_i(P)] \end{cases} \\ \text{sinon : } & De[Em_j(P)] = De[Em_i(P)] \end{cases} \tag{4.7} $$

Par la suite, l'agent a la possibilité de créer des relations sociales avec d'autres agents perçus. Le modélisateur indique la valeur initiale de chaque composante du lien social, comme expliqué dans la section 3.4. Par défaut, une relation neutre est créée, avec chaque valeur du lien à 0. Les relations sociales peuvent également être définies
avant le début de la simulation, pour indiquer qu’un agent a des liens avec d’autres agents au lancement de la simulation, comme des liens avec des amis ou des membres de la famille.

Enfin, l’agent peut appliquer des sanctions à travers le contrôle des normes des autres agents perçus. Le modélisateur doit indiquer quelle modalité est appliquée, la sanction et la récompense utilisées dans le processus. Ensuite, l’agent vérifie si la norme, l’obligation ou la loi est violée, appliquée ou non activée par l’agent perçu. Pour ce faire, chaque agent doit avoir accès aux bases normatives des autres agents.

Une norme est considérée comme violée lorsque son contexte est vérifié, mais que l’agent a choisi une autre norme ou un autre plan à exécuter parce qu’il a décidé de désobéir. Une loi est considérée comme violée lorsque son contexte est vérifié, mais que l’agent y a désobéi, ne créant pas l’obligation correspondante. Enfin, une obligation est considérée comme violée si l’agent n’a pas exécuté la norme correspondante parce qu’il a choisi de désobéir.

## 4.3. GESTION DES CONNAISSANCES

La deuxième étape de BEN, correspondant au module numéro 2 de la Figure 4.1, permet à l’agent de gérer ses connaissances après la perception et avant la prise de décision. Cela implique de mettre à jour les bases de connaissances en fonction des dernières perceptions, d’ajouter de nouveaux désirs, de nouvelles obligations, de nouvelles émotions ou de mettre à jour les relations sociales.

Les modélisateurs doivent utiliser des règles d'inférence à cette fin. Ces règles sont déclenchées par l'ajout d'une nouvelle croyance, d'une nouvelle incertitude ou d'une nouvelle émotion, dans un contexte donné, et peuvent ajouter ou supprimer tout état mental cognitif ou émotion indiqué par l'utilisateur. L'utilisation de plusieurs règles d'inférence permet à l'agent de s'adapter à la situation perçue sans supprimer tous ses anciens états mentaux cognitifs ou émotions, permettant ainsi la création d'un comportement cognitif. Ces règles d'inférence permettent de lier manuellement les différentes dimensions d'un agent, par exemple en créant des désirs en fonction des émotions, des relations sociales et de la personnalité.

En suivant le même principe, les modélisateurs peuvent définir des lois. Ces dernières permettent de créer des obligations dans un contexte donné en fonction des dernières croyances créées par l'agent à travers sa perception ou ses règles d'inférence. Le modélisateur doit également indiquer un seuil d'obéissance ; si la valeur d'obéissance de l'agent est inférieure à ce seuil, la loi est considérée comme violée. Si la loi est activée, l'obligation est ajoutée aux bases d'états mentaux cognitifs de l'agent. La définition de lois permet de créer un comportement normatif basé sur des obligations imposées à l'agent.

Les deux autres processus de ce module sont les calculs automatiques des émotions et des relations sociales de l’agent. Les sous-sections suivantes présentent les modèles utilisés dans l’implémentation de ces processus.
### 4.3.1. Création automatique d'émotions

BEN permet à l'agent d'avoir des émotions à propos de ses états mentaux cognitifs. Cet ajout d'émotions s'appuie sur le modèle OCC [46] et son formalisme logique [1] qui a été proposé pour intégrer le modèle OCC dans un formalisme BDI.

Selon la théorie OCC, les émotions peuvent être divisées en trois groupes : les émotions liées aux événements, les émotions liées aux personnes et aux actions réalisées par les personnes, et les émotions liées aux objets. Dans BEN, comme l'accent est mis sur les relations entre les agents sociaux, seuls les deux premiers groupes d'émotions (émotions liées aux événements et aux personnes) sont considérés ce qui regroupe vingt émotions.

Ces vingt émotions issues du modèle OCC sont définies et créées automatiquement dans BEN, en utilisant le formalisme défini en section 3, avec les définitions suivantes :

* $Joie_i(P_j, j) \stackrel{\text{def}}{=} \text{Belief}_i(P_j) \text{ & Desire}_i(P)$

* $Tristesse_i(P_j, j) \stackrel{\text{def}}{=} \text{Belief}_i(P_j) \text{ & Desire}_i(\text{not P})$

* $Espoir_i(P_j, j) \stackrel{\text{def}}{=} \text{Uncertainty}_i(P_j) \text{ & Desire}_i(P)$

* $Crainte_i(P_j, j) \stackrel{\text{def}}{=} \text{Uncertainty}_i(P_j) \text{ & Desire}_i(\text{not P})$

* $Satisfaction_i(P_j, j) \stackrel{\text{def}}{=} \text{Espoir}_i(P_j, j) \text{ & Belief}_i(P_j)$

* $Déception_i(P_j, j) \stackrel{\text{def}}{=} \text{Espoir}_i(P_j, j) \text{ & Belief}_i(\text{not P}_j)$

* $Soulagement_i(P_j, j) \stackrel{\text{def}}{=} \text{Crainte}_i(P_j, j) \text{ & Belief}_i(\text{not P}_j)$

* $Peur_i(P_j, j) \stackrel{\text{def}}{=} \text{Crainte}_i(P_j, j) \text{ & Belief}_i(P_j)$

* $Content pour_i(P_j, j) \stackrel{\text{def}}{=} L[R_{i,j}] > 0 \text{ & Joie}_j(P)$

* $Désolé pour_i(P_j, j) \stackrel{\text{def}}{=} L[R_{i,j}] > 0 \text{ & Tristesse}_j(P)$

* $Ressentiment_i(P_j, j) \stackrel{\text{def}}{=} L[R_{i,j}] < 0 \text{ & Joie}_j(P)$

* $Jubilation_i(P_j, j) \stackrel{\text{def}}{=} L[R_{i,j}] < 0 \text{ & Tristesse}_j(P)$

* $Fierté_i(P_i, i) \stackrel{\text{def}}{=} \text{Belief}_i(P_i) \text{ & Ideal}_i(P_i) \text{ & Val}[\text{Ideal}_i(P_i)] > 0$

* $Honte_i(P_i, i) \stackrel{\text{def}}{=} \text{Belief}_i(P_i) \text{ & Ideal}_i(P_i) \text{ & Val}[\text{Ideal}_i(P_i)] < 0$

* $Admiration_i(P_j, j) \stackrel{\text{def}}{=} \text{Belief}_i(P_j) \text{ & Ideal}_i(P_j) \text{ & Val}[\text{Ideal}_i(P_j)] > 0$

* $Reproche_i(P_j, j) \stackrel{\text{def}}{=} \text{Belief}_i(P_j) \text{ & Ideal}_i(P_j) \text{ & Val}[\text{Ideal}_i(P_j)] < 0$

* $Gratification_i(P_i, i) \stackrel{\text{def}}{=} \text{Fierté}_i(P_i, i) \text{ & Joie}_i(P_i)$

* $Remord_i(P_i, i) \stackrel{\text{def}}{=} \text{Honte}_i(P_i, i) \text{ & Tristesse}_i(P_i)$

* $Gratitude_i(P_j, j) \stackrel{\text{def}}{=} \text{Admiration}_i(P_j, j) \text{ & Joie}_i(P_j)$

* $Colère_i(P_j, j) \stackrel{\text{def}}{=} \text{Reproche}_i(P_j, j) \text{ & Tristesse}_i(P_j)$
Toutes les intensités et valeurs de décroissance initiales sont calculées en utilisant
le modèle OCEAN et la valeur attachée aux états mentaux concernés. Ces calculs sont
détailés dans une précédente publication [16].

4.3.2. *Mise à jour des relations sociales*

Lorsqu’un agent déjà connu est perçu (c’est-à-dire qu’il existe déjà un lien social avec lui), la relation sociale avec cet agent est mise à jour automatiquement par BEN. Cette mise à jour est basée sur les travaux de [44] et prend en compte les états mentaux cognitifs et les émotions de l’agent. Dans cette section, la mise à jour automatique de chaque variable d’un lien social $R_{i,j}$ (L,D,S,F,T) par l’architecture est décrite en détail ; la variable de confiance du lien n’est cependant pas mise à jour automatiquement.

Selon [45], le degré d’appréciation entre deux agents dépend de la valence (positive ou négative) des émotions induites par l’agent correspondant. Dans le modèle émotionnel de l’architecture, joie et espoir sont considérées comme des émotions positives (satisfaction et soulagement créent automatiquement de la joie avec le moteur émotionnel) tandis que tristesse et crainte sont considérées comme des émotions négatives (peur et déception créent automatiquement de la tristesse avec le moteur émotionnel). Ainsi, si un agent *i* a une émotion positive (resp. négative) causée par un agent *j*, cela augmentera (resp. diminuera) la valeur de l’appréciation dans le lien social de *i* concernant *j*.

En outre, des recherches ont montré que le degré d'appréciation est influencé par
la valeur de solidarité [57]. Cela peut s'expliquer par le fait que les gens ont tendance
à apprécier les personnes qui leur ressemblent.

La formule de calcul est décrite par l'équation (4.8) avec *mPos* la valeur moyenne de toutes les émotions positives provoquées par l'agent *j*, *mNeg* la valeur moyenne de toutes les émotions négatives provoquées par l'agent *j* et *α*<sub>*L*</sub> un coefficient dépendant de la personnalité de l'agent, indiquant l'importance des émotions dans le processus, et qui est décrit par l'équation (4.9).

$$
L[R_{i,j}] = L[R_{i,j}] + |L[R_{i,j}]|(1 - |L[R_{i,j}]|)S[R_{i,j}] \\
\qquad + \alpha_L (1 - |L[R_{i,j}]|) (mPos - mNeg) \quad (4.8)
$$

$$
\alpha_L = 1 - N \tag{4.9}
$$

[34] et [54] expliquent qu'une émotion de crainte ou de tristesse provoquée par un autre agent représente un statut inférieur. Mais [35] explique que percevoir la peur et la tristesse chez les autres augmente la sensation de pouvoir sur ces personnes.

La formule de calcul est décrite par l'équation (4.10) avec mSE la valeur moyenne de toutes les émotions négatives causées par l'agent *i* à l'agent *j*, mOE la valeur moyenne de toutes les émotions négatives causées par l'agent *j* à l'agent *i* et α<sub>D</sub> un coefficient dépendant de la personnalité de l'agent, indiquant l'importance des émotions dans le
processus, et qui est décrit par l'équation (4.11).

$$D[R_{i,j}] = D[R_{i,j}] + \alpha_D (1 - |D[R_{i,j}]|) (mSE - mOE) \quad (4.10)$$

$$\alpha_D = 1 - N \quad (4.11)$$

Comme expliqué dans le formalisme exposé en section 3, la solidarité représente le degré de similarité des désirs, des croyances et des incertitudes entre deux agents. Dans BEN, l'évolution de la valeur de la solidarité dépend du rapport de similarité entre les désirs, croyances et incertitudes de l'agent *i* et ceux de l'agent *j*. Pour calculer les similarités et les oppositions entre l'agent *i* et l'agent *j*, l'agent *i* doit avoir des croyances sur les états mentaux cognitifs de l'agent *j*. Il compare ensuite ces états mentaux cognitifs avec les siens pour détecter les connaissances similaires ou opposées.

De plus, selon [50], les émotions négatives ont tendance à diminuer la valeur de la solidarité entre deux personnes. La formule de calcul est décrite par l'équation (4.12) avec *sim* le nombre d'états mentaux cognitifs similaires entre l'agent *i* et l'agent *j*, *opp* le nombre d'états mentaux cognitifs opposés entre l'agent *i* et l'agent *j*, *NbKnow* le nombre d'états mentaux cognitifs communs entre l'agent *i* et l'agent *j*, *mNeg* la valeur moyenne de toutes les émotions négatives causées par l'agent *j*, $\alpha_{S1}$ un coefficient dépendant de la personnalité de l'agent, indiquant l'importance des similarités et des oppositions dans le processus (décrit par l'équation (4.13)) et $\alpha_{S2}$ un coefficient dépendant de la personnalité de l'agent, indiquant l'importance des émotions dans le processus (décrit par l'équation (4.14)).

$$S[R_{i,j}] = S[R_{i,j}] + S[R_{i,j}] \times (1 - S[R_{i,j}]) \times \left( \alpha_{S1} \frac{sim - opp}{NbKnow} - \alpha_{S2} mNeg \right) \quad (4.12)$$

$$\alpha_{S1} = 1 - O \quad (4.13)$$

$$\alpha_{S2} = 1 - N \quad (4.14)$$

À notre connaissance, il n'y a pas de travaux en psychologie qui montre que les émotions et la cognition ont un impact sur la familiarité. Cependant, [22] explique que les gens ont tendance à être plus familiers avec les personnes qu'ils apprécient. Cette notion est modélisée en fondant l'évolution de la valeur de familiarité sur la valeur de sympathie entre deux agents. La formule de calcul de l'évolution de la valeur de familiarité est définie par l'équation (4.15).

$$F[R_{i,j}] = F[R_{i,j}] (1 + L[R_{i,j}]) \quad (4.15)$$

Toutes les équations ont été élaborées de telle sorte que l'évolution reste comprise entre -1 et 1 pour l'appréciation et la dominance et entre 0 et 1 pour la solidarité et la familiarité, conformément au formalisme exposé en section 3.

La valeur de confiance n'évolue pas automatiquement dans BEN, car il n'y a pas de lien clair et automatique avec la cognition ou les émotions. Cependant, cette valeur peut évoluer manuellement, surtout avec les sanctions et les récompenses aux normes sociales où le modélisateur peut indiquer une modification de la valeur de confiance pendant le processus d'application des sanctions décrit dans la section 4.2.
4.4. PRISE DE DÉCISION

La troisième étape de BEN est la seule partie obligatoire. Ce module permet à l'agent de prendre des décisions puis d'exécuter une action, le tout au travers d'un moteur cognitif sur lequel un moteur normatif peut être ajouté comme montré par la Figure 4.2. Ces moteurs de prise de décision s'exécutent automatiquement, sans inter- vention du modélisateur. En amont, le modélisateur peut définir des règles de coping indiquant comment les émotions créées lors de la phase de gestion des connaissances modifient les états mentaux de l'agent, agissant ainsi sur sa prise de décision.

<figure><img src="image_5.png" /><figcaption>FIGURE 4.2. Représentation du moteur cognitif et normatif de l'architecture BEN</figcaption></figure>

La prise de décision dans BEN fonctionne comme suit :

* Étape 1 : le moteur vérifie l'intention courante. Si elle est toujours valide, l'intention est conservée afin que l'agent puisse continuer à exécuter son plan actuel.

* Étape 2 : le moteur vérifie si le plan/norme en cours est encore utilisable ou non, en fonction de son contexte.

* Étape 3 : le moteur vérifie si l'agent obéit à une obligation prise parmi les obligations associées à une norme avec un contexte valide dans la situation actuelle et avec un niveau de seuil inférieur à la valeur d'obéissance de l'agent telle que calculée dans la section 4.1.

* Étape 4 : l'obligation avec la plus haute priorité est choisie comme intention courante.

* Étape 5 : le désir avec la plus haute priorité est choisie comme intention courante.
* Étape 6 : le plan ou la norme ayant la priorité la plus élevée est sélectionné comme plan/norme en cours, parmi les plans ou les normes associés à l'in-tention actuelle avec un contexte valide.

* Étape 7 : le comportement associé au plan/norme en cours est exécuté.

Les étapes 4, 5 et 6 ne sont pas nécessairement déterministes, mais peuvent être probabilistes (au choix du modélisateur). Dans ce cas, la valeur de priorité associée aux obligations, désirs, plans et normes sert de probabilité de sélection.

### 4.5. DYNAMIQUE TEMPORELLE

La dernière étape de l'architecture, numérotée 4 sur la Figure 4.1, donne une dynamique temporelle au comportement de l'agent. Ceci se fait automatiquement en dégradant les états mentaux cognitifs et les émotions et en mettant à jour l'état de chaque norme.

La dégradation des états mentaux consiste à réduire leur durée de vie. Lorsque la durée de vie est nulle, l'état mental est retiré de sa base. La dégradation des émotions consiste à réduire l'intensité de chaque émotion stockée par sa valeur de dégradation. Lorsque l'intensité d'une émotion est nulle, l'émotion est retirée de la base émotionnelle.

Enfin, le statut de chaque norme est mis à jour pour indiquer si la norme a été activée ou non (si le contexte était bon ou mauvais) et si elle a été violée ou non (la norme a été activée mais l'agent y a désobéi). De plus, une norme peut être considérée comme violée pendant un temps défini. Ce statut est mis à jour, la norme perdant revenant à un statut neutre (non violée) lorsque le temps de violation est écoulé.

Cette dernière étape permet aux composantes du comportement de l'agent d'évo-luer automatiquement dans le temps, amenant les agents à oublier un élément de leurs connaissances après un certain temps, créant ainsi une dynamique dans leur compor-tement.

## 5. APPLICATION À L'ÉVACUATION D'UNE BOÎTE DE NUIT

L'architecture définie dans la section 4 a été implémentée dans la plateforme de modélisation et de simulation GAMA [61], étendant le langage de programmation GAML pour aider les modélisateurs à définir des agents sociaux aux dimensions cognitives, affectives et sociales. Cette implémentation est utilisée dans le cas d'exemple d'une évacuation d'une boîte de nuit en feu détaillé dans cette section.

### 5.1. PRÉSENTATION DU CAS D'EXEMPLE

Le 27 janvier 2013, le Kiss Nightclub de Santa Maria, Rio Grande do Sul (Brésil), a pris feu à la fin d'un spectacle dirigé par un groupe de musique local. Le plafond s'est enflammé à cause des feux d'artifice, émettant des fumées toxiques qui ont causé la mort de 242 personnes. L'enquête officielle a mis en lumière différents facteurs qui ont aggravé la tragédie : il y avait entre 1 200 et 1 400 personnes dans le bâtiment
qui pouvaient normalement accueillir 641 personnes, il n'y avait qu'une seule porte d'entrée/sortie, il n'y avait ni détecteur de fumée ni alarme et enfin, les panneaux de sortie montraient la direction des toilettes. L'enquête montre également que la plupart des décès sont dus à l'asphyxie, près des toilettes [7].

Notre but ici est de reproduire le comportement des personnes prises dans cette tragédie de la manière la plus crédible possible. En d'autres termes, nous utilisons l'architecture BEN pour créer les comportements des agents afin d'obtenir un résultat aussi proche que possible de ce qui s'est passé dans cette boîte de nuit pendant l'incendie.

## 5.2. MODÉLISATION DU CAS AVEC BEN

Les connaissances initiales de l'agent, au lancement de la simulation, peuvent être divisées en trois types : les croyances sur le monde, les désirs initiaux et les relations sociales. De plus, chaque agent dispose d'une personnalité décrite par une valeur dans chacune des dimensions du modèle OCEAN. Quelques exemples de ces connaissances initiales ainsi que leur formalisation avec BEN sont données ci-dessous :

* Une croyance sur la localisation exacte de la porte de sortie avec une durée de vie fixée -> *Belief*<sub>*i*</sub>(*exitDoor*, *lifetime*<sub>1</sub>)

* Le désir qu'il n'y ait pas de feu -> *Desire*<sub>*i*</sub>(*notFire*, 1.0)

* Une relation d'amitié avec un agent *j* -> *R*<sub>*i*,*j*</sub>(*L*, *D*, *S*, *F*, *T*)

Le premier processus de BEN est la perception de l'environnement, qui sera réduite en fonction de la fumée entourant l'agent. Il faut donc indiquer ce que l'agent perçoit et comment ces perceptions influencent ses connaissances, ce qui est montré dans un cas pratique par le bloc de code 1 :

* Percevoir la porte de sortie met à jour les croyances liées à celle-ci.

* Percevoir le feu ajoute la croyance qu'il y a un feu.

* Percevoir la fumée ajoute une croyance liée au niveau de fumée détectée.

* Percevoir les autres agents permet la création de relations sociales avec eux. Une contagion émotionnelle portant sur la peur de l'incendie est aussi définie.

```
perceive target:exit
in:perceived_area{
    focus id:"exitLocation"
    lifetime: 20;
}
```

```
perceive target:fire
in:perceived_area{
    focus id:"fire";
}
```

**Code 1:** Exemple de définition de perceptions dans le cas du Kiss Nightclub
Une fois que les connaissances de l'agent sont à jour avec son environnement, elles
vont réagir à ce qui a été perçu. Cela se fait avec la définition des règles d'inférence et
des lois, dont le bloc de code 2 montre une implémentation pratique :

* Une loi crée l'obligation de suivre les panneaux de sortie s'il y a un doute raisonnable (modélisé par la valeur d'obéissance attachée à la loi et la quantité de fumée perçue) de catastrophe.

* Une règle d'inférence ajoute le désir de fuir si l'agent a la croyance qu'il y a un incendie.

* Une règle d'inférence ajoute une incertitude qu'il y a un incendie si l'agent a la croyance qu'il y a de la fumée.

* Une règle d'inférence ajoute le désir de fuir si l'agent a une émotion de peur portant sur l'incendie si son intensité est supérieure à un seuil donné.

rule belief: fireSaw
new_desire:fleeing
remove_intention:wandering
remove_desire:wandering ;
rule belief: smokeSaw
new_uncertainty:fireSaw
strength: smokeQuantity/100
when: not has believ.fireSaw;

**Code 2:** Exemple de définition de lois et de règles d'inférence dans le cas du Kiss Nightclub

Avec l'exécution des règles d'inférence et des lois, chaque agent crée des émotions
par le biais du moteur émotionnel. Dans ce cas d'exemple, la présence d'une incertitude
sur l'incendie (ajoutée par la règle d'inférence concernant la croyance sur la fumée)
avec le désir initial qu'il n'y a pas de feu produit une émotion de peur, dont l'intensité
est calculée en fonction de la quantité de fumée perçue.

Une fois que l’agent a le désir de fuir (parce qu’il a perçu l’incendie ou sa peur d’un incendie est d’une intensité assez grande), il a besoin de plans d’action et de normes qui lui indiquent comment agir. La définition de quelques plans d’action et normes pour répondre à l’intention de fuir est donnée ci-dessous, avec le contexte de déclenchement et le résultat de l’action :

* l'agent a une bonne visibilité et possède une croyance sur la position exacte de la sortie -> un plan indique à l'agent de courir vers la porte de sortie en suivant le plus court chemin.

* l'agent a une bonne visibilité mais aucune croyance sur l'emplacement de la sortie -> une norme amène l'agent à suivre les agents autour de lui en qui il a confiance.

* l'agent a une mauvaise visibilité et possède l'obligation de suivre les panneaux de sortie -> une norme indique à l'agent de suivre les panneaux de sortie, ce qui l'amène dans ce cas vers les toilettes.
* l'agent a une mauvaise visibilité et la croyance que les panneaux de sortie sont erronés -> un plan amène l'agent à se déplacer au hasard.

* l'agent perçoit un ami perdu dans la fumée -> un plan indique à l'agent d'aller trouver son ami pour l'amener vers la sortie.

Au fur et à mesure que la situation évolue au cours de la simulation, un agent peut modifier son plan en cours. Par exemple, si un agent quitte la zone enfumée alors qu'il fuit vers les toilettes, il peut percevoir la sortie et s'y rendre au lieu de continuer à suivre les panneaux.

## 5.3. RÉSULTATS ET DISCUSSION

Au début de la simulation, les agents sont placés au hasard dans le Kiss Nightclub recréé avec une personnalité initialisée par une distribution gaussienne centrée sur 0,5 et avec un écart type de 0,12 pour chaque dimension. La propagation de la fumée est modélisée selon un rapport officiel du gouvernement français [20]; un agent est considéré mort après 50 secondes dans la fumée dense.

La figure 5.1 montre un résultat visuel de la simulation où les lignes noires représentent les murs de la discothèque, les carrés gris représentent la fumée et les triangles représentent les acteurs simulés, la couleur de chaque triangle indique le plan suivi. Une vidéo de la simulation ainsi que le modèle complet se trouvent à l'adresse suivante : https://github.com/mathieuBourgais/ExempleThese

<figure><img src="image_6.png" /><figcaption>FIGURE 5.1. Simulation de l'évacuation du Kiss Nightclub</figcaption></figure>
Comme le nombre exact de personnes dans la boîte de nuit n'est pas connu, nous avons testé trois cas : 1 200 personnes au début, 1 300 personnes au début et 1 400 personnes au début. Les résultats statistiques obtenus dans le tableau 5.1 sont calculés à partir de 10 simulations pour chaque scénario.

<table><caption>TABLE 5.1. Nombre d'agents décédés dans la simulation de l'incendie du Kiss Nightclub</caption><thead><tr><th>Nombre d'agents</th><th>1 200</th><th>1 300</th><th>1 400</th></tr></thead><tbody><tr><td>moyenne</td><td>230.2</td><td>237.7</td><td>249.4</td></tr><tr><td>écart type</td><td>20.1</td><td>15.6</td><td>32.6</td></tr></tbody></table>

Les résultats statistiques indiquent que notre modèle est bien calibré pour reproduire le cas réel où 242 personnes sont décédées. Cependant, le principal résultat concerne l'explicabilité et l'expressivité du modèle [15]. La vidéo de la simulation montre différents types de comportement qui peuvent être exprimés avec des concepts de haut niveau grâce à BEN.

Par exemple, beaucoup d'agents quittent le club au début de la simulation parce qu'ils ont directement perçu l'incendie. Ce comportement semble correspondre à un cas réel où les gens qui voient un incendie dans une boîte de nuit s'enfuient. Par contre, les agents qui ne perçoivent pas la fumée ou l'incendie fuient plus tard. Pendant ce temps, ils ont oublié l'emplacement de la sortie et ont dû suivre les panneaux de sortie officiels, ce qui les a conduit, dans ce cas, aux toilettes.

Grâce à l'architecture BEN, nous avons pu traduire un comportement exprimé en langage commun en un comportement réel pour des acteurs simulés. À tout moment, il est possible de mettre en pause la simulation pour inspecter le comportement d'un agent ; ce comportement sera exprimé en termes d'états mentaux cognitifs, d'émotions, de relations sociales, de normes et de plans qui sont, de notre point de vue, plus faciles à lire et à comprendre que des équations abstraites. Ce point est soutenu par le fait que BEN et sa partie cognitive reposent sur la psychologie naïve [43].

Pour tester la sensibilité du modèle aux paramètres, nous avons simulé l'incendie du Kiss Nightclub en prenant des valeurs extrêmes pour les champs de la personnalité de chaque agent. En mettant toutes les dimensions de la personnalité à 0, on obtient une moyenne de 3,4 décès par simulation et un écart type de 1,43. Avec des valeurs de personnalité à 0, les agents ont plus de contagion émotionnelle et des intensités émotionnelles plus importantes, les amenant à évacuer beaucoup plus vite ce qui fait baisser le nombre de décès. À l'opposé, avec des dimensions de personnalité avec une valeur de 1, on obtient en moyenne 362,8 décès avec un écart type de 20,16. Dans ce second cas, le nombre de décès augmentait fortement parce que les agents deviennent plus réfractaire à la contagion émotionnelle et l'intensité de l'émotion de crainte augmente moins rapidement, ce qui conduit les agents à rester plus longtemps dans le bâtiment avant de prendre la décision
Le tableau 5.2 montre le temps d'exécution moyen de chaque pas de temps pour les simulations du Kiss Nightclub avec initialement 1 200, 1 300 et 1 400 agents. Le tableau indique qu'il faut en moyenne 861,7 millisecondes, 841,4 millisecondes ou encore 884,9 millisecondes pour simuler chaque pas de temps qui représente 1 seconde de temps simulé. Ces résultats incluent le calcul de l'affichage graphique et des calculs de plus court chemin qui représentent la majorité du temps de calcul à chaque pas de temps. Ceci indique que BEN est exécutable en un temps raisonnable pour la simulation de plusieurs centaines d'agents utilisant l'ensemble des processus de l'architecture.

<table><caption>TABLE 5.2. Temps de calcul, en millisecondes, obtenus pour la simulation de l'incendie du Kiss Nightclub</caption><thead><tr><th>nombre d'agents</th><th>1 200</th><th>1 300</th><th>1 400</th></tr></thead><tbody><tr><td>moyenne</td><td>861.7</td><td>841.4</td><td>884.9</td></tr><tr><td>écart type</td><td>78.4</td><td>57.7</td><td>101.2</td></tr></tbody></table>

## 6. CONCLUSION

Cet article présente BEN, une architecture comportementale et modulaire pour la prise de décision d'agents sociaux dans la simulation. Cette architecture s'appuie sur une formalisation des notions de cognition, d'émotions, de personnalité, de contagion émotionnelle, de relations sociales et de systèmes normatifs leur permettant d'interagir entre elles dans un processus de prise de décision. Cette architecture a été implémentée dans la plateforme de modélisation et de simulation multi-agent GAMA [61] et mise en oeuvre sur le cas d'étude de l'évacuation d'une discothèque en feu au Brésil, permettant de reproduire de façon crédible une situation réelle, tout en conservant un grand pouvoir d'explicabilité grâce à l'utilisation de concepts de haut-niveau utilisés pour décrire le comportement des acteurs humains[15].

BEN a déjà été utilisé, tout ou en partie, sur d'autres projets par d'autres chercheurs : l'étude de l'évacuation d'une discothèque aux États-Unis [63], l'étude d'évacuation de zones ouvertes lors d'incendies de brousse en Australe [3] ou de zones urbaines en cas de catastrophe [23], l'étude de comportements de foyers sur leur consommation d'énergie [42] ou encore l'étude de fermiers vietnamiens dans le delta du Mekong [62]. Ces différents travaux montrent que la modularité de BEN lui permet de s'adapter à différents cas d'étude et d'être utilisé par des chercheurs spécialistes de leur domaine n'ayant pas pour autant des compétences expertes en programmation. Au-delà de l'implémentation que nous proposons dans cet article et qui est utilisable en l'état, BEN représente une architecture globale dans laquelle chaque processus peut être implémenté en suivant un modèle ou une théorie différente que ce que nous proposons. Cela a notamment déjà été fait en proposant une version de BEN où la personnalité ne serait définie selon le modèle OCEAN [18]
BIBLIOGRAPHIE

[1] C. ADAM, « Emotions: from psychological theories to logical formalization and implementation in a BDI agent », Phd thesis, INPT Toulouse, 2007.

[2] C. ADAM & B. GAUDOU, « BDI agents in social simulations: a survey », *The Knowledge Engineering Review* **31** (2016), n° 3, p. 207-238.

[3] C. ADAM, P. TAILLANDIER, J. DUGDALE & B. GAUDOU, « BDI vs FSM Agents in Social Simulations for Raising Awareness in Disasters: A Case Study in Melbourne Bushfires », *International Journal of Information Systems for Crisis Response and Management (IJISCRAM)* **9** (2017), n° 1, p. 27-44.

[4] G. ANDRIGHETTO, R. CONTE, P. TURRINI & M. PAOLUCCI, « Emergence in the loop : Simulating the two way dynamics of norm innovation », in *Dagstuhl Seminar Proceedings*, Schloss Dagstuhl-Leibniz-Zentrum für Informatik, 2007.

[5] E. ARGENTE, E. DEL VAL, D. PEREZ-GARCIA & V. BOTTI, « Normative Emotional Agents: a viewpoint paper », in *IEEE Transactions on Affective Computing*, IEEE, 2020.

[6] M. B. ARNOLD, *Emotion and personality*, Columbia University Press, 1960.

[7] B. ATIYEH, « Brazilian Kiss nightclub disaster », *Annals of burns and fire disasters* **26** (2013), n° 1, p. 3.

[8] R. AXELROD, « Advancing the art of simulation in the social sciences », in *Simulating social phenomena*, Springer, 1997, p. 21-40.

[9] T. BALKE & N. GILBERT, « How do agents make decisions? A survey », *Journal of Artificial Societies and Social Simulation* **17** (2014), n° 4, p. 13.

[10] M. BALMER, M. RIESER, K. MEISTER, D. CHARYPAR, N. LEFEBVRE, K. NAGEL & K. AXHAUSEN, « MATSim-T: Architecture and simulation times », *Multi-agent systems for traffic and transportation engineering* (2009), p. 57-78.

[11] L. BÈGUE, J.-L. BEAUVOIS, D. COURBET, D. OBERLÉ, J. LEPAGE & A. A. DUKE, « Personality predicts obedience in a Milgram paradigm », *Journal of Personality* **83** (2015), n° 3, p. 299-306.

[12] T. BOSSE, R. DUELL, Z. A. MEMON, J. TREUR & C. N. VAN DER WAL, « Multi-Agent Model For Mutual Absorption Of Emotions », *ECMS 2009* (2009), p. 212-218.

[13] M. BOURGAIS, P. TAILLANDIER & L. VERCOUTER, « Cognition, émotions et relations sociales pour la simulation multi-agent », in *JFSMA 2017* (Caen, France), 2017.

[14] M. BOURGAIS, « Vers des agents cognitifs, affectifs et sociaux pour la simulation », Theses, Normandie Université, 2018.

[15] M. BOURGAIS, P. TAILLANDIER & L. VERCOUTER, « BEN: An Agent Architecture for Explainable and Expressive Behavior in Social Simulation », in *International Workshop on Explainable, Transparent Autonomous Agents and Multi-Agent Systems*, Springer, 2019, p. 147-163.

[16] M. BOURGAIS, P. TAILLANDIER & L. VERCOUTER, « BEN: An architecture for the behavior of social agents », *Journal of Artificial Societies and Social Simulation* **23** (2020), n° 4.

[17] M. BRATMAN, *Intentions, plans, and practical reason*, Harvard Univ. Press, 1987.

[18] L. F. BRAZ & J. S. SICHMAN, « Extending BEN architecture for modeling MBTI agents », in *1st conference GAMA Days 2021*, 2021.

[19] J. BROERSEN, M. DASTANI, J. HULSTIJN, Z. HUANG & L. VAN DER TORRE, « The BOID architecture : conflicts between beliefs, obligations, intentions and desires », in *Proceedings of the fifth international conference on Autonomous agents*, ACM, 2001, p. 9-16.

[20] C. CHIVAS & J. CESCON, « Formalisation du savoir et des outils dans le domaine des risques majeurs (DRA-35) – Toxicité et dispersion des fumées d'incendie Phénoménologie et modélisation des effets », Tech. report, INERIS, 2005.

[21] P. R. COHEN & H. J. LEVESQUE, « Intention is choice with commitment », *Artificial intelligence* **42** (1990), n° 2-3, p. 213-261.

[22] N. L. COLLINS & L. C. MILLER, « Self-disclosure and liking : a meta-analytic review », *Psychological bulletin* **116** (1994), n° 3, p. 457-475.

[23] E. DAUDÉ, K. CHAPUIS, P. TAILLANDIER, P. TRANOUEZ, C. CARON, A. DROGOUL, B. GAUDOU, S. REY-COYREHOURQ, A. SAVAL & J.-D. ZUCKER, « ESCAPE: Exploring by Simulation Cities Awareness on Population Evacuation », in *ISCRAM*, 2019.
[24] J. DIAS, S. MASCARENHAS & A. PAIVA, « Fatima modular : Towards an agent architecture with a generic appraisal framework », in *Emotion modeling*, Springer, 2014, p. 44-56.

[25] F. DIGNUM, V. DIGNUM & C. M. JONKER, « Towards agents for policy making », in *International Workshop on Multi-Agent Systems and Agent-Based Simulation*, Springer, 2008, p. 141-153.

[26] B. EDMONDS & S. Moss, « From KISS to KIDS-an 'anti-simplistic' modelling approach », in *International workshop on multi-agent systems and agent-based simulation*, Springer, 2004, p. 130-144.

[27] N. FERREIRA, S. MASCARENHAS, A. PAIVA, G. DI TOSTO, F. DIGNUM, J. MC BREEN, N. DEGENS, G. J. HOFSTEDE, G. ANDRIGHETTO & R. CONTE, « An agent model for the appraisal of normative events based in in-group and out-group relations », in *twenty-seventh AAAI conference on artificial intelligence*, 2013.

[28] N. GILBERT & K. TROITZSCH, *Simulation for the social scientist*, McGraw-Hill Education (UK), 2005.

[29] J. GRATCH & S. MARSELLA, « A domain-independent framework for modeling emotion », *Cognitive Systems Research* 5 (2004), n° 4, p. 269-306.

[30] E. HATFIELD, J. T. CACIOPPO & R. L. RAPSON, « Emotional contagion », *Current directions in psychological science* 2 (1993), n° 3, p. 96-100.

[31] N. HOWDEN, R. RÖNNQUIST, A. HODGSON & A. LUCAS, « JACK intelligent agents – Summary of an agent infrastructure », in *5th International conference on autonomous agents*, 2001.

[32] W. JAGER, « Enhancing the Realism of Simulation (EROS): On Implementing and Developing Psychological Theory in Social Simulation », *Journal of Artificial Societies and Social Simulation* 20 (2017), n° 3, p. 14.

[33] H. JIANG, J. M. VIDAL & M. N. HUHS, « EBDI: an architecture for emotional agents », in *Proceedings of the 6th international joint conference on Autonomous agents and multiagent systems*, 2007.

[34] D. KELTNER & J. HAIDT, « Social functions of emotions », in *Emotions: Current issues and future directions* (pp. 192-213), Guilford Press, 2001.

[35] B. KNUTSON, « Facial expressions of emotion influence interpersonal trait inferences », *Journal of Nonverbal Behavior* 20 (1996), p. 165-182.

[36] M. J. KOLLINGBAUM, « Norm-governed practical reasoning agents », Thèse, University of Aberdeen, 2005.

[37] S. KOLLMANN, L. C. SIAFARA, S. SCHAAT & A. WENDT, « Towards a cognitive multi-agent system for building control », *Procedia Computer Science* 88 (2016), p. 191-197.

[38] K. KRAVARI & N. BASSILIADES, « A Survey of Agent Platforms », *Journal of Artificial Societies and Social Simulation* 18 (2015), n° 1, p. 11.

[39] M. LHOMMET, D. LOURDEAUX & J.-P. BARTHÈS, « Never alone in the crowd : A microscopic crowd model based on emotional contagion », in *Web Intelligence and Intelligent Agent Technology (WI-IAT), 2011 IEEE/WIC/ACM International Conference on*, vol. 2, IEEE, 2011, p. 89-92.

[40] E. G. MACATULAD & A. C. BLANCO, « 3DGIS-Based Multi-Agent Geosimulation and Visualization of Building Evacuation Using GAMA Platform », *The International Archives of Photogrammetry, Remote Sensing and Spatial Information Sciences* (2014), p. 87-91.

[41] R. R. McCRAE & O. P. JOHN, « An introduction to the five-factor model and its applications », *Journal of personality* 60 (1992), n° 2, p. 175-215.

[42] A. MICOLIER, F. TAILLANDIER, P. TAILLANDIER & F. BOS, « Li-BIM, an agent-based approach to simulate occupant-building interaction from the Building-Information Modelling », *Engineering Applications of Artificial Intelligence* 82 (2019), p. 44-59.

[43] E. NORLING, « Folk psychology for human modelling: Extending the BDI paradigm », in *Proceedings of the Third International Joint Conference on Autonomous Agents and Multiagent Systems-Volume 1*, 2004, p. 202-209.

[44] M. OCHS, N. SABOURET & V. CORRUBLE, « Simulation of the dynamics of nonplayer characters' emotions and social relations in games », *IEEE Transactions on Computational Intelligence and AI in Games* 1 (2009), n° 4, p. 281-297.

[45] A. ORTONY, *Memories, thoughts, and emotions : Essays in honor of George Mandler*, chapter *Value and emotion*, Hillsdale, NJ : Erlbaum, 1991.

[46] A. ORTONY, G. L. CLORE & A. COLLINS, *The cognitive structure of emotions*, Cambridge university press, 1990.
[47] L. PADGHAM, K. NAGEL, D. SINGH & Q. CHEN, « Integrating BDI agents into a MATSim simulation », in *Proceedings of the Twenty-first European Conference on Artificial Intelligence*, 2014.

[48] A. POKAHR, L. BRAUBACH & W. LAMERSDORF, « Jadex: A BDI reasoning engine », in *Multi-agent programming*, Springer, 2005.

[49] N. R. RAMLI, S. RAZALI & M. OSMAN, « An overview of simulation software for non-experts to perform multi-robot experiments », in *ISAMSR*, IEEE, 2015, p. 77-82.

[50] J. DE RIVERA & C. GRINKIS, « Emotions as social relationships », *Motivation and emotion* **10** (1986), p. 351-369.

[51] R. RÖNNQUIST, « The goal oriented teams (gorite) framework », in *International Workshop on Programming Multi-Agent Systems*, Springer, 2007.

[52] I. SAKELLARIOU, P. KEFALAS & I. STAMATOPOULOU, « Enhancing NetLogo to simulate BDI communicating agents », in *Hellenic Conference on Artificial Intelligence*, Springer, 2008.

[53] S. SCHAAT, W. JAGER & S. DICKERT, « Psychologically plausible models in agent-based simulations of sustainable behavior », in *Agent-Based Modeling of Sustainable Behaviors*, Springer, 2017, p. 1-25.

[54] M. N. SHIOTA, B. CAMPOS, D. KELTNER & M. J. HERTENSTEIN, « Positive emotion and the regulation of interpersonal relationships », in *The regulation of emotion*, 2004.

[55] D. SINGH & L. PADGHAM, « OpenSim: A framework for integrating agent-based models and simulation components », in *Frontiers in Artificial Intelligence and Applications*, ECAI, vol. 263, 2014.

[56] C. A. SMITH, R. S. LAZARUS et al., « Emotion and adaptation », *Handbook of personality : Theory and research* (1990), p. 609-637.

[57] E. R. SMITH, D. M. MACKIE & H. M. CLAYPOOL, *Social psychology*, Psychology Press, 2014.

[58] R. SUN, *Cognition and multi-agent interaction : From cognitive modeling to social simulation*, Cambridge Univ. Press, 2006.

[59] J. SVENNEVIG, *Getting acquainted in conversation: a study of initial interactions*, John Benjamins Publishing, 2000.

[60] P. TAILLANDIER, M. BOURGAIS, P. CAILLOU, C. ADAM & B. GAUDOU, « A BDI agent architecture for the GAMA modeling and simulation platform », in *MABS 2016*, 2016.

[61] P. TAILLANDIER, B. GAUDOU, A. GRIGNARD, Q.-N. HUYNH, N. MARILLEAU, P. CAILLOU, D. PHILIPPON & A. DROGOUL, « Building, composing and experimenting complex spatial models with the GAMA platform », *GeoInformatica* **23** (2019), n° 2, p. 299-322.

[62] Q. C. TRUONG, P. TAILLANDIER, B. GAUDOU, M. Q. VO, T. H. NGUYEN & A. DROGOUL, « Exploring agent architectures for farmer behavior in land-use change. A case study in coastal area of the Vietnamese Mekong Delta », in *International Workshop on Multi-Agent Systems and Agent-Based Simulation*, Springer, 2015, p. 146-158.

[63] M. VALETTE, B. GAUDOU, D. LONGIN & P. TAILLANDIER, « Modeling a real-case situation of egress using BDI agents with emotions and social skills », in *International Conference on Principles and Practice of Multi-Agent Systems*, Springer, 2018, p. 3-18.

[64] H. VAN DYKE PARUNAK, R. BISSON, S. BRUECKNER, R. MATTHEWS & J. SAUTER, « A model of emotions for situated agents », in *Proceedings of the fifth international joint conference on Autonomous agents and multiagent systems*, 2006.

[65] U. WILENSKY & I. EVANSTON, « NetLogo : Center for connected learning and computer-based modeling », *Northwestern Univ., Evanston, IL* (1999).
**ABSTRACT.** — Social simulation as a scientific tool requires the development of credible behaviour for agents modelling the behaviour of human actors. One way to improve the credibility of the resulting simulations is to integrate cognitive, affective and social dimensions into the agents’ decision making. However, developing agents with these dimensions can be complicated if one wants to remain accessible to researchers who are not experts in programming. The BEN (Behavior with Emotions and Norms) architecture couples affective and social dimensions to a BDI-based decision making for the development of social simulations. BEN is implemented in the multi-agent modelling and simulation platform GAMA and its use is illustrated here through a case study on the evacuation of a building.

**KEYWORDS.** — Social Simulations, cognition, emotion, personnality, norms.

Manuscrit reçu le 29 juin 2021, révisé le 31 janvier 2022, accepté le 14 mars 2022.