# Recherche des meilleures explications d'incidents sur une ligne de production

N Cointe, M Sylvain

► To cite this version:

N Cointe, M Sylvain. Recherche des meilleures explications d'incidents sur une ligne de production. Christelle Launois; Catherine Roussey. 9ème Conférence Nationale sur les Applications Pratiques de l'Intelligence Artificielle APIA@PFIA2023, Jul 2023, Strasbourg, France. AFIA-Association Française pour l'Intelligence Artificielle, Actes de la 9ème Conférence Nationale sur les Applications Pratiques de l'Intelligence Artificielle (APIA) PFIA 2023, pp.28-31, 2023. hal-04160828

HAL Id: hal-04160828

https://hal.science/hal-04160828

Submitted on 12 Jul 2023

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

<figure><img src="image_1.png" /></figure>

Distributed under a Creative Commons Attribution 4.0 International License
# Recherche des meilleures explications d'incidents sur une ligne de production

N. Cointe¹, M. Sylvain¹

¹Capgemini engineering, agence de Strasbourg
Bd Sébastien Brant Illkirch-Graffenstaden, France

nicolas.cointe@capgemini.com

mathieu.sylvain@capgemini.com

## Résumé

Disposer de jumeaux numériques des équipements industriels donne la possibilité de mieux comprendre l'état d'une chaîne de production en fonctionnement, et également de simuler des situations hypothétiques, telles qu'une nouvelle installation ou de nouveaux paramètres. Cependant, lorsque survient en production un incident dont la cause échappe à la modélisation choisie lors de la conception ou de la configuration du jumeau numérique, celui-ci peut se trouver dans l'incapacité de remplir correctement son rôle, voire même induire en erreur les utilisateurs. Cet article d'état de l'art et de prospection explore la possibilité, en cas de détection d'incident, de faire appel à un collectif d'agents autonomes pour générer et explorer un ensemble de scénarios alternatifs et présenter à un utilisateur les explications jugées comme étant les plus vraisemblables.

## Mots-clés

Argumentation, systèmes multiagents, cosimulation, industrie 4.0, explicabilité

## Abstract

Using digital twins of industrial equipments offers the possibility to get a better understanding of a working production line condition, as well as simulating hypothetical situations, such as a new installation or different parameters. However when an incident occurs on the runtime, if the cause of such event is not captured by the modeling design choices of this digital twin, it may conduct to a misinterpretation and even push the user to make wrong decisions. In this state of the art and prospective article, we explore the possibility to use a group of agent to react when such event is detected and then generate and explore a set of alternative scenarios. The most likely explanations, evaluated through an argumentation among agents, is then presented to the end user.

## Keywords

Argumentation, multiagent systems, cosimulation, 4.0 industry, explainability

## 1 Introduction

L'Industrie 4.0 résulte du déploiement de nouveaux concepts, paradigmes et technologies qui bouleversent la conception des chaînes de productions. Ces innovations ont changé la façon d'organiser le développement des procédés et la configuration des chaînes de productions en les rendant modulaires et reconfigurables entre et pendant les phases de production. Ces systèmes deviennent ouverts (par l'entrée ou la sortie d'équipements durant la production) et distribués via un réseau local et une multitude de capacités de calcul.

Des modèles de comportement de ces équipements, baptisées jumeaux numériques, sont pensés pour simuler et superviser le comportement d'un procédé. Mais implémenter des systèmes capables de se reconnaître, partager de l'information et réagir à des évènements imprévus au regard d'un modèle de production soulève des problèmes complexes. L'interprétation, et la proposition de réactions adéquates à ces incidents est d'autant plus difficiles que ces systèmes comprennent un grand nombre d'éléments fortement interconnectés. Nous souhaitons donc identifier dans cet article les méthodes existantes d'implémentation et d'usage d'un ensemble d'agents capables d'explorer les explications possibles d'un incident et évaluer les plus pertinentes. Nous introduirons en section 2 les concepts et outils déployés dans le cadre de la modernisation des outils industriels, du point de vue de leur mise à disposition d'agents autonomes. Puis en section 3 nous définirons le problème de l'explication d'incidents, suivi d'une réflexion prospective en section 4.

## 2 Spécificités de l'Industrie 4.0

La baisse des coûts de capacités de calculs conduit à la massification de leur présence dans le monde industriel et la prise de mesures numérique. Celles-ci peuvent être immédiatement utilisées par les systèmes de pilotage et de supervision, ou ultérieurement pour des analyses ou des travaux d'études visant à accroître les connaissances sur le procédé. Il est devenu également plus facile de déployer des systèmes de contrôle allant au-delà d'un simple maintient d'une valeur de consigne
par rétroaction et offrir un pilotage assisté ou automatisé employant des connaissances mises à disposition. La structuration d'un procédé industriel en étapes et sous-étapes est l'objet d'une standardisation [2] faisant correspondre à ces étapes des équipements et ensembles d'équipements permettant leur mise en oeuvre. La définition de protocoles de communication standards entre équipements leur permet de se reconnaître, s'intégrer et échanger des informations. Citons à ce titre les protocoles OPC UA, et MTP [15], permettant la découverte automatique des équipements présents, mais également la transmission d'information depuis et vers ces équipements. Il est alors possible de les ajouter ou les remplacer en cours de production, implémentant le concept de plug and produce en leur permettant de s'intégrer automatiquement à la chaîne de production. Assurer alors la communication entre tout les éléments physiques nécessite de créer et conserver une représentation des actions et perceptions de ces éléments à tout les niveaux et sur toute la longueur de la chaîne pour assurer la tracabilité des opérations sur le produit et comprendre la nature et l'origine d'éventuels incidents. La phase d'élaboration de ces procédés est l'occasion d'acquérir des données permettant de mettre au point des modèles des étapes du procédé. Ces modèles de réactions physico-chimiques au coeur des procédés, combinés à la modélisation des équipements de production, permettent de construire des Jumeaux Numériques (aussi nommés Digital Twins). Cette notion étant encore récente, nous proposons d'employer ici une définition concensuelle [7, 12] : un Jumeau Numérique est une modélisation de l'un ou plusieurs composements (mécanique, électrique, chimique, etc.) d'un élément du procédé.

Un Jumeau Numérique peut être implémenté à l'aide de diverses approches : mécanistiques (à l'aide d'équations mathématiques résolues par un solveur), d'apprentissage (avec des modèles entraînés sur des données), hybrides en mélangeant ces deux solutions ou bien composite lorsqu'ils sont eux-mêmes constitués de Jumeaux Numériques inter-connectés.

Les jumeaux numériques sont présents comme des outils employés sur toutes les étapes d'un procédé, que ce soit en phase de développement d'un procédé, pour simuler le comportement du système, en phase de production pour superviser le procédé durant son fonctionnement, ou bien après production pour analyser tout ou partie du procédé en rejouant des données enregistrées. Les standards tels que FMI [3] et SPP définissent les règles d'implémentation de modèles numériques, en fournissant des fonctions d'entrées/sorties et de synchronisation, et un format de description de ces modèles. Certains travaux proposent également l'usage de jumeau numérique pour modéliser le produit [8]. La complexité des installations industrielles s'étend également aux agents humains, rendant leur modélisation nécessaire, au même titre que les éléments artificiels de la chaîne de production. La modélisation

doit également prendre en compte les prérogatives des agents, avec une description des actions permises ou nécessaires pour ces agents et leur impact sur le procédé. Des travaux en ce sens explorent l'intégration des agents humains dans la ligne de production [11, 13]. Relevons les risques introduits par l'attribution aux agents humains de responsabilités dans la prise de décision fondée sur des connaissances fournies par le système, et par la charge cognitive que représente la compréhension du fonctionnement d'un système industriel complexe et (a minima partiellement) auto-organisé. Faire reposer la responsabilité de la gestion d'un problème sur un agent humain en cas de détection d'incident demande alors de prendre en compte une nécessaire sélection des informations pertinentes (telles que des mesures, prédictions, éléments du procédé, etc.) et la possibilité d'expliquer l'origine des information en remontant des chaînes causales. Des travaux présentent le concept d'humain magique [13] comme étant le fruit d'une confiance excessive en la compétence de l'opérateur pour comprendre les problèmes et les générer de manière appropriée. Les auteurs proposent alors de concevoir le rôle des opérateurs humains comme un composant du système, pour prendre conscience des informations à lui présenter dans le cadre de ses prises de décisions. Enfin des organisations extérieures peuvent être impliquées, pour effectuer par exemple des activités d'audit, de surveillance, de validation ou encore de contrôle et peuvent également être assistées (ou entièrement déléguées) par des agents autonomes.

## 3 Problème d'explication des incidents

Même lorsque toutes les précautions sont prises pour assurer la fiabilité maximale d'un procédé industriel, des évènements peuvent survenir et mettre en péril son bon fonctionnement. Ici nous nous intéressons plus particulièrement aux incidents qui se manifestent durant une production par un écart entre une mesure attendue en un point de la chaîne de fabrication, et celle observée. Citons en premier lieu les erreurs de capteurs, pouvant provoquer sur la mesure, ou l'une des mesures employées pour la supervision, des écarts alarmants. La littérature distingue classiquement les erreurs fortes (par exemple, destruction d'un capteur), faciles à repérer par un changement soudain, des erreurs faibles, fournissant une valeur plausible mais erronée. De telles erreurs peuvent avoir de multiples origines, incluant un dérèglement de l'étalonnage, une détérioration matérielle, une usure ou la présence d'impuretés par exemple. Le domaine de la maintenance industrielle évolue avec l'industrie 4.0, mais la proliferation intense des capteurs rend nécessaire l'anticipation des erreurs de mesures potentielles. Quelques travaux proposent alors l'emploi de jumeaux numériques pour détecter ces erreurs et le déploiement de modèles en remplacement lorsque cela est possible [6].
Notons ensuite les erreurs d'actionneurs, tels que des moteurs, des pompes ou des systèmes chauffants. Pour détecter ce genre de problèmes, les équipements industriels tendent à intégrer de plus en plus de capteurs sur les effecteurs eux-même afin de détecter une incogérence avec une valeur de consigne. Des travaux récents montrent que construire un jumeau numérique de l'actionneur permet de surveiller celui-ci et détecter un comportement erroné [14]. Citons encore des erreurs de modélisation pouvant conduire un jumeau numérique à donner une vision erronée de l'état d'un procédé. Cela peut provenir d'une erreur de choix de formule dans un modèle mécanistique, l'emploi de mauvaises données pour son calibrage ou de mauvais entraînement d'un modèle d'apprentissage. Un modèle peut enfin se voir confronté à un cas extrême, loin des valeurs "typiques" envisagées lors de sa conception. Enfin des événements physiques, non prévus dans le procédé de fabrication peuvent se produire. Si constater un écart entre les prédicitions du jumeau numérique et les mesures réelles est aisé, comprendre l'origine de tels incidents durant la fabrication est bien plus compliqué. Tout modèle se heurte alors à l'impossibilité de représenter, d'expliquer et d'interpréter ce qui échappe au mécanisme initialement modélisé.

# 4 Systèmes ouverts et distribués pour l'explication d'incidents

Notre approche cherche à répondre à des contraintes réglementaires tout en imposant la nécessité de pouvoir conduire des investigations. Elle vise à comprendre l'origine de ces incidents et la justification des décisions prises par les opérateurs. Pour répondre à ces problèmes d'explicabilité, de nombreux articles ont fait émerger le concept d'Intelligence Artificielle Explicable (souvent désignée sous l'acronyme de XAI pour "eXplainable AI"). Cette approche vise à concevoir des composants logiciels dont le comportement peut être compris par un être humain. Dans le cadre des systèmes multi-agents, cette idée est portée à l'échelle collective par le concept de Système Multiagent Explicable (XMAS) [1, 5].

Nous proposons d'instancier, pour chaque jumeau numérique, un agent cognitif BDI [10] qui posséderait dans sa base de croyances les informations relatives à la fois au procédé et à la ligne de production dans leur ensemble, et les connaissances relatives au jumeau numérique dont il a la charge ainsi qu'à l'équipement dont il est le jumeau. Tout agent $a$ possède un ensemble de croyances $S_a$ sur les perceptions du procédé via les capteurs de son équipement physique, un ensemble de croyances $S'_a$ sur les valeurs estimées en sortie de son jumeau numérique. Limiter les connaissances d'un agent à un seul couple jumeau numérique – équipement physique permet de lui donner volontairement une vision locale, pouvant être en contradiction avec d'autres agents en charge d'autres équipements.

Pour chaque perception $s_a \in S_a$, nous définissons un triplet $\langle m_{s_a}, i_{s_a}, v_{s_a} \rangle$ où $m_{s_a}$ est la mesure relevée, c'est-à-dire la valeur numérique perçue, $i$ est l'identifiant unique d'un mesurable physique dans le procédé et $v_{s_a} \in \{\perp, \top\}$ est la croyance en la validité du capteur à l'origine de cette mesure. De manière analogue, pour chaque chaque estimation en sortie $s'_a \in S'_a$, nous définissons un triplet $\langle m_{s'_a}, i, v_{s'_a} \rangle$ où $m_{s'_a}$ est la mesure prédite, $i$ est l'identifiant du mesurable physique dans le procédé et $v_{s'_a} \in \{\perp, \top\}$ est la croyance en la validité de cette estimation par son modèle dans l'état couvrant. Un incident se définit alors par une incohérence entre deux valeurs pour une même mesure physique $i$, chacune étant issue soit d'un capteur, soit d'une préférence par un jumeau numérique. Nous demandons ensuite aux agents d'employer un système d'argumentation pour positionner chaque jumeau numérique et son équipement physique vis-à-vis de ces valeurs.

Pour permettre à des agents d'interagir sur la base de références communes à des éléments du procédé (tel que des équipements, des mesures ou des matériaux), ils doivent disposer d'un ensemble structuré d'informations. Les bases de données ontologies offrent des connaissances structurées et la possibilité de symboliser sous forme de graphe les connexions sémantiques entre ces concepts. Leur usage par des agents autonomes artificiels a récemment été facilité par l'intégration de ces bases de données au sein d'écosystèmes logiciels tel que JaCaMo [4].

Un incident observé implique qu'à un instant donné il existe deux mesures $m$ et $m'$ pour un même mesurable $i$ tel que $|m - m'| > \Delta_{m,max,i}$, où $\Delta_{m,max,i}$ est une valeur de tolérance définie pour le mesurable $i$. Nous proposons de modéliser ce fait par une relation d'attaques réciproques entre les deux mesures en contradiction. S'il s'agit de deux mesures $m$ et $m'$ de capteurs d'un même mesurable $i$, par exemple en cas de redondance matérielle, l'un des deux capteurs est nécessairement fautif. En revanche dans le cas ou au moins un jumeau numérique est impliqué, l'erreur peut provenir de son modèle lui-même ou des sources de ses données, c'est-à-dire d'autres capteurs ou jumeaux numériques. La validité d'un modèle peut être défendue par des arguments, par exemple s'il continue de prédire avec justesse d'autre mesures, de même que des capteurs fournissant des mesures utilisées par d'autres modèles fournissant des prédicitions valides. À l'inverse l'implication de ces modèles et capteurs dans des chaînes mechant à la production d'autres écarts peut être employé comme motif d'attaque.

La littérature en matière d'argumentation dans les systèmes multi-agents [9] définit la **défense sans conflit** d'un ensemble d'arguments comme un ensemble dans lequel aucun argument n'en attaque un autre. Il est alors possible de retirer des jumeaux numériques et capteurs ainsi défendus de l'ensemble impliqué pour ne retenir ceux qui ne sont pas défendus. Faire d'une liste non vide de défenses sans conflits des explications
d'incident reviendrait à donner des ensembles de capteurs, d'actionneurs et de jumeaux numériques pour lesquels on ne peut pas exclure l'hypothèse d'une défaillance, et ainsi aider l'utilisateur à comprendre des origines possibles de l'incident observé.

Si plusieurs explications sont générées par le mécanismes cité ci-avant, se pose la question de savoir si elles sont toutes aussi vraisemblables ou s'il est possible d'ordonner ces explications par ordre de vraisemblance afin de gagner du temps dans l'intervention sur l'installation industrielle. Le rasoir d'Ockham, ou principe de parcimonie, est une célèbre heuristique établissant un lien entre simplicité d'une explication (au sens du nombre d'éléments impliqués) et vraisemblance.

L'approche ici décrite soulève de nombreuses questions de recherche pour nos travaux futurs : comment et où serait-il possible de trouver des heuristiques et informations pertinentes pour améliorer ce diagnostic ? Certaines caractéristiques des modèles et capteurs seraient-elles utiles pour alimenter un raisonnement ?

## 5 Conclusion

La complexité croissante et la multiplication d'éléments matériels et logiciels susceptibles de commettre des erreurs et les propager dans le système a complexifié la compréhension et le traitement des incidents de production. Trouver les informations pertinentes afin d'identifier durant la production, l'élément, capteur ou jumeau numérique à l'origine de l'incident est une tâche qui peut dépasser les capacités cognitives d'un opérateur et rendre impossible (ou hasardeuse) la gestion du problème. Nous avons donc cherché dans cet article à définir la nature de ces incidents et montrer que la législation et certains travaux de la littérature ont déjà pointé la nécessité de construire un système permettant de sélectionner les hypothèses et informations pertinentes pour un opérateur humain et d'expliquer l'origine de ces informations.

Enfin nous avons esquissé en section 4, plusieurs étapes pour permettre à des agents d'être informés de l'état des divers éléments du système, d'accéder à des connaissances communes, et de confronter des hypothèses sur l'origine d'un incident afin d'informer un opérateur humain. Afin de confronter ces hypothèses à des cas réels et construire une solution pouvant être employée dans un cadre industriel, nous envisageons de mettre à disposition les données, modèles et agents sous la forme de données ouvertes, afin de permettre la création et le partage de preuves de concepts.

## Références

[1] Francesco ALZETTA et al. « In-time explainability in multi-agent systems : Challenges, opportunities, and roadmap ». In : *EXTRAAMAS*. Springer. 2020, p. 39-53.

[2] International Society of AUTOMATION. *Batch Control P.1, Models and Terminology*. ISA, 2010.

[3] Torsten BLOCHWITZ et al. « The functional mockup interface for tool independent exchange of simulation models ». In : *Proceedings of the 8th international Modelica conference*. Linköping University Press. 2011, p. 105-114.

[4] Victor CHARPENAY et al. « Hypermedea : A Framework for Web (of Things) Agents ». In : *Companion Proceedings of the Web Conference 2022*. 2022, p. 176-179.

[5] Giovanni CIATTO et al. « Towards XMAS : eXplainability through Multi-Agent Systems ». In : *Proceedings of the 1st Workshop on Artificial Intelligence and IoT* (2019), p. 40-53.

[6] Hossein DARVISHI et al. « Sensor-fault detection, isolation and accommodation for digital twins via modular data-driven architecture ». In : *IEEE Sensors Journal* 21.4 (2020), p. 4827-4838.

[7] Igiri ONAJI et al. « Digital twin in manufacturing : conceptual framework and case studies ». In : *International journal of computer integrated manufacturing* 35.8 (2022), p. 831-858.

[8] Jérémy PATRIX, Beranger SIX et Sylvain LINTZ. « Accélération de la simulation d'Emulatio, un jumeau numérique de schéma électrique par fusion de données et intelligence augmentée ». In : *Conférence JFDPA-PFIA*. 2020.

[9] Iyad RAHWAN. « Argumentation among agents ». In : *Multiagent Systems*, (2013), p. 177-210.

[10] Anand S RAO, Michael P GEORGEFF et al. « BDI agents : from theory to practice. » In : *ICMAS*. T. 95. The MIT press, 1995, p. 312-319.

[11] Erwin RAUCH, Christian LINDER et Patrick DALLASEGA. « Anthropocentric perspective of production before and within Industry 4.0 ». In : *Computers & Industrial Engineering* 139 (2020).

[12] Guodong SHAO et al. « Use case scenarios for digital twin implementation based on ISO 23247 ». In : *NIST, USA* (2021).

[13] Damien TRENTESAUX et Patrick MILLOT. « A human-centred design to break the myth of the "magic human" in intelligent manufacturing systems ». In : *Service orientation in holonic and multi-agent manufacturing* (2016), p. 103-113.

[14] Jinjiang WANG et al. « Digital Twin for rotating machinery fault diagnosis in smart manufacturing ». In : *International Journal of Production Research* 57.12 (2019), p. 3920-3934.

[15] Sachari WASSILEW et al. « Transformation of the NAMUR MTP to OPC UA to allow plug and produce for modular process automation ». In : *2016 IEEE 21st International Conference on Emerging Technologies and Factory Automation (ETFA)*. IEEE. 2016, p. 1-9.