Brevet FR3129764A1 — publié le 20230602

La présente invention concerne un dispositif explicatif (1) du fonctionnement d’un équipement (2), comprenant : une ou plusieurs unités d’interprétation (12) configurées pour détecter des évènements à partir de données d’entrée issues d’un ou plusieurs capteurs (6) associés à l’équipement (2), une unité de qualification (14) des événements configurée pour générer un ou plusieurs qualificatifs en appliquant une ou plusieurs fonctions prédicats aux événements détectés par la ou les unités d’interprétation (12), chaque qualificatif correspondant à une proposition, vraie ou fausse, d’un état relatif à l’équipement (2), ladite proposition étant représentée par une chaîne de caractères exprimant un ou plusieurs mots, une unité d’analyse (20) configurée pour mettre à jour la ou les fonctions prédicats en fonction des événements. Figure pour l’abrégé : Fig. 4 Dispositif explicatif du fonctionnement d’un équipement DOMAINE TECHNIQUE GENERAL La présente invention concerne le domaine de l’Intelligence Artificielle appliquée aux systèmes cyber-physiques composés de différents équipements communiquant entre eux, comme les maisons, les voitures ou encore les machines connectées, ou « intelligentes ». Plus précisément, la présente invention vise à rendre ces systèmes capables d’expliquer à l’usager les décisions prises par ces systèmes. ETAT DE L’ART Ces dernières années, on a vu apparaître de plus en plus d’appareils connectés au réseau Internet ou à des réseaux locaux constituant des appareils intelligents ayant de nombreuses capacités. Ces appareils intelligents comprennent les ampoules intelligentes, les portes intelligentes, les machines à laver intelligentes, etc… Les nouvelles technologies de communication, comme la 5G, permettent l’intégration de ces appareils intelligents dans des systèmes cyber-physiques (CPS) ou des systèmes de systèmes (SoS) plus évolués et complexes. Ces systèmes cyber-physiques intelligents offrent des fonctions plus sophistiquées aux usagers. Parmi ces systèmes cyber-physiques intelligents, on retrouve les maisons intelligentes qui sont par exemple capables de déterminer de façon autonome si une fenêtre doit être fermée, si une lumière doit être éteinte, etc… Parmi ces systèmes cyber-physiques intelligents, on retrouve également les voitures intelligentes qui sont par exemple capables de se déplacer et d’atteindre une destination voulue sans l’intervention d’un conducteur et l’on retrouve aussi les machines industrielles. Ces exemples de systèmes sont bien évidemment non limitatifs. Les avantages induits par ces systèmes sont multiples comme une meilleure gestion de l’énergie, une sécurité plus importante ou encore un plus grand confort pour l’utilisateur. L’intelligence de ces systèmes est implémentée grâce à des procédés d’intelligence artificielle. Les programmes d’intelligence artificielle interprètent des données issues de différents capteurs pour mettre en œuvre des actions. Par exemple, dans une maison intelligente, des données sont générées par un capteur de volets fermés d’une fenêtre et un autre capteur de luminosité. Il peut être détecté qu’il fait sombre dans la maison et l’intelligence artificielle met en œuvre une action d’ouverture des volets de la fenêtre qui étaient fermés. Malheureusement, la multiplication des capteurs, des communications entre objets et des interactions rend possible l’apparition de comportements imprévus, qui peuvent même sembler dérangeant à l’utilisateur. Les programmes d’intelligences artificielles sont en général complexes et il est difficile voire impossible de pouvoir décortiquer et ainsi comprendre le raisonnement mis en œuvre pour la prise d’une certaine décision. Dans le cas d’une maison intelligente, cela peut être des volets qui se ferment intempestivement pour des raisons non comprises par l’occupant de la maison. Ces problèmes d’absence de compréhension des décisions prises par les intelligences artificielles ont entrainé la naissance du domaine de l’intelligence artificielle explicative (XAI pour eXplainable Artificial Intelligence en anglais). L’intelligence artificielle explicative est un champ de recherche visant à rendre plus explicite, voire entièrement transparent, le raisonnement des machines. Le besoin d’explication est d’autant plus renforcé par de récents scandales sur des décisions biaisées d’algorithmes ou par l’apparition de réglementations relatives à l’utilisation des données et à un « droit à l’explication » des utilisateurs (Règlement Général pour la Protection des Données européen). Les efforts actuels sont donc logiquement concentrés sur les algorithmiques issus d’apprentissage machine, dont les réseaux de neurones profonds sont les exemples les plus extrêmes. L’intelligence artificielle explicative consiste ici en la mise en avant d’une poignée de facteurs identifiés comme les plus importants dans la prise d’une décision par un modèle qui en comprend des dizaines de millions. Un des exemples typiques serait l’identifications des critères ayant motivés le refus d’un prêt immobilier par un algorithme. Les solutions d’intelligence artificielle explicative actuelles sont cependant loin de proposer des explications, au sens humain du terme : elles se contentent d’analyses statistiques pour déterminer des scores d’importance pour chaque variable. De plus, ces solutions ne sont pas adaptées à une application directe à un système cyber-physique et ses spécificités : changement du système au cours du temps, interaction avec un environnement physique, importance du contexte local. Tous ces éléments rendent impossible l’application directe des méthodes existantes d’intelligence artificielle explicative dans ces conditions. Une solution issue des précédents travaux des inventeurs, ayant déjà fait l’objet de publications (Houzé É., Dessalles JL., Diaconescu A., Menga D., Schumann M., Springer 2022 , Google « first online 2021 », " A Decentralized Explanatory System for Intelligent Cyber-Physical Systems. " In: Arai K. (eds) Intelligent Systems and Applications. IntelliSys 2021. Lecture Notes in Networks and Systems, vol 294. https://doi.org/10.1007/978-3-030-82193-7_48 et É. Houzé, A. Diaconescu, J. -L. Dessalles, D. Mengay and M. Schumann, " A Decentralized Approach to Explanatory Artificial Intelligence for Autonomic Systems " 2020 IEEE International Conference on Autonomic Computing and Self-Organizing Systems Companion (ACSOS-C), 2020, pp. 115-120, doi: 10.1109/ACSOS-C51401.2020.00041) propose d’utiliser une approche inspirée du raisonnement humain afin de générer une explication : une explication est vue comme une réponse à un conflit, un état des choses inattendu ou non souhaité. La base du raisonnement est la propagation du conflit initial, soit à ses causes, soit à ses conséquences envisagées. Ces procédés de propagation des conflits sont nommés respectivement abduction et simulation. Après avoir propagé le conflit initial, le système explicatif réitère l’opération, parvenant après des propagations successives à construire une explication complète. Un exemple de raisonnement est le suivant : en pleine journée, il fait sombre dans une pièce. On se demande pourquoi. Le conflit initial concerne donc la luminosité trop basse de la pièce. Par abduction, on trouve qu’il fait sombre car le volet est fermé. Le conflit est donc propagé à cette cause. On se demande alors pourquoi le volet est fermé. Par simulation, on imagine que si le volet était ouvert, le soleil rendrait la pièce bien trop chaude pour être confortable. On a donc généré l’explication suivante : il fait sombre car le volet est fermé. Le volet est fermé pour éviter qu’il fasse trop chaud dans la pièce. Afin de mettre en œuvre cette méthodologie, les inventeurs ont également proposé les principes d’une architecture explicative « décentralisée », basée sur des composants explicatifs locaux, dénommés « EEC » dans ces travaux (Explanatory Engine Component), chargés d’analyser les données des capteurs, de détecter des conflits et de faire le raisonnement d’abduction pour trouver des causes. Le principe consiste en ce qu’il y ait un composant « EEC » pour chaque équipement de la maison intelligente. Tous ces composants sont coordonnés par un contrôleur central. Lors d’une procédure explicative, ce dernier identifie le « EEC » que le problème concerne, puis lui demande de l’expliquer. Additionnellement, le contrôleur central fait le lien avec un simulateur qui permet de jouer des scénarios alternatifs afin de propager les conflits aux conséquences. De plus, afin de faire le pont entre les données des capteurs et le langage humain, le raisonnement se fait sur des qualificatifs issus de prédicats, des propositions vraies ou fausses qualifiant l’état actuel. L’un des problèmes de l’état de l’art est que la nature des qualificatifs est éludée alors qu’elle est centrale au bon fonctionnement du système : dans les versions divulguées, les qualificatifs sont statiques, et donc non adaptés à un usage réaliste, où le sens des mots ou encore le composant qui les emploie peut changer selon le contexte. En outre, l’état de l’art demeure théorique. Enfin, les conceptions génériques de solutions explicatives présentes dans l’état de l’art sont confrontées au problème de confidentialité des données utilisées. Les publications actuelles ne décrivent pas précisément comment l’architecture, et notamment les « EEC », peuvent être implémentés afin de répondre à ce problème. PRESENTATION DE L’INVENTION L'invention vise à proposer une solution concrète et réaliste pour expliquer de façon plus cohérente le fonctionnement d’un équipement. À cet effet, selon un premier aspect, l'invention propose un dispositif explicatif du fonctionnement d’un équipement, comprenant : - une ou plusieurs unités d’interprétation configurées pour détecter des évènements à partir de données d’entrée issues d’un ou plusieurs capteurs associés à l’équipement, - une unité de qualification des événements configurée pour générer un ou plusieurs qualificatifs en appliquant une ou plusieurs fonctions prédicats aux événements détectés par la ou les unités d’interprétation, chaque qualificatif correspondant à une proposition, vraie ou fausse, d’un état relatif à l’équipement, ladite proposition étant représentée par une chaîne de caractères exprimant un ou plusieurs mots, - une unité d’analyse configurée pour mettre à jour la ou les fonctions prédicats en fonction des événements.   L'invention est avantageusement complétée par les différentes caractéristiques suivantes prises seules ou selon leurs différentes combinaisons possibles : Le dispositif explicatif comprend une ou plusieurs unités d’abduction configurées pour, en réponse à une requête de détermination d’une cause explicative d’un premier qualificatif, identifier un deuxième qualificatif représentatif de la cause explicative du premier qualificatif. Le dispositif explicatif comprend une première mémoire configurée pour stocker les évènements déterminés par la ou les unités d’interprétation et une deuxième mémoire configurée pour stocker les fonctions prédicats appliquées par l’unité de qualification des événements. La ou les unités d’abduction sont configurées pour identifier des événements explicatifs du premier qualificatif à partir des événements stockés dans la première mémoire. La ou les unités d’interprétation sont en outre configurées pour détecter des évènements à partir de données d’entrée issues de simulateurs de capteurs. Les données d’entrées issues de simulateurs de capteurs sont associées à un ou plusieurs indicateurs de simulation. La ou les unités d’interprétation sont en outre configurées pour détecter des évènements à partir de données d’entrée issues du dispositif explicatif lui-même. Le dispositif explicatif comprend une interface de communication configurée pour communiquer, via un réseau, des qualificatifs à un contrôleur central apte à être interrogé par un utilisateur. L’interface de communication est configurée pour communiquer, via le réseau, des représentations textuelles de qualificatifs au contrôleur central. Le dispositif explicatif comprend une base de données locale stockant des données d’entrées. Des niveaux de confidentialité sont associés aux qualificatifs. L'invention concerne également, selon un deuxième aspect, un système comprenant un ou plusieurs dispositifs explicatifs du fonctionnement d’un équipement selon le premier aspect et un contrôleur central apte à être interrogé par un utilisateur. L'invention concerne également, selon un troisième aspect, un procédé de mise à jour d’un dispositif explicatif du fonctionnement d’un équipement par ledit dispositif explicatif selon le premier aspect comprenant les étapes de : - détection d’événements par une ou plusieurs unités d’interprétation du dispositif explicatif à partir de données d’entrées issues d’un ou plusieurs capteurs associés à l’équipement, - mise à jour, par une unité d’analyse à partir des événements détectés, de fonctions prédicats, lesdites fonctions prédicats résultant sur des qualificatifs lorsqu’elles sont appliquées sur des événements par une unité de qualification d’événements. L'invention concerne également, selon un quatrième aspect, un produit programme d’ordinateur comprenant des instructions qui, lorsque le programme est exécuté par un ordinateur, conduisent celui-ci à mettre en œuvre le procédé selon le troisième aspect. L'invention concerne également, selon un cinquième aspect, un support lisible par ordinateur comprenant des instructions qui, lorsqu'elles sont exécutées par un ordinateur, conduisent celui-ci à mettre en œuvre le procédé selon le troisième aspect. PRESENTATION DES FIGURES D’autres caractéristiques et avantages de la présente invention apparaîtront à la lecture de la description qui va suivre d’un mode de réalisation préférentiel. Cette description sera donnée en référence aux figures annexées dont : - La représente un système explicatif dans un système cyber-physique intelligent selon un mode de réalisation possible de l'invention ; - La représente une architecture d’un dispositif explicatif selon un mode de réalisation possible de l'invention ; - La représente une architecture d’un système explicatif comprenant un ou plusieurs dispositifs explicatifs selon un mode de réalisation possible de l'invention ; - La présente le cheminement de données d’un équipement à un dispositif explicatif jusqu’à l’extérieur du dispositif explicatif selon un mode de réalisation possible de l'invention ; - La présente les étapes d’un procédé de mise à jour du dispositif explicatif, la mise à jour étant effectuée par le dispositif explicatif lui-même. Dispositif explicatif (1) du fonctionnement d’un équipement (2), comprenant : une ou plusieurs unités d’interprétation (12) configurées pour détecter des évènements à partir de données d’entrée issues d’un ou plusieurs capteurs (6) associés à l’équipement (2), une unité de qualification (14) des événements configurée pour générer un ou plusieurs qualificatifs en appliquant une ou plusieurs fonctions prédicats aux événements détectés par la ou les unités d’interprétation (12), chaque qualificatif correspondant à une proposition, vraie ou fausse, d’un état relatif à l’équipement (2), ladite proposition étant représentée par une chaîne de caractères exprimant un ou plusieurs mots, une unité d’analyse (20) configurée pour mettre à jour la ou les fonctions prédicats en fonction des événements. Dispositif explicatif (1) selon la revendication 1, comprenant une ou plusieurs unités d’abduction (24) configurées pour, en réponse à une requête de détermination d’une cause explicative d’un premier qualificatif, identifier un deuxième qualificatif représentatif de la cause explicative du premier qualificatif. Dispositif explicatif (1) selon l’une des revendications 1 et 2, comprenant une première mémoire (16) configurée pour stocker les évènements déterminés par la ou les unités d’interprétation (12) et une deuxième mémoire (18) configurée pour stocker les fonctions prédicats appliquées par l’unité de qualification (14) des événements. Dispositif explicatif (1) selon les revendications 2 et 3, dans lequel la ou les unités d’abduction (24) sont configurées pour identifier des événements explicatifs du premier qualificatif à partir des événements stockés dans la première mémoire (16). Dispositif explicatif (1) selon l’une des revendications 1 à 4, dans lequel la ou les unités d’interprétation (12) sont en outre configurées pour détecter des évènements à partir de données d’entrée issues de simulateurs (32) de capteurs (6). Dispositif explicatif (1) selon la revendication 5, dans lequel les données d’entrées issues de simulateurs (32) de capteurs (6) sont associées à un ou plusieurs indicateurs de simulation. Dispositif explicatif (1) selon l’une des revendications 1 à 6, dans lequel la ou les unités d’interprétation (12) sont en outre configurées pour détecter des évènements à partir de données d’entrée issues du dispositif explicatif (1) lui-même. Dispositif explicatif (1) selon l’une des revendications 1 à 7, comprenant une interface de communication (22) configurée pour communiquer, via un réseau (4), des qualificatifs à un contrôleur central (3) apte à être interrogé par un utilisateur. Dispositif explicatif (1) selon la revendication 8, dans lequel l’interface de communication (22) est configurée pour communiquer, via le réseau (4), des représentations textuelles de qualificatifs au contrôleur central (3). Dispositif explicatif (1) selon l’une des revendications 1 à 9, comprenant une base de données locale stockant des données d’entrées. Dispositif explicatif (1) selon l’une des revendications 1 à 10, dans lequel des niveaux de confidentialité sont associés aux qualificatifs. Système comprenant un ou plusieurs dispositifs explicatifs (1) du fonctionnement d’un équipement (2) selon l’une des revendications 1 à 11 et un contrôleur central (3) apte à être interrogé par un utilisateur. Procédé de mise à jour d’un dispositif explicatif (1) du fonctionnement d’un équipement (2) par ledit dispositif explicatif (1) selon l’une des revendications 1 à 11 comprenant les étapes de : détection d’événements par une ou plusieurs unités d’interprétation (12) du dispositif explicatif (1) à partir de données d’entrées issues d’un ou plusieurs capteurs associés à l’équipement (2), mise à jour, par une unité d’analyse (20) à partir des événements détectés, de fonctions prédicats, lesdites fonctions prédicats résultant sur des qualificatifs lorsqu’elles sont appliquées sur des événements par une unité de qualification (14) d’événements. Produit programme d’ordinateur comprenant des instructions qui, lorsque le programme est exécuté par un ordinateur, conduisent celui-ci à mettre en œuvre le procédé selon la revendication 13. Support lisible par ordinateur comprenant des instructions qui, lorsqu'elles sont exécutées par un ordinateur, conduisent celui-ci à mettre en œuvre le procédé selon la revendication 13.