Les systèmes de dialogue orientés-but : état de l’art et perspectives d’amélioration (Goal-oriented dialog systems : a recent overview and research prospects ) (2019)

Abstract: La gestion et la sélection des informations pertinentes pour un tour de parole donné restent un problème pour les systèmes de dialogue à domaine ouvert. Pour ces derniers, les interactions possibles entre un utilisateur et un agent sont a priori infinies et indéfinies. La possibilité d’une réponse erronée de l’agent à l’utilisateur demeure donc élevée. Pour les systèmes orientés-but, le problème est considéré comme résolu, mais d’après notre expérience aucun système ne montre une robustesse remarquable lorsqu’il est évalué en situation réelle. Dans cet article, nous dressons un état de l’art des méthodes d’apprentissage de l’agent et des différents modèles d’agent conversationnel. Selon nous, l’une des pistes d’amélioration de l’agent réside dans sa mémoire, car cette dernière (souvent représentée par le triplet : tour de parole courant, historique du dialogue et base de connaissances) n’est pas encore modélisée avec assez de précision. En dotant l’agent d’un modèle de mémoire d’inspiration cognitive, nous pensons pouvoir augmenter les performances d’un système de dialogue orienté-but en situation réelle, par l’emploi d’algorithmes d’apprentissage automatique avec une approche antagoniste en support d’un nouveau modèle de mémoire pour l’agent.

## introduction la tâche de traitement automatique du langage qui nous intéresse est celle des agents conversationnels. dans ce domaine, plusieurs systèmes de conversation récemment industrialisés sont désormais célèbres : siri, cortana, alexa @xcite ibm watson @xcite . on peut distinguer deux types de systèmes de dialogue @xcite @xcite : les systèmes sociaux et les systèmes orientés-but. les systèmes sociaux servent d'interlocuteur, ils ne possèdent pas de but précis. ils sont évalués sur leur capacité à prolonger l'interaction autant que possible tout en préservant l'illusion de communiquer avec une personne réelle @xcite @xcite . les systèmes orientés-but, quant à eux, servent d'assistant et de ce fait ne sont jugés que sur leur capacité à aider correctement l'humain dans une tâche, par exemple la recherche d'information @xcite , l'aide à la réservation @xcite ou encore l'accès aux services commerciaux (p.e. e-shopping ou livraison à domicile) @xcite . la problématique qui se pose alors réside dans la nature des données. en effet, les systèmes orientésbut restent surtout utilisés dans un cadre industriel et donc commercial, ce qui implique en général l'utilisation des données propriétaires pour construire le système. de ce fait, ces données sont en général uniquement exploitables par leurs possesseurs. par conséquent, les systèmes de dialogue deviennent opaques et rigides : opaques car on n'a pas accès aux données, et rigides car généralement ces systèmes-là ne sont pas évalués sur des données extérieures à leur environnement de développement. une solution à ce problème de manque de souplesse et de limitation est apparue après la redécouverte des réseaux de neurones @xcite remis au goût du jour par @xcite . les améliorations des machines computationnelles @xcite ont rendu possible l'utilisation des réseaux de neuronnes profonds dans des temps de calcul raisonnables. en effet, avec les progrès technologiques dans les domaines de l'information et de communication, il existe une quantité immense de données accessibles, non structurées, en langue naturelle (réseaux sociaux, blogs, forums, médias...). la fouille de ces données permet d'en extraire automatiquement et à faible coût des connaissances, par exemple dans les réseaux sociaux pour détecter les fake news ou la propagande @xcite , ou bien encore dans les medias pour générer automatiquement des résumés d'articles @xcite . la disponibilité de cette masse de données combinée au potentiel d'apprentissage des réseaux de neurones rend maintenant possible d'accroître le pouvoir de généralisation d'un modèle de langue dans une mesure bien supérieure à ce qui était atteignable avec une approche symbolique classique. nous nous intéressons dans cet article aux systèmes de dialogue orientés-but pour le langage écrit, dont le modèle est décrit dans @xcite . l'illustration de la figure 1 présente une architecture-type pour ce genre de système, qui possède trois fonctions principales : la compréhension du langage (analyse, parsing), la gestion du dialogue (recherche d'information, prise de décision) et la génération de réponse (génération de langue naturelle). ces trois composantes sont dépendantes les unes des autres. tous les travaux de recherche menés jusqu'à aujourd'hui s'inspirent de ce modèle pour construire un système de dialogue. ceci nécessite la modélisation du dialogue et donc l'analyse de conversations dans une interaction homme-homme. selon clark et marshall, "les participants accumulent des informations à l'intérieur d'un espace de connaissances mutuelles. les connaissances mutuelles correspondent aux connaissances que chacun sait être communes." @xcite . ils expliquent que chaque interlocuteur d'un dialogue maîtrise non pas un triplet mais un quintuplet d'éléments pour mener à bien la conversation. aux trois éléments fondamentaux d'un dialogue (tour de parole, historique, connaissance), il faut ajouter l'environnement physique ou virtuel dans lequel figure 1 -schéma typique du système de dialogue se déroule le dialogue, c'est-à-dire l'ensemble des informations internes à chaque interlocuteur (son propre état interne, l'interprétation qu'il fait du possible état interne des autres @xcite ), mais également les informations qui lui sont externes (contexte spatio-temporel). il faut également ajouter l'expérience, que les auteurs considèrent différente de la base de connaissances, car l'expérience (le vécu) sert, d'après eux, de passerelle commune entre les tours de parole et la base de connaissances (la culture). lorsque l'on fait un parallèle entre l'environnement dialogique habituellement utilisé dans une interaction et la mémoire humaine, on se rend compte que dans le modèle des triplets d'informations, la mémoire humaine est mise en jeu sous deux formes différentes : le contexte de dialogue correspond à la mémoire à court terme @xcite , alors que la base de connaissances est associée à la mémoire à long terme @xcite . ce parallèle entre mémoire humaine et représentations dialogiques est explicité dans la section 3. avant cela, dans la section 2 nous faisons un état de l'art des techniques d'apprentissage pour un agent conversationnel orienté-but. puis, nous donnons un aperçu des modèles de conversation les plus performants. nous dressons ensuite un récapitulatif des différentes méthodes d'évaluation existantes pour ce type de système de dialogue. l'évaluation des systèmes @xcite @xcite reste un problème épineux du domaine. enfin, nous décrivons les implémentations industrielles et commerciales de cette technologie. dans la section 4, nous présentons le modèle d'apprentissage antagoniste, qui sert à la fois de méthode d'apprentissage et d'évaluation. nous expliquons pourquoi nous pensons que l'utilisation de cette technique appliquée au modèle de mémoire explicité en section 3, est une piste méritant d'être suivie. enfin, dans la conclusion en section 5, nous proposons plusieurs perspectives de recherche et de développement liés à l'amélioration des systèmes de dialogue orientés-but en situation réelle. ## conclusion et perspectives malgré leur maturité technologique et les récents progrès en performance liés en partie à la popularisation de nouveaux modèle neuronnaux d'apprentissage, les systèmes de dialogues ont encore devant eux une grande marge de progression illustrée par les limites affichées par les systèmes commercialisés aujourd'hui. il serait intéressant de se concentrer sur la dimension mémorielle dans les systèmes de dialogue orientés-but, de modéliser le fonctionnement de la mémoire cognitive et de l'implémenter dans le moteur d'un système de dialogue afin d'améliorer sa capacité à converser avec un utilisateur humain. nous pensons aussi que l'utilisation de l'apprentissage antagoniste permettrait à un agent conversationnel de mieux s'adapter à l'imprévu lors d'une conversation et d'augmenter les probabilités de donner une réponse satisfaisante à l'utilisateur. en effet, en s'inspirant du modèle cognitif de conversation où les participants possèdent chacun un modèle de l'autre et de soi pendant le dialogue, nous pensons que l'implémentation de ce modèle dans un agent conversationnel optimiserait sa capacité à répondre correctement. nous voyons la combinaison de l'antagonisme pour entraîner un agent conversationnel doté d'un modèle mémoriel complexe de dialogue dans un système orienté-but, comme une piste prometteuse pour améliorer les systèmes existants à ce jour en leur permettant de mieux faire face aux imprévus.