L’importance des entités pour la tâche de détection d’événements en tant que système de question-réponse (Exploring Entities in Event Detection as Question Answering) (2022)

Abstract: Dans cet article, nous abordons un paradigme récent et peu étudié pour la tâche de détection d’événements en la présentant comme un problème de question-réponse avec possibilité de réponses multiples et le support d’entités. La tâche d’extraction des déclencheurs d’événements est ainsi transformée en une tâche d’identification des intervalles de réponse à partir d’un contexte, tout en se concentrant également sur les entités environnantes. L’architecture est basée sur un modèle de langage pré-entraîné et finement ajusté, où le contexte d’entrée est augmenté d’entités marquées à différents niveaux, de leurs positions, de leurs types et, enfin, de leurs rôles d’arguments. Nos expériences sur le corpus ACE 2005 démontrent que le modèle proposé exploite correctement les informations sur les entités dans le cadre de la détection des événements et qu’il constitue une solution viable pour cette tâche. De plus, nous démontrons que notre méthode, avec différents marqueurs d’entités, est particulièrement capable d’extraire des types d’événements non vus dans des contextes d’apprentissage en peu de coups.

## introduction dans cet article, nous abordons la tâche de détection d'événements en étudiant l'utilisation des entités dans un paradigme récent et peu étudié de la tâche de détection d'événements, qui la présente comme un problème de question-réponse. contrairement à ces méthodes souvent basées sur l'usage de transformer, où la détection d'événements et d'arguments était considérée comme une tâche de classification, un nouveau paradigme a été introduit @xcite formulant la tâche comme une tâche de question-réponse (qa) et de compréhension automatique de lecture (mrc), où les événements peuvent être extraits en répondant aux questions 5w1h en anglais (qui a fait quoi, quand, où, pourquoi et comment 1 ). la détection d'événements en tant que système de question-réponse dans le travail récemment proposé par @xcite , les auteurs ont introduit un nouveau paradigme pour l'extraction d'événements en le formulant comme une tâche de question-réponse, qui extrait les déclencheurs et les arguments des événements de bout en bout. pour la détection de l'événement, ils ont considéré une approche basée sur bert qui est habituellement appliquée aux données séquentielles. la tâche de détection d'événements est basée sur la classification où les auteurs ont conçu des modèles fixes simples, tels que qui est le déclencheur, trigger, action, verb, sans spécifier le type d'événement. par exemple, si le modèle verb est choisi, la séquence d'entrée correspondrait à : [cls] verb [sep] phrase @xcite . ensuite, ils utilisent un bert séquentiel à réglage fin pour détecter les candidats au déclenchement d'événements. parallèlement, un autre article récent @xcite aborde aussi la tâche d'extraction d'événements comme une tâche de réponse à des questions (qa), de manière similaire à la méthode proposée par @xcite . en revanche, la tâche est basée sur la classification au lieu de la méthode de qa basée sur les intervalles. pour l'extraction de déclencheurs, il faut représenter le mot clé [event] avec la phrase respective afin de calculer une représentation conjointe, comme dans l'approche proposée par @xcite où le mot clé était verb ou trigger. ## modèle notre modèle étend le modèle pré-entraîné de bert @xcite qui prend comme entrée une séquence de sous-tokens, obtenue par la tokenisation wordpiece @xcite et produit une séquence de plongements contextuels de ces sous-tokens. nous incorporons à la fois la question et le texte de référence dans l'entrée, comme illustré dans la figure 1. les plongements d'entrée sont la somme des plongements de tokens et des plongements de segments. l'entrée est traitée de la manière suivante : intégration de mots clés (un mot clé [cls] est ajouté aux mots d'entrée au début de la question et un mot clé [sep] est inséré à la fin de la question et du texte de référence) et intégration de segments (un marqueur indiquant la question ou le texte de référence est ajouté à chaque mot clé). ensuite, pour chaque type d'événement [type d'événement] (demonstration, die, attack, etc.), nous formulons la question en les générant automatiquement à l'aide du modèle suivant : what is [type d'événement] ?. la phrase "police have arrested four people in connection with the killings." contenant un événement arrest-jail est illustré dans la figure 1. nous considérons également les questions qui n'ont pas de réponse dans le cas où un événement d'un type spécifique n'est pas présent dans la phrase. lorsqu'il y a plus d'un événement du même type dans une phrase, nous considérons que la question a plusieurs réponses. parmi les n meilleures réponses prédites, nous considérons toutes celles qui ont obtenu une probabilité supérieure à un seuil choisi (établi sur l'ensemble de développement). lorsque les chunks prédits sont autonomes, nous ne considérons que le premier déclencheur d'événement prédit. par exemple, si les morceaux nominaux arrested et have arrested sont prédits, mais seulement arrested est considéré. ensuite, pour ajouter des informations sur les entités, nous augmentons les données d'entrée avec une série de tokens spéciaux. ainsi, si nous considérons une phrase @xmath0, x 1 , . . . , x n ] avec n tokens, nous augmentons x avec deux morceaux de mots réservés pour marquer le début et la fin de chaque entité d'événement ou mention d'argument dans la phrase. en outre, un système de détection d'événements devrait détecter, dans la phrase présentée, le mot déclencheur killings pour un événement de type die (cet événement a deux arguments police et quatre personnes) et arrested pour un événement de type arrest-jail (cet événement n'a pas d'arguments). pour les marqueurs de rôle d'argument, si une entité a différents rôles dans différents événements présents dans la même phrase, nous marquons l'entité avec tous les rôles d'argument qu'elle possède. ## conclusions et perspectives nous concluons que les caractéristiques informatives supplémentaires apportées par la présence des entités et des rôles d'arguments dans le même contexte que les événements ont considérablement augmenté les performances du modèle, permettant d'atteindre des résultats à l'état de l'art. de plus, ce type de modèle qui utilise les informations sur les entités a permis de tirer parti de l'ambiguïté des déclencheurs d'événements et ainsi démontré son potentiel dans la détection de types d'événements non vus.