Représentation dynamique et spécifique du contexte textuel pour l’extraction d’événements (Dynamic and specific textual context representation for event extraction) (2020)

Abstract: Dans cet article, focalisé sur l’extraction supervisée de mentions d’événements dans les textes, nous proposons d’étendre un modèle opérant au niveau phrastique et reposant sur une architecture neuronale de convolution de graphe exploitant les dépendances syntaxiques. Nous y intégrons pour ce faire un contexte plus large au travers de la représentation de phrases distantes sélectionnées sur la base de relations de coréférence entre entités. En outre, nous montrons l’intérêt d’une telle intégration au travers d’évaluations menées sur le corpus de référence TAC Event 2015.

## introduction le travail présenté dans cet article se focalise sur l'extraction d'événements supervisée à partir de textes @xcite @xcite . cette tâche, incarnée en particulier par les évaluations ace 2005 @xcite et tac event @xcite , consiste à identifier dans des textes les mots ou séquences de mots, appelés mentions d'événements, marquant la présence d'un type d'événement défini a priori. par exemple, le mot « pow-wow » de la phrase suivante : putin had invited tony blair to the pow-wow in saint petersburg's grand hotel europe. les premiers sont représentés historiquement par @xcite et plus récemment par @xcite , avec une approche par amorçage consolidant au niveau du document les prédictions réalisées à un niveau local afin d'améliorer ces dernières. sont ainsi prises en compte les dépendances entre types d'événements au niveau du document. @xcite représente de ce point de vue une vision plus centrée sur les relations entre les types d'entités et les types d'événements, ces relations étant là aussi envisagées à l'échelle du document. une autre perspective est d'intégrer à un niveau local une représentation globale du document. @xcite le font ainsi en s'appuyant sur une méthode de représentation générique, en l'occurrence @xcite . @xcite définissent pour leur part un modèle hiérarchique neuronal de représentation des documents en relation avec la tâche d'extraction d'événements. le travail @xcite peut être vu comme une forme d'association entre les deux catégories distinguées ci-dessus : il repose pour une bonne part sur l'exploitation au niveau phrastique des informations présentes à l'échelle du document, exploitation réalisée dans ce cas de façon plus sélective grâce à des mécanismes d'attention, qu'intégratrice, mais l'extraction des événements au niveau phrastique s'effectue de façon collective. @xcite , @xcite ainsi que @xcite implémentent des approches collectives opérant quant à elles au niveau du document. la première articule l'utilisation de modèles de type conditional random field @xcite à un niveau local et de contraintes déclaratives à l'échelle du document par le biais d'une procédure de décomposition duale @xcite . la deuxième repose sur le paradigme probabilistic soft logic @xcite pour exprimer des contraintes globales sous la forme de formules logiques. enfin, la dernière s'appuie sur un modèle graphique sous forme de graphe de facteurs (factor graph). nous proposons dans cet article une nouvelle méthode de prise en compte du contexte textuel pour l'extraction d'événements en étendant un modèle opérant au niveau phrastique fondé sur la convolution de graphe. cette nouvelle méthode prend en compte de façon sélective le contexte textuel d'une mention d'événement candidate en intégrant la représentation de phrases distantes sur la base des relations de coréférence entretenues avec les entités entourant cette mention. nous évaluons cette nouvelle méthode sur le corpus de référence tac event 2015 et montrons son intérêt en termes de résultats par rapport aux résultats de référence sur ce corpus. ## description de l'approche comme nous l'avons vu en introduction, l'extraction d'événements consiste à identifier dans un texte les mentions d'événements et leur associer un type selon une taxonomie préalablement établie. dans cet article, nous nous appuyons sur les 38 types d'événements de la taxonomie deft rich ere @xcite utilisée dans le cadre des campagnes tac event @xcite . ces 38 types sont organisés en 9 grands types pour lesquels nous donnons un exemple entre parenthèses : business (merge.org), conflict (attack), contact (meet), justice (sentence), life (divorce), manufacture (artifact), movement (transport.person), personnel (nominate) et transaction (transfert.money). dans les annotations liées à cette taxonomie, les mentions d'événements sont en grande majorité des mots simples. comme nous pouvons le constater dans le tableau 1, la proportion de mentions d'événements multi-mots pour les corpus d'évaluation que nous avons adoptés se situe aux alentours de 3 %, ce qui est faible. dans le prolongement de la plupart des modèles neuronaux développés pour l'extraction d'événements, nous choisissons donc d'aborder le problème non pas comme une tâche d'annotation de séquences mais comme une tâche de classification multi-classe de mots, chacun des 38 types d'événements constituant l'une de ces classes, auxquelles s'ajoute une classe nulle (absence d'événement, classe très majoritaire). ce choix est d'un impact négatif négligeable mais simplifie la modélisation et permet l'introduction d'un vecteur de positions contribuant grandement aux performances @xcite . enfin, toujours dans la continuité de la plupart des approches neuronales récentes, nous nous plaçons à l'échelle intra-phrastique. notre modèle est composé de deux sous-modèles : le premier est un modèle hybride opérant au niveau phrastique tandis que le second, un modèle récurrent, est appliqué au niveau inter-phrastique pour produire une représentation intégrée au premier modèle.