Extraction des arguments d’événements à partir de peu d’exemples par méta-apprentissage (2024)

Abstract: Les méthodes d’apprentissage avec peu d’exemples pour l’extraction d’événements sont développées pour réduire le coût d’annotation des données. Cependant, la plupart des études sur cette tâche se concentrent uniquement sur la détection des déclencheurs d’événements et aucune étude n’a été proposée sur l’extraction d’arguments dans un contexte de méta-apprentissage. Dans cet article, nous étudions l’extraction d’arguments d’événements avec peu d’exemples en exploitant des réseaux prototypiques et en considérant la tâche comme un problème de classification de relations. De plus, nous proposons d’améliorer les représentations des relations en injectant des connaissances syntaxiques dans le modèle par le biais de réseaux de convolution sur les graphes. Nos évaluations montrent que cette approche obtient de bonnes performances sur ACE 2005 dans plusieurs configurations avec peu d’exemples et soulignent l’importance des connaissances syntaxiques pour cette tâche.

## introduction l'extraction d'événements vise à identifier et extraire automatiquement des informations sur des événements à partir de textes non structurés, en se focalisant plus spécifiquement, pour chaque événement, sur son déclencheur (le mot ou la phrase correspondant à la mention de l'événement) et ses arguments (les entités qui jouent un rôle dans l'événement). par exemple, dans la phrase « seven u.s. soldiers were killed when their vehicle hit an explosive device in baghdad », un événement de type décès (life.die selon la nomenclature de référence @xcite est évoqué, associé au déclencheur killed et aux arguments seven u.s. soldiers, explosive device et baghdad, qui correspondent aux rôles respectifs de victime, d'instrument et de lieu dans la structure de l'événement. les systèmes d'extraction d'événements reposent classiquement sur des approches supervisées, qui nécessitent une grande quantité de données annotées pour chaque type d'événement considéré. cette annotation étant coûteuse, elle ne peut pas être effectuée pour toutes les applications, en particulier celles pour lesquelles de nouveaux types d'événements peuvent apparaître avec seulement quelques exemples. en conséquence, un intérêt croissant s'est développé pour relever le défi de l'extraction d'événements à partir de peu d'exemples. la plupart des études dans ce domaine se concentrent uniquement sur la détection d'événements, qui consiste à extraire et classer les déclencheurs d'événements. plusieurs de ces travaux reposent sur l'utilisation du méta-apprentissage et des réseaux prototypiques @xcite @xcite . cependant, très peu d'études abordent l'extraction des arguments d'événements en utilisant ces méthodes par méta-apprentissage. la plupart des méthodes existantes pour l'extraction des arguments d'événements dans des scénarios à faibles ressources ne relèvent pas en effet de l'apprentissage par transfert, mais cherchent plutôt à limiter la dégradation de leurs performances en présence d'une quantité limitée de données annotées. ces études exploitent un large ensemble de méthodes allant du question-réponse @xcite à l'implication textuelle @xcite en passant par les méthodes génératives @xcite @xcite . des approches sans données annotées (zero-shot) ont également été proposées, soit en s'appuyant sur des ressources externes @xcite , soit en utilisant des techniques de génération avec des modèles de langue pré-entraînés @xcite . dans cette étude, nous proposons d'aborder l'extraction des arguments d'événements à partir de peu d'exemples à l'aide de réseaux prototypiques. ce choix est principalement motivé par l'efficacité démontrée de ces méthodes dans la tâche de détection d'événements et dans plusieurs autres travaux en extraction d'information @xcite @xcite . notre objectif est d'évaluer les capacités de ces approches prototypiques dans le cadre de l'extraction des arguments et de proposer un cadre d'évaluation adapté à cette tâche dans un contexte de méta-apprentissage. par ailleurs, nous proposons et évaluons deux approches pour l'injection d'informations syntaxiques dans la représentation des arguments d'événement. ## conclusion et perspectives nous avons exploré l'extraction des arguments d'événements dans un scénario de faible disponibilité de données pour définir de nouvelles classes en mettant l'accent sur l'utilisation d'informations syntaxiques pour lever l'ambiguïté concernant certains rôles événementiels. nous avons repensé ce problème en le formulant comme une tâche de classification de relations entre le déclencheur et les arguments et en le traitant dans un cadre de méta-apprentissage à l'aide de réseaux prototypiques. dans ce contexte, nous avons adapté plus précisément le cadre de classification n -ways, k-shots pour répondre aux besoins spécifiques de l'extraction d'arguments d'événements. les évaluations menées ont montré l'intérêt de la prise en compte de ces informations syntaxiques, en particulier pour les rôles les plus susceptibles de se confondre. le travail mené fait l'hypothèse de la connaissance a priori des déclencheurs événementiels et des entités candidates pour les rôles et présuppose donc une architecture de type pipeline, qui présente l'avantage d'une certaine modularité mais souffre de problèmes connus de propagation d'erreurs entre modules. à l'instar des travaux @xcite , dans un contexte de quantités importantes de données annotées, un des prolongements naturels de notre travail sera d'examiner comment des approches jointes impliquant l'extraction d'entités nommées, de déclencheurs événementiels et d'arguments d'événements peuvent être mises en oeuvre dans un contexte de faible quantité de données annotées disponibles par le biais de méthodes de méta-apprentissage. pour nos expérimentations, nous adoptons le découpage @xcite , qui considère quatre types (conflict, business, contact et justice) dans l'ensemble d'entraînement et les autres types dans l'ensemble d'évaluation. dans ce découpage, certains rôles n'apparaissent que dans l'ensemble d'évaluation, tandis que d'autres sont exclusivement présents dans l'ensemble d'entraînement ; mais il existe également des rôles communs aux deux ensembles (voir tableau 4). nous avons supprimé les rôles d'argument comportant moins de 10 exemples afin de disposer de suffisamment de données pour constituer des épisodes avec au moins 10 exemples dans les ensembles de support. nous avons également retiré les types pour lesquels il ne restait aucun argument (c'est-à-dire business:end-org, justice:pardon, justice:extradite et justice:acquit dans l'ensemble d'entraînement, ainsi que personnel:nominate dans l'ensemble d'évaluation).