Entraînement avec solveur pour l’intégration de contraintes logiques dans l’extraction de relations d’événements (2025)

Abstract: L’extraction de relations d’événements (ERE) est une tâche cruciale dans le traitement du langage naturel, impliquant l’identification et la classification des relations sémantiques entre les événements décrits dans des documents textuels. Malgré les avancées récentes grâce aux approches d’extraction conjointe, les modèles actuels rencontrent encore des défis importants, notamment une précision in- suffisante dans l’extraction des relations sous-représentées mais essentielles (telles que la causalité) et d’importantes incohérences logiques parmi les relations prédites. Pour remédier à ces limitations, nous proposons un framework pour l’ERE, conçu explicitement pour améliorer la performance d’extraction et assurer la cohérence logique globale. Notre approche combine l’encodage de documents basé sur les transformateurs avec un solveur de contraintes logiques dédié qui corrige systématiquement les prédictions brutes pour garantir la cohérence dans toutes les relations d’événements extraites. Nous introduisons le concept de relations fondamentales, un sous-ensemble de relations essentielles pour préserver la cohérence logique, et nous utilisons une stratégie d’entraînement consciente du solveur afin de prioriser explicitement ces relations. Des expérimentations approfondies sur l’en- semble de données complet MAVEN-ERE démontrent que notre framework obtient pas une précision d’extraction supérieures par rapport aux méthodes d’extraction conjointe existantes.

## introduction l'extraction de relations d'événements (event relation extraction, ere) est une tâche fondamentale en traitement automatique du langage naturel (natural language processing, nlp) qui consiste à identifier et catégoriser les relations sémantiques entre les événements décrits dans un contenu textuel. son importance s'étend à divers domaines pratiques tels que l'analyse de l'actualité, le traitement de textes juridiques, et notamment la santé, où une identification et une compréhension précises des séquences d'événements peuvent influencer directement les décisions relatives à la gestion des patients et à la compréhension de la progression des maladies. malgré des avancées significatives, les approches actuelles de l'ere reposent majoritairement sur des méthodes en pipeline, qui présentent souvent des limitations importantes. l'un des problèmes majeurs est la propagation d'erreurs : les inexactitudes survenant aux premières étapes (par exemple, la détection d'événements) se répercutent sur les étapes suivantes, affectant négativement la précision de l'extraction des relations @xcite . cette propagation est particulièrement problématique dans des domaines sensibles comme la santé, où une mauvaise interprétation des séquences d'événements peut entraîner une compréhension erronée de l'historique du patient ou une mauvaise analyse des événements indésirables. une autre limitation importante est la négligence de la cohérence logique entre les relations d'événements prédites. les méthodes existantes n'appliquent généralement pas de manière adéquate les contraintes logiques globales, telles que l'ordre temporel ou l'asymétrie de causalité, ce qui conduit à des prédictions localement correctes mais globalement incohérentes @xcite . d'autres complications découlent du déséquilibre des classes, où des relations rares mais cruciales (par exemple, la causalité) sont insuffisamment représentées, ce qui compromet leur extraction précise @xcite . pour répondre à ces défis, cet article présente un framework spécifiquement conçu pour l'extraction de relations d'événements, qui traite simultanément la cohérence logique et le déséquilibre des classes. notre approche exploite un encodage de document basé sur les transformers combiné à un classificateur multi-couches à propagation directe (multi-layer feed-forward classifier) pour une classification initiale des paires d'événements. de manière cruciale, notre framework intègre un solveur de contraintes logiques dédié, qui applique systématiquement la cohérence globale à l'ensemble des relations d'événements prédites. plus précisément, nous nous concentrons sur le scénario dans lequel les déclencheurs d'événements (event triggers) ont déjà été identifiés et annotés, ce qui permet à notre cadre de fonctionner directement sur les mentions d'événements. en adoptant une stratégie d'optimisation holistique, nous intégrons explicitement des contraintes de cohérence logique telles que l'ordre temporel, l'asymétrie causale et la transitivité des coréférences, ce qui améliore de manière significative la cohérence des résultats d'extraction au détriment de leur précision. cependant, les évaluations expérimentales menées sur le jeu de données complet maven-ere @xcite ) montrent que notre framework proposé n'atteint pas des améliorations notables en termes de précision d'extraction par rapport aux approches conventionnelles. le reste de l'article est structuré comme suit : la section 2 passe en revue les méthodologies existantes ; la section 3 introduit les concepts clés et les notations ; la section 4 décrit en détail notre cadre intégré ; la section 5 fournit des évaluations expérimentales approfondies ; et enfin, la section 6 conclut par une discussion des résultats et des perspectives pour les recherches futures. ## travaux connexes les avancées récentes en extraction de relations entre événements (event relation extraction, ere) s'articulent principalement autour de trois méthodologies : l'apprentissage structuré, les méthodes basées sur les graphes et les modèles génératifs. apprentissage structuré. les approches d'apprentissage structuré infèrent conjointement les événements et leurs relations, atténuant ainsi la propagation d'erreurs inhérente aux systèmes en pipeline. @xcite ont proposé un modèle de prédiction structurée neuronale qui apprend conjointement des représentations partagées pour les événements et les relations temporelles. leur modèle utilise une inférence structurée basée sur des contraintes de programmation linéaire en nombres entiers, ce qui permet une meilleure cohérence et précision en modélisant explicitement les interdépendances entre les relations. @xcite ont ensuite amélioré la prédiction structurée avec le cadre speech, qui utilise une modélisation basée sur l'énergie pour représenter les dépendances complexes entre les composants événementiels au niveau des tokens, des phrases et du document. cette approche centrée sur l'énergie facilite des prédictions structurées cohérentes. méthodes basées sur les graphes. une autre direction importante considère l'ere au niveau du document comme un problème de modélisation par graphe, représentant les événements comme des noeuds et leurs relations comme des arêtes. @xcite ont introduit ildf, une méthode itérative basée sur les graphes mettant l'accent sur la direction de causalité et l'affinement progressif. leur framework construit progressivement un graphe de causalité d'événements en exploitant les relations causales identifiées avec confiance pour mettre à jour les représentations des événements, améliorant ainsi la précision d'identification. de même, @xcite ont proposé ergo, qui représente les paires d'événements candidates comme des noeuds dans un graphe relationnel complet et utilise un relational graph transformer pour modéliser explicitement les interactions d'ordre supérieur et les chaînes causales transitives. cette approche intègre notamment le raisonnement transitif directement dans le modèle. ## expérimentation dans cette section, nous détaillons la configuration expérimentale, comparons différentes configurations de modèle et fonctions de loss, et analysons l'impact de divers hyperparamètres et choix architecturaux sur les performances. ## conclusion nous avons introduit un framework pour l'event relation extraction qui améliore la cohérence logique entre les relations prédites au détriment de leur précision. ce framework apporte deux contributions principales : (1) un mécanisme modulaire basé sur un solveur qui impose des contraintes logiques globales de manière indépendante du modèle prédictif, éliminant ainsi le besoin de rétropropagation spécifique au solveur tout en maintenant une cohérence de bout en bout ; et (2) la notion de fundamental relations, un sous-ensemble minimal de relations d'événements essentiel pour inférer toutes les autres, que nous exploitons pour orienter l'entraînement informé par le solveur et concentrer l'apprentissage sur les décisions à fort impact. nos résultats sur le dataset maven-ere montrent que cette conception n'améliore pas les performances globales du modèle. nous montrons que l'intégration de contraintes logiques améliore la cohérence mais compromet la précision, et que bien que notre approche surpasse des méthodes de base plus puissantes reposant sur des language models beaucoup plus volumineux, c'est la baseline qui apporte cette performance, et non le framework. les travaux futurs étudiront des datasets plus larges, exploreront le décodage constraint-aware pour les llms génératifs, et l'intégration dynamique de contraintes via l'apprentissage par renforcement.