astro ECR : enrichissement d’un corpus astrophysique en entités nommées, coréférences et relations sémantiques (2024)

Abstract: Le manque de ressources annotées constitue un défi majeur pour le traitement automatique de la langue en astrophysique. Afin de combler cette lacune, nous présentons astroECR, une extension du corpus TDAC (Time-Domain Astrophysics Corpus). Notre corpus, constitué de 300 rapports d’observation en anglais, étend le schéma d’annotation initial de TDAC en introduisant cinq classes d’entités nommées supplémentaires spécifiques à l’astrophysique. Nous avons enrichi les annotations en incluant les coréférences, les relations sémantiques entre les objets célestes et leurs propriétés physiques, ainsi qu’en normalisant les noms d’objets célestes via des bases de données astronomiques. L’utilité de notre corpus est démontrée en fournissant des scores de référence à travers quatre tâches~: la reconnaissance d’entités nommées, la résolution de coréférences, la détection de relations, et la normalisation des noms d’objets célestes. Nous mettons à disposition le corpus ainsi que son guide d’annotation, les codes sources, et les modèles associés.

## introduction ces dernières années, le besoin de développer des systèmes d'analyse et d'extraction d'information en astrophysique a engendré une multiplication des travaux en traitement automatique des langues (tal). les récents modèles de langue tels que astrobert @xcite et astrollama @xcite sont utilisés non seulement pour identifier dans la littérature des entités spécifiques au domaine @xcite , mais également pour l'extraction d'information essentielles telles que les coordonnées célestes ou les propriétés physiques mesurées lors de l'observation d'objets célestes @xcite . néanmoins, un défi notable persiste dans la disponibilité des ressources et la diversité des annotations. en effet, la plupart des corpus existants @xcite @xcite ne sont pas accessibles et servent uniquement à la détection d'entités nommées. parmi les corpus disponibles, on compte celui de la campagne d'évaluation deal @xcite et un second plus restreint, tdac @xcite , axé sur l'observation des phénomènes transitoires tels que les explosions de supernovae et les sursauts gamma. les deux corpus partagent les mêmes classes d'entités et se limitent à une annotation en entités nommées, laissant ainsi un manque dans la diversité des annotations. or, une extraction d'information plus complète nécessite des corpus avec des annotations comprenant les coréférences, pour identifier toutes les mentions se référant à une même entité, ou encore les relations entre les différentes paires d'entités. par exemple, comme illustré dans la figure 1, lorsqu'il y a mention de plusieurs objets célestes dans le texte, se limiter à annoter uniquement les entités nommées ne permet pas d'établir de manière précise les liens entre les différentes propriétés physiques et les objets célestes correspondants. figure 1 -extrait d'un rapport d'observation. a gauche, un exemple d'annotation en entités nommées uniquement, et à droite, l'annotation des entités nommées avec en plus l'annotation des mentions de coréférences et des relations sémantiques entre les objets célestes (mentions de type celestialobject) et leurs propriétés physiques. afin de combler cette lacune et faciliter un spectre plus large de recherches, notre travail vise à créer un corpus annoté englobant l'annotation d'entités nommées, de mentions de coréférences, de relations astrophysiques entre les corps célestes et leurs propriétés physiques, ainsi qu'en fournissant une normalisation des noms d'objets célestes. nous avons pour objectif de fournir à la communauté astrophysique et tal une ressource permettant le développement de modèles d'extraction d'information. pour ce faire, nous avons étendu la première version de notre corpus existant tdac, afin de construire astroecr, un nouveau corpus en astrophysique plus riche en annotations. les principales contributions de ce travail sont les suivantes : tdac, en passant de 75 à 300 documents annotés. cette augmentation comprend un ensemble plus complet d'annotations couvrant davantage d'entités nommées astrophysiques, la normalisation des noms d'objets célestes (liage référentiel), des annotations de coréférence et des relations astrophysiques. à notre connaissance, il s'agit de la première et unique ressource de ce genre dans le domaine ; -nous avons repris les catégories d'entités nommées du corpus tdac et y avons ajouté cinq catégories d'entités nommées supplémentaires ; -nous démontrons l'utilité de ce corpus en réalisant des expériences sur quatre tâches d'extraction d'information, pour lesquelles nous avons développé des modèles et fourni de premiers scores. en perspective, ces modèles faciliteront l'annotation automatisée de documents supplémentaires ; -nous mettons notre corpus, notre guide d'annotation, le code associé et les modèles à la disposition de la communauté de recherche via notre dépôt github 1 . ## travaux connexes ressources pour la détection d'entités nommées la reconnaissance d'entités nommées implique l'identification de mentions d'entités, telles que des personnes, lieux ou organisations @xcite . il s'agit d'une tâche utile en recherche d'information @xcite et également pour les systèmes de question-réponse @xcite . en astrophysique, becker et al. (2005); hachey et al. (2005) ont créé l'astronomy bootstrapping corpus (abc), composé de 209 résumés d'articles scientifiques radioastronomiques en anglais pour la détection d'entités nommées spécifiques au domaine telles que les noms d'instruments astronomiques, les objets célestes, leurs types, et leurs caractéristiques spectrales. cependant, ce corpus n'est pas accessible. murphy et al. (2006) ont également élaboré un corpus de 7840 phrases issues d'articles scientifiques en anglais, définissant 43 types d'entités nommées, incluant des catégories caractérisant les objets célestes : leurs coordonnées et propriétés physiques (fréquence, luminosité). à notre connaissance, ce corpus n'est pas accessible non plus. plus récemment, le corpus de la campagne d'évaluation deal (grezes et al., 2022) a été rendu public, devenant l'un des premiers corpus accessibles en astrophysique foot_0 . il comprend des extraits de texte intégral et des sections de remerciements provenant d'articles d'astrophysique en anglais, annotés spécifiquement pour la campagne, avec 31 catégories d'entités nommées. il est divisé en trois sous-ensembles : entraînement (1753 documents), développement (1366 documents) et test (2505 documents). dans un précédent article, nous avions introduit tdac (alkan et al., 2022), le seul corpus annoté en entités nommées construit à partir de rapports d'observation astronomique en anglais, se concentrant sur un vocabulaire spécifique à l'astronomie (l'étude des phénomènes transitoires). accessible foot_1 , il se compose de 75 documents, dont 25 circulaires du réseau gcn (barthelmy et al., 1995) de la nasa, 25 télégrammes astronomiques (rutledge, 1998) et 25 astronotes issus du transient name server (gal-yam, 2021). ressources pour la résolution des coréférences la résolution de coréférences est une tâche visant à identifier toutes les mentions dans un texte se référant à une même entité @xcite . comparée à la détection d'entités nommées, la tâche de résolution de coréférences dans les documents en astrophysique a reçu moins d'attention. @xcite se sont penchés sur la résolution d'anaphores dans la littérature astrophysique. les auteurs se sont uniquement concentrés sur la classification automatique du pronom "they" dans les articles, en distinguant ceux qui se réfèrent à des recherches citées et ceux qui ne le font pas. leur système repose sur un classificateur d'entropie maximale avec des caractéristiques basées sur la distance entre les citations précédentes et les types de verbes associés au pronom en question. brack et al. (2021) ont construit le corpus stm pour la résolution de coréférences. le corpus se compose de dix disciplines scientifiques (dont onze résumés annotés en astrophysique). les auteurs ont comparés plusieurs approches existantes dans la littérature, avec notamment l'utilisation de modèles de type bert pour la résolution des coréférences (joshi et al., 2019), mais également en s'inspirant de la méthode proposée par luan et al. (2018) via l'utilisation de représentations de mots elmo (peters et al., 2018). synthèse les corpus annotés pour le domaine astrophysique sont limités. ces ressources se concentrent principalement sur des corpus orientés reconnaissance d'entités nommées, limitant leur usage pour des tâches plus larges en tal. de plus, les documents concernés sont principalement des articles, restreignant la variété des sources de données que les chercheurs peuvent exploiter. pour combler cette lacune, nous avons basé notre travail sur le corpus existant tdac, pour construire un corpus plus riche et l'étendre à des tâches de tal non traitées telles que la résolution de coréférences, la détection de relations astrophysiques et la normalisation des noms d'objets célestes. 3 annotation du corpus dans cette section, nous décrivons le processus d'annotation des entités nommées (3.1), la normalisation des noms d'objets célestes (3.2), les coréférences (3.3) et les annotations des relations astrophysiques (3.4). nous avons utilisé brat (stenetorp et al., 2012) comme outil d'annotation.