Injection de connaissances temporelles dans la reconnaissance d’entités nommées historiques (2023)

Abstract: Dans cet article, nous abordons la reconnaissance d’entités nommées dans des documents historiques multilingues. Cette tâche présente des multiples défis tels que les erreurs générées suite à la numérisa- tion et la reconnaissance optique des caractères de ces documents. En outre, les documents historiques posent un autre défi puisque leurs collections sont distribuées sur une période de temps assez longue et suivent éventuellement plusieurs conventions orthographiques qui évoluent au fil du temps. Nous explorons, dans ce travail, l’idée d’injecter des connaissance temporelles à l’aide de graphes pour une reconnaissance d’entités nommées plus performante. Plus précisément, nous récupérons des contextes supplémentaires, sémantiquement pertinents, en explorant les informations temporelles fournies par les collections historiques et nous les incluons en tant que représentations mises en commun dans un modèle NER basé sur un transformeur. Nous expérimentons avec deux collections récentes en anglais, français et allemand, composées de journaux historiques (19C-20C) et de commentaires classiques (19C). Les résultats montrent l’efficacité de l’injection de connaissances temporelles dans des ensembles de données, des langues et des types d’entités différents.

## introduction ces dernières décennies ont vu la mise à disposition d'un nombre croissant de corpus textuels pour les sciences humaines et sociales. des exemples représentatifs proviennent de gallica, la bibliothèque numérique de la bibliothèque nationale de france foot_0 , et de trove, l'agrégateur de bases de données et service de documents en texte intégral, d'images numériques et de stockage de données provenant de la bibliothèque nationale d'australie foot_1 . l'accès à ces données massives offre de nouvelles perspectives à un nombre croissant de disciplines, allant de l'histoire sociopolitique et culturelle à l'histoire économique, ainsi que de la linguistique à la philologie. des milliards d'images de documents historiques, y compris des documents manuscrits numérisés, des registres médiévaux et des journaux anciens numérisés, sont désormais stockés et leur contenu est transcrit, soit manuellement grâce à des interfaces dédiées, soit automatiquement en utilisant la reconnaissance optique de caractères (ocr) ou la reconnaissance de texte manuscrit. le processus de numérisation en masse, initié dans les années 1980 par des projets internes à petite échelle, a conduit à la montée en puissance de la numérisation, qui a atteint une certaine maturité au début des années 2000 avec des campagnes de numérisation à grande échelle dans toute l'industrie @xcite . alors que ce processus de numérisation de masse se poursuit de plus en plus d'approches du domaine du traitement du langage naturel (tal) sont dédiées aux documents historiques, offrant de nouveaux moyens d'accéder à des archives enrichies sémantiquement en texte intégral @xcite , tels que la reconnaissance d'entités nommées (ner) @xcite @xcite , l'annotation sémantique @xcite et la détection d'événements @xcite . la ner est une tâche d'extraction d'information dédiée à l'identification d'entités d'intérêt dans les textes, généralement de type personne, organisation et lieu. ces entités agissent comme des ancrages référentiels qui sous-tendent la sémantique des textes et guident leur interprétation. par exemple, en europe, à l'époque médiévale, la plupart des personnes étaient identifiées par un simple mononyme ou un seul nom propre. les noms de famille ou patronymes ont commencé à être utilisés à partir du xiii e siècle, mais beaucoup plus tard dans certaines régions ou classes sociales (xvii e siècle pour les gallois). de nombreuses personnes partageaient le même nom et la même orthographe dans les langues vernaculaires et latines, mais aussi au sein d'une même langue (e.g., guillelmus, guillaume, willelmus, guillaume, wilhelm). les lieux ont pu disparaître ou changer complètement. pour ceux qui ont survécu de la préhistoire jusqu'au xxi e siècle (e.g., l'écosse, le pays de galles, l'espagne), ils sont très ambigus et possèdent de très différentes orthographes, ce qui rend leur identification très difficile @xcite . dans cet article, nous nous concentrons sur l'exploration de la temporalité dans la ner à partir de collections historiques. nous proposons une nouvelle technique pour injecter des connaissances temporelles supplémentaires en s'appuyant sur wikipédia et wikidata pour fournir des informations contextuelles sémantiquement proches. ## contextes basés sur des connaissances temporelles plusieurs travaux ont montré que les erreurs d'ocr peuvent avoir un impact sur des tâches en tal @xcite , et plus particulièrement sur la ner @xcite . pour remédier à cela, des efforts ont été déployés pour élaborer des corpus et/ou des systèmes de ner adaptés @xcite . dans ce travail, nous proposons d'introduire des contextes externes grammaticalement corrects dans les systèmes de ner. ces contextes supplémentaires contribuent à améliorer les performances des systèmes de ner en dépit les erreurs d'ocr @xcite . de plus, l'inclusion de tels contextes, en tenant compte de la temporalité, pourrait encore améliorer la détection des entités, qui sont particulièrement sensibles au contexte temporel. ainsi, nous proposons plusieurs configurations pour inclure ces contextes supplémentaires, basés sur wikidata5m foot_2 (wang et al., 2021), un graphe de connaissances (kg) comportant cinq millions d'entités wikidata foot_3 . wikidata5m contient des entités du domaine général (e.g., des célébrités, des événements, des concepts, des objets) qui sont alignées sur une description correspondant au premier paragraphe de sa page wikipédia."