Omnia Mutantur: Latin Treebanks in Universal Dependencies as a Gateway to the Investigation of Language Change
Omnia Mutantur: Latinské stromové banky v Universal Dependencies jako brána ke zkoumání jazykových změn
Year: 2023
Authors: Federica Gamba

Abstract (English):
Spread over a span of more than two millennia and across an area that corresponds to today’s Europe, the Latin language has undergone a number of significant changes, affecting each of its linguistic layers (e.g., vocabulary, morphology and syntax). Diachronic, diatopic and diaphasic variability - respectively, variability in time, space and context - thus represents a non-negligible issue when it comes to Natural Language Processing of Latin. Being a historical language, such intra-linguistic variability is intrinsically tied in it and has a significant impact in every NLP task. For instance, it has been repeatedly remarked that variability of Latin texts has significant negative impact on parsing performances. Namely, when a model is used to parse data that differ from those it has been trained on, a considerable drop can be observed in accuracy scores.
Therefore, the five treebanks available in Universal Dependencies, as released through LINDAT/CLARIN, represent a unique resource allowing to examine how Latin varies across time, space, and literary genres, and thus to gain valuable insights on the evolution of the language across multiple dimensions. The Late Latin Charter Treebank, for instance, includes charters dating back to VIII-IX centuries AD, while Perseus encompasses Classical Latin poetry and prose. Thanks to the large collection of syntactic data that CLARIN offers, it is possible to carry out linguistic investigations, which are also facilitated by tools that – via CLARIN – provide a way to browse these data, such as PML-TQ. 
One of the goals is thus to try to define a strategy to handle such diversity in parsing, as well as to detect the most diverse linguistic phenomena. Analysing errors made by parsers can be a useful strategy towards these goals. One of the several parsers that were selected for this research is UDPipe, once again readily available thanks to CLARIN. Yet, the main contribution of CLARIN to this kind of research definitely consists in the data it provides. Indeed, dealing with ancient languages necessarily means dealing with data that are already available, as the absence of native speakers does not allow to easily collect new ones. And by helping to store and preserve these data, CLARIN provides us with a useful gateway to ancient languages like Latin.
Of course, in order to investigate data, we need them to be consistent. Having immediately observed that the treebanks presented many divergences at the annotation level, I have first been working on harmonising them so as to make them more mutually consistent and more compliant to UD guidelines. The morphologically and syntactically harmonised version of the treebanks, that resulted from this process, has already been made available and is now used for all further experiments, which concern not only syntax, but extend the investigation of Latin variability also to the semantic layer. The considerations of language variability will be further extended from syntax to semantics, starting with providing a uniform semantic representation of a selected subsample of the treebanks.

Abstract (Czech):
Latinský jazyk, který se rozprostíral po více než dvě tisíciletí na území odpovídajícím dnešní Evropě, prošel řadou významných změn, které se dotkly všech jeho jazykových vrstev (např. slovní zásoby, morfologie a syntaxe). Diachronní, diatopická a diafázická variabilita - respektive variabilita v čase, prostoru a kontextu - tak představuje nezanedbatelný problém, pokud jde o zpracování přirozeného jazyka latiny. Jelikož se jedná o historický jazyk, je tato vnitrojazyková variabilita s ním neodmyslitelně spjata a má významný dopad v každé úloze NLP. Bylo například opakovaně poznamenáno, že variabilita latinských textů má značný negativní dopad na výkonnost parsování. Konkrétně, pokud je model použit k parsování dat, která se liší od těch, na nichž byl natrénován, lze pozorovat značný pokles skóre přesnosti.
Pět stromových bank dostupných v Universal Dependencies, které byly zveřejněny prostřednictvím LINDAT/CLARIN, proto představuje jedinečný zdroj umožňující zkoumat, jak se latina mění v čase, prostoru a literárních žánrech, a získat tak cenné poznatky o vývoji jazyka v mnoha dimenzích. Late Latin Charter Treebank například zahrnuje listiny z VIII-IX století n. l., zatímco Perseus zahrnuje klasickou latinskou poezii a prózu. Díky rozsáhlé sbírce syntaktických dat, kterou CLARIN nabízí, je možné provádět lingvistická zkoumání, která usnadňují i nástroje, jež - prostřednictvím CLARINu - umožňují tato data prohlížet, jako například PML-TQ. 
Jedním z cílů je tedy pokusit se definovat strategii, jak se s takovou rozmanitostí vypořádat při parsování a jak odhalit nejrůznější jazykové jevy. Analýza chyb, kterých se parsery dopouštějí, může být užitečnou strategií k dosažení těchto cílů. Jedním z několika parserů, které byly pro tento výzkum vybrány, je UDPipe, opět snadno dostupný díky CLARIN. Hlavní přínos CLARINu pro tento druh výzkumu však rozhodně spočívá v datech, která poskytuje. Zabývat se starými jazyky totiž nutně znamená pracovat s daty, která jsou již k dispozici, protože absence rodilých mluvčích neumožňuje snadno shromažďovat nová. A tím, že CLARIN pomáhá tato data uchovávat a uchovávat, nám poskytuje užitečnou bránu ke starověkým jazykům, jako je latina.
Abychom mohli data zkoumat, potřebujeme samozřejmě, aby byla konzistentní. Poté, co jsem ihned zjistil, že stromové banky vykazují na úrovni anotací mnoho rozdílů, jsem nejprve pracoval na jejich harmonizaci, aby byly vzájemně konzistentnější a více odpovídaly směrnicím UD. Morfologicky a syntakticky harmonizovaná verze treebank, která je výsledkem tohoto procesu, již byla zpřístupněna a nyní se používá pro všechny další experimenty, které se týkají nejen syntaxe, ale rozšiřují zkoumání variability latinky i na sémantickou rovinu. Úvahy o variabilitě jazyka budou dále rozšířeny ze syntaxe na sémantiku, počínaje poskytnutím jednotné sémantické reprezentace vybrané podskupiny treebanků.