ufal/bilingual-abstracts-corpus huggingface dataset:
DeriNet v2.1
DeriNet v2.1
Year: 2021
Authors: Jonáš Vidra, Zdeněk Žabokrtský, Lukáš Kyjánek, Magda Ševčíková, Šárka Dohnalová, Emil Svoboda, Jan Bodnár

Abstract (English):
DeriNet is a lexical network which models derivational relations in the lexicon of Czech. Nodes of the network correspond to Czech lexemes, while edges represent word-formational relations between a derived word and its base word / words. The present version, DeriNet 2.1, contains 1,039,012 lexemes (sampled from the MorfFlex CZ 2.0 ​dictionary) connected by 782,814 derivational, 50,533 orthographic variant, 1,952 compounding, 295 univerbation and 144 conversion relations.
Compared to the previous version, version 2.1 contains annotations of orthographic variants, full automatically generated annotation of affix morpheme boundaries (in addition to the roots annotated in 2.0), 202 affixoid lexemes serving as bases for compounding, annotation of corpus frequency of lexemes, annotation of verbal conjugation classes and a pilot annotation of univerbation. The set of part-of-speech tags was converted to Universal POS from the Universal Dependencies project.

Abstract (Czech):
DeriNet je lexikální síť, která modeluje derivační vztahy ve slovníku češtiny. Uzly sítě odpovídají českým lexémům, zatímco hrany představují slovotvorné vztahy mezi odvozeným slovem a jeho základním slovem / slovy. Současná verze, DeriNet 2.1, obsahuje 1 039 012 lexemes (extrahovány ze slovníku MorfFlex CZ 2.0) spojených 782 814 derivačními relacemi, 50 533 ortografickými variantami, 1 952 vztahů skládání, 295 univerbizačními vztahy a 144 konverzními vztahy.
Ve srovnání s předchozí verzí obsahuje verze 2.1 anotace ortografických variant, plně automaticky generovanou anotaci hranic afixů (kromě kořenů anotovaných v 2.0), 202 affixoidů sloužících jako základ pro skládání, anotaci četností lexémů z korpusů, anotaci slovesných tříd a pilotní anotaci univerbace. Sada tagů pro slovní druhy byla převedena na Universal POS z projektu Universal Dependencies.
Splitting and Identifying Czech Compounds: A Pilot Study
Splitting a identifikace českých kompozit: pilotní studie
Year: 2021
Authors: Emil Svoboda, Magda Ševčíková

Abstract (English):
We present pilot experiments on splitting and identifying Czech compound words. We created
an algorithm measuring the linguistic similarity of two words based on finding the shortest
path through a matrix of mutual estimated correspondences between two phonemic strings.
Additionally, a neural compound-splitting tool (Czech Compound Splitter) was implemented
by using the Marian Neural Machine Translator framework, which was trained on a data set
containing 1,164 hand-annotated compounds and about 280,000 synthetically created compounds.
In compound splitting, the first solution achieved an accuracy of 28% and the second solution
achieved 54% on a separate validation data set. In compound identification, the Czech Compound
Splitter achieved an accuracy of 91%.

Abstract (Czech):
Představujeme pilotní experimenty na dělení a identifikaci českých složených slov. Vytvořili jsme algoritmus měřící jazykovou podobnost dvou slov založený na nalezení nejkratšího
cesta skrze matici vzájemných odhadovaných korespondencí mezi dvěma fonologicky přepsanými řetězci.
Dále jsme vytvořili nástroj pro splitting neboli dělení složených slov (Czech Compound Splitter) pomocí frameworku Marian Neural Machine Translator, který byl vytrénován na datové sadě obsahující 1 164 ručně anotovaných sloučenin a zhruba 280 000 synteticky vytvořených kompozit. Ve splittingu kompozit dosáhlo první řešení přesnosti 28 % a druhé řešení 54 % na validačním datové sadě. V úloze identifikace kompozit dosáhl Czech Compound Splitter přesnosti 91%.
Findings of the WMT Shared Task on Machine Translation Using Terminologies.
Závěry úlohy strojového překladu pomocí terminologií na WMT
Year: 2021
Authors: Md Mahfuz ibn Alam, Ivana Kvapilíková, Antonios Anastasopoulos, Laurent Besacier, Georgiana Dinu, Marcello Federico, Matthias Gallé, Philipp Koehn, Vassilina Nikoulina, Kweon Woo Jung

Abstract (English):
Language  domains  that  require  very  carefuluse of terminology are abundant and reflect asignificant part of the translation industry.  Inthis work we introduce a benchmark for eval-uating the quality and consistency of terminol-ogy translation, focusing on the medical (andCOVID-19  specifically)  domain  for  five  lan-guage pairs:  English to French, Chinese, Rus-sian,  and  Korean,  as  well  as  Czech  to  Ger-man.   We  report  the  descriptions  and  resultsof  the  participating  systems,  commenting  onthe  need  for  further  research  efforts  towardsboth more adequate handling of terminologiesas  well  as  towards  a  proper  formulation  andevaluation of the task.

Abstract (Czech):
Jazykové domény vyžadující velmi pečlivé používání terminologie jsou hojné a odrážejí významnou část překladatelského průmyslu. V této práci představujeme metriku pro hodnocení kvality a konzistentnosti překladu terminologie se zaměřením na lékařskou (a konkrétně COVID-19) doménu pro pět jazykových párů: angličtinu do francouzštiny, čínštiny, ruštiny a korejštiny, a dále češtinu do němčiny. Uvádíme popisy a výsledky zúčastněných systémů, vyjadřujeme nutnost dalšího výzkumu jak pro adekvátnější zacházení s terminologií, tak pro správnou formulaci a vyhodnocení úlohy.
Coreference meets Universal Dependencies – a pilot experiment on harmonizing coreference datasets for 11 languages
Setkání koreference a Universal Dependencies – pilotní experiment s harmonizací koreferenčních korpusů pro 11 jazyků
Year: 2021
Authors: Anna Nedoluzhko, Michal Novák, Martin Popel, Zdeněk Žabokrtský, Daniel Zeman

Abstract (English):
We describe a pilot experiment aimed at harmonizing diverse data resources that contain coreference-related annotations. We converted 17 existing datasets for 11 languages into a common annotation scheme based on Universal Dependencies, and released a subset of the resulting collection publicly under the name CorefUD 0.1 via the LINDAT-CLARIAH-CZ repository (http://hdl.handle.net/11234/1-3510).

Abstract (Czech):
Popisujeme pilotní experiment zaměřený na harmonizaci různorodých datových zdrojů, které obsahují anotace související s koreferencí. Převedli jsme 17 existujících korpusů 11 jazyků do společného anotačního schématu, založeného na Universal Dependencies, a zveřejnili jsme podmnožinu této kolekce pod názvem CorefUD 0.1 v repozitáři LINDAT-CLARIAH-CZ (http://hdl.handle.net/11234/1-3510).
CorefUD 0.1
CorefUD 0.1
Year: 2021
Authors: Anna Nedoluzhko, Michal Novák, Martin Popel, Zdeněk Žabokrtský, Daniel Zeman

Abstract (English):
CorefUD is a collection of previously existing datasets annotated with coreference, which we converted into a common annotation scheme. In total, CorefUD in its current version 0.1 consists of 17 datasets for 11 languages.

Abstract (Czech):
CorefUD je kolekce existujících korpusů s anotací koreference, které jsme převedli na jednotné anotační schéma. Ve své současné verzi 0.1 CorefUD celkem obsahuje 17 korpusů pro 11 jazyků.
CorefUD 0.2
CorefUD 0.2
Year: 2021
Authors: Anna Nedoluzhko, Michal Novák, Martin Popel, Zdeněk Žabokrtský, Daniel Zeman

Abstract (English):
CorefUD is a collection of previously existing datasets annotated with coreference, which we converted into a common annotation scheme. In total, CorefUD in its current version 0.2 consists of 17 datasets for 11 languages, and compared to the version 0.1, the automatic morpho-syntactic annotation has improved.

Abstract (Czech):
CorefUD je kolekce existujících korpusů s anotací koreference, které jsme převedli na jednotné anotační schéma. Ve své současné verzi 0.2 CorefUD celkem obsahuje 17 korpusů pro 11 jazyků a v porovnání s verzí 0.1 obsahuje kvalitnejší automatickou morfo-syntaktickou anotaci.
Is one head enough? Mention heads in coreference annotations compared with UD-style heads
Stačí jedna hlava? Hlavy zmínek v anotacích koreference ve srovnání s hlavami podle UD
Year: 2021
Authors: Anna Nedoluzhko, Michal Novák, Martin Popel, Zdeněk Žabokrtský, Daniel Zeman

Abstract (English):
We present an empirical study that compares mention heads as annotated manually in four coreference datasets (for Dutch, English, Polish, and Russian) on one hand, with heads induced from dependency trees parsed automatically, on the other hand.

Abstract (Czech):
Předkládáme empirickou studii, která srovnává hlavy zmínek anotovaných ručně ve čtyřech koreferenčních datových sadách (pro nizozemštinu, angličtinu, polštinu a ruštinu) na jedné straně a hlavy vyplývající z automaticky predikovaných závislostních syntaktických stromů na straně druhé.
ARGUABLY @ AI Debater-NLPCC 2021 Task 3: Argument Pair Extraction from Peer Review and Rebuttals
ARGUABLY @ AI Debater-NLPCC 2021 Úkol 3: Argument Párová extrakce z recenze a rozborů
Year: 2021
Authors: Guneet Singh Kohli, Prabsimran Kaur, Muskaan Singh, Tirthankar Ghosal, Prashant Singh Rana

Abstract (English):
This paper describes our participating system run to the argumentative text understanding shared task for AI Debater at NLPCC 2021 (http://www.fudan-disc.com/sharedtask/AIDebater21/tracks.html). The tasks are motivated towards developing an autonomous debating system. We make an initial attempt with Track-3, namely, argument pair extraction from peer review and rebuttal where we extract arguments from peer reviews and their corresponding rebuttals from author responses. Compared to the multi-task baseline by the organizers, we introduce two significant changes: (i) we use ERNIE 2.0 token embedding, which can better capture lexical, syntactic, and semantic aspects of information in the training data, (ii) we perform double attention learning to capture long-term dependencies. Our proposed model achieves the state-of-the-art results with a relative improvement of 8.81% in terms of F1 score over the baseline model. We make our code available publicly at https://github.com/guneetsk99/ArgumentMining_SharedTask. Our team ARGUABLY is one of the third prize-winning teams in Track 3 of the shared task.

Abstract (Czech):
Tento dokument popisuje náš systém účasti na argumentačním textu chápajícím sdílený úkol pro AI Debater na NLPCC 2021 (http://www.fudan-disc.com/sharedtask/AIDebater21/tracks.html). Úkoly jsou motivovány k rozvoji autonomního diskusního systému. Počáteční pokus provedeme s trackem-3, konkrétně extrakcí argumentačních dvojic z recenzního posudku a vyvrácením, kdy extrahujeme argumenty z recenzního posudku a jejich odpovídající vyvrácení z autorových odpovědí. Ve srovnání s víceúkolovou základnou organizátorů zavádíme dvě významné změny: i) používáme vkládání tokenu ERNIE 2.0, které dokáže lépe zachytit lexikální, syntaktické a sémantické aspekty informací v tréninkových datech, ii) provádíme dvojí učení pozornosti, abychom zachytili dlouhodobé závislosti. Náš navrhovaný model dosahuje nejmodernějších výsledků s relativním zlepšením skóre F1 o 8,81% oproti základnímu modelu. Náš kód zveřejníme na adrese https://github.com/guneetsk99/ArgumentMining_SharedTask. Náš tým ARGUABLY je jedním z třetích oceněných týmů v Tracku 3 společného úkolu.
WMT21 Marian translation model (ca-oc)
WMT21 překladový model pro systém Marian (ca-oc)
Year: 2021
Authors: Josef Jon

Abstract (English):
Marian NMT model for Catalan to Occitan translation. The model was submitted to WMT'21 Shared Task on Multilingual Low-Resource Translation for Indo-European Languages as a CUNI-Primary system for Catalan to Occitan.

Abstract (Czech):
Překladový model z katalánštiny do okcitánštiny pro systém Marian.
WMT21 Marian translation models (ca-ro,it,oc)
WMT21 překladový model pro systém Marian (ca-ro,it,oc)
Year: 2021
Authors: Josef Jon

Abstract (English):
Marian multilingual translation model from Catalan into Romanian, Italian and Occitan. This model is an updated version (trained for 2.1M updates) of the model submitted to WMT'21 Shared Task on Multilingual Low-Resource Translation for Indo-European Languages as a CUNI-Primary system for Catalan to Romanian and Italian (trained for 430k updates).

Abstract (Czech):
Vícejazyčný překladový model z katalánštiny do rumunštiny, italštiny a okcitánštiny pro systém Marian.
End-to-End Lexically Constrained Machine Translation for Morphologically Rich Languages
Ucelený strojový překlad s lexikálními omezeními pro mofrologicky bohaté jazyky
Year: 2021
Authors: Josef Jon, João Paulo de Souza Aires, Dušan Variš, Ondřej Bojar

Abstract (English):
Lexically constrained machine translation allows the user to manipulate the output sentence by enforcing the presence or absence of certain words and phrases. Although current approaches can enforce terms to appear in the translation, they often struggle to make the constraint word form agree with the rest of the generated output. Our manual analysis shows that 46% of the errors in the output of a baseline constrained model for English to Czech translation are related to agreement. We investigate mechanisms to allow neural machine translation to infer the correct word inflection given lemmatized constraints. In particular, we focus on methods based on training
the model with constraints provided as part of the input sequence. Our experiments on the English-Czech language pair show that this approach improves the translation of constrained
terms in both automatic and manual evaluation
by reducing errors in agreement. Our approach
thus eliminates inflection errors, without introducing new errors or decreasing the overall
quality of the translation.

Abstract (Czech):
Lexikálně omezený strojový překlad umožňuje uživateli manipulovat s výstupní větou vynucením přítomnosti nebo nepřítomnosti určitých slov a frází. Přestože současné přístupy dokáží vynutit, aby se v překladu objevily specifikované termíny, často se snaží, aby povrchová forma omezeného slova souhlasila se zbytkem vygenerovaného výstupu. Ruční analýza ukazuje, že 46% chyb ve výstupu základního omezeného modelu překladu z angličtiny do češtiny souvisí s gramatickou shodou. Zkoumáme mechanismy, které umožňují neuronových strojový překlad k určení správné inflexe omezujících slov specifikovaných pomocí lemmat. Zaměřujeme se zejména na metody založené na tréninku modelu s omezeními, které jsou součástí vstupu. Naše experimenty na anglicko-českém jazykovém páru ukazují, že tento přístup zlepšuje překlad s omezením pomocí termínů a to jak v automatickém i ručním hodnocení, snížením počtu chyb v gramatické shodě. Náš přístup
tak odstraňuje inflexní chyby, aniž by zaváděl nové chyby nebo snižoval celkovou
kvalitu překladu.
CUNI systems for WMT21: Multilingual Low-Resource Translation for Indo-European Languages Shared Task
Systémy UK pro WMT21: Vícejazyčný překlad indoeurópskych jazyků s nedostatečnými zdroji
Year: 2021
Authors: Josef Jon, Michal Novák, João Paulo de Souza Aires, Dušan Variš, Ondřej Bojar

Abstract (English):
This paper describes Charles University submission for  Multilingual Low-Resource Translation for Indo-European Languages shared task at WMT21. We competed in translation from Catalan into Romanian, Italian and Occitan. Our systems are based on shared multilingual model. We show that using joint model for multiple similar language pairs improves upon translation quality in each pair. We also demonstrate that chararacter-level bilingual models are competitive for very similar language pairs (Catalan-Occitan) but less so for more distant pairs. We also describe our experiments with multi-task learning, where aside from a textual translation, the models are also trained to perform grapheme-to-phoneme conversion.

Abstract (Czech):
Článek popisuje příspěvek Univerzity Karlovy do soutěže ve vícejazyčném překladu indoeurópskych jazyků s nedostatečnými zdroji na konferenci WMT21.
CUNI systems for WMT21: Terminology translation Shared Task
Systémy UK pro WMT21: Překlad terminologie
Year: 2021
Authors: Josef Jon, Michal Novák, João Paulo de Souza Aires, Dušan Variš, Ondřej Bojar

Abstract (English):
This  paper  describes  Charles  University  submission for Terminology translation Shared Task at WMT21.  The objective of this task is to design a system which translates certain terms based on a provided terminology database, while preserving high overall translation quality. We competed in English-French language pair. Our approach is based on providing the desired translations alongside the input sentence and  training the model to use these provided terms. We lemmatize the terms both during the training and inference, to allow the model to learn how to produce correct surface forms of the words, when they differ from the forms provided in the terminology database. Our submission ranked second in Exact Match metric which evaluates the ability of the model to produce desired terms in the translation.

Abstract (Czech):
Článek popisuje příspěvek Univerzity Karlovy do soutěže v překladu terminologie na konferenci WMT21.
CUNI-MTIR at COVID-19 MLIA @ Eval Task 3
Tým CUNI-MTIR v soutěži COVID-19 MLIA @ Eval Task 3
Year: 2021
Authors: Shadi Saleh, Hashem Sellat, Hadi Abdi Khojasteh, Pavel Pecina

Abstract (English):
This paper describes the participation of our team (CUNIMTIR) in the COVID-19 MILA Machine Translation (MT) task. We present our implementation of four systems (English into French, German, Swedish and Spanish) in both constrained and unconstrained settings. We employ the Marian implementation of the Transformer model to train the constrained systems in the given training data (MLIA MT parallel data), while in the unconstrained systems, we use external medicaldomain training data for the base models and then fine-tune those models using MLIA MT data

Abstract (Czech):
Tento článek popisuje účast týmu CUNI-MTIR v soutěži COVID-19 MLIA @ Eval Task 3.
CUNI-MTIR at COVID-19 MLIA @ Eval Task 2
Tým CUNI-MTIR v soutěži COVID-19 MLIA @ Eval Task 2
Year: 2021
Authors: Shadi Saleh, Hadi Abdi Khojasteh, Hashem Sellat, Pavel Pecina

Abstract (English):
The multi-lingual search task in MLIA Community Effort aims at improving
COVID-19 related information access for searchers in multi-lingual settings [3].
We choose in our participation to build a monolingual system where we index
the provided English documents and use the English queries for retrieval (monolingual system) then we design five runs in the monolingual settings.
As for the bilingual task, we design five runs where the documents are in English, and the queries are translated into English following the query-translation
approach.

Abstract (Czech):
Tento článek popisuje účast týmu CUNI-MTIR v soutěži COVID-19 MLIA @ Eval Task 2.
Artificial creative intelligence
Umělá kreativní inteligence
Year: 2021
Authors: Tomáš Studeník, Rudolf Rosa, Tomáš Musil, David Košťák, Martina Kinská

Abstract (English):
Can AI create works of art? Music, painting, literature, film, theatre? Or something completely new? Can a neural net stir emotions? Engage the machines in the creation along with the THEaiTRE challenge guarantor.

Abstract (Czech):
Dokáže AI tvořit umělecká díla? Hudbu, malířství, literaturu, film, divadlo? Nebo něco úplně nového? Dokáže neuronová síť vzbudit emoce? Zapojte stroje do tvorby spolu s garantem výzvy THEaiTRE.
Representations of Meaning in Neural Networks for NLP: a Thesis Proposal
Reprezentace významu v neuronových sítích pro NLP
Year: 2021
Authors: Tomáš Musil

Abstract (English):
Neural networks are the state-of-the-art method of machine learning for many problems in NLP. Their success in machine translation and other NLP tasks is phenomenal, but their interpretability is challenging. We want to find out how neural networks represent meaning. In order to do this, we propose to examine the distribution of meaning in the vector space representation of words in neural networks trained for NLP tasks. Furthermore, we propose to consider various theories of meaning in the philosophy of language and to find a methodology that would enable us to connect these areas.

Abstract (Czech):
Neuronové sítě jsou nejmodernější metodou strojového učení pro mnoho problémů v NLP. Jejich úspěch ve strojovém překladu a dalších úlohách NLP je fenomenální, ale jejich interpretovatelnost je náročná. Chceme zjistit, jak neuronové sítě reprezentují význam. Za tímto účelem navrhujeme prozkoumat rozložení významu ve vektorovém prostoru reprezentace slov v neuronových sítích trénovaných pro úlohy NLP. Dále navrhujeme zvážit různé teorie významu ve filosofii jazyka a najít metodologii, která by nám umožnila tyto oblasti propojit.
Shades of BLEU, Flavours of Success: The Case of MultiWOZ
Odstíny BLEU, příchutě Success: případ MultiWOZ
Year: 2021
Authors: Tomáš Nekvinda, Ondřej Dušek

Abstract (English):
The MultiWOZ dataset (Budzianowski et al.,2018) is frequently used for benchmarking context-to-response abilities of task-oriented dialogue systems. In this work, we identify inconsistencies in data preprocessing and reporting of three corpus-based metrics used on this dataset, i.e., BLEU score and Inform & Success rates. We point out a few problems of the MultiWOZ benchmark such as unsatisfactory preprocessing, insufficient or under-specified evaluation metrics, or rigid database. We re-evaluate 7 end-to-end and 6 policy optimization models in as-fair-as-possible setups, and we show that their reported scores cannot be directly compared. To facilitate comparison of future systems, we release our stand-alone standardized evaluation scripts. We also give basic recommendations for corpus-based benchmarking in future works.

Abstract (Czech):
Dataset MultiWOZ (Budzianowski et al.,2018) je často užíván na poměřování schopností generovat odpověď z kontextu v případě dialogových systému zaměřených na úkoly. V této práci identifikujeme nekonzistence v předzpracování dat a reportování tří metrik založených na evaluačním korpusu, tj., BLEU skóre, míry Inform a míry Success, v kontextu tohoto datasetu. Poukazujeme na několik problémů benchmarku MultiWOZ jako je neuspokojivé předzpracování dat, nedostatečné nebo nedostatečně specifikované evaluační metriky, nebo neohebná databáze. Ve spravedlivých podmínkách jsme znovu vyhodnotili 7 end-to-end a 6 policy optimization modelů a ukázali jsme, že jejich původně reportovaná skóre nemohou být přímo srovnávána. Abychom ulehčili porovnávání budoucích systémů, zveřejňujeme naše soběstačné standardizované evaluační skripty. Rovněž dáváme základní doporučení pro budoucí vyhodnocování založená na evaluačním korpusu.