ufal/bilingual-abstracts-corpus huggingface dataset:
The Impact of Copyright and Personal Data Laws on the Creation and Use of Language Models
Dopad autorského práva a ochrany osobních údajů na tvorbu a užití jazykových modelů
Year: 2020
Authors: Aleksei Kelli, Arvi Tavast, Krister Lindén, Kadri Vider, Ramūnas Birštonas, Penny Labropoulou, Irene Kull, Gaabriel Tavits, Age Värv, Pavel Straňák, Jan Hajič

Abstract (English):
The authors address the legal issues relating to the creation and use of language models. The article begins with an explanation of the development of language technologies. The authors analyse the technological process within the framework copyright, related rights and personal data protection law. The authors also cover commercial use of language models. The authors’ main argument is that legal restrictions applicable to language data containing copyrighted material and personal data usually do not apply to language mod-els. Language models are not normally considered derivative works. Due to a wide range of language models, this position is not absolute.

Abstract (Czech):
Autoři se zabývají právními otázkami týkajícími se tvorby a používání jazykových modelů. Článek začíná vysvětlením vývoje jazykových technologií. Autoři analyzují technologický postup v rámci autorského práva, práv s ním souvisejících a práva na ochranu osobních údajů. Autoři se věnují také komerčnímu využití jazykových modelů. Hlavním argumentem autorů je, že právní omezení vztahující se na jazykové údaje obsahující materiály a osobní údaje chráněné autorským právem se obvykle nevztahují na jazykové modely. Jazykové modely nejsou obvykle považovány za odvozená díla. Vzhledem k široké škále jazykových modelů není tato pozice absolutní.
Scenario: Robot. In the Švanda theatre, an AI is writing a theatre play for the anniversary of R.U.R.
Scénář: Robot. Ve Švandově divadle píše hru k výročí R.U.R. umělá inteligence
Year: 2020
Authors: Ondřej Novotný, Rudolf Rosa, Tomáš Studeník

Abstract (English):
There's a new play coming up at the Švanda Theatre. It will premiere in January. But no one quite knows what it will be about yet. Its script doesn't originate in any human's mind. It's generated by artificial intelligence.

Abstract (Czech):
Ve Švandově divadle se chystá nová hra. Premiéru bude mít už v lednu. Ale nikdo ještě úplně neví, o čem přesně bude. Její scénář totiž nevzniká v hlavě žádného člověka. Generuje ho umělá inteligence.
Large-Scale Colloquial Persian 0.5
Large-Scale Colloquial Persian 0.5
Year: 2020
Authors: Hadi Abdi Khojasteh, Ebrahim Ansari, Mahdi Bohlouli

Abstract (English):
Large Scale Colloquial Persian Dataset" (LSCP) is hierarchically organized in asemantic taxonomy that focuses on multi-task informal Persian language understanding as a comprehensive problem. LSCP includes 120M sentences from 27M casual Persian tweets with its dependency relations in syntactic annotation, Part-of-speech tags, sentiment polarity and automatic translation of original Persian sentences in five different languages (EN, CS, DE, IT, HI).

Abstract (Czech):
„Large Scale Colloquial Persian Dataset“ (LSCP) je hierarchicky uspořádán do asemantické taxonomie, která se zaměřuje na víceúčelové neformální porozumění perskému jazyku jako komplexní problém. LSCP zahrnuje 120 milionů vět z 27 milionů příležitostných perských tweetů se svými závislostními vztahy ve syntaktické anotaci, tagy řeči, polaritu sentimentu a automatický překlad původních perských vět do pěti různých jazyků (EN, CS, DE, IT, HI).
LSCP: Enhanced Large Scale Colloquial Persian Language Understanding
LSCP: Vylepšené hovorové porozumění perskému jazyku ve velkém měřítku
Year: 2020
Authors: Hadi Abdi Khojasteh, Ebrahim Ansari, Mahdi Bohlouli

Abstract (English):
Language recognition has been significantly advanced in recent years by means of modern machine learning methods such as deep
learning and benchmarks with rich annotations. However, research is still limited in low-resource formal languages. This consists of
a significant gap in describing the colloquial language especially for low-resourced ones such as Persian. In order to target this gap
for low resource languages, we propose a “Large Scale Colloquial Persian Dataset” (LSCP). LSCP is hierarchically organized in a
semantic taxonomy that focuses on multi-task informal Persian language understanding as a comprehensive problem. This encompasses
the recognition of multiple semantic aspects in the human-level sentences, which naturally captures from the real-world sentences. We
believe that further investigations and processing, as well as the application of novel algorithms and methods, can strengthen enriching
computerized understanding and processing of low resource languages. The proposed corpus consists of 120M sentences resulted from
27M tweets annotated with parsing tree, part-of-speech tags, sentiment polarity and translation in five different languages.

Abstract (Czech):
Rozpoznávání jazyků v posledních letech významně pokročilo pomocí moderních metod strojového učení, jako je deep learning a měřítka s bohatými anotacemi. Výzkum je však ve formálních jazycích s nízkými zdroji stále omezený. Skládá se z
významná mezera v popisu hovorového jazyka, zejména pro ty s nízkými zdroji, jako je perština. Aby bylo možné tuto mezeru zacílit
pro jazyky s nízkými zdroji navrhujeme „Large Scale Colloquial Persian Dataset“ (LSCP). LSCP je hierarchicky uspořádán do a
sémantická taxonomie, která se zaměřuje na víceúčelové neformální porozumění perskému jazyku jako komplexní problém. To zahrnuje uznání několika sémantických aspektů ve větách na lidské úrovni, které přirozeně zachycuje z vět z reálného světa. Věříme, že další vyšetřování a zpracování, stejně jako aplikace nových algoritmů a metod, může posílit obohacení počítačového porozumění a zpracování jazyků s nízkými zdroji. Navrhovaný korpus se skládá ze 120 milionů vět vycházejících z 27 milionů tweetů anotovaných stromem analýzy, tagy řeči, polaritou sentimentu a překladem do pěti různých jazyků.
Morphological Networks for Persian and Turkish: What Can Be Induced from Morpheme Segmentation?
Morfologické sítě pro perštinu a turečtinu
Year: 2020
Authors: Hamid Haghdoost, Ebrahim Ansari, Zdeněk Žabokrtský, Mahshid Nikravesh, Mohammad Mahmoudi

Abstract (English):
In this work, we propose an algorithm that induces morphological networks for Persian and Turkish. The algorithm uses morpheme-segmented lexicons for the two languages. The resulting networks capture both derivational and inflectional relations. The network induction algorithm can use either manually annotated lists of roots and affixes, or simple heuristics to distinguish roots from affixes. We evaluate both variants empirically. We use our large hand-segmented set of word forms in the experiments with Persian, which is contrasted with employing only a very limited manually segmented lexicon for Turkish that existed previously. The network induction algorithm uses gold segmentation data for initializing the networks, which are subsequently extended with additional corpus attested word forms that were unseen in the segmented data. For this purpose, we use existing morpheme-segmentation tools, namely supervised and unsupervised version of Morfessor, and (unsupervised) MorphSyn.
The experimental results show that the accuracy of segmented initial data influences derivational network quality.

Abstract (Czech):
V této práci navrhujeme algoritmus pro indukci morfologických sítí pro perštinu a turečtinu. Algoritmus využívá slovníky s morfematickou segmentací. Výsledná síť zachycuje jak derivační, tak flektivní relace. Algoritmus pro indukci sítě vychází buď z automaticky rozlišených afixů a kořenů, nebo z jednoduché klasifikační heuristiky. Obě varianty jsou empiricky vyhodnoceny. Pro perštinu používáme vlastní velký ručně segmentovaný slovník, pro turečtinu menší slovník publikovaný dříve. Ručně anotovaná data jsou algoritmem využita pro inicializaci sítě, která je následně rozšířena o formy pozorované v korpusech. Slovní formy, které nebyly přítomny v ručně anotovaných datech, segmentujeme řízenou i neřízenou verzí segmentačního nástroje Morfessor a nástrojem MorphSyn. Experimentální výsledky ukazují, jak inicializace ručně segmentovanými daty ovlivňuje finální kvalitu vygenerovaných sítí.
COSTRA 1.0: A Dataset of Complex Sentence Transformations
COSTRA 1.0: Dataset komplexních transformací vět
Year: 2020
Authors: Petra Barančíková, Ondřej Bojar

Abstract (English):
We present COSTRA 1.0, a dataset of complex sentence transformations. The dataset is intended for the study of sentence-level embeddings beyond simple word alternations or standard paraphrasing. This first version of the dataset is limited to sentences in Czech but the construction method is universal and we plan to use it also for other languages.

The dataset consists of 4,262 unique sentences with an average length of 10 words, illustrating 15 types of modifications, such as simplification, generalization, or formal and informal language variation. The hope is that with this dataset, we should be able to test semantic properties of sentence embeddings and perhaps even to find some topologically interesting ''skeleton'' in the sentence embedding space. A preliminary analysis using LASER, multi-purpose multi-lingual sentence embeddings suggests that the LASER space does not exhibit the desired properties

Abstract (Czech):
V tomto článku je představena COSTRA 1.0, dataset komplexních transformací vět. Dataset je určen ke studiu větných embeddingů nad rámec jednoduchých výměn slov nebo standardních parafrází.  COSTRA 1.0 obsahuje pouze věty v češtině, ale metoda konstrukce je univerzální a plánujeme ji použít i pro jiné jazyky.

Dataset obsahuje 4262 unikátních vět s průměrnou délkou 10 slov, ilustrujících 15 typů úprav, jako je zjednodušení, zobecnění nebo formální a neformální jazykové variace. Doufáme, že s tímto datovým souborem bychom měli být schopni otestovat sémantické vlastnosti větných embeddingů a možná dokonce najít nějaké topologicky zajímavé '' kostry '' v prostoru větných embeddingů. Předběžná analýza s využitím mnohojazyčných větných embeddingů LASER naznačuje, že nevykazuje požadované vlastnosti
Costra 1.1: An Inquiry into Geometric Properties of Sentence Spaces
Costra 1.1: Zkoumání geometrických vlastností prostorů vět
Year: 2020
Authors: Petra Barančíková, Ondřej Bojar

Abstract (English):
In this paper, we present a new dataset for testing geometric properties of sentence embeddings spaces. In particular, we concentrate on examining how well sentence embeddings capture complex phenomena such paraphrases, tense or generalization. 
The dataset is a direct expansion of Costra 1.0, which we extended with more sentences and sentence comparisons.
We show that available off-the-shelf embeddings do not possess essential attributes such as having synonymous sentences embedded closer to each other than similar sentences with a significantly different meaning. 
On the other hand, some embeddings appear to capture the linear order of sentence aspects such as style (formality and simplicity of the language) or time (past to future).

Abstract (Czech):
V tomto článku představujeme nový dataset pro testování geometrických vlastností prostorů vět. Zaměřujeme se zejména na to, jak jsou v rámci větných embeddingů interpretovány komplexní jevy, jako jsou parafrázy, časy nebo zobecnění.
Dataset je přímým rozšířením Costra 1.0, kterou jsme obohatili o další vět a jejich porovnání.
Ukazujeme, že dostupným předtrénovaným větným embeddingům chybí základní předpoklad, aby synonymní věty byly zanořeny blíže k sobě než věty s výrazně odlišným významem.
Na druhou stranu se zdá, že některé embeddingy respektují lineární pořadí větných jevů jako je styl (formálnost a jednoduchost jazyka) nebo čas (minulost do budoucnosti).
Document Translation vs. Query Translation for Cross-Lingual Information Retrieval in the Medical Domain
Překlad dokumentů a překlad dotazů jako dva přístupy ve vícejazyčném vyhledávání informací
Year: 2020
Authors: Shadi Saleh, Pavel Pecina

Abstract (English):
We present a thorough comparison of two principal approaches to Cross-Lingual Information Retrieval: document translation (DT) and query translation (QT). Our experiments are conducted using the cross-lingual test collection produced within the CLEF eHealth information retrieval tasks in 2013–2015 containing English documents and queries in several European languages. We exploit the Statistical Machine Translation (SMT) and Neural Machine Translation (NMT) paradigms and train several domain-specific and task-specific machine translation systems to translate the non-English queries into English (for the QT approach) and the English documents to all the query languages (for the DT approach). The results show that the quality of QT by SMT is sufficient enough to outperform the retrieval results of the DT approach for all the languages. NMT then further boosts translation quality and retrieval quality for both QT and DT for most languages, but still, QT provides generally better retrieval results than DT.

Abstract (Czech):
Porovnáváme dva základní přístupy k vícejazyčnému vyhledávání informací: překlad dokumentů (DT) a překlad dotazů (QT). Naše experimenty jsou prováděny na datech CLEF eHealth 2013–2015, které obsahují anglické dokumenty a dotazy v několika evropských jazycích. S použitím Statistického strojového překladu (SMT) a Neurálního strojového překladu (NMT) a trénujeme několik systémů strojového překladu pro překlad neanglických dotazů do angličtiny (QT) a anglických dokumentů do jazyků dotazů (DT). Výsledky ukazují, že kvalita QT pomocí SMT je dostatečná k překonání výsledků vyhledávání s DT pro všechny jazyky. NMT pak dále zvyšuje kvalitu překladu a kvalitu vyhledávání pro QT i DT pro většinu jazyků, QT ale stále poskytuje obecně lepší výsledky vyhledávání než DT.
THEaiTRE: A theatre play written entirely by machines
THEaiTRE: Divadelní hra napsaná výhradně stroji
Year: 2020
Authors: Ingrid Fadelli, Rudolf Rosa

Abstract (English):
Researchers at Charles University, Švanda Theater and the Academy of Performing Arts in Prague are currently working on an intriguing research project that merges artificial intelligence and robotics with theater. Their project's main objective is to use artificial intelligence to create an innovative theatrical performance, which is expected to premiere in January 2021.

Abstract (Czech):
Výzkumní pracovníci Univerzity Karlovy, Švandova divadla a Akademie múzických umění v Praze v současné době pracují na zajímavém výzkumném projektu, který spojuje umělou inteligenci a robotiku s divadlem. Hlavním cílem jejich projektu je využít umělou inteligenci k vytvoření inovativního divadelního představení, které by mělo mít premiéru v lednu 2021.
One Model, Many Languages: Meta-learning for Multilingual Text-to-Speech
Jeden model, mnoho jazyků: meta-učení pro vícejazyčnou syntézu řeči
Year: 2020
Authors: Tomáš Nekvinda, Ondřej Dušek

Abstract (English):
We introduce an approach to multilingual speech synthesis which uses the meta-learning concept of contextual parameter generation and produces natural-sounding multilingual speech using more languages and less training data than previous approaches. Our model is based on Tacotron 2 with a fully convolutional input text encoder whose weights are predicted by a separate parameter generator network. To boost voice cloning, the model uses an adversarial speaker classifier with a gradient reversal layer that removes speaker-specific information from the encoder. We arranged two experiments to compare our model with baselines using various levels of cross-lingual parameter sharing, in order to evaluate: (1) stability and performance when training on low amounts of data, (2) pronunciation accuracy and voice quality of code-switching synthesis. For training, we used the CSS10 dataset and our new small dataset based on Common Voice recordings in five languages. Our model is shown to effectively share information across languages and according to a subjective evaluation test, it produces more natural and accurate code-switching speech than the baselines.

Abstract (Czech):
Představujeme přístup k vícejazyčné syntéze řeči, který využívá koncepce meta-učení  – generování parametrů na základě kontextu – a produkuje přirozeně znějící vícejazyčnou řeč s využitím více jazyků a méně trénovacích dat než předchozí přístupy. Náš model je založen na Tacotronu 2 s plně konvolučním enkodérem vstupního textu, jehož váhy jsou predikovány samostatnou sítí – generátorem parametrů. Pro zlepšení klonování hlasu napříč jazyky náš model používá adversariální klasifikaci mluvčího s vrstvou obracející gradienty, která z enkodéru odstraňuje informace specifické pro daného mluvčího. Provedli jsme dva experimenty, abychom náš model porovnali s baseliny používajícími různé úrovně sdílení parametrů napříč jazyky a přitom vyhodnotili: 1) stabilitu a výkonnost při trénování na malém množství dat, 2) přesnost výslovnosti a kvalitu hlasu při code-switchingu (změně jazyka uprostřed věty). Pro trénování jsme použili dataset CSS10 a náš nový malý dataset založený na nahrávkách Common Voice v pěti jazycích. Ukazujeme, že náš model efektivně sdílí informace napříč jazyky a podle subjektivní evaluace vytváří přirozenější a přesnější vícejazyčnou řeč než baseliny.
Proceedings of the 1st Workshop on Evaluating NLG Evaluation
Sborník z 1. workshopu o evaluaci evaluace generování jazyka
Year: 2020
Authors: Shubham Agarwal, Ondřej Dušek, Sebastian Gehrmann, Dimitra Gkatzia, Ioannis Konstas, Emiel van Miltenburg, Sashank Santhanam, Samira Shaikh

Abstract (English):
The aim of the workshop is to offer a platform for discussions on the status and the future of the evaluation of Natural Language Generation (NLG) systems. The workshop invited archival papers and abstracts on NLG evaluation including best practices of human evaluation, qualitative studies, cognitive bias in human evaluations etc.  The workshop received twelve submissions. Ten papers and abstracts were accepted and were presented as posters at the workshop. This proceedings volume contains the five archival papers.

Abstract (Czech):
Cílem workshopu je nabídnout platformu pro diskuse o stavu a budoucnosti hodnocení systémů generování přirozeného jazyka (NLG). Workshop vyzýval k pubilkaci jak archivních článků, tak abstraktů, zaměřených na evaluaci NLG včetně osvědčených postupů lidského hodnocení, kvalitativních studií, kognitivního zkreslení při lidském hodnocení atd. Sešlo se 12 přihlášených prezentací, bylo přijato deset článků a abstraktů, které byly na workshopu prezentovány jako postery. Tento sborník obsahuje pět archivních článků.
Multi-Lingual MT Research at ÚFAL, Charles University
Výzkum mnohojazyčného strojového překladu na ÚFALu
Year: 2020
Authors: Ondřej Bojar

Abstract (English):
In my talk, I will summarize our recent activities in text and speech
translation. I will start with the EU project ELITR (https://elitr.eu/) where we
are aiming at highly multi-lingual live translation of speech, highlighting the
technical challenges (you probably know all of them) but I will also touch upon
getting a better input from the end users so that better translation quality is
possible (our activity on 'outbound translation' in the EU project Bergamot,
https://browser.mt/). Finally, I will ask for collaboration on my
overall basic-research quest: to get the meaning right and to model it in a more
human-like way.

Abstract (Czech):
Ve svém projevu shrnu naše nedávné aktivity v překladu textu a řeči. Začnu projektem EU ELITR (https://elitr.eu/), kde se zaměřujeme na vysoce mnohojazyčný živý překlad řeči, který upozorňuje na technické problémy (pravděpodobně je všechny znáte), ale dotknu se i toho, jak získat lepší vstupy od koncových uživatelů, aby byla možná lepší kvalita překladu (naše aktivita na "odchozím překladu" v projektu EU Bergamot, https://browser.mt/). Na závěr požádám o spolupráci na svém celkovém úkolu základního výzkumu: správně určit význam a modelovat ho lidštějším způsobem.
ELITR: European Live Translator
Projekt ELITR: European Live Translator
Year: 2020
Authors: Ondřej Bojar, Dominik Macháček, Sangeet Sagar, Otakar Smrž, Jonáš Kratochvíl, Ebrahim Ansari, Dario Franceschini, Chiara Canton, Ivan Simonini, Thai-Son Nguyen, Felix Schneider, Sebastian Stüker, Alex Waibel, Barry Haddow, Rico Sennrich, Philip Williams

Abstract (English):
ELITR (European Live Translator) project
aims to create a speech translation system
for simultaneous subtitling of conferences
and online meetings targetting up to 43
languages. The technology is tested by
the Supreme Audit Office of the Czech Republic and by alfaview®, a German online
conferencing system. Other project goals
are to advance document-level and multilingual machine translation, automatic
speech recognition, and meeting summarization.

Abstract (Czech):
Strojový překlad:

Projekt ELITR (European Live Translator)
usiluje o vytvoření systému pro překlad řeči
pro současné titulkování konferencí
a on-line schůzky až do 43
jazyků. Technologii testuje společnost
Nejvyššího kontrolního úřadu ČR a prostřednictvím alfaview®, německého online
konferenční systém. Další cíle projektu
mají posunout úroveň dokumentů a vícejazyčný strojový překlad, automatický
rozpoznávání řeči a shrnutí setkání.
MorfFlex CZ 2.0
MorfFlex CZ 2.0
Year: 2020
Authors: Jan Hajič, Jaroslava Hlaváčová, Marie Mikulová, Milan Straka, Barbora Štěpánková

Abstract (English):
MorfFlex CZ (the latest version is MorfFlex CZ 2.0)  is the Czech morphological dictionary developed originally by Jan Hajič as a spelling checker and lemmatization dictionary. MorfFlex is a flat list of lemma-tag-wordform triples. For each wordform, full inflectional information is coded in a positional tag. Wordforms are organized into entries (paradigm instances or paradigms in short) according to their formal morphological behavior. The paradigm (set of wordforms) is identified by a unique lemma. Apart from traditional morphological categories, the description also contains some semantic, stylistic and derivational  information.

Abstract (Czech):
MorfFlex CZ 2.0 je český morfologický slovník, který původně vyvinul Jan Hajič jako slovník kontroly pravopisu a lemmatizace. MorfFlex je seznam trojic lemma-značka-slovní forma. Pro každou slovní formu je kompletní morfologická informace kódována poziční značkou. Slovní formy jsou uspořádány do skupin (paradigma instancí nebo paradigmat ve zkratce) podle jejich formálního morfologického chování. Paradigma (množina slovník forem) je identifikováno jedinečným lemmatem. Kromě tradičních morfologických kategorií obsahuje popis také některé sémantické, stylistické a odvozené informace.