Unsupervised Word Sense Disambiguation Using Word Embeddings

Neřízená lexikální desambiguace s využitím vektorové reprezentace slov

Word sense disambiguation is the task of assigning the correct sense of a polysemous word in the context in which it appears. In recent years, word embeddings have been applied successfully to many NLP tasks. Thanks to their ability to capture distributional semantics, more recent attention have been focused on utilizing word embeddings to disambiguate words.
In this paper, a novel unsupervised method is proposed to disambiguate words from the first language by deploying a trained word embeddings model of the second language using only a bilingual dictionary. While the translated words are useful clues for the disambiguation process, the main idea of this work is to use the information provided by English-translated surrounding words to disambiguate Persian words using trained English word2vec; well-known word embeddings model. Each translation of the polysemous word is compared against word embeddings of translated surrounding words to calculate word similarity scores and the most similar word to vectors of translated surrounding words is selected as the correct translation. This method only requires a raw corpus and a bilingual dictionary to disambiguate the word under question. The experimental results on a manually-created test dataset demonstrate the accuracy of the proposed method.

Lexikální desambiguace je úlohu, při které má být zvolen ten význam slova, který je v daném kontextu relevantní. V posledních letech můžeme pozorovat úspěšnou aplikaci vektorových reprezentací slov napříč různými úlohami v oblasti zpracování přirozeného jazyka. Vzhledem ke schopnosti těchto vektorových reprezentací odrážet distribuční sémantiku byla v nedávné době věnovaná pozornost i možnosti využití pro lexikální desambiguaci. V tomto článku navrhujeme novou neřízenou metodu pro lexikální desambiguace v jednom jazyce s využitím vektorových reprezentací natrénovaných pro jiný jazyk a překladového slovníku. V našich experimentech byly pro lexikální desambiguaci perských slov využity vektorové reprezentace anglických překladů slov z blízkého kontextu. Každý možný překlad polysémního slova je porovnán s vektorovými reprezentacemi okolních slov, z toho je vygenerováno podobnostní skóre, přičemž překladový ekvivalent s nejvyšším skóre reprezentuje zvolený význam. Tato metoda vyžaduje pouze neznačkovaný korpus a překladový slovník. Úspěšnost našeho přístupu je ilustrovaná na malém vzorku ručně desambiguovaných dat.

Behzad Moradi
Ebrahim Ansari
Zdeněk Žabokrtský


AGRR-2019: Automatic Gapping Resolution for Russian

AGRR-2019: Automatické rozlišení mezer pro ruštinu

The 2019 Shared Task on Automatic Gapping Resolution for Russian (AGRR2019) aims to tackle non-trivial linguistic phenomenon, gapping, that occurs in coordinated structures and elides a repeated predicate, typically
from the second clause.
In this paper, we define the task and evaluation metrics, provide detailed
information on data preparation, annotation schemes and methodology,
analyze the results and describe different approaches of the participating
solutions.

ílem sdíleného úkolu o automatickém rozlišení mezer v ruštině (AGRR2019) v roce 2019 je boj proti netriviálnímu lingvistickému jevu, který se vyskytuje v koordinovaných strukturách, a eliminuje opakovaný predikát, obvykle
z druhé věty.
V tomto článku definujeme metriku úkolů a hodnocení, poskytujeme podrobné informace
informace o přípravě údajů, schématech anotace a metodice,
analyzovat výsledky a popsat různé přístupy účastníka
řešení.

Ivan Smurov
Maria Ponomareva
Tatiana Shavrina
Kira Droganova


Úskalí vyhodnocování strojového překladu

Virtually all MT evaluation metrics and techniques, both automatic and manual, have their own perils.
Some of the perils can be considered biases if there are MT systems which can (unfairly) benefit from a given evaluation aspects. In my presentation, I focus on the following aspects of evaluations: sentence-level vs. document-level vs.
document-aware, source-based vs. reference-based, direct assessment vs. comparison-based, fluency-biased vs. adequacy-biased. I also discuss the aspect of translationese and native target/source-language translators and evaluators.

Prakticky všechny metriky a techniky hodnocení strojového překladu, automatické i manuální, mají svá vlastní nebezpečí. Některá nebezpečí lze považovat za podjatá, pokud existují systémy MT, které mohou (nespravedlivě) těžit z daných aspektů hodnocení. Ve své prezentaci se zaměřuji na následující aspekty: hodnocení na úrovni vět vs. dokumentu (document-level vs. document-aware evaluation), source-based vs. reference-based, přímé hodnocení vs. hodnocení založené na srovnávání, plynulost vs. přesnost. Zabývám se také aspektem překladštiny (translationese) a rodným jazykem překladatelů a hodnotitelů.


English-Czech Systems in WMT19: Document-Level Transformer

Anglicko-český systém pro WMT19: Transformer na úrovni dokumentů

We describe our NMT systems submitted to the WMT19 shared task in English→Czech news translation. Our systems are based on the Transformer model implemented in either Tensor2Tensor (T2T) or Marian framework. We aimed at improving the adequacy and coherence of translated documents by enlarging the context of the source and target. Instead of translating each sentence independently, we split the document into possibly overlapping multi-sentence segments. In case of the T2T implementation, this “document-level”-trained system achieves a +0.6 BLEU improvement (p < 0.05) relative to the same system applied on isolated sentences. To assess the potential effect document-level models might have on lexical coherence, we performed a semi-automatic analysis,  which revealed only a few sentences improved in this aspect. Thus, we cannot draw any conclusions from this week evidence.

Článek popisuje CUNI NMT systémy pro překlad z angličtiny do češtiny zaslané na WMT 2019 News Translation Shared Task. Systémy jsou založené na architektuře Transformer a její implementaci ve frameworcích Tensor2Tensor (T2T) a Marian. Snahou bylo zlepšit adekvátnost a koherenci přeložených dokumentů rozšířením kontextu na zdrojové a cílové straně. Namísto překladu izolovaných vět překládají popisované systémy potenciálně překrývající se vícevětné segmenty. V případě T2T implementace dosahuje takto trénovaný systém oproti systému trénovaném na izolovaných větách vylepšení +0.6 BLEU (p < 0.05). Poloautomatická analýza lexikální koherence odhalila jen málo příkladů, kde systém s větším kontext opravil chybu systému překládajíchího izolované věty.

Martin Popel
Dominik Macháček
Michal Auersperger
Ondřej Bojar
Pavel Pecina


Domain Adaptation of Document-Level NMT in IWSLT19

Doménová adaptace dokumentového neuronového strojového překladu v IWSLT19

We describe our four NMT systems submitted to the IWSLT19 shared task in English→Czech text-to-text translation of TED talks. The goal of this study is to understand the interactions between document-level NMT and domain adaptation. All our systems are based on the Transformer model implemented in the Tensor2Tensor framework. Two of the systems serve as baselines, which are not adapted to the TED talks domain: SENTBASE is trained on single sentences, DOCBASE on multi-sentence (document-level) sequences. The other two submitted systems are adapted to TED talks: SENTFINE is fine-tuned on single sentences, DOCFINE is fine-tuned on multi-sentence sequences. We present both automatic-metrics evaluation and manual analysis of the translation quality, focusing on the differences between the four systems.

Popisujeme naše čtyři systémy neuronového strojového překladu (NMT), které jsme odeslali do shared tasku IWSLT19 pro anglicko-český překlad  TED Talks. Cílem této studie je porozumět interakcím mezi NMT na úrovni dokumentů a doménovou adaptací. Všechny naše systémy jsou založeny na modelu Transformer implementovaném ve frameworku Tensor2Tensor. Dva ze systémů slouží jako baseline a nejsou přizpůsobeny doméně TED Talks: SENTBASE je trénován na jednotlivých větách, DOCBASE na vícevětných (document-level) sekvencích. Další dva předložené systémy jsou přizpůsobeny doméně TED Talks: SENTFINE je adaptován na jednotlivých větách, DOCFINE na vícevětných sekvencích. Představujeme jak automatické metrické hodnocení, tak manuální analýzu kvality překladu se zaměřením na rozdíly mezi těmito čtyřmi systémy.


Unsupervised Pretraining for Neural Machine Translation Using Elastic Weight Consolidation

Předtrénování bez dohledu pro neuronový strojový překlad s využitím elastické konsolidace vah

This work presents our ongoing research of unsupervised pretraining in neural machine translation (NMT). In our method, we initialize the weights of the encoder and decoder with two language models that are trained with monolingual data and then fine-tune the model on parallel data using Elastic Weight Consolidation (EWC) to avoid forgetting of the original language modeling tasks. We compare the regularization by EWC with the previous work that focuses on regularization by language modeling objectives.

The positive result is that using EWC with the decoder achieves BLEU scores similar to the previous work. However, the model converges 2-3 times faster and does not require the original unlabeled training data during the finetuning stage.

In contrast, the regularization using EWC is less effective if the original and new tasks are not closely related. We show that initializing the bidirectional NMT encoder with a left-toright language model and forcing the model to remember the original left-to-right language modeling task limits the learning capacity of the encoder for the whole bidirectional context.

Tato práce představuje náš probíhající výzkum předtrénování bez dohledu v oblasti neuronového strojového překladu (NMT). Naše metoda inicializuje váhy enkodéru a dekodéru pomocí dvou jazykových modelů, které jsou trénovány na jednojazyčných datech. Celý model pak dolaďujeme na paralelních datech s pomocí elastické konsolidace vah (EWC), abychom zabránili zapomenutí původní úlohy jazykového modelování. Srovnáváme regularizaci EWC s předchozí prací, která se zaměřuje na regularizaci s pomocí optimalizačních cílů jazykového modelování.

Pozitivním výsledkem je, že použitím EWC s dekodérem dosáhneme podobných hodnot BLEU jako předchozí práce. Model však konverguje 2-3krát rychleji a nevyžaduje původní jednojazyčná data během dolaďování.

Oproti tomu je EWC regularizace méně účinná, pokud spolu původní a navazující úloha úzce nesouvisí. Ukazujeme, že inicializace obousměrného NMT enkodéru pomocí jednosměrného jazykového modelu a nucení modelu zapamatovat si původní úlohu modelování jazyka zleva doprava omezuje schopnosti enkodéru naučit se oboustranný kontext.


A Baseline for General Music Object Detection with Deep Learning

Porovnání obecné detekce objektů hudební notace pomocí hlubokého učení

Deep learning is bringing breakthroughs to many computer vision subfields including Optical Music Recognition (OMR), which has seen a series of improvements to musical symbol detection achieved by using generic deep learning models. However, so far, each such proposal has been based on a specific dataset and different evaluation criteria, which made it difficult to quantify the new deep learning-based state-of-the-art and assess the relative merits of these detection models on music scores. In this paper, a baseline for general detection of musical symbols with deep learning is presented. We consider three datasets of heterogeneous typology but with the same annotation format, three neural models of different nature, and establish their performance in terms of a common evaluation standard. The experimental results confirm that the direct music object detection with deep learning is indeed promising, but at the same time illustrates some of the domain-specific shortcomings of the general detectors. A qualitative comparison then suggests avenues for OMR improvement, based both on properties of the detection model and how the datasets are defined. To the best of our knowledge, this is the first time that competing music object detection systems from the machine learning paradigm are directly compared to each other. We hope that this work will serve as a reference to measure the progress of future developments of OMR in music object detection.

Hluboké učení přináší průlomy v mnoha podoborech strojového vidění, včetně rozpoznávání notopisu (Optical Music Recognition, OMR), kde bylo zaznamenáno množství pokroků v detekci notopisných symbolů pomocí obecných modelů hlubokého učení. Zatím však byly všechny tyto pokroky měřené pouze na některém z dostupných datasetů a využívaly různá evaluační kritéria, takže lze jen obtížně kvantifikovat nový stav poznání dosažený těmito metodami a porovnat jejich výhody a nevýhody v doméně hudební notace. V tomto článku prezentujeme  základní výsledky detekce symbolů hudební notace pomocí tří různých obecných detekčních modelů hlubokého učení, a to napříč třemi typologicky různými datasety, změřené standardizovaným postupem. Experimentální výsledky potvrzují, že přímá detekce notačních objektů pomocí hlubokého učení má velmi slibné výsledky, nicméně zároveň ilustruje omezení generických detektorů na této doméně. Kvalitativní porovnání poté naznačuje, jak detekci zlepšit: jak na základě vlastností detekčních modelů, tak na základě vlastností datasetů. Dle našich poznatků je toto poprvé, kdy je vícero špičkových metod detekce notačních objektů přímo porovnáváno. Doufáme, že tato práce bude sloužit jako reference pro měření dalších pokroků v OMR.

Alexander Pacha
Jan Hajič, jr.
Jorge Calvo-Zaragoza


Syntactic annotation of a second-language learner corpus

Our goal has been to annotate the CzeSL corpus according to the non-native grammar in the mind of the author, not according to the standard grammar. However, this brings many challenges. First, we do not have enough data to get reliable insights into the grammar of each author. Second, many phenomena are far more complicated than they are in native languages.

Naším cílem je anotace korpusu CzeSL podle gramatiky jazyka, se kterou pracuje nerodilý mluvčí, a ne podle standartní gramatiky. Tento přístup přináší několik problémů. Za prvé nemáme dostatek dat na to, abychom analyzovali gramatiky jednotlivých autorů. Za druhé v jazyce nerodilých mluvčí je podstatně více složitějších jevů  než v jazyce rodilých mluvčí.


Universal Dependencies and Non-Native Czech

Anotace češtiny nerodilých mluvčích pomocí formalismu UD

CzeSL is a learner corpus of texts produced by non-native speakers of Czech. Such corpora area great source of information about specific features of learners’ language, helping language teachers and researchers in the area of second language acquisition. In our project, we have focused on syntactic annotation of the non-native text within the framework of Universal Dependencies. As far as we know, this is a first project annotating a richly inflectional non-native language. Our ideal goal has been to annotate according to the non-native grammar in the mind of the author, not according to the standard grammar. However, this brings many challenges. First, we do not have enough data to get reliable insights into the grammar of each author. Second, many phenomena are far more complicated than they are in native languages.  We believe that the most important result of this project is not the actual annotation, but the guidelines and principles that can be used as a basis for other non-native languages.

CzeSL je žákovský korpus textů nerodilých mluvčích češtiny, který je cenným zdrojem unikátních znalostí o jazyce nerodilých mluvčích. Pomáhá pedagogům a výzkumníkům v oblasti osvojování druhého jazyka. V našem projektu se zaměřujeme na syntaktickou anotaci textů z CzeSL v rámci formalismu Universal Dependencies. Pokud je nám známo, jedná se o první pokus takové anotace pro jazyk s bohatou flexí. Naší ambicí je anotovat dle gramatiky, kterou používá nerodilý mluvčí, namísto standardní gramatiky. Relativné malé množství dat přináší celou řadu otázek.


The article describes the course of the 44th year of the Olympiad in the Czech Language, presenting its general settings as well as the tasks, their solutions, the approaches of the participants and the names of the winners.

Článek popisuje průběh 44. ročníku Olympiády v českém jazyce. Představuje celkový průběh soutěže, soutěžní úkoly a jejich řešení, komentuje řešení účastníků soutěže a přináší jména vítězů celostátního kola.


We examine discourse connectives from the perspective of reference (i.e. a presence of an anaphoric/cataphoric element). We introduce a division of connectives into: i) connectives without an inherent (internal) reference (e.g. "and", "but", "or", "if", "however", "then"), and ii) connectives with an inherent (internal) reference that is either optional (e.g. "as a result" vs. "as a result of this"), or obligatory – cf. already grammaticalized connectives (i.e. primary connectives like "thereafter", "therefore" or "thereby") vs. not yet grammaticalized connectives (i.e. secondary connectives like "because of this", "for this reason").

Diskurzní konektory představujeme z pohledu reference (tj. přítomnosti anaforického nebo kataforického prvku). Diskurzní konektory dělíme na: 1) konektory bez interní reference (např. "a", "ale", "nebo", "jestli", "však", "pak") a 2) konektory s interní referencí, která může být fakultativní (např. "výsledkem je" vs. "výsledkem toho je") nebo obligatorní – srov. již gramatikalizované konektory (tj. primární konektory typu "potom", "proto", "tímto") i dosud ne zcela gramatikalizované konektory (tj. sekundární konektory typu "kvůli tomu", "z tohoto důvodu").


The Correlation between Discourse-Anaphoric Devices and an Overall Communicative Competence in Learners‘ Essays

Vztah mezi anaforickými diskurzními konektory a celkovou komunikační kompetencí ve studentských esejích

We introduce a contrastive study of text coherence in Czech and German. Specifically, we focus on the discourse-anaphoric devices (called anaphoric connectives) contributing to text coherence and we analyze their role in the overall communicative competence of both native and non-native speakers of Czech and German.

Článek se zabývá analýzou koherence textu v češtině a v němčině. Zaměřuje se na tzv. anaforické diskurzní konektory, které se významně podílejí na stavbě textu. Příspěvek analyzuje roli těchto konektorů v celkové komunikační kompetenci rodilých i nerodilých mluvčích češtiny a němčiny.


Primary and secondary discourse connectives: definitions and lexicons

Primární a sekundární konektory: definice a slovníky

Starting from the perspective that discourse structure arises from the presence of coherence relations, we provide a map of linguistic discourse structuring devices (DRDs), and then focus on those found  in  written  text: connectives. To subdivide  this  class  further, we  follow  the  recent idea of structuring the set of connectives by differentiating between primary and secondary connectives, on the one hand, and free connecting phrases, on the other. Considering examples from Czech, English, French and German, we develop definitions of these groups, with attention to certain cross-linguistic differences. For primary and secondary connectives, we propose that their behavior can be described to a large extent by declarative lexicons, and we demonstrate a concrete proposal which has been applied to five languages, with others currently being added in ongoing work. The lexical representations can be useful both for humans (theoretical investigations, transfer to other languages) and for machines (automatic discourse parsing and generation).

Koherentní text (diskurz) se skládá ze vzájemně propojených vztahů, které mohou být vyjádřeny explicitními jazykovými prostředky. V našem článku se zabýváme jedním typem těchto prostředků, diskurzními konektory. Přebíráme přitom dělení konektivních prostředků na primární konektory, sekundární konektory a volné konektivní fráze. Na základě dokladů z češtiny, angličtiny, francouzštiny a němčiny rozvíjíme definice těchto skupin, především s ohledem na mezijazykové rozdíly. U primárních a sekundárních konektorů navrhujeme způsob jejich zachycení ve slovnících. Představujeme konkrétní návrh vícejazyčného slovníku konektorů, do kterého je v současné době zapojeno pět různých jazyků. Další jazyky budou postupně přidávány.

Laurence Danlos
Kateřina Rysová
Magdaléna Rysová
Manfred Stede


Translating Short Segments with NMT: A Case Study in English-to-Hindi

Překlad krátkých segmentů pomocí NMT: Případová studie pro překlad z angličtiny do hindštiny

This paper presents a case study in translating short image captions of the Visual Genome dataset from English into Hindi using out-of-domain data sets of varying size. We experiment with three NMT models: the shallow and deep sequence-to-sequence and the Transformer model as implemented in Marian toolkit. Phrase-based Moses serves as the baseline. The results indicate that the Transformer model outperforms others in the large data setting in a number of automatic metrics and manual evaluation, and it also produces the fewest truncated sentences. Transformer training is however very sensitive to the hyperparameters, so it requires more experimenting. The deep sequence-to-sequence model produced more flawless outputs in the small data setting and it was generally more stable, at the cost of more training iterations.


Morphological and Language-Agnostic Word Segmentation for NMT

Morfologická a jazykově nezávislá segmentace slov pro NMT

The state of the art of handling rich morphology in neural machine translation (NMT) is to break word forms into subword units, so that the overall vocabulary size of these units fits the practical limits given by the NMT model and GPU memory capacity. In this paper, we compare two common but linguistically uninformed methods of subword construction (BPE and STE, the method implemented in Tensor2Tensor toolkit) and two linguistically-motivated methods: Morfessor and one novel method, based on a derivational dictionary. Our experiments with German-to-Czech translation, both morphologically rich, document that so far, the non-motivated methods perform better. Furthermore, we identify a critical difference between BPE and STE and show a simple pre-processing step for BPE that considerably increases translation quality as evaluated by automatic measures.

V současných neuronových systémech pro strojový překlad textů přirozeného jazyka (NMT) se morfologicky příbuzná slova zpracovávají jejich rozdělením na podslovní jednotky takovým způsobem, aby se slovník jednotek vešel do limitů daných zvoleným NMT modelem a do paměti grafické karty. V tomto článku srovnáváme dva nejobvyklejší, nelingvistické, způsoby vytváření podslovních jednotek (BPE a STE, metody implementované v nástroji Tensor2Tensor) se dvěma lingvisticky motivovanými způsoby: Nástrojem Morfessor a námi vyvinutou metodou založenou na derivačních vztazích. Naše experimenty s překladem z němčiny do češtiny, morfologicky bohatých jazyků, ukazují, že prozatím mají lepší výsledky nelingvistické metody. K tomu identifikujeme důležitý rozdíl mezi BPE a STE a ukazujeme, že jednoduché předzpracování textu před BPE výrazně zvyšuje kvalitu překladu vyhodnocovanou automatickými metrikami.

Dominik Macháček
Jonáš Vidra
Ondřej Bojar


Porovnání systémů pro neuronový strojový překlad

This work is a comparison of a quality and speed of  NMT systems Tensor2Tensor, Marian, Nematus, Neural Monkey and OpenNMT on two comparable translation tasks.

Tato práce porovnává kvalitu a rychlost systémů pro neuronový strojový překlad (Tensor2Tensor, Marian, Nematus, Neural Monkey, OpenNMT) na dvou srovnatelných překladových úlohách.

Dominik Macháček
Ondřej Bojar
Martin Popel
Tom Kocmi


Extracting Syntactic Trees from NMT Encoder Self-Attentions.
Extracting Syntactic Trees from NMT Encoder Self-Attentions.

Extrakce syntaktických struktur z self-attentions NMT enkodéru.
Extrakce syntaktických struktur z self-attentions NMT enkodéru.


Extracting Syntactic Trees from Transformer Encoder Self-Attentions. Extracting Syntactic Trees from Transformer Encoder Self-Attentions.

Extrakce syntaktických struktur z self-attentions enkodéru Transformeru. Extrakce syntaktických struktur z self-attentions enkodéru Transformeru


Multimodální převádění sekvencí na sekvence

This presentation summarizes output of the Grounded Sequence-to-Sequence Transduction team at the Fifth Fred Jelinek Memorial Summer Workshop. We combine written, spoken, and seen objects and actions in how-to videos: if we see a person slicing round, red objects and putting them on a brown surface, it is more likely that she or he is explaining how to make a sandwich than how to change a car tire. And we might learn that the red objects are called “tomatoes”. Our team  develop methods that exploit multimodality to process and analyze videos to accomplish three main tasks: speech captioning, video-to-text summarization and translation into a different language. These tasks are diverse but not unrelated. Therefore, we model them using a multi-task sequence-to-sequence learning framework where these (and other, auxiliary) tasks can benefit from shared representations.

Tato prezentace shrnuje závěry týmu Grounded Sequence-to-Sequence Transduction na pátém Fred Jelinek Memorial Summer Workshop. V prezentovaných modelech kombinujeme psaný text, mluvené slovo a objekty a akce v pozorované . Když vidíme, že člověk krájí červené předměty a umístí je na hnědý povrch, je pravděpodobné, že spíše vysvětluje, jak vyrobit sendvič, než jak změnit pneumatiku. A- mohli bychom se dozvědět, že červené předměty se nazývají "rajčata". Náš tým pracoval na vývoji metod, které využívají multimodální informace pro zpracování a analýzu videoklipů, ve třech hlavních lohách: rozpoznávání řeči, sumarizace videa a textu a překlad do jiného jazyka.

Loïc Barrault
Ozan Caglayan
Amanda Duarte
Desmond Elliott
Spandana Gella
Nils Holzenberger
Chiraag Lala
Sun Jae Lee
Jindřich Libovický
Pranava Madhyastha
Florian Metze
Karl Mulligan
Alissa Ostapenko
Shruti Palaskar
Ramon Sanabria
Lucia Specia
Josiah Wang


Using Adversarial Examples in Natural Language Processing

Použití adversálních příkladů ve zpracování přirozeného jazyka

Machine learning models have been providing promising results in many fields including natural language processing. These models are, nevertheless, prone to adversarial examples. These are artificially constructed examples which evince two main features: they resemble the real training data but they deceive already trained model. This paper investigates the effect of using adversarial examples during the training of recurrent neural networks whose text input is in the form of a sequence of word/character embeddings. The effects are studied on a compilation of eight NLP datasets whose interface was unified for quick experimenting. Based on the experiments and the dataset characteristics, we conclude that using the adversarial examples for NLP tasks that are modeled by recurrent neural networks provides a regularization effect and enables the training of models with greater number of parameters without overfitting. In addition, we discuss which combinations of datasets and model settings might benefit from the adversarial training the most.

Modely strojového učení přinášejí slibné výsledky v mnoha oborech včetně zpracování přirozeného jazyka. Tyto modely jsou nicméně náchylné k adversálním příkladům. Jedná se o uměle vytvořené příklady s dvěma důležitými vlastnostmi: podobají se skutečným tréninkovým příkladům, ale matou již natrénovaný model. Tento článek zkoumá účinek používání adversálních příkladů při tréninku rekurentních neuronových sítí, jejichž vstup je ve formě slovních či znakových embeddingů. Účinky jsou studovány na kompilaci osmi datasetů. Na základě experimentů a charakteristik datasetů dospíváme k závěru, že použití adversálních příkladů pro úkoly zpracování přirozeného jazyka, které jsou modelovány pomocí rekurentních neuronových sítí, přináší efekt regularizace a umožňuje trénovat modely s větším počtem parametrů bez overfittingu. Na závěr popisujeme, které kombinace datasetů a nastavení modelů by mohly mít z adversálního tréninku největší prospěch.

Petr Bělohlávek
Ondřej Plátek
Zdeněk Žabokrtský
Milan Straka


Results of the WMT18 Metrics Shared Task: Both characters and embeddings achieve good performance

Výsledky úlohy hodnocení kvality strojového překladu WMT17 Metrics Shared Task

This paper presents the results of the
WMT18
Metrics Shared Task.  We
asked participants of this task to score
the outputs of the MT systems in-
volved in the
WMT18
News Transla-
tion Task with automatic metrics. We
collected scores of 10 metrics and 8 re-
search groups. In addition to that, we
computed scores of 8 standard met-
rics (BLEU, SentBLEU, chrF, NIST,
WER, PER, TER and CDER) as base-
lines. The collected scores were eval-
uated in terms of system-level corre-
lation (how well each metric’s scores
correlate with
WMT18
official man-
ual ranking of systems) and in terms
of segment-level correlation (how often
a metric agrees with humans in judging
the quality of a particular sentence rel-
ative to alternate outputs). This year,
we employ a single kind of manual eval-
uation: direct assessment (DA).

Článek přináší výsledky soutěže ve vyhodnocování strojového překladu WMT18 Metrics Shared Task. Vyhodnocujeme 10 metrik získaných od 8 týmů a navíc 8 standardních metrik.


Lexicographic Potential of the Syntactic Properties of Verbs:  The Case of Reciprocity in Czech

Lexikografický potenciál syntaktických vlastností sloves: Případy reciprocity v češtině

In this paper, we deal with reciprocity, its representation in a lexicon and its possible contribution to the description of verbs.

Příspěvěk se zabývá otázkou, jak může syntaktická vlastnost sloves, jako je reciprocita, být promítnuta do slovníka a přispět k dalšímu popisu a klasifikaci sloves.


Between Reflexivity and Reciprocity: Towards an Analysis of Reflexive and Reciprocal Constructions of Selected Czech Verbs

Mezi reflexivitou a reciprocitou: Poznámky k reflexivním a recipročním konstrukcím vybraných českých sloves

In this article, we focus on two groups of Czech verbs, lexical and syntactic reciprocals. We provide an analysis of their syntactic properties with respect to reciprocity and reflexivity, their possible ambiguity and combination. We demonstrate that it is the reflexive pronoun and its surface expression that play a key role in the studied phenomena.

Na pozadí dvou skupin sloves, lexikálních a syntaktických reciprok v češtině, diskutujeme otázky homonymie a kombinovatelnosti reflexivity a reciprocity. Ukazujeme, že zdrojem homonymie i možnosti kombinace reflexivity a reciprocity je reflexivní zájmeno a že klíčovou úlohu sehrává jeho povrchověsyntaktická pozice.


Enriching VALLEX with Light Verbs: From Theory to Data and Back Again

Obohacení VALLEXu o kategoriální slovesa: Od teorie k datům a zpět

In this paper, we summarize a theoretical analysis of syntactic behavior of Czech light verb constructions and their verification in the data annotation of 1,500 Czech light verbs constructions, which have been integrated in VALLEX, version 3.5.

V tomto příspěvku shrnujeme teoretickou analýzu syntaktického chování českých komplexních predikátů s kategoriálním slovesem, která byla ověřena v anotaci 1500 komplexních predikátů. Tato anotace je součátí slovníku VALLEX, verze 3.5.

Václava Kettnerová
Markéta Lopatková
Eduard Bejček
Petra Barančíková


Towards Complement System in Contemporary Czech

Poznámky k systému tzv. komplementů v češtině

The talk dealt with the so-called complement system in Czech as it manifests in the data from the substitutability of dependent content clauses with infinitives.

Přednáška se zabývala tzv. komplementovým systémem v češtině, a to zejm. vztahem mezi závislými obsahovými klauzemi a infinitivy sloves.


The Forest Lion and the Bull: Morphosyntactic Annotation of the Panchatantra

Král lesů a buvol: Morfosyntaktická anotace Paňčatantry

We present the first freely available dependency treebank of Sanskrit. It is based on text from Panchatantra, an ancient Indian collection of fables. The annotation scheme we chose is that of Universal Dependencies, a current de-facto standard for cross-linguistically comparable morphological and syntactic annotation. In the present paper,
we discuss word segmentation issues, morphological inventory and certain interesting
syntactic constructions in the light of the Universal Dependencies guidelines. We also present an initial parsing experiment.

Popisujeme první volně dostupný závislostní korpus sanskrtu. Je založen na textech z Paňčatantry, starověké indické sbírky bajek. Zvolili jsme formalismus Universal Dependencies, který v současnosti představuje faktickou normu mezijazykově srovnatelné morfologické a syntaktické anotace. V článku probíráme obtíže se segmentací textu na slova, představujeme inventář morfologických kategorií, jakož i některé syntaktické konstrukce, které jsou zajímavé ve světle pravidel Universal Dependencies. Dále popisujeme experiment s automatickou syntaktickou analýzou (parsingem).


The PARSEME multilingual corpus of verbal multiword expressions

Mnohojazyčný korpus slovesných víceslovných výrazů PARSEME

Multiword expressions (MWEs) are known as a “pain in the neck” due to their idiosyncratic behaviour. While some categories of MWEs have been largely studied, verbal MWEs (VMWEs) such as to take a walk, to break one’s heart or to turn off have been relatively rarely modelled. We describe an initiative meant to bring about substantial progress in understanding, modelling and processing VMWEs. In this joint effort carried out within a European research network we elaborated a universal terminology and annotation methodology for VMWEs. Its main outcomes, available under open licenses, are unified annotation guidelines, and a corpus of over 5.4 million words and 62 thousand annotated VMWEs in 18 languages.

Článek popisuje mezinárodní projekt, který připravil univerzální terminologii a anotační postup pro slovesné víceslovné výrazy. Výstupem je korpus zveřejněný pod otevřenou licencí (18 jazyků, 5,4 milionů slov, 62 tisíc víceslovných výrazů) a univerzální anotační instrukce.

Agata Savary
Marie Candito
Verginica Barbu Mititelu
Eduard Bejček
Fabienne Cap
Slavomír Čéplö
Silvio Ricardo Cordeiro
Gülşen Cebiroğlu Eryiğit
Voula Giouli
Maarten van Gompel
Yaakov Ha-Cohen Kerner
Jolanta Kovalevskaitė
Simon Krek
Chaya Liebeskind
Johanna Monti
Carla Parra Escartín
Lonneke van der Plas
Behrang QasemiZadeh
Carlos Ramisch
Federico Sangati
Ivelina Stoyanova
Veronika Vincze


CUNI NMT System for WAT 2018 Translation Tasks

This paper describes the CUNI submission to WAT 2018 for the English-Hindi translation task using a transfer
learning techniques which has proven effective under low resource conditions. We have used the Transformer model and utilized an English-Czech parallel corpus as additional data source. Our simple transfer learning approach first trains a “parent” model for a high-resource
language pair (English-Czech) and then continues the training on the low-resource (English-Hindi) pair by replacing
the training corpus. This setup improves the performance compared with the baseline and in combination with back-translation of Hindi monolingual data, it allowed us to win the English-Hindi task. The automatic scoring by BLEU did not correlate well with human judgments.

Tento článek popisuje CUNI system na WAT 2018 pro překlad mezi angličtinou a Hindštinou. Náš systém využívá transfer learningu z anglicko-českého modelu. Využíváme technologii neuronového transformeru.
Náš systém začíná trénováním na jazykovém páru s mnoho paralelními daty, česko-anglickém, na který naváže jazykový pár s nedostatkem dat. Náš systém se umístil první podle lidského hodnocení.

Tom Kocmi
Shantipriya Parida
Ondřej Bojar


Trivial Transfer Learning for Low-Resource Neural Machine Translation

Jednoduché přetrénování překladových modelů pro jazyky s nedostatkem dat

Transfer learning has been proven as an effective
technique for neural machine translation
under low-resource conditions. Existing
methods require a common target language,
language relatedness, or specific training
tricks and regimes. We present a simple
transfer learning method, where we first train
a “parent” model for a high-resource language
pair and then continue the training on a lowresource
pair only by replacing the training
corpus. This “child” model performs significantly
better than the baseline trained for lowresource
pair only. We are the first to show
this for targeting different languages, and we
observe the improvements even for unrelated
languages with different alphabets.

Bylo dokázáno, že přetrénování natrénovaných modelů vede k zlepšení strojového překladu. Existující metody potřebují, aby zkoumané jazykové páry byly lingvisticky podobné. My představujeme přístup, který nepotřebuje lingvistickou podobnost jazyků ani specifické trénovací kroky.


UK systém pro překlad novinových článků WMT 2018

We participated in the WMT 2018 shared
news translation task in three language
pairs: English-Estonian, English-Finnish, and
English-Czech. Our main focus was the lowresource
language pair of Estonian and English
for which we utilized Finnish parallel
data in a simple method. We first train a
“parent model” for the high-resource language
pair followed by adaptation on the related lowresource
language pair. This approach brings
a substantial performance boost over the baseline
system trained only on Estonian-English
parallel data. Our systems are based on the
Transformer architecture. For the English
to Czech translation, we have evaluated our
last year models of hybrid phrase-based approach
and neural machine translation mainly
for comparison purposes.

Zúčastnili jsme se překladové soutěže WMT 2018 v překladu novinových článků. Zúčastnili jsme se v jazykových párech Angličtina-Estonština, Angličtina-Finština a Angličtina-Čeština. Náš hlavní cíl byly jazyky s nedostatkem trénovacích dat, tedy překlad mezi angličtinou a estonštinou.


CUNI Basque-to-English Submission in IWSLT18

We present our submission to the IWSLT18 Low Resource task focused on the translation from
Basque-to-English. Our submission is based on the current state-of-the-art self-attentive
neural network architecture, Transformer. We further improve this strong baseline by
exploiting available monolingual data using the back-translation technique. We also
present further improvements gained by a transfer learning, a technique that trains a model using a high-resource language pair (Czech-English) and then fine-tunes the model using the target low-resource language pair (Basque-English).

Představujeme náš překladový systém pro překlad z Baskičtiny do Angličtiny. K jeho natrénování jsme využili metodu přetrénování jiného překladového modelu, v našem případě anglicko-českého.


Adding Words to Manuscripts: From PagesXML to TEITOK

Přidávání slov k rukopisům: Od PagesXML po TEITOK

This article describes a two-step method for transcribing historic manuscripts. In this method, the first step uses a page-based representation making it easy to transcribe the document page-by-page and line-by-line, while the second step converts this to the TEI/XML text-based format, in order to make sure the document becomes fully searchable.

Tento článek popisuje dvoustupňovou metodu přepisu historických rukopisů. V této metodě používá první krok reprezentaci na stránce, což usnadňuje přepis dokumentu po stránce a řádku po řádku, zatímco druhý krok to převádí do textového formátu TEI / XML, aby zajistit, aby byl dokument plně prohledávatelný.


Quantitative Analysis of Syntactic  Dependency in Czech

Kvantntativní analýza syntaktické závislosti v češtině

The article presents a quantitative analysis of some syntactic dependency properties in Czech. A dependency frame is introduced as a linguistic unit and its characteristics are investigated. In particular, a ranked frequencies of dependency frames are observed and modelled and a relationship between particular syntactic functions and the number of dependency frames is examined. For the analysis, the Czech Universal Dependency Treebank is used.

Kapitola prezentuje kvantitativní analýzu vybraných závislostních vztahů v češtině. Zavádíme pojem valenčního rámec jako lingvistické jednotky a zkoumáme jeho základní charakteristiky, zejména frekvenční charakteristiky a dále vztah mezi typem syntaktické funkce a množstvím různých valenčních rámců, jež tato funkce nese. Analýzu jsou priváděny na korpusu Czech Universal Dependency Treebank.

Radek Čech
Jiří Milička
Ján Mačutek
Michaela Koščová
Markéta Lopatková


An interface between the Czech valency lexicon PDT-Vallex and corpus manager KonText

Rozhraní mezi českým valenčním slovníkem PDT-Vallex a správcem korpusů KonText

We present a user interface between the Czech valency lexicon, PDT-Vallex [1], and KonText1 –
a web application for querying corpora available within the LINDAT/CLARIN project. KonText
allows evaluation of simple and complex queries, displaying their results as concordance lines,
computing frequency distribution, calculating association measures for collocations and further
work with language data. For every verb in a concordance line, our interface allows to display
information concerning its valency frame in a separate window if corresponding entries exist in
PDT-Vallex, as well as a list of possible valency frames for that particular verb. Information
concerning verb frame comprises verb lemma, frame elements with semantic roles, vocabularystyle
description and examples from PDT-Vallex, Prague Dependency Treebank [2] and Prague
Czech-English Dependency Treebank [3]. The information is requested by REST-API from the
valency lexicon PDT-Vallex that contains over 11000 valency frames for more than 7000 verbs
which occurred in Prague Dependency Treebank, Prague Czech-English Dependency Treebank or
Prague Dependency Treebank of Spoken Czech. We use a fork of KonText application (developed
by the Institute of the Czech National Corpus) that has been further extended by the Institute
of Formal and Applied Linguistics to suit the needs of LINDAT/CLARIN project. The plugin we
present provides a unique solution for Czech language that integrates valency information from the
Czech valency lexicon with the means of querying Prague Dependency Treebank.

Představujeme uživatelské rozhraní mezi českým valenčním lexikonem, PDT-Vallex [1] a KonText1 -
webová aplikace pro dotazování na korpusy dostupné v rámci projektu LINDAT / CLARIN. KonText
umožňuje vyhodnocování jednoduchých a komplexních dotazů, zobrazování výsledků jako shodných linek,
výpočet distribuce frekvence, výpočet asociačních opatření pro kolokace a dále
práce s jazykovými daty. Pro každé sloveso ve shodné lince umožňuje naše rozhraní zobrazit
informace o jeho valenčním rámci v samostatném okně, pokud existují odpovídající položky
PDT-Vallex, stejně jako seznam možných valenčních rámců pro toto konkrétní sloveso. Informace
týkající se slovesného rámu obsahuje lemma slovesa, prvky rámce se sémantickými rolami, slovník slovníku
popis a příklady z PDT-Vallex, Praha Dependency Treebank [2] a Praha
Česko-anglická závislostní stromová banka [3]. Informace jsou požadovány z REST-API z
valenční lexikon PDT-Vallex, který obsahuje přes 11000 valenčních rámců pro více než 7000 sloves
která se objevila v pražské Dependency Treebank, Praha Czech-English Dependency Treebank nebo
Praha závislost Treebank mluveného češtiny. Používáme vidlici aplikace KonText (vyvinutá
Ústavem českého národního korpusu), který byl dále rozšířen Ústavem
formální a aplikované lingvistiky, aby vyhovovaly potřebám projektu LINDAT / CLARIN. Plugin jsme
present poskytuje unikátní řešení pro český jazyk, které integruje valenční informace z
Český valenční lexikon s prostředky dotazování na pražskou Závislostní bankou.

Kira Droganova
Eva Fučíková
Anna Vernerová


Cross-Tagset Parsing Evaluation for Russian

Cross-tagset parsing is based on the substitution of one annotation layer for another while processing data within one language. As often as not, either the native tagger or the dependency parser used in (pre-)annotation of the Gold treebank is not available. The cross-tagset approach allows one to annotate new texts using freely available tools or tools optimized to user's needs. We evaluate the robustness of Russian dependency parsing using different morphological and syntactic tagsets in input and output. A qualitative analysis of errors shows that the cross-substitution of three morphological tagsets and two syntactic tagsets causes only a mild drop in performance.

Rozbalení pomocí křížových značek je založeno na nahrazení jedné vrstvy anotací za jinou při zpracování dat v jednom jazyce. Nejčastěji není k dispozici ani rodný značkovač nebo syntaktický analyzátor závislostí používaný v (před) anotaci Gold stromové banky. Přístup přes křížové štítky umožňuje anotovat nové texty pomocí volně dostupných nástrojů nebo nástrojů optimalizovaných podle potřeb uživatele. Vyhodnocujeme robustnost analyzování ruské závislostí s použitím různých morfologických a syntaktických tagů ve vstupu a výstupu. Kvalitativní analýza chyb ukazuje, že křížová substituce tří morfologických značek a dvou syntaktických značek způsobuje pouze mírný pokles výkonu.


Data Conversion and Consistency of Monolingual Corpora: Russian UD Treebanks

Převod dat a konzistence jednojazyčných korpusů: ruské treebanky UD

In this paper we focus on syntactic annotation consistency within Universal Dependencies (UD) treebanks for Russian: UD_Russian-SynTagRus, UD_Russian-GSD, UD_Russian-Taiga, and UD_Russian-PUD. We describe the four treebanks, their distinctive features and development. In order to test and improve consistency within the treebanks, we reconsidered the experiments by Martínez Alonso and Zeman; our parsing experiments were conducted using a state-of-the-art parser that took part in the CoNLL 2017 Shared Task. We analyze error classes in functional and content relations and discuss a method to separate the errors induced by annotation inconsistency and those caused by syntactic complexity and other factors.

V tomto článku se zaměřujeme na syntaktickou anotaci a její konzistenci v korpusech Universal Dependencies (UD) pro ruštinu: SynTagRus, GSD, Taiga a PUD. Popisujeme tyto čtyři korpusy, jejich distinktivní rysy a vývoj.

Kira Droganova
Olga Lyashevskaya
Daniel Zeman


Artificial dependency trees in the Universal Dependencies v2 style, focused on gapping (the 'orphan' relation in UD). For motivation and description of the data, see Droganova et al., 2018 (LREC, Miyazaki, Japan).

Umělé závislostní stromy v anotačním stylu Universal Dependencies v2, zaměřené na druh elipsy zvaný anglicky gapping (v UD odpovídá vztahu 'orphan'). Motivace a popis těchto dat je obsažen v Droganova et al., 2018 (LREC, Miyazaki, Japonsko).

Kira Droganova
Daniel Zeman
Jenna Kanerva
Filip Ginter


Parse Me if You Can: Artificial Treebanks for Parsing Experiments on Elliptical Constructions

Rozeber mě, když to dokážeš: Umělé korpusy pro pokusy s automatickou syntaktickou analýzou eliptických konstrukcí

In this work we focus on a particular linguistic phenomenon, ellipsis, and explore the latest parsers in order to learn about parsing accuracy and typical errors from the perspective of elliptical constructions. For this purpose we collected and processed outputs of several state-of-the art parsers that took part in the CoNLL 2017 Shared Task. We extended the official shared task evaluation software to obtain focused evaluation of elliptical constructions. Since the studied structures are comparatively rare, and consequently there is not enough data for experimentation, we further describe the creation of a new resource, a semi-artificially constructed treebank of ellipsis.

V této práci se zaměřujeme na konkrétní jazykový jev, elipsu, a zkoumáme výstupy současných parserů, abychom zjistili jejich úspěšnost a typické chyby s ohledem na elipsy. K tomuto účelu jsme sebrali a zpracovali výstupy několika nejlepších parserů, které se zúčastnily společné úlohy CoNLL 2017. Oficiální vyhodnocovací software jsme rozšířili, aby bylo možné zjistit chyby v analýze elips. Protože studované struktury jsou poměrně vzácné, a tudíž není k dispozici dostatečné množství dat pro experimenty, popisujeme dále tvorbu nového datového zdroje, polouměle vytvořeného závislostního korpusu elips.


Mind the Gap: Data Enrichment in Dependency Parsing of Elliptical Constructions

Pozor na díry: Obohacování dat pro závislostní analýzu eliptických konstrukcí

We report on experiments with several approaches to automatically extending training data for dependency parsers, using large crawled web corpora. One set of methods is general, draws upon self-training and tri-training and adds a novel algorithm of mimicking the structural complexity of the original treebank. Methods from the other set are more focused on elliptical constructions. We provide evaluation on 5 languages: Czech, English, Finnish, Russian and Slovak.

Popisujeme pokusy s několika přístupy k automatickému rozšíření trénovacích dat pro závislostní syntaktické analyzátory s využitím velkých webových korpusů. Jedna sada metod je obecná, inspiruje se samotrénováním a trojtrénováním a přidává nový algoritmus, který napodobuje strukturální složitost původního treebanku. Metody ve druhé sadě se více zaměřují na eliptické konstrukce. Pokusy vyhodnocujeme na 5 jazycích: češtině, angličtině, finštině, ruštině a slovenštině.

Kira Droganova
Filip Ginter
Jenna Kanerva
Daniel Zeman


Discussion Group Summary: Optical Music Recognition

Shrnutí diskusní skupiny: Rozpoznávání notopisu

This document summarizes the discussion of the interest group on Optical Music Recognition (OMR) that took place in the 12th IAPR International Workshop on Graphics Recognition, and presents the main conclusions drawn during the session: OMR should revisit how it describes itself, and the OMR community should intensify its collaboration both internally and with other stakeholders.

Tento příspěvek shrnuje diskusi skupiny aktivních výzkumníků rozpoznávání notopisu (Optical Music Recognition, OMR), která se konala v rámci 12th IAPR International Workshop on Graphics Recognition, a prezentuje její výstupy: OMR by mělo zpřesnit svou terminologickou a taxonomickou základnu, a komunita výzkumníků v oboru by měla intenzivněji spolupracovat jak mezi sebou, tak se zájemci o OMR.

Jorge Calvo-Zaragoza
Jan Hajič, jr.
Alexander Pacha


LemmaTag: Jointly Tagging and Lemmatizing for Morphologically Rich Languages with BRNNs

LemmaTag: Společné značkování a lemmatizace morfologicky bohatých jazyků pomocí BRNN

We present LemmaTag, a featureless neural network architecture that jointly generates part-of-speech tags and lemmas for sentences by using bidirectional RNNs with character-level and word-level embeddings. We demonstrate that both tasks benefit from sharing the encoding part of the network, predicting tag subcategories, and using the tagger output as an input to the lemmatizer. We evaluate our model across several languages with complex morphology, which surpasses state-of-the-art accuracy in both part-of-speech tagging and lemmatization in Czech, German, and Arabic.

Představujeme LemmaTag, architekturu neuronové sítě, která společně generuje morfologické značky a lemmata pomocí obousměrných rekurentních neuronových sítí pomocí slovních a znakových embeddingů. Demonstrujeme, že oběma úkolům pomáhá sdílet enkodér, předvídat podtypy značek a používat předpovězené značky na vstup lemmatizátoru. Vyhodnocujeme náš model na několika jazycích se složitou morfologií, a překonáváme nejlepší známé výsledky jak morfologického značkování tak lemmatizace v češtině, němčině a arabštině.

Daniel Kondratyuk
Tomáš Gavenčiak
Milan Straka
Jan Hajič


Collective memory as an interactional practice: The case of the Czech-Jewish experience in Switzerland during the WWII period

Kolektivní paměť jako interakční praxe: Případ česko-židovské zkušenosti ve Švýcarsku v době druhé světové války

In 2017/2018, I was working on a project „Collective memory as an interactional practice: The case of the Czech-Jewish experience in Switzerland during the World War II period”, carried out at the University of Fribourg in Switzerland. My research consisted of three successive stages with mutually interrelated aims:
(1) Analysis of oral history interviews with Holocaust survivors born in the former Czechoslovakia, who have spent time in Switzerland as refugees, asylum seekers or displaced persons during the World War II period. The oral history interviews were selected from the USC Shoah Foundation’s Visual History Archive.
(2) Short clips of interviews were then incorporated into on-line educational material, accompanied by text and images. The resulting on-line lesson had the following structure: (I) The context (Why did people leave Czechoslovakia?); (II) The decision (How do the narrators reflect the decision to leave Czechoslovakia?); (III) The journey (How was the emigration practically accomplished?); (IV) The memory: (How is the migration retrospectively reflected by the narrators?).
(3) The on-line lesson was tested at five schools in Switzerland and in the Czech Republic between January and March 2018. The sessions were videotaped and analysed in detail: not only to evaluate and improve the developed activities, but also to explore the interactional specifics of the educational setting.
The research project provides an example of using oral history interviews as cases of narrative expression of the refugee experience during the World War II period. It explored one of the possible ways of utilizing large archives of oral histories for the transmission of historical knowledge on refugeedom, focusing on personal aspects. Moreover, it highlights several issues in educational use of archival interviews, such as the necessity of sufficient context for the students’ comprehension, and also the more general topics of incorporating digital technologies into classroom interaction.

Prezentace výzkumného projektu a jeho výsledků je v kontextu workshopu příkladem využití sbírek orálněhistorických interview jako příkladů narativního vyjádření uprchlické zkušenosti během druhé světové války. Důraz je kladen na vzdělávací uplatnění úryvků z rozhovorů prostřednictvím informačních technologií ve výuce.


Practical temporality of work with digital oral history at three Czech high schools

Praktická časovost práce s digitální orální historií na třech gymnáziích v ČR

The paper is based on analysis of situated action in testing lessons, which were implemented in the school year 2017/18 at three high schools in the Czech Republic. Video recordings taken over the course of the lessons were then subjected to a detailed analysis grounded in the tradition of ethnomethodology and conversation analysis.

Příspěvek se zaměřil na analýzu situovaného jednání v rámci testovacích vyučovacích hodin, jež byly realizovány ve školním roce 2017/18 na třech gymnáziích v ČR. Během těchto hodin studenti pracovali v menších skupinách 2–3 osob s on-line materiálem složeným z textů, obrázků a klipů vyňatých z audiovizuálních orálněhistorických rozhovorů. Videonahrávky pořízené v průběhu hodin byly následně podrobeny detailní analýze vycházející z tradice etnometodologie a konverzační analýzy. V prezentaci vybraných výsledků analýzy se soustředím především na specifika začlenění videoklipu do sociální interakce. Samotná práce s videoklipem je účastníky metodicky zasazena do širšího kontextu dalších aktivit, zvláště četby úvodních textů na monitoru a následného zapisování odpovědí do pracovního listu. Z hlediska sekvenčnosti práce s videoklipem lze rozlišit tři fáze, a to (i) přípravu na spuštění videa, během níž je třeba dosáhnout optimálního uspořádání materiálních artefaktů a tělesné orientace účastníků; (ii) sledování videa, kde je zřejmá preference nepřerušeného přehrávání od začátku do konce, stejně jako omezení řečových projevů účastníků na „průběžný komentář“; (iii) reflexe videa, která nejčastěji směřuje k rychlé orientaci na formulaci odpovědi a její zápis do pracovního listu. Ukážu, že videoklip je v analyzovaných interakcích přítomen jako zdroj (např. dočasné pozastavení klipu či jeho opakované sledování za účelem identifikace klíčových pasáží) i jako téma (např. komentáře týkající se délky klipu či jazyka mluvčího, jenž na nahrávce hovoří). Příspěvek tak skrze rozbor konkrétních událostí vypovídá i o roli moderních digitálních technologií v současné společnosti a ve vzdělávání.


"We all had the feeling -- we have to get rid of it, we have to forget": Reflection of Holocaust commemoration in interviews with Czech and Slovak survivors

„To jsme všechny měly ten pocit – musíme se toho zbavit, musíme na to zapomenout“: Reflexe připomínání holocaustu v rozhovorech s česko-slovenskými přeživšími

This chapter presents a conceptual framework for approaching the topic of Holocaust commemoration, based on the analysis of selected interviews from the USC Shoah Foundation's Visual History Archive.

V kapitole je předložen základní rámec pro uchopení tématu připomínání holocaustu, založený na analýze vybraných interview z Archivu vizuální historie USC Shoah Foundation.


Towards a Sociological Conception of Artificial Intelligence

K sociologickému pojetí umělé inteligence

Social sciences have been always formed and influenced by the development of society, adjusting the conceptual, methodological, and theoretical frameworks to emerging social phenomena. In recent years, with the leap in the advancement of Artificial Intelligence (AI) and the proliferation of its everyday applications, “non-human intelligent actors” are increasingly becoming part of the society. This is manifested in the evolving realms of smart home systems, autonomous vehicles, chatbots, intelligent public displays, etc. In this paper, we present a prospective research project that takes one of the pioneering steps towards establishing a “distinctively sociological” conception of AI. Its first objective is to extract the existing conceptions of AI as perceived by its technological developers and (possibly differently) by its users. In the second part, capitalizing on a set of interviews with experts from social science domains, we will explore the new imaginable conceptions of AI that do not originate from its technological possibilities but rather from societal necessities. The current formal ways of defining AI are grounded in the technological possibilities, namely machine learning methods and neural network models. But what exactly is AI as a social phenomenon, which may act on its own, can be blamed responsible for ethically problematic behavior, or even endanger people’s employment? We argue that such conceptual investigation is a crucial step for further empirical studies of phenomena related to AI’s position in current societies, but also will open up ways for critiques of new technological advancements with social consequences in mind from the outset.

Text pojednává o možných přístupech ke zkoumání umělé inteligence jako sociálního fenoménu.

Jakub Mlynář
Hamed Alavi
Himanshu Verma
Lorenzo Cantoni


Translation of “and” in a parallel TED Talk corpus of English, Czech, Hungarian, Lithuanian and French: functions and omissions

Překlady "and" na materiálu paralelního korpusu Ted talks v angličtině, češtině, maďarštině, litevštině a francouzštině: funkce a vynechávky

In this paper we report on the methods and findings of a multilingual corpus study focusing on the functions of and in English and its translations into Czech, French, Hungarian and Lithuanian, in a selection of TedTalks.

V tomto příspěvku popisujeme metody a výsledky výzkumu zaměřeného na vícejazyčné korpusové srovnání spojovacího výrazu "and" v angličtině a jeho ekvivalentů v češtině, francouzštině, maďarštině a litevštině u vybraných příspěvků z TED talks.

Ágnes Abuczki
Nijolė Burkšaitienė
Ludivine Crible
Anna Nedoluzhko
Péter Furkó
Giedre Valunaite Oleskeviciene
Sigita Rackevičienė
Šárka Zikánová


The underspecified connective "and" in a parallel TED Talk corpus: functions, translation and implicitation

Podspecifikovaný konektor "and" v paralelním korpusu TED talks: funkce, překlad a nevyjádřenost

Analysis of functions of the discourse connective AND and its counterparts in English, Czech, Lithuanian, French and Hungarian according to the taxonomy with cross-domain functions (Crible, Degand, 2017).

Analýza funkcí spojovacího výrazu AND a jeho ekvivalentů v angličtině, češtině, litevštině, francouzštině a maďarštině podle doménové klasifikace Crible - Degand (2017).

Ágnes Abuczki
Nijolė Burkšaitienė
Ludivine Crible
Péter Furkó
Anna Nedoluzhko
Giedre Valunaite Oleskeviciene
Šárka Zikánová


Translation of "and" in a parallel TED Talk corpus of English, Czech, Hungarian, Lithuanian and French: functions and omissions

Překlad spojky "a" v paralelním korpusu TED Talk corpus v angličtině, češtině, maďarštině, litevštině a francouzštině: funkce a výpustky

Cross-linguistic comparison of the functions of the conjunction "and" and the possibilities of its translation, based on the parallel translations of subtitles in TED talks. Pilot study about the underspecification of semantics of some conjunctions in different languages.

Mezijazykové srovnání funkcí spojky "a" a možností jejího překladu, založené na paralelních překladech titulků v TED talks. Výchozí studie o nespecifičnosti významu některých spojek v různých jazycích.

Ágnes Abuczki
Nijolė Burkšaitienė
Ludivine Crible
Péter Furkó
Giedre Valunaite Oleskeviciene
Sigita Rackevičienė
Šárka Zikánová


Morphological segmentation of Czech Words

In linguistics, words are usually considered to be composed of morphemes: units that carry meaning and are not further subdivisible. The task of this thesis is to create an automatic method for segmenting Czech words into morphemes, usable within the network of Czech derivational relations DeriNet.

We created two different methods. The first one finds morpheme boundaries by differentiating words against their derivational parents, and transitively against their whole derivational family. It explicitly models morphophonological alternations and finds the best boundaries using maximum likelihood estimation. At worst, the results are slightly worse than the state of the art method Morfessor FlatCat, and they are significantly better in some settings.

The second method is a neural network made to jointly predict segmentation and derivational parents, trained using the output of the first method and the derivational pairs from DeriNet. Our hypothesis that such joint training would increase the quality of the segmentation over training purely on the segmentation task seems to hold in some cases, but not in other. The neural model performs worse than the first one, possibly due to being trained on data which already contains some errors, multiplying them.

V lingvistice se obvykle slova považují za složená z morfémů, což jsou dále nedělitelné jazykové jednotky nesoucí význam. Zadáním této práce je nalézt automatickou metodu dělení českých slov na morfémy, které by bylo možné přidat do DeriNetu, sítě derivačních vztahů mezi českými slovy.

Vytvořili jsme dvě různé takové metody. První nalézá hranice morfémů na základě hledání rozdílů mezi slovem a jeho derivačním předkem, a tranzitivně mezi všemi slovy v derivačním hnízdě. Tato metoda explicitně modeluje hláskové a morfologické alternace a nalézá nejvhodnější hranice morfémů pomocí metody maximální věrohodnosti. Ve srovnání s moderním systémem Morfessor FlatCat naše metoda přinejhorším mírně zaostává, ovšem v některých testech naopak dosahuje výsledků výrazně lepších.

Druhou metodou je neuronová síť pro současné předpovídání morfologické segmentace a derivačních předků, trénovaná na datech získaných první metodou a na derivačních vztazích ze sítě DeriNet. S naší hypotézou, že tento způsob trénování dvou úloh naráz pomůže k dosažení lepších výsledků oproti trénování samotné segmentace, jsou však ve shodě pouze některé provedené pokusy. Celkově dosahuje neuronová síť horších výsledků než první metoda, pravděpodobně kvůli trénování na datech obsahujících chyby, které se tím přidávají k chybám metody samotné.


DeriNet is a lexical network which models derivational relations in the lexicon of Czech. Nodes of the network correspond to Czech lexemes, while edges represent derivational relations between a derived word and its base word. The present version, DeriNet 1.6, contains 1,027,832 lexemes (sampled from the MorfFlex dictionary) connected by 803,404 derivational links. Furthermore, starting with version 1.5, DeriNet contains annotations related to compounding (compound words are distinguished by a special mark in their part-of-speech labels).
Compared to version 1.5, version 1.6 was expanded by extracting potential links from dictionaries available under suitable licences, such as Wiktionary, and by enlarging the number of marked compounds.

DeriNet je lexikální síť modelující derivační vztahy v češtině. Uzly odpovídají lexémům, hrany odpovídají slovotvorným derivacím. Současná verze, DeriNet 1.6, obsahuje 1 027 832 lexémů převzatých ze slovníku MorfFlex, spojených 803 404 derivačními vztahy. Kromě toho obsahuje DeriNet, počínaje verzí 1.5, anotace kompozit (kompozita jsou označena vyhrazeným znakem ve svém záznamu o slovním druhu).
Oproti verzi 1.5 byla verze 1.6 rozšířena o vztahy extrahované ze slovníků dostupných pod svobodnými licencemi, například Wiktionary, a o množství kompozitních značek.

Jonáš Vidra
Lukáš Kyjánek
Magda Ševčíková
Zdeněk Žabokrtský
Adéla Kalužová
Šárka Dohnalová
Vojtěch Hudeček


Implementation of an Open Science Policy in the context of management of CLARIN language resources: a need for changes?

Implementace pravidel Open Science v kontextu správy jazykových dat v CLARINu: potřeba změn?

This article investigates the compatibility of the current CLARIN license categorization scheme with the open science paradigm. The first part presents the main concepts and theoretical framework required for the analysis, while the second part discusses the use of the CLARIN categorization system, divided into PUB (public), ACA (academic), and RES (restricted), and potential ways to change it. This paper serves to explore various suggestions for change and to begin discussion of a reformed CLARIN license category scheme.

Článek analyzuje kompatibilitu stávající kategorizace licencí v CLARINu s paradigmatem Open Science. V první části se prezentují základní koncepty a teoretický rámec, druhá část řeší kategorizaci licencí v projektu CLARIN do tříd PUB, ACA a RES a možnosti do budoucna tento systém změnit. Varianty možných změn jsou analyzovány jako podklad k další diskusi o změně přístupu k licencím v CLARINu.

Aleksei Kelli
Krister Lindén
Kadri Vider
Penny Labropoulou
Erik Ketzan
Paweł Kamocki
Pavel Straňák


We explore the annotation of reflexives in Universal Dependencies (UD) 2.2 treebanks (Nivre et al., 2018), with a stronger focus on Slavic languages. We have tried to find out if the current guidelines are transparent and clear enough for the annotators to follow them successfully. We point out a number of inconsistencies in the current annotation across languages, and propose improvements—sometimes of the guidelines, but mostly of the annotation. The goal of the paper is to contribute to more consistent and cross-linguistically parallel annotation of reflexives in the future releases of UD.

Zkoumáme anotaci zvratných zájmen v korpusech Universal Dependencies (UD) 2.2 (Nivre et al., 2018), přičemž se zaměřujeme zejména na slovanské jazyky. Snažíme se zjistit, zda jsou současná anotační pravidla dostatečně jasná, aby se jimi anotátoři dokázali řídit. Ukazujeme celou řadu nesrovnalostí napříč jazyky v současných datech a navrhujeme vylepšení–někdy anotačních pravidel, většinou však přímo anotace dat. Cílem článku je přispět ke konzistentnější a mezijazykově paralelnější anotaci reflexiv v budoucích vydáních UD.


Analysis of coreferential expressions in PAWS

In this paper, we decribe the coreference annotation on a multi-lingual parallel treebank (PAWS), a portion of Wall Street Journal translated into Czech, Russian and Polish which continues the tradition of multilingual treebanks with coreference annotation. The paper focuses on language-specific differences. We analyse syntactic structures concerning anaphoric relations in the languages under analysis, such as personal and impersonal constructions in polypredicative constructions and pro-drop qualities.

V článku popisujeme anotaci koreferenčních vztahů v multijazykovém paralelním korpusu PAWS. Zaměřujeme se na mezijazykové rozdíly ve vejadřování koreference, jako např. osobní a neosobní slovesné tvary v polypredikativních konstrukcích.

Anna Nedoluzhko
Michal Novák
Maciej Ogrodniczuk


PAWS (Parallel Anaphoric Wall Street Journal) is a multi-lingual parallel treebank with coreference annotation. It consists of English texts from the Wall Street Journal translated into Czech, Russian and Polish. In addition, the texts are syntactically parsed and word-aligned. PAWS is based on PCEDT 2.0 and continues the tradition of multilingual treebanks with coreference annotation. PAWS offers linguistic material that can be further leveraged in cross-lingual studies, especially on coreference.

PAWS je anglicko-česko-rusko-polský korpus s anotací koreference.


PAWS: A Multi-lingual Parallel Treebank with Anaphoric Relations

PAWS: Vícejazykový paralelní treebank s anotací anaforických vztahů

We present PAWS, a multi-lingual parallel treebank with coreference annotation. It consists of English texts from the Wall Street Journal translated into Czech, Russian and Polish. In addition, the texts are syntactically parsed and word-aligned. PAWS is based on PCEDT 2.0 and continues the tradition of multilingual treebanks with coreference annotation. The paper focuses on the coreference annotation in PAWS and its language-specific differences. PAWS offers linguistic material that can be further leveraged in cross-lingual studies, especially on coreference.

V článku představujeme PAWS, vícejazykový paralelní treebank s anotací koreference.


Correlating DRDs with other types of discourse phenomena: Cross-linguistic analysis of the interplay between DRDs, coreference and bridging

Vztah DRD s jinými typy diskurzních prostředků z kontrastivního pohledu

Since translations are influenced by various factors of translation process, it is often difficult to explain the real reasons of a certain construction used in translation data.
The present contribution describes a cross-linguistic analysis of the interplay between discourse-relational devices (DRDs) and other discourse-related phenomena, such as coreference and bridging relations. The difference between the phenomena under analysis lies in the type of relations, which is expressed by a corresponding device. DRDs express logico-semantic relations between propositions, such as contrast, time, addition and others). Coreference serves the task of linking identical objects or events (i.e. complex anaphors) and bridging anaphora expresses non-identical or near-identical relations between referents, linking them with semantic interconnection.

Provádíme analýzu textových prostředků (na angličtině, češtině a němčitě), která je založená na textech, přeložených z angličtiny. Zvláštní důraz této publikace klademe na vlivu překladového faktoru na použití různých typů koheze.

Anna Nedoluzhko
Ekaterina Lapshinova-Koltunski


Interplay between conjunctions, coreference and bridging in Geman, English and Czech

Souhra konektorů, koreference a asociační anafory v němčině, angličtině a češtině

The purpose of our study is to analyse the interplay between conjunctions and other discourse-related
phenomena, such as coreference and bridging relations in German, English and Czech. The difference between the phenomena under analysis lies in the type of relations, which is expressed by a
corresponding device.

Cílem výzkumu je srovnání souhry konektorů, koreference a asociační anafory ve němčině, češtině a angličtině.


Pronominal Adverbs in German and their Equivalents in English, Czech and Russian: Evidence from the Parallel Corpus

Pronominální advérbia v němčině a jejich ekvivalenty v angličtině, češtině a ruštině

The paper presents a contrastive analysis of pronominal adverbs in German (dabei, darauf, damit etc.) and their equivalents in English, Czech and Russian. The analysis is based on an empirical study of parallel news texts. Our main focus is to show the interplay between cohesive devices expressed through German pronominal adverbs in text and explore their equivalents in English, Czech and Russian. As the dataset at hand contains translations, we also focus on the influence of the translation factor in parallel texts.

V článku představíme kontrastivní analýzu zájmenných adverbií v němčině (dabei, daauf, damit aj.) a jejich ekvivalentů v angličtině, češtině a rušině. Analýza je založena na empirickém výzkumu paralelních textů.


Learning Audio–Sheet Music Correspondences for Cross-Modal Retrieval and Piece Identification

Učení korespondencí mezi zvukem a notovým záznamem pro vyhledávání napříč modalitami

This work addresses the problem of matching musical audio directly to sheet music, without any higher-level abstract representation. We propose a method that learns joint embedding spaces for short excerpts of audio and their respective counterparts in sheet music images, using multimodal convolutional neural networks. Given the learned representations, we show how to utilize them for two sheet-music-related tasks: (1) piece/score identification from audio queries and (2) retrieving relevant performances given a score as a search query. All retrieval models are trained and evaluated on a new, large scale multimodal audio–sheet music dataset which is made publicly available along with this article. The dataset comprises 479 precisely annotated solo piano pieces by 53 composers, for a total of 1,129 pages of music and about 15 hours of aligned audio, which was synthesized from these scores. Going beyond this synthetic training data, we carry out first retrieval experiments using scans of real sheet music of high complexity (e.g., nearly the complete solo piano works by Frederic Chopin) and commercial recordings by famous concert pianists. Our results suggest that the proposed method, in combination with the large-scale dataset, yields retrieval models that successfully generalize to data way beyond the synthetic training data used for model building.

Tento článek se věnuje přiřazování audia přímo k notopisu reprezentovanému jako obraz, bez jakýchkoliv abstratktních reprezentací. Navrhujeme metodu, která se naučí společný prostor pro reprezentaci krátkých útržků audia a jejich protějšků v obrázkách not pomocí multimodálních konvolučních neuronových sítí. Následně ukazujeme, jak s těmito naučenými reprezentacemi (1) identifikovat příslušnou skladbu podle nahrávky, (2) vyhledávat nahrávky pomocí obrázků not. Všechny vyhledávací modely jsou natrénované na novém velkém multimodálním datasetu audia a notopisu, který je spolu s tímto článkem dán veřejně k dispozici. Dataset obsahuje 479 detailně anotovaných klavírních skladeb od 53 skladatelů, celkem 1129 stran not a více než 15 hodin k nim zarovnaného audia, které bylo z příslušných not syntetizováno. Nad modelem natrénovaným těmito syntetickými daty však provádíme pokusy, které vyhledávají v databázi komplexních not (např. téměř celé dílo pro sólový klavír F. Chopina) a komerčních nahrávek špičkových klavíristů. Naše výsledky naznačují, že navržená metoda spolu s velkým datasetem vede k vyhledávacím modelům, které úspěšně zobecňují ze syntetických trénovacích dat na skutečná data.

Matthias Dorfer
Jan Hajič, jr.
Andreas Arzt
Harald Frostel
Gerhard Widmer


Attention as a Perspective for Learning Tempo-invariant Audio Queries

Mechanismus pozornosti pro vyhledávání nahrávkou invariantní vůči tempu

Current models for audio–sheet music retrieval
via multimodal embedding space learning use con-
volutional neural networks with a fixed-size win-
dow for the input audio. Depending on the tempo
of a query performance, this window captures
more or less musical content, while notehead den-
sity in the score is largely tempo-independent. In
this work we address this disparity with a soft
attention mechanism, which allows the model to
encode only those parts of an audio excerpt that
are most relevant with respect to efficient query
codes. Empirical results on classical piano music
indicate that attention is beneficial for retrieval performance, and exhibits intuitively appealing
behavior.

Současné modely pro křížové vyhledávání mezi nahrávkami a notovými zápisy přes natrénované multimodální reprezentace používají konvoluční neuronové sítě, jenž očekávají na vstupu pro audio pevně daný časový úsek. Podle tempa nahrávky však toto okno zachycuje různá množství hudebních událostí (not), zatímco fixně dlouhé okno do not jich zachycuje množství, které na tempu téměř nezávisí. V této práci se snažíme tento problém obejít pomocí mechanismu měkké pozornosti, která umožňuje modelu zakódovat pouze ty části útržku audia, které jsou nejvíce relevantní pro vybudování efektivního vyhledávacího klíče. Experimentální výsledky na klasické klavírní hudbě ukazují, že pozornostní mechanismus vyhledávání zlepšuje, a má intuitivně jasné výhody.

Matthias Dorfer
Jan Hajič, jr.
Gerhard Widmer


Paraphrases of verbal multiword expressions: the case of Czech light verbs and idioms

Parafráze slovesných víceslovných výrazů: Případ českých kategoriálních sloves a idiomů

In this chapter, we explore paraphrasability of Czech verbal MWEs (light verbs constructions and idioms) by single verbs in a semiautomatic experiment
using word embeddings. Further, we propose a lexicographic representation and demonstrate one of its practical application in a machine translation
experiment.

Tento příspěvek se zabývá parafrázovatelností českých slovesných víceslovných výrazů (kategoriálních slovesa a idiomů). V příspěvku je navržena lexikografická reprezentace parafrází a demonstrováno jejich praktické využití ve strojovém překladu.


CUNI team: CLEF eHealth Consumer Health Search Task 2018

CUNI v CLEF eHealth Consumer Health Search Task 2018

In this paper, we present our participation in CLEF Consumer Health Search Task 2018, mainly, its monolingual and multilingual subtasks: IRTask1 and IRTask4. In IRTask1, we use language-model
based retrieval model, vector-space model and Kullback-Leiber divergence query expansion mechanism to build our runs. In IRTask4, we submitted 4 runs for each language of Czech, French and German. We
follow query-translation approach in which we employ a Statistical Machine Translation (SMT) system to get a ranked list of translation hypotheses in English. We use this list for two systems: the first one uses 1-best-list translation to construct queries, and the second one uses a hypotheses reranker to select the best translation (in terms of retrieval performance) to construct queries. We also present our term reranking model for query expansion, in which we deploy feature set from different
resources (the document collection, Wikipedia articles, translation hypotheses). These features are used to train a logistic regression model that can predict the performance when a candidate term is added to a base query.

Tato zpráva popisuje účast týmu Univerzity Karlovy v Praze na CLEF eHealth Consumer Health
Search Task 2018


Hegel's Holiday Boogie or Mondrian, Magritte and  Avantgarde Dialectics

In this talk we expore hegelian inspiration in Mondrian's theory of art and Magritte's paintings and propose to interpret the development of avantgarde painting as dialectics of the real and the reasonable.

Hegelovo prázdninové boogie aneb Mondrian, Magritte a avantgardní dialektika

Avantgarda, jako umění, které často tematizuje svoji vlastní formu, je z hlediska Hegelovy filosofie zajímavá jako příklad rozvoje sebe-vědomí. V tomto přípěvku se však naopak podíváme na to, proč avantgardu zajímala Hegelova filosofie. Na příkladech Mondrianovy abstrakce a Magrittova surrealismu ukážeme dva diametrálně odlišné přístupy k inspiraci Hegelem ve výtvarném umění.
Piet Mondrian se na Hegela odkazuje ve svých textech o teorii malířství. Pod vlivem hegelovské filosofie dospívá ke koncepci zobrazování, které označuje jako „abstraktně-reálné“, výraz „oživené skutečnosti abstraktního“.
René Magritte se k Hegelově filosofii vyjadřuje přímo názvy a obsahem svých obrazů. V některých z nich explicitně odkazuje k dialektice, která je však implicitně přítomná ve většině jeho díla.
Na závěr se zamyslíme nad tím, jak můžeme vývoj avantgardního malířství interpretovat jako dialektiku rozumného a skutečného.


Neural Natworks and Computational Linguistics

Neuronové sítě a matematická lingvistika

Will computers ever be able to understand written text? Will they be able to translate it from English to Czech without mistakes? Will they be able to describe a picture? What are artificial neural networks and how are they connected to these questions?

Budou někdy počítače schopny pochopit psaný text? Přeložit ho bezchybně třeba z angličtiny do češtiny? Popsat co je na obrázku? Co jsou umělé neuronové sítě a jak mohou pomoci vyřešit tyto otázky? To se dozvíte v této přednášce. Když bude čas, zmíníme i jak neuronky hrají go nebo řídí auta.


Deep neural networks: when computers learn the human language

Hluboké neuronové sítě: když se počítače učí lidský jazyk

Presentation of word embeddings and related research at ÚFALu within Jeden den s informatikou a matematikou.

Prezentace word embeddings a souvisejícího výzkumu probíhajícího na ÚFALu v rámci Jednoho dne s informatikou a matematikou.

Tomáš Musil
Rudolf Rosa
Jindřich Libovický


A Vision for (Computational) Linguistics

A brief opening presentation for a panel on AI and the Humanities

Stručný úvod k panelu o umělé inteligenci a humanitních oborech představuje možnosti neuronového strojového překladu a hlubokého učení obecně pro lingvistiku.


When neural MT will replace translators?

Kdy neuronový strojový překlad nahradı́ překladatele?

Machine translation is the one of the key application of artificial inteligence and computational linguistics. Two revolutions happened recently: in the 1990's and these days. What's the current state of the art? Finally a chance that machines will understand the text?

Strojový překlad je královskou disciplínou umělé inteligence a počítačové lingvistiky. Jednu revoluci zažil v 90. letech minulého století (zavedení statistických metod), druhou zažívá právě teď, když neuronové sítě skokově zlepšily kvalitu překladu. Jak se nyní překlad dělá? Podívejme se na ten zázrak technicky, bez silných marketingových slov. Je snad konečně naděje, že počítače začnou textu rozumět?


Neural Machine Translation: From Basics to Semiotics

Neuronový strojový překlad: Od základů k sémiotice

In my talk, I will highlight the benefit that neural machine translation (NMT) has over previous statistical approaches to MT. I will then present the current state of the art in neural machine translation, briefly describing the current best architectures and their performance and limitations. In the second part of the talk, I will outline my planned search for correspondence between sentence meaning as traditionally studied by linguistics (or even semantics and semiotics) and the continuous representations learned by neural networks.

Ve svém příspěvku podrobně vysvětlím, jakou hlavní výhodu má neuronový překlad oproti předešlým statistickým přístupům k MT.


Computer linguistics and machine translation: A whole new world through deep learning

Počítačová lingvistika a strojový překlad: Zcela nový svět díky hlubokému učení

An invited talk for Master students of FJFI at a seminar introducing various interesting research topics.

Zvaná přednáška na seminář pořádaný na FJFI, představující zajímavá vědecká témata studentům magisterského programu. Ve své přednášce jsem představil počítačovou lingvistiku a zejména neuronový strojový překlad.


In my talk, I presented the current translation quality achieved by neural machine translation and thoroughly discussed the expected benefits and risks for interpreters arising from the EU project ELITR.

V prezentaci jsem představil současnou úroveň kvality dosahovanou neuronovým strojovým překladem a podrobně se v diskusi věnoval očekávaným výhodám a rizikům, která do překladatelské profese přináší projekt ELITR.


Does Neural Machine Translation Understand the Translated Text?

Rozumí neuronový strojový překlad tomu, co překládá?

Deep machine learning has crucially changed the techniques used in machine translation in 2016. In my short talk, I will summarize the quick development and questions for the field for the next week and the next ten years.

Hluboké strojové učení v roce 2016 zásadním způsobem změnilo techniky používané ve strojovém překladu. Kvalita strojových překladů se skokově zlepšila a strmý růst stále ještě pozorujeme. Neuronové sítě slibují možnost "učit se reprezentacím". Daří se je tedy učit reprezentacím, které by ladily s něčím jako je význam vět?

V krátkém příspěvku představím překotný vývoj na poli strojového překladu a otázky pro tento obor na příští týden i příštích deset let.


Artificial Intelligence Replacing Translators

Umělá inteligence nahrazuje překladatele

A quick introduction to prospective students of Computer Science and Computational Linguistics with recent advances in machine translation

Seznámení zájemců o obor informatiky a počítačové lingvistiky s nejnovějším vývojem na poli strojového překladu.


Automated system for batch translation for IBM. The first supported translation direction was from English into Czech, other languages (e.g. Hungarian, Arabic) are added as needed.

Automatizovaný systém pro dávkový překlad pro IBM. Prvním jazykovým párem byl překlad z angličtiny do češtiny, další jazyky (maďarština, arabština ap.) jsou přidávány dle potřeby.


EvalD Reference-Less Discourse Evaluation for WMT18

EvalD, diskurzní evaluace bez referenčního překladu pro WMT18

We present results of automatic evaluation of discourse in machine translation (MT) outputs using the EVALD tool, showing that automatic evaluation of discourse in translated texts allows for distinguishing individual MT systems.

Užíváme systém EVALD k automatickému ohodnocení výstupů několika systémů strojového překladu; výsledky ukazují, že automatické ohodnocení diskurzu v textech umožňuje rozlišit různé systémy strojového překladu.

Ondřej Bojar
Jiří Mírovský
Kateřina Rysová
Magdaléna Rysová


Findings of the 2018 Conference on Machine Translation (WMT18)

Výsledky konference ve strojovém překladu (WMT18)

This paper presents the results of the premier
shared  task  organized  alongside  the  Confer-
ence  on  Machine  Translation  (WMT)  2018.
Participants   were   asked   to   build   machine
translation systems for any of 7 language pairs
in both directions, to be evaluated on a test set
of news stories.  The main metric for this task
is human judgment of translation quality. This
year, we also opened up the task to additional
test suites to probe specific aspects of transla-
tion.

Článek přináší výsledky hlavní společné úlohy organizované při konferenci o strojovém překladu (WMT) v roce 2018.

Ondřej Bojar
Christian Federmann
Mark Fishel
Yvette Graham
Barry Haddow
Matthias Huck
Philipp Koehn
Christof Monz


The Prague Dependency Treebank 3.5 is the 2018 edition of the core Prague Dependency Treebank (PDT). It contains all PDT annotation made at the Institute of Formal and Applied Linguistics under various projects between 1996 and 2018 on the original texts, i.e., all annotation from PDT 1.0, PDT 2.0, PDT 2.5, PDT 3.0, PDiT 1.0 and PDiT 2.0, plus corrections, new structure of basic documentation and new list of authors covering all previous editions. The Prague Dependency Treebank 3.5 (PDT 3.5) contains the same texts as the previous versions since 2.0; there are 49,431 annotated sentences (over 800 thousand nodes) on all layers, from tectogrammatical to words, and additional sentences on the analytical (surface dependency syntax) and morphological layers of annotation (approx. 2 million words in total). Closely linked to the tectogarammtical layer is the annotation of sentence information structure, multiword expressions, coreference, bridging relations and discourse relations.

Závislostní korpus anotovaný na rovině morfologické (2 miliony slov), syntaktické (1,5 milionu slov) a sémantické (přes 0,8 milionu slov, tedy 49,5 tis. vět). Obsahuje všechny PDT anotace originálních textů, které vznikly v rámci různých projektů na UFALu mezi roky 1996 a 2018 (PDT 1.0, PDT 2.0, PDT 2.5, PDT 3.0, PDiT 1.0 and PDiT 2.0) a jejich opravy; seznam autorů pokrývá autory všech publikovaných korpusů.

Jan Hajič
Eduard Bejček
Alevtina Bémová
Eva Buráňová
Eva Hajičová
Jiří Havelka
Petr Homola
Jiří Kárník
Václava Kettnerová
Natalia Klyueva
Veronika Kolářová
Lucie Kučová
Markéta Lopatková
Marie Mikulová
Jiří Mírovský
Anna Nedoluzhko
Petr Pajas
Jarmila Panevová
Lucie Poláková
Magdaléna Rysová
Petr Sgall
Johanka Spoustová
Pavel Straňák
Pavlína Synková
Magda Ševčíková
Jan Štěpánek
Zdeňka Urešová
Barbora Vidová Hladká
Daniel Zeman
Šárka Zikánová
Zdeněk Žabokrtský


Diathesis and recoprocity (on Czech material)

Diateze a reciprocita (na materiálu češtiny)

The short survey of the constructions understood as grammatical diathesis is given. The discussion of the generally accepted hypothesis that the surface expression of the actor is excluded in deagentive constructions. The counterexamples where the combination of the deagentive and reciprocal diathesis are submitted. Some restrictions for such constructions are studied as well.

Ve stati se předládají vedle přehledu konstrukcí pokládaných za gramatickou diatezi argumenty pro případy, kdy deagentní diateze spojená s reciproční diatezí může vyjádřit konatele pomocí předložkového výrazu mezi + Instrumentál.Jsou zde uvedena jistá omezení na tvorbu těchto konstrukcí. Ilustruje se také jejich častá homonymie s konstrukcemi s významem lokace.


A Competition of the Prepositional Cases in the Space Constructions in Czech

Konkurence předložkových pádů u jádra lokálních určení v češtině

The distribution of the Czech prepositional constructions connected with the semantics of space is studied and the proposal how to present their semantics within the grammatical description is submitted. The prepositional constructions v+6,
na+6, u+2, and po+6 are included, the rich data for this analysis were obtained from PDT 3.0 using the tool ForFun 1.0

V článku se podrobují diskusi distinkce uvnitř lokálního určení spojené s distribucí výrazů v předložkových konstrukcích v + Loc, na + Loc, u + Gen, po + 6 a s jejich sémantickými specifiky. Stať je stavěna na materiálu získaného pomocí nástroje ForFun 1.0.


An Actant or a Free Modification? (On Untypical Forms in Valency Patterns of Nouns)

Aktant, nebo volné doplnění? (K netypickým formám ve valenčním poli substantiv)

In this paper, we demonstrate how to treat some difficult phenomena related to non-standard expression of valency patterns of Czech deverbal nouns. We introduce some new attributes to indicate (i) alternative, stylistically marked forms of actants expressed by secondary prepositions, and (ii) marginal forms of actants expressed by primary prepositions. We show that the number of forms of adnominal actants is often increased in comparison with the verbal ones, differentiating regular forms and alternative forms. We also discuss cases of ambiguous forms of two different actants and give criteria for their interpretation.

Příspěvek je věnován několika problémům, které vznikají při aplikaci valenční teorie FGP na valenci deverbativních substantiv a které demonstrují fakt, že aplikace valence slovesné na substantivní nemůže být přímočará a že substantivní valenční rámce nejsou vždy analogií rámců  jejich základových sloves. U substantiva přibývají formy typické pro volná doplnění uvozené zpravidla sekundárními předložkami, které se svou lexikální náplní obsahově blíží obligatorním aktantům (oznámení ze strany úřadu ohledně návštěvních hodin). Pokládáme je za stylové varianty, které se nezapisují do valenčních rámců, ale jsou ošetřeny speciálními pravidly. Jiné, uvozené primárními předložkami, mají marginální povahu; vyžadují však zjištění kontextových podmínek pro jejich užití (otázka nad stavem společnosti / po stavu společnosti), včetně podmínek jejich vzájemné zaměnitelnosti, popř. též úvah nad odstraněním jejich homonymie (otázka na psychologa.ADDR/PAT).


What We Can Learn From J.-M. Zemb About Negation and Information Structure: A View From Prague

Co se můžeme naučit z díla J.- M. Zembyho o negaci a aktuálním členění: Pohled z Prahy

A critical analysis of the writings of a prominent French linguist  J.-M. Zemb, especially those concerning the information structure and negation, from the point of view of the author's own approach to these basic issues.of the syntactic structure of the sentence.

Kritický rozbor díla předního francouzského lingvisty J.-M. Zemba, především jeho prací o informační struktuře věty a negaci z pohledu autorčina vlastního přístupu k těmto základním otázkám syntaktické struktury. věty.


Discourse Coherence Through the Lens of an Annotated Text Corpus: A Case Study

Koherence textu pohledem anotovaného korpusu: případová studie

A corpus-based study of local coherence as established by anaphoric links between the elements in the thematic (Topic) and the rhematic (Focus) parts of sentences in different genres of texts in the Prague Dependency Treebank.

Korpusová studie lokální koherence textu založené na anaforických vztazích mezi elementy v tématické (Topic) a rématické (Focus) části věty v různých žánrech textů Pražského závislostního korpusu.


Identification of Thematic Discourse Relations on the Data from an Annotated Corpus of Czech

Identifikace tématických diskurzních vztahů v datech anotovaného korpusu češtiny

We analyze the data of the Prague Discourse Treebank 2.0 as for the text coherence based on the so-called thematic progressions, that is chains of anaphoric links between sentences with regard to their topic–focus articulation (information structure).

Analyzujeme data Pražského diskurzního korpusu 2.0 a na jejich základě studujeme tzv. tématické posloupnosti, tj. řetězce anaforických vztahů mezi větami vzhledem k jejich informační struktuře (topic–focus articulation).


Topic/Focus vs. Given/New: Information Structure and Coreference Relations in an Annotated Corpus

Topic/Focus vs. Given/New: Informační struktura věty a koreferenční vztahy v anotovaném korpusu

We put under scrutiny two dichotomies discussed in the information structure literature, namely the dichotomy of topic and focus based on the relation of aboutness, and the dichotomy between given and new information. In particular, we examine whether the topic/focus dichotomy can be based on the distinction between given and new information, or whether the ‘aboutness’ relation is a more appropriate basis.

Zkoumáme dvě dichotomie, kterými se zabývá literatura o informační struktuře věty, konkrétně dichotomii topic/focus založenou na vztahu "býti o čem", a dichotomii mezi danou a novou informací. Zaměřujeme se obzvláště na otázku, zda dichotomie topic/focus může být založena na rozlišení mezi danou a novou informací, či zda vztah "býti o čem" tvoří přesnější obraz situace.


In the present paper, we focus on synonymy of verbs in a bilingual, Czech-English setting. We introduce a new lexical resource called CzEngClass. Our research of semantic equivalence of verbs is based on the FGD theory on the syntactic side, and gets main inspiration from FrameNet on the semantic side. As the main evidence, we use a parallel dependency corpus (the Prague Czech-English Dependency Treebank 2.0). We consider this “bottom-up” approach a novel and appropriate approach to study verbal synonymy. Synonymous Czech and English verbs are being grouped into cross-lingual synonym classes and captured in the CzEngClass lexicon. This lexicon contains not only mappings of valency arguments to semantic roles for each member of the synonym group, but also links them to individual verb entries as captured in selected existing lexical resources, such as FrameNet, VerbNet, Vallex(es) and Czech and English WordNets. We believe such explicit description of verbal synonymy relations, collected in a richly interconnected lexicon,  contributes valuable knowledge to both traditional linguistics and various NLP tasks.

Příspěvek o slovníku anglicko-českých slovesných synonym na základě PCEDT. Synonyma jsou řazena do synonymních tříd, obsahujících anglické a české členy, které jsou zároveň propojeny s externími a interními lexikálními zdroji.

Zdeňka Urešová
Eva Fučíková
Eva Hajičová


The CzEngClass synonym verb lexicon is a result of a project investigating semantic ‘equivalence’ of verb senses and their valency behavior in parallel Czech-English language resources, i.e., relating verb meanings with respect to contextually-based verb synonymy. The lexicon entries are linked to PDT-Vallex (http://hdl.handle.net/11858/00-097C-0000-0023-4338-F), EngVallex (http://hdl.handle.net/11858/00-097C-0000-0023-4337-2), CzEngVallex (http://hdl.handle.net/11234/1-1512), FrameNet (https://framenet.icsi.berkeley.edu/fndrupal/), VerbNet (http://verbs.colorado.edu/verbnet/index.html), PropBank (http://verbs.colorado.edu/%7Empalmer/projects/ace.html), Ontonotes (http://verbs.colorado.edu/html_groupings/), and Czech (http://hdl.handle.net/11858/00-097C-0000-0001-4880-3) and English Wordnets (https://wordnet.princeton.edu/). Part of the dataset is a file reflecting annotators choices for assignment of verbs to classes.

Synonymní slovník CzEngClass je výsledkem projektu zkoumajícího sémantickou „ekvivalenci“ slovesných významů a jejich valenčního chování v paralelních zdrojích česko-anglického jazyka, tj. vztahujících se k slovním významům s ohledem na kontextuálně založená slovesná synonyma. Položky lexikonu jsou propojeny s PDT-Vallexem (http://hdl.handle.net/11858/00-097C-0000-0023-4338-F), EngVallexem (http://hdl.handle.net/11858/00-097C-0000-0023-4337-2), CzEngVallexem (http://hdl.handle.html.net/11234/1-1512), FrameNetem (https://framenet.icsi.berkeley.edu/verbverbands/), VerbNetem (http://coloredu.html.html Součástí datového souboru je soubor odrážející volby anotátorů pro přiřazení sloves do tříd.

Zdeňka Urešová
Eva Fučíková
Eva Hajičová
Jan Hajič