Probes in a Taxonomy of Factored Phrase-Based Models

Sondy v taxonomii faktorových modelů frázového překladu

We introduce a taxonomy of factored phrase based
translation scenarios and conduct a
range of experiments in this taxonomy. We
point out several common pitfalls when designing
factored setups. The paper also describes
our WMT12 submissions CU-BOJAR
and CU-POOR-COMB.

Představujeme taxonomii pro faktorové modely frázového překladu a provádíme sérii experimentů s konfiguracemi z navržené taxonomie. Odhalujeme přitom řadu chyb v návrhu překladových modelů, jichž je vhodné se vyvarovat. Článek slouží rovněž jako popis našich systémů CU-BOJAR a CU-POOR-COMB v soutěži WMT12.


Towards a Predicate-Argument Evaluation for MT

K predikátově-argumentovému vyhodnocování strojového překladu

HMEANT (Lo and Wu, 2011a) is a manual MT evaluation technique that focuses on
predicate-argument structure of the sentence.
We relate HMEANT to an established lin-
guistic theory, highlighting the possibilities of
reusing existing knowledge and resources for
interpreting and automating HMEANT. We
apply HMEANT to a new language, Czech
in particular, by evaluating a set of English-
to-Czech MT systems. HMEANT proves to
correlate with manual rankings at the sentence
level better than a range of automatic met-
rics. However, the main contribution of this
paper is the identification of several issues
of HMEANT annotation and our proposal on
how to resolve them.

HMEANT (Lo, Wu, 2011) je technika ručního hodnocení kvality strojového překladu založená na predikátově-argumentové struktuře věty. V článku dáváme HMEANT do souvislosti se zavedeným Funkčním generativním popisem a současně poprvé aplikujeme HMEANT na jiný jazyk než angličtinu, konkrétně na češtinu.


Scientific Report on Rich Tree-Based SMT

Technická zpráva o bohatém stromovém statistickém strojovém překladu

The final technical report on rich tree-based translation for the EuroMatrixPlus project.

Závěrečná technická zpráva grantu EuroMatrixPlus popisující strojový překlad prostřednictvím stromových struktur s bohatou anotací.

Ondřej Bojar
Mauro Cettolo
Silvie Cinková
Philipp Koehn
Miroslav Týnovský
Zdeněk Žabokrtský


CzEng 1.0 is an updated release of our Czech-English parallel corpus, freely
available for non-commercial research or educational purposes. In this
release, we approximately doubled
the corpus size, reaching 15 million sentence
pairs (about 200 million tokens per language). More importantly, we carefully
filtered the data to reduce the amount of non-matching sentence pairs.
CzEng 1.0 is automatically aligned at the level of sentences as well as words.
We provide not only the plain text representation, but also automatic
morphological tags, surface syntactic as well as deep syntactic dependency parse
trees and automatic co-reference links in both English and Czech.
This paper describes key properties of the released resource including the
distribution of text domains,
the corpus data formats, and a toolkit to handle the provided rich annotation. We also
summarize the procedure of the rich annotation (incl. co-reference
resolution) and of the automatic filtering. Finally, we provide some suggestions
on exploiting such an automatically annotated sentence-parallel corpus.

CzEng 1.0 je aktualizovaná verze česko-anglického paralelního korpusu, volně použitelného pro nekomerční použití. Oproti předchozí verzi je velikost korpusu dvojnásobně zvětšena na 15 milionů větných párů (řádově 200 milionů slov pro každý jazyk). Data jsou pečlivě profiltrována, aby se omezil výskyt neodpovídajících si větných párů apod. CzEng 1.0 je automaticky zarovnán po větách i po slovech. Krom čistě textové verze dáváme k dispozici anotaci korpusu na několika rovinách: morfologické, větně členské (analytické, povrchová závislostní syntax) a tektogramatické (hloubková syntax). Obsažena je také automatická anotace koreference pro oba jazyky.

Ondřej Bojar
Zdeněk Žabokrtský
Ondřej Dušek
Petra Galuščáková
Martin Majliš
David Mareček
Jiří Maršík
Michal Novák
Martin Popel
Aleš Tamchyna


Additional German-Czech reference translations of the WMT'11 test set

Dodatečné německo-české referenční překlady testovacích dat WMT'11

Additional three Czech reference translations of the whole WMT 2011 data set (http://www.statmt.org/wmt11/test.tgz), translated from the German originals. Original segmentation of the WMT 2011 data is preserved.

Tři přídavné české referenční překlady celé datové sady WMT 2011 (http://www.statmt.org/wmt11/test.tgz), přeložené z němčiny. Původní segmentace dat z WMT 2011 byla zachována.

Ondřej Bojar
Daniel Zeman
Ondřej Dušek
Jana Břečková
Hana Farkačová
Pavel Grošpic
Kristýna Kačenová
Eva Knechtlová
Anna Koubová
Jana Lukavská
Petra Nováková
Jana Petrdlíková


This white paper presents the state of language technology support for the Czech language. It is a part of a series that analyses the available language resources and technologies for 30 European languages.

Bílá kniha prezentuje stav podpory jazykových technologií pro češtinu. Je částí série, která analyzuje dostupné jayzkové zdroje pro 30 evropských jazyků.

Ondřej Bojar
Silvie Cinková
Jan Hajič
Barbora Hladká
Vladislav Kuboň
Jiří Mírovský
Jarmila Panevová
Nino Peterek
Johanka Spoustová
Zdeněk Žabokrtský


Eman (“experimental manager”) is a software tool capable of maintaining large networks of mutually interconnected experiment processing large datasets, typically on a computational cluster. Eman was developed as an infrastructure for statistical machine translation but it can be used for other tasks as well.

Eman („experimentální manažer“) je softwarový nástroj, který umožňuje řídit rozsáhlé soubory vzájemně provázaných experimentů, při kterých se zpracovávají velké datové soubory, typicky na výpočetním clusteru. Byl vyvinut jako infrastruktura pro statistický strojový překlad, ale uplatní se i v jiných úlohách.


Wild Experimenting in Machine Translation

Divoké experimentování se strojovým překladem

A tutorial on conducting a very broad range of experiments (for MT in particular).

Návod, jak provádět širokou sérii experimentů (se zaměřením na strojový překlad).


Linguistics at the Faculty of Mathematics and Physics?

Lingvistika na Matematicko-fyzikální fakultě?

UFAL is a department well disposed to both linguistics and machine learning. It's well disposed to statistics as well because statistics is a key part of machine learning.

ÚFAL je pracovištěm, které je přátelsky nakloněné jak lingvistice, tak strojovému učení. Protože statistika je klíčovým pojmem strojového učení, je ÚFAL přátelsky spřízněn i se statistikou.

Jan Hajič
Barbora Vidová Hladká
Jarmila Panevová


Announcing Prague Czech-English Dependency Treebank 2.0

Ohlašujeme Pražský česko-anglický závislostní korpus 2.0

We introduce a substantial update of the Prague Czech-English Dependency Treebank, a parallel corpus manually annotated at the deep
syntactic layer of linguistic representation. The English part consists of the Wall Street Journal (WSJ) section of the Penn Treebank.
The Czech part was translated from the English source sentence by sentence. This paper gives a high level overview of the underlying
linguistic theory (the so-called tectogrammatical annotation) with some details of the most important features like valency annotation,
ellipsis reconstruction or coreference.

Představujeme významnou aktualizaci Pražského česko-anglického závistostního korpusu (PCEDT), paralelního korpusu, který je ručně anotován na hloubkové syntaktické rovině.

Jan Hajič
Eva Hajičová
Jarmila Panevová
Petr Sgall
Ondřej Bojar
Silvie Cinková
Eva Fučíková
Marie Mikulová
Petr Pajas
Jan Popelka
Jiří Semecký
Jana Šindlerová
Jan Štěpánek
Josef Toman
Zdeňka Urešová
Zdeněk Žabokrtský


Coordination vs. determination (Form or meaning?)

Koordinace vs. determinace (Forma nebo význam?)

The question about boundaries of so-called "hypotactical coordination" is discussed in connection with three types of constructions: (i) asociative constructions vs simple conjunctions, (ii) so-called "false" subordinated clauses, (iii) constructions introduced by the expressions "místo" (instead), "kromě" (beside/with exception).

V příspěvku se klade otázka, zda jsme oprávněni u typů (i) - (iii) mluvit o asymetrickém vztahu "hypotaktické koordinace". Jde o typy (i) asociativ vs slučovací koordinace, (ii) tzv. nepravé věty vedlejší, (iii) konstrukce uvozené výrazy "místo, kromě, mimo". Dochází se k názoru, že na hypotaktickou koordinaci kandiduje část příkladů typu (a).


Světová slavistika utrpěla citelné ztráty

These obituaries are devoted to couple of famouse linguists, first of all Slavists: prof. Rudolf Růžička from the University of Leipzig (1920-2011) and to prof. Milka Ivic, professor of the University in Novi Sad and Institute of Serbian Language in Beograd (1923-2011).

Jde o nekrology věnované prof. Rudolfu Růžičkovi z Univerzity v Lipsku, předním představiteli teoretické a formální lingvistiky v Německu (1920-2011) a prof. Milce Ivicové z Univerzity v Nověm Sadu a z Institutu srbského jazky SAVU v Bělehradě (1923-2011).


On Assymetry of the Deep and Surface Representation of the Sentence

Asymetrie mezi hloubkovou a povrchovou reprezentací věty (na příkladu dvou typů českých příslovečných určení)

Ассиметрии между глубинным и поверхностным преставлением предложения (на примере двух типов обстоятельств в чешском языке)

The Czech constructions of comparison and the constructions introduced by kromě/mimo are analyzed. For their deep structure it is necessary to expand them into the embedded predication, which is considered to be a grammaticalized ellipsis. The two new syntactic relations are introduced (ADDIT - an addition, EXC - an exception). They are connected with the ambiguity of kromě constructions.

Ve stati se analyzují české konstrukce srovnávací a konstrukce uvedené výrazy kromě/mimo. Navrhuje se jejich hloubková (tektogramatická) reprezentace rozvinutá v zapuštěnou predikaci a označovaná jako gramatikalizovaná elipsa. Zavádí se dva nové syntaktické vztahy (adice - ADDIT a výjimka - EXC) související s víceznačností konstrukcí s kromě.

В статье анализируются чешские обстоятельства сравнения и обстоятельства введенные выражениями kromě (mimo). Предлагается их глубинное представление в виде вставленной предикации, считаемой грамматикализованным эллипсисом. Вводятся два новыцх типа синтактических связей (ADDIT и EXC).


Two views on the Development of the Czech Post-War Syntactic Research

Dva pohledy na vývoj českého poválečného syntaktického myšlení

The metodological approaches used in Czech syntactic research since the 40-ies of the last century are analyzed. The Daneš´s Two-Level Valency Syntax and Sgall´s Functional Generative Description are evaluated as most comprehensive models in the Czech syntax.

V článku se hodnotí metodologické směry užívané v české syntaxi od 40. let minulého století. Jako nejvlivnější modely se hodnotí Danešova Dvourovinná valenční syntax a Sgallův Funkční generativní popis.


Syntactic annotation of transcriptions in the Czech Academic Corpus: Then and now

Syntaktická anotace přepisů mluvené řeči z Českého akademického korpusu: tehdy a nyní

Corpus annotation plays an important role in linguistic analysis and computa-tional processing of both written and spoken language. Syntactic annotation of spoken texts becomes clearly a topic of considerable interest nowadays, driven by the desire to improve auto-matic speech recognition systems by incorporating syntax in the language models, or to build language under-standing applications.

Korpusová anotace je důležitou součástí lingvistické analýzy a počítačového zpracování jazyka. Tento článek se zabývá problémy spojenými se syntaktickou anotací mluvených textů na pozadí syntaktické anotace ČAKu.


Conversion of Copenhagen Dependency Treebank into Treex

Převod Kodaňského závislostního korpusu do systému Treexu

I would like to present my recent efforts on converting the Copenhagen Dependency Treebank (CDT) data into Treex. CDT is a multilingual treebank developed at CBS. Treex is a multi-purpose Natural Language Processing software framework developed at Charles University in Prague. Treex is used in a number of projects aimed at building language data resources as well as at developing NLP applications such as Machine Translation systems.

The talk will have two parts. In the first part I will give an overview of the conversion procedure, with focus on pecularities of CDT that made the conversion a challenging task. In the second part I will show how the CDT data in the new format can be browsed and further processed.

V přednášce představím software, který jsem vyvinul pro převod Kodaňského závislostního korpusu (CDT) do systému Treex. CDT je vícejazyčný korpus vyvinutý v Copenhagen Business School. Treex je multilinguální softwarový systém vyvinutý na Karlově univerzitě v Praze. Treex se používá mimo jiné pro vývoj systémů strojového překladu.

Přednáška bude mít dvě části. V první představím konverzní proceduru. Ve druhé části předvedu možné způsoby, jak s daty v novém formátu pracovat.


Machine Translation using Dependency Trees

Strojový překlad s využitím závislostních stromů

Předložená práce je zaměřená na využití stromových syntaktických struktur jakožto reprezentace věty přirozeného jazyka v experimentálním systému pro anglicko-český strojový překlad.

The present work focuses on using tree-shaped syntactic structures as an intermediate sentence representation in an experimental English-Czech machine translation system.


Tailored Feature Extraction for Lexical Disambiguation of English Verbs Based on Corpus Pattern Analysis

Rysy šité na míru anglickým sloves°um pro automatickou lexikální disambiguaci pomocí Corpus Pattern Analysis

We give a report on a detailed study of automatic lexical disambiguation of 30 sample English
verbs. We have trained and evaluate several statistical classifiers that use both morphosyntactic
and semantic features to assign semantic patterns according to a pattern lexicon.
Our system of semantic classification draws on the Corpus Pattern Analysis (CPA) — a novel
lexicographic method that seeks to cluster verb uses according to the morpho-syntactic, lexical
and semantic/pragmatic similarity of their contexts rather than their grouping according to
abstract semantic definitions. In this paper we mainly concentrate on the procedures for feature
extraction and feature selection. We show that features tailored to particular verbs using
contextual clues given by the CPA method and explicitly described in the pattern lexicon have
potential to significantly improve accuracy of supervised statistical classifiers.

Předkládáme detailní studii automatické lexikální disambiguace na pilotním vzorku
třiceti anglických sloves za použití lexikonu vzorů slovesných užití (patterns), který vychází
z Corpus Pattern Analysis (CPA). Tato inovátorská lexikografická metoda namísto na
abstraktních definicích jednotlivých významů staví na souhře morfosyntaktické, lexikální a
sémantické/pragmatické podobnosti slovesných užití. Natrénovali jsme několik statistických
klasifikátorů na rozpoznávání těchto vzorů. Klasifikátory využívají jak morfosyntaktických,
tak sémantických rysů. V naší studii se soustředíme na procedury pro extrakci rysů, jejich
výběr a jejich evaluaci. Ukazujeme, že rysy na míru uzpůsobené jednotlivým slovesům, jež
jsou implicitně obsaženy v definici každého vzoru v lexikonu, mají potenciál významně zvýšit
přesnost statistických klasifikátorů s učitelem.

Martin Holub
Vincent Kríž
Silvie Cinková
Eckhard Bick


Analysis of different approaches to the concept and the description of hierarchy of element from the point of view of topic-focus articulation.

Rozbor různých přístupů k pojetí a popisu stupňovitosti z hlediska aktuálního členění.


The Functional Generative Description as a functionally motivated  formal model of language

Funkční generativní popis jako funkčně motivovaný formalní model jazyka

The article is about main principles of the explicit description of language based on dependency syntax.

Hlavní principy explicitního pražského závislostního modelu jazyka postupující od funkce k formě.


Topic-Focus revisited (Through the eyes of the Prague Dependency Treebank)

Znovu k aktuálnímu členění (Očima Pražského závislostního korpusu)?

A comparison of two theoretical approaches to the information structure and the application of the Praguian approach in an annotated corpus of Czech.

Srovnání dvou teoretických přístupů k aktuálnímu členění a uplatnění pražského přistupu v anotovaném počítačovém korpusu češtiny.


Vilém Mathesius and  Functional Sentence Perspective, and beyond

Vilém Mathesius a aktuální členění, a související otázky

A comparison of different Praguian approaches to information structure, from Vilem Mathesius up today.

Srovnání přístupu k aktuálnímu členění v české lingvistice, od základní práce Mathesiovy až po práce současné.


What we have learned from complex annotation of topic-focus articulation  in a large Czech corpus

Co jsme se naučili z anotace aktuálního členění ve velkém českém korpusu.

Linguistic issues that had to be analyzed and resolved during the annotation of information structure in the Prague Dependency Treebank.

Článek shrnuje lingvistické problémy, na které jsme narazili a které řešili anotátoři při anotování informační struktury ve větách Pražského závislostního korpusu.


From the roots to the trees: A story of annotated corpora of Czech

Od kořenů ke stromům: příběh anotovaných korpusů češtiny

Academic corpus of the Czech language created in the Institute of Czech Language belongs to the first annotated corpora of natural languages ever in existence. This activity was one of the stimuli for the development of the richly annotated corpus of the Prague Dependency Treebank.

Akademický korpus češtiny zpracovaný v ÚJČ AV byl jedním z prvních anotovaných počítačových korpusů přirozeného jazyka, a to na rovině morfosyntaktické. Odtud vedla cesta k bohatě anotovanému Pražskému závislostnímu korpusu.


Dspace Modifications for Clarin Compatible (EPIC) Handle Service

Úpravy Dspace pro služby Handle kompatibilní s Clarinem (EPIC)

This software is a modification and configuration of Dspace 1.6 that allows Clarin centres that employ Dspace as their repository software to use Clarin recommended Handle Service from EPIC Consortium within Dspace.

Tento software je modifikací a konfigurací Dspace 1.6, která umožňuje centrům Clarin, která používají Dspace jako svůj software pro repozitáře, využít službu Handle od konzorcia EPIC, doporučenou Clarinem, v rámci Dspace.


Domain Adaptation of Statistical Machine Translation using Web-Crawled Resources: a Case Study

Doménová adaptace statistického strojového překladu s pomocí dat získaných z webu: případová studie

We tackle the problem of domain adaptation of Statistical Machine Translation by exploiting domain-specific data acquired by domain-focused web-crawling. We design and evaluate a procedure for automatic acquisition of monolingual and parallel data and their exploitation for training, tuning, and testing in a phrase-based Statistical Machine Translation system. We present a strategy for using such resources depending on their availability and quantity supported by results of a large-scale evaluation on the domains of Natural Environment and Labour Legislation and two language pairs: English--French, English--Greek. The average observed increase of BLEU is substantial at 49.5% relative.

V této práci se zabýváme doménovou adaptací statistického strojového překladu s využitím dat automaticky stažených z internetu. Experimenty jsou provedeny na doménách životního prostředí a pracovní legislativy.

Pavel Pecina
Antonio Toral
Vassilis Papavassiliou
Prokopis Prokopidis
Josef Genabith


Simple and Effective Parameter Tuning for Domain Adaptation of Statistical Machine Translation

Jednoduchá a efektivní optimalizace parametrů pro doménovou adaptaci statistického strojového překladu

Current state-of-the-art Statistical Machine Translation systems are based on log-linear models
that combine a set of feature functions to score translation hypotheses during decoding. The
models are parametrized by a vector of weights usually optimized on a set of sentences and
their reference translations, called development data. In this paper, we explore a (common
and industry relevant) scenario where a system trained and tuned on general domain data
needs to be adapted to a specific domain for which no or only very limited in-domain bilingual
data is available. It turns out that such systems can be adapted successfully by re-tuning model
parameters using surprisingly small amounts of parallel in-domain data, by cross-tuning or no
tuning at all. We show in detail how and why this is effective, compare the approaches and
effort involved. We also study the effect of system hyperparameters (such as maximum phrase
length and development data size) and their optimal values in this scenario.

Současné systémy statistického strojového překladu jsou založeny na logaritmicko-lineárních modelech, které pro hodnocení překladových hypotéz ve fázi dekódování kombinují sadu příznakových funkcí. Tyto modely jsou parametrizovány vektorem vah, které se optimalizují na tzv. vývojových datech, tj. množině vět a jejich referenčních překladů. V tomto článku se zabýváme (častou a pro průmyslové nasazení relevantní) situací, kdy je třeba překladový systém natrénovaný na datech z obecné domény adaptovat na nějakou specifickou doménu, pro kterou jsou k dispozici paralelní data jen ve velice omezeném (či žádném) množství. Ukazujeme, že takové systémy mohou být vhodně adaptovány pomocí optimalizace parametrů za použití jen překvapivě malého množství paralelních doménově-specifických dat nebo tzv. křížovou optimalizací. Možností je také nepoužití optimalizace vůbec. Jednotlivé přístupy analyzujeme a porovnáváme jejich cekovou náročnost. Dále se zabýváme analýzou systémových hyperparametrů (např. maximální délkou frází a velikostí vývojových dat) a jejich optimalizací.

Pavel Pecina
Antonio Toral
Josef van Genabith


In our contribution, we relate the development of a richly annotated corpus and a computational valency dictionary. Our valency dictionary has been created as a “byproduct” of the annotation of the Prague Dependency Treebank (PDT) but it became an important resource for further linguistic research as well as for computational processing of the Czech language.

Tento příspěvek se zabývá vztahem korpusu a valenčního slovníku. Slovník vznikl jako vedlejší produkt anotace Pražského závislostního korpusu, stal se důležitým zdrojem jak pro další lingvistický výzkum, tak pro počítačové zpracování češtiny.


Valency of nouns derived from verbs with an object expressed by Genitive

Valence dějových substantiv odvozených od sloves s předmětovým genitivem

In the present paper, adnominal counterparts of adverbal objects expressed by prepositionless Genitive (Gen; e.g. obávat se čeho ‘to-be-afraid of-sth’, dotázat se koho ‘to-ask of-sb’) are studied. The intention was to find out if Czech nouns derived from verbs by non-productive means can be modified by Patient (PAT) or Addressee (ADDR) expressed by Gen as well; neither other papers nor valency dictionaries mention this form of the participants. It has turned out that several nouns modified by PAT expressed by Gen can rarely be found in the corpus (e.g. CNC SYN2005, cf. odvaha spolupráce ‘courage of-cooperation’, jeho dotek puku ‘his touch of-the-puck’; other forms of PAT, i.e. prepositional groups, sometimes also infinitive or an embedded objective clause, are more frequent). Factors that influence possibility or impossibility to be modified by PAT or ADDR expressed by Gen are typically connected with the type of the semantic group the noun belongs to (cf. the difference between nouns denoting “positive” vs. “negative” mental state or dispositions, e.g. naděje úspěchu ‘hope of-success’ vs. *obava následků ‘fear of-consequences’, or the tendency to avoid syntactic homonymy of Actor (ACT) and ADDR expressed by Gen, which is typical of nouns of saying, cf. dotaz kamaráda.ACT vs. *dotaz kamaráda.ADDR ‘question of-the-friend’).

Příspěvek se věnuje valenčním vlastnostem českých neproduktivně tvořených (dějových) substantiv odvozených od sloves s předmětovým genitivem. Prvotní motivací bylo zjistit, zda si tato substantiva (např. obava, dotaz, dotek) uchovávají původní adverbální genitivní vazbu, tj. GenAdnom (← GenAdverb). Valenční slovníky ani odborná literatura tuto vazbu u daných substantiv neuvádějí. V subkorpusech ČNK se u některých substantiv vyskytuje, např. naděje úspěchu, jeho dotek puku; vedle ostatních forem daného participantu (např. předložkových skupin) se jedná spíše o okrajovou možnost vyjádření. Za možností / nemožností užití GenAdnom (← GenAdverb) u dějových substantiv stojí různorodé faktory, související patrně především s příslušností daných substantiv k určité sémantické skupině, příp. podskupině (srov. pozitivní vs. negativní duševní stavy, např. odvaha spolupráce vs. *obava zkoušky, snaha vyhnout se strukturní homonymii u substantiv mluvení, např. *dotaz kamaráda.ADDR vs. dotaz kamaráda.ACT).


Dialogy.Org system is a software tool designed primarily to support the creation and sharing of annotated audio-visual data by linguistic community. The software tool allows editing and searching in the transcripts of audio-visual recordings of dialogues. The dynamic web application provides access for registered users to the digitised archive. Playing and exploring of selected parts is possible in the web browser.

Systém Dialogy.Org je softwarový nástroj určený především k podpoře vytváření a sdílení anotovaných audio-video dat lingvistickou komunitou. Dialogy.Org umožňuje formou webového rozhraní editaci a vyhledávání v přepisech audio-visuálních nahrávek dialogů. Vyhledané úseky textu je možné přehrávat a analyzovat pomocí webového prohlížeče.


Does Tectogrammatics Help the Annotation of Discourse?

Pomáhá tektogramatika při anotaci diskurzních vztahů?

In the following paper, we discuss and evaluate the benefits that deep syntactic trees
(tectogrammatics) and all the rich annotation of the Prague Dependency Treebank bring to the
process of annotating the discourse structure, i.e. discourse relations, connectives and their
arguments. The decision to annotate discourse structure directly on the trees contrasts with the
majority of similarly aimed projects, usually based on the annotation of linear texts. Our basic
assumption is that some syntactic features of a sentence analysis correspond to certain discourselevel
features. Hence, we use some properties of the dependency-based large-scale treebank of
Czech to help establish an independent annotation layer of discourse. The question that we
answer in the paper is how much did we gain by employing this approach.

V tomto příspěvku hodnotíme přínos, který představují syntacticko-sémantické stromy
(tektogramatická rovina anotace) a celá bohatá anotace Pražského závislostního korpusu pro
anotaci diskurzní struktury textu, tedy pro anotaci diskurzních vztahů, jejich konektorů a
argumentů. Rozhodnutím anotovat diskurzní strukturu přímo na stromech se náš přístup liší od
většiny podobně zaměřených projektů, které jsou obvykle založeny na anotaci lineárního textu.
Naším základním předpokladem je, že některé syntaktické rysy větné analýzy odpovídají jistým
rysům z roviny diskurzní struktury. Proto využíváme některé vlastnosti rozsáhlého závislostního
korpusu češtiny k ustanovení nezávislé diskurzní anotační vrstvy. V tomto příspěvku
odpovídáme na otázku, jaké výhody tento přístup přináší.

Jiří Mírovský
Pavlína Jínová
Lucie Poláková


CUNI: Feature Selection and Error Analysis of a Transition-Based Parser

CUNI: Výběr rysů a analýza chyb parseru založeného na přechodech

The paper describes our system used for dependency parsing of Hindi data during the shared task at Coling 2012.

Příspěvek popisuje systém použitý pro závislostní syntaktickou analýzu hindských dat v rámci soutěže na Colingu 2012.


Data Issues of the Multilingual Translation Matrix

Otázka dat ve vícejazyčné překladové matici

We describe our experiments with phrase-based machine translation for the WMT 2012 Shared Task. We trained one system for 14 translation directions between English or Czech on one side and English, Czech, German, Spanish or French on the other side. We describe a set of results with different training data sizes and subsets.

Popisujeme naše pokusy s frázovým strojovým překladem pro soutěž WMT 2012. Natrénovali jsme jeden systém pro 14 překladových párů mezi angličtinou nebo češtinou na jedné straně a angličtinou, češtinou, němčinou, španělštinou nebo francouzštinou na druhé straně. Popisujeme sadu výsledků s různými velikostmi trénovacích dat a jejich podmnožin.


Vícejazyčný statistický strojový překlad: data, data, data…

Observations from this year's experiments at ÚFAL for the WMT shared translation task.

Postřehy z letošních pokusů na ÚFALu v rámci mezinárodní soutěže ve strojovém překladu.


We propose HamleDT – HArmonized Multi-LanguagE Dependency Treebank. HamleDT is a compilation of existing dependency treebanks (or dependency conversions of other treebanks), transformed so that they all conform to the same annotation style. While the license terms prevent us from directly redistributing the corpora, most of them are easily acquirable for research purposes. What we provide instead is the software that normalizes tree structures in the data obtained by the user from their original providers.

Představujeme HamleDT – harmonizovaný mnohojazyčný závislostní korpus. HamleDT je kolekce existujících závislostních korpusů (nebo do závislostí převedených jiných syntakticky anotovaných korpusů), transformovaných tak, aby odpovídaly jednotnému anotačnímu stylu. Licenční podmínky nám nedovolují dále šířit samotné korpusy, většina z nich je ovšem pro vědecké účely snadno dostupná a my nabízíme software, který tato data převede do normalizované podoby.

Daniel Zeman
David Mareček
Martin Popel
Loganathan Ramasamy
Jan Štěpánek
Zdeněk Žabokrtský
Jan Hajič


The organizers of the annual Workshop on Machine Translation (WMT) prepare and distribute parallel corpora that can be used to train systems for the shared tasks. Two core types of corpora are the News Commentary corpus and the Europarl corpus. Both are available in several language pairs, always between English and another European language: cs-en, de-en, es-en and fr-en. The corpora are not multi-parallel. They come from the same source and there is significant overlap but still some sentences are translated to only a subset of the languages. The bi-parallel subsets do not all have the same number of sentence pairs. Such corpora cannot be directly used to train a system for e.g. de-cs (German-Czech). However, we can use English as a pivot language. If we identify the intersection of the English parts of cs-en and de-en, we can take the non-English counterparts of the overlapping English sentences to create a de-cs parallel corpus. That is what this software does.

Organizátoři každoročního Semináře o strojovém překladu (WMT) připravují a šíří paralelní korpusy, které lze použít při trénování systémů pro soutěžní úlohy. Mezi hlavní typy korpusů patří korpusy News Commentary a Europarl. Oba jsou k dispozici v několika jazykových párech, vždy mezi angličtinou a dalším evropským jazykem: cs-en, de-en, es-en a fr-en. Tyto korpusy nejsou paralelní přes více než dva jazyky. Pocházejí ze stejného zdroje a významně se překrývají, přesto však jsou některé věty přeloženy jen do některých jazyků. Dvojjazyčné paralelní podmnožiny nemají všechny stejný počet párů vět. Takové korpusy nemůžeme přímo nasadit při trénování systému pro např. de-cs (němčina-čeština). Můžeme nicméně použít angličtinu jako pivotní jazyk. Pokud rozpoznáme průnik anglických částí cs-en a de-en, můžeme použít jejich neanglické protějšky a vytvořit z nich paralelní korpus de-cs. Tuto úlohu plní tento software.


The Valency Lexicon of Czech Verbs, Version 2.6 (VALLEX 2.6), is a collection of linguistically annotated data and documentation, resulting from an attempt at formal description of valency frames of Czech verbs. VALLEX 2.6 has been developed at the Institute of Formal and Applied Linguistics, Faculty of Mathematics and Physics, Charles University, Prague.

VALLEX 2.6 provides information on the valency structure (combinatorial potential) of verbs in their particular senses. VALLEX 2.6 is a successor of VALLEX 1.0, extended in both theoretical and quantitative aspects (including corpus evidence).

Valenční slovník českých sloves VALLEX, verze 2.6
obsahující přibližně 2730 záznamů o lexémech pokrývajících cca. 6460 lexikálních jednotek (významů). Slovník je volně k dispozici pro účely výzkumu. Nová verze slovníku je - oproti starší verzi - kvalitativně i kvantitativně obohacena (zejm. jsou pro vybraná slovesa doplněny korpusové příkladů).

Markéta Lopatková
Václava Kettnerová
Eduard Bejček
Karolína Skwarska
Zdeněk Žabokrtský


Annotation of sentence structure: Capturing the relationship between clauses in Czech sentences

Anotace větné struktury: Vztahy mezi klauzemi v českém souvětí

The focus of this article is on the creation of a collection of sentences manually annotated with respect to their sentence structure. We show that the concept of linear segments—linguistically motivated units, which may be easily detected automatically—serves as a good basis for the identification of clauses in Czech. The segment annotation captures such relationships as subordination, coordination, apposition and parenthesis; based on segmentation charts, individual clauses forming a complex sentence are identified. The annotation of a sentence
structure enriches a dependency-based framework with explicit syntactic information on relations among complex units like clauses. We have gathered a collection of 3,444 sentences from the Prague Dependency Treebank, which were annotated
with respect to their sentence structure (these sentences comprise 10,746 segments forming 6,341 clauses). The main purpose of the project is to gain a development data—promising results for Czech NLP tools (as a dependency parser or a machine translation system for related languages) that adopt an idea of clause segmentation have been already reported. The collection of sentences with annotated sentence structure provides the possibility of further improvement of such tools.

Článek se soustřeďuje na popis kolekce vět, u kterých byla ručně analyzována větná struktura. Ukazuje, že koncept založený na lineárních segmentech, které lze snadno automaticky detekovat, slouží jako dobrý základ pro identifikaci klauzí v češtině. Anotace segmentů zahrnuje takové jevy jako je závislost kauzí, jejich koordinace, apozice či parenteze.
Anotace větné struktury doplňuje závislostní přístup k popisu jazyka o explicitní informaci o vztazích mezi klauzemi.

Markéta Lopatková
Petr Homola
Natalia Klyueva


Presentations to high school students within the "Day of professions". The aim was to introduce students to mathematical linguistics as an interesting field, and generally promote the study of natural sciences.

Popularizační prezentace pro studenty gymnázia Na Zatlance v rámci Dne profesí. Cílem bylo přiblížit studentům matematickou lingvistiku jako zajímavý obor a obecně propagovat studium přírodních věd.


Example of regular patterns of word formation in the automatic processing of Czech and Russian

Příklad pravidelných slovotvorných vzorců  v automatickém zpracování češtiny a ruštiny

There is a set of prefixes in Czech as well as in Russian, which, added to imperfective verbs together with a reflexive pronoun, change the meaning of the verb in the same manner. This feature is so regular that could help automatically recognize words without using morphological dictionaries.

V češtině i v ruštině existuje množina předpon, jejichž připojením k nedokonavému slovesu a přidáním zvratného zájmena pozměníme význam původního slovesa vždy téměř stejným způsobem. Toho lze využít při automatickém rozpoznávání slovních tvarů, aniž by bylo třeba je ukládat do morfologických slovníků.


Maintaining consistency of monolingual verb entries with interannotator agreement

Udržování konzistence jednojazyčných slovesných hesel pomocí mezianotátorské shody

There is no objectively correct way to create a monolingual entry of a polysemous verb. By structuring a verb into readings, we impose our conception onto lexicon users, no matter how big a corpus we use in support. How do we make sure that our structuring is intelligible for others?

We are performing an experiment with the validation of the fully corpus-based Pattern Dictionary of English Verbs (Hanks & Pustejovsky, 2005), created according to the lexical theory Corpus Pattern Analysis (CPA). The lexicon is interlinked with a large corpus, in which several hundred randomly selected concordances of each processed verb are manually annotated with numbers of their corresponding lexicon readings (“patterns”). It would be interesting to prove (or falsify) the leading assumption of CPA that, given the patterns are based on a large corpus, individual introspection has been minimized and most people can agree on this particular semantic structuring. We have encoded the guidelines for assigning concordances to patterns and hired annotators to annotate random samples of verbs cotained in the lexicon. Apart from measuring the interannotator agreement, we analyze and adjudicate the disagreements. The outcome is offered to the lexicographer as feedback. The lexicographer revises his entries and the agreement can be measured againg on a different random sample to test whether or not the revision has brought an improvement of the interannotator agreement score. A high interannotator agreement suggests that lexicon users are likely to find a pattern corresponding to a random verb use of which they seek explanation. A low agreement score gives a warning that there are patterns missing or vague.

We focus on machine-learning applications, but we believe that this procedure is of interest even for quality management in human lexicography.

Článek se věnuje problematice sémantické analýzy sloves a lexikálnímu popisu sloves se zřetelem k vytvoření trénovacích dat pro automatický sémantický analyzátor. Vychází z metody Corpus Pattern Analysis a zkoumá její uplatnění v lexikálním popisu sloves pro účely NLP pomocí měření mezianotátorské shody.

Silvie Cinková
Lenka Smejkalová
Anna Vernerová
Jonáš Thál
Martin Holub


A database of semantic clusters of verb usages

Databáze sémantických shluků slovesných kontextů

We are presenting VPS-30-En, a small lexical resource that contains the following 30 English verbs: access, ally, arrive, breathe,
claim, cool, crush, cry, deny, enlarge, enlist, forge, furnish, hail, halt, part, plough, plug, pour, say, smash, smell, steer, submit, swell,
tell, throw, trouble, wake and yield. We have created and have been using VPS-30-En to explore the interannotator agreement potential
of the Corpus Pattern Analysis. VPS-30-En is a small snapshot of the Pattern Dictionary of English Verbs (Hanks and Pustejovsky,
2005), which we revised (both the entries and the annotated concordances) and enhanced with additional annotations. It is freely
available at http://ufal.mff.cuni.cz/spr. In this paper, we compare the annotation scheme of VPS-30-En with the original PDEV. We
also describe the adjustments we have made and their motivation, as well as the most pervasive causes of interannotator disagreements.

Představujeme VPS-30-En, malý lexikální zdroj, který obsahuje následujících 30 sloves: access, ally, arrive, breathe,
claim, cool, crush, cry, deny, enlarge, enlist, forge, furnish, hail, halt, part, plough, plug, pour, say, smash, smell, steer, submit, swell,
tell, throw, trouble, wake and yield.
VPs-30-En jsme vytvořili a používáme jej k výzkumu potenciálu mezianotátorské shody u sémantického značkování podle anotačního schématu CPA.

Silvie Cinková
Martin Holub
Adam Rambousek
Lenka Smejkalová


Managing Uncertainty in Semantic Tagging

Kontrola nejistoty v sémantickém značkování

Low interannotator agreement (IAA) is a
well-known issue in manual semantic tagging
(sense tagging). IAA correlates with
the granularity of word senses and they
both correlate with the amount of information
they give as well as with its reliability.
We compare different approaches to semantic
tagging in WordNet, FrameNet, Prop-
Bank and OntoNotes with a small tagged
data sample based on the Corpus Pattern
Analysis to present the reliable information
gain (RG), a measure used to optimize the
semantic granularity of a sense inventory
with respect to its reliability indicated by
the IAA in the given data set. RG can also
be used as feedback for lexicographers, and
as a supporting component of automatic semantic
classifiers, especially when dealing
with a very fine-grained set of semantic categories.

Nízká mezianotátorská shoda (IAA) je známým problémem v sémantickém značkování. IAA koreluje s granularitou lexií a oboje koreluje s množstvím informace i s její spolehlivosí. Představujeme Reliable Gain (RG), míru, která optimalizuje sémantickou granularitu se zřetelem ke spolehlivosti informace.

Silvie Cinková
Martin Holub
Vincent Kríž


Optimizing semantic granularity for NLP -  report on a lexicographic experiment

Optimalizace sémantické granularity pro NLP - zpráva o jednom lexikografickém experimentu

Experiments with semantic annotation based on the Corpus pattern Analysis and the lexical resource PDEV (Hanks and Pustejovsky, 2005), revealed a need of an evaluation measure that would identify the optimum relation between the semantic granularity of the semantic categories in the description of a verb and the reliability of the annotation expressed by the interannotator agreement (IAA). We have introduced the Reliable Information Gain (RG), which computes this relation for each tag selected by the annotators and relates it to the entry as a whole, suggesting merges of unreliable tags whenever it would increase the information gain of the entire tagset (the number of semantic categories in an entry). The merges suggested in our 19-verb sample correspond with common sense. One of the possible applications of this measure is quality management of the entries in a lexical resource.

Experimenty se sémantickou anotací založenou na Corpus Pattern Analysis a lexikálním zdroji PDEV (Hanks a Pustejovsky, 2005) ukázaly potřebu evaluační míry, která by identifikovala optimální vztah mezi sémantickou granularitou sémantických kategorií v lexikálním  popisu slovesa a spolehlivostí anotace, která se měří pomocí mezianotátorské shody. Představujeme takovou míru.


Combining Manual and Automatic Annotation of a Learner Corpus

Kombinace ruční a automatické anotace žákovského korpusu

We present an approach to building a learner corpus of Czech, manually corrected and annotated with error tags using a complex grammar-based taxonomy of errors in spelling, morphology, morphosyntax, lexicon and style. This grammar-based annotation is supplemented by a formal  classification of errors based on surface alternations. To supply additional information about non-standard or ill-formed expressions, we aim at a synergy of manual and automatic annotation, deriving information from the original input and from the manual annotation.

Článek popisuje přístu k automatické a manuální anotaci žákovského korpusu.

Tomáš Jelínek
Barbora Štindlová
Alexandr Rosen
Jirka Hana


How to Measure Word Order Freedom for Natural Languages?

Jak měřit volnost slovosledu přirozených jazyků?

The paper focuses on a phenomenon of free word order through the analysis by reduction.
It exploits its formal background and data types and studies the word order freedom
of a (natural) language. We propose and discuss several variants of a measure based on
a number of word order shifts (i.e., word order changes preserving syntactic correctness,
individual word forms, their morphological characteristics and their surface dependency
relations). Such measure helps to understand the difference between word order complexity
(how difficult it is to parse sentences with more complex word order) and word
order freedom (to which extent it is possible to change the word order without causing a
change of individual word forms, their morphological characteristics and/or their surface
dependency relations).

Příspěvek se zabývá volným slovosledem z pohledu redukční analýzy. Využívá jejích formálních základů a datové struktury. Navrhujeme několik variant míry volnosti slovosledu založených na operaci posouvání (shift). tedy operaci spočívající ve slovosledných změnách zachovávajících syntaktickou správnost věty. Tyto míry umožňují pochopit a studovat rozdíl mezi komplexitou slovosledu (jak složité je analyzovat věty s komplexním slovosledem) a volností slovosledu (jak je možné měnit slovosled při zachování závislostních relací ve větě).

Vladislav Kuboň
Markéta Lopatková
Martin Plátek


On Formalization of Word Order Properties

This paper contains an attempt to formalize the degree of word order freedom for natural languages. It exploits the mechanism of the analysis by reduction and defines a measure based on a number of shifts performed in the course of the analysis. This measure helps to understand the difference between the word order complexity (how difficult it is to parse sentences with more complex word order) and word order freedom in Czech (to which extent it is possible to change
the word order without causing a change of individual word forms, their morphological characteristics and/or their surface dependency relations). We exemplify this distinction on a pilot study on Czech sentences with clitics.

Tento článek se zabývá formalizací popisu volného slovosledu přirozených jazyků. Využívá mechanismu redukční analýzy a definuje míru volnosti slovosledu na základě počtu přesunů provedených v průběhu analýzy. Tato míra umožňuje rozlišit složitost slovosledu (jak obtížné je analyzovat věty se složitějším slovosledem) a volnost slovosledu (do jaké míry je možné měnit slovosled, aniž by došlo ke změně jednotlivých slovních tvarů, jejich morfologické charakteristiky a / nebo jejich povrchově syntaktických vztahů). Tento rozdíl je ilustrován na pilotní studii českých vět s klitikami.


Studying Formal Properties of a Free Word Order Language

Příspěvek ke studiu formálních vlastností jazyků s volným slovosledem

The paper investigates a phenomenon of free word order through the analysis by reduction. It exploits its formal background and data types and studies the word order freedom by means of the minimal number of word order shifts (word order
changes preserving syntactic correctness, individual word forms, their morphological characteristics and/or their surface dependency relations).
The investigation focuses upon an interplay of two phenomena related to word order: (non-)projectivity of a sentence and number of word order shifts within the analysis by reduction. This interplay is exemplified on a sample of Czech sentences with clitics.

Příspěvek zkoumá fenomén volného slovosledu přirozeného jazyka metodou redukční analýzy. Využívá přitom formální rámec a datový typ této analytické metody a uplatňuje ho na zkoumání minimálního počtu slovosedných posunů (tj. slovosledných změn zachovávajících syntaktickou správnost, jednotlivé slovní tvary, jejicj morfologickou a syntaktickou charakteristiku).
Zkoumání se soustřeďují na dva vzájemně se ovlivňující jevy související se slovosledem: (ne)projektivitu a počet přesunů. Tyto jevy jsou ilustrovány na vzorlu českých vět obsahujících klitiky.


Machine Translation Among Related Slavic Languages

Strojový překlad příbuzných slovanských jazyků

This chapter describes the history of experiments in the field of machine translation among related Slavic languages, methods used and results achieved.

Kapitola popisuje historii pokusů s automatickým překladem mezi příbuznými jazyky, použité metody a dosažené výsledky.


Prague Dependency Treebank 2.5 -- a revisited version of PDT 2.0

Pražský závislostní korpus 2.5 -- rozšířená verze PDT 2.0

We present the Prague Dependency Treebank 2.5, the newest version of  PDT and the first to be released under a free license. We show the benefits of PDT 2.5 in comparison to other state-of-the-art treebanks. We present the new features of the 2.5 release, how they were obtained and how reliably  they are annotated. We also show how they can be used in queries and how they are visualised with tools released alongside the treebank.

Představujeme nejnovější verzi Pražského závislostního treebanku PDT 2.5, který bude poprvé vydán pod veřejnou licencí. Výhody PDT 2.5 ukážeme na srovnání s nejmodernějšími treebanky. Představíme nové vlastnosti verze 2.5, popíšeme, jak byly anotovány i jak spolehlivá tato anotace je. Ukážeme, jakými dotazy lze nové jevy hledat a jak se zobrazují v nástrojích dodávaných spolu s treebankem.

Eduard Bejček
Jarmila Panevová
Jan Popelka
Pavel Straňák
Magda Ševčíková
Jan Štěpánek
Zdeněk Žabokrtský


Predicative adverbs in the grammatical description of Czech

Predikativum v gramatickém popisu češtiny

From a number of Czech adjectives, both an adverb with the suffix -o and an adverb with the suffix -e are derived, cf. deštivý `rainy’ – deštivo/deštivě, drahý `expensive’ – draho/draze. These pairs of adverbs have often the same meaning but the adverb with the suffix -o occurs as a part of the predicate (with the verb být `to be’; ráno bylo deštivo `in the morning it was rainy’) while the adverb with the suffix -e is often specialized for the adverbial function (e.g. ráno vypadalo deštivě/*deštivo `the morning looked rainy’). On the functional specialization Komárek’s (1954) proposal to separate the adverbs with the suffix -o as an autonomous part of speech was based. Since the actual corpus material indicates that both the adverb with the suffix -o and the adverb with -e are acceptable in the same context (cf. je tam draho/draze `it is an expensive place to live’, draho/draze prodat `to sell dear’ VS. přišlo ho to draho/*draze ` it cost him dear’, draze/*draho za to zaplatil `he paid for this’) but the (non)acceptability cannot be probably explained by a grammatical principle, it seems to be appropriate to consider these words further as adverbs and to describe them as separate lexical units rather than a homogenous group.

Od řady českých adjektiv se tvoří jak adverbium s příponou -e, tak adverbium s příponou -o, př. deštivý – deštivě/deštivo, drahý – draze/draho. Deadjektivní adverbia s příponou -o často vystupují jako součást verbonominálního predikátu se slovesem být v neosobních konstrukcích, některá z nich se na tuto větněčlenskou funkci dokonce omezují (př. na horách bylo deštivo), jiná plní kromě této funkce i funkce jiné (srov. je tam draho vs. přišlo ho to draho). Predikativní funkce deadjektivních adverbií na -o se stala hlavním argumentem pro úvahy o vyčlenění těchto adverbií (spolu s dalšími výrazy) jako samostatného slovního druhu, tzv. predikativ. V příspěvku probíráme syntaktické a sémantické vlastnosti těchto adverbií na -o na základě aktuálního korpusového materiálu. Jako výhodnější se ukazuje popisovat tato adverbia jako samostatné lexikální jednotky, nikoli jako skupinu.


Sentence Modality Assignment in the Prague Dependency Treebank

Určování větné modality v Pražském závislostním korpusu

The paper focuses on the annotation of sentence modality in the Prague Dependency Treebank (PDT). Sentence modality is expressed by a combination of several means in Czech, from which the category of verbal mood and the final punctuation of the sentence are the most important ones. In PDT 2.0, sentence modality was assigned semi-automatically to the root node of each sentence (tree) and further to the roots of parenthesis and direct speech subtrees. As this approach was too simple to adequately represent the linguistic phenomenon in question, the method for assigning the sentence modality has been revised and elaborated for the forthcoming version of the treebank (PDT 3.0).

Článek se zabývá anotací větné modality v Pražském závislostním korpusu (PDT). Větná modalita je v češtině vyjádřena kombinací několika faktorů, především slovesným způsobem a koncovou interpunkcí. V PDT 2.0 byla větná modalita přiřazena poloautomaticky kořeni každé věty (stromu) a dále kořenům stromů reprezentujících vsuvku nebo přímou řeč. Tento přístup byl příliš zjednodušující pro adekvátní zachycení daného jevu, proto byla metoda přiřazení větné modality pro příští vydání treebanku (PDT 3.0) zrevidována a rozpracována.


Reinforcement learning for spoken dialogue systems using off-policy natural gradient method

Zpětnovazební učení pro hlasové dialogové systémy používající off-policy gradientní metody

Reinforcement learning methods have been successfully used
to optimise dialogue strategies in statistical dialogue systems.
Typically, reinforcement techniques learn on-policy i.e., the
dialogue strategy is updated online while the system is interacting
with a user. An alternative to this approach is off-policy
reinforcement learning, which estimates an optimal dialogue
strategy offline from a fixed corpus of previously collected
dialogues.
This paper proposes a novel off-policy reinforcement
learning method based on natural policy gradients and importance
sampling. The algorithm is evaluated on a spoken
dialogue system in the tourist information domain. The experiments
indicate that the proposed method learns a dialogue
strategy, which significantly outperforms the baseline handcrafted
dialogue policy

Zpětno vazební učení již bylo úspěšně použito k optimalizaci statisktických dialogových systémů. Typicky zpětnovazební učení se učí online on-policy tj. v přímé interakci s uživatelem. Alternativou k tomuto přístupu je off-policy učení kdy otimální strategie řízení je určena z korpusu již dříve pořízených dialogů. Tento článek prezentuje a nový zpětnovazební algoritmus založený na přirozených gradientech a vhodné adaptaci samplování dat. Experimenty ukazují, že prezentovaný algoritmus je schopen se naučit strategii řízení, která je lepší než manuálně vytvořená strategie řízení.


Značkovač závislostních vztahů pro češtinu

We present a MIRA-based labeller designed to assign dependency relation labels to edges in a dependency parse tree, tuned for Czech language. The labeller was created to be used as a second stage to unlabelled dependency parsers but can also improve output from labelled dependency parsers. We evaluate two existing techniques which can be used for labelling and experiment with combining them together. We describe the feature set used. Our final setup significantly outperforms the best results from the CoNLL 2009 shared task.

Představujeme značkovač závislostních vztahů založený na metodě MIRA, vyladěný na češtině.


DEPFIX: A System for Automatic Correction of Czech MT Outputs

DEPFIX: Systém pro automatickou opravu českých výstupů MT

We present an improved version of DEPFIX, a system for automatic rule-based post-processing of English-to-Czech MT outputs designed to increase their fluency. We enhanced the rule set used by the original DEPFIX system and measured
the performance of the individual rules.
We also modified the dependency parser of
McDonald et al. (2005) in two ways to adjust
it for the parsing of MT outputs. We show that
our system is able to improve the quality of the
state-of-the-art MT systems.

Prezentujeme vylepšenou verzi systému DEPFIX pro automatický post-editing výstupu z anglicko-českého strojového překladu, který se snaží zlepšovat jeho plynulost. Rozšířili jsme sadu pravidel použitou původním systémem DEPFIX a změřili výkon jednotlivých pravidel. Navíc jsme dvěma způsoby upravili parser McDonalda et al. (2005) pro zvýšení kvality parsingu výstupu strojového překladu. Ukazujeme, že náš systém je schopný zlepšit výstup nejmodernějších překladových systémů.


Using Parallel Features in Parsing of Machine-Translated Sentences for Correction of Grammatical Errors

Využití paralelních rysů v parsingu strojově přeložených vět pro korekci gramatických chyb

In this paper, we present two dependency
parser training methods appropriate for parsing outputs of statistical machine translation (SMT), which pose problems to standard
parsers due to their frequent ungrammaticality. We adapt the MST parser by exploiting
additional features from the source language,
and by introducing artificial grammatical errors in the parser training data, so that the
training sentences resemble SMT output.
We evaluate the modified parser on DEPFIX, a system that improves English-Czech
SMT outputs using automatic rule-based corrections of grammatical mistakes which requires parsed SMT output sentences as its input. Both parser modifications led to improvements in BLEU score; their combination was evaluated manually, showing a statistically significant improvement of the translation quality.

Představujeme dvě metody pro trénování závislostního parseru vhodného pro parsing výstupů strojového překladu. Upravili jsme MST parser použitím dalších rysů ze zdrojového jazyka a zavedením umělých gramatických chyb do trénovacích dat parseru, takže tato více odpovídají výstupu storjového překladu. Upravený parser evaluujeme na systému DEPFIX, který zlepšuje výstupy anglicko-českého strojového překladu automatickými opravami založenými na pravidlech. Obě úpravy parseru vedou ke zvýšení skóre BLEU; jejich kombinace byla evaluována manuálně a vykazuje statisticky signifikantní zlepšení kvality překladu.

Rudolf Rosa
Ondřej Dušek
David Mareček
Martin Popel


Introducing context lexical models to TectoMT

Zavádění kontextových lexikálních modelů do TectoMT

Much of the attention in the MT community has recently been devoted to improving the lexical choice in the target language by capturing a context wider than just a single sentence.
In this talk I will present our contribution to these efforts, particularly the progress in enriching translation models for English to Czech translation within the TectoMT system.
First of all, we performed a pure technical step. We replaced the MaxEnt learning module used so far with the Vowpal Wabbit learning toolkit. It
not only allows us to train our models faster, to exploit more training examples and features, but it also offers rich parametrization options, which can together lead to improvement of our MT system.
However, the main objective of this ongoing work is to explore the potential of lexical context features to improve the translation. We do so by including the standard bag-of-words features and by introducing novel features representing concepts coming from Explicit Semantic
Analysis, which was originally developed in the field of Information Retrieval.

Množstvo pozornosti v MT komunitě bylo v nedávne době věnováno zlepšování lexikálního výběru v cílovém jazyce pomocí zachycení kontextu širšího nežli jedna věta. V této přednášce prezentuji náš příspěvek k těmto snahám, konkrétně pokrok v obohacování překladových modelů pro překlad z angličtiny do češtiny systémem TectoMT.
Ze všeho nejdřív jsme provedli čistě techický krok. Nahradili jsme doteď používaný modul MaxEnt na strojové učení nástrojem Vowpal Wabbit. Ten nám nejenom umožňuje trénovat modely rychleji a tím využít víc trénovacích příkladů a rysů, ale také nabízí bohaté možnosti parametrizace, co dohromady může vést k zlepšení našeho MT systému.
Nicméně, hlavním cílem tohoto pořád běžícího projektu je prozkoumat potenciál lexikálních kontextových rysů na vylepšení překladu. Činíme tak přidáním standardních bag-of-words rysů a zavedením nových rysů reprezentujících koncepty z Explicitní Sémantické Analýzy, co je metoda původně vyvynuta v oboru Dobývaní znalostí.


Utilization of context in Machine Translation

In this talk I presented the shift of my research from utilization of coreference to utilization of text context in general in the task of Machine Translation. I introduced lexical discriminative translation models and the initial experiments with them integrated within the English to Czech translation scenario in TectoMT system.

V této přednášce jsem prezentoval posun témy mojeho výzkumu z využití koreference na využití textového kontextu všeobecně v úloze strojového překladu. Představil jsem lexikální diskriminativní překladové modely a prvotní experimenty s nimi v rámci překladu z angličtiny do češtiny systémem TectoMT.


Language identification of written text has been studied for several decades. Despite this fact, most of the research is focused on a few most spoken languages, whereas the minor ones are ignored. The identification of a larger number of languages brings new difficulties that do not occur for a few languages. These difficulties are causing decreased accuracy. The objective of this paper is to investigate the sources of such degradation. In order to isolate the impact of individual factors, 5 different algorithms and 3 different number of languages are used. The Support Vector Machine algorithm achieved an accuracy of 98% for 90 languages and the YALI algorithm based on a scoring function had an accuracy of 95.4%. The YALI algorithm has slightly lower accuracy but classifies around 17 times faster and its training is more than 4000 times faster.

Three different data sets with various number of languages and sample sizes were prepared to overcome the lack of standardized data sets. These data sets are now publicly available.

Identifikace jazyku psaného textu se zkoumá již několik desetiletí. Navzdory tomuto faktu se většina vůzkumů soustředila pouze na pár nejčastěji používaných jazyků zatímco ty ostatní jsou ignorovány. Při identifikaci velkého množství jazyků je nutné řešit jiné problémy než u identifikace malého množství jazyků, protože v opačném případě nastává pokles přesnosti. Cílem tohoto článku je prozkoumat důvody tohoto poklesu. Aby bylo možné izolovat jednotlivé faktory použili jsme 5 různých algoritmů a 3 různé počty jazyků. SVM algoritmus dosáhl úspěšnosti 98% pro 90 jazyků a YALI algoritmus založená na ohodnocující funkci dosáhl úspěšnosti 95,4%. YALI algoritmus je sice nepatrně horší, ale jazyky identifikuje 17x rychleji a jeho trénování je dokonce 4000x rychlejší.

Připravili jsme také 3 různé datasety s různým počtem jazyků a velikostí vzorků, abychom překonali nedostatek veřejně dostupných trénovacích dat.


We have built a corpus containing texts in 106 languages from texts available on the Internet and on Wikipedia. The W2C Web Corpus contains 54.7 GB of text and the W2C Wiki Corpus contains 8.5 GB of text. The W2C Web Corpus contains more than 100 MB of text available for 75 languages. At least 10 MB of text is available for 100 languages. These corpora are a unique data source for linguists, since they outclass all published works both in the size of the material collected and the number of languages covered. This language data resource can be of use particularly to researchers specialized in multilingual technologies development. We also developed software that greatly simplifies the creation of a new text corpus for a given language, using text materials freely available on the Internet. Special attention was given to components for filtering and de-duplication that allow to keep the material quality very high.

Vytvořili jsme korpus obsahující texty ve 106 jazycích z dokumentů, které jsou dostupné na Internetu a Wikipedii. W2C Web Corpus obsahuje 54,7 GB textu a W2C Wiki Corpus obsahuje 8,5 GB textu. W2C Web Corpus obsahuje více než 100 MB textu pro 75 jazyů a alespoň 10 MB textu pro 100 jazyků. Tyto korpusy jsou jedinečným zdrojem dat pro lingvistiku, protože překonávají všechny dosud publikované práce, jak v množství nashromážděných textů, tak i v množství obsažených jazyků. Tento zdroj dat může být především užitečný pro vědce specializujícící se na vývoj vícejazyčných technologií. Také jsme vyvinuli software, který výrazně usnadňje tvorbu korpusů pro libovolný jazyk z textů volně dostupných na Internetu. Při vývoji jsme se hlavně zaměřili na komponenty pro filtrovaní a odstraňování duplicit, což nám umožnilo dosáhnout vysoké kvality výsledných dat.


Morphological Processing for English-Tamil Statistical Machine Translation

Morfologické zpracování pro statistický strojový překlad z angličtiny do tamilštiny

Various experiments from literature suggest that in statistical machine translation (SMT), applying either pre-processing or post-processing to morphologically rich languages leads to better translation quality. In this work, we focus on the English-Tamil language pair. We implement suffix-separation rules for both of the languages and evaluate the impact of this
preprocessing on translation quality of the phrase-based as well as hierarchical model in terms of BLEU score and a small manual evaluation. The results confirm that our simple suffix-based morphological processing helps to obtain better translation performance. A by-product of our
efforts is a new parallel corpus of 190k sentence pairs gathered from the web.

Různé experimenty z literatury naznačují, že ve statistickém strojového překladu (SMT), předzpracování nebo závěrečné úpravy pro morfologicky bohaté jazyky vedou k lepší kvalitě překladu. V této práci jsme se zaměřili na jazykový pár angličtina-tamilština.

Loganathan Ramasamy
Ondřej Bojar
Zdeněk Žabokrtský


Prague Dependency Style Treebank for Tamil

Pražský závislostní korpus styl pro Tamil

Annotated corpora such as treebanks are important for the development of parsers, language applications as well as understanding of the
language itself. Only very few languages possess these scarce resources. In this paper, we describe our efforts in syntactically annotating
a small corpora (600 sentences) of Tamil language. Our annotation is similar to Prague Dependency Treebank (PDT) and consists of
annotation at 2 levels or layers: (i) morphological layer (m-layer) and (ii) analytical layer (a-layer). For both the layers, we introduce
annotation schemes i.e. positional tagging for m-layer and dependency relations for a-layers. Finally, we discuss some of the issues in
treebank development for Tamil.

Anotované korpusy jako treebanks jsou důležité pro vývoj analyzátorů, jazykové aplikace, stejně jako porozumění
Jazyk sám. Jen velmi málo jazyků mají tyto omezené zdroje. V tomto článku si popíšeme naše úsilí v syntakticky anotace
malé korpusy (600 vět) z Tamil jazyce. Naše anotace je podobný Pražského závislostního korpusu (PDT) a skládá se z
Anotace na 2 podlažích či vrstev: (i) Morfologická rovina (m-layer) a (ii) analytické vrstvy (vrstvy). U obou vrstev, uvádíme
anotace programů, tj. poziční značení pro m-layer a vztahy závislosti na několika vrstev. Na závěr budeme diskutovat některé otázky v
korpus vývoj pro Tamil.


The Study of Effect of Length in Morphological Segmentation of Agglutinative Languages

STUDIUM VLIVU délky v morfologických segmentaci aglutinační JAZYKŮ

Morph length is one of the indicative feature
that helps learning the morphology of languages,
in particular agglutinative languages.
In this paper, we introduce a simple unsupervised
model for morphological segmentation
and study how the knowledge of morph
length affect the performance of the segmentation
task under the Bayesian framework.
The model is based on (Goldwater et
al., 2006) unigram word segmentation model
and assumes a simple prior distribution over
morph length. We experiment this model
on two highly related and agglutinative languages
namely Tamil and Telugu, and compare
our results with the state of the art Morfessor
system. We show that, knowledge of
morph length has a positive impact and provides
competitive results in terms of overall
performance.

Morph délka je jedním z orientační funkce
, která pomáhá učit morfologii jazyků,
zejména aglutinační jazyky.
V tomto článku vám představíme jednoduchý bez dozoru
model pro morfologické segmentace
a pozorujete, jak se znalosti morph
Délka ovlivnit výkon segmentaci
úkol v rámci bayesovského rámce.
Model je založen na (Goldwater et
al., 2006) unigram slovo segmentace modelu
a předpokládá jednoduchou distribuci přes předchozí
morph délka. Jsme experimentovat tento model
na dvou velmi příbuzných a aglutinační jazyky
Tamil a Telugu to, a porovnávat
naše výsledky s nejmodernější Morfessor
systém. Ukazujeme, že znalost
morph délka má pozitivní vliv a poskytuje
konkurenceschopných výsledků, pokud jde o celkový
výkon.

Loganathan Ramasamy
Zdeněk Žabokrtský
Sowmya Vajjala


Retraining Machine Translation with Post-edits to Increase Post-editing Productivity in Content Management Systems

Retrénování strojového překladu s post-editacemi ke zlepšení post-editační produktivity v systémech pro správu obsahu

The post-editing of machine translated content has proved to be more productive than translating from
scratch in the localisation industry. A study carried out at Autodesk shows that Machine Translation (MT) and post-editing of technical documentation by professional translators provides a sustained productivity increase across different languages.

Tato práce se zabývá využitím manuálně post-editovaných automatických překladů pro iterativní trénování systémů statistického strojového překladu.

Antonio Toral
Leroy Finn
Dominic Jones
Pavel Pecina
David Lewis
Declan Groves


Efficiency-based Evaluation of Aligners for Industrial Applications

Vyhodnocení efektivity zarovnávačů  pro průmyslové aplikace

This paper presents a novel efﬁciencybased evaluation of sentence and word aligners. This assessment is critical in order to make a reliable use in industrial scenarios. The evaluation shows that the resources required by aligners differ rather broadly. Subsequently, we establish limitation mechanisms on a set of aligners deployed as web services. These results, paired with the quality expected from the aligners, allow providers to choose the most appropriate aligner according to the task at hand.

Tato práce se zabývá evaluací výkonosti větných a slovních zarovnávačů, což je velice významný aspekt pro průmyslové nasazení, a ukazuje, že zdroje vyžadované různými nástroji se velice liší.

Antonio Toral
Marc Poch
Pavel Pecina
Gregor Thurmair


TerrorCat: a Translation Error Categorization-based MT Quality Metric

TerrorCat: metrika hodnocení kvality překladu založená na kategorizaci chyb

We present TerrorCat, a submission to the
WMT’12 metrics shared task. TerrorCat uses
frequencies of automatically obtained translation
error categories as base for pairwise comparison
of translation hypotheses, which is in
turn used to generate a score for every translation.
The metric shows high overall correlation
with human judgements on the system
level and more modest results on the level of
individual sentences.

Představujeme TerrorCat, metriku kvality strojového překladu s níž jsme se účastnili soutěže WMT12. TerrorCat se opírá o automaticky odhadnuté počty několika kategorií překladových chyb a předpovídá tak, která ze dvou kandidátských vět je lepší.

Mark Fishel
Rico Sennrich
Maja Popović
Ondřej Bojar


Terra: a Collection of Translation Error-Annotated Corpora

Terra: sbírka korpusů s vyznačenými chybami v překladu

Recently the first methods of automatic diagnostics of machine translation have emerged; since this area of research is relatively young,
the efforts are not coordinated. We present a collection of translation error-annotated corpora, consisting of automatically produced trans-
lations and their detailed manual translation error analysis. Using the collected corpora we evaluate the available state-of-the-art methods
of MT diagnostics and assess, how well the methods perform, how they compare to each other and whether they can be useful in practice.

V nedávné době se objevily první automatické metody identifikace chyb v překladu. Představujeme materiál, na němž lze takové metody vyhodnocovat, konkrétně kolekci textů, kde lidé ručně překladové chyby označili.


Automatic MT Error Analysis: Hjerson Helping Addicter

Automatická analýza chyb strojového překladu: Hjerson pomáhá Addicteru

We present a complex, open source tool for detailed machine translation error analysis providing the user with automatic error detection
and classification, several monolingual alignment algorithms as well as with training and test corpus browsing. The tool is the result of
a merge of automatic error detection and classification of Hjerson (Popović, 2011) and Addicter (Zeman et al., 2011) into the pipeline
and web visualization of Addicter. It classifies errors into categories similar to those of Vilar et al. (2006), such as: morphological, reordering, missing words, extra words and lexical errors. The graphical user interface shows alignments in both training corpus and
test data; the different classes of errors are colored. Also, the summary of errors can be displayed to provide an overall view of the MT
system’s weaknesses. The tool was developed in Linux, but it was tested on Windows too.

Představujeme komplexní open-source nástroj pro detailní analýzu chyb strojového překladu, který umožňuje automatickou detekci a klasifikaci chyb, poskytuje několik algoritmů pro jednojazyčné zarovnání (alignment) slov a procházení trénovacích a testovacích korpusů.

Jan Berka
Ondřej Bojar
Mark Fishel
Maja Popović
Daniel Zeman


On a Corpus of Older Czech Texts and Its Usage

Ke korpusu starší češtiny a jeho využití

The article describes the Corpus of older Czech texts and demonstrates how it is possible to use it in linguistics.

Článek popisuje Korpus starších českých textů a ukazuje možnosti jeho využití v lingvistice.


Czech syntactic rstudies from Šmilauer to the present from the Prague and Brno perspectives

České syntaktické bádání od Šmilauera po dnešek očima Prahy a Brna

The two authors, scolars suscribing to two different syntactic streams, present their views on classical syntactic handbooks from the 1940s and 1950s. The two main streams are focused here (two-level valency syntax and functional generative description).

V publikované verzi přednášky se syntax hodnotí jako poměrně nová disciplina jazykovědy, která však má v české lingvistice důstojnou reprezentaci od 40. let minulého století. Byla zahájena Šmilauerovou Novočeskou skladbou a pokračuje brněnskými syntaxemi Grepla a Karlíka.


Making Community and ASR Join Forces in Web

The paper presents a system for combining human transcriptions with automated speech recognition to create a quality transcription of a large corpus in good time. The system uses the web as interface for playing back audio, displaying the automatically-acquired transcription synchronously, and enabling the visitor to correct errors in the transcription. The human-submitted corrections are then used in the statistical ASR to improve the acoustic as well as language model and re-generate the bulk of transcription. The system is currently under development.

The paper presents the system design, the corpus processed as well as considerations for using the system in other settings.

Článek prezentuje systém pro kombinování lidských přepisů s automatickým rozpoznáváním řeči pro vytvoření kvalitního přepisu velkého korpusu v dobrém čase. Systém používá web jako rozhraní pro přehrávání audia, synchronní zobrazování automaticky získaného přepisu a umožnění uživateli opravovat chyby v přepisu. Lidmi zaslané opravy jsou poté použity ve statistickém rozpoznávání mluvené řeči pro zdokonalení akustického i jazykového modelu a přegenerování celého přepisu. Systém je v současnosti vyvíjen.

Článek prezentuje návrh systému, zpracovaný korpus, jakož i možnosti použití systému na jiných datech.


Arabic Word Generation and Modelling for Spell Checking

Generování slov v arabštině a modelování kontroly pravopisu

Arabic is a language known for its rich and complex morphology. Although many research projects have focused on the problem of
Arabic morphological analysis using different techniques and approaches, very few have addressed the issue of generation of fully
inflected words for the purpose of text authoring.  Available open-source spell checking resources for  Arabic are too small and
inadequate. Ayaspell, for example, the official resource used with OpenOffice applications, contains only 300,000 fully inflected
words. We try to bridge this critical gap by creating an adequate, open-source and large-coverage word list for Arabic containing
9,000,000 fully inflected surface words. Furthermore, from a large list of valid forms and invalid forms we create a character-based
tri-gram language model to approximate knowledge about permissible character clusters in Arabic, creating a novel method for
detecting spelling errors. Testing of this language model gives a precision of 98.2% at a recall of 100%. We take our research a step
further by creating a context-independent spelling  correction tool using a finite-state automaton that measures the edit distance
between input words and candidate corrections, the  Noisy Channel Model, and knowledge-based rules. Our  system performs
significantly better than Hunspell in choosing the best solution, but it is still below the MS Spell Checker.

Arabština je známá svojí bohatou a složitou morfologií. Tato práce se zabývá problémem generování arabských slovních forem za účelem kontroly textu. Námi vytvořený slovník obsahuje 9 milionů povrchových forem slov. Práce dále popisuje  konstrukci a evaluaci znakového jazykového modelu pro kontrolu pravopisu arabských slov.

Khaled Shaalan
Mohammed Attia
Pavel Pecina
Younes Samih
Josef van Genabith


The ML4HMT Workshop on Optimising the Division of Labour in Hybrid Machine Translation

Workhsop ML4HMT o optimalizaci rozdělení práce v hybridním strojovém překladu

We describe the “Shared Task on Applying Machine Learning Techniques to Optimise the Division of Labour in Hybrid Machine
Translation” (ML4HMT) which aims to foster research on improved system combination approaches for machine translation (MT).
Participants of the challenge are requested to build hybrid translations by combining the output of several MT systems of different types.
We ﬁrst describe the ML4HMT corpus used in the shared task, then explain the XLIFF-based annotation format we have designed for
it, and brieﬂy summarize the participating systems. Using both automated metrics scores and extensive manual evaluation, we discuss
the individual performance of the various systems. An interesting result from the shared task is the fact that we were able to observe
different systems winning according to the automated metrics scores when compared to the results from the manual evaluation. We
conclude by summarising the ﬁrst edition of the challenge and by giving an outlook to future work.

Tento článek popisuje soutěž “Shared Task on Applying Machine Learning Techniques to Optimise the Division of Labour in Hybrid Machine
Translation” (ML4HMT), zaměřenou na výzkum kombinování systémů pro strojový překlad. Úkolem soutěže bylo zkombinovat výstupy několika systémů pro strojový překlad a vylepšit tak výslednou kvalitu překladu.

Christian Federmann
Eleftherios Avramidis
Marta R. Costa-Jussà
Maite Melero
Josef van Genabith
Pavel Pecina


Towards Optimal Choice Selection for Improved Hybrid Machine Translation

K optimálnímu výběru možností pro vylepšný hybridní strojový překlad

In recent years, machine translation (MT) research focused on investigating how hybrid MT
as well as MT combination systems can be designed so that the resulting translations give an
improvement over the individual translations.
As a ﬁrst step towards achieving this objective we have developed a parallel corpus with
source data and the output of a number of MT systems, annotated with metadata information,
capturing aspects of the translation process performed by the diﬀerent MT systems.
As a second step, we have organised a shared task in which participants were requested
to build Hybrid/System Combination systems using the annotated corpus as input. The main
focus of the shared task is trying to answer the following question: Can Hybrid MT algorithms
or System Combination techniques beneﬁt from the extra information (linguistically motivated, decoding and runtime) from the diﬀerent systems involved?
In this paper, we describe the annotated corpus we have created. We provide an overview
on the participating systems from the shared task as well as a discussion of the results.

V poslední době se výzkum v oblasti strojového překladu zaměřuje mimo jiné na hybridní a kombinavané systémy, které často vedou ke zlepšení kvality výsledného překladu.  V této práci popisujeme paralelní korpus vytvořený speciálně pro tuto úlohu. Korpus obsahuje metadata a anotace poskytované různými systémy strojového překladu, které lze v hybridních a kombinovaných systémech využít.

Christian Federmann
Maite Melero
Pavel Pecina
Josef van Genabith


Alternative Lexicalizations of Discourse Connectives in Czech

Alternativní vyjádření diskurzních konektorů v češtině

The paper concentrates on which language means may be included into the annotation of discourse relations in the Prague Dependency
Treebank (PDT) and tries to examine the so called alternative lexicalizations of discourse markers (AltLex’s) in Czech.

Příspěvěk se zabývá otázkou, jaké jazykové prostředky mohou být zahrnuty do anotace diskurzních vztahů v Pražském závislostním korpusu (PDT), a pokouší se za tímto účelem prozkoumat tzv. alternativní lexikální vyjádření diskurzních konektorů (altlexů) v češtině.


Alternativní vyjádření konektorů v češtině

The paper concentrates on which language means may be included into the annotation of
discourse relations in the Prague Dependency Treebank (PDT) and tries to examine the
so called alternative lexicalizations of discourse markers (AltLex’s) in Czech. The analysis
proceeds from the annotated data of PDT and tries to draw a comparison between the Czech
AltLex’s from PDT and English AltLex’s from PDTB (the Penn Discourse Treebank). The
paper presents the lexico-syntactic and semantic characterization of the Czech AltLex’s and
comments on the current stage of their annotation in PDT. In the current version, PDT
contains 306 expressions (out of the total 43,955 of sentences) that were labeled by annotators
as being an AltLex. However, as the analysis demonstrates, this number is not final. We
suppose that it will increase after the further elaboration, as AltLex’s are not restricted to a
limited set of syntactic classes and some of them exhibit a great degree of variation.

Práce se zabývá otázkou, jaké jazykové prostředky mohou být zahrnuty do anotace
diskurzních vztahů Pražského závislostního korpusu (PDT). Jejím cílem je prozkoumat
alternativní vyjádření diskurzních konektorů (tzv. altlexů) v češtině. Analýza vychází
z anotovaných dat PDT, jejím předmětem je mimo jiné srovnání českých altlexů
vyskytujících se v PDT a anglických altlexů z PDTB (anotovaného pensylvánského korpusu
Penn Discourse Treebank). Práce přináší lexikálně-syntaktickou a sémantickou klasifikaci
českých altlexů a analýzu jejich současné anotace v PDT. V současné době PDT obsahuje 306
vyjádření (v 43 955 větách), která byla anotátory označena jako altlexy. Jak ovšem tato práce
dokládá, toto číslo není konečné. Předpokládáme, že počet altlexů se po důkladném
zpracování podstatně zvýší, protože altlexy nejsou syntakticky ani lexikálně omezeny a
některé z nich vykazují velký stupeň variability.


Selecting Data for English-to-Czech Machine Translation

Výběr dat pro anglicko-český strojový překlad

We provide a few insights on data selection for
machine translation. We evaluate the quality
of the new CzEng 1.0, a parallel data source
used in WMT12. We describe a simple technique
for reducing out-of-vocabulary rate after
phrase extraction. We discuss the benefits
of tuning towards multiple reference translations
for English-Czech language pair. We
introduce a novel approach to data selection
by full-text indexing and search: we select
sentences similar to the test set from a large
monolingual corpus and explore several options
of incorporating them in a machine translation
system. We show that this method can
improve translation quality. Finally, we describe
our submitted system CU-TAMCH-BOJ.

Studujeme vliv různých metod výběru dat na anglicko-český strojový překlad. Vyhodnocujeme kvalitu nové paralelního korpusu CzEng 1.0, popisujeme jednoduchou metodu jak zlepšit pokrytí slovníku extrahovaného z paralelních dat a zkoumáme několik metod filtrace paralelních dat pro lepší překlad. Příspěvek zároveň slouží jako popis našeho systému CU-TAMCH-BOJ v soutěži WMT12.

Aleš Tamchyna
Petra Galuščáková
Amir Kamran
Miloš Stanojević
Ondřej Bojar


CzeSL – an error tagged corpus of Czech as a second language

CzeSL - korpus češtiny jako druhého jazyka s chybovou anotací

Using an error-annotated learner corpus as the basis, the goal of this paper is two-fold: (i) to evaluate the practicality of the annotation scheme by computing inter-annotator agreement on a non-trivial sample of data, and (ii) to find out whether the application of automated linguistic annotation tools (taggers, spell checkers and grammar checkers) on the learner text is viable as a substitute for manual annotation.

Tento článek se zabývá dvěma aspekty českého žákovského korpusu: (1) vyhodnocuje praktičnost anotačního schématu na základě výsledku iaa, (2) zkoumá možnosti automatické anotace pomocí taggerů, kontrolorů pravopisu a gramatiky

Barbora Štindlová
Svatava Škodová
Jirka Hana
Alexandr Rosen


The paper presents the issues of annotation of the Czesl, a Czech learner corpus, the concept of its annotation scheme and a description of the annotation process.

Článek popisuje problémy anotace Czesl, korpusu češtiny nerodilých mluvčích, jeho anotační schéma a popis anotačního procesu.

Barbora Štindlová
Svatava Škodová
Alexandr Rosen
Jirka Hana


In our paper, we present main results of the Czech grant project Internet
as a Language Corpus, whose aim was to build a corpus of Czech web
texts and to develop and publicly release related software tools. Our
corpus may not be the largest web corpus of Czech, but it maintains very
good language quality due to high portion of human work involved in the
corpus development process. We describe the corpus contents (2.65 billions
of words divided into three parts -- 450 millions of words from news and
magazines articles, 1 billion of words from blogs, diaries and other
non-reviewed literary units, 1.1 billion of words from discussions
messages), particular steps of the corpus creation (crawling, HTML and
boilerplate removal, near duplicates removal, language filtering) and its
automatic language annotation (POS tagging, syntactic parsing). We also
describe our software tools being released under an open source license,
especially a fast linear-time module for removing near-duplicates on a
paragraph level.

V našem článku prezentujeme hlavní výsledky českého grantového projektu Web jako jazyková korpus, jehož cílem bylo vybudovat korpus českých webových textů a vyvinout a dát veřejnosti k dispozici příslušné softwarové nástroje.


Interplay of Coreference and Discourse Relations: Discourse Connectives with a Referential Component

Vztah koreference a diskurzu: Diskurzní konektory s referenční částí

This contribution explores the subgroup of text structuring expressions with the form preposition + demonstrative pronoun, thus it is devoted to an aspect of the interaction of coreference relations and relations signaled by discourse connectives in a text. The demonstrative pronoun typically signals a referential link to an antecedent, whereas the whole expression can, but does not have to, carry a discourse meaning in sense of discourse connectives. We describe the properties of these phrases/expressions with regard to their antecedents, their position among the text-structuring language means and their features typical for the “connective function” of them compared to their “non-connective function”. The analysis is carried out on Czech data from the Prague Dependency Treebank 2.0.

Příspěvek zkoumá skupinu výrazů strukturujících text typu předložka + ukazovací zájmeno; věnuje se tak vztahu koreference a diskurzu. Ukazovací zájmeno zpravidla odkazuje na antecedent, zatímco celý výraz může, ale nemusí, nést diskurzní význam ve smyslu diskurzního konektoru. Popisujeme vlastnosti těchto výrazů ve vztahu k jejich antecedentům, pozici mezi dalšími způsoby strukturování textu a jejich vlastnosti typické pro "funkci konektoru" ve srovnání s jejich "nekonektorovou funkcí". Analýza je provedena na českých datech Pražského závislostního korpusu 2.0.

Lucie Poláková
Pavlína Jínová
Jiří Mírovský


Manual for Annotation of Discourse Relations in Prague Dependency Treebank

Příručka pro anotaci mezivýpovědních textových vztahů (diskurzu) v Pražském závislostním korpusu

The report serves as an annotation manual for the portrayal of interclausal textual relations (or discourse relations) on the material of the Prague Dependency Treebank (PDT) version 2.5. Within the framework of the tectogrammatical representation (TR), the underlying syntactic structure of sentences including topic-focus articulation and basic coreference relations, has been described in detail. The annotation of discourse relations is based on the tectogrammatical representation and, in some aspects, TR is adopted for the portrayal of discourse relations. This manual maintains the terminology describing the tectogrammatical representation and presupposes at least a basic knowledge of annotation on this layer. There are some newly introduced and explained terms from the field of analysis of discourse relations, especially those that are inspired by a partnership project Penn Discourse Treebank 2.0.

Tato prírucka slouží jako anotacní manuál pro zachycování mezivýpovedních textových
vztahu (diskurzu) na materiálu Pražského závislostního korpusu (PDT) verze 2.5. V rámci
tektogramatické roviny (TR) byla podrobne popsána podkladová syntaktická struktura vety
vcetne aktuálního clenení a základních koreferencních vztahu. Anotace
textových vztahu se na tektogramatické rovine zakládá a TR je v nekterých aspektech pro úcely zachycování
textových vztahu prejímána. Tento manuál proto zachovává pojmový aparát popisující
tektogramatickou reprezentaci a predpokládá alespon základní znalost anotace na této rovine.
Nove jsou zavedeny a vysvetleny pojmy z oblasti analýzy textových vztahu, zejména pak ty,
které jsou inspirovány partnerským projektem Penn Discourse Treebank 2.0.

Lucie Poláková
Pavlína Jínová
Šárka Zikánová
Zuzanna Bedřichová
Jiří Mírovský
Magdaléna Rysová
Jana Zdeňková
Veronika Pavlíková
Eva Hajičová


The CD contains the data of PDT 2.5 with the annotation of inter- and intra-sentential discourse relations with explicit connectives, extended textual coreference and bridging anaphora. It represents a new layer of manual annotation, above the existing layers of the PDT and it portrays linguistic phenomena from the perspective of the text structure and coherence.

CD obsahuje data PDT 2.5 s anotací mezi- i vnitrovětných diskurzních vztahů s explicitními konektory, rozšířené textové koreference a asociační anafory. Představuje novou vrstvu anotace nad již existujícími vrstvami PDT a zachycuje lingvistické jevy z pohledu struktury a koherence textu.

Lucie Poláková
Pavlína Jínová
Šárka Zikánová
Eva Hajičová
Jiří Mírovský
Anna Nedoluzhko
Magdaléna Rysová
Veronika Pavlíková
Jana Zdeňková
Jiří Pergler
Radek Ocelák


Comparing Czech and Russian Valency on the Material of Vallex

Porovnání valence v češtině a ruštině v rámci  Vallexu

In this paper we have described the dissimilarities in Czech and Russian Valency based on the material of the Czech lexicon Vallex. Our main hypothesis is that the differences in valency structure might be explained by the semantics of verbs , so we have exploited the classification of the semantic classes provided by Vallex. In almost in each verb class we have found some regular dissimilarity that is typical of this class.

V článku porovnávám valenci českých a ruských sloves v rámci jejich sémantických tříd.


Some differences between Czech and Russian: a parallel corpus study

Některé rozdíly mezi češtinou a ruštinou :  výzkum na materiále paralelního  korpusu

We present a comparative study of some constructions in Czech and Russian. Though Czech and Russian are closely related Slavic languages, they have a few differences at the level of syntax, morphology and their semantics. We discuss incongruities that we found in a parallel Czech-Russian corpus, mainly reflecting differences in the sentence structure. The linguistic evidence presented in the paper will be used while constructing the transfer
module of a rule-based machine translation system between Czech and Russian.

V článku jsou popsané některé syntaktické rozdíly mezi češtinou a ruštinou důležité zejména pro strojový překlad.


Czech-Russian corpus via a simple web interface

Česko-ruský korpus v novém webovém rozhraní

We describe the Czech-Russian parallel corpus that was initially created as training data for Machine Translation systems. The corpus has been available in a format suitable for the
computer processing, but theoretical linguists interested in the resources would not benefit much from them. So we decided to put the corpus into a user-friendly environment.
They are now accessible via a simple www interface, based on the Manatee backend. Both parts of each corpus can be queried using full CQL
syntax with regular expression based search of wordforms, lemmas and POS/morphological tags.

Představujeme nové webové rozhraní česko-ruského paralelního korpusu UMC 0.1.

Natalia Klyueva
Ondřej Bojar
Radovan Garabík
Miroslav Týnovský


Feat is an environment for layered error annotation of learners corpora.

Feat je nástroj pro víceúrovňovou chybouvou anotaci žákovských korpusů.


Morph - system for morphological analysis and tagging, including supporting tools for corpus conversion, evaluation, etc. In comparison with version from 2010, this version contains additional analysis algorithms, supports better data format and general positional tagsets, etc.

Morph - systém pro morfologickou analýzu a značkování, včetně podpůrných nástrojů pro konverzi korpusů, evaluaci, atd. Oproti verzi z r.2010 byly přidány nové algoritmy pro analýzu, vylepšen formát zadávání dat, přidána podpora obecných poz.tagsetů, atd.


Capek (Elysium formerly) is an annotation editor of morphology and syntax for school children. The editor is language independent.

Čapek (dříve Elysium) je anotační editor tvaroslovných a větných rozborů pro školáky. Je jazykově nezávislý.


The paper describes a tagger for Old Czech (1200-1500 AD), a fusional language with rich morphology. The practical restrictions (no native speakers, limited corpora and lexicons, limited funding) make Old Czech an ideal candidate for a resource-light cross-lingual method that we have been developing (e.g. Hana et al., 2004; Feldman and Hana, 2010). We use a traditional supervised tagger. However, instead of spending years of effort to create a large annotated corpus of Old Czech, we approximate it by a corpus of Modern Czech. We perform a series of simple transformations to make a modern text look more like a text in Old Czech and vice versa. We also use a resource-light morphological analyzer to provide candidate tags. The results are worse than the results of traditional taggers, but the amount of language-specific work needed is minimal.

Článek popisuje tagger pro staročeštinu (1200-1500 AD), flektivní jazyk s bohatou morfologií. Praktická omezení (žádní rodilí mluvčí, limitované korpusy a slovníky, limitované možnosti financování) dělají ze staročeštiny ideální objekt metody vývoje morfologických taggerů nenáročných na zdroje, kterou vyvíjíme (např. Hana et al., 2004; Feldman and Hana, 2010). Jako aproximaci neexistujících staročeských zdrojů používáme zdroje pro současnou češtinu.

Jirka Hana
Anna Feldman
Katsiaryna Aharodnik


On word order in constructions with obligatory participants (focused on word order of Patient and free verbal modification Manner)

Ke slovosledu v konstrukcích s obligatorními participanty (se zaměřením na slovosled patientu a způsobového slovesného doplnění)

Paper deals with the position of Patient and free verbal modification expressing Manner in the surface structure of the utterance. It distinguishes obligatory and facultative tokens of Manner and also its form (adverb, noun).

Příspěvek se zabývá postavením patientu a způsobového volného slovesného doplnění v povrchové struktuře výpovědi. Rozlišuje přitom obligatorní a fakultativní výskyty způsobového doplnění a zohledňuje jeho formu (adverbiální/jmenné vyjádření).


The unmarked word order of free verbal modifications in Czech (with the main reference to the influence of verbal valency in the utterance)

Nepříznakový slovosled volných slovesných doplnění v češtině (s ohledem na vliv působení slovesné valence ve výpovědi)

Poster and abstract describe the usual word order of chosen free verbal modifications. They take into account the influence of verbal valency. They desribe the position of obligatory and facultative modifications.

Poster a abstrakt popisují obvyklý slovosled vybraných volných slovesných doplnění. Berou přitom v úvahu vliv působení slovesné valence. Popisují zvlášť umístění obligatorních a fakultativních doplnění.


The Word Order of Inner Participants in Czech, Considering the Systemic Ordering of Actor and Patient

Nepříznakový slovosled vnitřních participantů v češtině se zaměřením na systémové uspořádání aktoru a patientu

Paper describes tendencies in word order of inner participants - of Actor and Patient. On the basis of large sample of data from Prague Dependency Treebank, it demonstrates what position in sentence these participants take (depending on particular factors influencing word order).

Příspěvek popisuje slovosledné tendence vnitřních participantů - aktoru a patientu. Na základě širokého vzorku dat z Pražského závislostního korpusu vyvozuje, jaké postavení ve větě tyto participanty mají v závislosti na působení určitých slovosledných faktorů.


Poster describes the relation between the categories of language meaning and valency.

Poster popisuje vztah sémantických vlastností funktorů a valence.


Connective Means of Causal Relation in the Prague Dependency Treebank

Spojovací prostředky příčinných vztahů v Pražském závislostním korpusu

This paper is focused on basic expressions with text-structuring function which can indicate the causal meaning in Czech (e.g. protože (because), proto (therefore), tedy (thus)). Based on the data collected in the Prague Dependency Treebank, this contribution explores those features of these expressions which characterize differences in their properties and it aims at supporting or questioning the establishing of different classes of them which is common in literature.

V tomto příspěvku se zabýváme základními výrazy s textově strukturační funkcí, které mohou v češtině signalizovat příčinné vztahy (např. protože, proto, tedy). Na základě dat shromážděných v Pražském závislostním korpusu zkoumáme charakteristické rysy těchto výrazů s cílem podpořit nebo zpochybnit vyčleňování různých tříd pro tyto výrazy, které je běžné nejen v naší, ale i v zahraniční literatuře.