Machine Learning Approach to Anaphora Resolution

Rozpoznávání anafory metodou strojového učení

Anaphora resolution is the key task for some of the Natural Language Processing (NLP) tasks like the information extraction or dialog systems. It can be also valuable in machine translation. All the previous works concerning the anaphora resolution in Czech language mostly focused on the pronoun coreference. Thanks to the recent project of the annotation of extended anaphoric relations in Prague Dependency Treebank 2.0 this work goes further. It attempts to resolve noun phrase coreference, identity-of-sense anaphora and part-whole bridging relations. It has adopted some of the state-of-the-art approaches in the area of machine learning approaches to anaphora resolution, particularly the ranking and the joint anaphor identification with the antecedent selection. It introduced a plenty of features and analyzed their contribution on the success rate. The best model of noun phrase coreference achieves the F-score of 39.4%.

Rozpoznávání anafory je klíčové pro některé z úloh zpracování přirozeného jazyka (NLP), jako extrakce informací nebo dialogové systémy. Tato informace může byt hodnotná taky při strojovém překladu. Všechny předešlé práce týkající se rozpoznávání anafory v českém jazyce se soustředily především na zájmennou koreferenci. Díky nedávnemu projektu anotace širších anaforických vztahů v Pražském závislostním korpusu 2.0 však tato práce jde nad rámec zájmenné koreference. Pokouší se o rozpoznání koreference jmenných frází se specifickou referencí, generických jmenných frází a rozpoznání asociační anafory. Jsou v ní realizovány některé z nejúspěšnějších postupů v oblasti rozlišování anafor na základě strojového učení, konkrétně “ranking” a společné řešení úloh identifikace anaforu a nalezení antecedenta. Bylo vytvořeno množství rysů a analyzován jejích podíl na míře úspěšnosti. Nejlepší model koreference jmenných frází dosáhl F-hodnoty 39.4%.


Resolution of extended anaphoric relations in Czech language

Rozpoznávání rozšířených anaforických vztahů v češtině

Rozpoznávanie rozšírených anaforických vzťahov v češtine

Anaphora resolution is the key task for some of the Natural Language Processing tasks like the information extraction or dialog systems. It can be also valuable in machine translation. All the
previous works concerning the anaphora resolution in Czech language mostly focused on the pronoun coreference. Thanks to the recent project of the annotation of extended anaphoric relations in Prague Dependency Treebank 2.0 it is possible to carry out research in automatic resolution of these relations. In my talk I will present the
ongoing project of noun phrase coreference and bridging anaphora resolution using supervised machine learning.

Rozpoznávání anafory je klíčové pro některé z úloh zpracování přirozeného jazyka, jako extrakce informací nebo dialogové systémy. Tato informace může byt hodnotná taky při strojovém překladu. Všechny předešlé práce týkající se rozpoznávání anafory v českém jazyce se soustředily především na zájmennou koreferenci. Díky nedávnemu projektu anotace širších anaforických vztahů v Pražském závislostním korpusu 2.0 je však možné provádět výzkum v oblasti automatického rozpoznávání těchto vztahů. V mé přednášce budu prezentovat probíhající projekt rozpoznávání koreference jmenných frází a asociační anafory za použití řízeného strojového učení.


What lexical sets tell us about conceptual categories

Co nám o konceptuálních kategoriích řeknou lexikální sety

It is common practice in computational linguistics to attempt to use selectional constraints and semantic type hierarchies as primary knowledge resources to perform word sense disambiguation (cf. Jurafsky and Martin 2000). The most widely adopted methodology is to start from a given ontology of types (e.g. Wordnet, cf. Miller and Fellbaum 2007) and try to use its implied conceptual categories to specify the combinatorial constraints on lexical items. Semantic Typing information about selectional preferences is then used to guide the induction of senses for both nouns and verbs in texts. Practical results have shown, however, that there are a number of problems with such an approach. For instance, as corpus-driven pattern analysis shows (cf. Hanks et al. 2007), the paradigmatic sets of words that populate specific argument slots within the same verb sense do not map neatly onto conceptual categories, as they often include words belonging to different types. Also, the internal composition of these sets changes from verb to verb, so that no stable generalization seems possible as to which lexemes belong to which semantic type (cf. Hanks and Jezek 2008). In this paper, we claim that these are not accidental facts related to the contingencies of a given ontology, but rather the result of an attempt to map distributional language behaviour onto semantic type systems that are not sufficiently grounded in real corpus data. We report the efforts done within the CPA project (cf. Hanks 2009) to build an ontology which satisfies such requirements and explore its advantages in terms of empirical validity over more speculative ontologies.

V počítačové lingvistice je běžnou praxí používat výběrová omezení a hierarchie sémantických typů jako primární zdroj znalostí pro rozlišení významu slov (srov. Jurafsky a Martin 2000). Nejrozšířenějším přístupem je začít s ontologií typů (např. Wordnet, srov. Miller a Fellbaum 2007) a pokusit se využít jimi implikované konceptuální kategorie ke specifikaci kombinatorických omezení lexikálních jednotek.


Speeding up the Implementation Process of a Shallow Transfer Machine Translation System

Urychlení implementace mělkého systému strojového překladu

The article presents an attempt to automate
all data creation processes of a rule-based
shallow-transfer machine translation
system. The presented methods were
tested on two fully functional translation
systems Slovenian-Serbian and Slovenian-Macedonian.
An extensive range of evaluation
tests was performed to assess the applicability
of the methods.

Článek prezentuje pokus automatizace procesů k vytvoření systému strojového překladu založeného na pravidlech.


(A)symmetry of Valency Properties of Czech and English Verbs of Motion

(A)symetrie valenčních vlastností českých a anglických sloves pohybu

In this paper we are concerned with the comparison of valency characteristics of Czech and English verbs. As a material we use two parallel corpora: PCEDT and Intercorp. First we compare the two corpora to one another with respect to their suitability for research in valency. Then we propose several areas of crosslingustic asymmetries in verbal valency. Finally we present a case study of three pairs of Czech and English motion verbs to exemplify the asymmetries mentioned.

V tomto článku se věnujeme srovnání valenčních vlastností českých a anglických sloves. Materiál pro výzkum této oblasti pochází ze dvou paralelních korpusů: korpusu Prague Czech-English Dependency Treebank a korpusu Intercorp. Nejprve provedeme srovnání obou korpusů a vysvětlíme, z jakých hledisek jsou pro zkoumání valenčních vlastností sloves výhodné. Dále nastíníme několik oblastí, v nichž se vyskytují asymetrie valenčních vlastností překladových ekvivalentů. V případové studii se zaměříme zejména na slovesa vyžadující doplnění tzv. směrovými doplněními a blíže ukážeme konkrétní typy asymetrií na slovesech crawl, descend a travel.


Typical Cases of Annotators’ Disagreement in Discourse Annotations in Prague Dependency Treebank

Typické případy anotátorské neshody v anotaci diskurzu v Pražském závislostním korpusu

We present results of the first evaluation of parallel manual annotations of discourse in the Prague Dependency Treebank. We give an overview of the process of the annotation itself, describe the inter-annotator agreement measurement, and, most importantly, we classify and analyze the most common types of annotators’ disagreement and propose solutions for the next phase of the annotation.

Představujeme výsledky prvního vyhodnocení paralelních ručních anotací dirkurzu v Pražském závislostním korpusu. Uvádíme přehled vlastního anotačního procesu, popisujeme měření mezianotátorské shody a hlavně klasifikujeme a analyzujeme nejběžnější druhy anotátorské neshody a navrhujeme řešení pro další fázi anotací.

Šárka Zikánová
Lucie Mladová
Jiří Mírovský
Pavlína Jínová


Rich annotation in phrase-based machine translation

Bohatá anotace ve frázovém strojovém překladu

We present a simple tool for the inclusion of rich linguistic annotation in phrase-based machine translation systems.

Mezi nejúspì¹nìj¹í metody strojového pøekladu
se v souèasné dobì øadí relativnì velmi jednoduchý frázový
statistický pøeklad, který se opírá v podstatì pouze o posloupnosti slov bez ohledu na lingvistické rozbory. Z více
dùvodù kvalita strojového pøekladu stále není uspokojivá
a lze se domnívat, ¾e èást problémù by bylo mo¾né odstranit explicitním zapojením lingvistické anotace do frázového
pøekladu. Pro èe¹tinu a angliètinu jsou navíc rozsáhlá bohatì anotovaná paralelní data k dispozici. Cílem této práce
je proto pøipravit nástroj usnadòující experimenty s bohatou lingvistickou anotací v relativnì jednoduchém prostøedí
frázových statistických pøekladù. Popisujeme formát dat i
mo¾nosti implementovaného nástroje a souèasnì uvádíme
výsledky prvních experimentù. ©iroký prostor mo¾ností, jak
lingvistická data do modelu zapojit, je otevøen pro dal¹í výzkum.


The talk describes a challenges of annotation of learners corpus of Czech, i.e. Czech as used by non-native speakers.

Přednáška pojednává o problémech anotace žákovského korpusu češtiny, tzn. čestiny jak ji používají nerodilí mluvčí.

Alexandr Rosen
Svatava Škodová
Barbora Štindlová
Jirka Hana


Compiling a monolingual dictionary for native speakers

Tvorba jednojazyčného slovníku pro rodilé mluvčí

This article gives a survey of the main issues confronting the compilers of monolingual
dictionaries in the age of the Internet. Among others, it discusses the relationship between a
lexical database and a monolingual dictionary, the role of corpus evidence, historical principles in
lexicography vs. synchronic principles, the instability of word meaning, the need for full vocabulary
coverage, principles of definition writing, the role of dictionaries in society, and the need for
dictionaries to give guidance on matters of disputed word usage. It concludes with some questions
about the future of dictionary publishing.

Tento článek podává přehled o hlavních tématech, která zajímají autory jednojazyčných slovníků pro rodilé mluvčí. Diskutuje vztah mezi lexikální databází a jednojazyčným slovníkem, roli korpusových příkladů, historické lexikografické principy v porovnání se synchronními, nestabilitu významu slova, potřebu plného pokrytí slovní zásoby, prinicipy psaní definic a roli slovníků ve společnosti a návod ke správnému používání slov jako jeden z hlavních úkolů jednojazyčného slovníku.


Elliptical Arguments: a Problem in relating Meaning to Use

Eliptické argumenty: problém vztahu významu a výrazu

Electronic dictionaries of the future will be much in demand—for computational, pedagogical, and other applications—if they can be used as resources for mapping word meaning systematically onto word use. Research in computational linguistics and artificial intelligence over the past twenty years, despite many declarations of success, has shown that existing dictionaries, designed for human users, coupled with existing linguistic theory of a top-down, speculative nature, have failed to be suitable for this goal. Nor are results using hierarchical ontologies such as WordNet any better. Such resources are very plausible for human users, but they fail to meet the challenges of mapping meaning systematically onto words in use in ordinary text.

Elektronické slovníky budoucnosti budou velmi žádané — pro komputační, pedagogické a jiné aplikace — pokud bude možné je použít jako systematické zobrazení slovních významů na slovní výskyty.


Jak lidé používají slova k vyjádření významů

The title of the present paper, “How people use words to making meanings”, carries with it a number of theoretical assumptions, some of which are more controversial than others. It is, I suppose, uncontroversial that language, used fully and meaningfully, is a uniquely human phenomenon, and that the communications and thought processes of other animals, even chimpanzees, are different in kind from human language. It is people who use words. Language does not exist in a vacuum: it exists in the brains and the interactions of humans. Humans are social animals, and language is the instrument of their sociability, as well as the vehicle of their thought processes.
Equally uncontroversial is the assumption that language is composed of words, put together into some sort of structure, which has persistent attributes. By a “persistent attribute” I mean features like the rank scale of grammar – discourse (document or conversation), paragraph, sentence, clause, phrase or group, word, morpheme). Such structures are not the exclusive property of language, for they also govern other forms of human behaviour such as games and music. Syntax is not an exclusively linguistic phenomenon, but language is the most salient, the most prototypical example of rule-governed behaviour.
At the heart of this view of language lie words. Words are central to the activity of making meanings. Each content word in a language, like a great international airport, represents a place where things come together, meet, and go off in different directions—a huge set of interchange points with various sorts of connections: internal connections to beliefs in the mind of the speaker, interpersonal connections to the beliefs of other users of the same language, intralingual connections to other words in the same language, and putative connections to objects in the world.
Associated with this account of words is the assumption that each word has a meaning. This, however, is an assumption that I will question in the course of this paper.
Another assumption implicit in the title is that meanings are events—events that are for the most part only momentary, transitory, evanescent. A speaker makes a meaning—billions of people do it every minute of every day—but the next moment the meaning is gone: lost for ever, unless some assiduous Boswell, parliamentary reporter, law clerk, or linguist happens to have transcribed the utterance of the speaker and thus preserved it for posterity. Most meaningful spoken interactions are as evanescent as the mutual sniffing of dogs—or the passing of passengers through an airport. The notion that meanings are events is, nevertheless, one that I propose to defend, against the alternative
1
view that meanings are static abstract entities. It is a commonplace among philosophers of language that speaker’s meaning and hearer’s meaning are not necessarily identical, and the. As Wright (1976) put it:
“Speaker and hearer have only their mutual pragmatic satisfaction to rely on that they mean the same thing.”
The philosopher H. P. Grice (1957) regarded meanings as events, involving a particular kind of interaction between speaker and hearer—an interchange of beliefs. The core of Grice’s account of meaning is summarized by Bennett (1976) thus: If [an utterer] U does x, thereby meaning that P, he does it intending i. that some audience A should come to believe P
ii. that A should be aware of intention (i), and
iii. that the awareness mentioned in (ii) should be part of A’s reason for believing that P.
This account of meaning applies equally well to the interaction between writer and reader, with a displacement in time, which may be very large or quite small1.

Tento příspěvek je zvanou přednáškou na téma vztahu mezi slovy a významem. Autor zde představuje svoji metodu manuální analýzy jazykových pravidelností v korpusu. Popisuje zde, jakým způsobem analyzuje anglická sloevsa, aby získal přehled o významových změnách, které nastávají s výběrem různých slovesných doplnění, a nabádá lingvisty, aby při dokládání svých teorií o významu a používání slov nepoužívali introspekci, nýbrž korpus.


Lexicography, Printing Technology, and the Spread of Renaissance Culture

Lexikografie, tiskařská technologie a šíření renesanční kultury

Historians of lexicography in the English-speaking world have implied that Robert
Cawdrey's Table Alphabeticall (1604) is the first English dictionary. Landau (1984,
2001) makes this claim, adding that it is “the least inspiring of all seminal works”. In
this paper, I agree that the Table Alphabeticall is uninspiring, but I deny that it is a
seminal work. Landau overlooks the rich 16th-century tradition of Renaissance and
Humanist lexicography in Europe, in particular the Dictionarum, seu Thesaurus
Linguae Latinae of Robert Estienne (1531) and the Thesaurus Linguae Graecae of his
son Henri Estienne (1572). These seminal works are astonishing achievements—
breathtaking innovations—in terms of both scholarship and technology. They set
standards for subsequent European lexicography. Two technological innovations
made these great dictionaries possible: the invention of printing by Gutenberg in
Strasbourg in about 1440 and the typography of Nicolas Jenson in Venice in 1462.
These technological developments and the lexicographical achievements that were
made possible by them contributed, in the first place, to the Renaissance programme
of preserving the classical heritage of ancient Greece and Rome and, in the second
place, to the role of dictionaries in spreading Renaissance culture and Humanism
across Europe. The paper goes on to briefly outline the emergence of bilingual
lexicography, replacing the polyglot lexicography that was standard in the 16th
century. A comparison is made between the influence of printing technology on 16th
century lexicography and the potential influence of computer technology on 21st
century lexicography

V tomto příspěvku autor popisuje historický vývoj slovníků a hodnotí přínos knihtisku k rozvoji lexikografie, který porovnává s dopadem, který může mít na současnou lexikografii masívní rozšíření elektronického ukládání dat. Autor vysvětluje, jak došlo k nahrazení mnohajazyčných glosářů dvojjazyčnými slovníky. Opírá se o příklady těchto slovníků: Robert Cawdrey: Table Alphabeticall, Robert Estienne: Dictionarum, seu Thesaurus
Linguae Latinae, Henri Estienne: Thesaurus Linguae Graecae.


Nine issues in metaphor theory and analysis

With the benefit of hindsight, it is now possible to see that one of the most important themes in the study of language to emerge in the 20th century was developed, not by linguists, but primarily by philosophers of language such as Wittgenstein and Grice and anthropologists such as Malinowski and Rosch.  This theme involves, among other things, rejection of sharply defined category boundaries and adoption instead of systems of categories built by analogy around prototypes. Central and typical examples of linguistic categories are usually easy to identify, but boundaries between categories are fuzzy grey areas on a cline, rather than sharp divisions.  Metaphor is the most prototypical example of linguistic analogy, so a corpus-based study of metaphor will be a theme of central interest.

Tato obšírná a velice precizní recenze se zabývá knihou A. Deignan o analýze metafory pomocí metod korpusové lingvistiky. Autor recenze knihy využívá jako odrazového můstku k obecnějším úvahám o struktuře a využití metafory v jazyce. Poukazuje na nutnost lingvistické analýzy kognitivních jevů, které se manifestují v jazyce. Autor recenze se sám problematikou metafory zabýval již ve svých dřívejších původních dílech.


Terminology, Phraseology, and Lexicography

Terminologie, frazeologie a lexikografie

Tento článek se zabývá dvěma aspekty užívání slov a významu slov ve smyslu Sinclairovy distinkce mezi tzv. principem volného výběru a idiomatického výběru. Technické pojmy jako např. strobilace jsou vzácné, vázané na určitou doménu a nejsou zajímavé po stránce frazeologické, i když texty, v nichž se tato slova vyskytují, mají tendenci obsahovat zajímavé shluky doménově specifické terminologie. Na druhou stranu, význam běžně užívaných slov nelze popsat, není-li k dispozici kontext.

This paper explores two aspects of word use and word meaning in terms of Sinclair's (1991, 1998)
distinction between the open-choice principle (or terminological tendency) and the idiom principle
(or phraseological tendency). Technical terms such as strobilation are rare, highly domain-specific,
and of little phraseological interest, although the texts in which such word occur do tend to contain
interesting clusters of domain-specific terminology. At the other extreme, it is impossible to know the
meaning of ordinary common words such as the verb blow without knowing the phraseological context
in which the word is used.
Many words have both a terminological tendency and a phraseological tendency. In some cases the two
tendencies are in harmony; in other cases there is tension between them. The relationship between these
two tendencies is investigated, using examples from the British National Corpus.


An Augmented Three-Pass System Combination Framework: DCU Combination System for WMT 2010.

Upravený tříprůchodový  framework pro kombinování systémů: DCU kombinační  systém pro WMT 2010.

This paper describes the augmented threepass system combination framework of the Dublin City University (DCU) MT group for the WMT 2010 system combination task. The basic three-pass framework includes building individual confusion networks (CNs), a super network, and a modiﬁed Minimum Bayes-risk (mConMBR) decoder. The augmented parts for WMT2010 tasks include 1) a rescoring component which is used to re-rank the N-best lists generated from the individual
CNs and the super network, 2) a new hypothesis alignment metric – TERp – that is used to carry out English-targeted hypothesis alignment, and 3) more different backbone-based CNs which are employed to increase the diversity of the mConMBR decoding phase. We took part in the combination tasks of Englishto-Czech and French-to-English. Experimental results show that our proposed combination framework achieved 2.17 absolute points (13.36 relative points) and
1.52 absolute points (5.37 relative points) in terms of BLEU score on English-toCzech and French-to-English tasks respectively than the best single system. We also achieved better performance on human evaluation.

Tento článek popisuje kombinační systém pro strojový překlad univerzity DCU použitý  na workshopu strojového překladu Joint Fifth Workshop on Statistical Machine Translation and Metrics in ACL-2010.


A resource-light approach to morpho-syntactic tagging

Morfo-syntaktické značkování nenáročné na zdroje

While supervised corpus-based methods are highly accurate for different NLP tasks, including morphological tagging, they are difficult to port to other languages because they require resources that are expensive to create. As a result, many languages have no realistic prospect for morpho-syntactic annotation in the foreseeable future. The method presented in this book aims to overcome this problem by significantly limiting the necessary data and instead extrapolating the relevant information from another, related language. The approach has been tested on Catalan, Portuguese, and Russian. Although these languages are only relatively resource-poor, the same method can be in principle applied to any inflected language, as long as there is an annotated corpus of a related language available. Time needed for adjusting the system to a new language constitutes a fraction of the time needed for systems with extensive, manually created resources: days instead of years.

This book touches upon a number of topics: typology, morphology, corpus linguistics, contrastive linguistics, linguistic annotation, computational linguistics and Natural Language Processing (NLP). Researchers and students who are interested in these scientific areas as well as in cross-lingual studies and applications will greatly benefit from this work. Scholars and practitioners in computer science and linguistics are the prospective readers of this book.

Tato kniha se dotýká řady témat: typologie, morfologie, korpusové lingvistiky, kontrastivní lingvistiky, lingvistické anotace, počítačové lingvistiky a zpracování přirozeného jazyka (NLP). Budou z ní mít prospěch výzkumníci a studenti se zajmem o tyto oblasti, stejně i o mezijazykové studie.


Morphological resources for Russian, Belorussian, Old Czech

Ruské, běloruské a staročeské morfologické zdroje

Resources for morphological analysis and tagging of Russian, Belorussian and Old Czech. Paradigms, frequent forms and other morphological, phonological and graphemic rules.

Zdroje pro morfologickou analýzu a značkování ruštiny, běloruštiny a staročeštiny. Vzory, frekventovaná slova a další obecná morfologicka, fonologická a grafémická pravidla.


Towards Parallel Czech-Russian Dependency Treebank

In this paper we describe initial steps in constructing Czech-Russian dependency treebank and discuss the perspectives of its development. Following the experience of Czech-English Treebank
we have taken syntactically annotated "gold standard" text for one language (Russian) and run an automatic annotation on the respective parallel text for the other language (Czech). Our treebank includes also automatic word-alignment.

V tomto článku popisujeme výrobu česko-ruského paralelního závislostního treebanku.


Verbal Valency in the MT Between Related Languages

Valence Sloves ve Strojovém Překladu mezi Příbuznými Jazyky

The paper analyzes the differences in ver-
bal valency frames between two related
Slavic languages, Czech and Russian, with
regard to their role in a machine translation
system. The valency differences are a fre-
quent source of translation errors. The re-
sults presented in the paper show that the
number of substantially different valency
frames is relatively low and that a bilingual
valency dictionary containing only the dif-
fering valency frames can be used in an
MT system in order to achieve a high pre-
cision of the translation of verbal valency.

V tomto článku popisujeme rozdíly ve valenci mezi češtinou a ruštinou. Výsledkem je malý rozdílový valenční slovník, který bude využít ve strojovém překladu Česílko.


English-Czech Machine Translation Using TectoMT

Anglicko-český strojový překlad pomocí TectoMT

Strojový překlad z angličtiny do češtiny implementovaný v systému TectoMT sestává ze tří fází: analýzy, transferu a syntézy. Pro transfer se využívají tektogramatické stromy. Každá fáze je rozdělena do tzv. bloků, což jsou jednotky kódu, které řeší jednotlivé lingvisticky interpretovatelné úlohy (např. statistický tagging či přemístění klitik podle ručně psaných pravidel).

English to Czech machine translation as it is implemented in the TectoMT system consists of three phases:
 analysis, transfer and synthesis.
The system uses tectogrammatical (deep-syntactic dependency) trees as the transfer medium.
Each phase is divided into so-called blocks, which are processing units that solve linguistically interpretable tasks
 (e.g., statistical part-of-speech tagging or rule-based placement of clitics).

This paper shortly introduces linguistic layers of language description which are used for the translation
 and describes basic concepts of the TectoMT framework.
The translation results are evaluated using both automatic metric BLEU and human judgments from the WMT 2010 evaluation.


Machine Translation over Tectogrammatical Layer in TectoMT

Strojový překlad přes tektogramatickou rovinu v systému TectoMT

English-to-Czech machine translation implemented in TectoMT system consists of three phases: analysis, transfer, and synthesis. Transfer is performed on the tectogrammatical layer which is modified for MT purposes. Each phase is divided into so-called blocks which solve particular linguistically interpretable tasks (e.g. tagging with statistic tagger or clitic shifting according to hand-written rules). TectoMT system is designed in a modular way - blocks can be substituted with alternative implementations. The talk presents basic steps of the whole translation and focuses on improvements implemented in the last year, especially:
(a) tectogrammatical LM and Hidden Markov Tree Models,
(b) new translation dictionaries trained on parallel corpus CzEng using Maximum Entropy.

Strojový překlad z angličtiny do češtiny implementovaný v systému TectoMT sestává ze tří fází: analýzy, transferu a syntézy. Transfer se provádí na tektogramatické rovině upravené pro účely překladu. Každá fáze je rozčleněna do bloků, které řeší konkrétní lingvisticky interpretovatelný úkol (např. přiřazení morfologických značek statistickým taggerem, či přesun klitik podle ručně psaných pravidel). Systém TectoMT je navržen modulárně - bloky je možné zaměňovat za alternativní implementace a také využít i pro jiné aplikace než strojový překlad.
Přednáška představí základní průběh celého překladu a zaměří se na popis vylepšení, která byla provedena v posledním roce, zejména:
(a) využití tektogramatického jazykového modelu a Hidden Markov Tree Models,
(b) nový systém slovníků natrénovaných na paralelním korpusu CzEng pomocí metody Maximum Entropy.


Treex is a multi-purpose open-source natural language processing (NLP) framework implemented in Perl programming language. It allows for fast and efficient development of NLP applications by exploiting a wide range of software modules already integrated in Treex, such as tools for sentence segmentation, tokenization, morphological analysis, POS tagging, shallow and deep syntax parsing, named entity recognition, anaphora resolution, tree-to-tree translation, natural language generation, word-level alignment of parallel corpora, and other tasks. One of the most complex applications of Treex is the English-Czech machine translation system TectoMT. Several modules are available also for other languages (German, Russian, Arabic). Where possible, modules are implemented in a language-independent way, so they can be reused in many applications.

Treex je víceúčelový open-source framework pro počítačové zpracovávání přirozeného jazyka. Je implementován v programovacím jazyku Perl. Umožňuje rychlý a efektivní vývoj aplikací s využitím široké škály softwarových integrovaných modulů, např. nástroje pro větnou segmentaci, tokenizaci, morfologickou analýzu, tagging, syntaktickou analýzu (parsing na analytickou i tektogramatickou rovinu), rozpoznávání pojmenovaných entit, strojový překlad apod.


Perplexity of n-gram and Dependency Language Models

Perplexita n-gramových a závislostních jazykových modelů

Language models (LMs) are essential components of many applications such as speech recognition or machine translation. LMs factorize the probability of a string of words into a product of P(w_i|h_i), where h_i is the context (history) of word w_i. Most LMs use previous words as the context. The paper presents two alternative approaches: post-ngram LMs (which use following words as context) and dependency LMs (which exploit dependency structure of a sentence and can use e.g. the governing word as context). Dependency LMs could be useful whenever a topology of a dependency tree is available, but its lexical labels are unknown, e.g. in tree-to-tree machine translation. In comparison with baseline interpolated trigram LM both of the approaches achieve significantly lower perplexity for all seven tested languages (Arabic, Catalan, Czech, English, Hungarian, Italian, Turkish).

Jazykové modely jsou klíčovou součástí mnoha aplikací jako rozpoznávání mluvené řeči či strojového překladu. Jazykové modely počítají pravděpodobnost řetězce slov jako součin P(w_i|h_i), kde h_i je kontext (historie) slova w_i. Většina jazykových modelů používá jako kontext předchozí slova. Tento článek popisuje dva alternativní přístupy: post-ngramové jazykové modely (které používají jako kontext následující slova) a závislostní jazykové modely (které využívají závislostní strukturu věty). závislostní jazykové modely. V porovnání s baseline trigramovým jazykovým modelem dosáhly oba navrhované přístupy signifikantně nižší perplexity pro všech sedm testovaných jazyků (arabština, katalánština, čeština, angličtina, maďarština, italština, turečtina).


TectoMT: modulární framework pro zpracování přirozeného jazyka

In the present paper we describe TectoMT, a multi-purpose open-source NLP framework. It allows for fast and efficient development of NLP applications
 by exploiting a wide range of software modules already integrated in TectoMT, such as tools for
 sentence segmentation, tokenization, morphological analysis, POS tagging, shallow and deep syntax parsing, named entity recognition, anaphora resolution, tree-to-tree translation, natural language generation, word-level alignment of parallel corpora, and other tasks. One of the most complex applications of TectoMT is the English-Czech machine translation system with transfer on deep syntactic (tectogrammatical) layer. Several modules are available also for other languages (German, Russian, Arabic). Where possible, modules are implemented in a language-independent way, so they can be reused in many applications.

Článek popisuje víceúčelový open-source NLP framework TectoMT, který umožňuje rychlý a efektivní vývoj NLP aplikací. Využívá široké spektrum softwarových modulů, které jsou již integrovány do TectoMT, např. nástroje pro segmentaci textu na věty, tokenizaci, morfologickou analýzu a disambiguaci (tagging), parsing (povrchový i hloubkový), rozpoznávání pojmenovaných entit, rozpoznávání anafory, strojový překlad stromových struktur, generování vět z hloubkových struktur, slovní zarovnávání paralelních korpusů atd.
Jednou z nejkomplexnějších aplikací TectoMT je anglicko-český systém strojového překladu s transferem přes tektogramatickou rovinu. Moduly jsou dostupné i pro další jazyky (němčina, ruština, arabština,...).


Compost Dutch is a tool for POS tagging of Dutch based on Morče tagger. It is trained on Dutch part of CGN corpus. The resulting tagger overcome other previously published taggers. Version 2.0 brings integrated morphological analysis, which makes use of the software easier. Application is executable under Windows and Linux.

Compost Dutch je nástroj pro morfologické značkování holandštiny založený na taggeru Morče. Je trénován na holandské části korpusu CGN. Výsledný tagger svojí úspěšností překonal dosavadní publikované taggery. Verze 2.0 přináší navíc integrovanou morfologickou analýzu, což usnadňuje použití. Aplikace je spustitelná pod Linuxem a Windows.


Compost English is a tool for POS tagging of English based on Morče tagger. It is trained on WSJ corpus. The resulting tagger obtained results similar to other previously published taggers. Version 2.0 brings integrated morphological analysis, which makes use of the software easier. Application is executable under Windows and Linux.

Compost English je nástroj pro morfologické značkování angličtiny založený na taggeru Morče. Je trénován na korpusu WSJ. Výsledný tagger svojí úspěšností dosáhl výsledků doposud publikovaných taggerů. Verze 2.0 přináší navíc integrovanou morfologickou analýzu, což usnadňuje použití. Aplikace je spustitelná pod Linuxem a Windows.


Compost Icelandic is a tool for POS tagging of Icelandic based on Morče tagger. It is trained on IFD corpus. The resulting tagger highly overcome other previously published taggers. However, it is necessary to preprocess data with morphological analysis. Application is executable under Windows and Linux.

Compost Icelandic je nástroj pro morfologické značkování islandštiny založený na taggeru Morče. Je trénován na korpusu IFD. Výsledný tagger svojí úspěšností výrazně překonal dosavadní publikované taggery. Pro použití je však nutné použít předzpracování morfologickou analýzou. Aplikace je spustitelná pod Linuxem a Windows.


Compost Dutch is a tool for POS tagging of Swedish based on Morče tagger. It is trained on corpus SUC 2.0. Results of the tagger are close to previously published taggers. Its advantage is in simple usage. Application is executable under Windows and Linux.

Compost Swedish je nástroj pro morfologické značkování švédštiny založený na taggeru Morče. Je trénován korpusu SUC 2.0. Výsledný tagger se svojí úspěšností blíží dosavadním publikovaným taggerům. Jeho výhodou však je snadné použití. Aplikace je spustitelná pod Linuxem a Windows.


Semi-Supervised Training for the Averaged Perceptron POS Tagger

Polořízené trénování taggeru založeného na průměrovaném perceptronu

This paper describes POS tagging experiments with semi-supervised training as an extension to the (supervised) averaged perceptron algorithm, first introduced for this task by Collins02. Experiments with an iterative training on  standard-sized supervised (manually annotated) dataset (10^6 tokens) combined with a relatively modest (in the order of 10^8 tokens) unsupervised (plain) data in a bagging-like fashion showed significant improvement of the POS classification task on typologically different languages, yielding better than state-of-the-art results for English and Czech (4.12 % and 4.86 % relative error reduction, respectively; absolute accuracies being 97.44 % and 95.89 %).

Článek popisuje značkovací experimenty se semi-supervised trénováním coby rozšířením algoritmu průměrovaného perceptronu (Collins02).

Drahomíra Spoustová
Jan Hajič
Jan Raab
Miroslav Spousta


We examine methods for collecting parallel Czech-English corpora from the web. We propose and evaluate automatic methods for finding source web sites, language identification and most importantly the document alignment of obtained pages.

Příspěvek se zaměřuje na vytváření paralelního česko-anglického korpusu pro
účely strojového překladu vyhledáváním a stahováním paralelních textů z~Internetu. Navrhujeme a vyhodnocujeme několik vlastních metod pro nalezení
kandidátských webů, identifikaci jazyka stránek a především párování získaných
dokumentů.

Hana Klempová
Michal Novák
Peter Fabian
Jan Ehrenberger
Ondřej Bojar


A Corpus-based Study of the Constituent Negation in Czech

Korpusová studie členské negace v češtině

This contribution is focused on constituent negation and ways of its expressing in contemporary Czech, or more precisely in Czech National Corpus (SYN2005) and Prague Dependency Treebank (version 2.0). In most of the Czech linguistic handbooks, constituent negation was treated as such a negation that is not a part of verb. The author offers a new primarily semantic definition of constituent negation in Czech, based on data research and study of relevant literature concerning syntactic negation. Further, the author explores the possibility to express the findings on the tectogrammatical level of PDT.

Příspěvek je věnován problematice členské negace a způsobům jejího vyjadřování v datech Českého národního korpusu (především SYN2005) a Pražského závislostního korpusu (verze 2.0). Za členskou negaci byla dosud ve většině českých příruček považována taková negace, která neoperuje na predikátu. Autorka na základě analýzy dat obou korpusů a studia české i zahraniční odborné literatury týkající se dané problematiky navrhne nové, primárně sémantické vymezení členské negace v češtině a prozkoumá možnosti zachycování tohoto jevu ve strukturách tektogramatické roviny PDT.


Improving Word Alignment Using Alignment of Deep Structures

Zlepšování zarovnání slov použitím zarovnání hloubkových struktur

In this paper, we describe differences between a classical word alignment on the surface (word-layer alignment) and an alignment of deep syntactic sentence representations (tectogrammatical alignment). The deep structures we use are dependency trees containing content (autosemantic) words as their nodes. Most of other functional words, such as prepositions, articles, and auxiliary verbs are hidden. We introduce an algorithm which aligns such trees using perceptron-based scoring function. For evaluation purposes, a set of parallel sentences was manually aligned. We show that using statistical word alignment (GIZA++) can improve the tectogrammatical alignment. Surprisingly, we also show that the tectogrammatical alignment can be then used to significantly improve the original
word alignment.

V tomto článku se zabýváme rozdíly mezi klasickým zarovnáváním slov a zarovnání hloubkových syntaktických struktur. Hloubkovými strukturami rozumíme závislostní stromy obsahující pouze autosémantická slova. Ostatní (funkční) slova jako předložky nebo členy jsou schovány.


Using Tectogrammatical Alignment in Phrase‐Based Machine Translation

Užití tektogramatického zarovnání ve frázovém překladu

In this paper, we describe an experiment whose goal is to improve the quality of machine translation. Phrase-based machine translation, which is the state-of-the-art in the field of statistical machine translation, learns its phrase
tables from large parallel corpora, which have to be aligned on the word level. The most common word-alignment tool is GIZA++. It is very universal and language independent. In this text, we introduce a different approach – the tectogrammatical alignment. It works on content (autosemantic) words only, but on these words
it widely outperforms GIZA++. The GIZA++ word-alignment can be therefore improved using tectogrammatical alignment and if we use this improved alignment for training phrase-based automatic translators, the translation quality also slightly increases.

Pokus o zlepšení kvality frázového překladu (nástroj Moses) tím že word-alignment, na kterém se překladač učí, vylepšíme použitím zarovnání tektogramatických stromů.


Czech-English Manually Aligned Parallel Corpus was developed for testing qualities of Czech-English automatic aligners. It consists of 2500 parallel sentences (books, law, newspapers), each sentence is anotated independently by two annotators.

Česko-anglický ručně anotovaný paralelní korpus byl vytvořen za účelem testování kvalit česko-anglických automatických zarovnávačů na slova. Obsahuje 2500 paralelních vět, každý pár je anotován nezávisle dvěma anotátory.

David Mareček
Zuzana Škardová
Martin Popel


Converting Russian Treebank SynTagRus into Praguian PDT Style

Převod ruského závislostního korpusu SynTagRus do PDT stylu.

In this paper, we report a work in progress on transforming syntactic structures from the SynTagRus corpus into tectogrammatical trees in the Prague Dependency Treebank (PDT) style. SynTagRus (Russian) and PDT (Czech) are both
dependency treebanks sharing lots of common features and facing similar linguistic challenges
due to the close relatedness of the two languages. While in PDT the tectogrammatical representation exists, sentences in SynTagRus are annotated on syntactic level only.

V tomto článku popíšeme práci na transformaci ruského treebanku SynTagRus do pražského stylu PDT.
Zatímco v PDT tektogramatická anotace existuje, V treebanku SynTagRus žádná jí podobná není.


Problems and Possibilities of the Annotation of the Interpropositional Discourse Relations in PDT 2.0.

Problémy a možnosti anotace mezivýpovědních textových vztahů v PDT 2.0

The paper focuses on the problems and possibilities of the annotation of interpropositional discourse relations in a dependency corpus of a natural language (Czech) such as PDT 2.0. Apart from the general introduction to the existing PDT 2.0 material and the relevant terminology (proposition, connective, argument, discourse layer etc.) it presents the main areas of problems arising during the IDR annotation that are the consequence of the specific form of the existing (especially tectogrammatical) PDT 2.0 annotation. As the degree of IDR is not an independent language layer but brings new information about the integration of tectogrammatical tree or its parts into its language context, the main emphasis is on recording the IDR on the basis of t-trees annotation. The main areas of problems do therefore touch the relation of a proposition and a tectogrammatical tree, that do not always have to correspond (the point is especially to mark out the argument, discourse parceling, multisentence direct speech and parenthesis) and the possibility of IDR classification. We can thus divide the IDR into syntactic discourse relations and non-syntactic discourse relations that comprise relations expressing the discourse producer`s motivation as well as relations expressing the receiver`s point of view.

Článek se věnuje teoretickým i praktickým problémům, které vyvstaly při přípravě anotace mezipropozičních vztahů v PDT 2.0. Na rovině teoretické se článek věnuje problematice jendotlivých rovin v PDT 2.0 a otázce, zda můžeme mezipropoziční vrstvu jazyka považovat za další rovinu ve smyslu koncepce rovin ve FGP. Na rovině praktické se pak věnuje především případům problematického rozsahu diskurzních argumentů (např. nepřekrývání t-stromu a propozice, přímá řeč, parcelace propozice, vsuvky ad.).


Speech Reconstruction - Overview of State-of-the-art Systems

Rekonstrukce mluvené řeči - přehled nejlepších systémů

This paper describes the speech reconstruction problem and lists the
most frequent speaker errors. We show that deletion of these errors is not sufficient
and more complex string operation should be done. We overview state-of-the-art
methods which try to solve this problem and present new ideas which we would
like implement in the near future.

Tento článek popisuje problém rekonstrukce mluvené řeči a představuje seznam nejčastějších chyb mluvčích. Ukazujeme, že pouhé smazaní chyb je nepostačující a je potřeba udělat více komplexní operace nad řetězmi. Dále popisujeme nejlepší metody, které se snažíproblém rekonstrukce řešit a představujeme nové nápady, které budeme v budoucnu implementovat.


Comparison of Classification and Ranking Approaches to Pronominal Anaphora Resolution in Czech

Srovnání klasifikačního a rankovacího přístupu k zájmenné anafoře

In this paper we compare two Machine Learning approaches to the task of pronominal anaphora
resolution: a conventional classification system based on C5.0 decision trees, and a novel perceptron-based ranker. We use coreference links annotated in the Prague Dependency Treebank~2.0 for training and evaluation purposes. The perceptron system achieves f-score 79.43% on recognizing coreference of personal and possessive pronouns, which clearly outperforms the classifier and which is the best result reported on this data set so far.

V článku jsou srovnány dvě metody strojového učení pro určování anafory: konvenční systém založený na klasifikaci a nový systém založený na uspořádání kandidátů pomocí perceptronu.

Giang Linh Nguy
Václav Novák
Zdeněk Žabokrtský


Constructions with Splitting of the theme and dictum in Czech

Konstrukce s rozpadem tématu a dikta v češtině

The present paper deals with Czech constructions with the splitting of the theme and dictum. They are realized by some classes of verbs of communication and verbs that express mental actions. The characteristic feature of these constructions lies in the fact that one of their participants − the participant message − occupies two valency slots. In the present contribution, syntactic properties, especially valency characteristics, of these constructions are of our main interest. However, both morphological and semantic features have to be taken into account within their description. Finally, these constructions deserve close attention with regard to coreference relations.
On the basis of the corpus evidence, we demonstrate that the theme represents an antecendent to which the coreferring expression(s) that is a part of the dictum refers. In principle, two kinds of coreference occur in the examined constructions: (i) textual and (ii) 'content' coreference. In the latter case, an explicit anaphoric relation is missing, and the relation between the coreferred and the coreferring element(s) is based on various semantic relations. For these reasons, we assume that the constructions with the splitting of the theme and dictum are not synonymous with the constructions without the splitting, due to divergent truth conditions.

Příspěvek se zabývá konstrukcemi s rozpadem tématu a dikta v češtině. Tyto konstrukce jsou realizovány některými třídami sloves mluvení a sloves vyjadřujících duševní procesy. Typickým rysem těchto konstrukcí je realizace participantu sdělení ve dvou valenčních pozicích. V předloženém příspěvku se zabýváme zejména syntaktickými vlastnostmi těchto konstrukcí, při jejich popisu však bereme v úvahu i morfologické a sémantické rysy. Dále si tyto konstrukce zaslouží pozornost zejména z ohledem na koreferenci. Na základě korpusových vyhledávek dokazujeme, že téma představuje antecendent, ke kterému odkazuje/í koreferující výraz/y, který je součástí dikta. U těchto konstrukcí zjišťujeme dva druhy koreference: (i) textovou a (ii) 'obsahovou'. V případě 'obsahové' koreference chybí explicitní anaforická relace a vztah mezi koreferujícím a koreferovaným výrazem/y je založen na nejrůznějších sémantických vztazích. Z těchto důvodů nepovažujeme konstrukce bez rozpadu tématu a dikta a s rozpadem za synonymní.


Changes in Valency Structure of Verbs: Grammar vs. Lexicon

Změny ve valenční struktuře sloves: gramatika vs.slovník

In this paper, we deal with changes in valency structure of Czech verbs from a lexicographic point of view. We focus only on syntactic constructions that are related in principle to the same (generalized) situation. Changes in valency structure are understood as different mappings between individual participants of a generalized situation and valency slots, including their morphemic realization. We
distinguish two types of changes in valency structure, so-called grammatical diatheses
and semantic diatheses.

We introduce a basic typology of potential changes in valency structure and we propose a method of the representation of these changes in the valency lexicon of Czech verbs VALLEX.

V tomto příspěvku se zabýváme změnami ve valenční struktuře českých sloves z hlediska lexikografické. Zaměřujeme se pouze na syntaktické konstrukce, které se vztahují v zásadě stejné (zobecněné) situaci. Změny ve struktuře valence jsou chápány jako různé mapování mezi jednotlivými účastníky zevšeobecněné situace a valenčními sloty, včetně jejich morfematický realizace. Rozlišujeme dva typy změn ve valenční struktuře, takzvané gramatické diateze a sémantické diateze.

Představujeme základní typologii možných změn ve struktuře valence a navrhujeme způsob reprezentace těchto změn ve valenčním slovníku českých sloves VALLEX.


Mapping Semantic Information from FrameNet onto VALLEX

Mapování sémantické informace z FrameNetu do VALLEXu

We introduce the project aimed at enhancing the valency lexicon with missing semantic information – semantic classes and semantic roles. For this purpose, we made use of FrameNet data. We proposed a method of overcoming the problem with finer granularity of word sense disambiguation made in FrameNet. This method is based on the relation of 'Inheritance'. As a result, the 6 'supergroups' of verbs were classified into more coherent semantic classes and semantic roles were assigned to their valency complementations. As to future work, we intend to experiment with other groups of verbs and to increase coverage of semantic information following the progress made in FrameNet.

Představujeme projekt zaměřený na obohacení valenčního slovníku českých sloves o chybějící sémantické informace - sémantické třídy a sémantické role. Pro tento účel jsme využili data z projektu FrameNet. Navrhli jsme způsob, jak překonat problém s jemnějším rozlišením významu ve FrameNet. Tato metoda je založena na relaci 'Inheritance'. Takto bylo zařazeno 6 skupin sloves do ucelenější sémantických tříd a jejich valenčním doplněním byly přiděleny sémantické role. Plánujeme studovat další skupiny sloves, zejména v souvislosti se zvýšením pokrytí sémantické informace ve FrameNetu.


Annotation of Discourse Connectives for the PDT

The paper presents a preliminary study on discourse connectives (DC) in Czech. Aiming to build a computerized language corpus capturing discourse relations in Czech, we base our observations on current foreign projects with the same purpose. In this study, first, the different methods of linguistic analysis of the discourse structure and discourse connectives are described, next, the nature and properties of the group of DCs are analyzed and, finally, the procedure of the annotation of discourse connectives in Prague is presented.

Článek pojednává o textových konektorech a principu jejich anotace plánované v Pražském závislostním korpusu.


K výstavbě korpusu textových vztahů v češtině

The paper reports on a developing project concerning manual annotation of discourse relations for Czech. The aim of the project is to design a language corpus capturing Czech language material from the perspective of text structure and coherence, i.e. focusing on the description of inter-sententional relations. The outcome of the project will be a new annotation layer above the existing layers of annotation (morphology, surface syntax and underlying syntax) in the Prague Dependency Treebank. This discourse annotation should function as a unique source for linguistic research in the field of the discourse analysis and for computational experiments in text processing and summarization as well as machine translation.

Článek referuje o projektu anotace textových vztahů v Pražském závislostním korpusu.

Lucie Mladová
Šárka Zikánová
Zuzanna Bedřichová
Eva Hajičová


Pitfalls of the Transitivity Hypothesis: Transitivity in Conversation and Written Language in Czech

Úskalí hypotézy tranzitivity: tranzitivita v mluvené a psané češtině

The  aim  of  the  article  is  to  test  empirically  predictions  formulated  in  the  Transitivity Hypothesis framework. Methodological problems of the original approach are discussed and some solutions  are  offered.  For  the  testing  of  the  hypotheses  two  corpora  of  Czech  were  used  (Prague Spoken Corpus and Prague Dependency Treebank). The results question both the predicted impact of the language form on transitivity and, more importantly, the concept of the Transitivity Hypothesis in general.

Cílem tohoto článku je empiricky testovat předpovědi formulované v rámci Hypotézy Tranzitivity. Jsou zde diskutovány metodologické problémy předchozích přístupů a nabídnuta některá řešení. Pro testování hypotéz byly použity dva korpusy (Pražský mluvený korpus a Pražský závislostní korpus). Výsledky zpochybňují jednak předpokládaný vliv jazykové formy na tranzitivitu a, co je důležitější, pojem Hypotézy tranzitivity obecně.


AJAX-CAT: Demo of a web editor with machine translation

AJAX-CAT: Ukázka webového editoru se strojovým překladem

AJAX-CAT demonstrates an integration of machine translation system into a simple web text editor. For a given input sentence, AJAX-CAT presents a table of translation options of source phrases and also provides a suggestion box with output continuations when the user starts typing the translation.

AJAX-CAT je ukázka integrace strojového překladu do webového editoru. Pro danou vstupní větu AJAX-CAT ukazuje návrhy překladů jednotlivých frází a též několik variant dokončení překladu celé věty.


Computer Aided Translation Backed by Machine Translation

Podpora překladu pomocí strojového překladu

A number of tools to support translators (computer-aided translation, CAT)
exist, as there are many systems of machine translation (MT). So far, the
integration of the two system types was little or none. The aim of this paper is
to examine a tighter coupling of MT and CAT.

We introduce our web-based CAT tool implemented using the modern AJAX technology
that
communicates with Moses MT system on the server side
to provide the translator with suggested translations of individual phrases of
the source sentence as well as several options of the complete continuation of
the output sentence. The suggested continuation is based on what has been
already translated and what the user has already written as the output.
Hopefully, the proposed user interface and the MT system at the back end will
accelerate and simplify the process of translation.

Představujeme nástroj pro podporu lidského překladu. Ve webovém rozhraní uživatelům systém nabízí nejen překlady jednotlivých úseků vstupní věty, ale též několik variant, jak v načaté věte pokračovat.


Statistical Machine Translation between Related and Unrelated Languages

Statistický strojový překlad mezi příbuznými a nepříbuznými jazyky

In this paper we describe an attempt to compare how relatedness of languages
can influence the performance of statistical machine translation (SMT). We
apply the Moses toolkit on the Czech-English-Russian corpus UMC 0.1 in order to
train two translation systems: Russian-Czech and English-Czech. The quality
of the translation is evaluated on an independent test set of 1000 sentences
parallel in all three languages using an automatic metric (BLEU score) as well
as manual judgments. We examine whether the quality of Russian-Czech is better
thanks to the relatedness of the languages and similar characteristics of word
order and morphological richness. Additionally, we present and discuss
the most frequent translation errors for both language pairs.

Příspěvek studuje vliv příbuznosti jazyků na kvalitu frázového strojového překladu. Kontrastní dvojice jazyků jsou angličtina-ruština a čeština-ruština.

David Kolovratník
Natalia Klyueva
Ondřej Bojar


UMC003: Czech-English-Russian Tri-parallel Test Set for MT

UMC003: Česko-anglicko-ruský trojparalelní korpus pro evaluaci strojového překladu

UMC003 is a cleaned tokenized development and test set to accompany the training data in UMC 0.1 aimed at Czech-English-Russian machine translation. For more information about the test set, see the README file in the UMC003 package.

UMC003 je vyčištěná sada tokenizovaných vět určená pro evaluaci strojového překladu mezi češtinou, ruštinou a angličtinou. Tato testovací sada je vhodným doplňkem k trénovací sadě UMC 0.1.


Coreference annotation applied to the syntactically annotated corus of Czech

Anotace koreference na syntakticky anotovaném korpusu českých textů

Разметка кореференции на синтаксически аннотированном корпусе чешских текстов

This paper describes the scheme of annotation of coreference in PDT. We represent the structure of annotation stages, which consist of grammatical coreference annotation (the antecedent can be calculated from the grammatical rules of  the language), textual pronominal coreference and the extended scheme of textual coreference, which includes noun anaphoric relations and bridging anaphora. We suggest and discuss coreference relations in the extended coreference scheme, examine some complications, which occur by annotation and present our first results.

Prezentace probihajiciho projektu anotace jmenne koreference a asociacni anafory na PDT se zvlastnim zretelem k lingvistickym problemum vznikajicim pri anotaci.

В докладе представлена схема разметки кореференции на синтаксически аннотированном корпусе чешских текстов PTD. Рассматриваются три этапа разметки — разметка грамматической кореференции, где антецедент высчитывается на основе грамматических правил данного языка, разметка прономинальной текстовой кореференции и расширенная схема разметки именной текстовой кореференции и ассоциативной анафоры. Разметка грамматической и прономинальной кореференции была проделана на всем корпусе PTD, разметкой именной кореференции и ассоциативной анафоры занимается автор данного доклада в настоящее время. В докладе рассматриваются некоторые трудности классификации примеров, приводятся первые результаты.

Анна Юрьевна Недолужко


Razmetka koreferencii na sintaksičeski annotirovannom korpuse češskix tekstov

The article describes the annotation of coreference and bridging anaphora on the tectogammatical level of PDT, with special reference to liguistic problems, which occur during the annotation.

Prehled anotace koreference a asociacni anafory na tektogramaticke rovine se zvlastnim zretelem k lingvistickym problemum vznikajicim pri anotaci.


The Coding Scheme for Annotating Extended Nominal Coreference and Bridging Anaphora in the Prague Dependency Treebank

Schéma pro anotaci rozšířené textové koreference a bridging anafory v Pražském závislostním korpusu

The present paper outlines an ongoing project of annotation of the extended nominal coreference and the bridging anaphora in the Prague Dependency Treebank. We describe the annotation scheme with respect to the linguistic classification of coreferential and bridging relations and focus also on details of the annotation process from the technical point of view. We present methods of helping the annotators – by a pre-annotation and by several useful features implemented in the annotation tool. Our method of the inter-annotator agreement is focused on the improvement of the annotation guidelines; we present results of three subsequent measurements of the agreement.

Představujeme probíhající projekt anotace rozšířené jmenné koreference a bridging anafory v Pražském závislostním korpusu. Popisujeme anotační schéma s přihlédnutím k jazykové klasifikaci koreferenčních a bridging vztahů a zaměřujeme se rovněž na podrobnosti průběhu anotace z technického hlediska. Představujeme metody usnadnění anotace - pomocí předanotace a několika praktických pomůcek implementovaných v anotačním nástroji. Naše metoda měření mezianotátorské shody je zaměřena na zdokonalení anotačních instrukcí; uvádíme výsledky tří měření této shody.

Anna Nedoluzhko
Jiří Mírovský
Petr Pajas


Extended Coreferential Relations and Bridging Anaphora in the Prague Dependency Treebank

Vztahy rozšířené koreference a bridging anafory v Pražském závislostním korpusu

The present paper outlines the coding scheme for annotating extended nominal coreference and bridging relations in the Prague Dependency Treebank. We compare our annotation scheme to the existing ones with respect to the language to which the scheme is applied. We identify the annotation principles and demonstrate their application to the large-scale annotation of Czech texts. We further present our classification of coreferential relations and bridging relations types and discuss some problematic aspects in this area. An automatic pre-annotation and some helpful features of the annotation tool, such as maintaining coreferential chain, underlining candidates for antecedents, etc. are presented and discussed. Statistical evaluation is performed on the already annotated part of the Prague Dependency Treebank. We also present the first results of the inter-annotator agreement measurement and explain the most frequent cases of disagreement.

Článek popisuje anotační schéma rozšířené jmenné koreference a bridging anafory v Pražském závislostním korpusu. Porovnáváme náš přístup s již existujícími přístupy ve vztahu k jazyku, pro který je to které schéma použito. Jmenujeme anotační principy a ukazujeme jejich aplikaci na rozsáhlou anotaci českých textů. Dále uvádíme vlastní rozdělení typů koreferenčních a bridging vztahů a věnujeme se některým problematickým otázkám této oblasti. Popisujeme rovněž automatickou předanotaci a několik pomocných vlastností anotačního nástroje, jako je zachovávání koreferenčních řetězců, zvýrazňování kandidátů pro antecedenty apod. Uvádíme řadu statistických údajů získaných na doposud anotované části Pražského závislostního korpusu. Rovněž přinášíme první výsledky měření mezianotátorské shody a objasňujeme nejčastější případy neshody.

Anna Nedoluzhko
Jiří Mírovský
Radek Ocelák
Jiří Pergler


Syntax in methods for information retrieval

Využití syntaxe v metodách pro vyhledávání informací

In the last years, application of language modeling in infor-
mation retrieval has been studied quite extensively. Although language models
of any type can be used with this approach, only traditional n-gram models
based on surface word order have been employed and described in published
experiments (often only unigram language models). The goal of this thesis is
to design, implement, and evaluate (on Czech data) a method which would
extend a language model with syntactic information, automatically obtained
from documents and queries. We attempt to incorporate syntactic information
into language models and experimentally compare this approach with uni-
gram and bigram model based on surface word order. We also empirically
compare methods for smoothing, stemming and lemmatization, eﬀectiveness
of using stopwords and pseudo relevance feedback. We perform a detailed ana-
lysis of these retrieval methods and describe their performance in detail.

V posledních letech výzkumu v oblasti vyhledávání informací je
věnována značná pozornost metodám založeným na jazykovém modelování.
I přesto, že tento přístup dovoluje použití libovolného jazykového modelu,
většina publikovaných experimentů byla prováděna s klasickým n-gramovým
modelem (mnohdy pouze s unigramovým modelem). Cílem diplomové práce
je navrhnout, implementovat a vyhodnotit (na českých datech) metodu, která
by pravděpodobnostní model obohatila o použití syntaktické informace získané
automaticky (strojově) z dokumentů i dotazů. V předkládané práci se pokusíme
vhodným způsobem zavést syntaktickou informaci do jazykových modelů a ex-
perimentálně srovnáme navržený přístup s výsledky unigramového a bigramo-
vého povrchového modelu. Kromě využití syntaktické informace se zaměříme
také na vliv vyhlazování, stemmingu, lemmatizace, použití stopwords a me-
tody rozšiřování dotazů – pseudo relevance feedback. Provedeme také detailní
analýzu použitých systémů vyhledávání informace a podrobně popíšeme jejich
vlastnosti.


Czech Named Entity Corpus and SVM-based Recognizer

Český korpus pojmenovaných entit a jejich rozpoznávač

This paper deals with recognition of named entities in Czech texts. We present a recently released corpus of Czech sentences with manually annotated named entities, in which a rich two-level classification scheme was used.  There are around 6000 sentences in the corpus with roughly 33000 marked named entity instances. We use the data for training and evaluating a named entity recognizer based on Support Vector Machine classification technique. The presented  recognizer outperforms the results previously reported for NE recognition in Czech.

Tento článek se zabývá rozpoznáváním pojmenovaných
entit v českých textech. Popisuje nový korpus s ručně značkovanými entitami ve dvouúrovňovém anotačním schématu. Data byla použita pro trénování rozpoznávače pojmenovaných entit, který je založen na klasifikátoru SVM.


The Czech Named Entity Corpus 1.0 is the first publicly available corpus providing a large body of manually annotated named entities in Czech sentences, including a fine-grained classification.

Czech Named Entity Corpus 1.0 je první veřejně přístupný korpus českých vět, v nichž byly ručně vyznačeny a klasifikovány pojmenované entity (nejčastěji se jedná o vlastní jména).

Jana Kravalová
Magda Ševčíková
Zdeněk Žabokrtský


Bad News, NLP Hacking and Feature Fishing

Bad news about the utility of deep syntax in MT so far, ideas on adding more features to shallow MT systems.

Špatné zprávy o dosavadní užitečnosti hloubkového rozboru pro MT, nápady rysů, jimiž by se dal obohatit mělký překlad.


Exploiting Linguistic Data in Machine Translation

Využití lingvistických dat ve strojovém překladu

This study explores the mutual relationship between linguistic theories, data
and applications. We focus on one particular theory, Functional Generative
Description (FGD), one particular type of linguistic data, namely valency
dictionaries and one particular application: machine translation (MT) from
English to Czech.

First, we examine methods for automatic extraction of verb valency dictionaries
based on corpus data. We propose an automatic metric for estimating how much
lexicographers' labour was saved and evaluate various frame extraction
techniques using this metric.

Second, we design and implement an MT system with transfer at
various layers of language description, as defined in the framework of FGD. We
primarily focus on the tectogrammatical (deep syntactic) layer.

Third, we leave the framework of FGD and experiment with a rather direct,
phrase-based MT system. Comparing various setups of the system and
specifically treating target-side morphological coherence, we are
able to significantly improve MT quality and out-perform a commercial MT
system within a pre-defined text domain.

The concluding chapter provides a broader perspective on the utility of lexicons
in various applications, highlighting the successful features.

Studie se zabývá vzájemným vztahem mezi lingvistickými teoriemi, daty a aplikacemi. Soustředuje se přitom na jednu konkrétní teorii, teorii Funkčního generativního popisu, jeden konkrétní typ dat, totiž slovesné valenční rámce, a jednu konkrétní aplikaci: strojový překlad z angličtiny do češtiny.


A quick introduction to problems of machine translation for the participants of Pralinka corespondence series.

Popularizační seminář pro korespondenční seminář Pralinka na téma strojového překladu.


Manually Flagged Errors in WMT09 Test Set

Ručně vyznačené chyby v testovacích větách WMT09

A collection of outputs of 4 machine translation systems. Errors in the output are manually flagged and classified.

Korpus výstupů čtyř systémů strojového překladu s ručně vyznačenými chybami a klasifikací chyb.


QuickJudge is a tiny tool to simplify the process of manual judging of string segments (e.g. sentences in machine translation output) of one or more competing systems.

QuickJudge je minimalistický nástroj pro rychlé a pohodlné ruční hodnocení libovolných řádkově-orientovaných výstupů. Primárně byl vyvinut pro účely hodnocení kvality srovnáním či počítáním chyb ve výstupech jednoho či více systémů strojového překladu.


A talk for students of the subject Nástroje pro strojový překlad on fully automatic machine translation systems.

Přednáška pro studenty předmětu Nástroje pro strojový překlad o problematice systémů plně automatického překladu.


A quick introduction to the automatic rich annotation workflow using TectoMT -- while avoiding rich formats whenever possible.

Stručný úvod k automatické bohaté anotaci pomocí TectoMT s cílem vyhýbat se bohatým datovým formátům, jak je to jen možné.


Trainable Tokenizer is able to tokenize and segment most languages based on supplied configuration and sample data. The tokenizer is not aimed e.g. for Chinese with no explicit delimitation of words.

Trénovatelný tokenizér je schopen tokenizovat a segmentovat většinu jazyků na základě dodané konfigurace a ukázkových dat. Není určen pro jazyky bez jasně odlišených slov, jako je např. čínština.


We describe two systems for English-to-Czech machine translation that took part
in the WMT09 translation task. One of the systems is a tuned phrase-based system
and the other one is based on a linguistically motivated
analysis-transfer-synthesis approach.

Popisujeme dva systémy strojového překladu z angličtiny do češtiny užité při soutěži WMT09.

Ondřej Bojar
David Mareček
Václav Novák
Martin Popel
Jan Ptáček
Jan Rouš
Zdeněk Žabokrtský


Final technical report on deep syntactic transfer for the EuroMatrix Project.

Závěrečná zpráva o hloubkově-syntaktickém transferu pro projekt EuroMatrix.


The Prague Bulletin of Mathematical Linguistics: Special Issue on Open Source Machine Translation Tools

A special issue of the PBML journal focussed on open-source tools for machine translation, as presented during MT Marathon 2009.

Zvláštní vydání časopisu PBML zaměřené na volně šiřitelné nástroje pro strojový překlad. Vydání bylo sestaveno u příležitosti týdenního kurzu MT Marathon 2009.


CzEng 0.9, Building a Large Czech-English Automatic Parallel Treebank

CzEng 0.9, česko-anglický paralelní syntakticky anotovaný korpus

We describe our ongoing efforts in collecting a Czech-English parallel corpus CzEng.
The paper provides full details on the current
version~0.9 and focuses on its new features: (1) data from new sources were added, most importantly a few hundred electronically available books, technical documentation and also some parallel web pages, (2) the full corpus has been automatically annotated up to the tectogrammatical layer (surface and deep syntactic analysis), (3) sentence segmentation has been refined, and (4) several heuristic filters to improve corpus quality were implemented. In total, we provide a sentence-aligned automatic parallel treebank of 8.0 million sentences, 93 English and  82 Czech words. CzEng~0.9 is freely available for non-commercial research purposes.

Popisujeme práce na paralelním česko-anglickém korpusu CzEng pro jeho třetí vydání (verze 0.9). V aktuální verzi korpus obsahuje 8.0 mil. paralelních vět (93 mil. anglických slov a 82 mil. českých slov).


CzEng 0.9 is the third release of a sentence-parallel Czech-English corpus compiled at the Institute of Formal and Applied Linguistics (ÚFAL) freely available for non-commercial and research purposes.

CzEng 0.9 contains 8.0 million parallel sentences (93 million English and 82 million Czech tokens) from seven different types of sources automatically annotated at surface and deep (a- and t-) layers of syntactic representation.

CzEng 0.9 je třetí vydání paralelního česko-anglického korpusu. V aktuální verzi korpus obsahuje 8.0 mil. paralelních vět (93 mil. anglických slov a 82 mil. českých slov).

Ondřej Bojar
Zdeněk Žabokrtský
Miroslav Janíček
Václav Klimeš
Jana Kravalová
David Mareček
Václav Novák
Martin Popel
Jan Ptáček


English-Hindi Translation – Obtaining Mediocre Results with Bad Data and Fancy Models

Překlad z angličtiny do hindštiny – získávání průměrných výsledků s mizernými daty a propracovanými modely

We describe our attempt to improve on previous English to Hindi machine translation results, using two open-source phrase-based MT systems: Moses and Joshua. We use several approaches to morphological tagging: from automatic word classes, through stem-suffix segmentation, to a
POS tagger. We also experiment with factored language models. We evaluate various combinations of training data sets and other existing English-Hindi resources. To our knowledge, the BLEU score we obtained is currently the best published result for the IIIT-TIDES dataset.

Popisujeme naši snahu zlepšit dřívější výsledky strojového překladu z angličtiny do hindštiny. Využíváme dva frázové open-source systémy: Moses a Joshua. Testujeme několik přístupů k morfologickému značkování: od automatických slovních tříd přes segmentaci na kmen a sufix až k POS taggeru. Experimentujeme také s faktorizovanými jazykovými modely. Vyhodnocujeme různé kombinace trénovacích dat a dalších existujících anglicko-hindských jazykových zdrojů. Pokud je nám známo, BLEU skóre, kterého jsme dosáhli, je v současnosti nejlepší publikovaný výsledek na testovacích datech IIIT-TIDES.

Ondřej Bojar
Pavel Straňák
Daniel Zeman
Gaurav Jain
Michal Hrušecký
Michal Richter
Jan Hajič


Česko-anglické ruční zarovnání po slovech

Czech-English 515 parallel sentences, manually aligned at the word level, as used by Bojar and Prokopová in paper at LREC 2006. We release the data in 2009.

Česko-anglických 515 vět, jak byly ručně zarovnány po slovech a použity v publikaci Bojar, Prokopová. LREC 2006. Data zveřejňujeme až v roce 2009.


The CoNLL-2009 Shared Task: Syntactic and Semantic Dependencies in Multiple Languages

Společná úloha CoNLL-2009: Syntaktické a sémantické závislosti v různých jazycích

For the 11th straight year, the Conference
on Computational Natural Language Learn-
ing has been accompanied by a shared task
whose purpose is to promote natural language
processing applications and evaluate them in
a standard setting. In 2009, the shared task
was dedicated to the joint parsing of syntac-
tic and semantic dependencies in multiple lan-
guages. This shared task combines the shared
tasks of the previous five years under a unique
dependency-based formalism similar to the
2008 task. In this paper, we define the shared
task, describe how the data sets were created
and show their quantitative properties, report
the results and summarize the approaches of
the participating systems.

Jedenáctý rok v řadě je konference CoNLL doprovázena společnou úlohou, jejímž úkolem je podpořit aplikace na zpracování přirozeného jazyka a ohodnotit je za standardních podmínek. V roce 2009 byla úloha zasvěcena spojenému parsingu syntaktických a sémantických závislostí v několika jazycích. Úloha kombinuje zadání z předchozích pěti let v jedinečném závislostním formalizmu podobném úloze z roku 2008. V tomto článku definujeme společnou úlohu, popisujeme, jak byly vytvářeny sady dat a jaké jsou jejich kvantitativní vlastnosti, oznamujeme výsledky a shrnujeme přístupy soutěžících systémů.

Jan Hajič
Massimiliano Ciaramita
Richard Johansson
Daisuke Kawahara
Maria Antònia Martí
Lluís Màrquez
Adam Meyers
Joakim Nivre
Sebastian Padó
Jan Štěpánek
Pavel Straňák
Mihai Surdeanu
Nianwen Xue
Yi Zhang


CoNNL 2009 Shared Task Czech Development Set

CoNLL 2009 Shared Task Czech Development Set

Czech testing (development and evaluation) data for CoNLL 2009 Shared Task. The data are generated from PDT 2.0. LDC2009E35B

Česká testovací (dev i eval) data pro CoNLL 2009 Shared Task. Data jsou vygenerována z PDT 2.0.
LDC2009E35B


CoNNL 2009 Shared Task Czech Training Set

CoNLL 2009 Shared Task Czech Training Set

Czech training data for CoNLL Shared Task. The data are generated from PDT 2.0. LDC catalog number: LDC2009E34B

Česká trénovací data pro CoNLL 2009 Shared Task. Data jsou vygenerována z PDT 2.0. LDC2009E34B


Czech sample data for CoNLL 2009 Shared Task. The data are generated from PDT 2.0.
LDC2009E32B

Česká ukázková data pro CoNLL 2009 Shared Task. Data jsou vygenerována z PDT 2.0.
LDC2009E32B


PDTSL - Prague Dependency Treebank of Spoken Language - Czech

The project of speech reconstruction of Czech and English has been started at UFAL together with the PIRE project in 2005, and has gradually grown from ideas to (first) annotation specification, annotation software and actual annotation. It is part of the Prague Dependency Treebank family of annotated corpus resources and tools, to which it adds the spoken language layer(s).

Projekt rekonstrukce mluvené řeči (pro češtinu a angličtinu) začal na pracovišti UFAL současně s projektem PIRE v roce 2005 a postupně se rozvinul z prvních návrhů k vytvoření software, anotačních manuálů a samotné anotaci dat. PDTSL je součástí korpusů a zdrojů kolem Pražského závislostního korpusu, ke kterému přidává úroveň mluveného jazyka.

Jan Hajič
Marie Mikulová
Martina Otradovcová
Petr Pajas
Nino Peterek
Pavel Češka
Miroslav Spousta


Prague Dependency Treebank of Spoken Language - English

Pražský závislostní korpus mluveného jazyka - angličtina

This release contains the manual speech reconstruction annotation of about 260k tokens of the NAP corpus. The NAP corpus is a corpus of dialogs over personal photograph collections, recorded for the Companions project.

Jedná se o data z anglického dialogového korpusu NAP, který vznikl v rámci projektu Companions. Jsou to rozhovory nad fotografiemi. Na tomto korpusu byla prováděna ruční anotace tzv. speech reconstruction, rekonstrukce mluvené řeči.

Jan Hajič
Silvie Cinková
Petra Mičková
Petr Pajas
Nino Peterek
Miroslav Spousta


This CD presents part of the Prague English Dependency Treebank (PEDT). PEDT is the manual tectogrammatical (syntactico-semantic) annotation of texts from the Wall Street Journal - Penn Treebank III. The present CD (PEDT 1.0) comprises approx. 10,000 annotated and checked trees, which is about 20% of the original WSJ-PTB. The following components are included:

    * manually annotated data, integrated valency lexicon Engvallex
    * the valency lexicon Engvallex in printable form (latest revision: January 2009)
    * the ready-to-install package of the tree editor/viewer TREd
    * documentation
    * specification of the annotation format (Prague Markup Language)

Na CD se nachází 10 000 manuálně tektogramaticky anotovaných vět z Penn Treebanku, editor a dokumentace.

Jan Hajič
Silvie Cinková
Kristýna Čermáková
Lucie Mladová
Anja Nedolužko
Petr Pajas
Jiří Semecký
Jana Šindlerová
Josef Toman
Kristýna Tomšů
Matěj Korvas
Magdaléna Rysová
Kateřina Veselovská
Zdeněk Žabokrtský


On Honorification in Czech (The Czech polite forms - theory and corpus data)

Honorifika v češtině (České vykání - teorie a korpusová data)

The author claims that the Czech polite forms (so-called „vykání“) for addressing the 2nd person should  be undestood as a legitimate part of the Czech conjugation paradigm. If we address a single person in a polite way, some Czech analytical verb forms exhibit „hybrid“ agreement (auxiliaries are in plural, while participle form is in singular). However, the paradigm for singular and plural polite forms is not symmetrical. The question, whether 2nd person plural polite forms are ambiguous (between  the polite meaning and 2nd plural non-polite), or whether the semantic distinction „polite – non-polite“ is neutralized in plural, is open for further discussion.

V článku je navrženo zařazení české 2. osoby zdvořilé (vykání) jako paradigmatické kategorie českého slovesa, protože v některých tvarech vykazuje zvláštní shodu. Klade se otázka, zda v plurálu, kde se formální rozdíl neprojevuje, jde o homonymii nebo o neutralizaci. Na korpusových datech se zkoumají ukazatelé zdvořilostní formy.


On the Syntax and Semantics of Czech Infinitival Constructions (Infinitive Subject)

K vlastnostem českého infinitivu: Subjektový infinitiv

K vlastnostem českých infinitivních konstrukcí (subjektový infinitiv)

The Czech infinitive in the position of subject is analyzed as a type of controlled construction. In three types of constructions (verbs of evaluation of the state, verbonominal predicates with nouns and adjectives)the form and distribution of their respective controller is described.

Český subjektový infinitiv se probírá jako typ kontrolované struktury. Analyzují se formy a distribuce kontroloru  v řídící predikaci jako žto antecedentu (nevyjádřeného) subjektového infinitivu. V češtině jsou předmětem analýzy tři typy konstrukcí (kromě sloves typu baví ho, zajímá ho jsou to věty s verbonominálním přísudkem substantivníma a djektivním).


Syntactic annotation of spoken utterances: A case study on the Czech Academic Corpus

Syntaktická anotace mluvených projevů: Studie Českého akademického korpusu

Corpus annotation plays an important role in linguistic analysis and computa-tional processing of both written and spoken language. Syntactic annotation of spoken texts becomes clearly a topic of considerable interest nowadays, driven by the desire to improve auto-matic speech recognition systems by incorporating syntax in the language models, or to build language under-standing applications. Syntactic anno-tation of both written and spoken texts in the Czech Academic Corpus was created thirty years ago when no other (even annotated) corpus of spoken texts has existed. We will discuss how much relevant and inspiring this annotation is to the current frameworks of spoken text annotation.

Korpusová anotace je důležitou součástí lingvistické analýzy a počítačového zpracování jazyka. Tento článek se zabývá problémy spojenými se syntaktickou anotací mluvených textů na pozadí syntaktické anotace ČAKu.


TectoMT 1.0: Modular Software Framework for NLP Experiments

TectoMT: modulární softwarový systém pro experimenty v NLP

TectoMT is a highly modular NLP (Natural Language Processing) software system implemented in Perl programming language under Linux. It is primarily aimed at Machine Translation, making use of the ideas and technology created during the Prague Dependency Treebank project. At the same time, it significantly facilitates and accelerates development of software solutions of many other NLP tasks, especially due to re-usability of the numerous integrated processing modules (called blocks), which are equipped with uniform object-oriented interfaces.

TectoMT je široce modulární nástroj pro zpracování přirozeného jazyka (NLP, natural language processing tool).

Zdeněk Žabokrtský
Ondřej Bojar
Jan Ptáček
Martin Popel
David Mareček
Václav Novák
Jana Kravalová


Tred Extension for Tectogrammatical Analysis of Czech Text

Tektogramatický analýzátor českého textu pro editor Tred

Tred extension that provides a simple TectoMT-based Czech analyzer producing tectogrammatical, analytical and morphological layers for a given Czech sentence.

Rozšiřující modul pro TrEd, který umožní zanalyzovat zadanou českou větu na morfologické, analytické a tektogramatické rovině.

Zdeněk Žabokrtský
Václav Klimeš
Petr Pajas


Hidden Markov Tree Model in Dependency-based Machine Translation

Stromové skryté markovovské modely v zavislostním překladu

We would like to draw attention to Hidden Markov Tree Models (HMTM), which are to our knowledge still unexploited in the field of Computational Linguistics, in spite of highly successful Hidden Markov (Chain) Models. In dependency trees, the independence assumptions made by HMTM correspond to the intuition of linguistic dependency. Therefore we suggest to use HMTM and tree-modified Viterbi algorithm for tasks interpretable as labeling nodes of dependency
trees. In particular, we show that the transfer phase in a Machine Translation system based on tectogrammatical dependency trees can be seen
as a task suitable for HMTM. When using the HMTM approach for the English-Czech translation,
we reach a moderate improvement  over the baseline.

Článek pojednává o možnosti využití skrytých stromových markovovských modelu ve fázi transferu ve strojovém překladu využívajícím tektogramatickou rovinu.


A brief characterization of the Prague School is presented on the background of the present day development of lingustic theories.

Stručně se připomínají zásady Pražské školy a ukazuje se jejich důležitost pro současné lingvistické bádání.


Most different aspects of the author`s linguistic carreer are discussed.

Probírají se nejrůznější aspekty autorovy vědecké dráhy v lingvistice.


Where to Look for the Fundamentals of Language

The distinction between the core of language, patterned in a relatively simple way, and its complex periphery can be expressed in terms of the notion of markedness. If the properties of the language core are to be explained as attributable to general principles, then the core of language may be seen as based on information structure, and syntactic dependency, or valency, might be taken to be a later development.

Vztah mezi jádrem jazyka, relativně jednoduše strukturovaným, a jeho složitou periferií lze chápat na základě pojmu příznakovosti. Jádro můžeme vidět v aktuálním členění a v později vyvinuté syntaktické závislosti (valenci).


The scientific contribution of one of the pioneers in the field of machine translation is summarized at the occasion of the scientists' death.

Ve stati je shrnut a vysoko hodnocen vědecký přínos jednoho z pionýrů strojového překladu nejen v České republice, Zdeňka Kirschnera, u příležitosti jeho úmrtí.


How to continue with the annotation of language corpuses?

Some issues to be solved in the future development of annotation scenaria
for text corpora.

Několik námětů, které je třeba řešit v budoucím vývoji anotačních schémat pro korpusy textů.


From Prague Structuralism to Treebank Annotation

Od Pražského strukturalismu k anotaci korpusů.

Prague School of Linguistics is one of the main schools of linguistic thought distinguished first of all by its structural and functional approach to language system. In the paper these two viewpoints are discussed in their contribution to a formal description of language and to different levels of annotation of linguistic resources.

Pražská lingvistická škola je jedním ze základních směru evropského strukturalismu, který se vyznačuje vedle strukturního pohledu na jazykový systém také zohledněním komunikativní funkce jazyka. Tyto dva principy jsou ve stati uplatněny na oblast formálního popisu jazyka a na anotování jazykových korpusů na různých rovinách popisu.


Information structure from the point of view of the relation of function and form

Aktuální členění z pohledu vztahu funkce a formy

One of the main tenets of the Prague School of Linguistics was a clear distinction to be made between form and function. The paper first refers to the classical statements about this distinction and then discusses this opposition from the viewpoint of topic-focus articulation of the sentence.

Jedním ze základních principů přístupu Pražského lingvistického kroužku bylo důsledné rozlišování jazykové formy a funkce. Ve stati se nejprve shrnují klasické pohledy na tuto distinkci a poté se uplatňuje tento pohled na rozbor aktuálního členění větného.


The fundamental significance of information structure

Information structure has to be reflected as a fundamental aspect of the underlying structure of the setence, i.e. of its literal meaning. Its primary means of expression may be seen in the word order and sentence intonantion.

Aktuální členění věty je třeba zachycovat jako jeden ze základních aspektů hloubkové stavby věty, tj. jejího jazykového významu. Jeho primární výrazové prostředky jaou slovosled a větná intonace.


Rozšíření anotačního nástroje TrEd pro Conll2009

This software package provides visualization of CoNLL-2009-ST data in TrEd, scripts (for Linux and similar systems) for converting from the CoNLL-2009-ST format to the PML format and a TrEd annotation mode for predicate-argument annotation.

Tento softwarový balíček poskytuje vizualizaci pro data z CoNLL-2009-ST v TrEdu, konverzní skripty z CoNLL-2009-ST formátu do formátu PML a rozsšíření pro TrEd, umožňující anotaci predikátů a argumentů.


A set of tools for working with the PML data format used for capturing linguistic annotations. The toolkit consists of validators, conversion scripts for several other formats, data management tools, schema processing tools, Perl API, and various other tools.

Sada nástrojů pro práci s datovým formátem PML pro reprezentaci lingvistické anotace jazykových dat. Sada zahrnuje validátor, sadu konverzních skriptů z jiných formátů, programy pro management dat, úpravy schématu, knihovny pro Perl, a další nástroje.


Strukturované vyhledávání v syntakticky anotovaných korpusech v PML formátu

PML-TQ is a search system for linguistic TreeBanks in PML format. The system defines a powerfull query language, uses a client server architecture (with SQL database backend on the server side) and provides a command-line and a simple web-based search client. The system also includes a graphical client for PML-TQ and client-side PML-TQ search engine, allowing the users to use PML-TQ queries on their local data. The GUI and client-side search engine are distributed separately as extensions to the tree editor TrEd.

PML-TQ je systém pro vyhledávání nad lingvisticky anotovanými korpusy závislostních či složkových stromů ve formátu PML. Systém definuje velmi silný dotazovací jazyk. Je implementován pomocí client-server architektury, s použitím SQL databáze na straně serveru a zahrnuje webové a CLI rozhraní a grafické rozhraní zabudované do editoru TrEd. Jako rozsíření TrEdu je dále dostupný čistě klientský vyhledávací systém nad stejným dotazovacím jazykem, umožňující prohledávat lokální soubory.


System for Querying Syntactically Annotated Corpora

Systém pro dotazování nad syntakticky anotovanými korpusy

This paper presents a system for querying
treebanks. The system consists of a powerful query language with natural support for cross-layer queries, a client interface with a graphical query builder and visualizer of the results, a command-line client interface, and two substitutable query engines: a very efﬁcient engine using a relational database (suitable for large static data), and a slower, but paralel-computing enabled, engine operating on treebank ﬁles
(suitable for “live” data).

Článek představuje systém pro dotazování nad treebanky. Systém se skládá ze silného dotazovacího jazyka s přímou podporou dotazů napříč anotačními rovinami, z klientského rozhraní s grafickým editorem dotazů a vizualizací výsledků, a ze dvou zaměnitelných dotazovacích nástrojů: velmi výkonného nástroje nad relační databází (vhodného pro statická data) a pomalejšího, ale paralelizovatelného nástroje, který pracuje přímo nad souboru treebanku (vhodného pro "živá" data).


Lexical Association Measures: Collocation Extraction

Lexikální asociační míry: extrakce kolokací

This publication is devoted to an empirical study of lexical association measures and their application to collocation extraction. It presents a comprehensive inventory of lexical association measures and their evaluation on four reference data sets of collocation candidates: Czech dependency bigrams from the Prague Dependency Treebank, surface bigrams from the same source, instances of the latter from the Czech National Corpus, and Swedish distance verb-noun combinations obtained from the PAROLE corpus. The collocation candidates in the reference data sets were manually annotated and labeled as collocations or non-collocations by expert linguists. The evaluation scheme applied in this work is based on measuring the quality of ranking collocation candidates according to their chance to form collocations. The methods are compared by precision-recall curves, mean average precision scores, and appropriate tests of statistical significance. Further, the study focuses on the possibility of combining lexical association measures and discusses empirical results of several combination methods that significantly improve state of the art in collocation extraction. The work is concluded by a description of a model reduction algorithm that significantly reduces the number of combined measures without any statistically significant difference in performance.

Tato kniha je věnovaná empirické studii lexikálních asociačních měr a jejich aplikaci v úloze automatické extrakce kolokací. Práce obsahuje vyčerpávající seznam 82 lexikálních asociačních měr ajejich evaluaci na celkem čtyřech referenčních datových množinách: závislostních bigramech z ručně anotovaného Pražského závislostního korpusu, povrchové bigramy ze stejného korpusu, instance prvků předchozí množiny z Českého národního korpusu opatřeného automatickou lemmatizací a morfologickým značkováním a vzdálenostními verbnominálními bigramy z automaticky značkovaného švédského korpusu Parole. Kolokační kandidáti v referenčních  množinách byli manuálně anotováni jako kolokace nebo nekolokace. Použité evaluační schéma je založeno na měření kvality seřazení kolokačních kandidátů dle jejich pravděpodobnosti tvořit kolokaci. Metody jsou porovnány pomocí precision-recall křivek a hodnot mean average precision, které jsou převzaty  z oboru vyhledávání informací. Provedeny byly i testy signifikance výsledků. Dále je zkoumána možnost kombinování lexikálních asociačních měr a presentovány výsledky několika kombinačních metod, jejichž použití vedlo k výraznému zlepšení úspěšnosti řešení této úlohy. Dále je v práci navržen algoritmus významně redukující složitost použitých kombinačních modelů bez statisticky významného snížení jejich úspěšnosti.


Diatheses in the Czech Valency Lexicon PDT-Vallex

Diateze v českém valenčním slovníku PDT-VAllex

As an important part of the Prague Dependency Treebank project a valency lexicon is being distributed. In this lexicon, more than 5300 verb entries are fully formally represented, with more than 8200 valency frames for verb senses included. Moreover, the valency frames are interlinked with the Prague Dependency Treebank corpus, effectively providing a verb sense distinction and annotation for every occurrence of a verb in the corpus. More than 100,000 verb occurrences are annotated in this way. The valency frame representation is fully formalized. In this contribution, we will concentrate on the formal description of the form of the verb

Důležitou součástí Pražského závislostního korpusu je valenční slovník. Slovník obsahuje 5300 sloves s 8200 valenčními rámci, které jsou propojeny s korpusem. Reprezentace valenčního rámce je plně formalizována. Tento příspěvek je orientován na formální popis forem, kterých nabývají argumenty sloves v různých sekundárních diatezích, jako je  například pasivizace (pasivum opisné a zvratné), rezultativ (sloveso mít, dostat), dispoziční modalita.  Článek detailně  popisuje fungování jednotlivých transformačních pravidel pro příslušné změny forem.


A software tool allowing editing and searching in the transcripts of audio-visual recordings of dialogues. The dynamic web application provides access for registered users to the digitised archive. Playing and exploring of selected parts is possible in the web browser.

Softwarový nástroj zprostředkující formou webového rozhraní editaci a vyhledávání v přepisech audio-visuálních nahrávek dialogů. Vyhledané úseky textu je možné přehrávat a analyzovat pomocí webového prohlížeče.


Searching in the Prague Dependency Treebank

Vyhledávání v Pražském závislostním korpusu

In the book, we study the annotation of the Prague Dependency Treebank 2.0 and assemble a list of requirements on a query language that would allow searching for and studying all linguistic phenomena annotated in the treebank. We propose an extension to the query language of the existing search tool Netgraph 1.0 and show that the extended query language satisfies the list of requirements. We also show how all principal linguistic phenomena annotated in the treebank can be searched for with the query language. The proposed query language has also been implemented – we present the search tool as well and talk about the data format for the tool. The query language is compared to several other query languages. We also show to what extent the features of the query language are put to use by the users and what the users really do search for. Much additional information can be found in Appendixes.

V knize studujeme anotaci Pražského závislostního korpusu 2.0 a vytváříme seznam požadavků kladených na dotazovací jazyk, který by umožnil vyhledávání a studium všech lingvistických jevů anotovaných v tomto korpusu. Navrhujeme rozšíření dotazovacího jazyka existujícího nástroje Netgraph 1.0 a ukazujeme, že takto rozšířený dotazovací jazyk splňuje definovaný seznam požadavků. Ukazujeme rovněž, jak je pomocí tohoto jazyka možno vyhledávat všechny zásadní lingvistické jevy v korpusu anotované. Navržený dotazovací jazyk byl rovněž implementován – představujeme vyhledávací nástroj a pojednáváme o jeho datovém formátu. Dotazovací jazyk je porovnán s několika dalšími dotazovacími jazyky. Ukazujeme rovněž, do jaké míry jsou vlastnosti tohoto jazyka využívány skutečnými uživateli a co tito uživatelé vyhledávají. Řada dalších informací je k dispozici v přílohách.