Issues of Projectivity in the Prague Dependency Treebank

Problémy projektivity v Pražském závislostním korpusu

In the present paper we discuss some issues connected with the condition of projectivity in a dependency based
description of language (see Sgall, Hajičová, and Panevová (1986), Hajičová, Partee, and Sgall (1998)), with a
special regard to the annotation scheme of the Prague Dependency Treebank (PDT, see Hajič (1998)). After a short
Introduction (Section 1), the condition of projectivity is discussed in more detail in Section 2, presenting its formal
definition and formulating an algorithm for testing this condition on a subtree (Section 2.1); the introduction of
the condition of projectivity in a formal description of language is briefly substantiated in Section 2.2. and some
problematic cases are discussed in Section 2.3. In Section 3, a preliminary classification into three main groups
and several subgroups of Czech non-projective constructions on the analytical level is presented (Section 3.1),
with illustrations of each subgroup in Section 3.2. A discussion of (surface) non-projectivities viewed from the
perspectives of the underlying (tectogrammatical) structures is given in Section 4; the classification outlined in
Section 4.1 reflects the types of deviations from projectivity caused by topic-focus articulation (TFA). In Section
4.2 we examine the motivation and factors of non-projective constructions. The treatment of non-projective
constructions in the annotation scenario of PDT is presented in Section 5. In the Conclusion (Section 6) we summarize
the results and outline some directions for further research in this domain. The present contribution is an
enlarged and slightly modified version of the paper Veselá, Havelka, and Hajičová (2004).

V článku probíráme některé problémy spojené s podmínkou projektivity v závislostním popisu jazyka (viz Sgall, Hajičová a Panevová (1986), Hajičová, Partee a Sgall (1998)) se zvláštním zřetelem na anotační schéma Pražského závislostního korpusu (PDT, viz Hajič (1998)).

Eva Hajičová
Jiří Havelka
Petr Sgall
Kateřina Veselá
Daniel Zeman


Finite State Morphology (Konečněstavová morfologie)

Finite State Morphology. CSLI Publications, Stanford, California, 2003 (CSLI Studies in Computational Linguistics, xviii+510 pp and CD-ROM, ISBN 1-57586-434-7)

Finite State Morphology. Vydal CSLI Publications, Stanford, Kalifornie, 2003 (CSLI Studies in Computational Linguistics, xviii+510 pp a CD-ROM, ISBN 1-57586-434-7)


Data-Oriented Parsing by Rens Bod, Remko Scha, and Khalil Sima'an

Data-Oriented Parsing od Rense Boda, Remka Schy a Khalila Sima'ana

Data-oriented parsing is a name for a novel statistical approach to syntactic parsing that learns occurrences of subtrees.

Datově-orientovaná syntaktická analýza je název pro originální statistický přístup k syntaktické analýze, který se učí výskyty jednotlivých podstromů.


Non-projectivity in the Prague Dependency Treebank

Neprojektivity v Pražském závislostním korpusu (PDT)

The goal of this technical report is to describe non-projective constructions in the Prague Dependency Treebank.

Cílem této technické zprávy je popsat neprojektivní konstrukce v Pražském závislostním korpusu.


Parsing with a Statistical Dependency Model

Syntaktická analýza s pomocí statistického modelu závislostí

This thesis presents a statistical parser of Czech. We analyze step by step its evolution and the merit of its various parts. The parser is based on the original approach of dependency bigram modeling. Although there are other parsers that have been originally developed for English and their adaptations for Czech perform better than ours, we demonstrate that our parser makes different errors and thus it can help the better parsers to become even better.

Tato disertační práce popisuje statistický parser (syntaktický analyzátor) češtiny. Krok za krokem v ní analyzujeme vývoj parseru a přínos jednotlivých jeho částí. Parser je postaven na metodě přímého statistického modelování závislostí mezi slovy, která je originální i při srovnání se zahraničními pracemi. Přestože se nepodařilo tímto způsobem získat nejúčinnější možný nástroj pro syntaktickou analýzu češtiny a existují české adaptace původně anglických parserů, které si vedou lépe, ukážeme, že díky odlišnému přístupu dělá náš parser chyby jiného druhu a lze tedy jeho kombinací s lepšími parsery dosáhnout výsledku, kterého žádný z nich není sám o sobě schopen.


The Annotation Corpora of Text (ACT) Tool

Nástroj ACT (Annotation Corpora of Text, Anotační textové korpusy)

The article presents a description of a computer application, developed by a team of authors at the Charles University in Prague, meant to support a multiaspect processing of examples of the cultural heritage in the intelligent environment of the information technologies. Provided is a possibility for the application to be used when describing and analyzing medieval manuscripts, experimented in the project of the Faculty of Mathematics and Physics Annotation corpora of Text (ACT, see http://prometheus.ms.mff.cuni.cz/act). The system is a linguistically-independent product for lexical and corpora processing of written texts. It has been created with the purpose to process large corpora with linguistic annotation, which mostly includes lexicographic and morphological analysis, and the syntactic and semantic information is marked on basic level. The system allows the users when working at different places, to compare the data between one another, and to keep the results regardless of the number of specialists working at the same time. A product which completely solves the problems of the linguistic analysis of medieval records with the help of computers is offered.

Článek popisuje počítačovou aplikaci vyvinutou týmem autorů na Univerzitě Karlově v Praze, jejímž cílem je podpořit víceaspektové zpracování příkladů kulturního dědictví v inteligentním prostředí informačních technologií.

Kiril Ribarov
Jiří Bubník
Jiří Čelák
Vojtěch Janota
Alexandr Kara
Václav Novák
Tomáš Vondra


Dependency analysis by reduction of Free Word-Order Languages

Závislostní redukční analýza přirozených jazyků

The syntactic structure of English sentences or sentences of other fixed word-order language is commonly described by phrase structure grammars. The description of syntactic structure of Latin, Italian, German, Arabic, Slavic languages and some other languages is more often based on approaches generally called dependency approaches. Both approaches are based
on stepwise simplification of individual sentences, on the so-called analysis by reduction (AR). The basic principles of the phrase-structure and dependency based analysis by reduction are substantially different. The phrase-structure based analysis (of fixed word-order languages) can be naturally modeled by the
bottom-up analysis using phrase structure (Chomskian) grammars. However, this type of grammars cannot model naturally the dependency analysis by reduction (of free word-order languages). In this paper we explain the basic principles of dependency analysis by reduction
(DAR) and its correspondence to notions used in the traditional dependency oriented linguistics.

V tomto článku vyložíme podstatu  závislostní redukční analýzy
(DAR, dependency analysis by reduction) a její souvislost s pojmy
závislost a závislostní strom. Výklad budeme ilustrovat příklady z
češtiny, což je jazyk s (výrazně) volným slovosledem.
Tento výklad shrnuje základní rysy vývojových postupů závislostní syntaxe.
 Bude využit jako podklad pro ověřování (a vysvětlování) adekvátnosti
 formálních a počítačových modelů těchto postupů.

Markéta Lopatková
Martin Plátek
Vladislav Kuboň


Mats Wahlberg (ed.): Svenskt ortnamnslexikon (Swedish place-name dictionary)

Mats Wahlberg (ed.): Svenskt ortnamnslexikon (Švédský slovník místních jmen)

This review focuses the dictionary of Swedish location names edited by Mats Wahlberg.

Tato recenze se zabývá slovníkem švédských pomístních jmen editovaný Matsem Wahlbergem.


Word order and text understanding: predicate in Czech in the period of humanism

Slovosled a porozumění textu: predikát v humanistické češtině

Analysis of general functions of predicate and their implementation in Czech in the period of humanism

Analýza obecných funkcí predikátu a jejich uplatnění v humanistické češtině


PDT-VALLEX: Creating a Large-coverage Valency Lexicon for Treebank Annotation

PDT-Vallex: Valenční slovník pro anotaci korpusu

The paper describes the PDT-Vallex valency dictionary, which is linked to real texts in the  Prague Dependency Treebank The concept of valency is based on the FGD.

Článek popisuje valenční slovník PDT-Vallex, který je  propojený s reálnými texty v Pražském závislostním korpusu. Pojetí valence vychází z FGP jazyka.

Jan Hajič
Jarmila Panevová
Zdeňka Urešová
Alevtina Bémová
Veronika Kolářová
Petr Pajas


Linguistic hindsight of the twentieth century

Lingvistické ohlédnutí za dvacátým stoletím

No abstract of this paper is available because the authors have not provided any.

Abstrakt tohoto článku není k dispozici, protože autoři žádný nedodali.


Testing the consistency and completeness of a valency lexicon of Czech verbs

Testování konzistence a úplnosti valenčního slovníku českých sloves

There are number of requirements put on vaůency dictionaries. We focus on testing the consistency and completeness of a valency lexicon of Czech verbs VALLEX.

Na moderní valenční slovník klademe řadu požadavků. Kromě strojové čitelnosti a dostatečné explicitnosti použitého popisu jde zejména
o kvalitu dat ve slovníku obsaľených. V článku přibližujeme nástroje navržené pro testování konzistence a úplnosti slovníku VALLEX. Rozebíráme metody využívané pro zvýšení jeho kvality od odstraňování technických chyb přes porovnání s existujícími lexikografickými zdroji po testování vnitřní konzistence
budovaného slovníku.


Annotation of Coreference in the Prague Dependency Treebank

Anotování koreference v Pražském závislostním korpusu

Short English abstract must be provided for all publications regardless their original language. Minimum is 64 characters, there is no upper bound but long abstracts will be truncated when reporting the publication.

Short Czech abstract must be provided for all publications regardless their original language. Minimum is 64 characters, there is no upper bound but long abstracts will be truncated when reporting the publication.

Lucie Kučová
Veronika Kolářová
Zdeněk Žabokrtský
Petr Pajas
Oliver Čulo


K tomuto článku není abstrakt k dispozici, protože autoři žádný nedodali.

Eva Hajičová
Petr Sgall
J. Hronek
František Čermák
Karel Kučera
Věra Schmiedtová
Neil Bermel
Henry Kucera
Jaroslav Suk
Laura Janda
Charles E. Townsend


Can Subcategorization Help a Statistical Dependency Parser?

Může valence pomoci statistickému závislostnímu parseru?

Today there is a relatively large body of work on automatic acquisition of lexico-syntactical preferences (subcategorization) from corpora. Various techniques have been developed that not only produce machine-readable subcategorization dictionaries but also they are capable of weighing the various subcategorization frames probabilistically. Clearly there should be a potential to use such weighted lexical information to improve statistical parsing, though published experiments proving (or disproving) such hypothesis are comparatively rare. One experiment is described in (Carroll et al., 1998) — they use subcategorization probabilities for ranking trees generated by unification-based phrasal grammar. The present paper, on the other hand, involves a statistical dependency parser. Although dependency and constituency parsing are of quite a different nature, we show that a subcategorization model is of much use here as well.

V současné době existuje poměrně velká základna publikací o automatickém získávání lexikálně-syntaktických preferencí (valence) z korpusů.


Detris is a template with a macro that helps you to create uniformly looking dependency trees for your documents in Word. The trees are represented as vector graphics which means that on changing their size, screen or printer resolution the deterioration will be minimal. Input is a tree description in the CSTS format, used in Prague Dependency Treebank (PDT) version 1. You can directly copy the corresponding part of the CSTS file to your document. If you are creating an artificial example that cannot be copied from anywhere, you can use a simplified subset of CSTS.

Detris je šablona obsahující makro, s jehož pomocí můžete vytvářet jednotně vypadající závislostní stromečky do svých článků ve Wordu. Stromečky jsou reprezentované jako vektorová grafika, což znamená, že při změně jejich velikosti, popř. grafického rozlišení obrazovky nebo tiskárny bude minimalizován negativní dopad na vzhled stromu („schodovité čáry“ apod.) Vstupem makra je popis stromečku ve formátu CSTS, který je použit i v Pražském závislostním korpusu (PDT) verze 1. Stačí tedy do vašeho dokumentu okopírovat příslušnou část CSTS souboru, kde je popsána vaše věta. Pokud vytváříte umělý příklad, který není odkud zkopírovat, můžete použít značně zjednodušenou podmnožinu CSTS.


How to Decrease the Performance of a Statistical Parser

Jak snížit úspěšnost statistického syntaktického analyzátoru

This paper is a study of outside factors that may have a negative impact on parsers’ accuracy. The discussed phenomena can be divided into two classes, those related to treebank design, and those related to morphological tagging. Although the scope of the paper is limited to the Prague Dependency Treebank, two particular taggers and one particular parser, we believe that our observations may be of interest to future treebank designers.

Anyway, since training parsers is usually not the only purpose of building treebanks, other good reasons may prevail and push aside the parser’s preferences. For that case, we suggest how the parser may work around the nasty input. More fine-grained elaboration of these workarounds and their evaluation is a matter of future work.

Článek je studií vnějších faktorů, které mohou mít negativní vliv na úspěšnost parserů.


On the nature of the discource of advertisements

No abstract is available for this paper because the authors have not provided any.

K tomuto článku není k dispozici abstrakt, protože ho autoři nedodali.


Representing Linguistic Hedges by L-Fuzzy Modifiers

Reprezentace lingvistických omezení pomocí L-fuzzy modifikátorů

L-fuzzy modifiers based on L-fuzzy relations prove to be
powerful tools for the representation of linguistic hedges.
They provide a general framework that is far more applicable
than the traditional approaches, and even in the
cases where traditional fuzzy hedges can be used, they
are still clearly outperformed by the fuzzy relation based
modifiers on the semantic level.

De Cock M., Žabokrtský Z. and Kerre E. E. (2001): Representing
linguistic hedges by L-fuzzy modifiers. — Proc.
CIMCA’01 (Int. Conf. Computational Intelligence for
Modelling Control and Automation), Las Vegas (USA),
pp. 64–72 (CD-ROM).

Zdeněk Žabokrtský
Martine De Cock
Etienne E. Kerre


How Much Will a RE-based Preprocessor Help a Statistical Parser?

Jak moc pomůže statistickému parseru preprocesor založený na regulárních výrazech?

The present paper describes experiments on combining a statistical parser with a preprocessor built of regular expressions. While the syntactic structure of a sentence may be very complex and will never be fully covered by such simple machine, there are phenomena such as noun phrases and simple coordinations that do quite well. Even these “chunks” may theoretically be unlimitedly complex but we show that in reality they rarely do. So a shallow parser based on regular expressions can be built to preprocess the input text and solve the simple chunks without introducing too many errors. We discuss one implementation of such preprocessor that is very easy to write and covers roughly 20% of input words with an accuracy of over 90%. Then we describe two ways of combining the preprocessor with a parser and show that the performance of the parser improves both in speed and accuracy.

Článek popisuje pokusy s kombinováním statistického parseru a preprocesoru založeného na regulárních výrazech.


Parsing with Regular Expressions: A Minute to Learn, a Lifetime to Master

Syntaktická analýza s regulárními výrazy: naučíte se za minutu, vylepšujete celý život

This paper reports on a work in progress, which tries to combine statistical modeling and manually written regular rules for parsing Czech. While the syntactic structure of a sentence may be very complex and will never be fully covered by a finite-state machine, there are phenomena such as noun phrases and simple coordinations that do quite well. Even these “chunks” may theoretically be unlimitedly complex but I show that in real world they rarely do. So a shallow finite-state parser can be built to preprocess the input text and solve the simple chunks without introducing too many errors. With a minimum of programming effort, such preprocessor currently covers almost 20% of input words with an accuracy of more than 90%. Further increasing of the coverage without loss of accuracy would require much more effort, so the rest is left for the statistical parser.

Článek podává zprávu o probíhajícím projektu, který se snaží kombinovat statistické modelování s ručně psanými regulárními výrazy pro syntaktickou analýzu češtiny.


Computational Linguistics in Relation to Computer Science

Počítačová lingvistika ve vztahu k informatice

The development of computer technology and computational processing of language data are related to each other.

Vývoj počítačových technologií a počítačového zpracování jazykových dat spolu
s převratnými změnami v obou složkách jsou spolu zcela neodmyslitelně spjaty. Jejich
vzájemnou souvislost i podmíněnost nových možností automatického zpracování přirozeného
jazyka v kontextu nových informačních technologií se tu pokusíme ukázat
z hlediska dneška

Jarmila Panevová
Barbora Vidová Hladká
Kiril Ribarov
Vladislav Kuboň
Daniel Zeman
Martin Čmejrek
Jan Cuřín
Nino Peterek


Learning Verb Subcategorization from Corpora: Counting Frame Subsets

Učení slovesných rámců z korpusů: počítání podmnožin rámců

We present some novel machine learning techniques for the identification of subcategorization information for verbs in Czech. We compare three different statistical techniques applied to this problem. We show how the learning algorithm can be used to discover previously unknown subcategorization frames from the Czech Prague Dependency Treebank. The algorithm can then be used to label dependents of a verb in the Czech treebank as either arguments or adjuncts. Using our techniques, we are able to achieve 88 % accuracy on unseen parsed text.

Představujeme nové metody strojového učení pro identifikaci slovesných rámců v češtině.


Stochastically-Based Semantic Analysis, Kluwer, 1999

A review of the book Stochastically-Based Semantic Analysis, published by the Kluwer publishing house in 1999

Recenze na knihu Stochastically-Based Semantic Analysis, vydanou nakladatelstvím Kluwer v roce 1999


Automatic Extraction of Subcategorization Frames for Czech

Automatická extrakce valenčních rámců pro češtinu

We present some novel machine learning techniques
for the identification of subcategorization information
for verbs in Czech. We compare three different
statistical techniques applied to this problem. We
show how the learning algorithm can be used to discover
previously unknown subcategorization frames
from the Czech Prague Dependency Treebank. The
algorithm can then be used to label dependents of
a verb in the Czech treebank as either arguments
or adjuncts. Using our techniques, we are able to
achieve 88% precision on unseen parsed text.

Představujeme nové metody strojového učení pro identifikaci slovesných valenčních rámců v češtině.


Core Natural Language Processing Technology Applicable to Multiple Languages

Základní technologie zpracování přirozených jazyků aplikovatelná na více jazyků

Parsing natural languages is a task approached by many people in the past and present and undoubtedly also in the future. It is widely believed that if one can obtain automatically a good parse for a given input sentence (i.e. functions of the words and relations between them), then all the "language understanding" tasks can profit from it.

English has been studied most for this purpose and many good results have been obtained, especially using statistically-based techniques coupled with automatic learning from large annotated corpora. However, these techniques have not been applied to other languages than English very much, especially to languages which display substantially different behavior (both morphologically and syntactically) than English (such as Slavic languages, spoken mostly in Europe by approx. 350 million people).

Syntaktická analýza přirozených jazyků je úloha, kterou se pokoušela řešit řada lidí v minulosti, v současnosti a nepochybně také v budoucnosti. Všeobecně se předpokládá, že pokud dokážeme automaticky získat dobrý rozbor dané vstupní věty (např. funkce slov a vztahy mezi nimi), budou z něj mít užitek všechny úlohy související s "porozuměním jazyku".

Jan Hajič
Eric Brill
Michael Collins
Barbora Hladká
Douglas Jones
Cynthia Kuo
Lance Ramshaw
Oren Schwartz
Christoph Tillmann
Daniel Zeman


Core Natural Language Technology Applicable to Multiple Languages, Workshop ´98 Final Report

Základní technologie zpracování přirozených jazyků aplikovatelná na více jazyků, závěrečná zpráva z Workshopu ´98

Parsing natural languages is a task approached by many people in the past and present and undoubtedly also in the future. It is widely believed that if one can obtain automatically a good parse for a given input sentence (i.e. functions of the words and relations between them), then all the "language understanding" tasks can profit from it.
English has been studied most for this purpose and many good results have been obtained, especially using statistically-based techniques coupled with automatic learning from large annotated corpora. However, these techniques have not been applied to other languages than English very much, especially to languages which display substantially different behavior (both morphologically and syntactically) than English (such as Slavic languages, spoken mostly in Europe by approx. 350 million people).


A Statistical Approach to Parsing of Czech

Statistický přístup k syntaktické analýze češtiny

The present paper is based on my master thesis that was defended at Charles University in May 1997. I introduce here a simple probabilistic model of Czech syntax, based on training data extracted from a text corpus. Then I try to employ this model in building syntactic trees of Czech sentences. In this paper, a brief description of the model is given, as well as a summary of the test results. The work is one of the first attempts to use statistical learning methods for parsing of Czech. It is to be said here that the procedures used to parse English cannot be easily ported to Czech because some specific characteristics of Czech (free word order, and rich flexion implying a huge number of word forms) cause a different behaviour of a parser. The work presented is neither final, nor satisfying solution of the problem. It rather demonstrates the primary results and proposes some basic ideas of further research.

Článek je založen na mé diplomové práci, která byla obhájena na Univerzitě Karlově v květnu 1997.


Probabilistic Model of Sentence Structure

Pravděpodobnostní model významových zápisů vět

Create a mathematical model of sentence meaning. Create a program (C/C++) to estimate probability of a given structure based on the model; to generate structures based on additional information; to compute entropy, cross entropy and perplexity.

Vypracovat matematický model významových zápisů vět
    Vypracovat program (C/C++) pro
        zjištění pravděpodobnosti daného zápisu na základě modelu
        generování zápisů na základě vedlejší informace
        zjištění hodnot entropie, křížové entropie a perplexity