Extracting Verbal Multiword Data from Rich Treebank Annotation

Extrakce slovesných víceslovných výrazů z bohatě anotovaného syntaktického korpusu

The PARSEME Shared Task on automatic identification of verbal multiword expressions  aims  at  identifying  such  expressions  in  running  texts.   Typology of verbal multiword expressions, very detailed annotation guidelines and gold-standard data for as many languages as possible will be provided. Since the Prague Dependency Treebank includes Czech multiword expression annotation, it was natural to make an attempt to automatically convert the data into the Shared Task format. However, since the Czech treebank predates the Shared Task annotation guidelines, a prior examination was necessary to determine to which extent the conversion can be fully automatic and how much manual work remains.

In this paper, we show that information contained in the Prague Dependency Treebank is sufficient to extract all of the Shared Task categories of verbal multiword expressions relevant for Czech, even if these categories are originally annotated differently; nevertheless, some manual checking and annotation would still be necessary, e.g. for distinguishing borderline cases.

Soutěž PARSEME Shared Task v identifikaci slovesných víceslovných výrazů požaduje po účastnících vyhledávání výrazů v běžném textu.

V tomto článku ukazujeme, jak je možné česká trénovací data získat nikoli manuální anotací, nýbrž převodem informací z předchozích anotací uložených v Pražském závislostním korpusu na různých úrovních a různým způsobem. Prvním krokem je porovnání anotačních instrukcí a srovnání typologie.

Eduard Bejček
Jan Hajič
Pavel Straňák
Zdeňka Urešová


The Relation of Form and Function in Linguistic Theory and in a Multi-layer Treebank

Vztah formy a funkce v lingvistické teorii a ve vícevrstvém treebanku

The aim of our contribution is to introduce a database of linguistic forms and their functions built with the use of the multi-layer annotated corpora of Czech, the Prague Dependency Treebanks. The purpose of the Prague Database of Forms and Functions (ForFun) is to help the linguists to study the form-function relation, which we assume to be one of the principal tasks of both theoretical linguistics and natural language processing. We will also demonstrate possibilities of the exploitation of the ForFun database.

Příspěvek představuje databázi lingvistických forem a funkcí postavenou nad Pražským závislostním korpusem. Účelem databáze ForFun je usnadnit lingivstům studium vztahu formy a funkce. Ukážeme možnosti využití databáze.

Eduard Bejček
Eva Hajičová
Marie Mikulová
Jarmila Panevová


Modelling word-formation relations in the lexicon of Czech

Modelování slovotvorných vztahů ve slovní zásobě češtiny

The talk summarizes recent steps in development of the derivational network DeriNet. The following topics are taken under scrutiny: vowel and consonant alternations that occur during derivation, the role of the inflectional category of aspect in derivation, and the verb-to-verb derivation.

V příspěvku informuji o pokrocích ve vývoji lexikální databáze DeriNet a rozebírám tři témata, kterým je v rámci projektu aktuálně věnována významná pozornost. Databáze DeriNet je jako jazykový zdroj specializovaný na derivační morfologii češtiny budována v Ústavu formální a aplikované lingvistiky MFF UK, mezi více než 1 milionem lexémů se zatím podařilo identifikovat 774 tisíc derivačních vztahů. Prvním z témat probíraných v příspěvku jsou hláskové alternace, které jsou pro poloautomatické metody identifikace derivačních vztahů zásadním problémem. Dále se zaměřím na kategorii slovesného vidu, tato flektivní kategorie českého slovesa je vyjadřována slovotvornými prostředky. Kategorie vidu byla spolu s dalšími rysy použita jako jedno z kritérií při uspořádávání příbuzných sloves do derivačního stromu. V závěru příspěvku - jako téma třetí - bude zachycování sloves odvozených od sloves představeno komplexně. Všechna tři témata jsou vzájemně provázána, ve všech jsou úzce propojeny aspekty teoretické a komputační lingvistiky.


The suffixes -ismus and -ita in nouns in Czech: borrowing or derivation?

Přípony -ismus a -ita v českých substantivech: přejímání slov nebo derivace?

In the paper, the boundary between borrowing and word formation (particularly, derivation) is studied on the example of the suffixes -ismus and -ita, which occur in nouns in Czech. Formal (both inflectional and derivational) and semantic features of nouns with the suffixes -ismus and -ita are introduced.

V příspěvku se zabýváme hranicí mezi přejímáním slov a slovotvorbou (zvláště derivací) na příkladu substantiv s příponou -ismus a -ita. Z hlediska české slovní zásoby jsou zkoumány formální (flektivní i derivační) vlastnosti a význam těchto slov.


Inflectional and derivational paradigm of verbs in Czech: the role of the category of aspect

Flektivní a derivační paradigma českého slovesa: role kategorie vidu

The paper deals with verbal paradigms with respect to inflectional and derivational morphology of Czech, and its aim is to contribute to the discussion on the absence of clear boundaries between inflection and derivation. The aspect is an inflectional category of Czech verbs which is formally expressed by derivation.

Příspěvek se věnuje paradigmatu českého slovesa z hlediska flektivní a derivační morfologie, poukazuje na vzájemnou propojenost obou oblastí. Kategorie vidu je popisována jako flektivní kategorie slovesa, která je formálně vyjadřována derivačními prostředky.

Magda Ševčíková
Jarmila Panevová
Patrice Pognan


Identification of aspectual pairs of verbs derived by suffixation in the lexical database DeriNet

Identifikace vidových protějšků odvozených sufixem v lexikální databázi DeriNet

The present paper describes a semi-automatic method of adding derivational links to the lexical database DeriNet by identifying verbs which are derived by suffixation and constitute aspectual pairs. It briefly introduces the notion of aspect in Czech and discusses the account of aspect in the Czech linguistic literature and in existing data resources. As its main focus, it presents an approach to identifying aspectual pairs based on extraction of such pairs from the VALLEX valency dictionary, identification of suffix substitution rules and subsequent manual annotation, which resulted in the addition of almost 6,000 derivational links into the DeriNet database.

Příspěvek představuje poloautomatickou proceduru, jejímž cílem bylo v derivační databázi DeriNet identifikovat vidové dvojice sloves lišící se příponami. Na základě dat z valenčního slovníku Vallex jsme sestavili seznam párů sufixů, kterými se vidové protějšky liší, a tento seznam využili k vyhledání dalších dvojic v rozsáhlých datech sítě DeriNet. Nalezené dvojice byly potvrzeny ruční anotací.

Magda Ševčíková
Adéla Kalužová
Zdeněk Žabokrtský


Multilingual research on syntax and parsing has for a long time been hampered by
the fact that annotation schemes vary enormously across languages, which has made
it virtually impossible to perform sound comparative evaluations and
cross-lingual learning experiments. The Universal Dependencies (UD) project
(www.universaldependencies.org) seeks to tackle this problem by developing
cross-linguistically consistent treebank annotation for many languages, aiming to
capture similarities as well as idiosyncracies among typologically different
languages (e.g., morphologically rich languages, pro-drop languages, and
languages featuring clitic doubling). The goal is not only to support comparative
evaluation and cross-lingual learning but also to facilitate multilingual natural
language processing and enable comparative linguistic studies. To serve all these
purposes, the framework needs to have a solid linguistic foundation and at the
same time be transparent and accessible to non-specialists.

Vícejazyčný výzkum syntaxe a syntaktické analýzy byl dlouhou dobu brzděn tím, že anotační styly používané v různých jazycích se výrazně lišily a bylo téměř nemožné provést metodologicky čisté srovnání a vyhodnocení vícejazyčných experimentů se strojovým učením.

Joakim Nivre
Daniel Zeman
Filip Ginter
Francis Tyers


Universal Dependencies is a project that seeks to develop cross-linguistically consistent treebank annotation for many languages, with the goal of facilitating multilingual parser development, cross-lingual learning, and parsing research from a language typology perspective. The annotation scheme is based on (universal) Stanford dependencies (de Marneffe et al., 2006, 2008, 2014), Google universal part-of-speech tags (Petrov et al., 2012), and the Interset interlingua for morphosyntactic tagsets (Zeman, 2008). This is the sixth release of UD Treebanks, Version 2.0.

Universal Dependencies je projekt, který vyvíjí mezijazykově konzistentní morfologicko-syntaktickou anotaci mnoha jazyků s cílem usnadnit vývoj jazykově nezávislých parserů, mezijazykové strojové učení a výzkum parsingu z perspektivy jazykové typologie. Anotační schéma je založeno na univerzálních Stanfordských závislostech (de Marneffe et al., 2006, 2008, 2014), univerzálních značkách Google (Petrov et al., 2012) a na Intersetu, tj. interlingvě pro sady morfologických značek (Zeman, 2008). Toto je šesté vydání treebanků UD, verze 2.0.

Joakim Nivre
Željko Agić
Lars Ahrenberg
Maria Jesus Aranzabe
Masayuki Asahara
Aitziber Atutxa
Miguel Ballesteros
John Bauer
Kepa Bengoetxea
Riyaz Ahmad Bhat
Eckhard Bick
Cristina Bosco
Gosse Bouma
Sam Bowman
Marie Candito
Gülşen Cebiroğlu Eryiğit
Giuseppe G. A. Celano
Fabricio Chalub
Jinho Choi
Çağrı Çöltekin
Miriam Connor
Elizabeth Davidson
Marie-Catherine de Marneffe
Valeria de Paiva
Arantza Diaz de Ilarraza
Kaja Dobrovoljc
Timothy Dozat
Kira Droganova
Puneet Dwivedi
Marhaba Eli
Tomaž Erjavec
Richárd Farkas
Jennifer Foster
Cláudia Freitas
Katarína Gajdošová
Daniel Galbraith
Marcos Garcia
Filip Ginter
Iakes Goenaga
Koldo Gojenola
Memduh Gökırmak
Yoav Goldberg
Xavier Gómez Guinovart
Berta González Saavedra
Matias Grioni
Normunds Grūzītis
Bruno Guillaume
Nizar Habash
Jan Hajič
Linh Hà Mỹ
Dag Haug
Barbora Hladká
Petter Hohle
Radu Ion
Elena Irimia
Anders Johannsen
Fredrik Jørgensen
Hüner Kaşıkara
Hiroshi Kanayama
Jenna Kanerva
Natalia Kotsyba
Simon Krek
Veronika Laippala
Phương Lê Hồng
Alessandro Lenci
Nikola Ljubešić
Olga Lyashevskaya
Teresa Lynn
Aibek Makazhanov
Christopher Manning
Cătălina Mărănduc
David Mareček
Héctor Martínez Alonso
André Martins
Jan Mašek
Yuji Matsumoto
Ryan McDonald
Anna Missilä
Verginica Barbu Mititelu
Yusuke Miyao
Simonetta Montemagni
Amir More
Shinsuke Mori
Bohdan Moskalevskyi
Kadri Muischnek
Nina Mustafina
Kaili Müürisep
Lương Nguyễn Thị
Huyền Nguyễn Thị Minh
Vitaly Nikolaev
Hanna Nurmi
Stina Ojala
Petya Osenova
Lilja Øvrelid
Elena Pascual
Marco Passarotti
Cenel-Augusto Perez
Guy Perrier
Slav Petrov
Jussi Piitulainen
Barbara Plank
Martin Popel
Lauma Pretkalniņa
Prokopis Prokopidis
Tiina Puolakainen
Sampo Pyysalo
Alexandre Rademaker
Loganathan Ramasamy
Livy Real
Laura Rituma
Rudolf Rosa
Shadi Saleh
Manuela Sanguinetti
Baiba Saulīte
Sebastian Schuster
Djamé Seddah
Wolfgang Seeker
Mojgan Seraji
Lena Shakurova
Mo Shen
Dmitri Sitchinava
Natalia Silveira
Maria Simi
Radu Simionescu
Katalin Simkó
Mária Šimková
Kiril Simov
Aaron Smith
Alane Suhr
Umut Sulubacak
Zsolt Szántó
Dima Taji
Takaaki Tanaka
Reut Tsarfaty
Francis Tyers
Sumire Uematsu
Larraitz Uria
Gertjan van Noord
Viktor Varga
Veronika Vincze
Jonathan North Washington
Zdeněk Žabokrtský
Amir Zeldes
Daniel Zeman
Hanzhi Zhu


Universal Dependencies 2.0 – CoNLL 2017 Shared Task Development and Test Data

Universal Dependencies 2.0 – vývojová a testovací data pro soutěž CoNLL 2017

Universal Dependencies is a project that seeks to develop cross-linguistically consistent treebank annotation for many languages, with the goal of facilitating multilingual parser development, cross-lingual learning, and parsing research from a language typology perspective. The annotation scheme is based on (universal) Stanford dependencies (de Marneffe et al., 2006, 2008, 2014), Google universal part-of-speech tags (Petrov et al., 2012), and the Interset interlingua for morphosyntactic tagsets (Zeman, 2008). This is the extension of the sixth release of UD Treebanks, Version 2.0, by test data.

Universal Dependencies je projekt, který vyvíjí mezijazykově konzistentní morfologicko-syntaktickou anotaci mnoha jazyků s cílem usnadnit vývoj jazykově nezávislých parserů, mezijazykové strojové učení a výzkum parsingu z perspektivy jazykové typologie. Anotační schéma je založeno na univerzálních Stanfordských závislostech (de Marneffe et al., 2006, 2008, 2014), univerzálních značkách Google (Petrov et al., 2012) a na Intersetu, tj. interlingvě pro sady morfologických značek (Zeman, 2008). Toto je doplnění šestého vydání treebanků UD, verze 2.0, o testovací data.

Joakim Nivre
Željko Agić
Lars Ahrenberg
Lene Antonsen
Maria Jesus Aranzabe
Masayuki Asahara
Luma Ateyah
Mohammed Attia
Aitziber Atutxa
Elena Badmaeva
Miguel Ballesteros
Esha Banerjee
Sebastian Bank
John Bauer
Kepa Bengoetxea
Riyaz Ahmad Bhat
Eckhard Bick
Cristina Bosco
Gosse Bouma
Sam Bowman
Aljoscha Burchardt
Marie Candito
Gauthier Caron
Gülşen Cebiroğlu Eryiğit
Giuseppe G. A. Celano
Savas Cetin
Fabricio Chalub
Jinho Choi
Yongseok Cho
Silvie Cinková
Çağrı Çöltekin
Miriam Connor
Marie-Catherine de Marneffe
Valeria de Paiva
Arantza Diaz de Ilarraza
Kaja Dobrovoljc
Timothy Dozat
Kira Droganova
Marhaba Eli
Ali Elkahky
Tomaž Erjavec
Richárd Farkas
Hector Fernandez Alcalde
Jennifer Foster
Cláudia Freitas
Katarína Gajdošová
Daniel Galbraith
Marcos Garcia
Filip Ginter
Iakes Goenaga
Koldo Gojenola
Memduh Gökırmak
Yoav Goldberg
Xavier Gómez Guinovart
Berta González Saavedra
Matias Grioni
Normunds Grūzītis
Bruno Guillaume
Nizar Habash
Jan Hajič
Jan Hajič, jr.
Linh Hà Mỹ
Kim Harris
Dag Haug
Barbora Hladká
Jaroslava Hlaváčová
Petter Hohle
Radu Ion
Elena Irimia
Anders Johannsen
Fredrik Jørgensen
Hüner Kaşıkara
Hiroshi Kanayama
Jenna Kanerva
Tolga Kayadelen
Václava Kettnerová
Jesse Kirchner
Natalia Kotsyba
Simon Krek
Sookyoung Kwak
Veronika Laippala
Lorenzo Lambertino
Tatiana Lando
Phương Lê Hồng
Alessandro Lenci
Saran Lertpradit
Herman Leung
Cheuk Ying Li
Josie Li
Nikola Ljubešić
Olga Loginova
Olga Lyashevskaya
Teresa Lynn
Vivien Macketanz
Aibek Makazhanov
Michael Mandl
Christopher Manning
Ruli Manurung
Cătălina Mărănduc
David Mareček
Katrin Marheinecke
Héctor Martínez Alonso
André Martins
Jan Mašek
Yuji Matsumoto
Ryan McDonald
Gustavo Mendonça
Anna Missilä
Verginica Barbu Mititelu
Yusuke Miyao
Simonetta Montemagni
Amir More
Laura Moreno Romero
Shinsuke Mori
Bohdan Moskalevskyi
Kadri Muischnek
Nina Mustafina
Kaili Müürisep
Pinkey Nainwani
Anna Nedoluzhko
Lương Nguyễn Thị
Huyền Nguyễn Thị Minh
Vitaly Nikolaev
Rattima Nitisaroj
Hanna Nurmi
Stina Ojala
Petya Osenova
Lilja Øvrelid
Elena Pascual
Marco Passarotti
Cenel-Augusto Perez
Guy Perrier
Slav Petrov
Jussi Piitulainen
Emily Pitler
Barbara Plank
Martin Popel
Lauma Pretkalniņa
Prokopis Prokopidis
Tiina Puolakainen
Sampo Pyysalo
Alexandre Rademaker
Livy Real
Siva Reddy
Georg Rehm
Larissa Rinaldi
Laura Rituma
Rudolf Rosa
Davide Rovati
Shadi Saleh
Manuela Sanguinetti
Baiba Saulīte
Yanin Sawanakunanon
Sebastian Schuster
Djamé Seddah
Wolfgang Seeker
Mojgan Seraji
Lena Shakurova
Mo Shen
Atsuko Shimada
Muh Shohibussirri
Natalia Silveira
Maria Simi
Radu Simionescu
Katalin Simkó
Mária Šimková
Kiril Simov
Aaron Smith
Antonio Stella
Jana Strnadová
Alane Suhr
Umut Sulubacak
Zsolt Szántó
Dima Taji
Takaaki Tanaka
Trond Trosterud
Anna Trukhina
Reut Tsarfaty
Francis Tyers
Sumire Uematsu
Zdeňka Urešová
Larraitz Uria
Hans Uszkoreit
Gertjan van Noord
Viktor Varga
Veronika Vincze
Jonathan North Washington
Zhuoran Yu
Zdeněk Žabokrtský
Daniel Zeman
Hanzhi Zhu


Universal Dependencies is a project that seeks to develop cross-linguistically consistent treebank annotation for many languages, with the goal of facilitating multilingual parser development, cross-lingual learning, and parsing research from a language typology perspective. The annotation scheme is based on (universal) Stanford dependencies (de Marneffe et al., 2006, 2008, 2014), Google universal part-of-speech tags (Petrov et al., 2012), and the Interset interlingua for morphosyntactic tagsets (Zeman, 2008). This is the seventh release of UD Treebanks, Version 2.1.

Universal Dependencies je projekt, který vyvíjí mezijazykově konzistentní morfologicko-syntaktickou anotaci mnoha jazyků s cílem usnadnit vývoj jazykově nezávislých parserů, mezijazykové strojové učení a výzkum parsingu z perspektivy jazykové typologie. Anotační schéma je založeno na univerzálních Stanfordských závislostech (de Marneffe et al., 2006, 2008, 2014), univerzálních značkách Google (Petrov et al., 2012) a na Intersetu, tj. interlingvě pro sady morfologických značek (Zeman, 2008). Toto je sedmé vydání treebanků UD, verze 2.1.

Joakim Nivre
Željko Agić
Lars Ahrenberg
Lene Antonsen
Maria Jesus Aranzabe
Masayuki Asahara
Luma Ateyah
Mohammed Attia
Aitziber Atutxa
Liesbeth Augustinus
Elena Badmaeva
Miguel Ballesteros
Esha Banerjee
Sebastian Bank
Verginica Barbu Mititelu
John Bauer
Kepa Bengoetxea
Riyaz Ahmad Bhat
Eckhard Bick
Victoria Bobicev
Carl Börstell
Cristina Bosco
Gosse Bouma
Sam Bowman
Aljoscha Burchardt
Marie Candito
Gauthier Caron
Gülşen Cebiroğlu Eryiğit
Giuseppe G. A. Celano
Savas Cetin
Fabricio Chalub
Jinho Choi
Silvie Cinková
Çağrı Çöltekin
Miriam Connor
Elizabeth Davidson
Marie-Catherine de Marneffe
Valeria de Paiva
Arantza Diaz de Ilarraza
Peter Dirix
Kaja Dobrovoljc
Timothy Dozat
Kira Droganova
Puneet Dwivedi
Marhaba Eli
Ali Elkahky
Tomaž Erjavec
Richárd Farkas
Hector Fernandez Alcalde
Jennifer Foster
Cláudia Freitas
Katarína Gajdošová
Daniel Galbraith
Marcos Garcia
Moa Gärdenfors
Kim Gerdes
Filip Ginter
Iakes Goenaga
Koldo Gojenola
Memduh Gökırmak
Yoav Goldberg
Xavier Gómez Guinovart
Berta González Saavedra
Matias Grioni
Normunds Grūzītis
Bruno Guillaume
Nizar Habash
Jan Hajič
Jan Hajič, jr.
Linh Hà Mỹ
Kim Harris
Dag Haug
Barbora Hladká
Jaroslava Hlaváčová
Florinel Hociung
Petter Hohle
Radu Ion
Elena Irimia
Tomáš Jelínek
Anders Johannsen
Fredrik Jørgensen
Hüner Kaşıkara
Hiroshi Kanayama
Jenna Kanerva
Tolga Kayadelen
Václava Kettnerová
Jesse Kirchner
Natalia Kotsyba
Simon Krek
Veronika Laippala
Lorenzo Lambertino
Tatiana Lando
John Lee
Phương Lê Hồng
Alessandro Lenci
Saran Lertpradit
Herman Leung
Cheuk Ying Li
Josie Li
Keying Li
Nikola Ljubešić
Olga Loginova
Olga Lyashevskaya
Teresa Lynn
Vivien Macketanz
Aibek Makazhanov
Michael Mandl
Christopher Manning
Cătălina Mărănduc
David Mareček
Katrin Marheinecke
Héctor Martínez Alonso
André Martins
Jan Mašek
Yuji Matsumoto
Ryan McDonald
Gustavo Mendonça
Niko Miekka
Anna Missilä
Cătălin Mititelu
Yusuke Miyao
Simonetta Montemagni
Amir More
Laura Moreno Romero
Shinsuke Mori
Bohdan Moskalevskyi
Kadri Muischnek
Kaili Müürisep
Pinkey Nainwani
Anna Nedoluzhko
Gunta Nešpore-Bērzkalne
Lương Nguyễn Thị
Huyền Nguyễn Thị Minh
Vitaly Nikolaev
Hanna Nurmi
Stina Ojala
Petya Osenova
Robert Östling
Lilja Øvrelid
Elena Pascual
Marco Passarotti
Cenel-Augusto Perez
Guy Perrier
Slav Petrov
Jussi Piitulainen
Emily Pitler
Barbara Plank
Martin Popel
Lauma Pretkalniņa
Prokopis Prokopidis
Tiina Puolakainen
Sampo Pyysalo
Alexandre Rademaker
Loganathan Ramasamy
Taraka Rama
Vinit Ravishankar
Livy Real
Siva Reddy
Georg Rehm
Larissa Rinaldi
Laura Rituma
Mykhailo Romanenko
Rudolf Rosa
Davide Rovati
Benoît Sagot
Shadi Saleh
Tanja Samardžić
Manuela Sanguinetti
Baiba Saulīte
Sebastian Schuster
Djamé Seddah
Wolfgang Seeker
Mojgan Seraji
Mo Shen
Atsuko Shimada
Dmitri Sitchinava
Natalia Silveira
Maria Simi
Radu Simionescu
Katalin Simkó
Mária Šimková
Kiril Simov
Aaron Smith
Antonio Stella
Milan Straka
Jana Strnadová
Alane Suhr
Umut Sulubacak
Zsolt Szántó
Dima Taji
Takaaki Tanaka
Trond Trosterud
Anna Trukhina
Reut Tsarfaty
Francis Tyers
Sumire Uematsu
Zdeňka Urešová
Larraitz Uria
Hans Uszkoreit
Sowmya Vajjala
Daniel van Niekerk
Gertjan van Noord
Viktor Varga
Eric Villemonte de la Clergerie
Veronika Vincze
Lars Wallin
Jonathan North Washington
Mats Wirén
Tak-sum Wong
Zhuoran Yu
Zdeněk Žabokrtský
Amir Zeldes
Daniel Zeman
Hanzhi Zhu


Language sytem and calculability of West Slavic languages (North and South branches): Approaches to complex comparison

Jazykový systém a vypočitatelnost západoslovanských jazyků (severní a jižní větev): přístupy pro komplexní srovnání

Système linguistique et calculabilité des langues slaves de l'Ouest (Nord et Sud): approches d'une complexité comparée

The article presents graphemic and morphological features of West Slavic languages. Based on these features, Czech and Polish word forms can be predicted.

Příspěvek předkládá grafematické a morfologické rysy západoslovanských jazyků. Na základě těchto rysů lze predikovat současné podoby slov v češtině a polštině.

Après avoir tenté de comprendre le paradigme de complexité et ce qu'il pourrait etre dans l'etude des strates graphotaxique et morphologique des langues slaves de l'Ouest, nous présentons la graphotaxe sur la base de l'ensemble de ces langues es la morphologie par comparaison entre tchèque et polonais.


Cross-lingual Transfer of Dependency Parsers

Mezijazyčný přenos závislostních parserů

Cross-lingual transfer of NLP tools is motivated by the fact that sufficient training data and high-performance supervised NLP tools are available only for maybe 1% of world's languages; the remaining 99% of languages are under-resourced and therefore difficult to process automatically. In cross-lingual transfer methods, we try to find effective ways of utilizing supervised training data for resource-rich languages and various automatic transfer methods to be able to process the under-resourced languages (think of e.g. translating the training data with an MT system).
In my talk, I will review my research on cross-lingual transfer of dependency parsers (and taggers to some extent), including both positive and negative results. My work on this problem has involved several subproblems, which I will also address in the talk, including: Universal Dependencies and other annotation harmonization, morphological segmentation and other subword units, Giza++ and other word alignment, Moses and other machine translation systems.

Přednáška o mém výzkumu v oblasti mezijazyčného přenosu závislostních parserů, zahrnuje strojový překlad, segmentaci na podslova, harmonizaci dat, a další.


This is something everyone uses, but it is not absolutely clear how it works. For a given query it is not possible to simply traverse all the existing billions of websites, and return the few millions that contain the sought words. I will show what a reverse index is, how results are sorted, and I will also add more advanced techniques (TF.IDF, vector model, lemmatization, synonyms, named entities).

To je něco, co používá každý, přitom není úplně zřejmé, jak to funguje. Pro daný dotaz nejde prostě pro každý dotaz projít všechny existující miliardy webových stránek, a vrátit uživateli několik miliónů z nich, které obsahují hledaná slova. Ukážu, co je reverzní index (to zná každý pod názvem rejstřík), podle čeho se řadí výsledky, a přidám i pokročilejší vylepšení (TF.IDF, vektorový model, lematizace, synonyma, pojmenované entity).


MonoTrans: Statistical Machine Translation from Monolingual Data

MonoTrans: Statistický strojový překlad z jednojazyčných dat

We present MonoTrans, a statistical machine translation system which only uses monolingual source language and target language data, without using any parallel corpora or language-specific rules. It translates each source word by the most similar target word, according to a combination of a string similarity measure and a word frequency similarity measure. It is designed for translation between very close languages, such as Czech and Slovak or Danish and Norwegian.
It provides a low-quality translation in resource-poor scenarios where parallel data, required for training a high-quality translation system, may be scarce or unavailable. This is useful e.g. for cross-lingual NLP, where a trained model may be transferred from a resource-rich source language to a resource-poor target language via machine translation.
We evaluate MonoTrans both intrinsically, using BLEU, and extrinsically, applying it to cross-lingual tagger and parser transfer. Although it achieves low scores, it does surpass the baselines by respectable margins.

Představujeme MonoTrans, systém statistického strojového překladu, který používá pouze jednojazyčná data ve zdrojovém a cílovém jazyce, bez použití paralelních korpů nebo pravidel specifických pro konkrétní jazyk. Systém překládá každé zdrojové slovo cílovém slovem, které je mu nejpodobnější na základě kombinace míry řetězcové podobnosti a podobnosti četností slov. Systém je určen pro překlad mezí blízkými jazyky v situaci kdy není k dispozici dostatek paralelních dat.
Přestože MonoTrans dosahuje nízkých skóre, významně překonává baseline.


Terminálový zobrazovač souborů CoNLL, v2

A simple way of browsing CoNLL and CoNLLU format files in your terminal. Fast and text-based.

Snadný způsob prohlížení souborů ve formátu CoNLL a CoNLLU ve vašem terminálu. Rychlý a textový.


Slovenskočeský NLP workshop (SloNLP 2017)

SloNLP is a workshop focused on Natural Language Processing (NLP) and Computational Linguistics. Its primary aim is to promote cooperation among NLP researchers in Slovakia and Czech Republic.
The topics of the workshop include automatic speech recognition, automatic natural language analysis and generation (morphology, syntax, semantics, etc.), dialogue systems, machine translation, information retrieval, practical applications of NLP technologies, and other topics of computational linguistics.

SloNLP je workshop speciálně zaměřený na zpracování přirozeného jazyka a počítačovou lingvistiku. Jeho hlavním cílem je podpořit spolupráci mezi výzkumníky v oblasti NLP v Česku a na Slovensku.
Mezi témata workshopu patří automatické rozpoznávání mluvené řeči (ASR), automatická analýza a generování přirozeného jazyka (morfologie, syntax, sémantika...), dialogové systémy (DS), strojový překlad (MT), vyhledávání informací (IR), praktické aplikace NLP technologií, a další témata počítačové lingvistiky.


Error Analysis of Cross-lingual Tagging and Parsing

Chybová analýza kroslingválního taggingu a parsingu

We thoroughly analyse the performance of cross-lingual tagger and parser transfer from English into 32 languages. We suggest potential remedies for identified issues and evaluate some of them.

V několika rozměrech rozebíráme chyby v kroslingválním přenosu taggeru a parseru z angličtiny do 32 jazyků. Identifikujeme a vysvětlujeme silné a slabé stránky a nepravidelnosti a navrhujeme možná řešení.


We once had a corp,

or should we say, it once had us

They showed us its tags,

isn’t it great, unified tags

They asked us to parse

and they told us to use everything

So we looked around

and we noticed there was near nothing

We took other langs,

bitext aligned: words one-to-one

We played for two weeks,

and then they said, here is the test

The parser kept training till morning,

just until deadline

So we had to wait and hope what we get

would be just fine

And, when we awoke,

the results were done, we saw we’d won

So, we wrote this paper,

isn’t it good, Norwegian wood.

My měli korpus, anebo ten korpus měl nás.

Měl značky pěkný, jednoduchý, harmonický.

Když zvali nás řekli ať použijem všechno, co chcem.

Však k použití nikde nic není, ať hnem se kam hnem.

Tak cizí řeči jsme přeložili, využili.

Dva týdny práce, dřeli jsme fest, a je tu test.

Trénink běžel přes noc do rána, než přišel deadline.

My nespali, čekali, doufali, že dopadnem fajn.

Ráno bylo tu, hleďme na to, my měli zlato.

Tak popíšem papír, co zrodilo ho norský dřevo.

Rudolf Rosa
Daniel Zeman
David Mareček
Zdeněk Žabokrtský


Trained models for UDPipe used to produce our final submission to VarDial 2017 shared task (https://bitbucket.org/hy-crossNLP/vardial2017) and described in a paper by the same authors titled Slavic Forest, Norwegian Wood.

Natrénované modely pro UDPipe, použité k vytvoření našeho příspěvku zaslaného na sdílenou úlohu VarDial 2017 (https://bitbucket.org/hy-crossNLP/vardial2017) a popsaných v článku stejných autorů s názvem Slavic Forest, Norwegian Wood.


Tools and scripts used to create the cross-lingual parsing models submitted to VarDial 2017 shared task (https://bitbucket.org/hy-crossNLP/vardial2017) and described in a paper by the same authors titled Slavic Forest, Norwegian Wood.

Nástroje a skripty užité k vytvoření modelů mezijazyčných parserů, zaslaných na sdílenou úlohu VarDial 2017 (https://bitbucket.org/hy-crossNLP/vardial2017) a popsaných v článku stejných autorů s názvem Slavic Forest, Norwegian Wood.


Coreference Resolution System Not Only for Czech

Systém pro rozpoznávání koreference nejenom na češtině

Presenting Treex CR - the coreference resolution system for English and Czech.

Představení Treex CR - systému na rozpoznávání koreference pro angličtinu a češtinu.


The paper introduces Treex CR, a coreference resolution (CR) system not only for Czech. As its name suggests, it has been implemented as an integral part of the Treex NLP framework. The main feature that distinguishes it from other CR systems is that it operates on the tectogrammatical  layer, a representation  of  deep syntax. This feature allows for natural handling of elided expressions, e.g. unexpressed subjects in Czech as well as generally ignored English anaphoric expression – relative pronouns and zeros. The system implements a sequence of mention ranking models specialized at particular types of coreferential expressions (relative, reflexive, personal pronouns etc.). It takes advantage of rich feature set extracted from the data linguistically preprocessed with Treex. We evaluated Treex CR on Czech and English datasets and compared it with other systems as well as with modules used in Treex so far.

Článek představuje Treex CR - systém na rozpoznávání koreference nejenom pro češtinu.


Coreference Resolution Using Parallel Corpora

Rozpoznávání koreference s použitím paralelních korpusů

Rozpoznávanie koreferencie s použitím paralelných korpusov

The talk describes experiments on coreference resolution in Czech and English using parallel corpora.

Přednáška pojednává o experimentech s rozpoznáváním koreference na češtině a angličtině s použitím paralelních korpusů.

Prednáška pojednáva o experimentoch s rozpoznávaním koreferencie na češtine a angličtine s použitím paralelných korpusov.


Evaluator of Discourse (EVALD 2.0) is a software that serves for automatic evaluation of surface coherence (cohesion) in Czech texts written by native speakers of Czech. Software evaluates the level of the given text from the perspective of its surface coherence (i.e. it takes into consideration, e.g., the frequency and diversity of connectives, richness of vocabulary, coreference realtions etc.).

Počítačový nástroj Evaluátor diskurzu (EVALD 2.0) slouží k automatickému hodnocení povrchové koherence (koheze) textů v češtině psaných rodilými mluvčími češtiny. Software tedy hodnotí (známkuje) úroveň předloženého textu z hlediska jeho povrchové výstavby (zohledňuje např. frekvenci a rozmanitost spojovacích prostředků, bohatost slovní zásoby, koreferenční vztahy apod.).

Michal Novák
Kateřina Rysová
Jiří Mírovský
Magdaléna Rysová
Eva Hajičová


Evaluator of Discourse for Foreigners (EVALD 2.0 for Foreigners) is a software that serves for automatic evaluation of surface coherence (cohesion) in Czech texts written by non-native speakers of Czech. Software evaluates the level of the given text from the perspective of its surface coherence (i.e. it takes into consideration, e.g., the frequency and diversity of connectives, richness of vocabulary, coreference realtions etc.).

Počítačový nástroj Evaluátor diskurzu pro cizince (EVALD 2.0 pro cizince) slouží k automatickému hodnocení povrchové koherence (koheze) textů v češtině psaných nerodilými mluvčími češtiny. Software hodnotí úroveň předloženého textu z hlediska jeho povrchové výstavby (zohledňuje např. frekvenci a rozmanitost užitých spojovacích prostředků, bohatost slovní zásoby, koreferenční vztahy apod.).


Incorporating Coreference to Automatic Evaluation of Coherence in Essays

Začlenění koreference do automatického hodnocení koherence v slohových pracích

The paper contributes to the task of automated evaluation of surface coherence. It introduces a coreference-related extension to the EVALD applications, which aim at evaluating essays produced by native and non-native students learning Czech. Having successfully employed the coreference resolver and coreference-related features, our system outperforms the original EVALD approaches by up to 8 percentage points. The paper also introduces a dataset for non-native speakers' evaluation, which was collected from multiple corpora and the parts with missing annotation of coherence grade were manually judged. The resulting corpora contains sufficient number of examples for each of the grading levels.

Článek popisuje rozšíření systémů EVALD, jejichž cílem je hodnocení úrovně koherence v slohových pracích, o rysy využívající informace o koreferenci a zájmenách.

Michal Novák
Kateřina Rysová
Magdaléna Rysová
Jiří Mírovský


Projection-based Coreference Resolution Using Deep Syntax

Rozpoznávaní koreference založené na projekci s použitím tektogramatiky

The paper describes the system for coreference resolution in German and Russian, trained exclusively on coreference relations projected through a parallel corpus from English. The resolver operates on the level of deep syntax and makes use of multiple specialized models. It achieves 32 and 22 points in terms of CoNLL score for Russian and German, respectively. Analysis of the evaluation results show that the resolver for Russian is able to preserve 66\% of the English resolver's quality in terms of CoNLL score. The system was submitted to the Closed track of the CORBON 2017 Shared task.

Článek popisuje systém pro rozpoznávání koreference  v němčině a ruštině, trénovaný výlučně na koreferenčních vztazích projektovaných skrz paralelní korpus. Rozpoznávač operuje na tektogramatické vrstvě a používá vícero specializovných modelů. Měřeno metrikou CoNLL systém dosahuje 32 bodů pro Ruštinu a 22 bodov pro němčinu. Analýza výsledků ukazuje, že rozpoznávač pro ruštinu je schopen při projekci z angličtiny dosáhnout 66% kvality dosažené na angličtině. Systém byl poslán na CORBON 2017 Shared task.

Michal Novák
Anna Nedoluzhko
Zdeněk Žabokrtský


CoNLL 2017 Shared Task - Automatically Annotated Raw Texts and Word Embeddings

Společná úloha CoNLL 2017 – automaticky anotované texty a slovní embeddingy

Automatic segmentation, tokenization and morphological and syntactic annotations of raw texts in 45 languages, generated by UDPipe (http://ufal.mff.cuni.cz/udpipe), together with word embeddings of dimension 100 computed from lowercased texts by word2vec (https://code.google.com/archive/p/word2vec/).

Automatická segmentace, tokenizace a morfologická a syntaktická anotace textů ve 45 jazycích, vygenerovaná pomocí UDPipe (http://ufal.mff.cuni.cz/udpipe), spolu se 100rozměrnými slovními embeddingy vypočítanými nad textem převedeným na malá písmena nástrojem word2vec (https://code.google.com/archive/p/word2vec/).

Filip Ginter
Jan Hajič
Juhani Luotolahti
Milan Straka
Daniel Zeman


Findings of the WMT 2017 Biomedical Translation Shared Task

Výsledky soutěže v překladu biomedicínských textů WMT2017

Automatic   translation   of   documents   is
an  important  task  in  many  domains,  in-
cluding  the  biological  and  clinical  do-
mains. The second edition of the Biomed-
ical Translation task in the Conference of
Machine  Translation  focused  on  the  au-
tomatic  translation  of  biomedical-related
documents  between  English  and  various
European  languages.   This  year,  we  ad-
dressed  ten  languages:   Czech,  German,
English,  French,  Hungarian,  Polish,  Por-
tuguese, Spanish, Romanian and Swedish.
Test sets included both scientific publica-
tions (from the Scielo and EDP Sciences
databases) and health-related news (from
the Cochrane and UK National Health Ser-
vice web sites).  Seven teams participated
in the task, submitting a total of 82 runs.
Herein we describe the test sets, participat-
ing systems and results of both the auto-
matic and manual evaluation of the trans-
lations.

Článek shrnuje výsledky druhého ročníku Biomedical Translation Task konference WMT 2017, tj. strojového překladu biomedicínských textů.

Antonio Jimeno Yepes
Aurelie Névéol
Mariana Neves
Karin Verspoor
Ondřej Bojar
Arthur Boyer
Cristian Grozea
Barry Haddow
Madeleine Kittner
Yvonne Lichtblau
Pavel Pecina
Roland Roller
Rudolf Rosa
Amy Siu
Philippe Thomas
Saskia Trescher


Producing Unseen Morphological Variants in Statistical Machine Translation

Generování neviděných tvaroslovných variant ve statistickém strojovém překladu

Translating into morphologically rich languages is  difficult. Although  the  coverage of lemmas may be reasonable,  many morphological variants cannot be learned from the training data. We present a statistical translation system that is able to produce these inflected word forms. Different from most previous work, we do not separate morphological prediction from lexical choice into two consecutive steps. Our approach  is  novel  in  that  it  is  integrated  in decoding  and  takes  advantage  of  context information from both the source language and the target language sides.

Strojový překlad do tvaroslovně bohatých jazyků představuje složitý problém. Prestože pokrytí na úrovni lemmat může být dostatečné, řada jejich tvaroslovných variant se z trénovacích dat nedá získat. Představujeme statistický překladový systém, který tyto tvaroslovné varinaty dokáže generovat. Na rozdíl od dřívějších prací nerozdělujeme modelování tvarosloví a lexikální volbu na dva navazující kroky. Náš postup je integrován přímo v dekódování a využívá informace z konextu jak na zdrojové, tak na cílové straně.

Matthias Huck
Aleš Tamchyna
Ondřej Bojar
Alexander Fraser


A Universal Dependencies Treebank for Marathi

Závislostní korpus maráthštiny v Universal Dependencies

This paper describes the creation of a free and open-source dependency treebank for Marathi,
the first open-source treebank for Marathi following the Universal Dependencies (UD) syntactic annotation scheme. In the paper, we describe some of the syntactic and morphological phenomena in the language that required special analysis, and how they fit into the UD guidelines. We also evaluate the parsing results for three popular dependency parsers on our treebank.

Tento článek popisuje vytváření volně dostupného závislostního korpusu maráthštiny, který odpovídá anotačnímu schématu Universal Dependencies (UD).


Variable Mini-Batch Sizing and Pre-Trained Embeddings

Proměnné velikosti dávky a předtrénované embedingy

This  paper  describes  our  submission  to
the WMT 2017 Neural MT Training Task.
We modified the provided NMT system in
order  to  allow  for  interrupting  and  con-
tinuing  the  training  of  models.   This  al-
lowed  mid-training  batch  size  decremen-
tation and incrementation at variable rates.
In  addition  to  the  models  with  variable
batch size,  we tried different setups with
pre-trained word2vec embeddings.  Aside
from batch size incrementation, all our ex-
periments performed below the baseline

Článek popisuje náš příspěvek do společné úlohy trénování systémů neuronového překladu (WMT2017 Neural MT Training Task).

Mostafa Abdou
Vladan Glončák
Ondřej Bojar


Deep Architectures for Neural Machine Translation

Hluboké architektury pro neuronový strojový překlad

It has been shown that increasing model depth improves the quality of neural machine translation.
However, different architectural variants to increase model depth have been proposed, and so far, there has been no thorough comparative study.

In this work, we describe and evaluate several existing approaches to introduce depth in neural machine translation.
Additionally, we explore novel architectural variants, including deep transition RNNs, and we vary how attention is used in the deep decoder.
We introduce a novel "BiDeep" RNN architecture that combines deep transition RNNs and stacked RNNs.

Our evaluation is carried out on the English to German WMT news translation dataset, using a single-GPU machine for both training and inference.
We find that several of our proposed architectures improve upon existing approaches in terms of speed and translation quality.
We obtain best improvements with a BiDeep RNN of combined depth 8, obtaining an average improvement of 1.5 BLEU over a strong shallow baseline.

We release our code for ease of adoption.

Bylo prokázáno, že zvyšující se hloubka modelu zlepšuje kvalitu neuronového strojového překladu.
Přes mnoho návrhů různých variant arhitektur pro zvýšení hloubky modelu doposud nebyla provedena žádná důkladná srovnávací studie.

V této práci popisujeme a vyhodnocujeme několik stávajících přístupů k zavedení hloubky v neuronovém strojovém překladu.
Navíc prozkoumáváme nové varianty architektur včetně hlubokých přechodových RNN a měníme, jak je hlubokém dekodéru použit mechanismus pozornosti ("attention").
Představujeme novou architekturu "BiDeep" RNN, která kombinuje hluboké přechodové RNN a skládané RNN.

Hodnocení provádíme na anglicko-německém datovém souboru WMT pro překlady novinových článků s využitím stroje s jednou GPU pro trénování i inferenci.
Zjistili jsme, že několik našich navrhovaných architektur zlepšuje stávající přístupy z hlediska rychlosti a kvality překladu.
Nejlepších výsledků jsme získali s BiDeep RNN kombinované hloubky 8, získáním průměrného zlepšení 1,5 BLEU nad silnou baseline.

Náš kód je pro snadný přístup zveřejněn.

Antonio Valerio Miceli Barone
Jindřich Helcl
Rico Sennrich
Barry Haddow
Alexandra Birch


License agreement for Google Inc. (Mountain View, California 94043, USA) for using the Tamil Dependency Treebank.

Licenční smlouva pro Google Inc. (Mountain View, California 94043, USA) na užívání Tamilského závislostního korpusu.


Optical Music Recognition (OMR) is a sub-field of document analysis and recognition focused on extracting musical content from the image (e.g., scan or photo) of a musical score. Given that more compositions probably exist in written form than have been recorded, automatically transcribing written music can substantially diversify the sources available to digital musicology. The greatest potential of OMR lies in making accessible massive musical archives, such as the Lichtenstein-Castelcorn collection in Kroměříž, to further investigation using methods of digital musicology: automated duplicate or part detection, melody-based search, or tracking the genealogy of musical motifs.
Within document analysis, OMR occupies a particularly difficult niche, because modern music notation is one of the most complicated writing systems overall. Especially for manuscripts, where this difficulty compounds with the variability in handwriting, no remotely satisfactory solutions are available today. The problem also only has a small community dedicated to solving it. The talk will give an overview of the current state of the art and the developments in the field, with focus on potential applications for digital musicology.

Rozpoznávání notopisu je specializovaný pod-obor automatického zpracování dokumentů, který se zaměřuje na extrakci hudebního obsahu z obrazové informace (skenu či fotografie) notového zápisu. Vzhledem k tomu, že pravděpodobně existuje více hudebních děl v psané podobě než v podobě nahrávky či jiného záznamu, může automatická transkripce not přinést digitální muzikologii výrazně rozmanitější zdroje. Největší potenciál spočívá v masovém zpřístupnění rozsáhlých notových archivů, jako např. kroměřížská sbírka rodu Lichtenštejn-Kastelkornů, které pak bude možné zkoumat pomocí dalších metod digitální muzikologie, např. automatická detekce duplikátů či partů, vyhledávání pomocí melodií, či sledování genealogie hudebních motivů.
V rámci zpracování dokumentů se jedná o úlohu výjimečně obtížnou, neboť moderní hudební notace je jedním z nejkomplikovanějších systémů psaní. Obzvlášť pro rukopisy, kde se její složitost násobí s variabilitou realizace zápisu, neexistují v současnosti ani vzdáleně uspokojivá řešení. Na problému také pracuje relativně málo lidí. Příspěvek nabídne vhled do současného stavu poznání a vývoje oboru, s důrazem na možné aplikace v digitální muzikologii.


Optical Music Recognition: Because music notation is text, too!

Rozpoznávání notopisu: Hudební notace je také text.

Most compositions created throughout history exist today only in written form, usually residing in archive collections; specifically in the Czech Republic, there are many more than 10 000 such manuscripts. To preserve and disseminate this portion of cultural heritage, it is advantageous to digitize it; further usability would be brought by also digitizing the contents of these documents. However, transcribing music with notation editors such as Sibelius or MuseScore is too time-consuming. Optical Music Recognition (OMR), the equivalent of OCR for music notation, can be a key tool for opening the contents of musical archives to large-scale musicological research, better curation (e.g., duplicate search), and for making the way from an archival score to performance easier.

Většina hudebních skladeb, které byly kdy vytvořeny, dnes existuje pouze v psané podobě, většinou v rámci archivů; konkrétně v ČR je více než 10 000 takových rukopisů. Pro zachování a šíření této části kulturního dědictví je vhodné jej digitalizovat, a další výhody přináší digitalizace hudebního obsahu těchto dokumentů. Ruční přepisování not v editorech jako Sibelius či MuseScore je však v tomto rozsahu příliš pomalé. Rozpoznávání notopisu (Optical Music Recognition, OMR), ekvivalent OCR pro hudební notaci, může být klíčovým nástrojem pro zpřístupnění obsahu hudebních archivů - pro široký muzikologický výzkum, pro lepší správu (např. detekce opisů), a pro zkrácení cesty, kterou skladby musí ujít od archiválie k živému provedení.


Prototyping Full-Pipeline OMR With MUSCIMarker

Prototypy kompletních OMR systémů s MUSCIMarkerem

We present MUSCIMarker, an open-source workbench
for developing Optical Music Recognition (OMR) systems from image preprocessing to MIDI export. It is built
around the notation graph data model of the MUSCIMA++
dataset for full-pipeline OMR. The system is transparent
and interactive, enabling the user to visualize, validate
and edit results of individual OMR stages. It is platform-independent, written purely in Python, and can work offline. We demonstrate its value with a prototype OMR system for musical manuscripts that implements the recognition pipeline, up to playing the recognition outputs through
MIDI. The audience will interact with the program and can
test an integrated OMR system prototype.

Představujeme MUSCIMarker, open-source nástroj pro vývoj systémů rozpoznávání notopisu (Optical Music Recognition, OMR). Nástroj je postavený okolo reprezentace notopisu jakožto grafu, definovaného v datasetu MUSCIMA++. Nástroj je transparentní a interaktivní, umožňuje uživateli vizualizovat, ověřit a upravovat výsledky jednotlivých kroků OMR.
Navíc je díky čistě Pythonové implementaci přenosný mezi operačními systémy, a umožňuje pracovat offline.
Dokládáme hodnotu MUSCIMarkeru skrze prototyp systému na plnohodnotné rozpoznávání notopisu, od předzpracování obrazu po přehrání výstupu a export do formátu MIDI. Publikum prezentace bude mít příležitost MUSCIMarker i rozpoznávací prototyp vyzkoušet.


Detecting Noteheads in Handwritten Scores with ConvNets and Bounding Box Regression

Detekce notových hlaviček v rukopisech pomocí konvolučních sítí a regrese na ohraničení

Noteheads are the interface between the written score and music. Each notehead on the page signifies one note to be played, and detecting noteheads is thus an unavoidable step for Optical Music Recognition. In printed notation, noteheads are clearly distinct objects; however, the variety of music notation handwriting makes noteheads harder to identify, and while handwritten music notation symbol classification is a well-studied task, symbol detection has usually been limited to heuristics and rule-based systems instead of machine learning methods better suited to deal with the uncertainties in handwriting. We present ongoing work on a simple notehead detector using convolutional neural networks for pixel classification and bounding box regression that achieves a detection f-score of 0.97 on binary score images in the MUSCIMA++ dataset, does not require staff removal, and is applicable to a variety of handwriting styles and levels of musical complexity.

Notové hlavičky představují rozhraní mezi zápisem hudby a hudbou samotnou. Každá hraná nota je kódována pomocí notové hlavičky, a detekovat hlavičky je tím pádem pro rozpoznávání not nevyhnutelné. V tištěné notaci jsou hlavičky jasně rozlišitelné, avšak různorodost rukopisů činí jejich identifikaci obtížnější. Představujeme jednoduchý detektor notových hlaviček používající konvoluční neuronové sítě pro klasifikaci pixelů a regresi na ohraničení, který dosahuje na detekci f-score 0.97 nad datasetem MUSCIMA++, nepotřebuje odstraňování osnov, a lze jej použít na různorodé rukopisné styly a úrovně složitosti zapsané hudby.


Groundtruthing (not only) Music Notation with MUSCIMarker: a Practical Overview

Anotace (nejen) hudební notace s MUSCIMarkerem: praktický přehled

Dataset creation for graphics recognition, especially for hand-drawn inputs, is often an expensive and time-consuming undertaking. The MUSCIMarker tool used for creating the MUSCIMA++ dataset for Optical Music Recognition (OMR) led to efficient use of annotation resources, and it provides enough flexibility to be applicable to creating datasets for other graphics recognition tasks where the ground truth can be represented similarly. First, we describe the MUSCIMA++ ground truth to define the range of tasks for which using MUSCIMarker to annotate ground truth is applicable. We then describe the MUSCIMarker tool itself, discuss its strong and weak points, and share practical experience with the tool from creating the MUSCIMA++ dataset.

Tvorba datasetů pro ropzoznávání grafických znaků, především ručně psaných, je často drahá a časově náročná záležitost. Nástroj MUSCIMarker, kterým jsme vytvořili dataset MUSCIMA++ pro rozpoznávání not, pomohl omezené zdroje využít efektivně, a je dostatečně flexibilní na to, aby jej bylo možné použít na tvorbu datasetů pro další úlohy s podobnou reprezentací anotované "pravdy". Nejprve popíšeme tuto reprezentaci, aby byla zřejmé, na jaké úlohy je MUSCIMarker aplikovatelný; následně popisujeme samotný nástroj MUSCIMarker, jeho silné a slabé stránky, a praktické zkušenosti s tvorbou datasetu MUSCIMA++.


How to Exploit Music Notation Syntax for OMR?

Jak využít syntax hudební notace pro OMR?

A major roadblock for Optical Music Recognition, especially for handwritten music notation, is symbol detection: recovering the locations of musical symbols from the input page. This has been attempted both with bottom-up approaches exploiting visual features, and top-down approaches based on the strong constraints that music notation syntax imposes on possible symbol configurations; sometimes joined together at appropriate points in the recognition process. The bottom-up approach has recently greatly improved with the boom of neural networks. However, the reduction in uncertainty that music notation syntax can provide has not yet been married to the power of these neural network models. This extended abstract brainstorms ways in which this can be done, and analyzes the difficulties the various combined approaches will have to address. We hope our work will foster further discussion to clarify the issues involed, provoke OMR researchers to try some of these approaches experimentally, and entice researchers from other parts of the graphics recognition community to share relevant experience.

Podstatným problémem pro rozpoznávání not, především ručně psaných, je lokalizace symbolů ve vstupním obrázku. Řešení jsou stavěna jak odspodu, využívajíce nízkoúrovňové vizuální rysy, tak shora, kde se využívá skutečnost, že se hudební notace řídí silnými omezeními na syntakticky správné konfigurace symbolů. Oba přístupy se občas kombinují. V nedávné době se přístup odspodu výrazně zlepšil pomocí konvolučních neuronových sítí. Snížení nejistoty, které může notační syntax poskytnout, však ještě s těmito modely zkombinována nebyla. Tento rozšířený abstrakt diskutuje způsoby, jak neuronové sítě a notační syntax propojit, a analyzuje obtíže, se kterými by se jednotlivé přístupy měly potýkat. Doufáme, že náš příspěvek podnítí další diskusi o těchto možnostech, vyprovokuje výzkumníky v oboru k experimentálnímu prozkoumání navržených přístupů, a podnítí výzkumníky z příbuzných oblastí sdílet své zkušenosti.


The MUSCIMA++ Dataset for Handwritten Optical Music Recognition

Dataset MUSCIMA++ pro rozpoznávání ručního notopisu

Optical Music Recognition (OMR) promises to make accessible the content of large amounts of musical documents, an important component of cultural heritage. However, the field does not have an adequate dataset and ground truth for benchmarking OMR systems, which has been a major obstacle to measurable progress. Furthermore, machine learn- ing methods for OMR require training data. We design and collect MUSCIMA++, a new dataset for OMR. Ground truth in MUSCIMA++ is a notation graph, which our analysis shows to be a necessary and sufficient representation of music notation. Building on the CVC-MUSCIMA dataset for staffline removal, the MUSCIMA++ dataset v1.0 consists of 140 pages of hand- written music, with 91254 manually annotated notation symbols and 82247 explicitly marked relationships between symbol pairs. The dataset allows training and directly evaluating models for symbol classification, symbol localization, and notation graph assembly, and musical content extraction, both in isolation and jointly. Open-source tools are provided for manipulating the dataset, visualizing the data and annotating more, and the data is made available under an open license.

Od rozpoznávání notopisu (Optical Music Recognition, OMR) si lze slibovat zpřístupnění mnoha hudebních dokumentů, které jsou podstatnou součástí kulturního dědictví. OMR však nemá adekvátní data a příslušný formát anotace, který by umožnil porovnávání systémů OMR, což představuje výraznou překážku pro měřitelný pokrok. Řešení OMR využívající strojové učení navíc potřebují trénovací data. Navrhli jsme a sesbírali jsme nový OMR dataset MUSCIMA++. Poskytované anotace tvoří notační graf, jejž naše analýza odhalila jako nutný a postačující popis hudební notace. Stavíme nad daty CVC-MUSCIMA pro odstraňování notových osnov. MUSCIMA++ v1.0 obsahuje 140 stran hudebního rukopisu, s 91245 ručně vyznačenými symboly a 82247 vztahy mezi nimi. Dataset umožňuje trénovat a přímo evaluovat modely pro klasifikaci a lokalizaci symoblů, rekonstrukce logické struktury notace, a extrakce hudebního obsahu. Jsou poskytnuty open-source nástroje pro manipulaci s datasetem, vizualizaci a rozšiřování anotací, a data samotná jsou poskytnuta pod otevřenou licencí.


The Macine translation system Česílko has been developed as an answer to a growing need of translation and localization from one source language to many target languages. The system
belongs to the shallow parse, shallow transfer RBMT paradigm and it is designed primarily for
translation of related languages. The paper presents the architecture, the development design
and the basic installation instructions of the translation system.

Článek popisuje přeměnu překladového systému pro příbuzné jazyky Česílko do formátu Open-source. Tento systém byl vytvořen pro účely rychlého a kvalitního překladu z jednoho zdrojového do více příbuzných cílových jazyků. Jeho architektura je založena na mělké analýze a transferu pomocí pravidel. Článek představuje architekturu systému a instalační instrukce.

Jernej Vičič
Vladislav Kuboň
Petr Homola


Communication with Robots using Multilayer Recurrent Networks

Komunikace s roboty pomocí vícevrstvých neuronových sítí

In this paper, we describe an improvement
on the task of giving instructions to robots
in  a  simulated  block  world  using  unrestricted natural language commands

V tomto článku popisujeme vylepšení úlohy pro řízení robota neomezeným přirozeným jazykem.


MorphoRuEval-2017: an evaluation track for the automatic morphological analysis methods for Russian

MorphoRuEval-2017: vyhodnocovací stopa pro metody automatické morfologické analýzy pro ruštinu

MorphoRuEval-2017 is an evaluation campaign designed to stimulate the development of the automatic morphological processing technologies for Russian, both for normative texts (news, fiction, nonfiction) and those of less formal nature (blogs and other social media). This article compares the methods participants used to solve the task of morphological analysis. It also discusses the problem of unification of various existing training collections for Russian language.

MorphoRuEval-2017 je hodnotící kampaň určená k povzbuzení rozvoje technologií automatického morfologického zpracování pro ruštinu, a to jak pro normativní texty (novinky, beletrie, fakta), tak pro méně formální povahu (blogy a další sociální média). Tento článek porovnává metody, které účastníci použili při řešení úlohy morfologické analýzy. Rovněž se zabývá problémem sjednocení různých stávajících výcvikových sbírek ruského jazyka.

Alexey Sorokin
Tatiana Shavrina
Olga Lyashevskaya
Victor Bocharov
Svetlana Alexeeva
Kira Droganova
Alena Fenogenova
Dmitry Granovsky


Beyond simple usage of handles - PIDs in DSpace

Složitější využití handlů - persistentních identifikátorů v DSpace

What else can be achieved with handles in addition to "basic" separation of resource id from its location. Handle metadata. Handles and content negotiation. Template handles.

Co dál je možné dělat s handlem, kromě "základního" oddělení id od lokace. Metadata handlu. Handle a content negotiation. Template handle.


History, development and a introduction to usage of clarin-dspace.

Historie vzniku, vývoj a úvod do používání repozitáře clarin-dspace.


Annotation of the Evaluative Language in a Dependency Treebank

Anotace evaluativního jazyka v závislostním korpusu

In the paper, we present our efforts to annotate evaluative language in the Prague Dependency Treebank 2.0. The project is a follow-up of the series of annotations of small plaintext corpora. It uses automatic identification of potentially evaluative nodes through mapping a Czech subjectivity lexicon to syntactically annotated data. The annotations unveiled several advantages and disadvantages of the chosen framework.

V příspěvku představujeme projekt anotace evaluativního významu v Pražském závislostním korpusu 2.0. Projekt navazuje na sérii anotací malých korpusů prostého textu. V projektu byla použita automatická identifikace potenciálně evaluativních uzlů prostřednictvím českého slovníku hodnotících výrazů Czech SubLex 1.0. V rámci anotačních prací byly odhaleny výhody i nevýhody zvoleného anotačního schématu.


The radio said... or the mutual alignment of location and actor in a bilingual treebank

Hlásili to v rozhlase aneb vzájemné mapování lokace a aktoru v dvojjazyčném závislostním korpusu

In the paper we address one type of structural difference between Czech and English parallel sentences in a bilingual PCEDT treebank, the mutual mapping of actors and locations. Within the analysis of treebank examples, we show the effect of language-specific syntactic and semantic preferences of individual words in the positions of the subject and predicate on the differences in valency structure, as well as the effect of diathesis and the principal of agent demoting.

V příspěvku se zabýváme jedním typem strukturní odlišnosti mezi českými a anglickými paralelními větami v dvojjazyčném korpusu PCEDT, konkrétně vzájemným mapováním valenčních doplnění aktorového typu a (nevalenčních) lokačních doplnění. Analýzou korpusových příkladů ukazujeme, do jaké míry se na rozdílech ve valenci sloves v překladově ekvivalentních větách podílejí jazykově specifické syntakticko-sémantické preference konkrétních slov na pozicích subjektu a predikátu a jak je toto mapování ovlivněno vzájemnou souhrou těchto preferencí, větné diateze a sémantického principu potlačení agentu ve větné struktuře.


Emotions Translated: Enhancing a Subjectivity Lexicon Using a Parallel Valency Lexicon

Překlad emocí: rozšíření lexikonu hodnotících výrazů (???) pomocí paraleního valenčního slovníku

This paper documents the behavior of verb valency complementations regarding the position of the target of evaluation within the valency frame. We classify the types of evaluative meaning expressed by the verbs and identify shared characteristic features considering the valency patterns of the verbs. In the analysis, we comment on three major issues of interest: the semantic classification of evaluative verbs and its relation to the propagation of sentiment value to the participants, the possible non-matching structural positions of the target of evaluation in the valency frame of a verb and its translation, i.e., the possible shift in evaluative focus and scope, and the possible loss of evaluative stance in the process of translation.

Příspěvek sleduje chování valenčních doplnění sloves vzhledem k pozici evaluačního cíle mezi participanty valenčního rámce. Předkládáme klasifikaci typů evaluativnío významu vyjádřeného slovesy a popisujeme společné charakteristické rysy valenčních rámců evaluačních sloves. V analýze se zabýváme třemi problémy: sémantickou klasifikací evaluačních sloves a jejím vztahem k propagaci evaluačního významu jednotlivým participantům, různým valenčním pozicím evaluačního cíle u vzýjemně překladových sloves, tj. možným posunům evaluativního fokusu a dosahu a ztrátě evaluativního významu během překladu.


Linguistic reasons for choosing constructivist approach to teaching word class categorization

Lingvistické opodstatnění konstruktivistické didaktiky při výuce slovních druhů

The  paper  addresses  the  advantages  of teaching  word  class  categorization  in  Czech in  a  constructivist  manner.  The  problem  of  vagueness and blurriness of the linguistic category of word class is analyzed from the linguistic point of view, the lexicographer's point of view and the pedagogical point of view.
We argue that because of the overall change of the aims of the teaching process,  constructivism  is  more  in  compliance  with  the  principles  of modern linguistic approaches than the transmissive teaching. It allows pupils to build their own linguistic concepts by their logical thinking and direct manipulation  of  language,  shifting  the  attention  from  the  word  class  categorization  training to the analytical thinking.

V příspěvku se zabýváme možnostmi pojetí výuky slovních druhů v  konstruktivistickém  vyučování.  Problematiku  vágnosti  a  vzájemné  prostupnosti  jazykových  kategorií  analyzujeme  z  hlediska  lingvistické  teorie, která usiluje o konzistentnost a přístupnost pro školní praxi, z hlediska lexikografické práce, jejímž cílem je připravit jasnou oporu pro běžného uživatele  i  pedagoga,  i  z  hlediska  moderní pedagogiky,  jejímž  úkolem  je  zpřístupňovat žákům vědecké koncepty a teoretické konstrukty důvěryhodným a smysluplným způsobem.
Důraz  klademe  zejména  na  proměnu  cílů jazykového  vyučování  i  na  proměnu vnímání role učitele. Tvrdíme, že konstruktivistické vyučování je více v souladu s principy současné jazykové deskripce než vyučování transmisivní, neboť umožňuje žákovské budování pojmů vlastní manipulací s materiálem a vlastní logickou úvahou a přechod od nácviku jednoznačné kategorizace k prohlubování obecných analytických schopností.


We describe the process of creating NUDAR, a Universal Dependency treebank for Arabic. We present the conversion from the Penn Arabic Treebank to the Universal Dependency syntactic representation through an intermediate dependency representation. We discuss the challenges faced in the conversion of the trees, the decisions we made to solve them, and the validation of our conversion. We also present initial parsing results on NUDAR.

Popisujeme proces vzniku NUDAR, arabského treebanku ve stylu Universal Dependencies. Představujeme převod z Penn Arabic Treebanku do syntaktické reprezentace Universal Dependencies přes mezilehlou závislostní reprezentaci. Probíráme obtíže, se kterými je převod závislostních stromů spojen, řešení, která jsme použili, a hodnocení námi převedených dat. Dále představujeme prvotní výsledky parsingu na NUDARu.


Paying Attention to Multi-Word Expressions in Neural Machine Translation

Pozornost víceslovným výrazům v neuronovém strojovém překladu

Processing of multi-word expressions (MWEs) is a known problem for any natural language
processing task. Even neural machine translation (NMT) struggles to overcome it. This paper
presents results of experiments on investigating NMT attention allocation to the MWEs and
improving automated translation of sentences that contain MWEs in English→Latvian and
English→Czech NMT systems. Two improvement strategies were explored—(1) bilingual
pairs of automatically extracted MWE candidates were added to the parallel corpus used to
train the NMT system, and (2) full sentences containing the automatically extracted MWE
candidates were added to the parallel corpus. Both approaches allowed to increase automated
evaluation results. The best result—0.99 BLEU point increase—has been reached with the first
approach, while with the second approach minimal improvements achieved. We also provide
open-source software and tools used for MWE extraction and alignment inspection.

Víceslovné výrazy představují problém pro všechny aplikace zpracování přirozeného jazyka. V článku představujeme výsledky experimentů s neuronovým strojovým překladem z angličtiny do češtiny a lotyšštiny s důrazem na víceslovné výrazy.


Visualizing Neural Machine Translation Attention and Confidence

Zobrazování pozornosti a spolehlivosti neuronového strojového překladu

In this article, we describe a tool for visualizing the output and attention weights of neural
machine translation systems and for estimating confidence about the output based on the
attention.
Our aim is to help researchers and developers better understand the behaviour of their
NMT systems without the need for any reference translations. Our tool includes command
line and web-based interfaces that allow to systematically evaluate translation outputs from
various engines and experiments. We also present a web demo of our tool with examples of
good and bad translations: http://ej.uz/nmt-attention

V článku popisuje nástroj pro vykreslování výstupu a pozornostních vah neuronového překladu a pro odhad spolehlivosti překladu vypočtený na základě pozornosti.


Understanding text coherence: Implicit discourse relations

Porozumění textové koherenci: Implicitní diskurzní vztahy

The paper deals with secondary language signals that can express the semantics of implicit discourse relations. These include, for example, evaluative expressions in focus, usually followed by an argument with the meaning of explication or specification.

Příspěvek se zabývá vedlejšími jazykovými signály, které mohou vyjadřovat sémantiku implicitních vztahů. K nim patří např. hodnotící výrazy ve fokusu, za nimiž následuje obvykle argument s významem explikace či specifikace.


Prague workshop Discourse Relations in Multilingual Context (Kontakt II)

Pražský workshop Discourse Relations in Multilingual Context (Kontakt II)

A report on the contents of an international research project on the structure of discourse and on the means of its connectivity and on a workshop organized in Prague.

Zpráva o vědecké náplni mezinárodního projektu týkajícího se výstavby diskurzu a prostředků jeho konektivity a o workshopu pořádaném v Praze v rámci tohoto projektu.


Discourse Connectives: From Historical Origin to Present-Day Development

Diskurzní konektory: Od původu k současnosti

The paper focuses on the description and delimitation of discourse connectives, i.e.
linguistic expressions significantly contributing to text coherence and generally
helping the reader to better understand semantic relations within a text. The paper
discusses the historical origin of discourse connectives viewed from the perspective
of present-day linguistics. Its aim is to define present-day discourse connectives
according to their historical origin through which we see what is happening in discourse in contemporary language. The paper analyzes the historical origin of the most frequent connectives in Czech, English and German (which could be useful for more accurate translations of connectives in these languages) and point out that they underwent a similar process to gain a status of present-day discourse connectives. The paper argues that this historical origin or process of rising discourse connectives might be language universal. Finally, the paper demonstrates how these observations may be helpful for annotations of discourse in large corpora.

Kapitola se zaměřuje na popis a delimitaci diskurzních konektorů, tj. výrazů přispívajících ke kohereci textu a pomáhajících čtenáři lépe porozumět sémantickým vztahům v textu. V příspěvku je představen etymologický původ diskurzních konektorů z hlediska současné lingvistiky. Cílem je podat definici diskurzních konektorů s ohledem na jejich historický vývoj, díky němuž můžeme lépe nahlížet na  diskurzní vztahy v současném jazyce. V kapitole analyzujeme etymologický původ a vývoj deseti nejfrekventovanějších konektorů v češtině, angličtině a němčině (mezijazykový pohled může napomoci také přesnějšímu překladu konektorů) a poukazujeme na fakt, že tyto konektory prošly ve všech sledovaných jazycích velmi podobným vývojem, než se ustálily v roli současných diskurzních konektorů. Domníváme se proto, že způsob vzniku diskurzních konektorů může být jazykovou univerzálií. V závěru kapitoly ukazujeme, jak naše zjištění mohou pomoci při anotacích diskurzu ve velkých korpusech.


Installation and user settings for Czech-English and English-Czech translation of Czech technical terms of the INSPIRE Directive and thesaurea GEMET and AgroVoc (spatial data) for exclusive use in a research project

Instalace a uživatelské nastavení pro česko-anglický a anglicko-český překlad českých odborných termínů směrnice INSPIRE a thesaurů GEMET a AgroVoc (prostorová data) pro výhradní použití ve výzkumném projektu

Installation and user setting for Czech-English and English-Czech translation of Czech technical terms of the INSPIRE Directive and thesauri GEMET and AgroVoc (spatial data). For the project a package containing trained Moses models and commands for translation was prepared.

Instalace a uživatelské nastavení odborných překladů z češtiny do angličtiny a z angličtiny do češtiny. Překládají se české odborné termíny směrnice INSPIRE a thesaury GEMET a AgroVoc (prostorová data). Pro účely projektu byl připraven balíček obsahující připravené modely v systému Moses a seznam příkazů pro provádění překladu.


Tokenizing, POS Tagging, Lemmatizing and Parsing UD 2.0 with UDPipe

Tokenizace, tagging, lemmatizace a syntaktická analýza UD 2.0 pomocí UDPipe

We present an update to UDPipe 1.0, a trainable pipeline which performs sentence segmentation, tokenization, POS tagging, lemmatization and dependency parsing. We provide models for all 50 languages of UD 2.0, and furthermore, the pipeline can be trained easily using data in CoNLL-U format.

For the purpose of the CoNLL 2017 Shared Task: Multilingual Parsing from Raw Text to Universal Dependencies, the updated UDPipe 1.1 was used as one of the baseline systems, finishing as the 13th system of 33 participants. A further improved UDPipe 1.2 participated in the shared task, placing as the 8th best system, while achieving low running times and moderately sized models.

The tool is available under open-source Mozilla Public Licence (MPL) and provides bindings for C++, Python (through ufal.udpipe PyPI package), Perl (through UFAL::UDPipe CPAN package), Java and C#.

Představujeme novou verzi UDPipe 1.0, což je trénovatelný nástroj provádějící větnou segmentaci, tokenizaci, morfologické značkování, lemmatizaci a syntaktickou analýzu. Poskytujeme modely pro všech 50 jazyků UD 2.0, a navíc lze jednoduše UDPipe natrénovat pomocí vlastních dat v CoNLL-U formátu.

Pro potřeby CoNLL 2017 Shared Task: Multilingual Parsing from Raw Text to Universal Dependencies, upravená verze UDPipe 1.1 byla použita jako základový systém a umístila se na 13. místě z 33 účastníků. Nejnovější verze UDPipe 1.2, která se také účastnila, dosáhla na 8. místo, přičemž potřebuje jen malý čas na běh a středné velké modely.

Nástroj je k dispozici pod open-source licencí MPL a poskytuje rozhraní pro C++, Python (pomocí ufal.udpipe balíčku PyPI), Perl (pomocí UFAL::UDPipe balíčku CPAN), Javu a C#.


We present our contribution to The First Shared Task on Extrinsic Parser Evaluation (EPE 2017). Our participant system, the UDPipe, is an open-source pipeline performing tokenization, morphological analysis, part-of-speech tagging, lemmatization and dependency parsing. It is trained in a language agnostic manner for 50 languages of the UD version 2. With a relatively limited amount of training data (200k tokens of English UD) and without any English specific tuning, the system achieves overall score 56.05, placing as the 7th participant system.

Představujeme náš příspěvek do First Shared Task on Extrinsic Parser Evaluation (EPE 2017). Náš systém, UDPipe, je trénovatelný nástroj provádějící tokenizaci, morfologickou analýzu, morfologické značkování, lemmatizaci a syntaktickou analýzu. Je nezávislý na jazyku a k dispozici jsou modely pro všech 50 jazyků UD 2.0. Použitím relativně omezeného množství trénovacích dat (200 tisíc tokenů z anglického korpusu UD) a bez nastavení specifického pro angličtinu získal systém celkové hodnocení 56.05 a umístil se mezi soutěžícími systémy jako 7.


clarin-dspace Architecture and RDA-DFT/FAIR/OAIS

Architektura clarin-dspace a RDA-DFT/FAIR/OAIS

Describing clarin-dspace architecture and the compliance to RDA-DFT/FAIR/OAIS.

Popis architektury projektu clarin-dspace a dodrziavanie standardov a doporuceni RDA-DFT/FAIR/OAIS.


The QT21 Combined Machine Translation System for English to Latvian

Společný kombinovaný systém projektu QT21 pro překlad z angličtiny do lotyšštiny

This  paper  describes  the  joint  submis-
sion    of    the    QT21    projects    for    the
English
→
Latvian  translation  task  of  the
EMNLP 2017 Second Conference on Ma-
chine Translation
(WMT 2017).  The sub-
mission  is  a  system  combination  which
combines  seven  different  statistical  ma-
chine translation systems provided by the
different groups.
The  systems  are  combined  using  either
RWTH’s  system  combination  approach,
or
USFD’s
consensus-based
system-
selection approach.  The final submission
shows   an   improvement   of   0.5   B
LEU
compared  to  the  best  single  system  on
newstest2017.

Článek popisuje společný systém projektu QT21 pro překlad z angličtiny do lotyšštiny na druhé konferenci WMT 2017.

Jan-Thorsten Peter
Hermann Ney
Ondřej Bojar
Ngoc-Quam Pham
Jan Niehues
Alex Waibel
Franck Burlot
François Yvon
Marcis Pinnis
Valters Sics
Joost Bastings
Miguel Rios
Wilker Aziz
Phil Williams
Frédéric Blain
Lucia Specia


Constrained Deep Answer Sentence Selection

We propose Constrained Deep Neural Network (CDNN) a deep neural model for answer sentence selection in the context of
Question Answering (QA) systems. To
produce the best predictions, CDNN combines neural reasoning with a kind of
symbolic constraint. It integrates pattern
matching technique into sentence vector
learning. When trained using enough samples, CDNN outperforms the other best
models for sentence selection.
We show how the use of other sources of
training can enhance the performance of
CDNN. In a well-studied dataset for answer sentence selection, our model improves the state-of-the-art significantly

Navrhujeme propuštěnou hlubokou neuronovou síť (CDNN) hluboký neuronový model pro výběr věty odpovědi v kontextu systémů QA (Question Answering). Pro vytvoření nejlepších předpovědí kombinuje CDNN neurální uvažování s určitým symbolickým omezením. Integruje techniku přizpůsobení vzoru do vektoru vět
učení se. Při výcviku za použití dostatečných vzorků převyšuje CDNN ostatní nejlepší modely pro výběr vět. Ukazujeme, jak se využívají další zdroje
Školení může zvýšit výkon CDNN. V dobře studovaném datovém souboru pro výběr věty odpovědi náš model výrazně zlepšuje nejmodernější technologii.


Hybrid Deep Open-Domain Question Answering

Hybridní Hluboký Otevřená Doména Otázka Odpovědět

In this short paper, we report a progressing work on a hybrid deep neural system for answering open-domain factoid and non-factoid questions. This system supplements knowledge graph based Question Answering with free-texts searching techniques to address the sparsity issues in knowledge graphs. We justify the efficiency of the proposed system based on the results of a pilot experiment. We also describe the settings of an on-going project in the context of this system.

V tomto krátkém časopise oznamujeme postupnou práci na hybridním hlubokém nervovém systému, který odpovídá na faktoidní a nepravotní otázky otevřené oblasti. Tento systém doplňuje znalostní graf založený na zodpovězení dotazu s vyhledávacími technikami pro volné texty, které řeší problematiku sparsity ve znalostních grafech. Ospravedlňujeme účinnost navrhovaného systému na základě výsledků pilotního experimentu. Rovněž popisujeme nastavení probíhajícího projektu v kontextu tohoto systému.


We report on a progressing work for compiling Quora question answer dataset. Quora dataset is composed of the questions which are posed in
Quora question answering site. It is the only dataset which provides answers in
sentence level and word level at the same time. Moreover, the questions in the
dataset are authentic which is much more realistic for question answering systems. We test the performance of a state-of-the-art question answering system on
the dataset and compare it with human performance to establish an upper bound
for the dataset

Uvádíme zprávu o pokročilejších úkolech při sestavování datových sad otázka odpovědět Quora. Datová sada Quora se skládá z otázek, které jsou položeny na stránkách Quora answering site. Je to jediná datová sada, která poskytuje odpovědi současně na úrovni vět a slov. Otázky v datové sadě jsou navíc autentické, což je mnohem realističtější pro systémy odpovědí na otázky. Testujeme výkonnost nejmodernějšího záznamníku otázek na datové množině a porovnáváme ji s lidskou výkonností, abychom vytvořili horní hranici datové sady.


CzeDLex and other Lexicons of Discourse Connectives

CzeDLex a další slovníky textových konektorů

The presentation offers an overview and comparison of present-day electronic lexicons of discourse connectives in different languages, with a special regard on the recently developed lexicon of Czech connectives – CzeDLex.

Prezentace nabízí přehled a srovnání současných elektronických lexikonů textových konektorů v různých jazycích se zvláštním zřetelem na nový lexikon českých konektorů - CzeDLex.


Signalling Implicit Relations: A PDTB - RST Comparison

Signály implicitních vzahů: Srovnání PDTB a RST

Describing implicit phenomena in discourse is known to be a problematic task, both from the
theoretical and from the empirical perspective. The present article contributes to this topic by
a novel comparative analysis of two prominent annotation approaches to discourse (coherence)
relations that were carried out on the same texts. We compare the annotation of implicit relations in the Penn Discourse Treebank 2.0, i.e. discourse relations not signalled by an explicit discourse connective, to the recently released analysis of signals of rhetorical relations in the RST Signalling Corpus. Our data transformation allows for a simultaneous depiction and detailed study of these
two resources.

Článek předkládá podrobné srovnání dvou proslulých přístupů k analýze imlicitních diskurzních vztahů, Penn Discourse Treebanku a databáze Rhetorical Structure Theory Signalling Corpus.

Lucie Poláková
Jiří Mírovský
Pavlína Synková


Hluboké učení v (neuronovém) strojovém překladu

Neural machine translation (NMT) has become a widely-adopted approach to machine translation in the past few years.

In our tutorial, we will start with the introduction to the basics of the deep learning methods used in NMT, such as recurrent neural networks and their advanced variants (GRU or LSTM networks), or the algorithms for their optimization.

We introduce the NMT-specific models, such as the attention mechanism, and describe the methods used for decoding the target sentences, including model ensembling and beam search.

We will go through the recent advancements in the field and discuss their impact on the state-of-the-art methods used in this year's WMT competition (http://www.statmt.org/wmt17/).

Neuronový strojový překlad (NMT) se stal v posledních letech široce využívaným přístupem ke strojovému překladu.

V našem tutoriálu začneme úvodem do základů metod hloubkového učení používaných v NMT jako jsou rekurentní neuronové sítě a jejich pokročilé varianty (GRU nebo LSTM sítě) nebo algoritmy pro jejich optimalizaci.

Představujeme modely specifické pro NMT, jako je mechanizmus pozornosti, a popisujeme metody použité pro dekódování cílových vět, včetně ensemblování modelů a paprskového prohledávání.

Projdeme nedávné pokroky v této oblasti a budeme diskutovat o jejich dopadu na nejmodernější metody používané na letošní soutěži WMT (http://www.statmt.org/wmt17/).


CUNI System for the WMT17 Multimodal Translation Task

Systém Univerzity Karlovy pro úlohu multimodálního strojového překladu na WMT17

In this paper, we describe our submissions to the WMT17 Multimodal
  Translation Task. For Task 1 (multimodal translation), our best scoring
  system is a purely textual neural translation  of the source image caption to
  the target language. The main feature of the system is the use of additional
  data that was acquired by selecting similar sentences from parallel corpora
  and by data synthesis with back-translation. For Task 2 (cross-lingual image
  captioning), our best submitted system generates an English caption which is
  then translated by the best system used in Task 1. We also present negative
  results, which are based on ideas that we believe have potential of making
  improvements, but did not prove to be useful in our particular setup.

V tomto článku popisujeme naše příspěvky do multimodální překladové úlohy na WMT17.
Pro úlohu 1 (multimodální překlad) byl nejlepším systémem čistě textový neuronový překlad titulku zdrojového obrázku do cílového jazyka.
Hlavním rysem našeho systému je využití dalších dat získaných výběrem podobných vět z paralelních korpusů a syntézou dat zpětným překladem.
Pro úlohu 2 (vícejazyčné generování popisu obrázků) náš nejlepší systém generuje anglický popis obrázku, který je poté přeložen podle nejlepšího systému používaného v úloze č. 1.
Také předkládáme negativní výsledky, které jsou založeny na myšlenkách, o kterých se domníváme, že mají potenciál překlad zlepšit, ale v našem konkrétním uspořádání
 neprokázaly býti prospěšnými.


Neural Monkey: An Open-source Tool for Sequence Learning

Neural Monkey: Open source nástroj pro sekvenční učení

In this paper, we announce development of Neural Monkey — an open-source neural machine translation (NMT) and general sequence-to-sequence learning system built over TensorFlow machine learning library.
The system provides a high-level API with support for fast prototyping of complex architectures with multiple sequence encoders and decoders. These models’ overall architecture is specified in easy-to-read configuration files. The long-term goal of Neural Monkey project is to create and maintain a growing collection of implementations of recently proposed components or methods, and therefore it is designed to be easily extensible. The trained models can be deployed either for batch data processing or as a web service. In the presented paper, we describe the design of the system and introduce the reader to running experiments using Neural Monkey.

V tomto článku představujeme vývoj Neural Monkey — open source nástroj pro neuronový strojový překlad a sekvenční učení obecně, který je postavený na knihovně TensorFlow. Náš nástroj poskytuje svým uživatelům vysokoúrovňové rozhraní, které umožňuje rychlé vytváření prototypů komplexních modelů s několika enkodéry a dekodéry. Architektura modelů se vytváří pomocí snadno čitelných konfiguračních souborů. Dlouhodobým cílem Neural Monkey je vytvořit a udržovat kolekci moderních metod pro sekvenční učení. Tomu odpovídá i modulární snadno rozšiřitelný design. Natrénované modely je možné použít pro dávkové zpracování dat nebo spustit jako webovou službu. V předkládaném článku popisujeme základní design nástroje a postup, jak spustit trénování jednoduchého překladače.


The aim of this lab is to familiarize the users with the Neural Monkey toolkit for sequence learning experiments.

Účel tohoto labu je seznámit uživatele s toolkitem Neural Monkey, využívaným pro experimenty se sekvenčním učením.


Attention Strategies for Multi-Source Sequence-to-Sequence Learning

Strategie používání attention modelů ve vícezdrojovém sekvenčním učení

Modeling attention in neural multi-source sequence-to-sequence learning remains a relatively unexplored area, despite its usefulness in tasks that incorporate multiple source languages or modalities. We propose two novel approaches to combine the outputs of attention mechanisms over each source sequence, flat and hierarchical. We compare the proposed methods with existing techniques and present results of systematic evaluation of those methods on the WMT16 Multimodal Translation and
Automatic Post-editing tasks. We show the proposed methods achieve competitive results on both tasks.

Attention modely ve vícezdrojovém neuronovém  sekvenčním učení zůstávají poměrně neprobádanou oblastí, a to navzdory jeho užitečnosti v úkolech, které které využívají více zdrojových jazyků či modalit. Navrhujeme dvě nové strategie jak kombinovat výstupy attentiion modelu z různých vstupů, plochou a hierarchickou. Navrhované metody porovnáváme se stávajícími a výsledky vyhodnocujeme na datech pro multimodální překlad a automatické post-editování překladu z WMT16. Navrhované metody dosažení konkurenceschopných výsledků na obou úlohách.


Querying Multiword Expressions Annotation with NoSke

Vyhledávání v datech s anotací víceslovných jednotek pomocí CQL

This paper demonstrates one of the possible ways on how to represent and query corpora with multiword expression (MWE) annotation.
   We exploit the multilingual corpus of 18 languages created under the PARSEME project with verbal multiword expression (VMWE) annotation. VMWEs include categories such as idioms, light verb constructions, verb-particle constructions, inherently reflexive verbs, and others. The corpus was mainly used for the purposes of training predictive models, yet not much linguistic research was conducted based on this data.
We discuss how to allow linguists to query for MWEs in a simple user interface using the Corpus Query Language (CQL) within the NoSke corpus management and concordance system.
Despite its limited abilities to represent challenging cases such as discontinuous, coordinated or embedded VMWEs, CQL can be sufficient to make basic analysis of the MWE-annotated data in corpus-based studies.

Článek popisuje jeden z možných způsobů, jak zobrazit a prohledávat data s anotací víceslovných jednotek.
Využíváme mnohojazyčný korpus PARSEME s anotací verbálních víceslovných jednotek v 18 jazycích. Anotované jednotky zahrnují různé typy, jako např. idiomy, konstrukce s lehkými slovesy, inherentně reflexivní slovesa nebo konstrukce se slovesem a částicí. Korpus byl dosud využíván zejména pro trénování prediktivních modelů, ale nikoli k lingvistickému výzkumu per se.
Článek nabízí způsob, jak data zpřístupnit lingvistům skrze jednoduché vyhledávací prostředí a jazyk Corpus Query Language (CQL) známy například z často užívané platformy NoSke.
I přes omezené možnosti k zachycení komplexních jevů jakými jsou nespojité, koordinované nebo vnořené víceslovné predikáty, CQL může postačovat k základním vyhledávkám víceslovných jednotek pro korpusově založený výzkum.

Natalia Klyueva
Anna Vernerová
Behrang QasemiZadeh


Neural Networks for Multi-Word Expression Detection

Umělé neuronové sítě pro rozpoznávání víceslovných výrazů

In this paper we describe the MUMULS system that participated to the 2017 shared task on automatic identification of verbal multiword expressions (VMWEs). The MUMULS system was implemented using a supervised approach based on recurrent neural networks using the open source library TensorFlow. The model was trained on a data set containing annotated VMWEs as well as morphological and syntactic information. The MUMULS system performed the identification of VMWEs in 15 languages, it was one of few systems that could categorize VMWEs type in nearly all languages.

Tento článek popisuje systém MUMULS, který se účastnil 2017 Shared Task on Automatic Identification of Verbal Multiword expressions (VMWEs). Systém MUMULS byl implementován přístupem učení s učitelem pomocí rekurentních neuronových sítí v open-source knihovně TensorFlow. Model byl trénován na poskytnutých datech s VMWEs a také na morfologických a syntaktických anotacích. MUMULS provádí identifikaci VMWEs v patnácti jazycích, byl to jeden z mála systémů který dokázal kategorizovat VMWEs ve skoro všech jazycích.

Natalia Klyueva
Antoine Doucet
Milan Straka


Denotation Extraction for Interactive Learning in Dialogue Systems

Extrakce denotací pro interaktivní učení v dialogových systémech

This paper presents a novel task using real user data obtained in human-machine conversation. The task concerns with denotation extraction from answer hints collected interactively in a dialogue. The task is motivated by the need for large amounts of training data for question answering dialogue system development, where the data is often expensive and hard to collect. Being able to collect denotation interactively and directly from users, one could improve, for example, natural understanding components online and ease the collection of the training data. This paper also presents introductory results of evaluation of several denotation extraction models including attention-based neural network approaches.

Tento článek představuje novou úlohu na využití dat od uživatelů dialogových systémů v konverzacích člověk-stroj. Tato úloha se zaměřuje na sběr denotací extrahováním z přirozených vět získaných v průběhu dialogu. Motivace spočívá v potřebě velkého monžství trénovacích dat pro vývoj Q&A dialogových systémů, přičemž získání těchto dat je obvykle těžké a nákladné. Získávání denotací při interakcích s uživateli například umožňuje online vylepšování komponent pro porozumění přirozenému jazyku a zjednodušit sběr trénovacích dat. Tento článek také prezentuje výsledky evaluace několika přístupů k extrakci denotací zahrnující modely založené na neuronových sítích s attention architekturou.


Hybrid Dialog State Tracker with ASR Features

Hybridní State Tracker pro Dialog s ASR Featurami

This paper presents a hybrid dialog state tracker enhanced by trainable Spoken Language Understanding (SLU) for slot-filling dialog systems. Our architecture is inspired by previously proposed neural-network-based belief-tracking systems. In addition, we extended some parts of our modular architecture with differentiable rules to allow end-to-end training. We hypothesize that these rules allow our tracker to generalize better than pure machine-learning based systems. For evaluation, we used the Dialog State Tracking Challenge (DSTC) 2 dataset - a popular belief tracking testbed with dialogs from restaurant information system. To our knowledge, our hybrid tracker sets a new state-of-the-art result in three out of four categories within the DSTC2.

Tento článek představuje hybridní dialog state tracker, rozšířený o trénovatelnou jednotku zpracování přirozeného jazyka (SLU). Naše architektura je inspirována belief trackery založenými na neuronových sítích. Tento přístup navíc rozšiřujeme o derivovatelná prvidla, která umožní end-to-end trénink. Tato pravidla umožní našemu trackeru lépe generalizovat v porovnání s trackery založenými pouze na strojovém učení. Pro evaluaci používáme Dialog State Tracking Challenge (DSTC) 2 - populární dataset využívaný pro srovnání výkonnosti belief trackerů. Podle informací, které máme, náš tracker dosahuje state-of-the-art výsledků ve třech ze čtyř kategorií datasetu DSTC2.

Miroslav Vodolán
Rudolf Kadlec
Jan Kleindienst


Udapi: Universal API for Universal Dependencies

Udapi: univerzální API pro Universal Dependencies

Udapi is an open-source framework providing
an application programming interface
(API) for processing Universal Dependencies
data. Udapi is available in
Python, Perl and Java. It is suitable
both for full-fledged applications and fast
prototyping: visualization of dependency
trees, format conversions, querying, editing
and transformations, validity tests, dependency
parsing, evaluation etc.

Udapi je open-source framework poskytující APO pro zpracovávání dat z projektu Universal Dependencies.
Implementace Udapi je dostupné pro programovací jazyky: Python, Perl a Java. Udapi je vhodné jak pro plnohodnotné aplikace, tak pro rychlé vyváření prototypů: vizualizace stromů, konverze formátu, dotazování, editace, transformace, testy validity, závislostní parsing, vyhodnocování, atd.

Martin Popel
Zdeněk Žabokrtský
Martin Vojtek


CUNI System for WMT17 Automatic Post-Editing Task

Systém UK pro úlohu automatické posteditace strojového překladu WTM17

Following upon the last year's CUNI system for automatic post-editing of machine translation output,
we focus on exploiting the potential of sequence-to-sequence neural models for this task. In this system description paper, we compare several encoder-decoder architectures on a smaller-scale models and present the system we submitted to WMT 2017 Automatic Post-Editing shared task based on this preliminary comparison. We also show how simple inclusion of synthetic data can improve the overall performance as measured by an automatic evaluation metric. Lastly, we list few example outputs generated by our post-editing system.

V návaznosti na loňský systém pro automatickou post-editaci strojového překladu Karlovy Univerzity se soustředíme na využití potenciálu sequence-to-sequence neuronových modelů pro danou úlohu. V článku nejprve porovnáváme několik architektur typu enkodér-dekodér na modelech menšího měřítka a představujeme systém, který byl vybrán na základě těchto předběžných výsledků a odeslán na WMT 2017 Automatic Post-Editing shared task. V článku také ukazujeme jak jednoduchá inkluze umělých dat dokáže vylepšit úspěšnost modelu na základě automatických evaluačních metrik. V závěru uvádíme několik příkladů výstupů vygenerových našim post-editačním systémem.


Edinburgh’s Statistical Machine Translation Systems for WMT16

Edinburské statistické překladové systémy pro WMT16

This paper describes the University of Edinburgh’s
phrase-based and syntax-based
submissions to the shared translation tasks
of the ACL 2016 First Conference on Machine
Translation (WMT16). We submitted
five phrase-based and five syntaxbased
systems for the news task, plus one
phrase-based system for the biomedical
task.

Článek popisuje frázové a syntaktické překladové systémy Univerzity v Edinburku účastnící se soutěžní překladového úlohy WMT16.

Phil Williams
Rico Sennrich
Maria Nadejde
Matthias Huck
Barry Haddow
Ondřej Bojar


42th Year of the Olympiad in Czech Language

Analysis of competition tasks of the Olympiad in Czech language, evaluation of students' language skills.

Analýza soutěžních úkolů z Olympiády v českém jazyce, hodnocení jazykových dovedností studentů.


Evaluator of Discourse (EVALD 1.0) is a software that serves for automatic evaluation of surface coherence (cohesion) in Czech texts written by native speakers of Czech. Software evaluates the level of the given text from the perspective of its surface coherence (i.e. it takes into consideration, e.g., the frequency and diversity of connectives, richness of vocabulary etc.).

Počítačový nástroj Evaluátor diskurzu (EVALD 1.0) slouží k automatickému hodnocení povrchové koherence (koheze) textů v češtině psaných rodilými mluvčími češtiny. Software tedy hodnotí (známkuje) úroveň předloženého textu z hlediska jeho povrchové výstavby (zohledňuje např. frekvenci a rozmanitost spojovacích prostředků, bohatost slovní zásoby apod.).

Kateřina Rysová
Jiří Mírovský
Michal Novák
Magdaléna Rysová


Evaluator of Discourse for Foreigners (EVALD 1.0 for Foreigners) is a software that serves for automatic evaluation of surface coherence (cohesion) in Czech texts written by non-native speakers of Czech. Software evaluates the level of the given text from the perspective of its surface coherence (i.e. it takes into consideration, e.g., the frequency and diversity of connectives, richness of vocabulary etc.).

Počítačový nástroj Evaluátor diskurzu pro cizince (EVALD 1.0 pro cizince) slouží k automatickému hodnocení povrchové koherence (koheze) textů v češtině psaných nerodilými mluvčími češtiny. Software hodnotí úroveň předloženého textu z hlediska jeho povrchové výstavby (zohledňuje např. frekvenci a rozmanitost užitých spojovacích prostředků, bohatost slovní zásoby apod.).


Coreference and Ellipsis in Prague Dependency Treebank

Koreference a elipsa v Pražském závislostním korpusu

The paper focuses on which role is given to elided sentence participants in coreference chains in the text, i.e. whether (and to which degree) the participants that are present only implicitly in the surface layer are involved in relations of textual and grammatical coreference. Generally, the paper introduces  he methods how it is possible to examine the interplays of different language phenomena in corpus data of the Prague Dependency Treebank containing multilayer annotation.

Článek popisuje, jakou roli hrají elidované větné participanty v koreferenčních řetězcích v textu, tj. zda a do jaké míry se participanty, které jsou v povrchové větné struktuře přítomné pouze implicitně, zapojují do vztahů textové a gramatické koreference. Článek zároveň představuje metody, jimiž je možné zkoumat vzájemné vztahy mezi různými jazykovými jevy, a to na datech Pražského závislostního korpusu, který obsahuje anotaci lingvistických jevů na několika jazykových rovinách.