ufal/bilingual-abstracts-corpus huggingface dataset:
UMR annotation of multiword expressions
Anotace MWE v UMR
Year: 2023
Authors: Julia Bonn, Andrew Cowell, Jan Hajič, Alexis Palmer, Martha Palmer, James Pustejovsky, Zdeňka Urešová, Shira Wein, Nianwen Xue, Jin Zhou

Abstract (English):
Similarly to AMR, Uniform Meaning Representation (UMR) is a graph-based formalism with nodes as concepts and edges as relations between them. When used to represent natural language semantics, words in a sentence will be mapped to concepts in the UMR graph. Multiword expressions (MWEs) pose a particular challenge to UMR annotation because they deviate from the default one-to-one mapping between words and concepts. There are different types of MWEs which require different kinds of annotation that must be specified in guidelines. This paper discusses the specific treatment for each type of MWE and its mapping to a UMR concept.

Abstract (Czech):
Podobně jako AMR, Uniform Meaning Representation (UMR) je grafový formalismus s uzly jako pojmy a hranami jako vztahy mezi nimi. Pokud se používá k reprezentaci sémantiky přirozeného jazyka, budou slova ve větě mapována na pojmy v UMR grafu. Víceslovné výrazy (MWE) představují zvláštní výzvu pro UMR anotaci, protože se odchylují od výchozího mapování jeden na jednoho mezi slovy a pojmy. Existují různé typy MWE, které vyžadují různé druhy anotací, které musí být specifikovány v pokynech. Tato práce pojednává o specifickém zacházení pro každý typ MWE a jeho mapování na UMR koncept.
Mapping AMR to UMR: Resources for Adapting Existing Corpora for Cross-Lingual Compatibility
Mapování AMR na UMR: Zdroje pro přizpůsobení stávajících korpusů pro mezijazykovou kompatibilitu
Year: 2023
Authors: Julia Bonn, Skatje Myers , Jens E. L. van Gysel, Lukas Denk, Meagan Vigus, Jin Zhou, Andrew Cowell, William Croft, Jan Hajič, James Martin, Alexis Palmer, Martha Palmer, James Pustejovsky, Zdeňka Urešová, Rosa Vallejos, Nianwen Xue

Abstract (English):
This paper presents detailed mappings between
the structures used in Abstract Meaning Representation (AMR) and those used in Uniform
Meaning Representation (UMR). These structures include general semantic roles, rolesets, and concepts that are largely shared between
AMR and UMR, but with crucial differences. While UMR annotation of new low-resource languages is ongoing, AMR-annotated corpora
already exist for many languages, including lots of English data, which are ripe for conversion to UMR format. Rather than focusing on semantic coverage that is new to UMR (which
 will likely need to be dealt with manually), this paper serves as a resource (with illustrated mappings) for users looking to understand the fine-grained adjustments that have been made to the representation techniques for semantic categories present in both AMR and UMR

Abstract (Czech):
Tato práce představuje detailní mapování mezi
strukturami používanými v Abstract Meaning Representation (AMR) a strukturami používanými v Uniform
Meaning Representation (UMR). Tyto struktury zahrnují obecné sémantické role, rolesety a koncepty, které jsou z velké části sdíleny mezi
AMR a UMR, ale se zásadními rozdíly. Zatímco UMR anotace nových nízkozdrojových jazyků probíhá, AMR anotované korpusy
již existují pro mnoho jazyků, včetně spousty anglických dat, které jsou zralé pro konverzi do formátu UMR. Spíše než se soustředit na sémantické pokrytí, které je v UMR nové (které
bude pravděpodobně potřeba řešit ručně), tato práce slouží jako zdroj (s ilustrovanými mapováním) pro uživatele, kteří hledají pochopení jemnozrnných úprav, které byly provedeny v reprezentačních technikách pro sémantické kategorie přítomné v AMR i UMR
Unsupervised segmentation of Gregorian chant melodies for exploring chant modality
Unsupervised segmentace gregoriánských melodií pro zkoumání chorální modality
Year: 2023
Authors: Vojtěch Lanz

Abstract (English):
Gregorian chant, as an oral musical tradition, was performed by singers that had to memorize thousands of melodies. Each melody has a set of properties, one of which is what mode it belongs to within the modal system. To understand the learning process principles of chants, it may be helpful to decompose melodies into smaller units and analyze their relationship to modality. In this work, we compare Bayesian and neural network unsupervised segmentation methods. We measure their performance on evaluation metrics we design in order to examine the chant’s properties with respect to the memorization challenge considering the modality aspects. For this purpose, we have two datasets, one with over thirteen thousand antiphons and the other with over seven thousand responsories. We find the Pitman-Yor process to be a more fitting model than BERT for this particular task, especially the conditional Pitman-Yor process model we proposed to segment each mode independently. We provide several clear arguments that modality and chant segmentation are closely connected. We also dispute the claim by Cornelissen et al. [2020] that the natural segmentation by chant words or syllables is best in terms of mode classification, and we provide a new state-of-the-art performance on the mode classification task.

Abstract (Czech):
Gregoriánský chorál, jako ústní hudební tradice, byl prováděn zpěváky, kteří se museli naučit tisíce melodií. Každá melodie má několik vlastností, z nichž jednou je, do jakého modu v rámci modálního systému patří. Pro pochopení principů vyučování chorálových melodií může být užitečné rozložit melodie na menší jednotky a analyzovat jejich vztah k modalitě. V této práci porovnáváme modely neřízené segmentace založené na Bayesovských metodách s těmi, které využívají neuronové sítě. Jejich schopnost segmentovat chorální melodie měříme námi navrženými metrikami s cílem prozkoumat vlastnosti chorálů, jak v kontextu modality, tak v kontextu řešení problému se zapamatováním si všech zpěvů. K tomuto účelu máme k dispozici dva datasety: jeden s více než třinácti tisíci antifonami a druhý s více než sedmi tisíci responsorií. Zjistili jsme, že metoda založená na Pitman-Yor procesu je pro tuto konkrétní úlohu vhodnějším modelem než BERT, zejména námi navržený podmíněný model Pitman-Yor procesu, který segmentuje každý modus samostatně. Uvádíme několik jasných argumentů, že modalita úzce souvisí se segmentací melodií. Rovněž zpochybňujeme tvrzení, že přirozená segmentace podle slov nebo slabik chorálu je z hlediska klasifikace modů nejlepší (Cornelissen et al. [2020]), a poskytujeme doposud nejlepší výsledek v úloze klasifikace modů.
Text boundaries do not provide a better segmentation of Gregorian antiphons
Hranice textu neumožňují lepší segmentaci gregoriánských antifon
Year: 2023
Authors: Vojtěch Lanz, Jan Hajič, jr.

Abstract (English):
It has been previously proposed that syllable and word boundaries in Gregorian chant texts can be used to segment chant melodies in a more meaningful way than segmentation methods that do not take textual information into account, based on how accurately the mode of a melody can be determined from the presence of such melodic segments. This was evidenced by empirical measurements on antiphons and responsories with fully transcribed melodies available from the Cantus database. We show that for antiphons, however, this result does not hold, as in these experiments, differentiae were not removed from the transcribed melodies. With appropriate data cleaning, the modality of a melody can be determined from segments that ignore textual boundaries just as accurately, and the resulting classification scores are not significantly better than those obtained from pitch profiles. Thus, while the idea is clearly attractive, there is currently no reason to suspect that textual boundaries lead to a more meaningful segmentation of chant melodies.

Abstract (Czech):
Již dříve bylo navrženo, že hranice slabik a slov v textech gregoriánského chorálu mohou být použity k segmentaci zpěvních melodií smysluplnějším způsobem než segmentační metody, které neberou v úvahu textové informace, a to na základě toho, jak přesně lze z přítomnosti těchto melodických segmentů určit modus melodie. To bylo prokázáno empirickými měřeními na antifonách a responsoriích s plně transkribovanými melodiemi dostupnými z databáze Cantus. Ukázali jsme však, že u antifon tento výsledek neplatí, protože při těchto experimentech nebyly z transkribovaných melodií odstraněny diference. Při vhodném čištění dat lze modalitu melodie určit ze segmentů, které ignorují textové hranice, stejně přesně a výsledné klasifikační skóre není výrazně lepší než skóre získané z výškových profilů. Ačkoli je tedy tato myšlenka zjevně lákavá, v současné době není důvod se domnívat, že textové hranice vedou k smysluplnější segmentaci zpěvních melodií.
Team Synapse @ AutoMin 2023: Leveraging BART-Based Models for Automatic Meeting Minuting
Tým Synapse @ AutoMin 2023: Využití modelů založených na BART pro automatické zápisy ze schůzek
Year: 2023
Authors: Kristýna Klesnilová, Michelle Elizabeth

Abstract (English):
This paper describes the approach we followed for our submission to the Second Run of the Automatic Minuting Shared Task. Our method- ology centers around employing BART-based models fine-tuned on diverse summarization corpora. The segmented meeting transcripts are fed into the models, generating summaries that are subsequently combined and formatted into the final meeting minutes.

Abstract (Czech):
Tento článek popisuje přístup, který jsme použili při zadávání druhého běhu sdílené úlohy automatických zápisů ze schůzek. Naše metodika se soustředí na použití modelů založených na BART a vyladěných na různých korpusech se sumarizacemi. Segmentované přepisy schůzí se vkládají do modelů a ty generují shrnutí, která jsou následně spojena a zformátována do konečného zápisu ze schůze.
Attitude identification in diplomatic speeches: challenges in the annotation process
Identifikace postojů v diplomatických projevech: výzvy v procesu anotace
Year: 2023
Authors: Mariia Anisimova, Šárka Zikánová

Abstract (English):
This study provides an overview of challenges that occurred during the creation of the annotation scenario for the attitude annotation in diplomatic speeches of the UNSC. 

Diplomatic speeches form a very peculiar group of texts that are different from other types of discourse. The prominent characteristics of these texts are the understated tone (Stanko, 2001) and indirectness. These pragmatic features prove to be important to how diplomats express opinions, which are most frequently not of their own but of the political body they represent. It is also because of them, that the diplomatic attitudes are so particular and require their own approach in the process of annotation. 

The research on annotating attitudes has long been an ongoing process (Fuoli, 2018), (O’Donnell, 2013) and is generally perceived as a complex procedure not only due to elaborated annotation schemes but more so due to the lack of definitive criteria for the identification and categorization of attitudes and the other appraisal labels.

Our annotation scenario followed the attitude part of the Appraisal theory (Martin and White, 2005). The various challenges in annotating the speeches such as the extent of arguments, identification of attitude in verbal forms, and complex structures, were classified, and, in part, resolved. The conclusions of this study would be helpful for anyone considering this type of attitude analysis for working with diplomatic texts.

Abstract (Czech):
Tato studie poskytuje přehled výzev, které se vyskytly při tvorbě anotačního scénáře pro postojovou anotaci v diplomatických projevech RB OSN.

Diplomatické projevy tvoří velmi svéráznou skupinu textů, které se liší od jiných typů diskurzu. Charakteristickými rysy těchto textů jsou decentní vyznění (Stanko, 2001) a nepřímost. Tyto pragmatické rysy se ukazují jako důležité pro to, jak diplomaté vyjadřují názory, které většinou nejsou jejich vlastní, ale politického orgánu, který zastupují. I kvůli nim jsou diplomatické postoje tak osobité a vyžadují vlastní přístup v procesu anotace.

Výzkum anotačních postojů je dlouhodobě probíhajícím procesem (Fuoli, 2018), (O'Donnell, 2013) a je obecně vnímán jako komplexní postup nejen díky propracovaným anotačním schématům, ale především kvůli nedostatku definitivních kritérií pro identifikace a kategorizace postojů a dalších hodnotících značek.

Náš scénář anotace sledoval postojovou část teorie hodnocení (Martin a White, 2005). Různé problémy při anotaci projevů, jako je rozsah argumentů, identifikace postoje ve verbálních formách a složité struktury, byly klasifikovány a částečně vyřešeny. Závěry této studie by byly užitečné pro každého, kdo uvažuje o tomto typu analýzy postojů pro práci s diplomatickými texty.
A picture is worth a thousand words - on Multimodal Summarization
Obrázek má cenu tisíce slov - o multimodální sumarizaci
Year: 2023
Authors: Mateusz Krubiński

Abstract (English):
Automatic summarization is one of the basic tasks both in Natural Language Processing – text summarization – and in Computer Vision – video summarization. Multimodal summarization connects those two fields by creating a summary based on information from different modalities. To motivate such research, it’s enough to visit any news portal: the most popular multimedia news formats are now multimodal – the reader is often presented not only with a textual article but also with a short, vivid video. To draw the attention of the reader, such video-based articles are usually presented as a short textual summary paired with an image thumbnail.

In this talk, I will present a brief history of text-centric Multimodal Summarization - a formulation in which we require the textual modality to be present both in the input and in the output. I will show how the task evolved over the years and highlight what I believe to be the major challenges. In the second part, I will talk about my own experiments, focusing on pre-training and evaluation methodologies. I will also share my experience with creating a dataset based on information automatically collected from internet webpages, which shows that sometimes aiming lower may lead to a great outcome.

Abstract (Czech):
Automatická sumarizace je jedním ze základních úkolů jak v Natural Language Processing – sumarizace textu, tak v Computer Vision – sumarizace videa. Multimodální sumarizace spojuje tyto dva obory tím, že vytváří souhrn založený na informacích z různých modalit. Pro motivaci k takovému výzkumu stačí navštívit jakýkoli zpravodajský portál: nejpopulárnější multimediální zpravodajské formáty jsou dnes multimodální – čtenář je často prezentován nejen s textovým článkem, ale také s krátkým, živým videem. Pro upoutání pozornosti čtenáře jsou takové video-články obvykle prezentovány jako krátký textový souhrn spojený s náhledem obrázku.

V tomto příspěvku představím stručnou historii textově zaměřené multimodální sumarizace – formulace, ve které požadujeme, aby textová modalita byla přítomna jak ve vstupu, tak ve výstupu. Ukážu, jak se úkol vyvíjel v průběhu let, a zdůrazním, co považuji za hlavní výzvy. V druhé části budu mluvit o svých vlastních experimentech, se zaměřením na metodiky předškolení a hodnocení. Podělím se také o své zkušenosti s vytvářením datového souboru založeného na informacích automaticky shromážděných z internetových stránek, které ukazují, že někdy míření níže může vést ke skvělému výsledku.
Basic Arithmetic Properties in the Space of Language Model Prompts
Základní aritmetické vlastnosti v prostoru jazykového modelu Výzvy
Year: 2023
Authors: Mateusz Krubiński

Abstract (English):
Large pre-trained neural language models (LLMs) that can effectively utilize enormous amounts of unlabeled textual data have recently changed the whole field of Natural Language Processing. By utilizing prompting techniques enabled by the in-context learning capabilities, LLMs have been shown to perform on par with dedicated models trained for downstream tasks. One such task is numerical reasoning and, in particular, the ability to conduct basic arithmetic operations. The question we wish to answer is whether the basic properties of arithmetic operations, such as the commutative property, hold in the space of LLM prompts - does asking the LLM model to compute 13+37 vs 37+13 result, on average, in the same outcome? In contrast to previous works, which reported Accuracy only, we take a closer look (MAE, Pearson's R) at the error distribution to better understand the performance with regards to scaling laws.

Abstract (Czech):
Velké předškolené neurojazykové modely (LLM), které dokáží efektivně využívat obrovské množství neoznačených textových dat, v poslední době změnily celou oblast zpracování přirozeného jazyka. Využitím technik nápovědy, které umožňují schopnosti učení v kontextu, se ukázalo, že LLM fungují na stejné úrovni jako specializované modely trénované pro navazující úlohy. Jednou z takových úloh je numerické uvažování a zejména schopnost provádět základní aritmetické operace. Otázkou, na kterou chceme odpovědět, je, zda základní vlastnosti aritmetických operací, jako je komutativní vlastnost, drží v prostoru LLM nápověd – vede dotazování LLM modelu na výpočet 13+37 vs 37+13 v průměru ke stejnému výsledku? Na rozdíl od předchozích prací, které uváděly pouze Přesnost, se blíže podíváme (MAE, Pearsonovo R) na rozložení chyb, abychom lépe porozuměli výkonu s ohledem na škálovací zákony.
Can Summary Evaluation Benefit from Translation Evaluation?
Může souhrnné hodnocení prospět hodnocení překladu?
Year: 2023
Authors: Mateusz Krubiński

Abstract (English):
Comet is a recently proposed trainable neural-based evaluation metric developed to assess the quality of Machine Translation systems. In this paper, we explore the usage of Comet for evaluating Text Summarization systems -- despite being trained on multilingual MT outputs, it performs remarkably well in monolingual settings, when predicting summarization output quality. We introduce a variant of the model -- Comes -- trained on the annotated summarization outputs that uses MT data for pre-training. We examine its performance on several datasets with human judgments collected for different notions of summary quality, covering several domains and languages.

Abstract (Czech):
Comet je nedávno navržená trénovatelná neurální vyhodnocovací metrika vyvinutá pro hodnocení kvality systémů strojového překladu. V tomto článku prozkoumáme použití Cometu pro vyhodnocování systémů sumarizace textu – přestože jsme byli vyškoleni na vícejazyčné výstupy MT, funguje pozoruhodně dobře v jednojazyčném prostředí, když předpovídá kvalitu výstupu sumarizace. Představujeme variantu modelu -- Comes -- trénovanou na anotovaných sumárních výstupech, která využívá MT data pro předtrénování. Zkoumáme jeho výkon na několika souborech dat s lidskými úsudky shromážděnými pro různé pojmy souhrnné kvality, které pokrývají několik domén a jazyků.
Multi-Parallel Corpus of North Levantine Arabic
Multiparalelní korpus Severní Levantštiny
Year: 2023
Authors: Mateusz Krubiński, Hashem Sellat, Shadi Saleh, Adam Pospíšil, Petr Zemánek, Pavel Pecina

Abstract (English):
Low-resource Machine Translation (MT) is characterized by the scarce availability of training data and/or standardized evaluation benchmarks. In the context of Dialectal Arabic, recent works introduced several evaluation benchmarks covering both Modern Standard Arabic (MSA) and dialects, mapping, however, mostly to a single Indo-European language - English. In this work, we introduce a multi-lingual corpus consisting of 120,600 multi-parallel sentences in English, French, German, Greek, Spanish, and MSA selected from the OpenSubtitles corpus, which were manually translated into the North Levantine Arabic. By conducting a series of training and fine-tuning experiments, we explore how this novel resource can contribute to the research on Arabic MT. We make the dataset publicly available at http://hdl.handle.net/11234/1-5033 for research purposes.

Abstract (Czech):
Nízkozdrojový strojový překlad (MT) se vyznačuje vzácnou dostupností školicích dat a/nebo standardizovaných hodnotících měřítek. V souvislosti s dialektickou arabštinou zavedly nedávné práce několik hodnotících měřítek zahrnujících jak moderní standardní arabštinu (MSA), tak dialekty, mapující však většinou do jediného indoevropského jazyka – angličtiny. V této práci představujeme mnohojazyčný korpus skládající se ze 120 600 víceparalelních vět v angličtině, francouzštině, němčině, řečtině, španělštině a MSA vybraných z korpusu OpenSubtitles, které byly ručně přeloženy do severolevantinské arabštiny. Provedením řady školicích a dolaďovacích experimentů zkoumáme, jak může tento neotřelý zdroj přispět k výzkumu arabské MT. Datový soubor zveřejňujeme pro výzkumné účely na adrese http://hdl.handle.net/11234/1-5033.
MLASK: Multimodal Summarization of Video-based News Articles
MLASK: Multimodální shrnutí zpravodajských článků založených na videu
Year: 2023
Authors: Mateusz Krubiński, Pavel Pecina

Abstract (English):
In recent years, the pattern of news consumption has been changing. The most popular multimedia news formats are now multimodal - the reader is often presented not only with a textual article but also with a short, vivid video. To draw the attention of the reader, such video-based articles are usually presented as a short textual summary paired with an image thumbnail.In this paper, we introduce MLASK (MultimodaL Article Summarization Kit) - a new dataset of video-based news articles paired with a textual summary and a cover picture, all obtained by automatically crawling several news websites. We demonstrate how the proposed dataset can be used to model the task of multimodal summarization by training a Transformer-based neural model. We also examine the effects of pre-training when the usage of generative pre-trained language models helps to improve the model performance, but (additional) pre-training on the simpler task of text summarization yields even better results. Our experiments suggest that the benefits of pre-training and using additional modalities in the input are not orthogonal.

Abstract (Czech):
V posledních letech se vzorec konzumace zpráv mění. Nejoblíbenější multimediální zpravodajské formáty jsou nyní multimodální – čtenáři je často prezentován nejen textový článek, ale také krátké, živé video. Abychom upoutali pozornost čtenáře, jsou takové články založené na videu obvykle prezentovány jako krátké textové shrnutí spárované s miniaturou obrázku. V tomto článku představujeme MLASK (MultimodaL Article Summarization Kit) - nový datový soubor zpravodajských článků založených na videu. spárované s textovým shrnutím a úvodním obrázkem, vše získané automatickým procházením několika zpravodajských webů. Ukazujeme, jak lze navrhovanou datovou sadu použít k modelování úlohy multimodální sumarizace pomocí trénování neurálního modelu založeného na transformátoru. Zkoumáme také účinky předtrénování, kdy použití generativních předtrénovaných jazykových modelů pomáhá zlepšit výkon modelu, ale (dodatečné) předtrénování jednoduššího úkolu sumarizace textu přináší ještě lepší výsledky. Naše experimenty naznačují, že výhody předtréninku a použití dalších modalit ve vstupu nejsou ortogonální.
What is clear writing and why it makes sense. How to write clearly. A clear writing handbook for clerks.
Co je srozumitelný úřední text a proč má smysl psát srozumitelně.  Jak psát srozumitelné úřední texty. Příručka srozumitelného psaní pro úředníky
Year: 2023
Authors: Jana Šamánková, Silvie Cinková, Adam Herma

Abstract (English):
This is a comprehensible writing guide for officials with many practical examples of both comprehensible and non-comprehensible texts. At the beginning, there is a motivational chapter with an overview of the foreign practice of legal and official writing focused on the client.

Abstract (Czech):
Toto je příručka srozumitelného psaní pro úředníky s mnoha praktickými ukázkami srozumitelných i nesrozumitelných textů. Na začátku je motivační kapitola s rozhledem po zahraniční praxi právního a úředního psaní zaměřeného na klienta.