ufal/bilingual-abstracts-corpus huggingface dataset:
The Problem of Coherence in Natural Language Explanations of Recommendations
Problém koherence ve vysvětleních doporučení v přirozeném jazyce
Year: 2023
Authors: Jakub Raczyński, Mateusz Lango, Jerzy Stefanowski

Abstract (English):
Providing natural language explanations for recommendations is particularly useful from the perspective of a non-expert user. Although several methods for providing such explanations have recently been proposed, we argue that an important aspect of explanation quality has been overlooked in their experimental evaluation. Specifically, the coherence between generated text and predicted rating, which is a necessary condition for an explanation to be useful, is not properly captured by currently used evaluation measures. In this paper, we highlight the issue of explanation and prediction coherence by 1) presenting results from a manual verification of explanations generated by one of the state-of-the-art approaches 2) proposing a method of automatic coherence evaluation 3) introducing a new transformer-based method that aims to produce more coherent explanations than the state-of-the-art approaches 4) performing an experimental evaluation which demonstrates that this method significantly improves the explanation coherence without affecting the other aspects of recommendation performance.

Abstract (Czech):
Poskytování vysvětlení v přirozeném jazyce pro doporučení je užitečné zejména z pohledu neodborného uživatele. Ačkoli bylo v poslední době navrženo několik metod pro poskytování takových vysvětlení, tvrdíme, že při jejich experimentálním hodnocení byl opomenut důležitý aspekt kvality vysvětlení. Konkrétně koherence mezi generovaným textem a předpovídaným hodnocením, která je nezbytnou podmínkou užitečnosti vysvětlení, není v současnosti používanými hodnotícími metrikami náležitě zachycena. V tomto článku upozorňujeme na problematiku koherence vysvětlení a předpovědi tím, že 1) prezentujeme výsledky manuálního ověřování vysvětlení generovaných jedním z nejmodernějších přístupů 2) navrhujeme metodu automatického hodnocení koherence 3) představujeme novou metodu založenou na transformeru, jejímž cílem je vytvářet koherentnější vysvětlení než nejmodernější přístupy 4) provádíme experimentální vyhodnocení, které ukazuje, že tato metoda výrazně zlepšuje koherenci vysvětlení, aniž by ovlivnila ostatní aspekty kvality doporučení.
Long-form Simultaneous Speech Translation: Thesis Proposal
Simultánny preklad dlhých prejavov: Téza
Year: 2023
Authors: Peter Polák

Abstract (English):
Simultaneous speech translation (SST) aims to provide real-time translation of spoken language, even before the speaker finishes their sentence. Traditionally, SST has been addressed primarily by cascaded systems that decompose the task into subtasks, including speech recognition, segmentation, and machine translation. However, the advent of deep learning has sparked significant interest in end-to-end (E2E) systems. Nevertheless, a major limitation of most approaches to E2E SST reported in the current literature is that they assume that the source speech is pre-segmented into sentences, which is a significant obstacle for practical, real-world applications. This thesis proposal addresses end-to-end simultaneous speech translation, particularly in the long-form setting, i.e., without pre-segmentation. We present a survey of the latest advancements in E2E SST, assess the primary obstacles in SST and its relevance to long-form scenarios, and suggest approaches to tackle these challenges.

Abstract (Czech):
Cílem simultánního překladu řeči (SST) je zajistit překlad mluvené řeči v reálném čase, ještě než mluvčí dokončí větu. Tradičně se SST řeší především pomocí kaskádových systémů, které rozkládají úlohu na dílčí úkoly, včetně rozpoznávání řeči, segmentace a strojového překladu. Nástup hlubokého učení však vyvolal značný zájem o systémy typu end-to-end (E2E). Nicméně hlavním omezením většiny přístupů k E2E SST uváděných v současné literatuře je to, že předpokládají, že zdrojová řeč je předem segmentována do vět, což je pro praktické, reálné aplikace významnou překážkou. Tento návrh disertační práce se zabývá simultánním překladem řeči end-to-end, zejména v prostředí dlouhých promluv, tj. bez předběžné segmentace. Předkládáme přehled nejnovějších pokroků v E2E SST, hodnotíme hlavní překážky v SST a jejich význam pro scénáře s dlouhou formou a navrhujeme přístupy k řešení těchto problémů.
Towards Efficient Simultaneous Speech Translation:  CUNI-KIT System for Simultaneous Track at IWSLT 2023
K efektivnímu simultánnímu překladu řeči: Systém CUNI-KIT pro simultánní stopu na IWSLT 2023
Year: 2023
Authors: Peter Polák, Danni Liu, Ngoc-Quan Ngoc, Jan Niehues, Alex Waibel, Ondřej Bojar

Abstract (English):
In this paper, we describe our submission to the Simultaneous Track at IWSLT 2023. This year, we continue with the successful setup from the last year, however, we adopt the latest methods that further improve the translation quality. Additionally, we propose a novel online policy based on CTC. We show that the proposed CTC online policy can be applied to both streaming blockwise models and offline encoder-decoder models. We observe significant improvements in quality (up to 1.1 BLEU) and the computational footprint (up to 45% relative RTF).

Abstract (Czech):
V tomto článku popisujeme naše přihlášení do Simultaneous Track na IWSLT 2023. V letošním roce pokračujeme v úspěšném nastavení z minulého roku, ale přijímáme nejnovější metody, které dále zlepšují kvalitu překladu. Navíc navrhujeme nové online zásady založené na CTC. Ukazujeme, že navrhovanou online zásadu CTC lze aplikovat jak na blokové streamování, tak na offline modely kodéru a dekodéru. Pozorujeme výrazné zlepšení kvality (až 1,1 BLEU) a výpočetní stopy (až 45 % relativní RTF).
Incremental Blockwise Beam Search for Simultaneous Speech Translation with Controllable Quality-Latency Tradeoff
Inkrementální dekódování pro simultánní překlad řeči s regulovatelným kompromisem mezi kvalitou a latencí
Year: 2023
Authors: Peter Polák, Brian Yan, Shinji Watanabe, Alex Waibel, Ondřej Bojar

Abstract (English):
Blockwise self-attentional encoder models have recently emerged as one promising end-to-end approach to simultaneous speech translation.
These models employ a blockwise beam search with hypothesis reliability scoring to determine when to wait for more input speech before translating further.
However, this method maintains multiple hypotheses until the entire speech input is consumed - this scheme cannot directly show a single incremental translation to users.
Further, this method lacks mechanisms for controlling the quality vs. latency tradeoff.
We propose a modified incremental blockwise beam search incorporating local agreement or hold-n policies for quality-latency control.
We apply our framework to models with limited and full-context encoders, with the latter demonstrating that offline models can be effectively converted to online models.
Experimental results on MuST-C show 0.6-3.6 BLEU improvement without changing latency or 0.8-1.4 s latency improvement without changing quality.

Abstract (Czech):
Blockwise self-attentional encoder modely mají nedávno emerged jako jeden promising end-to-end approach k simultaneous speech translation.
Tyto modely employ a blockwise beam hledání s hypothesis reliability scoring to determine when to wait for more input speech before translating further.
However, this method maintains multiple hypotheses until entire speech input is consumed - this scheme cannot directly show a single incremental translation to users.
Further, this method lacks mechanismy pro kontrolu kvality vs. latency tradeoff.
We propose a modified incremental blockwise beam hledaný integrační místní agreement or hold-n policies pro quality-latency control.
Jsou apply naše framework k modelům s limitovanými a plnými contextovými kodéry, s pozdější demonstrací, že offline modely mohou být efektivně konvertovány do online modelů.
Experimental results on MuST-C show 0.6-3.6 BLEU improvement with changing latency nebo 0.8-1.4 s latency improvement with changing quality.
Long-Form End-to-End Speech Translation via Latent Alignment Segmentation
Překlad dlouhé formy řeči end-to-end pomocí segmentace latentního zarovnání
Year: 2023
Authors: Peter Polák, Ondřej Bojar

Abstract (English):
Current simultaneous speech translation models can process audio only up to a few seconds long. Contemporary datasets provide an oracle segmentation into sentences based on human-annotated transcripts and translations. However, the segmentation into sentences is not available in the real world. Current speech segmentation approaches either offer poor segmentation quality or have to trade latency for quality. In this paper, we propose a novel segmentation approach for a low-latency end-to-end speech translation. We leverage the existing speech translation encoder-decoder architecture with ST CTC and show that it can perform the segmentation task without supervision or additional parameters. To the best of our knowledge, our method is the first that allows an actual end-to-end simultaneous speech translation, as the same model is used for translation and segmentation at the same time. On a diverse set of language pairs and in- and out-of-domain data, we show that the proposed approach achieves state-of-the-art quality at no additional computational cost.

Abstract (Czech):
Současné modely simultánního překladu řeči dokážou zpracovat zvuk dlouhý pouze několik sekund. Současné datové sady poskytují věšteckou segmentaci na věty na základě přepisů a překladů komentovaných člověkem. Segmentace na věty však není v reálném světě k dispozici. Současné přístupy k segmentaci řeči nabízejí buď nízkou kvalitu segmentace, nebo musí vyměnit latenci za kvalitu. V tomto článku navrhujeme nový přístup segmentace pro překlad řeči od konce ke konci s nízkou latencí. Využíváme stávající architekturu enkodéru-dekodéru pro překlad řeči s ST CTC a ukazujeme, že může provádět úlohu segmentace bez dohledu nebo dodatečných parametrů. Podle našich nejlepších znalostí je naše metoda první, která umožňuje skutečný simultánní překlad řeči end-to-end, protože pro překlad a segmentaci se používá stejný model současně. Na rozmanitém souboru jazykových párů a dat v doméně i mimo ni ukazujeme, že navrhovaný přístup dosahuje nejmodernější kvality bez dodatečných výpočetních nákladů.
A Dataset and Strong Baselines for Classification of Czech News Texts
Datová sada and silné základní metody pro klasifikaci českých novinových textů
Year: 2023
Authors: Hynek Kydlíček, Jindřich Libovický

Abstract (English):
Pre-trained models for Czech Natural Language Processing are often evaluated on purely linguistic tasks (POS tagging, parsing, NER) and relatively simple classification tasks such as sentiment classification or article classification from a single news source. As an alternative, we present CZEch NEws Classification dataset (CZE-NEC), one of the largest Czech classification datasets, composed of news articles from various sources spanning over twenty years, which allows a more rigorous evaluation of such models. We define four classification tasks: news source, news category, inferred author’s gender, and day of the week. To verify the task difficulty, we conducted a human evaluation, which revealed that human performance lags behind strong machine-learning baselines built upon pre-trained transformer models. Furthermore, we show that language-specific pre-trained encoder analysis outperforms selected commercially available large-scale generative language models.

Abstract (Czech):
Předtrénované modely pro zpracování přirozeného jazyka (NLP) v češtině se často vyhodnocují na čistě lingvistických úlohách (POS tagging, parsing, NER) a relativně jednoduchých klasifikačních úlohách, jako je klasifikace sentimentu nebo klasifikace zdroje článků. Jako alternativu představujeme CZEch NEws Classification dataset (CZE-NEC), jeden z největších českých klasifikačních datasetů. Skládá se ze zpravodajských článků z různých zdrojů v rozpětí více než dvaceti let, který umožňuje přísnější hodnocení NLP modelů. Definujeme čtyři klasifikační úlohy: zdroj zpráv, kategorie zpráv, odvozený gender autora a den v týdnu. Abychom ověřili obtížnost úloh, provedli jsme lidské hodnocení, které odhalilo, že lidský odhad zaostává za silnými základními modely strojového učení postavenými na předem natrénovaných modelech typu Transformer. Dále jsme ukázali, že jazykově specifické předtrénované enkodéry překonávají komerčně dostupné velké generativní jazykové modely.
Artificial intelligence in the library
Umělá inteligence v knihovně
Year: 2023
Authors: Miloslav Linc, Rudolf Rosa

Abstract (English):
We cordially invite you to April's Inspiromat dedicated to the topic of AI, or artificial intelligence. We will talk about what AI actually is (and what it isn't). We will introduce you to basic concepts to get an idea of how it all actually works. In the second part we will then focus specifically on textual models, introduce how such a model works and what can be done with them (like writing a play). In the third phase we will try to outline in the form of a dialogue the possibilities and changes that the development of AI will bring not only to libraries.
The guest will be Rudolf Rosa Ph.D., a researcher in the field of computational linguistics and artificial intelligence at the Institute of Applied and Formal Linguistics of MFF UK. As part of the Theiatre project and in cooperation with Švandový Theatre, he presented a full-length play for which 90% of the script was written by artificial intelligence. He is one of the members of the AI team in a context dedicated to popularization and education in the field of artificial intelligence.

Abstract (Czech):
Srdečně vás zveme na dubnový Inspiromat věnovaný tématu AI neboli umělé inteligence. Budeme si povídat o tom, co AI vlastně je (a co není). Seznámíme vás se základními pojmy, abyste získali představu, jak to celé vlastně funguje. V druhé části se pak zaměříme konkrétně na textové modely, představíme, jak takový model funguje a co se s nimi dá dělat (třeba napsat divadelní hra). Ve třetí fázi pak formou dialogu zkusíme nastínit možnosti a změny, které rozvoj AI přinese nejenom do knihoven.
Hostem bude Rudolf Rosa Ph.D., výzkumník v oblasti komputační lingvistiky a umělé inteligence na Ústavu aplikované a formální lingvistiky MFF UK. V rámci projektu Theiatre a ve spolupráci se Švandovým divadlem uvedl celovečerní divadelní hru, ke které z 90% scénář napsala umělá inteligence. Je jedním z členů týmu AI v kontextu, který se věnuje popularizaci a vzdělávání v oblasti umělé inteligence.
A corpus-based study of the semantic distribution of  denominal verb formation in English
Korpusová studie sémantické distribuce výrazů  denominálního tvoření sloves v angličtině
Year: 2023
Authors: Ana Díaz-Negrillo, Cristina Fernández Alcaina

Abstract (English):
The semantics of verb-deriving processes in English and, specifically, of conversion/zero-derivation and affixation has been extensively described in the literature from various theoretical and empirical approaches. In particular, some studies have proposed a methodology consisting in the manual semantic annotation of corpus concordances in order to assess the distribution of semantic categories across word-formation processes. This paper tests this methodology on a sample of 246 verbal hapaxes from the British National Corpus which were manually classified into the various semantic categories traditionally used in the literature. The results obtained are consistent with previous studies regarding the semantics of denominal verbs. Methodologically, this study shows the suitability of the method used, but also points at some of its limitations to be addressed in future research.

Abstract (Czech):
Sémantika slovotvorných procesů v angličtině, konkrétně konverze/derivace a afixace, byla v literatuře rozsáhle popsána z různých teoretických i empirických přístupů. Některé studie navrhly zejména metodiku spočívající v manuální sémantické anotaci korpusových konkordancí s cílem posoudit distribuci sémantických kategorií napříč slovotvornými procesy. Tento článek testuje tuto metodiku na vzorku 246 slovních hapaxů z Britského národního korpusu, které byly manuálně zařazeny do různých sémantických kategorií tradičně používaných v literatuře. Získané výsledky jsou v souladu s předchozími studiemi týkajícími se sémantiky denominálních sloves. Z metodologického hlediska tato studie ukazuje vhodnost použité metody, ale také poukazuje na některá její omezení, která je třeba v budoucím výzkumu odstranit.
The epistemic particle zřejmě in the light of parallel corpora
Epistemická částice zřejmě pohledem paralelního korpusu
Year: 2023
Authors: Jana Šindlerová, Barbora Štěpánková, Ingrid Lindgren Andrén

Abstract (English):
In  this  paper,  we  analyze  the  meaning  potential  of  the  Czech  epistemic  particle  
zřejmě, focusing on the degree of certainty it expresses. Based on a preliminary observation, 
we hypothesize that, contrary to the existing dictionary treatment, there are two separate meanings of zřejmě with different degree of certainty.
Our corpus study follows the assumption that comparing data from parallel corpora may be 
helpful in determining the fine-grained meaning of pragmatic markers, including epistemic markers. In the analysis, we investigate the epistemic features of English and Swedish translation equivalents of zřejmě, their semantic consistency and the ability of recipients to interpret the degree of certainty expressed.
The corpus data show that there are two interpretative tendencies differing in the degree of 
certainty expressed, one of them rooted in the evidential meaning. Nevertheless, not even native 
speakers are fully able to distinguish between these two meaning interpretations.

Abstract (Czech):
Článek se zabývá významem jistotní částice zřejmě, především s ohledem na míru jistoty, kterou tento výraz vyjadřuje. Vychází přitom z předpokladu, že překladová analýza může vyjasnit významové nuance jistotních částic. Srovnání dat z paralelních korpusů (českého-anglického-švédského) naznačuje dvě tendence v užívání výrazu zřejmě, kromě významu vyjadřujícího střední jistotu se objevuje i význam vyjadřující plnou jistotu s příznakem evidenciality. Nicméně ani rodilí mluvčí se zcela neshodnou ve významové interpretaci jednotlivých užití.
Exploring the Impact of Training Data Distribution and Subword Tokenization on Gender Bias in Machine Translation
Zkoumání dopadu distribuce školicích dat a tokenizace podslov na genderové zkreslení ve strojovém překladu
Year: 2023
Authors: Bar Iluz, Tomasz Limisiewicz, Gabriel Stanovsky, David Mareček

Abstract (English):
We study the effect of tokenization on gender bias in machine translation, an aspect that has been largely overlooked in previous works. Specifically, we focus on the interactions between the frequency of gendered profession names in training data, their representation in the subword tokenizer's vocabulary, and gender bias. We observe that female and non-stereotypical gender inflections of profession names (e.g., Spanish "doctora" for "female doctor") tend to be split into multiple subword tokens. Our results indicate that the imbalance of gender forms in the model's training corpus is a major factor contributing to gender bias and has a greater impact than subword splitting. We show that analyzing subword splits provides good estimates of gender-form imbalance in the training data and can be used even when the corpus is not publicly available. We also demonstrate that fine-tuning just the token embedding layer can decrease the gap in gender prediction accuracy between female and male forms without impairing the translation quality.

Abstract (Czech):
Studujeme vliv tokenizace na genderovou předpojatost ve strojovém překladu, což je aspekt, který byl v předchozích dílech do značné míry přehlížen. Konkrétně se zaměřujeme na interakce mezi frekvencí genderových názvů profesí v tréninkových datech, jejich zastoupením ve slovní zásobě podslova tokenizátora a genderovou předpojatostí. Pozorujeme, že ženské a nestereotypické rodové přechylování názvů povolání (např. španělské „doctora“ pro „doktorka“) má tendenci být rozděleno do více podslov. Naše výsledky naznačují, že nerovnováha genderových forem v modelovém tréninkovém korpusu je hlavním faktorem přispívajícím k genderové zaujatosti a má větší dopad než dělení podslov. Ukazujeme, že analýza rozdělení podslov poskytuje dobré odhady genderové nerovnováhy v trénovacích datech a lze ji použít, i když korpus není veřejně dostupný. Ukazujeme také, že jemné doladění vrstvy pro vkládání tokenů může snížit rozdíl v přesnosti predikce pohlaví mezi ženskými a mužskými formami, aniž by se zhoršila kvalita překladu.
Forms and Functions: Implicitness of Discourse Relations
Formy a funkce: Implicitnost diskurzních vztahů
Year: 2023
Authors: Šárka Zikánová

Abstract (English):
The lecture deals with the analysis of the causes of inter-annotator disagreement in implicit discourse relations in Czech and the relationship between the explicitness / implicitness of discourse relations and other linguistic features, such as sentence structure and the semantics of individual discourse relations.

Abstract (Czech):
Přednáška se zabývá analýzou příčin mezianotátorské neshody u implicitních diskurzních vztahů v češtině a vztahem mezi explicitností / implicitností diskurzních vztahů a dalšími jazykovými rysy, jako je věttná stavba a sémantika jednotlivých diskurzních vztahů.
Forms and functions: Implicitness of discourse relations
Formy a funkce: implicitnost diskurzních vztahů
Year: 2023
Authors: Šárka Zikánová

Abstract (English):
The invited lecture discusses inter-annotator agreement in implicit discourse relations and traces the relationship between semantics of discourse relations and their way of expression.

Abstract (Czech):
Zvaná přednáška rozebírá mezianotátorskou shodu u implicitních diskurzních vztahů a sleduje relaci mezi sémantikou diskurzních vztahů a jejich způsobem vyjádření.