ufal/bilingual-abstracts-corpus huggingface dataset:
Negative Lexical Constraints in Neural Machine Translation
Negativní lexikální omezení ve strojovém překladu
Year: 2023
Authors: Josef Jon, Dušan Variš, Michal Novák, Joao Paulo Aires, Ondřej Bojar

Abstract (English):
This paper explores negative lexical constraining in English to Czech neural machine translation. Negative lexical constraining is used to prohibit certain words or expressions in the translation produced by the neural translation model. We compared various methods based on modifying either the decoding process or the training data. The comparison was performed on two tasks: paraphrasing and feedback-based translation refinement. We also studied to which extent these methods “evade" the constraints presented to the model (usually in the dictionary form) by generating a different surface form of a given constraint.We propose a way to mitigate the issue through training with stemmed negative constraints to counter the model’s ability to induce a variety of the surface forms of a word that can result in bypassing the constraint. We demonstrate that our method improves the constraining, although the problem still persists in many cases.

Abstract (Czech):
Tento článek zkoumá negativní lexikální omezení v angličtině do českého neuronového strojového překladu. Negativní lexikální omezení se používá k zákazu určitých slov nebo výrazů v překladu vytvořeném modelem neurální translace. Porovnali jsme různé metody založené na úpravě buď dekódovacího procesu nebo trénovacích dat. Srovnání bylo provedeno na dvou úlohách: parafrázování a zpřesňování překladu na základě zpětné vazby. Zkoumali jsme také, do jaké míry se tyto metody „vyhýbají“ omezením prezentovaným v modelu (obvykle ve formě slovníku) tím, že generují jinou povrchovou formu daného omezení. Navrhujeme způsob, jak tento problém zmírnit pomocí tréninku s odstraněnými negativními omezeními. čelit schopnosti modelu vyvolat různé povrchové formy slova, což může vést k obejití omezení. Ukazujeme, že naše metoda omezení zlepšuje, i když problém v mnoha případech stále přetrvává.
AI, where are you heading? Where are we heading together?
AI kam kráčís? Kam spolu půjdeme?
Year: 2023
Authors: Ondřej Plátek

Abstract (English):
Do you want to make magic with AI?

I'll show you a gallery of AI spells and explain how you can use it too. I'll show you AI chatting, talking, and playing music. I'll briefly summarise the history and predict what will be hot in AI this Christmas.

Is AI hard to understand? It is, and it isn't. Come to the talk and join the open online community for advice. You'll learn how to use AI, create it, and maybe even improve it.
Take your phone and come. You'll learn how to get started and how to grow your knowledge.

Getting started with AI is easy!

Abstract (Czech):
Chceš začít kouzlit s AI?

Ukážu ti galerii AI kouzel a vysvětlím, jak ji můžeš používat i ty. Předvedu ti AI chatující, mluvící i hrající muziku. Krátce shrnu historii a předpovím, co bude frčet v AI o Vánocích.

Je těžké AI rozumět? Je a není. Přijď na přednášku a přidej se do otevřené online komunity, která ti poradí. Naučíš se AI používat, tvořit a třeba ji i vylepšíš.
Vem si mobil a přijď. Dozvíš se jak začít i jak své znalosti prohlubovat.

Začít s AI je jednoduché!
AI f* ups. How to avoid troubles and be ethical?
AI přešlapy. Jak se vyhnout průšvihům a chovat se eticky?
Year: 2023
Authors: Ondřej Plátek

Abstract (English):
AI overshoots? How will I stay out of trouble?
(Generative) AI can't be avoided anymore. At the same time, as a new technology, it creates many controversial situations with no precedents for how to behave in them.
Let's demonstrate them so you can recognize them and have time to prepare an appropriate ethical solution.

Abstract (Czech):
AI přešlapy? Vyhnu se průšvihům.
(Generativní) AI se vyhnout již nedá. Zároveň AI, jako nová technologie, vytváří řadu kontroverzních situací bez precedensu jak se v nich chovat.
Pojdmě si kontroverzní situace ukázat, abychom je rozpoznali a měli čas si připravit vhodné etické řešení.
AI f* ups. How to avoid troubles and be ethical?
AI přešlapy. Jak se vyhnout průšvihům a chovat se eticky?
Year: 2023
Authors: Ondřej Plátek

Abstract (English):
AI overshoots? How will I stay out of trouble?
(Generative) AI can't be avoided anymore. At the same time, as a new technology, it creates many controversial situations with no precedents for how to behave in them.
Let's demonstrate them so you can recognize them and have time to prepare an appropriate ethical solution.

Abstract (Czech):
AI přešlapy? Vyhnu se průšvihům.
(Generativní) AI se vyhnout již nedá. Zároveň jako nová technologie vytváří řadu kontroverzních situací bez precedenců jak se v nich chovat.
Pojdmě si je ukázat ať je rozpoznáte a máte se čas si připravit vhodné etické řešení.
MooseNet: A Trainable Metric for Synthesized Speech with a PLDA Module
MooseNet: trénovatelná metrika pro syntetizovanou řeč s PLDA modulem
Year: 2023
Authors: Ondřej Plátek, Ondřej Dušek

Abstract (English):
We present MooseNet, a trainable speech metric that predicts the listeners’ Mean Opinion Score (MOS). We propose a novel approach where the Probabilistic Linear Discriminative Analysis (PLDA) generative model is used on top of an embedding obtained from a self-supervised learning (SSL) neural network (NN) model. We show that PLDA works well with a non-finetuned SSL model when trained only on 136 utterances (ca. one minute training time) and that PLDA consistently improves various neural MOS prediction models, even stateof-the-art models with task-specific fine-tuning. Our ablation study shows PLDA training superiority over SSL model finetuning in a low-resource scenario. We also improve SSL model fine-tuning using a convenient optimizer choice and additional contrastive and multi-task training objectives. The fine-tuned MooseNet NN with the PLDA module achieves the best results, surpassing the SSL baseline on the VoiceMOS Challenge data.

Abstract (Czech):
Představujeme MooseNet trénovatelnou metriku pro syntetizovanou řeč, která předpovídá průměrné skóre názorů posluchačů (MOS). Navrhujeme nový přístup, v němž je generativní model pravděpodobnostní lineární diskriminační analýzy (PLDA) použit nad předtrénovaným modelem neuronové sítě (NN) natrénovaným self-supervised learning(SSL). Ukazujeme, že PLDA funguje dobře i s netrénovaným modelem SSL, když je trénován pouze na 136 promluvách, a že PLDA konzistentně zlepšuje různé neuronové modely predikce MOS, dokonce i nejmodernější modely adaptované na konkrétní úlohy. Naše ablační studie ukazuje nadřazenost PLDA nad adaptovanými modely SSL ve scénáři s malým počtem trénovacích dat. Zlepšili jsme také adaptaci SSL modelu pomocí. Adaptovaný MooseNet NN s modulem PLDA dosahuje nejlepších výsledků a překonává základní model SSL na datech VoiceMOS Challenge.
Three Ways of Using Large Language Models to Evaluate Chat
Tři způsoby použití velkých jazykových modelů pro evaluaci chatu
Year: 2023
Authors: Ondřej Plátek, Vojtěch Hudeček, Patrícia Schmidtová, Mateusz Lango, Ondřej Dušek

Abstract (English):
This paper describes the systems submitted by team6 for ChatEval, the DSTC 11 Track 4 competition. We present three different approaches to predicting turn-level qualities of chatbot responses based on large language models (LLMs). We report improvement over the baseline using dynamic few-shot examples from a vector store for the prompts for ChatGPT. We also analyze the performance of the other two approaches and report needed improvements for future work. We developed the three systems over just two weeks, showing the potential of LLMs for this task. An ablation study conducted after the challenge deadline shows that the new Llama 2 models are closing the performance gap between ChatGPT and open-source LLMs. However, we find that the Llama 2 models do not benefit from few-shot examples in the same way as ChatGPT.

Abstract (Czech):
Tento článek popisuje systémy odevzdané týmem 6 v soutěži ChatEval, která se koná v rámci DSTC 11 Track 4. Představuje tři různé přístupy k předpovídání kvality odpovědí chatbotů na úrovni tahů na základě velkých jazykových modelů (LLM). Uvádíme zlepšení oproti základnímu systému pomocí dynamických příkladů s několika příklady z vektorového úložiště pro ChatGPT prompty. Analyzujeme také výkonnost dalších dvou přístupů a uvádíme potřebná zlepšení pro budoucí práci. Tyto tři systémy jsme vyvinuli během pouhých dvou týdnů, což ukazuje potenciál LLM pro tuto úlohu. Ablační studie provedená po soutěži ukazuje, že nové modely Llama 2 zmenšují rozdíl mezi ChatGPT a open-source LLM. Zjistili jsme však, že modely Llama 2 nevyužívají příklady s několika příklady stejným způsobem jako ChatGPT.
With a Little Help from the Authors: Reproducing Human Evaluation of an MT Error Detector
S dopomocí autorů: Reprodukce lidského hodnocení MT detektoru
Year: 2023
Authors: Ondřej Plátek, Mateusz Lango, Ondřej Dušek

Abstract (English):
This work presents our efforts to reproduce the results of the human evaluation experiment presented in the paper of Vamvas and Sennrich (2022), which evaluated an automatic system detecting over- and undertranslations (translations containing more or less information than the original) in machine translation (MT) outputs. Despite the high quality of the documentation and code provided by the authors, we discuss some problems we found in reproducing the exact experimental setup and offer recommendations for improving reproducibility. Our replicated results generally confirm the conclusions of the original study, but in some cases statistically significant differences were observed, suggesting a high variability of human annotation.

Abstract (Czech):
Tato práce představuje naši snahu o reprodukci výsledků experimentu s lidským hodnocením, který byl prezentován v článku Vamvase a Sennricha (2022), který hodnotil automatický systém pro detekci "under-" a "over-" translation (překladů obsahujících více nebo méně informací než originál) ve výstupech strojového překladu (MT). Navzdory vysoké kvalitě dokumentace a kódu, které autoři poskytli, jsme popsali problémy, které jsme zjistili při reprodukci přesného experimentálního uspořádání, a nabízíme doporučení pro zlepšení reprodukovatelnosti. Naše replikované výsledky obecně potvrzují závěry původní studie, ale v některých případech byly pozorovány statisticky významné rozdíly, což naznačuje vysokou variabilitu lidské anotace.
THEaiTRE: Artificial Intelligence Writes a Theatre Play
THEaiTRE: Umělá inteligence píše divadelní hru
Year: 2023
Authors: Tomáš Studeník, Rudolf Rosa

Abstract (English):
Presentation of the THEaiTRE project within the conference for both professional and lay public.

Abstract (Czech):
Prezentace projektu THEaiTRE v rámci konference pro odbornou i laickou veřejnost.
ESPnet-ST-v2: Multipurpose Spoken Language Translation Toolkit
ESPnet-ST-v2: Víceúčelová sada nástrojů pro překlad mluveného jazyka
Year: 2023
Authors: Brian Yan, Jiatong Shi, Yun Tang, Hirofumi Inaguma, Yifan Peng, Siddharth Dalmia, Peter Polák, Patrick Fernandes, Dan Berrebbi, Tomoki Hayashi, Xiaohui Zhang, Zhaoheng Ni, Moto Hira, Soumi Maiti, Juan Pino, Shinji Watanabe

Abstract (English):
ESPnet-ST-v2 is a revamp of the open-source ESPnet-ST toolkit necessitated by the broadening interests of the spoken language translation community. ESPnet-ST-v2 supports 1) offline speech-to-text translation (ST), 2) simultaneous speech-to-text translation (SST), and 3) offline speech-to-speech translation (S2ST) -- each task is supported with a wide variety of approaches, differentiating ESPnet-ST-v2 from other open source spoken language translation toolkits. This toolkit offers state-of-the-art architectures such as transducers, hybrid CTC/attention, multi-decoders with searchable intermediates, time-synchronous blockwise CTC/attention, Translatotron models, and direct discrete unit models. In this paper, we describe the overall design, example models for each task, and performance benchmarking behind ESPnet-ST-v2, which is publicly available at https://github.com/espnet/espnet.

Abstract (Czech):
ESPnet-ST-v2 je přepracováním open-source sady nástrojů ESPnet-ST, kterou si vyžádaly rozšiřující se zájmy komunity překladatelů mluveného jazyka. ESPnet-ST-v2 podporuje 1) offline překlad řeči do textu (ST), 2) simultánní překlad řeči do textu (SST) a 3) offline převod řeči na řeč (S2ST) – každý úkol je podporováno širokou škálou přístupů, které odlišují ESPnet-ST-v2 od jiných open source sad nástrojů pro překlad mluveného jazyka. Tato sada nástrojů nabízí nejmodernější architektury, jako jsou převodníky, hybridní CTC/attention, multi dekodéry s prohledávatelnými meziprodukty, časově synchronní blokové CTC/attention, modely Translatotron a přímé modely diskrétních jednotek. V tomto dokumentu popisujeme celkový design, příklady modelů pro každou úlohu a výkonnostní benchmarking za ESPnet-ST-v2, který je veřejně dostupný na https://github.com/espnet/espnet.
From MT to Solving All World’s Language Tasks
Od strojového překladu k řešení všech jazykových úloh světa
Year: 2023
Authors: Ondřej Bojar

Abstract (English):
At the workshop organized by AG Keim (https://www.vis.uni-konstanz.de/), I presented the brief history, current status and common misconceptions about the Transformer models.

Abstract (Czech):
Na workshopu pořádaném kolegy z AG Keim (https://www.vis.uni-konstanz.de/) jsem představil stručnou historii, současný stav a typické omyly při práci s modely typu Transformer.
From MT to Solving All World’s Text Problems
Od strojového překladu k řešení všech textových problémů
Year: 2023
Authors: Ondřej Bojar

Abstract (English):
At the DeepLayers event of Brno AI Days, I presented the sudden changes that the Transformer model brought to the area of machine translation and the common pitfalls in interpreting Transformer behaviour.

Abstract (Czech):
Na akci DeepLayers v rámci Brno AI Days jsem představil náhlé změny, které model Transformer přinesl do oblasti strojového překladu a typické nástrahy v interpretaci chování Transformeru.
How to Progress beyond Human Quality in Speech and Machine Translation?
Jak vylepšovat strojový překlad psané a mluvené řeči po dosažení lidských kvalit?
Year: 2023
Authors: Ondřej Bojar

Abstract (English):
I presented the status of machine and speech translation, which is reaching human quality levels for certain settings of English->Czech and then discussed how to navigate further research.

Abstract (Czech):
Prezentoval jsem stav strojového překladu a překladu mluvené řeči, který za určitých podmínek dosahuje úrovně lidské kvality pro angličtinu->češtinu a poté jsem diskutoval, jak vést další výzkum.
LLMs: Limitations and Evaluation
LLMs: Omezení a vyhodnocování
Year: 2023
Authors: Ondřej Bojar

Abstract (English):
The lecture has summarized current limitations fo large language models (LLMs) and highlighted problems with their evaluation.

Abstract (Czech):
Přednáška shrnula současná omezení velkých jazykových modelů a vypíchla problémy při jejich vyhodnocování.
Machine Translation
Strojový překlad
Year: 2023
Authors: Ondřej Bojar

Abstract (English):
A block of two lectures on machine translation: from basics and data preparation over Transformers and multi-lingual models to common pitfalls in analysis of Transformer behaviour.

Abstract (Czech):
Blok dvou přednášek o strojovém překladu: od základů a přípravy dat přes Transformery a vícejazyčné modely až po běžná úskalí v analýze chování Transformerů.
Machine translation and interpreting
Strojové překlady a tlumočení
Year: 2023
Authors: Ondřej Bojar

Abstract (English):
A presentation for students of translation studies and interpretring.

Abstract (Czech):
Příspěvek na semináři pro studenty překladatelství a zejména tlumočnictví.
Generative AI: opportunities, risks and challenges
Genrativní UI: příležitosti a hrozby
Year: 2023
Authors: Jan Hajič

Abstract (English):
Artificial Intelligence is with us for decades – from Marvin Minsky’s experiments through its ups and downs in the 70s and 80s of the last century, to successful implementations in practice, especially in industry and services, through signs of a quote superhuman unquote performance on certain tasks usually considered tests of human intelligence, such as the games of chess or go, we have seen a huge lap in its abilities when – finally – natural language came into the picture in full, and the so-called Generative AI was born and, even more importantly, became available for the public in the form of so-called Large Language Models.

Abstract (Czech):
Umělá inteligence nás provází desítky let – od experimentů Marvina Minskyho přes jeho vzestupy a pády v 70. a 80. letech minulého století až po úspěšné implementace v praxi, zejména v průmyslu a službách, přes známky citovaného nadlidského unquote výkonu na určitých úkolech obvykle považovaných za testy lidské inteligence, jako jsou partie šachů nebo go, jsme viděli obrovské kolečko v jejích schopnostech, když – konečně – se do hry plně dostal přirozený jazyk a zrodila se takzvaná Generativní AI, a co je ještě důležitější, stala se přístupnou veřejnosti v podobě takzvaných Velkých jazykových modelů.
HPLT High-Performance Language Technology: Building LLMs and TMs in European languages
HPLT High-Performance Language Technology: Budování LLM a TM v evropských jazycích
Year: 2023
Authors: Jan Hajič

Abstract (English):
Description of the HPLT project for building large language data (monolingual, parallel) and on their basis large language and translation models in 80 languages.

Abstract (Czech):
Popis projektu HPLT pro budování velkých jazykových dat (monolingválních, paralelních) a na jejich základě pak velkých jazykových a překladových modelů v 80 jazycích.
Language Technology Research Serving the SSH domain: Access to Oral History Archives
Výzkum jazykové technologie Obsluhování domény SSH: Přístup k archivům orální historie
Year: 2023
Authors: Jan Hajič

Abstract (English):
Talk will describe language technologies for access to oral history archives in multiple languages.

Abstract (Czech):
Přednáška se bude týkat jazykových technologií pro přístup k multilingválním archivům orální historie.
Research Support for AI nad NLP (LT) in Czechia
Podpora výzkumu v oblasti AI-LT v Česku
Year: 2023
Authors: Jan Hajič

Abstract (English):
POssibilities of funding speech nad language technology research worldwide for Czech research organizations.

Abstract (Czech):
Možnosti financování pro výzkum v oblasti řeči a jazykových technologií pro české organizace v celosvětovém měřítku.
Natural Language Processing: analysis, generation, apllicaitons
Zpracování textu (NLP): analýza, generování, aplikace
Year: 2023
Authors: Jan Hajič

Abstract (English):
Summary of possibilities and conditions of language technologies in the field of artificial intelligence and their application.

Abstract (Czech):
Shrnutí možností a podmínek jazykových technologií v oblasti umělé inteligence a jejich aplikace.
Consulting the Community: How to Reach Digital Language Equality in Europe by 2030?
Konzultace s komunitou: Jak dosáhnout digitální jazykovou rovnost v Evropě do roku 2030?
Year: 2023
Authors: Jan Hajič, Maria Giagkou, Stelios Piperidis, Georg Rehm, Natalia Resende

Abstract (English):
This chapter describes the community consultation process carried out in
the European Language Equality (ELE) project concerning the future situation in
2030. Due to its central status for the future-looking activities within the project,
this chapter introduces the second part of the present book. We gathered, analysed
and structured the views, visions, demands, needs and gaps of European Language
Technology (LT) developers, both industry and academia, and European LT users
and consumers. Additionally, based on these collected findings and other evidence,
we attempted to derive a thorough description of the steps to take to reach Digital
Language Equality (DLE) in Europe by the year 2030 and, moreover, what the field
of LT will look like in Europe in about ten years from now.

Abstract (Czech):
Tato kapitola popisuje proces konzultací s LT komunitou prováděný v rámciprojektu European Language Equality (ELE) týkající se budoucí situace v roce 2030. Shromáždili jsme, analyzovali
a strukturoval názory, vize, požadavky a potřeby týkající se jazykových technologií (LT) v Evropě od vývojářů těchto technologií, jak z průmyslu, tak z akademické sféry, a evropských uživatelů LT
a spotřebitelů. Na základě těchto shromážděných zjištění jsme se pokusili odvodit a navrhnout kroky, které je třeba podniknout k dosažení digitální jazykové rovnosti (DLE) v Evropě do roku 2030 a nastínit, jak by mohl obor
LT v Evropě vypadat za cca deset let.
A contradiction between form and function: the specificity of infinitives in selected valency positions
Rozpor mezi formou a funkcí: specifika infinitivu ve vybraných valenčních pozicích
Year: 2023
Authors: Jarmila Panevová

Abstract (English):
Although the Czech language has two forms of infinitive (active and passive) in its morphological paradigm, infinitive constructions can be found where this opposition is not employed and the active vs. passive interpretation depends on the context. This article focuses on active infinitives which convey meanings primary expressed by passive infinitives. The verbs which govern such infinitives are divided into several classes: (a) potřebovat "to need", zasluhovat "to deserve", (b) verbs of movement, such as poslat "to send", přinést "to bring", odvézt "to take away", (c) žádat "to require", odmítat "to refuse". The competition between the active forms of the infinitive and the analytic passive forms, coreference between the valency members of the governing verbs and the hidden valency member of the infinitive are analyzed. Quantitative insights into how the phenomenon under study is represented in the Czech National Corpus are provided. The article concludes with a terminological proposal to complete the system of functions in the domain of infinitive constructions.

Abstract (Czech):
Ačkoli má čeština ve svém morfologickém systému dvě formy infinitivu (aktivní a pasivní), lze nalézt infinitivní konstrukce, kde tato opozice není využita a aktivní vs. pasivní interpretace závisí na kontextu. Tento článek se zaměřuje na aktivní infinitivy, které vyjadřují významy primárně vyjádřené pasivními infinitivy.
Findings of the Second Shared Task on Multilingual Coreference Resolution
Výsledky druhé soutěže ve vícejazyčné analýze koreference
Year: 2023
Authors: Zdeněk Žabokrtský, Miloslav Konopík, Anna Nedoluzhko, Michal Novák, Maciej Ogrodniczuk, Martin Popel, Ondřej Pražák, Jakub Sido, Daniel Zeman

Abstract (English):
This paper summarizes the second edition of the shared task on multilingual coreference resolution, held with the CRAC 2023 workshop. Just like last year, participants of the shared task were to create trainable systems that detect mentions and group them based on identity coreference; however, this year's edition uses a slightly different primary evaluation score, and is also broader in terms of covered languages: version 1.1 of the multilingual collection of harmonized coreference resources CorefUD was used as the source of training and evaluation data this time, with 17 datasets for 12 languages. 7 systems competed in this shared task.

Abstract (Czech):
Článek shrnuje druhý ročník soutěže ve vícejazyčné analýze koreference, která proběhla v rámci workshopu CRAC 2023. Stejně jako v minulém roce museli účastníci vytvořit trénovatelné systémy, které detekují zmínky entit a sloučí je na základě identické koreference; tento ročník nicméně používá částečně odlišné hodnotící skóre a má také širší záběr, pokud jde o zahrnuté jazyky: nyní byla využita mnohojazyčná sbírka harmonizovaných koreferenčních korpusů CorefUD ve verzi 1.1, která obsahuje 17 korpusů pro 12 jazyků. Soutěže se zúčastnilo 7 systémů.