ymoslem/acl-abstracts huggingface dataset:
Revue de la litt\'erature : entrep\^ots de donn\'ees biom\'edicales et traitement automatique de la langue (Literature review : biomedical data warehouse and natural language processing ) (2021)

La quantit{\'e} de donn{\'e}es de sant{\'e} informatis{\'e}es ne cesse de cro{\^i}tre et ouvre de nouvelles possibilit{\'e}s pour la recherche scientifique. L`acc{\`e}s {\`a} ces donn{\'e}es passe tr{\`e}s souvent par l`utilisation d`entrep{\^o}ts de donn{\'e}es biom{\'e}dicales, d{\'e}ploy{\'e}s pour cet usage. Parmi les donn{\'e}es stock{\'e}es dans ces entrep{\^o}ts, on peut trouver des donn{\'e}es textuelles, en plus ou moins grande quantit{\'e}. Le traitement automatique de la langue (TAL) est le domaine de pr{\'e}dilection pour l`exploitation des donn{\'e}es textuelles. Cet article propose une revue de la litt{\'e}rature qui s`int{\'e}resse, {\`a} travers les publications sur PubMed, ACL Anthology et Google Scholar, {\`a} l`interaction entre deux th{\'e}matiques : les entrep{\^o}ts de donn{\'e}es biom{\'e}dicales et le traitement automatique des langues. Cette revue montre que l`int{\'e}r{\^e}t pour les donn{\'e}es de sant{\'e} et les entrep{\^o}ts de donn{\'e}es biom{\'e}dicales est en constante croissance dans la litt{\'e}rature. Elle montre {\'e}galement que le TAL devient peu {\`a} peu un outil indispensable afin d`exploiter au mieux les entrep{\^o}ts de donn{\'e}es biom{\'e}dicales.
Traduction Assist\'ee par Ordinateur des Langues des Signes: \'elaboration d`un premier prototype (Computer-assisted Translation of Sign Languages: elaborating a first prototype) (2021)

La demande pour du contenu traduit en LSF est croissante depuis quelques ann{\'e}es, mais l`offre est limit{\'e}e par le faible nombre de traducteurs professionnels et l`absence d`outils de traduction assist{\'e}e par ordinateur (TAO) d{\'e}di{\'e}s pour les langues des signes (LS). Cet article s`int{\'e}resse {\`a} l'{\'e}laboration de tels outils. Apr{\`e}s avoir {\'e}tudi{\'e} les m{\'e}thodes de travail des traducteurs, nous avons {\'e}tabli un cahier des charges afin de d{\'e}velopper un premier logiciel de TAO pour les LS. Nous avons proc{\'e}d{\'e} {\`a} la conception d`un tel syst{\`e}me en d{\'e}veloppant des prototypes dits de basse fid{\'e}lit{\'e} avant d`impl{\'e}menter une premi{\`e}re version de logiciel fonctionnel. Nous {\'e}tablissons les fonctionnalit{\'e}s impl{\'e}ment{\'e}es {\`a} la date de r{\'e}daction de cet article, et {\'e}voquons les fonctionnalit{\'e}s restant {\`a} {\^e}tre impl{\'e}ment{\'e}es. Apr{\`e}s un test du logiciel par les traducteurs professionnels, nous pourrons ensuite proc{\'e}der {\`a} l'{\'e}valuation du syst{\`e}me, afin d`am{\'e}liorer son impl{\'e}mentation d`apr{\`e}s leurs retours.
Utilisation d`outils de TAL pour la compr\'ehension des sp\'ecifications de validation de donn\'ees (Use of NLP tools for automatic comprehension of data validation specifications) (2021)

La validation de donn{\'e}es consiste {\`a} v{\'e}rifier formellement la coh{\'e}rence de donn{\'e}es utilis{\'e}es en entr{\'e}e de syst{\`e}mes critiques. L`essentiel du travail des ing{\'e}nieurs consiste donc {\`a} traduire une sp{\'e}cification, {\'e}crite en langage naturel, en un ensemble de r{\`e}gles formelles permettant l`automatisation de la v{\'e}rification. Notre objectif {\`a} long terme est d`automatiser compl{\`e}tement le processus de validation de donn{\'e}es. Dans cet article, nous pr{\'e}sentons une premi{\`e}re {\'e}tape et d{\'e}taillons les diff{\'e}rentes techniques de traitement automatique de la langue que nous avons d{\'e}ploy{\'e}es pour g{\'e}n{\'e}rer un squelette de r{\`e}gle formelle {\`a} partir d`une sp{\'e}cification textuelle. La particularit{\'e} de ces sp{\'e}cifications est qu`elles peuvent contenir beaucoup d`informations implicites qui rendent difficile la t{\^a}che de traduction. D`autre part, le fait qu`il n`existe pas de grand corpus d`apprentissage disponible rend difficile l`emploi des m{\'e}thodes d`apprentissage neuronal profond. N{\'e}anmoins des approches plus classiques {\`a} base de r{\`e}gles et de repr{\'e}sentations symboliques permettent d`apporter un premier {\'e}l{\'e}ment de r{\'e}ponse.
ACCOL\'E : Annotation Collaborative d`erreurs de traduction pour COrpus aLign\'Es, multi-cibles, et Annotation d`Expressions Poly-lexicales (ACCOL\'E: A Collaborative Platform of Error Annotation for Aligned) (2021)

Cette d{\'e}monstration pr{\'e}sente les avanc{\'e}es d`ACCOL{\'E} (Annotation Collaborative d`erreurs de traduction pour COrpus aLign{\'E}s), qui en plus de proposer une gestion simplifi{\'e}e des corpus et des typologies d`erreurs, l`annotation d`erreurs pour des corpus de traduction bilingues align{\'e}s, la collaboration et/ou supervision lors de l`annotation, la recherche de mod{\`e}le d`erreurs dans les annotations, permet d{\'e}sormais d`annoter les Expressions Polylexicales (EPL) dans des textes monolingues en fran{\c{c}}ais, et d`acc{\'e}der {\`a} l`annotation d`erreurs pour des corpus de traduction multicibles. Dans cet article, apr{\`e}s un bref rappel des fonctionnalit{\'e}s d`ACCOL{\'E}, nous explicitons les fonctionnalit{\'e}s de chaque nouveaut{\'e}.
Corpus EN-Istex : un corpus d`articles scientifiques annot\'e manuellement en entit\'es nomm\'ees (ISTEX-EN Corpus: a scientific paper corpus manually annotated in named entities) (2021)

Nous pr{\'e}sentons ici une nouvelle ressource libre : le corpus EN-ISTEX, un corpus de deux cents articles scientifiques annot{\'e}s manuellement en entit{\'e}s nomm{\'e}es. Ces articles ont {\'e}t{\'e} extraits des deux {\'e}diteurs scientifiques les plus importants de la plateforme ISTEX. Tous les domaines sont concern{\'e}s, m{\^e}me si les sciences dites dures, en particulier les sciences du vivant et de la sant{\'e}, sont pr{\'e}pond{\'e}rantes. Parmi ceux-ci vingt articles ont {\'e}t{\'e} multi-annot{\'e}s afin de v{\'e}rifier l`ad{\'e}quation du guide d`annotation et la fiabilit{\'e} de l`annotation. L`accord inter annotateurs sur ces vingt textes s'{\'e}l{\`e}ve {\`a} 91 {\%}.
GECko+: a Grammatical and Discourse Error Correction Tool (2021)

GECko+ : a Grammatical and Discourse Error Correction Tool We introduce GECko+, a web-based writing assistance tool for English that corrects errors both at the sentence and at the discourse level. It is based on two state-of-the-art models for grammar error correction and sentence ordering. GECko+ is available online as a web application that implements a pipeline combining the two models.
Outil Interactif et \'Evolutif pour l`Extraction d`Information dans des Documents Techniques (Interactive and Evolutive Tool for Information Extraction in Technical Documents) (2021)

L`acc{\`e}s {\`a} l`information dans la documentation technique est une application particuli{\`e}re et complexe du traitement du langage naturel et de la recherche d`information. La difficult{\'e} tient aux contraintes propres des langages m{\'e}tier sp{\'e}cialis{\'e}s et semi-contr{\^o}l{\'e}s. Dans ce document, nous proposons un outil d`acc{\`e}s {\`a} l`information dans diff{\'e}rents types de documents. Notre solution exploite conjointement la structure organisationnelle des documents et leur contenu informationnel, pour extraire des informations m{\'e}tier dans des diff{\'e}rents corpus. Nous proposons un syst{\`e}me bas{\'e} sur des interactions expert-machine dans un cycle d`am{\'e}lioration continu des mod{\`e}les d`extraction. Notre approche exploite des mod{\`e}les d`apprentissage {\`a} faible supervision ne n{\'e}cessitant pas d`expertise en ing{\'e}nierie des langues. Notre syst{\`e}me int{\`e}gre l`utilisateur dans le processus de qualification de l`information et permet de guider son apprentissage, afin de rendre ses mod{\`e}les plus performants au fil du temps.
SIDRES : A Novel Annotation Tool For The Automatic Detection of Semantic Entities (2021)

We present a novel annotation tool called SIDRES (Syst{\`e}me Interactif de D{\'e}tection et de Reconnaissance d`Entit{\'e}s S{\'e}mantiques [Interactive System for the Detection and Identification of Semantic Entities]). SIDRES provides an annotation environment for classifying text units through ad hoc categories. These categories can be coupled with contexts, so as to provide a means for the disambiguation of formally identical units assigned to different categories. SIDRES was developed as part of an industrial partnership between the LIA (Laboratoire d`Informatique d`Avignon [Research Institute of Informatics at the University of Avignon]) and a French company in the eHealth sector. This partnership was created within the framework of a technology-transfer project promoted by the SATT Sud-Est, whose core mission is bringing together industry and research institutions.
Classification de cas cliniques et \'evaluation automatique de r\'eponses d'\'etudiants : pr\'esentation de la campagne DEFT 2021 (Clinical cases classification and automatic evaluation of student answers : Presentation of the DEFT 2021 Challenge) (2021)

Le d{\'e}fi fouille de textes (DEFT) est une campagne d'{\'e}valuation annuelle francophone. Nous pr{\'e}sentons les corpus et baselines {\'e}labor{\'e}es pour trois t{\^a}ches : (i) identifier le profil clinique de patients d{\'e}crits dans des cas cliniques, (ii) {\'e}valuer automatiquement les r{\'e}ponses d'{\'e}tudiants sur des questionnaires en ligne (Moodle) {\`a} partir de la correction de l`enseignant, et (iii) poursuivre une {\'e}valuation de r{\'e}ponses d'{\'e}tudiants {\`a} partir de r{\'e}ponses d{\'e}j{\`a} {\'e}valu{\'e}es par l`enseignant. Les r{\'e}sultats varient de 0,394 {\`a} 0,814 de F-mesure sur la premi{\`e}re t{\^a}che (7 {\'e}quipes), de 0,448 {\`a} 0,682 de pr{\'e}cision sur la deuxi{\`e}me (3 {\'e}quipes), et de 0,133 {\`a} 0,510 de pr{\'e}cision sur la derni{\`e}re (3 {\'e}quipes).
Classification multi-label de cas cliniques avec CamemBERT (Multi-label classification of clinical cases with CamemBERT ) (2021)

La quantit{\'e} de documents textuels m{\'e}dicaux allant grandissant, la n{\'e}cessit{\'e} d`en extraire automatiquement des informations concernant des patients devient de plus en plus grande. La pr{\'e}diction du profil clinique permet de gagner du temps pour le praticien tout en extrayant l`essentiel de l`information concernant un patient. Avec l`explosion du nombre de documents (m{\'e}dicaux ou non), des mod{\`e}les pr{\'e}-entra{\^i}n{\'e}s tels que BERT pour l`anglais ou CamemBERT pour le fran{\c{c}}ais ont {\'e}merg{\'e}. L`utilisation de ces mod{\`e}les permet d`encoder contextuellement du texte afin de l`utiliser dans des r{\'e}seaux neuronaux pour notamment pr{\'e}dire des profils cliniques. Cet article vise {\`a} comparer diff{\'e}rentes m{\'e}thodes de pr{\'e}diction de profil clinique en se basant sur l`utilisation de CamemBERT. Dans un premier temps, uniquement du texte provenant de documents m{\'e}dicaux a {\'e}t{\'e} utilis{\'e}. Dans un second temps, des entit{\'e}s nomm{\'e}es ont {\'e}t{\'e} inject{\'e}es en plus du texte par concat{\'e}nation ou par sommation pond{\'e}r{\'e}e. Les r{\'e}sultats ont montr{\'e} un succ{\`e}s limit{\'e} et d{\'e}pendant de la pr{\'e}valence des chapitres {\`a} pr{\'e}dire dans le corpus ainsi qu`une d{\'e}gradation des performances lors de l`ajout des entit{\'e}s nomm{\'e}es.
Classification multilabel de concepts m\'edicaux pour l`identification du profil clinique du patient (Multilabel classification of medical concepts for patient`s clinical profile identification ) (2021)

La premi{\`e}re t{\^a}che du D{\'e}fi fouille de textes 2021 a consist{\'e} {\`a} extraire automatiquement, {\`a} partir de cas cliniques, les ph{\'e}notypes pathologiques des patients regroup{\'e}s par t{\^e}te de chapitre du MeSH-maladie. La solution pr{\'e}sent{\'e}e est celle d`un classifieur multilabel bas{\'e} sur un transformer. Deux transformers ont {\'e}t{\'e} utilis{\'e}s : le camembert-large classique (run 1) et le camembert-large fine-tun{\'e} (run 2) sur des articles biom{\'e}dicaux fran{\c{c}}ais en acc{\`e}s libre. Nous avons {\'e}galement propos{\'e} un mod{\`e}le {\guillemotleft} bout-enbout {\guillemotright}, avec une premi{\`e}re phase d`extraction d`entit{\'e}s nomm{\'e}es {\'e}galement bas{\'e}e sur un transformer de type camembert-large et un classifieur de genre sur un mod{\`e}le Adaboost. Nous obtenons un tr{\`e}s bon rappel et une pr{\'e}cision correcte, pour une F1-mesure autour de 0,77 pour les trois runs. La performance du mod{\`e}le {\guillemotleft} bout-en-bout {\guillemotright} est similaire aux autres m{\'e}thodes.
DEFT 2021: \'Evaluation automatique de r\'eponses courtes, une approche bas\'ee sur la s\'election de traits lexicaux et augmentation de donn\'ees (DEFT 2021 : Automatic short answer grading, a lexical features selection and data augmentation based approach) (2021)

Cet article pr{\'e}sente la participation de l'{\'e}quipe Proofreaders du LS2N au D{\'E}fi Fouille de Textes 2021 (DEFT 2021). La t{\^a}che propos{\'e}e consiste en la poursuite automatique de l'{\'e}valuation de r{\'e}ponses courtes d'{\'e}tudiants (EAQRC) {\`a} partir de quelques r{\'e}ponses d{\'e}j{\`a} corrig{\'e}es par l`enseignant pour chaque {\'e}nonc{\'e}. Une {\'e}tude comparative de diff{\'e}rents traits lexicaux, ainsi qu`une augmentation artificielle de donn{\'e}es et de diff{\'e}rents mod{\`e}les de r{\'e}gression pour la notation des r{\'e}ponses courtes est r{\'e}alis{\'e}e. Les m{\'e}thodes sont {\'e}valu{\'e}es en termes de pr{\'e}cision, d`erreur quadratique moyenne et de score de corr{\'e}lation de Spearman. Notre erreur quadratique moyenne varie entre 0.090 et 0.101 et notre pr{\'e}cision entre 0.147 et 0.17. Le code source est disponible {\`a} l`adresse suivante : \url{https://github.com/poulain-tim/DEFT}{\_}2021
DOING@DEFT : utilisation de lexiques pour une classification efficace de cas cliniques (In this paper, we present our participation to the DEFT 2021 task 1) (2021)

Nous pr{\'e}sentons dans cet article notre participation {\`a} la t{\^a}che 1 de la campagne d'{\'e}valuation francophone DEFT 2021, sur l`identification du profil clinique du patient. Nous proposons une m{\'e}thode {\'e}volutive et efficace en temps et en ressources pour la classification de documents m{\'e}dicaux pouvant {\^e}tre facilement adapt{\'e}e {\`a} d`autres domaines de recherche. Notre syst{\`e}me a obtenu les meilleures performances sur cette t{\^a}che avec une F-mesure de 0,814.
Identification de profil clinique du patient: Une approche de classification de s\'equences utilisant des mod\`eles de langage fran\ccais contextualis\'es (Identification of patient clinical profiles : A sequence classification approach using contextualised French language models ) (2021)

Cet article pr{\'e}sente un r{\'e}sum{\'e} de notre soumission pour T{\^a}che 1 de DEFT 2021. Cette t{\^a}che consiste {\`a} identifier le profil clinique d`un patient {\`a} partir d`une description textuelle de son cas clinique en identifiant les types de pathologie mentionn{\'e}s dans le texte. Ce travail {\'e}tudie des approches de classification de texte utilisant des plongements de mots contextualis{\'e}s en fran{\c{c}}ais. {\`A} partir d`une base de r{\'e}f{\'e}rence d`un mod{\`e}le constitu{\'e} pour la compr{\'e}hension g{\'e}n{\'e}rale de la langue fran{\c{c}}aise, nous utilisons des mod{\`e}les pr{\'e}-entra{\^i}n{\'e}s avec masked language modelling et affin{\'e}s {\`a} la t{\^a}che d`identification, en utilisant un corpus externe de textes cliniques fourni par SOS M{\'e}decins, pour d{\'e}velopper des ensembles de classifieurs binaires associant les textes cliniques {\`a} des cat{\'e}gories de pathologies.
Mesure de similarit\'e textuelle pour l'\'evaluation automatique de copies d'\'etudiants (Textual similarity measurement for automatic evaluation of students' answers) (2021)

Cet article d{\'e}crit la participation de l'{\'e}quipe Nantalco {\`a} la t{\^a}che 2 du D{\'e}fi Fouille de Textes 2021 (DEFT) : {\'e}valuation automatique de copies d`apr{\`e}s une r{\'e}f{\'e}rence existante. Nous avons utilis{\'e} principalement des traits bas{\'e}s sur la similarit{\'e} cosinus des deux vecteurs repr{\'e}sentant la similarit{\'e} textuelle entre des r{\'e}ponses d'{\'e}tudiant et la r{\'e}f{\'e}rence. Plusieurs types de vecteurs ont {\'e}t{\'e} utilis{\'e}s (vecteur d`occurrences de mots, vecteur tf-idf, embeddings non contextualis{\'e}s de fastText, embeddings contextualis{\'e}s de CamemBERT et enfin Sentence Embeddings Multilingues ajust{\'e}s sur des corpus multilingues). La meilleure performance du concours sur cette t{\^a}che a {\'e}t{\'e} de 0.682 (pr{\'e}cision) et celle de notre {\'e}quipe 0.639. Cette performance a {\'e}t{\'e} obtenue avec les Sentence Embeddings Multilingues alors que celle des embeddings non ajust{\'e}s ne s`est {\'e}lev{\'e}e qu'{\`a} 0.55, sugg{\'e}rant que de r{\'e}cents mod{\`e}les de langues pr{\'e}-entra{\^i}n{\'e}s doivent {\^e}tre fine-tun{\'e}s afin d`avoir des embeddings ad{\'e}quats au niveau phrastique.
Participation d'EDF R\&D \`a DEFT 2021 (EDF R\&D Participation to DEFT 2021) (2021)

Ce papier pr{\'e}sente la participation d`EDF R{\&}D {\`a} la campagne d'{\'e}valuation DEFT 2021. Notre {\'e}quipe a particip{\'e} aux deux derni{\`e}res t{\^a}ches propos{\'e}es (T2 et T3), deux t{\^a}ches sur le calcul de similarit{\'e} s{\'e}mantique entre textes courts, et s`est class{\'e}e 1{\`e}re sur ces deux t{\^a}ches. Cette {\'e}dition proposait deux nouvelles t{\^a}ches pour l'{\'e}valuation automatique de r{\'e}ponses d'{\'e}tudiants {\`a} des questions d`enseignants. Le corpus se composait d`une centaine d'{\'e}nonc{\'e}s en informatique avec la correction de l`enseignant et les r{\'e}ponses d`une cinquantaine d'{\'e}tudiants en moyenne par question, sur 2 ans. La t{\^a}che 2 consistait {\`a} {\'e}valuer les r{\'e}ponses des {\'e}tudiants en prenant pour r{\'e}f{\'e}rence la correction produite par l`enseignant et la t{\^a}che 3 {\`a} {\'e}valuer les r{\'e}ponses d'{\'e}tudiants {\`a} partir d`un ensemble compos{\'e} d`un {\'e}nonc{\'e} et de plusieurs r{\'e}ponses d'{\'e}tudiants d{\'e}j{\`a} corrig{\'e}es par l`enseignant.e.
Participation de Berger-Levrault (BL.Research) \`a DEFT 2021 : de l`apprentissage des seuils de validation \`a la classification multi-labels de documents (Berger-Levrault (BL) (2021)

Cet article pr{\'e}sente notre participation {\`a} l'{\'e}dition 2021 du D{\'E}fi Fouille de Textes (DEFT) et plus pr{\'e}cis{\'e}ment {\`a} la premi{\`e}re t{\^a}che li{\'e}e {\`a} l`identification du profil clinique du patient. Cette t{\^a}che consiste {\`a} s{\'e}lectionner, pour un document d{\'e}crivant l'{\'e}tat d`un patient, les diff{\'e}rents types de maladies rencontr{\'e}es correspondant aux entr{\'e}es g{\'e}n{\'e}riques des chapitres du MeSH (Medical Subject Headings). Dans notre travail, nous nous sommes int{\'e}ress{\'e}s aux questions suivantes : (1) Comment am{\'e}liorer les repr{\'e}sentations vectorielles de documents, voire de classes ? (2) Comment apprendre des seuils de validation de classes ? Et (3) Une approche combinant apprentissage supervis{\'e} et similarit{\'e} s{\'e}mantique peut-elle apporter une meilleure performance {\`a} un syst{\`e}me de classification multi-labels ?
QUEER@DEFT2021 : Identification du Profil Clinique de Patients et Notation Automatique de Copies d'\'Etudiants (QUEER@DEFT2021 : Patients Clinical Profile Identification and Automatic Student Grading ) (2021)

Nous pr{\'e}sentons dans cet article notre contribution aux 3 t{\^a}ches de la campagne d'{\'e}valuation du d{\'e}fi Fouille de Texte 2021. Dans la t{\^a}che d`identification de de profil clinique (t{\^a}che 1) nous pr{\'e}sentons une m{\'e}thode de recherche d`information bas{\'e} sur un index d{\'e}riv{\'e} du MeSH. Pour la t{\^a}che de notation automatique {\`a} partir d`une correction (t{\^a}che 2), nous avons exp{\'e}riment{\'e} une m{\'e}thode de similarit{\'e} de vecteurs de cha{\^i}nes de caract{\`e}res. Pour la t{\^a}che de notation {\`a} partir de copies d{\'e}j{\`a} not{\'e}es (t{\^a}che 3) nous avons entra{\^i}n{\'e} un r{\'e}seau de neurones LSTM.
FINDINGS OF THE IWSLT 2021 EVALUATION CAMPAIGN (2021)

The evaluation campaign of the International Conference on Spoken Language Translation (IWSLT 2021) featured this year four shared tasks: (i) Simultaneous speech translation, (ii) Offline speech translation, (iii) Multilingual speech translation, (iv) Low-resource speech translation. A total of 22 teams participated in at least one of the tasks. This paper describes each shared task, data and evaluation metrics, and reports results of the received submissions.
The USTC-NELSLIP Systems for Simultaneous Speech Translation Task at IWSLT 2021 (2021)

This paper describes USTC-NELSLIP`s submissions to the IWSLT2021 Simultaneous Speech Translation task. We proposed a novel simultaneous translation model, Cross-Attention Augmented Transducer (CAAT), which extends conventional RNN-T to sequence-to-sequence tasks without monotonic constraints, e.g., simultaneous translation. Experiments on speech-to-text (S2T) and text-to-text (T2T) simultaneous translation tasks shows CAAT achieves better quality-latency trade-offs compared to \textit{wait-k}, one of the previous state-of-the-art approaches. Based on CAAT architecture and data augmentation, we build S2T and T2T simultaneous translation systems in this evaluation campaign. Compared to last year`s optimal systems, our S2T simultaneous translation system improves by an average of 11.3 BLEU for all latency regimes, and our T2T simultaneous translation system improves by an average of 4.6 BLEU.
NAIST English-to-Japanese Simultaneous Translation System for IWSLT 2021 Simultaneous Text-to-text Task (2021)

This paper describes NAIST`s system for the English-to-Japanese Simultaneous Text-to-text Translation Task in IWSLT 2021 Evaluation Campaign. Our primary submission is based on wait-k neural machine translation with sequence-level knowledge distillation to encourage literal translation.
The University of Edinburgh`s Submission to the IWSLT21 Simultaneous Translation Task (2021)

We describe our submission to the IWSLT 2021 shared task on simultaneous text-to-text English-German translation. Our system is based on the re-translation approach where the agent re-translates the whole source prefix each time it receives a new source token. This approach has the advantage of being able to use a standard neural machine translation (NMT) inference engine with beam search, however, there is a risk that incompatibility between successive re-translations will degrade the output. To improve the quality of the translations, we experiment with various approaches: we use a fixed size wait at the beginning of the sentence, we use a language model score to detect translatable units, and we apply dynamic masking to determine when the translation is unstable. We find that a combination of dynamic masking and language model score obtains the best latency-quality trade-off.
Without Further Ado: Direct and Simultaneous Speech Translation by AppTek in 2021 (2021)

This paper describes the offline and simultaneous speech translation systems developed at AppTek for IWSLT 2021. Our offline ST submission includes the direct end-to-end system and the so-called posterior tight integrated model, which is akin to the cascade system but is trained in an end-to-end fashion, where all the cascaded modules are end-to-end models themselves. For simultaneous ST, we combine hybrid automatic speech recognition with a machine translation approach whose translation policy decisions are learned from statistical word alignments. Compared to last year, we improve general quality and provide a wider range of quality/latency trade-offs, both due to a data augmentation method making the MT model robust to varying chunk sizes. Finally, we present a method for ASR output segmentation into sentences that introduces a minimal additional delay.