ymoslem/acl-abstracts huggingface dataset:
Empirische Verortung konzeptioneller N\"ahe/M\"undlichkeit inner- und au\sserhalb schriftsprachlicher Korpora (2023)

Linguistische Studien arbeiten h{\"a}ufig mit einer Differenzierung zwischen gesprochener und geschriebener Sprache bzw. zwischen Kommunikation der N{\"a}he und Distanz. Die Annahme eines Kontinuums zwischen diesen Polen bietet sich f{\"u}r eine Verortung unterschiedlichster {\"A}u{\ss}erungsformen an, inklusive unkonventioneller Textsorten wie etwa Popsongs. Wir konzipieren, implementieren und evaluieren ein automatisiertes Verfahren, das mithilfe unkorrelierter Entscheidungsb{\"a}ume entsprechende Vorhersagen auf Textebene durchf{\"u}hrt. F{\"u}r die Identifizierung der Pole definieren wir einen Merkmalskatalog aus Sprachph{\"a}nomenen, die als Markierer f{\"u}r N{\"a}he/M{\"u}ndlichkeit bzw. Distanz/Schriftlichkeit diskutiert werden, und wenden diesen auf prototypische N{\"a}he-/M{\"u}ndlichkeitstexte sowie prototypische Distanz-/Schrifttexte an. Basierend auf der sehr guten Klassifikationsg{\"u}te verorten wir anschlie{\ss}end eine Reihe weiterer Textsorten mithilfe der trainierten Klassifikatoren. Dabei erscheinen Popsongs als {\quotedblbase}mittige Textsorte{\textquotedblleft}, die linguistisch motivierte Merkmale unterschiedlicher Kontinuumsstufen vereint. Weiterhin weisen wir nach, dass unsere Modelle m{\"u}ndlich kommunizierte, aber vorab oder nachtr{\"a}glich verschriftlichte {\"A}u{\ss}erungen wie Reden oder Interviews vollkommen anders verorten als prototypische Gespr{\"a}chsdaten und decken Klassifikationsunterschiede f{\"u}r Social-Media-Varianten auf. Ziel ist dabei nicht eine systematisch-verbindliche Einordung im Kontinuum, sondern eine empirische Ann{\"a}herung an die Frage, welche maschinell vergleichsweise einfach bestimmbaren Merkmale ({\quotedblbase}shallow features{\textquotedblleft}) nachweisbar Einfluss auf die Verortung haben.
Segmentierungs- und Annotationsverfahren f\"ur die Texte Udo Lindenbergs: Apostrophe und andere Herausforderungen (2023)

In der Computerlinguistik ist eine kaskadische Prozessierung von Texten {\"u}blich. Dabei werden diese zuerst segmentiert (tokenisiert), d.h. Tokens und ggf. Satzgrenzen werden erkannt. Dabei entsteht meist eine Liste bzw. eine einspaltige Tabelle, die sukzessive durch weitere Prozessierungschritte um zus{\"a}tzliche Spalten {--} also positionale Annotationen wie z.B. Wortarten und Lemmata f{\"u}r die Tokens in der ersten Spalte {--} erg{\"a}nzt wird. Bei der Tokenisierung werden alle Spatien (Leerzeichen) gel{\"o}scht. Schon immer problematisch waren dabei Interpunktionszeichen, da diese {\"a}u{\ss}erst ambig sein k{\"o}nnen, aber auch mehrteilige Namen, die Leerzeichen enthalten und eigentlich zusammengeh{\"o}ren. Dieser Beitrag fokussiert auf den Apostroph, der in vielf{\"a}ltiger Weise in den Texten Udo Lindenbergs eingesetzt wird sowie auf mehrteilige Namen, die wir als Tokens erhalten m{\"o}chten. Wir nutzen daf{\"u}r das komplette Lindenberg-Archiv des songkorpus.de-Repositoriums, kategorisieren die auftretenden Ph{\"a}nomene, erstellen einen Goldstandard und entwickeln ein teils regel-, teils auf maschinellem Lernen basierendes Segmentierungswerkzeug, das insbesondere die auftretenden Apostrophe, aber auch - lexikonbasiert - mehrteilige Namen nach unseren Vorstellungen erkennt und tokenisiert. Im Anschluss trainieren wir den RNN-Tagger (Schmid, 2019) und zeigen auf, dass ein spezifisch f{\"u}r diese Texte angepasstes Training zu Genauigkeiten {\ensuremath{\geq}} 96{\%} f{\"u}hrt. Dabei entsteht nicht nur ein Goldstandard des annotierten Korpus, das dem Songkorpus-Repositorium zur Verf{\"u}gung gestellt wird, sondern auch eine angepasste Version des RNN-Taggers (verf{\"u}gbar auf github), die f{\"u}r {\"a}hnliche Texte verwendet werden kann.
Automatic Authorship Classification for German Lyrics Using Na\"ive Bayes (2023)

Text classification is a prevalent and essential machine-learning task. Machine learning classifiers have developed immensely since their inception. The na{\"i}ve Bayes classifier is one of the most prominent supervised machine learning classifiers. In this experiment, we highlight the performance of Na{\"i}ve Bayes for classifying of authors/artists on the German lyrics corpus ({\textquotedblleft}Songkorpus{\textquotedblright}) and compare the classification results with other classifier algorithms. The corpus of investigation consists of six artists with 970 songs in total. Bayes model evaluation measures revealed a precision of 0.91, recall of 0.94, and F1-measure of 0.9. Furthermore, the classification performance with other classifier algorithms did not reveal any statistically significant difference in performance. The results of the study add to the high volume of reports on the classification accuracy of Naive Bayes for the task of lyrical classification.
Kencorpus: A Kenyan Language Corpus of Swahili, Dholuo and Luhya for Natural Language Processing Tasks (2023)

Indigenous African languages are categorized as under-served in Natural Language Processing. They therefore experience poor digital inclusivity and information access. The processing challenge with such languages has been how to use machine learning and deep learning models without the requisite data. The Kencorpus project intends to bridge this gap by collecting and storing text and speech data that is good enough for data-driven solutions in applications such as machine translation, question answering and transcription in multilingual communities. The Kencorpus dataset is a text and speech corpus for three languages predominantly spoken in Kenya: Swahili, Dholuo and Luhya (three dialects of Lumarachi, Lulogooli and Lubukusu). Data collection was done by researchers who were deployed to the various data collection sources such as communities, schools, media, and publishers. The Kencorpus' dataset has a collection of 5,594 items, being 4,442 texts of 5.6 million words and 1,152 speech files worth 177 hours. Based on this data, other datasets were also developed such as Part of Speech tagging sets for Dholuo and the Luhya dialects of 50,000 and 93,000 words tagged respectively. We developed 7,537 Question-Answer pairs from 1,445 Swahili texts and also created a text translation set of 13,400 sentences from Dholuo and Luhya into Swahili. The datasets are useful for downstream machine learning tasks such as model training and translation. Additionally, we developed two proof of concept systems: for Kiswahili speech-to-text and a machine learning system for Question Answering task. These proofs provided results of a performance of 18.87{\%} word error rate for the former, and 80{\%} Exact Match (EM) for the latter system. These initial results give great promise to the usability of Kencorpus to the machine learning community. Kencorpus is one of few public domain corpora for these three low resource languages and forms a basis of learning and sharing experiences for similar works especially for low resource languages. Challenges in developing the corpus included deficiencies in the data sources, data cleaning challenges, relatively short project timelines and the Coronavirus disease (COVID-19) pandemic that restricted movement and hence the ability to get the data in a timely manner.
The Proof is in the Pudding: Using Automated Theorem Proving to Generate Cooking Recipes (2023)

This paper presents FASTFOOD, a rule-based natural language generation (NLG) program for cooking recipes. We consider the representation of cooking recipes as discourse representation, because the meaning of each sentence needs to consider the context of the others. Our discourse representation system is based on states of affairs and transtions between states of affairs, and does not use discourse referents. Recipes are generated by using an automated theorem-proving procedure to select the ingredients and instructions, with ingredients corresponding to axioms and instructions to implications. FASTFOOD also contains a temporal optimization module which can rearrange the recipe to make it more time efficient for the user, e.g. the recipe specifies to chop the vegetables while the rice is boiling. The system is described in detail, including the decision to forgo discourse referents and how plausible representations of nouns and verbs emerge purely as a by-product of the practical requirements of efficiently representing recipe content. A comparison is then made with existing recipe generation systems, NLG systems more generally, and automated theorem provers.
\'Etude de m\'ethodes d`augmentation de donn\'ees pour la reconnaissance d`entit\'es nomm\'ees en astrophysique (2023)

Dans cet article nous {\'e}tudions l`int{\'e}r{\^e}t de l`augmentation de donn{\'e}es pour le rep{\'e}rage d`entit{\'e}s nomm{\'e}es en domaine de sp{\'e}cialit{\'e} : l`astrophysique. Pour cela, nous comparons trois m{\'e}thodes d`augmentation en utilisant deux r{\'e}cents corpus annot{\'e}s du domaine : DEAL et TDAC, tous deux en anglais. Nous avons g{\'e}n{\'e}r{\'e}s les donn{\'e}es artificielles en utilisant des m{\'e}thodes {\`a} base de r{\`e}gles et {\`a} base de mod{\`e}les de langue. Les donn{\'e}es ont ensuite {\'e}t{\'e} ajout{\'e}es de mani{\`e}re it{\'e}rative pour affiner un syst{\`e}me de d{\'e}tection d`entit{\'e}s. Les r{\'e}sultats permettent de constater un effet de seuil : ajouter des donn{\'e}es artificielles au-del{\`a} d`une certaine quantit{\'e} ne pr{\'e}sente plus d`int{\'e}r{\^e}t et peut d{\'e}grader la F-mesure. Sur les deux corpus, le seuil varie selon la m{\'e}thode employ{\'e}e, et en fonction du mod{\`e}le de langue utilis{\'e}. Cette {\'e}tude met {\'e}galement en {\'e}vidence que l`augmentation de donn{\'e}es est plus efficace sur de petits corpus, ce qui est coh{\'e}rent avec d`autres {\'e}tudes ant{\'e}rieures. En effet, nos exp{\'e}riences montrent qu`il est possible d`am{\'e}liorer de 1 point la F-mesure sur le corpus DEAL, et jusqu'{\`a} 2 points sur le corpus TDAC.
Towards a Robust Detection of Language Model-Generated Text: Is ChatGPT that easy to detect? (2023)

Recent advances in natural language processing (NLP) have led to the development of large language models (LLMs) such as ChatGPT. This paper proposes a methodology for developing and evaluating ChatGPT detectors for French text, with a focus on investigating their robustness on out-of-domain data and against common attack schemes. The proposed method involves translating an English dataset into French and training a classifier on the translated data. Results show that the detectors can effectively detect ChatGPT-generated text, with a degree of robustness against basic attack techniques in in-domain settings. However, vulnerabilities are evident in out-of-domain contexts, highlighting the challenge of detecting adversarial text. The study emphasizes caution when applying in-domain testing results to a wider variety of content. We provide our translated datasets and models as open-source resources.
Cross-lingual Strategies for Low-resource Language Modeling: A Study on Five Indic Dialects (2023)

Neural language models play an increasingly central role for language processing, given their success for a range of NLP tasks. In this study, we compare some canonical strategies in language modeling for low-resource scenarios, evaluating all models by their (finetuned) performance on a POS-tagging downstream task. We work with five (extremely) low-resource dialects from the Indic dialect continuum (Braj, Awadhi, Bhojpuri, Magahi, Maithili), which are closely related to each other and the standard mid-resource dialect, Hindi. The strategies we evaluate broadly include from-scratch pretraining, and cross-lingual transfer between the dialects as well as from different kinds of off-the- shelf multilingual models; we find that a model pretrained on other mid-resource Indic dialects and languages, with extended pretraining on target dialect data, consistently outperforms other models. We interpret our results in terms of dataset sizes, phylogenetic relationships, and corpus statistics, as well as particularities of this linguistic system.
Pauzee : Pr\'ediction des pauses dans la lecture d`un texte (2023)

Les pauses silencieuses jouent un r{\^o}le crucial en synth{\`e}se vocale o{\`u} elles permettent d`obtenir un rendu plus naturel. Dans ce travail, notre objectif consiste {\`a} pr{\'e}dire ces pauses silencieuses, {\`a} partir de textes, afin d`am{\'e}liorer les syst{\`e}mes de lecture automatique. Cette t{\^a}che n`ayant pas fait l`objet de nombreuses {\'e}tudes pour le fran{\c{c}}ais, constituer des donn{\'e}es d`apprentissage d{\'e}di{\'e}es {\`a} la pr{\'e}diction de pauses est n{\'e}cessaire. Nous proposons une strat{\'e}gie d`inf{\'e}rence de pauses, reposant sur des informations temporelles issues de donn{\'e}es orales transcrites, afin d`obtenir un tel corpus. Nous montrons ensuite qu'{\`a} l`aide d`un mod{\`e}le bas{\'e} sur des transformeurs et des donn{\'e}es adapt{\'e}es, il est possible d`obtenir des r{\'e}sultats prometteurs pour la pr{\'e}diction des pauses produites par un locuteur lors de la lecture d`un document.
Reconnaissance de d\'efigements dans des tweets en fran\ccais par des mesures de similarit\'e sur des alignements textuels (2023)

Cet article propose une premi{\`e}re approche permettant la reconnaissance automatique de d{\'e}figements linguistiques dans un corpus de tweets. Les recherches portant sur le domaine du figement ont gagn{\'e} en popularit{\'e} depuis quelques d{\'e}cennies. De nombreux travaux d{\'e}riv{\'e}s de cette notion sont {\'e}galement apparus, portant sur le ph{\'e}nom{\`e}ne corollaire du d{\'e}figement. Alors que les linguistes essayent de d{\'e}crypter les modes de construction de ces exemples de cr{\'e}ativit{\'e} lexicale, peu de travaux de recherche en TAL s`y sont int{\'e}ress{\'e}s. La probl{\'e}matique qu`offre le cas du d{\'e}figement est pourtant int{\'e}ressante{\textasciitilde}: des outils informatiques peuvent-ils {\^e}tre en mesure de reconna{\^i}tre automatiquement un d{\'e}figement ? Nous pr{\'e}sentons ici une m{\'e}thodologie bas{\'e}e sur des alignements de s{\'e}quences r{\'e}alis{\'e}s sur diverses couches d`informations linguistiques. Cette m{\'e}thodologie permet l`isolement de potentiels d{\'e}figements au sein d`un corpus de tweets. Nous exp{\'e}rimentons ensuite une m{\'e}thode de tri par similarit{\'e} des d{\'e}figements potentiels isol{\'e}s.
Tri-apprentissage g\'en\'eratif : g\'en\'eration de donn\'ees pour de la reconnaissance d`entit\'ees nomm\'ees semi-supervis\'e (2023)

Le d{\'e}veloppement de solutions de traitement automatique de la langue pour de nouvelles t{\^a}ches n{\'e}cessite des donn{\'e}es, dont l`obtention est co{\^u}teuses. L`acc{\`e}s aux donn{\'e}es peut {\^e}tre limit{\'e} en raison de la nature sensible des donn{\'e}es. La plupart des travaux r{\'e}cents ont exploit{\'e} de grands mod{\`e}les pr{\'e}-entra{\^i}n{\'e}s pour initialiser des versions sp{\'e}cialis{\'e}es de ceux-ci. La sp{\'e}cialisation d`un tel mod{\`e}le n{\'e}cessite toujours une quantit{\'e} {\'e}lev{\'e}e de donn{\'e}es {\'e}tiquet{\'e}es sp{\'e}cifiques {\`a} la t{\^a}che cible. Nous utilisons l`apprentissage semi-supervis{\'e} pour entra{\^i}ner des mod{\`e}les dans un contexte o{\`u} le nombre d`exemples {\'e}tiquet{\'e}s est limit{\'e} et le nombre de donn{\'e}es non {\'e}tiquet{\'e}es est nul. Nous {\'e}tudions plusieurs m{\'e}thodes pour g{\'e}n{\'e}rer le corpus non {\'e}tiquet{\'e} n{\'e}cessaire {\`a} l`utilisation de l`apprentissage semi-supervis{\'e}. Nous introduisons les m{\'e}thodes de g{\'e}n{\'e}ration entre les {\'e}pisodes d`entra{\^i}nement et utilisons les mod{\`e}les entra{\^i}n{\'e}s pour filtrer les exemples g{\'e}n{\'e}r{\'e}s. Nous testons cette g{\'e}n{\'e}ration avec le tri-apprentissage et l`auto-apprentissage sur des corpus Anglais et Fran{\c{c}}ais.
\'Evaluation d`un g\'en\'erateur automatique de reformulations m\'edicales (2023)

Les textes m{\'e}dicaux sont difficiles {\`a} comprendre pour le grand public {\`a} cause des termes de sp{\'e}cialit{\'e}. Ces notions m{\'e}dicales ont besoin d'{\^e}tre reformul{\'e}es en utilisant des mots de la langue commune. La reformulation repr{\'e}sente le processus de r{\'e}{\'e}criture qui a le r{\^o}le d`expliquer ou simplifier une phrase ou syntagme. Nous pr{\'e}sentons la m{\'e}thodologie de construction d`un jeu de donn{\'e}es original (termes et reformulations) permettant la d{\'e}tection et g{\'e}n{\'e}ration des nouvelles reformulations m{\'e}dicales. Pour compl{\'e}ter ce corpus, nous menons des exp{\'e}riences de g{\'e}n{\'e}ration automatique de reformulations m{\'e}dicales sous-phrastiques avec l`outil APT (Nighojkar {\&} Licato, 2021), qui s`appuie sur des techniques d`apprentissage profond. Nous adaptons le mod{\`e}le de langue de type Transformer T5 (Raffel et al., 2020) avec des termes m{\'e}dicaux et leur reformulations annot{\'e}s manuellement en fran{\c{c}}ais et en roumain, langue romane peu dot{\'e}e en ressources pour le TAL. Nous pr{\'e}sentons une analyse d{\'e}taill{\'e}e des r{\'e}sultats de la g{\'e}n{\'e}ration automatique des paraphrases.
\'Etude comparative des plongements lexicaux pour l`extraction d`entit\'es nomm\'ees en fran\ccais (2023)

Dans ce papier nous pr{\'e}sentons une {\'e}tude comparative des m{\'e}thodes de plongements lexicaux pour le fran{\c{c}}ais sur la t{\^a}che de Reconnaissance d`entit{\'e}s nomm{\'e}es (REN). L`objectif est de comparer la performance de chaque m{\'e}thode sur la m{\^e}me t{\^a}che et sous les m{\^e}mes conditions de travail. Nous utilisons comme corpus d'{\'e}tude la proportion fran{\c{c}}aise du corpus WikiNER. Il s`agit d`un corpus de 3,5 millions tokens avec 4 types d`entit{\'e}s. 10 types de plongements lexicaux sont {\'e}tudi{\'e}s, y compris les plongements non-contextuels, des contextuels et {\'e}ventuellement ceux {\`a} base de transformer. Pour chaque plongement, nous entra{\^i}nons un BiLSTM-CRF comme classifieur. Pour les mod{\`e}les {\`a} base de transformer, nous comparons {\'e}galement leur performance sous un autre cas d`usage: fine-tuning.
\textquotedblleftHoney, Tell Me What`s Wrong\textquotedblright, Explicabilit\'e Globale des Mod\`eles de TAL par la G\'en\'eration Coop\'erative (2023)

L`omnipr{\'e}sence de l`apprentissage automatique a mis en lumi{\`e}re l`importance des algorithmes d`explicabilit{\'e}. Parmi ces algorithmes, les m{\'e}thodes agnostiques au type de mod{\`e}le g{\'e}n{\`e}rent des exemples artificiels en modifiant l{\'e}g{\`e}rement les donn{\'e}es originales. Elles observent ensuite les changements de d{\'e}cision du mod{\`e}le sur ces exemples artificiels. Cependant, de telles m{\'e}thodes n{\'e}cessitent d`avoir des exemples initiaux et fournissent des explications uniquement sur la d{\'e}cision pour ces derniers. Pour r{\'e}pondre {\`a} ces probl{\'e}matiques, nous proposons Therapy, la premi{\`e}re m{\'e}thode d`explicabilit{\'e} mod{\`e}le-agnostique pour les mod{\`e}les de langue qui ne n{\'e}cessite pas de donn{\'e}es en entr{\'e}e. Cette m{\'e}thode g{\'e}n{\`e}re des textes qui suivent la distribution apprise par le classifieur {\`a} expliquer gr{\^a}ce {\`a} la g{\'e}n{\'e}ration coop{\'e}rative. Ne pas d{\'e}pendre d`exemples initiaux permet, en plus d'{\^e}tre applicable lorsqu`aucune donn{\'e}e n`est disponible (e.g, pour des raisons de confidentialit{\'e}), de fournir des explications sur le fonctionnement global du mod{\`e}le au lieu de plusieurs explications locales, offrant ainsi une vue d`ensemble du fonctionnement du mod{\`e}le. Nos exp{\'e}riences montrent que, m{\^e}me sans donn{\'e}es en entr{\'e}e, Therapy fournit des informations instructives sur les caract{\'e}ristiques des textes utilis{\'e}es par le classifieur qui sont comp{\'e}titives avec celles fournies par les m{\'e}thodes utilisant des donn{\'e}es.
Extraction de relations s\'emantiques et mod\`eles de langue : pour une relation \`a double sens (2023)

Les mod{\`e}les de langue contextuels se sont rapidement impos{\'e}s comme des outils essentiels du Traitement Automatique des Langues. N{\'e}anmoins, certains travaux ont montr{\'e} que leurs capacit{\'e}s en termes de s{\'e}mantique lexicale ne les distinguent pas vraiment sur ce plan de mod{\`e}les plus anciens, comme les mod{\`e}les statiques ou les mod{\`e}les {\`a} base de comptes. Une des fa{\c{c}}ons d`am{\'e}liorer ces capacit{\'e}s est d`injecter dans les mod{\`e}les contextuels des connaissances s{\'e}mantiques. Dans cet article, nous proposons une m{\'e}thode pour r{\'e}aliser cette injection en nous appuyant sur des connaissances extraites automatiquement. Par ailleurs, nous proposons d`extraire de telles connaissances par deux voies diff{\'e}rentes, l`une s`appuyant sur un mod{\`e}le de langue statique, l`autre sur un mod{\`e}le contextuel. Des {\'e}valuations r{\'e}alis{\'e}es pour l`anglais et focalis{\'e}es sur la similarit{\'e} s{\'e}mantique ont montr{\'e} l`int{\'e}r{\^e}t de cette d{\'e}marche, permettant d`enrichir s{\'e}mantiquement un mod{\`e}le de type BERT sans utilisation de ressources s{\'e}mantiques externes.
G\'eom\'etrie de l`auto-attention en classification : quand la g\'eom\'etrie remplace l`attention (2023)

Plusieurs {\'e}tudes ont mis en {\'e}vidence l`anisotropie des plongements issus d`un mod{\`e}le BERT au sein d`un {\'e}nonc{\'e}, c`est-{\`a}-dire leur concentration dans une direction donn{\'e}e, notamment dans une t{\^a}che de classification. Dans cet article, nous cherchons {\`a} mieux comprendre ce ph{\'e}nom{\`e}ne et comment cette convergence se construit en analysant finement les propri{\'e}t{\'e}s g{\'e}om{\'e}triques des plongements, des cl{\'e}s et des valeurs dans une couche d`auto-attention. Nous montrons que la direction vers laquelle les plongements s`alignent caract{\'e}rise la classe d`appartenance de l'{\'e}nonc{\'e}. Nous {\'e}tudions ensuite le fonctionnement intrins{\`e}que de la couche d`auto-attention et les m{\'e}canismes en jeu entre cl{\'e}s et valeurs pour garantir la construction d`une repr{\'e}sentation anisotrope. Cette construction se fait de mani{\`e}re progressive lorsque plusieurs couches sont empil{\'e}s. Elle s`av{\`e}re {\'e}galement robuste {\`a} des contraintes externes sur la distribution des poids d`attention, compens{\'e}es par le mod{\`e}le en jouant sur les valeurs et les cl{\'e}s.
Un traitement hybride du vague textuel : du syst\`eme expert VAGO \`a son clone neuronal (2023)

L`outil VAGO est un syst{\`e}me expert de d{\'e}tection du vague lexical qui mesure aussi le degr{\'e} de subjectivit{\'e} du discours, ainsi que son niveau de d{\'e}tail. Dans cet article, nous construisons un clone neuronal de VAGO, fond{\'e} sur une architecture de type BERT, entra{\^i}n{\'e} {\`a} partir des scores du VAGO symbolique sur un corpus de presse fran{\c{c}}aise (FreSaDa). L`analyse qualitative et quantitative montre la fid{\'e}lit{\'e} de la version neuronale. En exploitant des outils d`explicabilit{\'e} (LIME), nous montrons ensuite l`int{\'e}r{\^e}t de cette version neuronale d`une part pour l`enrichissement des lexiques de la version symbolique, et d`autre part pour la production de versions dans d`autres langues.