Datasets:

gavinlaw
/

rasst-main-result-data

text stringlengths 2 61.9k
Hallo, hier ist Elena und ich stelle nun unsere Arbeit vor: Die Erkennung nicht-assimilierter Entlehnungen im Spanischen: Ein annotierter Korpus und Ansätze zur Modellierung.
Wir werden uns also damit beschäftigen, was die lexikalische Entlehnung ist, die von uns vorgeschlagene Aufgabe, den veröffentlichten Datensatz und einige untersuchte Modelle.
Doch zunächst einmal: Was ist die lexikalische Entlehnung und warum ist sie als NLP-Aufgabe so wichtig?
Die lexikalische Entlehnung ist im Grunde die Übernahme von Wörtern aus einer Sprache in eine andere Sprache.
Zum Beispiel verwenden wir im Spanischen Wörter, die aus dem Englischen stammen.
Und hier ein paar Beispiele: Wörter wie Podcast, App und Online-Crowdfunding sind englische Wörter, die wir manchmal im Spanischen verwenden.
Die lexikalische Entlehnung ist eine Art der sprachlichen Entlehnung, die im Grunde genommen die Reproduktion von Mustern einer Sprache in einer anderen Sprache bedeutet.
Manchmal wurde die Entlehnung mit dem Code-Switching verglichen und als ein Kontinuum beschrieben. Code-Switching wird von Zweisprachigen praktiziert, wenn sie zwei Sprachen gleichzeitig verwenden.
Es gibt jedoch einige Unterschiede zwischen lexikalischer Entlehnung und Code-Switching.
Wir werden uns auf die lexikalische Entlehnung konzentrieren.
Zweisprachige Personen praktizieren das sogenannte Code-Switching. Per Definition sind die Code-Switches nicht Teil der verwendeten Sprachen, während die lexikalische Entlehnung auch von einsprachigen Personen verwendet wird.
Die Entlehnungen werden der Grammatik der Empfängersprache angepasst.
Entlehnungen können Schritt für Schritt in die Empfängersprache integriert werden.
Warum ist Entlehnen so ein interessantes Phänomen?
Aus Sicht der Linguistik ist die Entlehnung eine Manifestation dessen, wie sich Sprachen verändern und wie sie interagieren.
Auch lexikalische Entlehnungen sind eine Quelle für neue Wörter.
Hier finden Sie einige Beispiele für lexikalische Entlehnungen, die als neue Wörter in die spanische Sprache aufgenommen wurden.
Beim NLP sind Entlehnungen eine häufige Quelle von Wörtern, die nicht im Wortschatz enthalten sind.
Die automatische Erkennung lexikalischer Entlehnungen erwies sich als nützlich für NLP und nachgelagerte Aufgaben wie Parsing, Text-zu-Sprache-Synthesen oder die maschinelle Übersetzung.
Der Einfluss des Englischen auf andere Sprachen erfährt immer stärkeres Interesse, insbesondere bei englischen lexikalischen Entlehnungen. Diese werden manchmal auch als Anglizismen bezeichnet.
Hier sind einige Beispiele von Arbeiten zur automatischen Erkennung von Entlehnungen in einigen dieser Sprachen.
Die Aufgabe, die wir vorschlagen, besteht also darin, nicht-assimilierte lexikalische Entlehnungen in spanischen Nachrichten zu erkennen.
Wir sind daran interessiert, aus anderen Sprachen entlehnte Wörter zu extrahieren, die in spanischen Zeitungen verwendet werden, aber nicht in die Empfängersprache integriert oder assimiliert wurden.
Sie wurden also noch nicht ins Spanische integriert.
Hier ist ein Beispiel.
Dies ist ein Satz auf Spanisch: Las prendas bestsellers se estampan con motivos florales, animal print o retales tipo patchwork.
Wie Sie sehen können, sind hier drei Textpassagen, die eigentlich englische Wörter sind: Bestseller, Animal Print und Patchwork.
Bei diesen Passagen wollen wir extrahieren und erkennen.
Es gab früher schon Arbeiten über die Erkennung von Anglizismen. Diese beschäftigten sich mit einem CRF-Modell für die Erkennung von Anglizismen in spanischen Nachrichten.
Dieses Modell erreichte einen F1-Score von 86.
Es gab jedoch einige Einschränkungen sowohl beim Datensatz als auch beim Modellierungsansatz.
Der Datensatz konzentrierte sich also ausschließlich auf eine Quelle von den Nachrichten und bestand nur aus Schlagzeilen.
Außerdem gab es Überschneidungen bei den Entlehnungen, die im Trainingssatz und im Testsatz vorkommen.
Dadurch konnte nicht beurteilt werden, ob der Modellierungsansatz tatsächlich auf zuvor unbekannte Entlehnungen verallgemeinert werden kann.
Unser Ziel ist es also, einige dieser Einschränkungen in der Aufgabe zu überwinden.
Zu Beginn haben wir also einen neuen Datensatz erstellt.
Das Ziel war ein neuer Datensatz, der mit lexikalischen Entlehnungen annotiert wurde, und einen möglichst schwierigen Testsatz zu erstellen.
Es gäbe also minimale Überschneidungen bei Wörtern und Themen zwischen dem Trainingssatz und dem Testsatz.
Das Ergebnis ist, dass der Testsatz aus Quellen und Daten stammt, die wir nicht im Trainingssatz sehen.
Hier können Sie sehen, dass es keine Überschneidungen in der Zeit gibt.
Außerdem enthält der Testsatz auch sehr viele Entlehnungen.
Um Ihnen ein paar Zahlen zu nennen: Wenn der Trainingssatz sechs Entlehnungen pro 1000 Token enthält, enthält der Testsatz 20 Entlehnungen pro 1000 Token.
Der Testsatz enthielt so viele Vokabelwörter wie möglich.
Tatsächlich sind 92 Prozent der Entlehnungen im Testsatz OOV.
Sie waren also während des Trainings nicht bekannt.
Der Korpus bestand im Wesentlichen aus einer Sammlung von Texten, die aus verschiedenen Quellen spanischer Zeitungen stammten.
Er wurde manuell mit zwei Tags annotiert.
Einer für englische lexikalische Entlehnungen, die den Großteil der lexikalischen Entlehnungen im Spanischen ausmachen, und dann das andere Label für Entlehnungen aus anderen Sprachen.
Wir verwenden CONLL-Formate und die BIO-Kodierung, sodass wir einfache Token-Entlehnungen wie „App“ oder mehrteilige Token-Entlehnungen wie „maschinelles Lernen“ kodieren können.
Das sind die Nummern des Korpus.
Wie Sie sehen können, handelt es sich um etwa 370 000 Token.
Hier sehen Sie die Reihe an Passagen, die als Englisch markiert wurden, und die Passagen, die als andere Entlehnungen markiert waren, und wie viele davon einzigartig waren.
Hier sehen Sie einige Beispiele für den Datensatz.
Wie Sie zum Beispiel hier sehen können, haben wir im ersten Beispiel die Entlehnung „batch cooking“, die eine mehrteilige Wort-Entlehnung ist.
Wir haben dieses Wort mit der BIO-Kodierung annotiert.
BIO wurde also für Wörter im Spanischen verwendet, also nicht für Wörter, die nicht entlehnt wurden.
Hier in diesem zweiten Beispiel sehen Sie „benching“ und „crash“, die ebenfalls als Entlehnungen aus dem Englischen markiert sind.
Nachdem wir also den Datensatz hatten, untersuchten wir verschiedene Modelle für die Aufgabe, bei der wir lexikalische Entlehnungen extrahieren und erkennen wollten.
Zuerst haben wir das bedingte Zufallsfeld Modell getestet.
Das war das Modell, das bei früheren Arbeiten verwendet worden war.
Wir haben die gleichen manuell erstellten Funktionen wie bei dieser Arbeit verwendet.
Wie Sie sehen können, sind dies die Funktionen.
Dies sind binäre Funktionen, wie das Wort oder das Token in Großbuchstaben.
Handelt es sich um einen Titel?
Ist es ein Anführungszeichen?
Solche Dinge sind die Art von Funktionen, die man bei einer Named Entity Recognition-Aufgabe erwarten würde.
Das sind die Ergebnisse, die wir erhalten haben.
Wir erhalten 55 F1-Scores, wenn wir das CRF-Modell mit manuell erstellten Funktionen verwenden.
Das ist ein großer Unterschied im Vergleich zum bereits berichteten F1-Score von 86, der ein Ergebnis desselben CRF-Modells mit derselben Funktionen war, aber auf einen anderen Datensatz angewendet wurde, auch für die Erkennung von spanischen lexikalischen Entlehnungen.
Das beweist also, dass der Datensatz, den wir erstellt haben, schwieriger ist und dass wir anspruchsvollere Modelle für diese Aufgaben entwickeln müssen.
Wir haben also zwei Transformer-basierte Modelle getestet.
Wir haben BETO verwendet, ein einsprachiges BERT-Modell, das auf Spanisch trainiert ist, und auch ein mehrsprachiges BERT-Modell.
Beide Modelle verwenden wir über die Transformer-Bibliothek von HuggingFace.
Das sind die Ergebnisse, die wir erhalten haben.
Wie Sie sehen können, schneidet das mehrsprachige BERT sowohl im Entwicklungssatz als auch im Testsatz und bei allen Metriken besser ab als BETO.
Das CRF-Modell hat 82 erreicht, nur damit wir einen Vergleich ziehen können.
Das CRF-Modell erreichte einen F1-Score von 55, während das mehrsprachige BERT 82 erreichte, was ein großer Unterschied ist.
Nachdem wir also diese Ergebnisse hatten, stellten wir uns eine weitere Frage, nämlich: Können wir ein BiLSTM-CRF-Modell finden, verschiedene Arten von Einbettungen darin einspeisen, Einbettungen, die verschiedene Arten von sprachlichen Informationen kodieren, und die Ergebnisse von Transformer-basierten Modellen übert...
Dafür haben wir einige präliminäre Experimente durchgeführt, und zwar mit dem BiLSTM-CRF-Modell unter Verwendung von Flare Library.
Wir haben mit verschiedenen Arten von Einbettungen experimentiert, z. B. mit Transformer-basierten, aber auch mit Schnell-Text-Einbettungen und Zeichen-Einbettungen.
Wir haben herausgefunden, dass Transformer-basierte Einbettungen besser abschneiden als nicht kontextualisierte Einbettungen, dass die Kombination aus englischer BERT- und spanischer BETO-Einbettung besser ist als mehrsprachige BERT-Einbettungen.
Auch ergeben die BPE-Einbettungen ein besseres F1 und die Zeicheneinbettungen ein besseres Recall.
Vor diesem Hintergrund waren dies die besten Ergebnisse, die wir erzielen konnten.
Beide Modelle waren BiLSTM-CRF-Modelle unter Verwendung von Flare.
Bei einem wurden BETO- und BERT-Einbettungen und BPE eingespeist, beim anderen BETO- und BERT-Einbettungen und BPE sowie Zeichen-Einbettungen.
Letzteres war dasjenige, das den höchste F1-Score beim Testsatz erzielte, obwohl der höchste Score beim Entwicklungssatz durch das Modell ohne Zeichen-Einbettungen erreicht wurde.
Vergessen Sie nicht, dass das beste Ergebnis, das wir mit mehrsprachigem BERT erzielt haben, einen F1-Wert von 76 im Entwicklungssatz und 82 im Testsatz erreichte.
Dies ist also eine Verbesserung im Vergleich zu diesen Ergebnissen.
Schließlich stellten wir uns noch eine weitere Frage: Kann die Erkennung von lexikalischen Entlehnungen als Transferlernen von Sprachidentifikation beim Code-Switching formuliert werden?
Wir haben also dasselbe BiLSTM-CRF-Modell wie mit Flare verwendet, aber anstelle dieser nicht angepassten Transformer-basierten BETO- und BERT-Einbettungen haben wir Code-Switch-Einbettungen verwendet.
Was sind Code-Switch-Einbettungen?
Dies sind Einbettungen, die auf Transformer-basierte Einbettungen abgestimmt wurden. Diese wurden für die Sprachidentifikation im Spanisch-Englisch-Abschnitt des LinCE-Code-Switching-Datensatzes vortrainiert.
LinCE ist ein Datensatz vom Code-Switching, der einen Abschnitt mit Code-Switching von Spanisch und Englisch enthält.
Wir speisten also Code-Switch-Einbettungen in unser BiLSTM-CRF ein. Optional können Zeicheneinbettungen, BPE-Einbettungen und so weiter eingefügt werden.
Das beste Ergebnis, das wir erzielt haben, war 84,22. Das ist das beste Ergebnis aller Modelle, die wir mit dem Testsatz ausprobiert haben.
Obwohl der beste F1-Score, den wir beim Entwicklungssatz erzielt haben, 97 war, war dieser niedriger als das beste Ergebnis vom BiLSTM-CRF, das mit unangepassten Einbettungen eingespeist war.
Hier sind einige Schlussfolgerungen aus unserer Arbeit.
Wir haben einen neuen Datensatz mit spanischen Nachrichten erstellt, der mit nicht assimilierten lexikalischen Entlehnungen annotiert ist.
Dieser Datensatz ist dichter an Entlehnungen und OOV-reicher als frühere Ressourcen.
Wir haben vier Arten von Modellen für die Erkennung lexikalischer Entlehnungen erforscht.

End of preview. Expand in Data Studio

RASST Main Result Eval Data

This dataset contains the release-facing RASST main-result evaluation inputs, glossaries, and referenced audio snippets for the ACL6060 tagged and medicine hard/raw evaluation tracks.

It is intended to be downloaded into the RASST repository's ignored data/ directory:

cd /mnt/taurus/data2/jiaxuanluo/RASST
RASST_ALLOW_DOWNLOAD=1 bash code/rasst/scripts/download_release_data.sh --download

After download, the RASST eval manifest resolves these paths:

data/glossaries/
data/main_result/inputs/
data/main_result/audio/

Source repository: https://github.com/luojiaxuan/RASST

HF dataset repo: gavinlaw/rasst-main-result-data

The dataset is released as a research artifact for reproducing the reported RASST evaluation. Check upstream dataset and audio-source licenses before redistributing derivative copies.

Downloads last month: 18