Dataset Preview Go to dataset viewer
id (string)sentence (string)language (class label)
0
den ble gitt charter av ranulf de blondeville
2 (nb)
1
hjemmebanen hedder orlando scarpelli og har plads til tilskuere
0 (dk)
2
félagið á sterk lið í öllum stóru boltagreinunum handbolta fótbolta og körfubolta og afrekaði það árið að leika með öll sín meistaraflokkslið karla og kvenna í efstu deild
5 (is)
3
courtney hicks hodges
0 (dk)
4
indbygger i sociologi inddeles befolkningen efter social status og i geologi inddeles jord efter bonitet
0 (dk)
5
hyllisia antennata är en skalbaggsart som först beskrevs av fabricius
1 (sv)
6
årsmedeltemperaturen i trakten är c
1 (sv)
7
utøvere fra luxembourg tok ingen medaljer under mesterskapet
2 (nb)
8
trakten runt volcán michinmahuida är nära nog obefolkad med mindre än två invånare per kvadratkilometer
1 (sv)
9
stéttarfélag bókasafns og upplýsingafræðinga
5 (is)
10
trakten runt ayn al qumqum är ofruktbar med lite eller ingen växtlighet
1 (sv)
11
efter sin første hustrus død ægtede speckhahn
0 (dk)
12
henda umflokking av pluto fór fram eftir
4 (fo)
13
barrið nálar er flatt til sm langt og til mmbreitt og stendur hornrétt frá sprotanum og endar í oddi
5 (is)
14
árini f kr
4 (fo)
15
den ligger i riksdelen skottland i den centrala delen av landet km nordväst om huvudstaden london
1 (sv)
16
sjukdomen ger symptom som kräkningar diarréer och kan i svåra fall vara dödligt
1 (sv)
17
hesthús efri
5 (is)
18
tengst er með rafsegulbylgjum á örbylgjurófinu og því þarf ekki að tengja tækið við netkerfið með snúru
5 (is)
19
nóvember eru yfirleitt talin hafa orðið fyrir barðinu á sama morðingjanum
5 (is)
20
gaden er navngivet efter et oldnordisk kvindenavn sammensat af ord for gud og smuk
0 (dk)
21
strambottoen ble utvikla enten på sicilia eller i toscana og er en av de eldste formene for diktning på italiensk
2 (nb)
22
naval observatory washington
3 (nn)
23
margar ástæður geta legið að baki atvinnuleysi í löndum
5 (is)
24
ef fuglebeskyttelsesområde
0 (dk)
25
den regnigaste månaden är maj med i genomsnitt mm nederbörd och den torraste är december med mm nederbörd
1 (sv)
26
dette gjer skulen til den lengste i noreg
3 (nn)
27
robbie neilson född juni i paisley är en skotsk före detta fotbollsspelare som sedan är coach i heart of midlothians u lag
1 (sv)
28
bernd gröne født
2 (nb)
29
othreis caesar är en fjärilsart som beskrevs av felder
1 (sv)
30
dei har g til felles at dei ser på patriarken abraham som ein andeleg eller kjødeleg stamfar
3 (nn)
31
meiwes gav ham tilsyneladende store mængder alkohol og smertestillende midler og dræbte ham derefter i et rum som han fik indrettet i sit hus til dette formål
0 (dk)
32
klubben arrangerte junior nm i friidrett i
2 (nb)
33
natsumi hara født
0 (dk)
34
det betyder at dronningen indirekte ville angribe alt i e linjen
0 (dk)
35
þessi grein fjallar um kvikmynd til þess að sjá greinina um hafið má sjá greinina sjór
5 (is)
36
carl friedrich j rgen peter abercron født
0 (dk)
37
condoleezza rice f
5 (is)
38
kyrkja vart innvigd i men i vart soknet nedlagt
3 (nn)
39
ofta koma teir upp aftur við fiski mest seiði ella berggyltu sum teir sletta við eina løtu áðrenn teir svølgja
4 (fo)
40
felagið fekk ábyrgdina fyri handil við og at stýra trankebar
4 (fo)
41
dagur ársins
5 (is)
42
ein sólskipan er samansett av minst einari stjørnu og einum tali av lutum sum eru í ringrás um hesa stjørnuna
4 (fo)
43
ein føroyingur luttók undir donskum flaggi á summar ol tað gjørdi pál joensen tá ið hann svam metrar frí
4 (fo)
44
í boði eru hamborgari í ítalskri sósu pylsur í ítalskri sósu og ýsa sælkerans
5 (is)
45
ofta er tónleikur onkur lesur upp yrkingar ella kanska er annað skemt fyri gestunum
4 (fo)
46
midlere årsproduksjon er på gwh
2 (nb)
47
kommunen har innbyggjarar og eit areal på km
3 (nn)
48
den første cd indeholder det oprindelig album med de to nye numre better place der tidligere kun var tilgængelig på itunes store og something new der er kendt fra en tv reklame med dfds
0 (dk)
49
familie journal egentlig illustreret familie journal og senere familie journalen er et dansk familieugeblad der er udkommet siden
0 (dk)
50
sagan er uppvaxtar og þroskasaga þar sem líkaminn er í forgrunni
5 (is)
51
hjartartré getur orðið metrar að hæð og er ein af stærstu harðviðartegundum í asíu
5 (is)
52
rasmus rasmussen føddur
4 (fo)
53
december i paris død
0 (dk)
54
cerro centinela är ett berg i chile
1 (sv)
55
tel aviv jaffa hebraiskt tel aviv jafo er størsti býurin í ísrael og miðdepil í ídnaði og handli
4 (fo)
56
kunstmaleren gunnar berg bygget seg et atelier på tallet på svinøya
2 (nb)
57
hanna pakarinen finsk songkvinna
4 (fo)
58
soga omtalar dei norrøne gudane som vanlege menneske
3 (nn)
59
charcot leiddi tvo mikilvæga könnunarleiðangra til suðurskautslandsins á skipinu fran ais og á sérútbúna rannsóknarskipinu pourquoi pas
5 (is)
60
menigheden er særligt kendt for arbejdet med de mindre fællesskaber klynger med deltagere der supplerer gudstjenestefællesskabet ved at være mindre
0 (dk)
61
det er usikkert om det var ham konstantin udnævnte til tronfølger
0 (dk)
62
c l ra i er et distrikt i muntenien i rumænien med indbyggere
0 (dk)
63
det var bertens første titel i en wta premier mandatory turnering og hun blev den første spiller der vandt damesingletitlen i madrid uden sættab undervejs i turneringen hvor hun ellers mødte fire grand slam vindere
0 (dk)
64
selv om han allerede hadde én landskamp var det i rosenborg trøya han først og fremst ble kjent
2 (nb)
65
for den pågående sesongen se obos ligaen obos ligaen er den nest øverste divisjonen i norsk herrefotball
2 (nb)
66
trakten runt earls barton består till största delen av jordbruksmark kustklimat råder i trakten
1 (sv)
67
margar styrjaldir hafa verið háðar vegna þessarar stefnu og eru einhverjar í fullum gangi á okkar tímum
5 (is)
68
den högsta punkten i närheten är meter över havet km nordost om lac charest i övrigt finns följande vid lac charest
1 (sv)
69
deeleman reinhold
1 (sv)
70
et direkte resultat av nederlaget ved lappo var at den russiske generalen nikolaj kamenskij overtok kommandoen etter rajevskij
2 (nb)
71
tær eru válur kvívík stykkið leynar og skælingur
4 (fo)
72
den högsta punkten i närheten är berim meter över havet km sydväst om brankovo brdo
1 (sv)
73
propan c h
4 (fo)
74
den regnigaste månaden är juni med i genomsnitt mm nederbörd och den torraste är februari med mm nederbörd
1 (sv)
75
fjögur verka hans hafa verið sett á svið í bandaríkjunum the guarding angel a guy named al body parts og the iceman is here
5 (is)
76
i eldre sjønemning heiter vindstyrken merseils kuling
3 (nn)
77
den britiske statsministeren benjamin disraeli er rekna å ha vore den som sette opp tittelen for henne
3 (nn)
78
árið var loftur einn íslendinga sem áttu meira en milljarð króna í eignir umfram skuldir skv
5 (is)
79
fiskarkapellet er eit lafta kyrkjebygg frå som står på maihaugen i lillehammer
3 (nn)
80
bond filmen casino royale
2 (nb)
81
han var sjefredaktør og adm
2 (nb)
82
for i blev sponsorering af kapsejladsen overtaget af volvo og volvo cars og sejladsen blev omdøbt til volvo ocean race
0 (dk)
83
arean är kvadratkilometer
1 (sv)
84
provincia de tierra del fuego antártida e islas del atlántico sur er den sørlegaste av dei provinsane i argentina
3 (nn)
85
eremittfly dryobotodes eremita er en sommerfugl som tilhører familien nattfly noctuidae
2 (nb)
86
dette er eit objekt som skal kastast eller sparkast i ruter på bakken og bli liggjande der ein ønsker
3 (nn)
87
gustaf jakob horn af rantzien född maj i stade död genom avrättning den juli på riddarholmen i stockholm var en svensk hovman brorson till henning rudolf horn af rantzien
1 (sv)
88
tákn kommúnismans rauða stjarnan og hamar og sigð voru tekin burt og í þess stað kom þjóðarmusterið pha that luang
5 (is)
89
delosperma lydenburgense ingår i släktet delosperma och familjen isörtsväxter
1 (sv)
90
guðmundur björnsson tók sér ættarnafnið björnson f
5 (is)
91
petsjorahavet er blokkert av is frå november til juni
3 (nn)
92
western musikk oppstod som ei form for usa amerikansk folkemusikk
3 (nn)
93
byen götzis ligg meter over havet
3 (nn)
94
volgar uppsprettur eru víða í landi svanshóls
5 (is)
95
orphulella losamatensis är en insektsart som beskrevs av andrew nelson caudell
1 (sv)
96
hann samdi fljótlega um frið við parþa og hélt til rómar
5 (is)
97
hun var innvalgt på stortinget fra akershus midlertidig partiformann i handels og skipsfartsminister i jan p
2 (nb)
98
juni i driesum død
0 (dk)
99
januar er rithøvundur lærari og marknaðarføringsøkonomur
4 (fo)
End of preview (truncated to 100 rows)

Dataset Card for nordic_langid

Dataset Summary

Automatic language identification is a challenging problem. Discriminating between closely related languages is especially difficult. This paper presents a machine learning approach for automatic language identification for the Nordic languages, which often suffer miscategorisation by existing state-of-the-art tools. Concretely we will focus on discrimination between six Nordic languages: Danish, Swedish, Norwegian (Nynorsk), Norwegian (Bokmål), Faroese and Icelandic.

This is the data for the tasks. Two variants are provided: 10K and 50K, with holding 10,000 and 50,000 examples for each language respectively.

For more info, see the paper: Discriminating Between Similar Nordic Languages.

Supported Tasks and Leaderboards

*

Languages

This dataset is in six similar Nordic languages:

  • Danish, da
  • Faroese, fo
  • Icelandic, is
  • Norwegian Bokmål, nb
  • Norwegian Nynorsk, nn
  • Swedish, sv

Dataset Structure

The dataset has two parts, one with 10K samples per language and another with 50K per language. The original splits and data allocation used in the paper is presented here.

Data Instances

[Needs More Information]

Data Fields

  • id: the sentence's unique identifier, string
  • sentence: the test to be classifier, a string
  • language: the class, one of da, fo, is, nb, no, sv.

Data Splits

Train and Test splits are provided, divided using the code provided with the paper.

Dataset Creation

Curation Rationale

Data is taken from Wikipedia and Tatoeba from each of these six languages.

Source Data

Initial Data Collection and Normalization

Data collection Data was scraped from Wikipedia. We downloaded summaries for randomly chosen Wikipedia articles in each of the languages, saved as raw text to six .txt files of about 10MB each. The 50K section is extended with Tatoeba data, which provides a different register to Wikipedia text, and then topped up with more Wikipedia data.

Extracting Sentences The first pass in sentence tokenisation is splitting by line breaks. We then extract shorter sentences with the sentence tokenizer (sent_tokenize) function from NLTK (Loper and Bird, 2002). This does a better job than just splitting by ’.’ due to the fact that abbreviations, which can appear in a legitimate sentence, typically include a period symbol.

Cleaning characters The initial data set has many characters that do not belong to the alphabets of the languages we work with. Often the Wikipedia pages for people or places contain names in foreign languages. For example a summary might contain Chinese or Russian characters which are not strong signals for the purpose of discriminating between the target languages. Further, it can be that some characters in the target languages are mis-encoded. These misencodings are also not likely to be intrinsically strong or stable signals. To simplify feature extraction, and to reduce the size of the vocabulary, the raw data is converted to lowercase and stripped of all characters which are not part of the standard alphabet of the six languages using a character whitelist.

Who are the source language producers?

The source language is from Wikipedia contributors and Tatoeba contributors.

Annotations

Annotation process

The annotations were found.

Who are the annotators?

The annotations were found. They are determined by which language section a contributor posts their content to.

Personal and Sensitive Information

The data hasn't been checked for PII, and is already all public. Tatoeba is is based on translations of synthetic conversational turns and is unlikely to bear personal or sensitive information.

Considerations for Using the Data

Social Impact of Dataset

This dataset is intended to help correctly identify content in the languages of six minority languages. Existing systems often confuse these, especially Bokmål and Danish or Icelandic and Faroese. However, some dialects are missed (for example Bornholmsk) and the closed nature of the classification task thus excludes speakers of these languages without recognising their existence.

Discussion of Biases

The text comes from only two genres, so might not transfer well to other domains.

Other Known Limitations

[Needs More Information]

Additional Information

Dataset Curators

[Needs More Information]

Licensing Information

The data here is licensed CC-BY-SA 3.0. If you use this data, you MUST state its origin.

Citation Information

@inproceedings{haas-derczynski-2021-discriminating,
    title = "Discriminating Between Similar Nordic Languages",
    author = "Haas, Ren{\'e}  and
      Derczynski, Leon",
    booktitle = "Proceedings of the Eighth Workshop on NLP for Similar Languages, Varieties and Dialects",
    month = apr,
    year = "2021",
    address = "Kiyv, Ukraine",
    publisher = "Association for Computational Linguistics",
    url = "https://aclanthology.org/2021.vardial-1.8",
    pages = "67--75",
}
```
Edit dataset card
Papers with Code