Datasets:

strombergnlp
/

nordic_langid

id stringlengths 1 5	sentence stringlengths 9 294	language class label 6 classes
0	den ble gitt charter av ranulf de blondeville	2nb
1	hjemmebanen hedder orlando scarpelli og har plads til tilskuere	0dk
2	félagið á sterk lið í öllum stóru boltagreinunum handbolta fótbolta og körfubolta og afrekaði það árið að leika með öll sín meistaraflokkslið karla og kvenna í efstu deild	5is
3	courtney hicks hodges	0dk
4	indbygger i sociologi inddeles befolkningen efter social status og i geologi inddeles jord efter bonitet	0dk
5	hyllisia antennata är en skalbaggsart som först beskrevs av fabricius	1sv
6	årsmedeltemperaturen i trakten är c	1sv
7	utøvere fra luxembourg tok ingen medaljer under mesterskapet	2nb
8	trakten runt volcán michinmahuida är nära nog obefolkad med mindre än två invånare per kvadratkilometer	1sv
9	stéttarfélag bókasafns og upplýsingafræðinga	5is
10	trakten runt ayn al qumqum är ofruktbar med lite eller ingen växtlighet	1sv
11	efter sin første hustrus død ægtede speckhahn	0dk
12	henda umflokking av pluto fór fram eftir	4fo
13	barrið nálar er flatt til sm langt og til mmbreitt og stendur hornrétt frá sprotanum og endar í oddi	5is
14	árini f kr	4fo
15	den ligger i riksdelen skottland i den centrala delen av landet km nordväst om huvudstaden london	1sv
16	sjukdomen ger symptom som kräkningar diarréer och kan i svåra fall vara dödligt	1sv
17	hesthús efri	5is
18	tengst er með rafsegulbylgjum á örbylgjurófinu og því þarf ekki að tengja tækið við netkerfið með snúru	5is
19	nóvember eru yfirleitt talin hafa orðið fyrir barðinu á sama morðingjanum	5is
20	gaden er navngivet efter et oldnordisk kvindenavn sammensat af ord for gud og smuk	0dk
21	strambottoen ble utvikla enten på sicilia eller i toscana og er en av de eldste formene for diktning på italiensk	2nb
22	naval observatory washington	3nn
23	margar ástæður geta legið að baki atvinnuleysi í löndum	5is
24	ef fuglebeskyttelsesområde	0dk
25	den regnigaste månaden är maj med i genomsnitt mm nederbörd och den torraste är december med mm nederbörd	1sv
26	dette gjer skulen til den lengste i noreg	3nn
27	robbie neilson född juni i paisley är en skotsk före detta fotbollsspelare som sedan är coach i heart of midlothians u lag	1sv
28	bernd gröne født	2nb
29	othreis caesar är en fjärilsart som beskrevs av felder	1sv
30	dei har g til felles at dei ser på patriarken abraham som ein andeleg eller kjødeleg stamfar	3nn
31	meiwes gav ham tilsyneladende store mængder alkohol og smertestillende midler og dræbte ham derefter i et rum som han fik indrettet i sit hus til dette formål	0dk
32	klubben arrangerte junior nm i friidrett i	2nb
33	natsumi hara født	0dk
34	det betyder at dronningen indirekte ville angribe alt i e linjen	0dk
35	þessi grein fjallar um kvikmynd til þess að sjá greinina um hafið má sjá greinina sjór	5is
36	carl friedrich j rgen peter abercron født	0dk
37	condoleezza rice f	5is
38	kyrkja vart innvigd i men i vart soknet nedlagt	3nn
39	ofta koma teir upp aftur við fiski mest seiði ella berggyltu sum teir sletta við eina løtu áðrenn teir svølgja	4fo
40	felagið fekk ábyrgdina fyri handil við og at stýra trankebar	4fo
41	dagur ársins	5is
42	ein sólskipan er samansett av minst einari stjørnu og einum tali av lutum sum eru í ringrás um hesa stjørnuna	4fo
43	ein føroyingur luttók undir donskum flaggi á summar ol tað gjørdi pál joensen tá ið hann svam metrar frí	4fo
44	í boði eru hamborgari í ítalskri sósu pylsur í ítalskri sósu og ýsa sælkerans	5is
45	ofta er tónleikur onkur lesur upp yrkingar ella kanska er annað skemt fyri gestunum	4fo
46	midlere årsproduksjon er på gwh	2nb
47	kommunen har innbyggjarar og eit areal på km	3nn
48	den første cd indeholder det oprindelig album med de to nye numre better place der tidligere kun var tilgængelig på itunes store og something new der er kendt fra en tv reklame med dfds	0dk
49	familie journal egentlig illustreret familie journal og senere familie journalen er et dansk familieugeblad der er udkommet siden	0dk
50	sagan er uppvaxtar og þroskasaga þar sem líkaminn er í forgrunni	5is
51	hjartartré getur orðið metrar að hæð og er ein af stærstu harðviðartegundum í asíu	5is
52	rasmus rasmussen føddur	4fo
53	december i paris død	0dk
54	cerro centinela är ett berg i chile	1sv
55	tel aviv jaffa hebraiskt tel aviv jafo er størsti býurin í ísrael og miðdepil í ídnaði og handli	4fo
56	kunstmaleren gunnar berg bygget seg et atelier på tallet på svinøya	2nb
57	hanna pakarinen finsk songkvinna	4fo
58	soga omtalar dei norrøne gudane som vanlege menneske	3nn
59	charcot leiddi tvo mikilvæga könnunarleiðangra til suðurskautslandsins á skipinu fran ais og á sérútbúna rannsóknarskipinu pourquoi pas	5is
60	menigheden er særligt kendt for arbejdet med de mindre fællesskaber klynger med deltagere der supplerer gudstjenestefællesskabet ved at være mindre	0dk
61	det er usikkert om det var ham konstantin udnævnte til tronfølger	0dk
62	c l ra i er et distrikt i muntenien i rumænien med indbyggere	0dk
63	det var bertens første titel i en wta premier mandatory turnering og hun blev den første spiller der vandt damesingletitlen i madrid uden sættab undervejs i turneringen hvor hun ellers mødte fire grand slam vindere	0dk
64	selv om han allerede hadde én landskamp var det i rosenborg trøya han først og fremst ble kjent	2nb
65	for den pågående sesongen se obos ligaen obos ligaen er den nest øverste divisjonen i norsk herrefotball	2nb
66	trakten runt earls barton består till största delen av jordbruksmark kustklimat råder i trakten	1sv
67	margar styrjaldir hafa verið háðar vegna þessarar stefnu og eru einhverjar í fullum gangi á okkar tímum	5is
68	den högsta punkten i närheten är meter över havet km nordost om lac charest i övrigt finns följande vid lac charest	1sv
69	deeleman reinhold	1sv
70	et direkte resultat av nederlaget ved lappo var at den russiske generalen nikolaj kamenskij overtok kommandoen etter rajevskij	2nb
71	tær eru válur kvívík stykkið leynar og skælingur	4fo
72	den högsta punkten i närheten är berim meter över havet km sydväst om brankovo brdo	1sv
73	propan c h	4fo
74	den regnigaste månaden är juni med i genomsnitt mm nederbörd och den torraste är februari med mm nederbörd	1sv
75	fjögur verka hans hafa verið sett á svið í bandaríkjunum the guarding angel a guy named al body parts og the iceman is here	5is
76	i eldre sjønemning heiter vindstyrken merseils kuling	3nn
77	den britiske statsministeren benjamin disraeli er rekna å ha vore den som sette opp tittelen for henne	3nn
78	árið var loftur einn íslendinga sem áttu meira en milljarð króna í eignir umfram skuldir skv	5is
79	fiskarkapellet er eit lafta kyrkjebygg frå som står på maihaugen i lillehammer	3nn
80	bond filmen casino royale	2nb
81	han var sjefredaktør og adm	2nb
82	for i blev sponsorering af kapsejladsen overtaget af volvo og volvo cars og sejladsen blev omdøbt til volvo ocean race	0dk
83	arean är kvadratkilometer	1sv
84	provincia de tierra del fuego antártida e islas del atlántico sur er den sørlegaste av dei provinsane i argentina	3nn
85	eremittfly dryobotodes eremita er en sommerfugl som tilhører familien nattfly noctuidae	2nb
86	dette er eit objekt som skal kastast eller sparkast i ruter på bakken og bli liggjande der ein ønsker	3nn
87	gustaf jakob horn af rantzien född maj i stade död genom avrättning den juli på riddarholmen i stockholm var en svensk hovman brorson till henning rudolf horn af rantzien	1sv
88	tákn kommúnismans rauða stjarnan og hamar og sigð voru tekin burt og í þess stað kom þjóðarmusterið pha that luang	5is
89	delosperma lydenburgense ingår i släktet delosperma och familjen isörtsväxter	1sv
90	guðmundur björnsson tók sér ættarnafnið björnson f	5is
91	petsjorahavet er blokkert av is frå november til juni	3nn
92	western musikk oppstod som ei form for usa amerikansk folkemusikk	3nn
93	byen götzis ligg meter over havet	3nn
94	volgar uppsprettur eru víða í landi svanshóls	5is
95	orphulella losamatensis är en insektsart som beskrevs av andrew nelson caudell	1sv
96	hann samdi fljótlega um frið við parþa og hélt til rómar	5is
97	hun var innvalgt på stortinget fra akershus midlertidig partiformann i handels og skipsfartsminister i jan p	2nb
98	juni i driesum død	0dk
99	januar er rithøvundur lærari og marknaðarføringsøkonomur	4fo

End of preview. Expand in Dataset Viewer.

Dataset Card for nordic_langid

Dataset Summary

Automatic language identification is a challenging problem. Discriminating between closely related languages is especially difficult. This paper presents a machine learning approach for automatic language identification for the Nordic languages, which often suffer miscategorisation by existing state-of-the-art tools. Concretely we will focus on discrimination between six Nordic language: Danish, Swedish, Norwegian (Nynorsk), Norwegian (Bokmål), Faroese and Icelandic.

This is the data for the tasks. Two variants are provided: 10K and 50K, with holding 10,000 and 50,000 examples for each language respectively.

For more info, see the paper: Discriminating Between Similar Nordic Languages.

Supported Tasks and Leaderboards

Languages

This dataset is in six similar Nordic language:

Danish, da
Faroese, fo
Icelandic, is
Norwegian Bokmål, nb
Norwegian Nynorsk, nn
Swedish, sv

Dataset Structure

The dataset has two parts, one with 10K samples per language and another with 50K per language. The original splits and data allocation used in the paper is presented here.

Data Instances

[Needs More Information]

Data Fields

id: the sentence's unique identifier, string
sentence: the test to be classifier, a string
language: the class, one of da, fo, is, nb, no, sv.

Data Splits

Train and Test splits are provided, divided using the code provided with the paper.

Dataset Creation

Curation Rationale

Data is taken from Wikipedia and Tatoeba from each of these six languages.

Source Data

Initial Data Collection and Normalization

Data collection Data was scraped from Wikipedia. We downloaded summaries for randomly chosen Wikipedia articles in each of the languages, saved as raw text to six .txt files of about 10MB each. The 50K section is extended with Tatoeba data, which provides a different register to Wikipedia text, and then topped up with more Wikipedia data.

Extracting Sentences The first pass in sentence tokenisation is splitting by line breaks. We then extract shorter sentences with the sentence tokenizer (sent_tokenize) function from NLTK (Loper and Bird, 2002). This does a better job than just splitting by ’.’ due to the fact that abbreviations, which can appear in a legitimate sentence, typically include a period symbol.

Cleaning characters The initial data set has many characters that do not belong to the alphabets of the languages we work with. Often the Wikipedia pages for people or places contain names in foreign languages. For example a summary might contain Chinese or Russian characters which are not strong signals for the purpose of discriminating between the target languages. Further, it can be that some characters in the target languages are mis-encoded. These misencodings are also not likely to be intrinsically strong or stable signals. To simplify feature extraction, and to reduce the size of the vocabulary, the raw data is converted to lowercase and stripped of all characters which are not part of the standard alphabet of the six languages using a character whitelist.

Who are the source language producers?

The source language is from Wikipedia contributors and Tatoeba contributors.

Annotations

Annotation process

The annotations were found.

Who are the annotators?

The annotations were found. They are determined by which language section a contributor posts their content to.

Personal and Sensitive Information

The data hasn't been checked for PII, and is already all public. Tatoeba is is based on translations of synthetic conversational turns and is unlikely to bear personal or sensitive information.

Considerations for Using the Data

Social Impact of Dataset

This dataset is intended to help correctly identify content in the languages of six minority languages. Existing systems often confuse these, especially Bokmål and Danish or Icelandic and Faroese. However, some dialects are missed (for example Bornholmsk) and the closed nature of the classification task thus excludes speakers of these languages without recognising their existence.

Discussion of Biases

The text comes from only two genres, so might not transfer well to other domains.

Other Known Limitations

[Needs More Information]

Additional Information

Dataset Curators

[Needs More Information]

Licensing Information

The data here is licensed CC-BY-SA 3.0. If you use this data, you MUST state its origin.

Citation Information

@inproceedings{haas-derczynski-2021-discriminating,
    title = "Discriminating Between Similar Nordic Languages",
    author = "Haas, Ren{\'e}  and
      Derczynski, Leon",
    booktitle = "Proceedings of the Eighth Workshop on NLP for Similar Languages, Varieties and Dialects",
    month = apr,
    year = "2021",
    address = "Kiyv, Ukraine",
    publisher = "Association for Computational Linguistics",
    url = "https://aclanthology.org/2021.vardial-1.8",
    pages = "67--75",
}
```