lhoestq HF staff commited on
Commit
c2587ed
1 Parent(s): f19583c

Add `language_bcp47` tag (#4753)

Browse files

* fix ms_terms

* fix ted_talks_iwslt

* move tags to language_bcp47

* fix bad codes

* add language_details and language_bcp47 in DatasetMetadata

* more fixes

* fix wiki_dpr

Commit from https://github.com/huggingface/datasets/commit/aa48a29d1304167dff37cef0ed7542f29376ee2d

Files changed (1) hide show
  1. README.md +92 -90
README.md CHANGED
@@ -5,115 +5,117 @@ language_creators:
5
  - crowdsourced
6
  - expert-generated
7
  language:
8
- - mr
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
9
  - eu
 
 
 
 
 
 
 
 
 
 
10
  - hr
11
- - rup
12
- - szl
13
- - lo
14
- - ms
15
  - ht
 
 
16
  - hy
17
- - mg
18
- - arq
19
- - uk
20
- - ku
21
  - ig
22
- - sr
23
- - ug
24
- - ne
25
- - pt-br
26
- - sq
27
- - af
28
- - km
29
- - en
30
- - tt
31
- - ja
32
  - inh
33
- - mn
34
- - eo
 
35
  - ka
36
- - nb
37
- - fil
38
- - uz
39
- - fi
40
- - tl
41
- - el
42
- - tg
43
- - bn
44
- - si
45
- - gu
46
- - sk
47
  - kn
48
- - ar
49
- - hup
50
- - zh-tw
51
- - sl
52
- - be
53
- - bo
54
- - fr
55
- - ps
56
- - tr
57
- - ltg
58
- - la
59
  - ko
60
- - lv
61
- - nl
62
- - fa
63
- - ru
64
- - et
65
- - vi
66
- - pa
67
- - my
68
- - sw
69
- - az
70
- - sv
71
- - ga
72
- - sh
73
- - it
74
- - da
75
  - lt
76
- - kk
 
 
77
  - mk
78
- - tlh
79
- - he
80
- - ceb
81
- - bg
82
- - fr-ca
83
- - ha
84
  - ml
 
 
 
85
  - mt
86
- - as
 
 
 
 
 
 
 
 
87
  - pt
88
- - zh-cn
89
- - cnh
90
  - ro
91
- - hi
92
- - es
93
- - id
94
- - bs
 
 
95
  - so
96
- - cs
 
 
 
 
 
 
97
  - te
98
- - ky
99
- - hu
100
  - th
101
- - pl
102
- - nn
103
- - ca
104
- - is
105
- - ta
106
- - de
107
- - srp
108
- - ast
109
- - bi
110
- - lb
111
- - art-x-bork
112
- - am
113
- - oc
114
- - zh
115
  - ur
116
- - gl
 
 
 
 
 
 
 
 
117
  license:
118
  - cc-by-nc-4.0
119
  multilinguality:
 
5
  - crowdsourced
6
  - expert-generated
7
  language:
8
+ - af
9
+ - am
10
+ - ar
11
+ - arq
12
+ - art
13
+ - as
14
+ - ast
15
+ - az
16
+ - be
17
+ - bg
18
+ - bi
19
+ - bn
20
+ - bo
21
+ - bs
22
+ - ca
23
+ - ceb
24
+ - cnh
25
+ - cs
26
+ - da
27
+ - de
28
+ - el
29
+ - en
30
+ - eo
31
+ - es
32
+ - et
33
  - eu
34
+ - fa
35
+ - fi
36
+ - fil
37
+ - fr
38
+ - ga
39
+ - gl
40
+ - gu
41
+ - ha
42
+ - he
43
+ - hi
44
  - hr
 
 
 
 
45
  - ht
46
+ - hu
47
+ - hup
48
  - hy
49
+ - id
 
 
 
50
  - ig
 
 
 
 
 
 
 
 
 
 
51
  - inh
52
+ - is
53
+ - it
54
+ - ja
55
  - ka
56
+ - kk
57
+ - km
 
 
 
 
 
 
 
 
 
58
  - kn
 
 
 
 
 
 
 
 
 
 
 
59
  - ko
60
+ - ku
61
+ - ky
62
+ - la
63
+ - lb
64
+ - lo
 
 
 
 
 
 
 
 
 
 
65
  - lt
66
+ - ltg
67
+ - lv
68
+ - mg
69
  - mk
 
 
 
 
 
 
70
  - ml
71
+ - mn
72
+ - mr
73
+ - ms
74
  - mt
75
+ - my
76
+ - nb
77
+ - ne
78
+ - nl
79
+ - nn
80
+ - oc
81
+ - pa
82
+ - pl
83
+ - ps
84
  - pt
 
 
85
  - ro
86
+ - ru
87
+ - rup
88
+ - sh
89
+ - si
90
+ - sk
91
+ - sl
92
  - so
93
+ - sq
94
+ - sr
95
+ - srp
96
+ - sv
97
+ - sw
98
+ - szl
99
+ - ta
100
  - te
101
+ - tg
 
102
  - th
103
+ - tl
104
+ - tlh
105
+ - tr
106
+ - tt
107
+ - ug
108
+ - uk
 
 
 
 
 
 
 
 
109
  - ur
110
+ - uz
111
+ - vi
112
+ - zh
113
+ language_bcp47:
114
+ - art-x-bork
115
+ - fr-CA
116
+ - pt-BR
117
+ - zh-CN
118
+ - zh-TW
119
  license:
120
  - cc-by-nc-4.0
121
  multilinguality: