lhoestq HF staff commited on
Commit
1ef2b67
1 Parent(s): 37c62b0

Add `language_bcp47` tag (#4753)

Browse files

* fix ms_terms

* fix ted_talks_iwslt

* move tags to language_bcp47

* fix bad codes

* add language_details and language_bcp47 in DatasetMetadata

* more fixes

* fix wiki_dpr

Commit from https://github.com/huggingface/datasets/commit/aa48a29d1304167dff37cef0ed7542f29376ee2d

Files changed (1) hide show
  1. README.md +56 -57
README.md CHANGED
@@ -5,120 +5,119 @@ language_creators:
5
  - expert-generated
6
  language:
7
  - af
8
- - sq
9
  - am
10
  - ar
11
- - hy
12
  - as
13
  - az
14
- - bn
15
- - other-bn-india
16
- - eu
17
  - be
18
- - bs
19
- - other-bs-latin
20
  - bg
 
 
21
  - ca
22
- - ku
23
  - chr
24
- - zh
25
- - other-zh-Hant_HK
26
- - other-zh-Hant_TW
27
- - hr
28
  - cs
 
29
  - da
30
- - prs
31
- - nl
32
  - en
 
33
  - et
34
- - fil
 
35
  - fi
 
36
  - fr
37
- - other-fr_CA
 
38
  - gl
39
- - ka
40
- - de
41
- - el
42
  - gu
 
43
  - ha
44
  - he
45
  - hi
 
46
  - hu
47
- - is
48
- - ig
49
  - id
50
- - iu
51
- - ga
52
- - xh
53
- - zu
54
  - it
 
55
  - ja
56
- - quc
57
- - kn
58
  - kk
59
  - km
60
- - rw
61
- - swh
62
  - knn
63
  - ko
 
64
  - ky
 
65
  - lo
66
- - lv
67
  - lt
68
- - lb
 
69
  - mk
70
- - other-ms-brunei (Brunei Darus.)
71
- - ms
72
  - ml
73
- - mt
74
- - mi
75
- - mr
76
  - mn
77
- - ne
 
 
78
  - nb
 
 
79
  - nn
80
  - ory
81
- - pst
82
- - fa
83
  - pl
84
- - other-pt-br
 
85
  - pt
86
- - pa
87
- - pa
88
  - qu
 
89
  - ro
90
  - ru
91
- - gd
92
- - other-sr-bih
93
- - sr
94
- - other-sr-latin
95
- - st
96
- - tn
97
  - sd
98
  - si
99
  - sk
100
  - sl
101
- - es
102
- - other-es-MX
 
103
  - sv
104
- - tg
105
  - ta
106
- - tt
107
  - te
 
108
  - th
109
  - ti
110
- - tr
111
  - tk
 
 
 
 
112
  - uk
113
  - ur
114
- - ug
115
  - uz
116
- - other-valencian
117
  - vi
118
- - guc
119
- - cy
120
  - wo
 
121
  - yo
 
 
 
 
 
 
 
 
 
 
 
 
 
122
  license:
123
  - ms-pl
124
  multilinguality:
 
5
  - expert-generated
6
  language:
7
  - af
 
8
  - am
9
  - ar
 
10
  - as
11
  - az
 
 
 
12
  - be
 
 
13
  - bg
14
+ - bn
15
+ - bs
16
  - ca
 
17
  - chr
 
 
 
 
18
  - cs
19
+ - cy
20
  - da
21
+ - de
22
+ - el
23
  - en
24
+ - es
25
  - et
26
+ - eu
27
+ - fa
28
  - fi
29
+ - fil
30
  - fr
31
+ - ga
32
+ - gd
33
  - gl
 
 
 
34
  - gu
35
+ - guc
36
  - ha
37
  - he
38
  - hi
39
+ - hr
40
  - hu
41
+ - hy
 
42
  - id
43
+ - ig
44
+ - is
 
 
45
  - it
46
+ - iu
47
  - ja
48
+ - ka
 
49
  - kk
50
  - km
51
+ - kn
 
52
  - knn
53
  - ko
54
+ - ku
55
  - ky
56
+ - lb
57
  - lo
 
58
  - lt
59
+ - lv
60
+ - mi
61
  - mk
 
 
62
  - ml
 
 
 
63
  - mn
64
+ - mr
65
+ - ms
66
+ - mt
67
  - nb
68
+ - ne
69
+ - nl
70
  - nn
71
  - ory
72
+ - pa
 
73
  - pl
74
+ - prs
75
+ - pst
76
  - pt
 
 
77
  - qu
78
+ - quc
79
  - ro
80
  - ru
81
+ - rw
 
 
 
 
 
82
  - sd
83
  - si
84
  - sk
85
  - sl
86
+ - sq
87
+ - sr
88
+ - st
89
  - sv
90
+ - swh
91
  - ta
 
92
  - te
93
+ - tg
94
  - th
95
  - ti
 
96
  - tk
97
+ - tn
98
+ - tr
99
+ - tt
100
+ - ug
101
  - uk
102
  - ur
 
103
  - uz
 
104
  - vi
 
 
105
  - wo
106
+ - xh
107
  - yo
108
+ - zh
109
+ - zu
110
+ language_bcp47:
111
+ - bn-IN
112
+ - bs-Latn
113
+ - es-MX
114
+ - fr-CA
115
+ - ms-BN
116
+ - pt-BR
117
+ - sr-BH
118
+ - sr-Latn
119
+ - zh-Hant-HK
120
+ - zh-Hant-TW
121
  license:
122
  - ms-pl
123
  multilinguality: