khulnasoft commited on
Commit
4017d6e
1 Parent(s): 1e5798c

Create lang_def.py

Browse files
Files changed (1) hide show
  1. lang_def.py +678 -0
lang_def.py ADDED
@@ -0,0 +1,678 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ """
2
+ Declares which languages are available in the Wikipedia dataset per date.
3
+
4
+ Source: https://meta.wikimedia.org/wiki/Names_of_Wikimedia_languages (2023/09/06)
5
+ """
6
+
7
+ WIKIPEDIA_LANGUAGES = {
8
+ "20230901": [
9
+ # "aa", # closed and no dump
10
+ "ab",
11
+ "ace",
12
+ "ady",
13
+ "af",
14
+ "ak", # closed
15
+ "als",
16
+ "alt",
17
+ "am",
18
+ "ami",
19
+ "an",
20
+ "ang",
21
+ "anp",
22
+ "ar",
23
+ "arc",
24
+ "ary",
25
+ "arz",
26
+ "as",
27
+ "ast",
28
+ "atj",
29
+ "av",
30
+ "avk",
31
+ "awa",
32
+ "ay",
33
+ "az",
34
+ "azb",
35
+ "ba",
36
+ "ban",
37
+ "bar",
38
+ "bat-smg",
39
+ "be-x-old",
40
+ "bcl",
41
+ "be",
42
+ "bg",
43
+ "bh",
44
+ "bi",
45
+ "bjn",
46
+ "blk",
47
+ "bm",
48
+ "bn",
49
+ "bo",
50
+ "bpy",
51
+ "br",
52
+ "bs",
53
+ "bug",
54
+ "bxr",
55
+ "ca",
56
+ "cbk-zam",
57
+ "cdo",
58
+ "ce",
59
+ "ceb",
60
+ "ch",
61
+ "cho", # closed
62
+ "chr",
63
+ "chy",
64
+ "ckb",
65
+ "co",
66
+ "cr",
67
+ "crh",
68
+ "cs",
69
+ "csb",
70
+ "cu",
71
+ "cv",
72
+ "cy",
73
+ "da",
74
+ "dag",
75
+ "de",
76
+ "din",
77
+ "diq",
78
+ "dsb",
79
+ "dty",
80
+ "dv",
81
+ "dz",
82
+ "ee",
83
+ "el",
84
+ "eml",
85
+ "en",
86
+ "eo",
87
+ "es",
88
+ "et",
89
+ "eu",
90
+ "ext",
91
+ "fa",
92
+ "fat",
93
+ "ff",
94
+ "fi",
95
+ "fiu-vro",
96
+ "fj",
97
+ "fo",
98
+ "fr",
99
+ "frp",
100
+ "frr",
101
+ "fur",
102
+ "fy",
103
+ "ga",
104
+ "gag",
105
+ "gan",
106
+ "gcr",
107
+ "gd",
108
+ "gl",
109
+ "glk",
110
+ "gn",
111
+ "gom",
112
+ "gor",
113
+ "got",
114
+ "gu",
115
+ "guc",
116
+ "gur",
117
+ "guw",
118
+ "gv",
119
+ "ha",
120
+ "hak",
121
+ "haw",
122
+ "he",
123
+ "hi",
124
+ "hif",
125
+ "ho", # closed
126
+ "hr",
127
+ "hsb",
128
+ "ht",
129
+ "hu",
130
+ "hy",
131
+ "hyw",
132
+ # "hz", # closed and no dump
133
+ "ia",
134
+ "id",
135
+ "ie",
136
+ "ig",
137
+ "ii", # closed
138
+ "ik",
139
+ "ilo",
140
+ "inh",
141
+ "io",
142
+ "is",
143
+ "it",
144
+ "iu",
145
+ "ja",
146
+ "jam",
147
+ "jbo",
148
+ "jv",
149
+ "ka",
150
+ "kaa",
151
+ "kab",
152
+ "kbd",
153
+ "kbp",
154
+ "kcg",
155
+ "kg",
156
+ "ki",
157
+ "kj", # closed
158
+ "kk",
159
+ "kl",
160
+ "km",
161
+ "kn",
162
+ "ko",
163
+ "koi",
164
+ # "kr", # closed and no dump
165
+ "krc",
166
+ "ks",
167
+ "ksh",
168
+ "ku",
169
+ "kv",
170
+ "kw",
171
+ "ky",
172
+ "la",
173
+ "lad",
174
+ "lb",
175
+ "lbe",
176
+ "lez",
177
+ "lfn",
178
+ "lg",
179
+ "li",
180
+ "lij",
181
+ "lld",
182
+ "lmo",
183
+ "ln",
184
+ "lo",
185
+ "lrc", # closed
186
+ "lt",
187
+ "ltg",
188
+ "lv",
189
+ "mad",
190
+ "mai",
191
+ "map-bms",
192
+ "mdf",
193
+ "mg",
194
+ "mh", # closed
195
+ "mhr",
196
+ "mi",
197
+ "min",
198
+ "mk",
199
+ "ml",
200
+ "mn",
201
+ "mni",
202
+ "mnw",
203
+ "mr",
204
+ "mrj",
205
+ "ms",
206
+ "mt",
207
+ "mus", # closed
208
+ "mwl",
209
+ "my",
210
+ "myv",
211
+ "mzn",
212
+ # "na", # closed and no dump
213
+ "nah",
214
+ "nap",
215
+ "nds",
216
+ "nds-nl",
217
+ "ne",
218
+ "new",
219
+ "ng", # closed
220
+ "nia",
221
+ "nl",
222
+ "nn",
223
+ "no",
224
+ "nov",
225
+ "nqo",
226
+ "nrm",
227
+ "nso",
228
+ "nv",
229
+ "ny",
230
+ "oc",
231
+ "olo",
232
+ "om",
233
+ "or",
234
+ "os",
235
+ "pa",
236
+ "pag",
237
+ "pam",
238
+ "pap",
239
+ "pcd",
240
+ "pcm",
241
+ "pdc",
242
+ "pfl",
243
+ "pi",
244
+ "pih",
245
+ "pl",
246
+ "pms",
247
+ "pnb",
248
+ "pnt",
249
+ "ps",
250
+ "pt",
251
+ "pwn",
252
+ "qu",
253
+ "rm",
254
+ "rmy",
255
+ "rn",
256
+ "ro",
257
+ "roa-rup",
258
+ "roa-tara",
259
+ "ru",
260
+ "rue",
261
+ "rw",
262
+ "sa",
263
+ "sah",
264
+ "sat",
265
+ "sc",
266
+ "scn",
267
+ "sco",
268
+ "sd",
269
+ "se",
270
+ "sg",
271
+ "sh",
272
+ "shi",
273
+ "shn",
274
+ "si",
275
+ "simple",
276
+ "sk",
277
+ "skr",
278
+ "sl",
279
+ "sm",
280
+ "smn",
281
+ "sn",
282
+ "so",
283
+ "sq",
284
+ "sr",
285
+ "srn",
286
+ "ss",
287
+ "st",
288
+ "stq",
289
+ "su",
290
+ "sv",
291
+ "sw",
292
+ "szl",
293
+ "szy",
294
+ "ta",
295
+ "tay",
296
+ "tcy",
297
+ "te",
298
+ "tet",
299
+ "tg",
300
+ "th",
301
+ "ti",
302
+ "tk",
303
+ "tl",
304
+ "tn",
305
+ "to",
306
+ "tpi",
307
+ "tr",
308
+ "trv",
309
+ "ts",
310
+ "tt",
311
+ "tum",
312
+ "tw",
313
+ "ty",
314
+ "tyv",
315
+ "udm",
316
+ "ug",
317
+ "uk",
318
+ "ur",
319
+ "uz",
320
+ "ve",
321
+ "vec",
322
+ "vep",
323
+ "vi",
324
+ "vls",
325
+ "vo",
326
+ "wa",
327
+ "war",
328
+ "wo",
329
+ "wuu",
330
+ "xal",
331
+ "xh",
332
+ "xmf",
333
+ "yi",
334
+ "yo",
335
+ "za",
336
+ "zea",
337
+ "zh",
338
+ "zh-classical",
339
+ "zh-min-nan",
340
+ "zh-yue",
341
+ "zu",
342
+ ],
343
+ "20230601": [
344
+ # "aa", # closed and no dump
345
+ "ab",
346
+ "ace",
347
+ "ady",
348
+ "af",
349
+ "ak", # 1 placeholder article, but not closed
350
+ "als",
351
+ "alt",
352
+ "am",
353
+ "ami",
354
+ "an",
355
+ "ang",
356
+ "anp",
357
+ "ar",
358
+ "arc",
359
+ "ary",
360
+ "arz",
361
+ "as",
362
+ "ast",
363
+ "atj",
364
+ "av",
365
+ "avk",
366
+ "awa",
367
+ "ay",
368
+ "az",
369
+ "azb",
370
+ "ba",
371
+ "ban",
372
+ "bar",
373
+ "bat-smg",
374
+ "be-x-old",
375
+ "bcl",
376
+ "be",
377
+ "bg",
378
+ "bh",
379
+ "bi",
380
+ "bjn",
381
+ "blk",
382
+ "bm",
383
+ "bn",
384
+ "bo",
385
+ "bpy",
386
+ "br",
387
+ "bs",
388
+ "bug",
389
+ "bxr",
390
+ "ca",
391
+ "cbk-zam",
392
+ "cdo",
393
+ "ce",
394
+ "ceb",
395
+ "ch",
396
+ "cho", # closed
397
+ "chr",
398
+ "chy",
399
+ "ckb",
400
+ "co",
401
+ "cr",
402
+ "crh",
403
+ "cs",
404
+ "csb",
405
+ "cu",
406
+ "cv",
407
+ "cy",
408
+ "da",
409
+ "dag",
410
+ "de",
411
+ "din",
412
+ "diq",
413
+ "dsb",
414
+ "dty",
415
+ "dv",
416
+ "dz",
417
+ "ee",
418
+ "el",
419
+ "eml",
420
+ "en",
421
+ "eo",
422
+ "es",
423
+ "et",
424
+ "eu",
425
+ "ext",
426
+ "fa",
427
+ "fat",
428
+ "ff",
429
+ "fi",
430
+ "fiu-vro",
431
+ "fj",
432
+ "fo",
433
+ "fr",
434
+ "frp",
435
+ "frr",
436
+ "fur",
437
+ "fy",
438
+ "ga",
439
+ "gag",
440
+ "gan",
441
+ "gcr",
442
+ "gd",
443
+ "gl",
444
+ "glk",
445
+ "gn",
446
+ "gom",
447
+ "gor",
448
+ "got",
449
+ "gu",
450
+ "guc",
451
+ "gur",
452
+ "guw",
453
+ "gv",
454
+ "ha",
455
+ "hak",
456
+ "haw",
457
+ "he",
458
+ "hi",
459
+ "hif",
460
+ "ho", # closed
461
+ "hr",
462
+ "hsb",
463
+ "ht",
464
+ "hu",
465
+ "hy",
466
+ "hyw",
467
+ # "hz", # closed and no dump
468
+ "ia",
469
+ "id",
470
+ "ie",
471
+ "ig",
472
+ "ii", # closed
473
+ "ik",
474
+ "ilo",
475
+ "inh",
476
+ "io",
477
+ "is",
478
+ "it",
479
+ "iu",
480
+ "ja",
481
+ "jam",
482
+ "jbo",
483
+ "jv",
484
+ "ka",
485
+ "kaa",
486
+ "kab",
487
+ "kbd",
488
+ "kbp",
489
+ "kcg",
490
+ "kg",
491
+ "ki",
492
+ "kj", # closed
493
+ "kk",
494
+ "kl",
495
+ "km",
496
+ "kn",
497
+ "ko",
498
+ "koi",
499
+ # "kr", # closed and no dump
500
+ "krc",
501
+ "ks",
502
+ "ksh",
503
+ "ku",
504
+ "kv",
505
+ "kw",
506
+ "ky",
507
+ "la",
508
+ "lad",
509
+ "lb",
510
+ "lbe",
511
+ "lez",
512
+ "lfn",
513
+ "lg",
514
+ "li",
515
+ "lij",
516
+ "lld",
517
+ "lmo",
518
+ "ln",
519
+ "lo",
520
+ "lrc", # closed
521
+ "lt",
522
+ "ltg",
523
+ "lv",
524
+ "mad",
525
+ "mai",
526
+ "map-bms",
527
+ "mdf",
528
+ "mg",
529
+ "mh", # closed
530
+ "mhr",
531
+ "mi",
532
+ "min",
533
+ "mk",
534
+ "ml",
535
+ "mn",
536
+ "mni",
537
+ "mnw",
538
+ "mr",
539
+ "mrj",
540
+ "ms",
541
+ "mt",
542
+ "mus", # closed
543
+ "mwl",
544
+ "my",
545
+ "myv",
546
+ "mzn",
547
+ # "na", # closed and no dump
548
+ "nah",
549
+ "nap",
550
+ "nds",
551
+ "nds-nl",
552
+ "ne",
553
+ "new",
554
+ "ng", # closed
555
+ "nia",
556
+ "nl",
557
+ "nn",
558
+ "no",
559
+ "nov",
560
+ "nqo",
561
+ "nrm",
562
+ "nso",
563
+ "nv",
564
+ "ny",
565
+ "oc",
566
+ "olo",
567
+ "om",
568
+ "or",
569
+ "os",
570
+ "pa",
571
+ "pag",
572
+ "pam",
573
+ "pap",
574
+ "pcd",
575
+ "pcm",
576
+ "pdc",
577
+ "pfl",
578
+ "pi",
579
+ "pih",
580
+ "pl",
581
+ "pms",
582
+ "pnb",
583
+ "pnt",
584
+ "ps",
585
+ "pt",
586
+ "pwn",
587
+ "qu",
588
+ "rm",
589
+ "rmy",
590
+ "rn",
591
+ "ro",
592
+ "roa-rup",
593
+ "roa-tara",
594
+ "ru",
595
+ "rue",
596
+ "rw",
597
+ "sa",
598
+ "sah",
599
+ "sat",
600
+ "sc",
601
+ "scn",
602
+ "sco",
603
+ "sd",
604
+ "se",
605
+ "sg",
606
+ "sh",
607
+ "shi",
608
+ "shn",
609
+ "si",
610
+ "simple",
611
+ "sk",
612
+ "skr",
613
+ "sl",
614
+ "sm",
615
+ "smn",
616
+ "sn",
617
+ "so",
618
+ "sq",
619
+ "sr",
620
+ "srn",
621
+ "ss",
622
+ "st",
623
+ "stq",
624
+ "su",
625
+ "sv",
626
+ "sw",
627
+ "szl",
628
+ "szy",
629
+ "ta",
630
+ "tay",
631
+ "tcy",
632
+ "te",
633
+ "tet",
634
+ "tg",
635
+ "th",
636
+ "ti",
637
+ "tk",
638
+ "tl",
639
+ "tn",
640
+ "to",
641
+ "tpi",
642
+ "tr",
643
+ "trv",
644
+ "ts",
645
+ "tt",
646
+ "tum",
647
+ "tw",
648
+ "ty",
649
+ "tyv",
650
+ "udm",
651
+ "ug",
652
+ "uk",
653
+ "ur",
654
+ "uz",
655
+ "ve",
656
+ "vec",
657
+ "vep",
658
+ "vi",
659
+ "vls",
660
+ "vo",
661
+ "wa",
662
+ "war",
663
+ "wo",
664
+ "wuu",
665
+ "xal",
666
+ "xh",
667
+ "xmf",
668
+ "yi",
669
+ "yo",
670
+ "za",
671
+ "zea",
672
+ "zh",
673
+ "zh-classical",
674
+ "zh-min-nan",
675
+ "zh-yue",
676
+ "zu",
677
+ ],
678
+ }