Datasets:

ArXiv:
License:
yodas2 / meta.py
xinjianl's picture
Upload 2 files
b929e20 verified
lang2shard_cnt = {
'aa000': 2,
'ab000': 2,
'af000': 2,
'ak000': 2,
'am000': 9,
'ar000': 154,
'as000': 2,
'ay000': 2,
'az000': 4,
'ba000': 2,
'be000': 7,
'bg000': 12,
'bh000': 2,
'bi000': 2,
'bm000': 2,
'bn000': 92,
'bo000': 2,
'br000': 2,
'bs000': 2,
'ca000': 10,
'co000': 2,
'cr000': 2,
'cs000': 24,
'cy000': 2,
'da000': 6,
'de000': 369,
'de100': 500,
'de101': 500,
'de102': 114,
'dz000': 2,
'ee000': 2,
'el000': 18,
'en000': 500,
'en001': 500,
'en002': 500,
'en003': 500,
'en004': 500,
'en005': 500,
'en006': 500,
'en007': 437,
'en100': 500,
'en101': 500,
'en102': 500,
'en103': 500,
'en104': 500,
'en105': 500,
'en106': 500,
'en107': 500,
'en108': 500,
'en109': 500,
'en110': 500,
'en111': 500,
'en112': 500,
'en113': 500,
'en114': 500,
'en115': 500,
'en116': 500,
'en117': 500,
'en118': 500,
'en119': 500,
'en120': 500,
'en121': 500,
'en122': 500,
'en123': 500,
'en124': 500,
'en125': 500,
'en126': 500,
'en127': 500,
'en128': 500,
'en129': 62,
'eo000': 4,
'es000': 483,
'es100': 500,
'es101': 500,
'es102': 500,
'es103': 500,
'es104': 500,
'es105': 500,
'es106': 500,
'es107': 500,
'es108': 201,
'et000': 2,
'eu000': 4,
'fa000': 12,
'ff000': 2,
'fi000': 28,
'fj000': 2,
'fo000': 2,
'fr000': 315,
'fr100': 500,
'fr101': 500,
'fr102': 500,
'fr103': 401,
'fy000': 1,
'ga000': 2,
'gd000': 2,
'gl000': 3,
'gn000': 2,
'gu000': 8,
'ha000': 4,
'hi000': 182,
'hi100': 7,
'ho000': 2,
'hr000': 5,
'ht000': 3,
'hu000': 32,
'hy000': 3,
'ia000': 2,
'id000': 493,
'id100': 500,
'id101': 419,
'ie000': 2,
'ig000': 2,
'ik000': 2,
'is000': 2,
'it000': 185,
'it100': 500,
'it101': 432,
'iu000': 2,
'iw000': 21,
'ja000': 211,
'ja100': 303,
'jv000': 2,
'ka000': 4,
'ki000': 1,
'kk000': 6,
'kl000': 2,
'km000': 10,
'kn000': 7,
'ko000': 391,
'ko100': 500,
'ko101': 500,
'ko102': 500,
'ko103': 287,
'ks000': 2,
'ku000': 2,
'ky000': 4,
'la000': 2,
'lb000': 2,
'lg000': 2,
'ln000': 2,
'lo000': 2,
'lt000': 4,
'lv000': 2,
'mg000': 2,
'mi000': 2,
'mk000': 2,
'ml000': 12,
'mn000': 2,
'mr000': 18,
'ms000': 8,
'mt000': 0,
'my000': 2,
'na000': 2,
'nd000': 1,
'ne000': 6,
'nl000': 52,
'nl100': 263,
'no000': 17,
'nv000': 2,
'oc000': 2,
'om000': 2,
'or000': 3,
'pa000': 5,
'pl000': 140,
'ps000': 2,
'pt000': 202,
'pt100': 500,
'pt101': 500,
'pt102': 500,
'pt103': 382,
'qu000': 2,
'rm000': 2,
'rn000': 2,
'ro000': 18,
'ru000': 500,
'ru001': 287,
'ru100': 500,
'ru101': 500,
'ru102': 500,
'ru103': 500,
'ru104': 500,
'ru105': 500,
'ru106': 439,
'rw000': 2,
'sa000': 2,
'sc000': 2,
'sd000': 2,
'sg000': 1,
'sh000': 1,
'si000': 8,
'sk000': 6,
'sl000': 4,
'sm000': 2,
'sn000': 2,
'so000': 4,
'sq000': 2,
'sr000': 4,
'st000': 2,
'su000': 2,
'sv000': 17,
'sw000': 4,
'ta000': 40,
'te000': 14,
'tg000': 2,
'th000': 113,
'th100': 2,
'ti000': 2,
'tk000': 2,
'tn000': 2,
'to000': 2,
'tr000': 155,
'tr100': 440,
'ts000': 1,
'tt000': 2,
'ug000': 2,
'uk000': 63,
'uk100': 56,
'ur000': 35,
'uz000': 8,
've000': 2,
'vi000': 465,
'vi100': 500,
'vi101': 472,
'vo000': 2,
'wo000': 2,
'xh000': 2,
'yi000': 2,
'yo000': 2,
'zh000': 42,
'zu000': 2,
}