Delete data/meta.py with huggingface_hub

data/meta.py

@@ -1,226 +0,0 @@
-lang2shard_cnt = {
-  'aa000': 8,
-  'ab000': 8,
-  'af000': 8,
-  'ak000': 8,
-  'am000': 8,
-  'ar000': 32,
-  'as000': 8,
-  'ay000': 8,
-  'az000': 8,
-  'ba000': 8,
-  'be000': 8,
-  'bg000': 8,
-  'bh000': 2,
-  'bi000': 1,
-  'bm000': 3,
-  'bn000': 8,
-  'bo000': 4,
-  'br000': 8,
-  'bs000': 8,
-  'ca000': 9,
-  'co000': 4,
-  'cr000': 3,
-  'cs000': 20,
-  'cy000': 8,
-  'da000': 8,
-  'de000': 302,
-  'de100': 500,
-  'de101': 500,
-  'de102': 96,
-  'dz000': 6,
-  'ee000': 4,
-  'el000': 16,
-  'en000': 500,
-  'en001': 500,
-  'en002': 500,
-  'en003': 500,
-  'en004': 500,
-  'en005': 398,
-  'en100': 500,
-  'en101': 500,
-  'en102': 500,
-  'en103': 500,
-  'en104': 500,
-  'en105': 500,
-  'en106': 500,
-  'en107': 500,
-  'en108': 500,
-  'en109': 500,
-  'en110': 500,
-  'en111': 500,
-  'en112': 500,
-  'en113': 500,
-  'en114': 500,
-  'en115': 500,
-  'en116': 500,
-  'en117': 500,
-  'en118': 500,
-  'en119': 500,
-  'en120': 500,
-  'en121': 500,
-  'en122': 500,
-  'en123': 500,
-  'en124': 500,
-  'en125': 500,
-  'en126': 500,
-  'en127': 237,
-  'eo000': 8,
-  'es000': 379,
-  'es100': 500,
-  'es101': 500,
-  'es102': 500,
-  'es103': 500,
-  'es104': 500,
-  'es105': 500,
-  'es106': 255,
-  'et000': 8,
-  'eu000': 8,
-  'fa000': 8,
-  'ff000': 5,
-  'fi000': 24,
-  'fj000': 5,
-  'fo000': 7,
-  'fr000': 242,
-  'fr100': 500,
-  'fr101': 500,
-  'fr102': 500,
-  'fr103': 318,
-  'fy000': 3,
-  'ga000': 8,
-  'gd000': 5,
-  'gl000': 8,
-  'gn000': 8,
-  'gu000': 8,
-  'ha000': 8,
-  'hi000': 52,
-  'hi100': 10,
-  'ho000': 3,
-  'hr000': 8,
-  'ht000': 7,
-  'hu000': 23,
-  'hy000': 8,
-  'ia000': 7,
-  'id000': 143,
-  'id100': 500,
-  'id101': 363,
-  'ie000': 6,
-  'ig000': 5,
-  'ik000': 3,
-  'is000': 8,
-  'it000': 148,
-  'it100': 500,
-  'it101': 426,
-  'iu000': 4,
-  'iw000': 19,
-  'ja000': 112,
-  'ja100': 322,
-  'jv000': 8,
-  'ka000': 8,
-  'ki000': 1,
-  'kk000': 8,
-  'kl000': 3,
-  'km000': 8,
-  'kn000': 8,
-  'ko000': 278,
-  'ko100': 500,
-  'ko101': 500,
-  'ko102': 500,
-  'ko103': 257,
-  'ks000': 5,
-  'ku000': 8,
-  'ky000': 8,
-  'la000': 8,
-  'lb000': 6,
-  'lg000': 2,
-  'ln000': 8,
-  'lo000': 6,
-  'lt000': 8,
-  'lv000': 8,
-  'mg000': 7,
-  'mi000': 8,
-  'mk000': 8,
-  'ml000': 8,
-  'mn000': 8,
-  'mr000': 8,
-  'ms000': 8,
-  'my000': 8,
-  'na000': 5,
-  'nd000': 1,
-  'ne000': 8,
-  'nl000': 45,
-  'nl100': 274,
-  'no000': 16,
-  'nv000': 3,
-  'oc000': 4,
-  'om000': 8,
-  'or000': 8,
-  'pa000': 8,
-  'pl000': 78,
-  'ps000': 8,
-  'pt000': 164,
-  'pt100': 500,
-  'pt101': 500,
-  'pt102': 500,
-  'pt103': 353,
-  'qu000': 3,
-  'rm000': 7,
-  'rn000': 3,
-  'ro000': 16,
-  'ru000': 500,
-  'ru001': 63,
-  'ru100': 500,
-  'ru101': 500,
-  'ru102': 500,
-  'ru103': 500,
-  'ru104': 500,
-  'ru105': 500,
-  'ru106': 333,
-  'rw000': 8,
-  'sa000': 7,
-  'sc000': 3,
-  'sd000': 6,
-  'sg000': 1,
-  'sh000': 2,
-  'si000': 8,
-  'sk000': 8,
-  'sl000': 8,
-  'sm000': 2,
-  'sn000': 3,
-  'so000': 8,
-  'sq000': 8,
-  'sr000': 8,
-  'st000': 3,
-  'su000': 7,
-  'sv000': 17,
-  'sw000': 8,
-  'ta000': 9,
-  'te000': 8,
-  'tg000': 8,
-  'th000': 52,
-  'th100': 2,
-  'ti000': 7,
-  'tk000': 7,
-  'tn000': 5,
-  'to000': 1,
-  'tr000': 64,
-  'tr100': 430,
-  'ts000': 1,
-  'tt000': 4,
-  'ug000': 6,
-  'uk000': 42,
-  'uk100': 65,
-  'ur000': 8,
-  'uz000': 8,
-  've000': 4,
-  'vi000': 80,
-  'vi100': 500,
-  'vi101': 429,
-  'vo000': 1,
-  'wo000': 7,
-  'xh000': 3,
-  'yi000': 6,
-  'yo000': 8,
-  'zh000': 33,
-  'zu000': 8,
-}