Update files from the datasets library (from 1.8.0)

Release notes: https://github.com/huggingface/datasets/releases/tag/1.8.0

dataset_infos.json

@@ -1 +1 @@
-{"WiLI-2018 dataset": {"description": "It is a benchmark dataset for language identification and contains 235000 paragraphs of 235 languages\n", "citation": "@dataset{thoma_martin_2018_841984,\n  author       = {Thoma, Martin},\n  title        = {{WiLI-2018 - Wikipedia Language Identification database}},\n  month        = jan,\n  year         = 2018,\n  publisher    = {Zenodo},\n  version      = {1.0.0},\n  doi          = {10.5281/zenodo.841984},\n  url          = {https://doi.org/10.5281/zenodo.841984}\n}\n", "homepage": "https://zenodo.org/record/841984", "license": "ODC Open Database License v1.0", "features": {"sentence": {"dtype": "string", "id": null, "_type": "Value"}, "label": {"num_classes": 235, "names": ["cdo", "glk", "jam", "lug", "san", "rue", "wol", "new", "mwl", "bre", "ara", "hye", "xmf", "ext", "cor", "yor", "div", "asm", "lat", "cym", "hif", "ace", "kbd", "tgk", "rus", "nso", "mya", "msa", "ava", "cbk", "urd", "deu", "swa", "pus", "bxr", "udm", "csb", "yid", "vro", "por", "pdc", "eng", "tha", "hat", "lmo", "pag", "jav", "chv", "nan", "sco", "kat", "bho", "bos", "kok", "oss", "mri", "fry", "cat", "azb", "kin", "hin", "sna", "dan", "egl", "mkd", "ron", "bul", "hrv", "som", "pam", "nav", "ksh", "nci", "khm", "sgs", "srn", "bar", "cos", "ckb", "pfl", "arz", "roa-tara", "fra", "mai", "zh-yue", "guj", "fin", "kir", "vol", "hau", "afr", "uig", "lao", "swe", "slv", "kor", "szl", "srp", "dty", "nrm", "dsb", "ind", "wln", "pnb", "ukr", "bpy", "vie", "tur", "aym", "lit", "zea", "pol", "est", "scn", "vls", "stq", "gag", "grn", "kaz", "ben", "pcd", "bjn", "krc", "amh", "diq", "ltz", "ita", "kab", "bel", "ang", "mhr", "che", "koi", "glv", "ido", "fao", "bak", "isl", "bcl", "tet", "jpn", "kur", "map-bms", "tyv", "olo", "arg", "ori", "lim", "tel", "lin", "roh", "sqi", "xho", "mlg", "fas", "hbs", "tam", "aze", "lad", "nob", "sin", "gla", "nap", "snd", "ast", "mal", "mdf", "tsn", "nds", "tgl", "nno", "sun", "lzh", "jbo", "crh", "pap", "oci", "hak", "uzb", "zho", "hsb", "sme", "mlt", "vep", "lez", "nld", "nds-nl", "mrj", "spa", "ceb", "ina", "heb", "hun", "que", "kaa", "mar", "vec", "frp", "ell", "sah", "eus", "ces", "slk", "chr", "lij", "nep", "srd", "ilo", "be-tarask", "bod", "orm", "war", "glg", "mon", "gle", "min", "ibo", "ile", "epo", "lav", "lrc", "als", "mzn", "rup", "fur", "tat", "myv", "pan", "ton", "kom", "wuu", "tcy", "tuk", "kan", "ltg"], "names_file": null, "id": null, "_type": "ClassLabel"}}, "post_processed": null, "supervised_keys": null, "builder_name": "wili_2018", "config_name": "WiLI-2018 dataset", "version": {"version_str": "1.1.0", "description": null, "major": 1, "minor": 1, "patch": 0}, "splits": {"train": {"name": "train", "num_bytes": 65408201, "num_examples": 117500, "dataset_name": "wili_2018"}, "test": {"name": "test", "num_bytes": 66491260, "num_examples": 117500, "dataset_name": "wili_2018"}}, "download_checksums": {"https://drive.google.com/uc?export=download&id=1ZzlIQvw1KNBG97QQCfdatvVrrbeLaM1u": {"num_bytes": 64716393, "checksum": "895b3892a1edba1702b0f2117b756204ccc177a1c285420234bdb5d717ad4100"}, "https://drive.google.com/uc?export=download&id=1Xx4kFc1Xdzz8AhDasxZ0cSa-a35EQSDZ": {"num_bytes": 65799958, "checksum": "663f32b6f7d8a26b83e251803d386f29dcd558762125f4f8289f2cef067d4ce8"}}, "download_size": 130516351, "post_processing_size": null, "dataset_size": 131899461, "size_in_bytes": 262415812}}
+{"WiLI-2018 dataset": {"description": "It is a benchmark dataset for language identification and contains 235000 paragraphs of 235 languages\n", "citation": "@dataset{thoma_martin_2018_841984,\n  author       = {Thoma, Martin},\n  title        = {{WiLI-2018 - Wikipedia Language Identification database}},\n  month        = jan,\n  year         = 2018,\n  publisher    = {Zenodo},\n  version      = {1.0.0},\n  doi          = {10.5281/zenodo.841984},\n  url          = {https://doi.org/10.5281/zenodo.841984}\n}\n", "homepage": "https://zenodo.org/record/841984", "license": "ODC Open Database License v1.0", "features": {"sentence": {"dtype": "string", "id": null, "_type": "Value"}, "label": {"num_classes": 235, "names": ["cdo", "glk", "jam", "lug", "san", "rue", "wol", "new", "mwl", "bre", "ara", "hye", "xmf", "ext", "cor", "yor", "div", "asm", "lat", "cym", "hif", "ace", "kbd", "tgk", "rus", "nso", "mya", "msa", "ava", "cbk", "urd", "deu", "swa", "pus", "bxr", "udm", "csb", "yid", "vro", "por", "pdc", "eng", "tha", "hat", "lmo", "pag", "jav", "chv", "nan", "sco", "kat", "bho", "bos", "kok", "oss", "mri", "fry", "cat", "azb", "kin", "hin", "sna", "dan", "egl", "mkd", "ron", "bul", "hrv", "som", "pam", "nav", "ksh", "nci", "khm", "sgs", "srn", "bar", "cos", "ckb", "pfl", "arz", "roa-tara", "fra", "mai", "zh-yue", "guj", "fin", "kir", "vol", "hau", "afr", "uig", "lao", "swe", "slv", "kor", "szl", "srp", "dty", "nrm", "dsb", "ind", "wln", "pnb", "ukr", "bpy", "vie", "tur", "aym", "lit", "zea", "pol", "est", "scn", "vls", "stq", "gag", "grn", "kaz", "ben", "pcd", "bjn", "krc", "amh", "diq", "ltz", "ita", "kab", "bel", "ang", "mhr", "che", "koi", "glv", "ido", "fao", "bak", "isl", "bcl", "tet", "jpn", "kur", "map-bms", "tyv", "olo", "arg", "ori", "lim", "tel", "lin", "roh", "sqi", "xho", "mlg", "fas", "hbs", "tam", "aze", "lad", "nob", "sin", "gla", "nap", "snd", "ast", "mal", "mdf", "tsn", "nds", "tgl", "nno", "sun", "lzh", "jbo", "crh", "pap", "oci", "hak", "uzb", "zho", "hsb", "sme", "mlt", "vep", "lez", "nld", "nds-nl", "mrj", "spa", "ceb", "ina", "heb", "hun", "que", "kaa", "mar", "vec", "frp", "ell", "sah", "eus", "ces", "slk", "chr", "lij", "nep", "srd", "ilo", "be-tarask", "bod", "orm", "war", "glg", "mon", "gle", "min", "ibo", "ile", "epo", "lav", "lrc", "als", "mzn", "rup", "fur", "tat", "myv", "pan", "ton", "kom", "wuu", "tcy", "tuk", "kan", "ltg"], "names_file": null, "id": null, "_type": "ClassLabel"}}, "post_processed": null, "supervised_keys": null, "task_templates": [{"task": "text-classification", "text_column": "sentence", "label_column": "label", "labels": ["ace", "afr", "als", "amh", "ang", "ara", "arg", "arz", "asm", "ast", "ava", "aym", "azb", "aze", "bak", "bar", "bcl", "be-tarask", "bel", "ben", "bho", "bjn", "bod", "bos", "bpy", "bre", "bul", "bxr", "cat", "cbk", "cdo", "ceb", "ces", "che", "chr", "chv", "ckb", "cor", "cos", "crh", "csb", "cym", "dan", "deu", "diq", "div", "dsb", "dty", "egl", "ell", "eng", "epo", "est", "eus", "ext", "fao", "fas", "fin", "fra", "frp", "fry", "fur", "gag", "gla", "gle", "glg", "glk", "glv", "grn", "guj", "hak", "hat", "hau", "hbs", "heb", "hif", "hin", "hrv", "hsb", "hun", "hye", "ibo", "ido", "ile", "ilo", "ina", "ind", "isl", "ita", "jam", "jav", "jbo", "jpn", "kaa", "kab", "kan", "kat", "kaz", "kbd", "khm", "kin", "kir", "koi", "kok", "kom", "kor", "krc", "ksh", "kur", "lad", "lao", "lat", "lav", "lez", "lij", "lim", "lin", "lit", "lmo", "lrc", "ltg", "ltz", "lug", "lzh", "mai", "mal", "map-bms", "mar", "mdf", "mhr", "min", "mkd", "mlg", "mlt", "mon", "mri", "mrj", "msa", "mwl", "mya", "myv", "mzn", "nan", "nap", "nav", "nci", "nds", "nds-nl", "nep", "new", "nld", "nno", "nob", "nrm", "nso", "oci", "olo", "ori", "orm", "oss", "pag", "pam", "pan", "pap", "pcd", "pdc", "pfl", "pnb", "pol", "por", "pus", "que", "roa-tara", "roh", "ron", "rue", "rup", "rus", "sah", "san", "scn", "sco", "sgs", "sin", "slk", "slv", "sme", "sna", "snd", "som", "spa", "sqi", "srd", "srn", "srp", "stq", "sun", "swa", "swe", "szl", "tam", "tat", "tcy", "tel", "tet", "tgk", "tgl", "tha", "ton", "tsn", "tuk", "tur", "tyv", "udm", "uig", "ukr", "urd", "uzb", "vec", "vep", "vie", "vls", "vol", "vro", "war", "wln", "wol", "wuu", "xho", "xmf", "yid", "yor", "zea", "zh-yue", "zho"]}], "builder_name": "wili_2018", "config_name": "WiLI-2018 dataset", "version": {"version_str": "1.1.0", "description": null, "major": 1, "minor": 1, "patch": 0}, "splits": {"train": {"name": "train", "num_bytes": 65408201, "num_examples": 117500, "dataset_name": "wili_2018"}, "test": {"name": "test", "num_bytes": 66491260, "num_examples": 117500, "dataset_name": "wili_2018"}}, "download_checksums": {"https://drive.google.com/uc?export=download&id=1ZzlIQvw1KNBG97QQCfdatvVrrbeLaM1u": {"num_bytes": 64716393, "checksum": "895b3892a1edba1702b0f2117b756204ccc177a1c285420234bdb5d717ad4100"}, "https://drive.google.com/uc?export=download&id=1Xx4kFc1Xdzz8AhDasxZ0cSa-a35EQSDZ": {"num_bytes": 65799958, "checksum": "663f32b6f7d8a26b83e251803d386f29dcd558762125f4f8289f2cef067d4ce8"}}, "download_size": 130516351, "post_processing_size": null, "dataset_size": 131899461, "size_in_bytes": 262415812}}

wili_2018.py

@@ -17,6 +17,7 @@
 
 
 import datasets
+from datasets.tasks import TextClassification
 
 
 _CITATION = """\
@@ -312,6 +313,7 @@ class Wili_2018(datasets.GeneratorBasedBuilder):
             homepage=_HOMEPAGE,
             license=_LICENSE,
             citation=_CITATION,
+            task_templates=[TextClassification(text_column="sentence", label_column="label")],
         )
 
     def _split_generators(self, dl_manager):