{"cakiki--bloom-tokenizer-langdetect": { | |
"description": "", | |
"citation": "", | |
"homepage": "", | |
"license": "", | |
"features": { | |
"token": { | |
"dtype": "string", | |
"id": null, | |
"_type": "Value" | |
}, | |
"id": { | |
"dtype": "int64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"langdetect": { | |
"dtype": "string", | |
"id": null, | |
"_type": "Value" | |
}, | |
"langdetect_probs": { | |
"af": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"ar": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"bg": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"bn": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"ca": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"cs": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"cy": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"da": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"de": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"el": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"en": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"es": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"et": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"fa": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"fi": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"fr": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"gu": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"he": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"hi": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"hr": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"hu": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"id": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"it": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"ja": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"kn": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"ko": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"lt": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"lv": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"mk": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"ml": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"mr": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"ne": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"nl": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"no": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"pa": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"pl": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"pt": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"ro": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"ru": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"sk": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"sl": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"so": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"sq": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"sv": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"sw": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"ta": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"te": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"th": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"tl": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"tr": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"uk": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"unknown": { | |
"dtype": "int64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"ur": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"vi": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"zh-cn": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
}, | |
"zh-tw": { | |
"dtype": "float64", | |
"id": null, | |
"_type": "Value" | |
} | |
} | |
}, | |
"post_processed": null, | |
"supervised_keys": null, | |
"task_templates": null, | |
"builder_name": null, | |
"config_name": null, | |
"version": null, | |
"splits": { | |
"train": { | |
"name": "train", | |
"num_bytes": 120870119, | |
"num_examples": 250680, | |
"dataset_name": "bloom-tokenizer-langdetect" | |
} | |
}, | |
"download_checksums": null, | |
"download_size": 8026846, | |
"post_processing_size": null, | |
"dataset_size": 120870119, | |
"size_in_bytes": 128896965 | |
}} |