"""madlad-400 dataset""" import gzip import json import datasets logger = datasets.logging.get_logger(__name__) _DESCRIPTION = """\ MADLAD-400 (Multilingual Audited Dataset: Low-resource And Document-level) is a document-level multilingual dataset based on Common Crawl, covering 419 languages in total. We use all snapshots of CommonCrawl available as of August 1, 2022. The primary advantage of this dataset over similar datasets is that it is more multilingual (419 languages), it is audited and more highly filtered, and it is document-level. The main disadvantage is also its strength -- being more filtered, it may lack the recall needed for some applications. """ _CITATION = """ @misc{kudugunta2023madlad400, title={MADLAD-400: A Multilingual And Document-Level Large Audited Dataset}, author={Sneha Kudugunta and Isaac Caswell and Biao Zhang and Xavier Garcia and Christopher A. Choquette-Choo and Katherine Lee and Derrick Xin and Aditya Kusupati and Romi Stella and Ankur Bapna and Orhan Firat}, year={2023}, eprint={2309.04662}, archivePrefix={arXiv}, primaryClass={cs.CL} } """ _DATA_URL = "https://huggingface.co/datasets/allenai/MADLAD-400/resolve/ecd71297d60c1eb996cd3d7c44c60ad5b55adfc6/data/{language}/{language}_{split}_{index:04d}.jsonl.gz" _N_SHARDS_PER_SPLIT = { 'abt': {'clean': 1, 'noisy': 1}, 'ace': {'clean': 1, 'noisy': 1}, 'acf': {'clean': 1, 'noisy': 1}, 'ach': {'clean': 1, 'noisy': 1}, 'ada': {'clean': 1, 'noisy': 1}, 'adh': {'clean': 1, 'noisy': 1}, 'ady': {'clean': 1, 'noisy': 1}, 'af': {'clean': 1, 'noisy': 2}, 'agr': {'clean': 1, 'noisy': 1}, 'ahk': {'clean': 1, 'noisy': 1}, 'ak': {'clean': 1, 'noisy': 1}, 'akb': {'clean': 1, 'noisy': 1}, 'alt': {'clean': 1, 'noisy': 1}, 'alz': {'clean': 1, 'noisy': 1}, 'am': {'clean': 1, 'noisy': 1}, 'amu': {'clean': 1, 'noisy': 1}, 'ang': {'clean': 1, 'noisy': 1}, 'ann': {'clean': 1, 'noisy': 1}, 'ape': {'clean': 1, 'noisy': 1}, 'ar': {'clean': 8, 'noisy': 44}, 'arn': {'clean': 1, 'noisy': 1}, 'as': {'clean': 1, 'noisy': 1}, 'av': {'clean': 1, 'noisy': 1}, 'awa': {'clean': 1, 'noisy': 1}, 'ay': {'clean': 1, 'noisy': 1}, 'az': {'clean': 2, 'noisy': 3}, 'az_RU': {'clean': 1, 'noisy': 1}, 'ba': {'clean': 1, 'noisy': 1}, 'ban': {'clean': 1, 'noisy': 1}, 'bas': {'clean': 1, 'noisy': 1}, 'bbc': {'clean': 1, 'noisy': 1}, 'bci': {'clean': 1, 'noisy': 1}, 'be': {'clean': 1, 'noisy': 2}, 'ber': {'clean': 1, 'noisy': 1}, 'ber_Latn': {'clean': 1, 'noisy': 1}, 'bew': {'clean': 1, 'noisy': 1}, 'bg': {'clean': 10, 'noisy': 16}, 'bg_Latn': {'clean': 1, 'noisy': 1}, 'bgp': {'clean': 1, 'noisy': 1}, 'bho': {'clean': 1, 'noisy': 1}, 'bi': {'clean': 1, 'noisy': 1}, 'bik': {'clean': 1, 'noisy': 1}, 'bim': {'clean': 1, 'noisy': 1}, 'bm': {'clean': 1, 'noisy': 1}, 'bn': {'clean': 1, 'noisy': 4}, 'bn_Latn': {'clean': 1, 'noisy': 1}, 'bo': {'clean': 1, 'noisy': 1}, 'bqc': {'clean': 1, 'noisy': 1}, 'br': {'clean': 1, 'noisy': 1}, 'bru': {'clean': 1, 'noisy': 1}, 'brx': {'clean': 1, 'noisy': 1}, 'bs': {'clean': 1, 'noisy': 6}, 'bts': {'clean': 1, 'noisy': 1}, 'btx': {'clean': 1, 'noisy': 1}, 'bua': {'clean': 1, 'noisy': 1}, 'bum': {'clean': 1, 'noisy': 1}, 'bus': {'clean': 1, 'noisy': 1}, 'bzj': {'clean': 1, 'noisy': 1}, 'ca': {'clean': 5, 'noisy': 8}, 'cab': {'clean': 1, 'noisy': 1}, 'cac': {'clean': 1, 'noisy': 1}, 'cak': {'clean': 1, 'noisy': 1}, 'cbk': {'clean': 1, 'noisy': 1}, 'cce': {'clean': 1, 'noisy': 1}, 'ce': {'clean': 1, 'noisy': 1}, 'ceb': {'clean': 1, 'noisy': 1}, 'cfm': {'clean': 1, 'noisy': 1}, 'ch': {'clean': 1, 'noisy': 1}, 'chk': {'clean': 1, 'noisy': 1}, 'chm': {'clean': 1, 'noisy': 1}, 'chr': {'clean': 1, 'noisy': 1}, 'ckb': {'clean': 1, 'noisy': 1}, 'cnh': {'clean': 1, 'noisy': 1}, 'co': {'clean': 1, 'noisy': 1}, 'cr_Latn': {'clean': 1, 'noisy': 1}, 'crh': {'clean': 1, 'noisy': 1}, 'crs': {'clean': 1, 'noisy': 1}, 'cs': {'clean': 23, 'noisy': 44}, 'ctd_Latn': {'clean': 1, 'noisy': 1}, 'ctu': {'clean': 1, 'noisy': 1}, 'cuk': {'clean': 1, 'noisy': 1}, 'cv': {'clean': 1, 'noisy': 1}, 'cy': {'clean': 1, 'noisy': 4}, 'da': {'clean': 11, 'noisy': 36}, 'de': {'clean': 133, 'noisy': 293}, 'din': {'clean': 1, 'noisy': 1}, 'dje': {'clean': 1, 'noisy': 1}, 'djk': {'clean': 1, 'noisy': 1}, 'dln': {'clean': 1, 'noisy': 1}, 'doi': {'clean': 1, 'noisy': 1}, 'dov': {'clean': 1, 'noisy': 1}, 'dtp': {'clean': 1, 'noisy': 1}, 'dv': {'clean': 1, 'noisy': 1}, 'dwr': {'clean': 1, 'noisy': 1}, 'dyu': {'clean': 1, 'noisy': 1}, 'dz': {'clean': 1, 'noisy': 1}, 'ee': {'clean': 1, 'noisy': 1}, 'el': {'clean': 14, 'noisy': 29}, 'el_Latn': {'clean': 1, 'noisy': 1}, 'emp': {'clean': 1, 'noisy': 1}, 'en': {'clean': 947, 'noisy': 1555}, 'enq': {'clean': 1, 'noisy': 1}, 'eo': {'clean': 1, 'noisy': 1}, 'es': {'clean': 137, 'noisy': 269}, 'et': {'clean': 4, 'noisy': 6}, 'eu': {'clean': 1, 'noisy': 1}, 'fa': {'clean': 16, 'noisy': 35}, 'ff': {'clean': 1, 'noisy': 1}, 'ffm': {'clean': 1, 'noisy': 1}, 'fi': {'clean': 14, 'noisy': 27}, 'fil': {'clean': 1, 'noisy': 2}, 'fip': {'clean': 1, 'noisy': 1}, 'fj': {'clean': 1, 'noisy': 1}, 'fo': {'clean': 1, 'noisy': 1}, 'fon': {'clean': 1, 'noisy': 1}, 'fr': {'clean': 133, 'noisy': 251}, 'frp': {'clean': 1, 'noisy': 1}, 'fy': {'clean': 1, 'noisy': 1}, 'ga': {'clean': 1, 'noisy': 4}, 'gag': {'clean': 1, 'noisy': 1}, 'gbm': {'clean': 1, 'noisy': 1}, 'gd': {'clean': 1, 'noisy': 1}, 'gl': {'clean': 1, 'noisy': 2}, 'gn': {'clean': 1, 'noisy': 1}, 'gof': {'clean': 1, 'noisy': 1}, 'gom': {'clean': 1, 'noisy': 1}, 'gom_Latn': {'clean': 1, 'noisy': 1}, 'gor': {'clean': 1, 'noisy': 1}, 'grc': {'clean': 1, 'noisy': 1}, 'gsw': {'clean': 1, 'noisy': 5}, 'gu': {'clean': 1, 'noisy': 1}, 'gu_Latn': {'clean': 1, 'noisy': 1}, 'gub': {'clean': 1, 'noisy': 1}, 'guc': {'clean': 1, 'noisy': 1}, 'guh': {'clean': 1, 'noisy': 1}, 'gui': {'clean': 1, 'noisy': 1}, 'gv': {'clean': 1, 'noisy': 1}, 'gvl': {'clean': 1, 'noisy': 1}, 'gym': {'clean': 1, 'noisy': 1}, 'ha': {'clean': 1, 'noisy': 1}, 'haw': {'clean': 1, 'noisy': 1}, 'he': {'clean': 6, 'noisy': 10}, 'hi': {'clean': 4, 'noisy': 8}, 'hi_Latn': {'clean': 1, 'noisy': 1}, 'hif': {'clean': 1, 'noisy': 2}, 'hil': {'clean': 1, 'noisy': 1}, 'hmn': {'clean': 1, 'noisy': 1}, 'hne': {'clean': 1, 'noisy': 1}, 'ho': {'clean': 1, 'noisy': 1}, 'hr': {'clean': 2, 'noisy': 13}, 'ht': {'clean': 1, 'noisy': 1}, 'hu': {'clean': 20, 'noisy': 34}, 'hui': {'clean': 1, 'noisy': 1}, 'hus': {'clean': 1, 'noisy': 1}, 'hvn': {'clean': 1, 'noisy': 1}, 'hy': {'clean': 1, 'noisy': 2}, 'iba': {'clean': 1, 'noisy': 1}, 'ibb': {'clean': 1, 'noisy': 1}, 'id': {'clean': 18, 'noisy': 54}, 'ify': {'clean': 1, 'noisy': 1}, 'ig': {'clean': 1, 'noisy': 1}, 'ilo': {'clean': 1, 'noisy': 1}, 'inb': {'clean': 1, 'noisy': 1}, 'is': {'clean': 1, 'noisy': 3}, 'iso': {'clean': 1, 'noisy': 1}, 'it': {'clean': 72, 'noisy': 170}, 'iu': {'clean': 1, 'noisy': 1}, 'ium': {'clean': 1, 'noisy': 1}, 'izz': {'clean': 1, 'noisy': 1}, 'ja': {'clean': 36, 'noisy': 36}, 'jac': {'clean': 1, 'noisy': 1}, 'jam': {'clean': 1, 'noisy': 1}, 'jiv': {'clean': 1, 'noisy': 1}, 'jv': {'clean': 1, 'noisy': 1}, 'jvn': {'clean': 1, 'noisy': 1}, 'ka': {'clean': 1, 'noisy': 2}, 'kaa': {'clean': 1, 'noisy': 1}, 'kaa_Latn': {'clean': 1, 'noisy': 1}, 'kac': {'clean': 1, 'noisy': 1}, 'kbd': {'clean': 1, 'noisy': 1}, 'kbp': {'clean': 1, 'noisy': 1}, 'kek': {'clean': 1, 'noisy': 1}, 'kg': {'clean': 1, 'noisy': 1}, 'kha': {'clean': 1, 'noisy': 1}, 'kj': {'clean': 1, 'noisy': 1}, 'kjg': {'clean': 1, 'noisy': 1}, 'kjh': {'clean': 1, 'noisy': 1}, 'kk': {'clean': 2, 'noisy': 3}, 'kl': {'clean': 1, 'noisy': 1}, 'km': {'clean': 1, 'noisy': 1}, 'kmb': {'clean': 1, 'noisy': 1}, 'kmz_Latn': {'clean': 1, 'noisy': 1}, 'kn': {'clean': 1, 'noisy': 1}, 'kn_Latn': {'clean': 1, 'noisy': 1}, 'knj': {'clean': 1, 'noisy': 1}, 'ko': {'clean': 13, 'noisy': 19}, 'koi': {'clean': 1, 'noisy': 1}, 'kos': {'clean': 1, 'noisy': 1}, 'krc': {'clean': 1, 'noisy': 1}, 'kri': {'clean': 1, 'noisy': 1}, 'ksd': {'clean': 1, 'noisy': 1}, 'ksw': {'clean': 1, 'noisy': 1}, 'ktu': {'clean': 1, 'noisy': 1}, 'ku': {'clean': 1, 'noisy': 1}, 'kum': {'clean': 1, 'noisy': 1}, 'kv': {'clean': 1, 'noisy': 1}, 'kw': {'clean': 1, 'noisy': 1}, 'kwi': {'clean': 1, 'noisy': 1}, 'ky': {'clean': 1, 'noisy': 1}, 'la': {'clean': 1, 'noisy': 2}, 'laj': {'clean': 1, 'noisy': 1}, 'lb': {'clean': 1, 'noisy': 8}, 'lg': {'clean': 1, 'noisy': 1}, 'lhu': {'clean': 1, 'noisy': 1}, 'ln': {'clean': 1, 'noisy': 1}, 'lo': {'clean': 1, 'noisy': 1}, 'lrc': {'clean': 1, 'noisy': 1}, 'lt': {'clean': 6, 'noisy': 9}, 'ltg': {'clean': 1, 'noisy': 1}, 'lu': {'clean': 1, 'noisy': 1}, 'lus': {'clean': 1, 'noisy': 1}, 'lv': {'clean': 4, 'noisy': 5}, 'mad': {'clean': 1, 'noisy': 1}, 'mag': {'clean': 1, 'noisy': 1}, 'mai': {'clean': 1, 'noisy': 1}, 'mak': {'clean': 1, 'noisy': 1}, 'mam': {'clean': 1, 'noisy': 1}, 'mas': {'clean': 1, 'noisy': 1}, 'maz': {'clean': 1, 'noisy': 1}, 'mbt': {'clean': 1, 'noisy': 1}, 'mdf': {'clean': 1, 'noisy': 1}, 'meo': {'clean': 1, 'noisy': 1}, 'meu': {'clean': 1, 'noisy': 1}, 'mfe': {'clean': 1, 'noisy': 1}, 'mg': {'clean': 1, 'noisy': 1}, 'mgh': {'clean': 1, 'noisy': 1}, 'mh': {'clean': 1, 'noisy': 1}, 'mi': {'clean': 1, 'noisy': 1}, 'min': {'clean': 1, 'noisy': 1}, 'miq': {'clean': 1, 'noisy': 1}, 'mk': {'clean': 1, 'noisy': 2}, 'mkn': {'clean': 1, 'noisy': 1}, 'ml': {'clean': 2, 'noisy': 2}, 'ml_Latn': {'clean': 1, 'noisy': 1}, 'mn': {'clean': 1, 'noisy': 2}, 'mni': {'clean': 1, 'noisy': 1}, 'mps': {'clean': 1, 'noisy': 1}, 'mqy': {'clean': 1, 'noisy': 1}, 'mr': {'clean': 1, 'noisy': 2}, 'mrj': {'clean': 1, 'noisy': 1}, 'mrw': {'clean': 1, 'noisy': 1}, 'ms': {'clean': 2, 'noisy': 8}, 'ms_Arab': {'clean': 1, 'noisy': 1}, 'ms_Arab_BN': {'clean': 1, 'noisy': 1}, 'msb': {'clean': 1, 'noisy': 1}, 'msi': {'clean': 1, 'noisy': 1}, 'msm': {'clean': 1, 'noisy': 1}, 'mt': {'clean': 1, 'noisy': 1}, 'my': {'clean': 1, 'noisy': 1}, 'myv': {'clean': 1, 'noisy': 1}, 'nan_Latn_TW': {'clean': 1, 'noisy': 1}, 'ndc_ZW': {'clean': 1, 'noisy': 1}, 'ne': {'clean': 1, 'noisy': 1}, 'new': {'clean': 1, 'noisy': 1}, 'ngu': {'clean': 1, 'noisy': 1}, 'nhe': {'clean': 1, 'noisy': 1}, 'nia': {'clean': 1, 'noisy': 1}, 'nij': {'clean': 1, 'noisy': 1}, 'niq': {'clean': 1, 'noisy': 1}, 'nl': {'clean': 43, 'noisy': 95}, 'nnb': {'clean': 1, 'noisy': 1}, 'no': {'clean': 10, 'noisy': 40}, 'noa': {'clean': 1, 'noisy': 1}, 'nog': {'clean': 1, 'noisy': 1}, 'nr': {'clean': 1, 'noisy': 1}, 'nso': {'clean': 1, 'noisy': 1}, 'nut': {'clean': 1, 'noisy': 1}, 'nv': {'clean': 1, 'noisy': 1}, 'ny': {'clean': 1, 'noisy': 1}, 'nyu': {'clean': 1, 'noisy': 1}, 'nzi': {'clean': 1, 'noisy': 1}, 'oc': {'clean': 1, 'noisy': 1}, 'oj': {'clean': 1, 'noisy': 1}, 'om': {'clean': 1, 'noisy': 1}, 'or': {'clean': 1, 'noisy': 1}, 'os': {'clean': 1, 'noisy': 1}, 'otq': {'clean': 1, 'noisy': 1}, 'pa': {'clean': 1, 'noisy': 1}, 'pag': {'clean': 1, 'noisy': 1}, 'pap': {'clean': 1, 'noisy': 1}, 'pau': {'clean': 1, 'noisy': 1}, 'pck': {'clean': 1, 'noisy': 1}, 'pis': {'clean': 1, 'noisy': 1}, 'pl': {'clean': 51, 'noisy': 74}, 'pon': {'clean': 1, 'noisy': 1}, 'ppk': {'clean': 1, 'noisy': 1}, 'ps': {'clean': 1, 'noisy': 1}, 'pt': {'clean': 66, 'noisy': 104}, 'qu': {'clean': 1, 'noisy': 1}, 'qub': {'clean': 1, 'noisy': 1}, 'quc': {'clean': 1, 'noisy': 1}, 'quf': {'clean': 1, 'noisy': 1}, 'quh': {'clean': 1, 'noisy': 1}, 'qup': {'clean': 1, 'noisy': 1}, 'quy': {'clean': 1, 'noisy': 1}, 'qvc': {'clean': 1, 'noisy': 1}, 'qvi': {'clean': 1, 'noisy': 1}, 'qvz': {'clean': 1, 'noisy': 1}, 'qxr': {'clean': 1, 'noisy': 1}, 'raj': {'clean': 1, 'noisy': 1}, 'rcf': {'clean': 1, 'noisy': 1}, 'rki': {'clean': 1, 'noisy': 1}, 'rm': {'clean': 1, 'noisy': 1}, 'rmc': {'clean': 1, 'noisy': 1}, 'rn': {'clean': 1, 'noisy': 1}, 'ro': {'clean': 20, 'noisy': 33}, 'rom': {'clean': 1, 'noisy': 1}, 'ru': {'clean': 299, 'noisy': 512}, 'ru_Latn': {'clean': 1, 'noisy': 1}, 'rw': {'clean': 1, 'noisy': 1}, 'rwo': {'clean': 1, 'noisy': 1}, 'sa': {'clean': 1, 'noisy': 1}, 'sah': {'clean': 1, 'noisy': 1}, 'sat_Latn': {'clean': 1, 'noisy': 1}, 'sd': {'clean': 1, 'noisy': 1}, 'sda': {'clean': 1, 'noisy': 1}, 'se': {'clean': 1, 'noisy': 1}, 'seh': {'clean': 1, 'noisy': 1}, 'sg': {'clean': 1, 'noisy': 1}, 'shn': {'clean': 1, 'noisy': 1}, 'shp': {'clean': 1, 'noisy': 1}, 'si': {'clean': 1, 'noisy': 1}, 'sja': {'clean': 1, 'noisy': 1}, 'sk': {'clean': 7, 'noisy': 12}, 'skr': {'clean': 1, 'noisy': 1}, 'sl': {'clean': 5, 'noisy': 7}, 'sm': {'clean': 1, 'noisy': 1}, 'smt': {'clean': 1, 'noisy': 1}, 'sn': {'clean': 1, 'noisy': 2}, 'so': {'clean': 1, 'noisy': 1}, 'spp': {'clean': 1, 'noisy': 1}, 'sq': {'clean': 2, 'noisy': 3}, 'sr': {'clean': 2, 'noisy': 4}, 'srm': {'clean': 1, 'noisy': 1}, 'srn': {'clean': 1, 'noisy': 1}, 'ss': {'clean': 1, 'noisy': 1}, 'st': {'clean': 1, 'noisy': 1}, 'stq': {'clean': 1, 'noisy': 1}, 'su': {'clean': 1, 'noisy': 1}, 'sus': {'clean': 1, 'noisy': 1}, 'suz': {'clean': 1, 'noisy': 1}, 'sv': {'clean': 21, 'noisy': 55}, 'sw': {'clean': 1, 'noisy': 1}, 'sxn': {'clean': 1, 'noisy': 1}, 'syr': {'clean': 1, 'noisy': 1}, 'ta': {'clean': 2, 'noisy': 4}, 'ta_Latn': {'clean': 1, 'noisy': 1}, 'tab': {'clean': 1, 'noisy': 1}, 'taj': {'clean': 1, 'noisy': 1}, 'tbz': {'clean': 1, 'noisy': 1}, 'tca': {'clean': 1, 'noisy': 1}, 'tcy': {'clean': 1, 'noisy': 1}, 'tdx': {'clean': 1, 'noisy': 1}, 'te': {'clean': 1, 'noisy': 2}, 'te_Latn': {'clean': 1, 'noisy': 1}, 'teo': {'clean': 1, 'noisy': 1}, 'tet': {'clean': 1, 'noisy': 1}, 'tg': {'clean': 1, 'noisy': 1}, 'th': {'clean': 21, 'noisy': 22}, 'ti': {'clean': 1, 'noisy': 1}, 'tiv': {'clean': 1, 'noisy': 1}, 'tk': {'clean': 1, 'noisy': 1}, 'tks': {'clean': 1, 'noisy': 1}, 'tlh': {'clean': 1, 'noisy': 1}, 'tll': {'clean': 1, 'noisy': 1}, 'tly_IR': {'clean': 1, 'noisy': 1}, 'tn': {'clean': 1, 'noisy': 1}, 'to': {'clean': 1, 'noisy': 1}, 'toj': {'clean': 1, 'noisy': 1}, 'tr': {'clean': 27, 'noisy': 50}, 'trp': {'clean': 1, 'noisy': 1}, 'ts': {'clean': 1, 'noisy': 1}, 'tsc': {'clean': 1, 'noisy': 1}, 'tsg': {'clean': 1, 'noisy': 1}, 'tt': {'clean': 1, 'noisy': 2}, 'tuc': {'clean': 1, 'noisy': 1}, 'tvl': {'clean': 1, 'noisy': 1}, 'twu': {'clean': 1, 'noisy': 1}, 'tyv': {'clean': 1, 'noisy': 1}, 'tyz': {'clean': 1, 'noisy': 1}, 'tzh': {'clean': 1, 'noisy': 1}, 'tzj': {'clean': 1, 'noisy': 1}, 'tzo': {'clean': 1, 'noisy': 1}, 'ubu': {'clean': 1, 'noisy': 1}, 'udm': {'clean': 1, 'noisy': 1}, 'ug': {'clean': 1, 'noisy': 1}, 'uk': {'clean': 17, 'noisy': 28}, 'ur': {'clean': 1, 'noisy': 1}, 'uz': {'clean': 1, 'noisy': 1}, 've': {'clean': 1, 'noisy': 1}, 'vec': {'clean': 1, 'noisy': 1}, 'vi': {'clean': 32, 'noisy': 49}, 'wa': {'clean': 1, 'noisy': 1}, 'wal': {'clean': 1, 'noisy': 1}, 'war': {'clean': 1, 'noisy': 1}, 'wo': {'clean': 1, 'noisy': 1}, 'xal': {'clean': 1, 'noisy': 1}, 'xh': {'clean': 1, 'noisy': 1}, 'yap': {'clean': 1, 'noisy': 1}, 'yi': {'clean': 1, 'noisy': 1}, 'yo': {'clean': 1, 'noisy': 1}, 'yua': {'clean': 1, 'noisy': 1}, 'zap': {'clean': 1, 'noisy': 1}, 'zh': {'clean': 40, 'noisy': 69}, 'zh_Latn': {'clean': 1, 'noisy': 1}, 'zne': {'clean': 1, 'noisy': 1}, 'zu': {'clean': 1, 'noisy': 1}, 'zxx_xx_dtynoise': {'clean': 1, 'noisy': 1}, 'zza': {'clean': 1, 'noisy': 1} } _LANGUAGES = list(_N_SHARDS_PER_SPLIT.keys()) class Madlad400Config(datasets.BuilderConfig): """BuilderConfig for madlad-400.""" def __init__(self, *args, languages, **kwargs): """BuilderConfig for Madlad400. Args: languages (:obj:`List[str]`): list of languages to load **kwargs: keyword arguments forwarded to super. """ super().__init__( *args, name="+".join(languages), **kwargs, ) self.languages = languages class Madlad400(datasets.GeneratorBasedBuilder): """Madlad400,""" BUILDER_CONFIGS = [Madlad400Config(languages=[lang]) for lang in _LANGUAGES] BUILDER_CONFIG_CLASS = Madlad400Config def _info(self): return datasets.DatasetInfo( description=_DESCRIPTION, features=datasets.Features( { "text": datasets.Value("string"), } ), supervised_keys=None, citation=_CITATION, ) def _split_generators(self, dl_manager): data_urls = {} for split in ["clean", "noisy"]: data_urls[split] = [ _DATA_URL.format( split=split, language=lang, index=index, ) for lang in self.config.languages for index in range(_N_SHARDS_PER_SPLIT[lang][split]) ] clean_downloaded_files = dl_manager.download(data_urls['clean']) noisy_downloaded_files = dl_manager.download(data_urls['noisy']) return [ datasets.SplitGenerator(name="clean", gen_kwargs={"filepaths": clean_downloaded_files}), datasets.SplitGenerator( name="noisy", gen_kwargs={"filepaths": noisy_downloaded_files} ), ] def _generate_examples(self, filepaths): """This function returns the examples in the raw (text) form by iterating over the provided files.""" id_ = 0 for filepath in filepaths: logger.info("generating examples from = %s", filepath) with gzip.open(open(filepath, "rb"), "rt", encoding="utf-8") as f: for line in f: if line: example = json.loads(line) yield id_, example id_ += 1