# coding=utf-8 # Copyright 2020 The TensorFlow Datasets Authors and the HuggingFace Datasets Authors. # # Licensed under the Apache License, Version 2.0 (the "License"); # you may not use this file except in compliance with the License. # You may obtain a copy of the License at # # http://www.apache.org/licenses/LICENSE-2.0 # # Unless required by applicable law or agreed to in writing, software # distributed under the License is distributed on an "AS IS" BASIS, # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied. # See the License for the specific language governing permissions and # limitations under the License. # Lint as: python3 """Wikipedia dataset containing cleaned articles of all languages.""" import bz2 import codecs import json import os import re import warnings import xml.etree.cElementTree as etree from urllib.parse import quote import pyarrow as pa import pyarrow.parquet as pq import datasets logger = datasets.logging.get_logger(__name__) _CITATION = """\ @ONLINE {wikidump, author = {Wikimedia Foundation}, title = {Wikimedia Downloads}, url = {https://dumps.wikimedia.org} } """ _DESCRIPTION = """\ Wikipedia dataset containing cleaned articles of all languages. The datasets are built from the Wikipedia dump (https://dumps.wikimedia.org/) with one split per language. Each example contains the content of one full Wikipedia article with cleaning to strip markdown and unwanted sections (references, etc.). """ _LICENSE = ( "This work is licensed under the Creative Commons Attribution-ShareAlike " "3.0 Unported License. To view a copy of this license, visit " "http://creativecommons.org/licenses/by-sa/3.0/ or send a letter to " "Creative Commons, PO Box 1866, Mountain View, CA 94042, USA." ) # Source: https://en.wikipedia.org/wiki/List_of_Wikipedias (accessed 3/1/2019) # Removed because no articles: hz. WIKIPEDIA_LANGUAGES = [ "aa", "ab", "ace", "ady", "af", "ak", "als", "am", "an", "ang", "ar", "arc", "arz", "as", "ast", "atj", "av", "ay", "az", "azb", "ba", "bar", "bat-smg", "bcl", "be", "be-x-old", "bg", "bh", "bi", "bjn", "bm", "bn", "bo", "bpy", "br", "bs", "bug", "bxr", "ca", "cbk-zam", "cdo", "ce", "ceb", "ch", "cho", "chr", "chy", "ckb", "co", "cr", "crh", "cs", "csb", "cu", "cv", "cy", "da", "de", "din", "diq", "dsb", "dty", "dv", "dz", "ee", "el", "eml", "en", "eo", "es", "et", "eu", "ext", "fa", "ff", "fi", "fiu-vro", "fj", "fo", "fr", "frp", "frr", "fur", "fy", "ga", "gag", "gan", "gd", "gl", "glk", "gn", "gom", "gor", "got", "gu", "gv", "ha", "hak", "haw", "he", "hi", "hif", "ho", "hr", "hsb", "ht", "hu", "hy", "ia", "id", "ie", "ig", "ii", "ik", "ilo", "inh", "io", "is", "it", "iu", "ja", "jam", "jbo", "jv", "ka", "kaa", "kab", "kbd", "kbp", "kg", "ki", "kj", "kk", "kl", "km", "kn", "ko", "koi", "krc", "ks", "ksh", "ku", "kv", "kw", "ky", "la", "lad", "lb", "lbe", "lez", "lfn", "lg", "li", "lij", "lmo", "ln", "lo", "lrc", "lt", "ltg", "lv", "mai", "map-bms", "mdf", "mg", "mh", "mhr", "mi", "min", "mk", "ml", "mn", "mr", "mrj", "ms", "mt", "mus", "mwl", "my", "myv", "mzn", "na", "nah", "nap", "nds", "nds-nl", "ne", "new", "ng", "nl", "nn", "no", "nov", "nrm", "nso", "nv", "ny", "oc", "olo", "om", "or", "os", "pa", "pag", "pam", "pap", "pcd", "pdc", "pfl", "pi", "pih", "pl", "pms", "pnb", "pnt", "ps", "pt", "qu", "rm", "rmy", "rn", "ro", "roa-rup", "roa-tara", "ru", "rue", "rw", "sa", "sah", "sat", "sc", "scn", "sco", "sd", "se", "sg", "sh", "si", "simple", "sk", "sl", "sm", "sn", "so", "sq", "sr", "srn", "ss", "st", "stq", "su", "sv", "sw", "szl", "ta", "tcy", "te", "tet", "tg", "th", "ti", "tk", "tl", "tn", "to", "tpi", "tr", "ts", "tt", "tum", "tw", "ty", "tyv", "udm", "ug", "uk", "ur", "uz", "ve", "vec", "vep", "vi", "vls", "vo", "wa", "war", "wo", "wuu", "xal", "xh", "xmf", "yi", "yo", "za", "zea", "zh", "zh-classical", "zh-min-nan", "zh-yue", "zu", ] # Source: for each Wikipedia language code (example shown for "ab"), aliases for namespaces -2 and 6 accessed via this API call: # https://ab.wikipedia.org/w/api.php?action=query&meta=siteinfo&siprop=namespacealiases|namespaces&format=json&formatversion=2 (accessed 12/21/2021) MEDIA_ALIASES = { "ab": ["Медиа", "Файл", "Афаил", "Амедиа", "Изображение"], "ace": ["Beureukaih", "Gambar", "Alat", "Berkas"], "ady": ["Медиа"], "af": ["Lêer", "Beeld"], "als": ["Medium", "Datei", "Bild"], "am": ["ፋይል", "ስዕል"], "an": ["Imachen", "Imagen"], "ang": ["Ymele", "Biliþ"], "ar": ["ميديا", "صورة", "وسائط", "ملف"], "arc": ["ܠܦܦܐ", "ܡܝܕܝܐ"], "arz": ["ميديا", "صورة", "وسائط", "ملف"], "as": ["চিত্ৰ", "चित्र", "চিত্র", "মাধ্যম"], "ast": ["Imaxen", "Ficheru", "Imaxe", "Archivu", "Imagen", "Medios"], "atj": ["Tipatcimoctakewin", "Natisinahikaniwoc"], "av": ["Медиа", "Файл", "Изображение"], "ay": ["Medio", "Archivo", "Imagen"], "az": ["Mediya", "Şəkil", "Fayl"], "azb": ["رسانه", "تصویر", "مدیا", "فایل", "رسانه‌ای"], "ba": ["Медиа", "Рәсем", "Файл", "Изображение"], "bar": ["Medium", "Datei", "Bild"], "bat-smg": ["Vaizdas", "Medėjė", "Abruozdielis"], "bcl": ["Medio", "Ladawan"], "be": ["Мультымедыя", "Файл", "Выява"], "be-x-old": ["Мэдыя", "Файл", "Выява"], "bg": ["Медия", "Файл", "Картинка"], "bh": ["मीडिया", "चित्र"], "bjn": ["Barakas", "Gambar", "Berkas"], "bm": ["Média", "Fichier"], "bn": ["চিত্র", "মিডিয়া"], "bpy": ["ছবি", "মিডিয়া"], "br": ["Skeudenn", "Restr"], "bs": ["Mediji", "Slika", "Datoteka", "Medija"], "bug": ["Gambar", "Berkas"], "bxr": ["Файл", "Меди", "Изображение"], "ca": ["Fitxer", "Imatge"], "cbk-zam": ["Medio", "Archivo", "Imagen"], "cdo": ["文件", "媒體", "圖像", "檔案"], "ce": ["Хlум", "Медиа", "Сурт", "Файл", "Медйа", "Изображение"], "ceb": ["Payl", "Medya", "Imahen"], "ch": ["Litratu"], "ckb": ["میدیا", "پەڕگە"], "co": ["Immagine"], "crh": ["Медиа", "Resim", "Файл", "Fayl", "Ресим"], "cs": ["Soubor", "Média", "Obrázok"], "csb": ["Òbrôzk", "Grafika"], "cu": ["Видъ", "Ви́дъ", "Дѣло", "Срѣдьства"], "cv": ["Медиа", "Ӳкерчĕк", "Изображение"], "cy": ["Delwedd"], "da": ["Billede", "Fil"], "de": ["Medium", "Datei", "Bild"], "din": ["Ciɛl", "Apamduööt"], "diq": ["Medya", "Dosya"], "dsb": ["Wobraz", "Dataja", "Bild", "Medija"], "dty": ["चित्र", "मिडिया"], "dv": ["ފައިލު", "މީޑިއާ", "ފައިލް"], "el": ["Εικόνα", "Αρχείο", "Μέσο", "Μέσον"], "eml": ["Immagine"], "eo": ["Dosiero", "Aŭdvidaĵo"], "es": ["Medio", "Archivo", "Imagen"], "et": ["Pilt", "Fail", "Meedia"], "eu": ["Irudi", "Fitxategi"], "ext": ["Archivu", "Imagen", "Mediu"], "fa": ["رسانه", "تصویر", "مدیا", "پرونده", "رسانه‌ای"], "ff": ["Média", "Fichier"], "fi": ["Kuva", "Tiedosto"], "fiu-vro": ["Pilt", "Meediä"], "fo": ["Miðil", "Mynd"], "fr": ["Média", "Fichier"], "frp": ["Émâge", "Fichiér", "Mèdia"], "frr": ["Medium", "Datei", "Bild"], "fur": ["Immagine", "Figure"], "fy": ["Ofbyld"], "ga": ["Íomhá", "Meán"], "gag": ["Mediya", "Medya", "Resim", "Dosya", "Dosye"], "gan": ["媒体文件", "文件", "文檔", "档案", "媒體", "图像", "圖像", "媒体", "檔案"], "gd": ["Faidhle", "Meadhan"], "gl": ["Imaxe", "Ficheiro", "Arquivo", "Imagem"], "glk": ["رسانه", "تصویر", "پرونده", "فاىل", "رسانه‌ای", "مديا"], "gn": ["Medio", "Imagen", "Ta'ãnga"], "gom": ["माध्यम", "मिडिया", "फायल"], "gor": ["Gambar", "Berkas"], "got": ["𐍆𐌴𐌹𐌻𐌰"], "gu": ["દ્રશ્ય-શ્રાવ્ય (મિડિયા)", "દ્રશ્ય-શ્રાવ્ય_(મિડિયા)", "ચિત્ર"], "gv": ["Coadan", "Meanyn"], "hak": ["文件", "媒體", "圖像", "檔案"], "haw": ["Kiʻi", "Waihona", "Pāpaho"], "he": ["תמונה", "קו", "מדיה", "קובץ"], "hi": ["मीडिया", "चित्र"], "hif": ["file", "saadhan"], "hr": ["Mediji", "DT", "Slika", "F", "Datoteka"], "hsb": ["Wobraz", "Dataja", "Bild"], "ht": ["Imaj", "Fichye", "Medya"], "hu": ["Kép", "Fájl", "Média"], "hy": ["Պատկեր", "Մեդիա"], "ia": ["Imagine", "Multimedia"], "id": ["Gambar", "Berkas"], "ig": ["Nká", "Midia", "Usòrò", "Ákwúkwó orünotu", "Ákwúkwó_orünotu"], "ii": ["媒体文件", "文件", "档案", "图像", "媒体"], "ilo": ["Midia", "Papeles"], "inh": ["Медиа", "Файл", "Изображение"], "io": ["Imajo", "Arkivo"], "is": ["Miðill", "Mynd"], "it": ["Immagine"], "ja": ["メディア", "ファイル", "画像"], "jbo": ["velsku", "datnyvei"], "jv": ["Barkas", "Medhia", "Gambar", "Médhia"], "ka": ["მედია", "სურათი", "ფაილი"], "kaa": ["Swret", "Таспа", "سۋرەت", "Taspa", "Su'wret", "Сурет", "تاسپا"], "kab": ["Tugna"], "kbd": ["Медиа", "Файл"], "kbp": ["Média", "Fichier"], "kg": ["Fisye"], "kk": ["Swret", "سۋرەت", "Таспа", "Taspa", "Сурет", "تاسپا"], "kl": ["Billede", "Fiileq", "Fil"], "km": ["ឯកសារ", "រូបភាព", "មេឌា", "មីឌា"], "kn": ["ಚಿತ್ರ", "ಮೀಡಿಯ"], "ko": ["미디어", "파일", "그림"], "koi": ["Медиа", "Файл", "Изображение"], "krc": ["Медиа", "Файл", "Изображение"], "ks": ["میڈیا", "فَیِل"], "ksh": ["Beld", "Meedije", "Medie", "Belld", "Medium", "Datei", "Meedijum", "Bild"], "ku": ["میدیا", "پەڕگە", "Medya", "Wêne"], "kv": ["Медиа", "Файл", "Изображение"], "kw": ["Restren"], "ky": ["Медиа", "Файл"], "la": ["Imago", "Fasciculus"], "lad": ["Dossia", "Medya", "Archivo", "Dosya", "Imagen", "Meddia"], "lb": ["Fichier", "Bild"], "lbe": ["Медиа", "Сурат", "Изображение"], "lez": ["Медиа", "Mediya", "Файл", "Şəkil", "Изображение"], "lfn": ["Fix"], "li": ["Afbeelding", "Plaetje", "Aafbeilding"], "lij": ["Immaggine", "Immagine"], "lmo": ["Immagine", "Imàjine", "Archivi"], "ln": ["Média", "Fichier"], "lo": ["ສື່ອ", "ສື່", "ຮູບ"], "lrc": ["رسانه", "تصویر", "رسانه‌ای", "جانیا", "أسگ", "ڤارئسگأر"], "lt": ["Vaizdas", "Medija"], "ltg": ["Medeja", "Fails"], "lv": ["Attēls"], "mai": ["मेडिया", "फाइल"], "map-bms": ["Barkas", "Medhia", "Gambar", "Médhia"], "mdf": ["Медиа", "Няйф", "Изображение"], "mg": ["Rakitra", "Sary", "Média"], "mhr": ["Медиа", "Файл", "Изображение"], "min": ["Gambar", "Berkas"], "mk": ["Податотека", "Медија", "Медиум", "Слика"], "ml": ["പ്രമാണം", "ചി", "മീഡിയ", "പ്ര", "ചിത്രം"], "mn": ["Медиа", "Файл", "Зураг"], "mr": ["चित्र", "मिडिया"], "mrj": ["Медиа", "Файл", "Изображение"], "ms": ["Fail", "Imej"], "mt": ["Midja", "Medja", "Stampa"], "mwl": ["Multimédia", "Fexeiro", "Ficheiro", "Arquivo", "Imagem"], "my": ["ဖိုင်", "မီဒီယာ"], "myv": ["Медия", "Артовкс", "Изображение"], "mzn": ["رسانه", "تصویر", "مه‌دیا", "مدیا", "پرونده", "رسانه‌ای"], "nah": ["Mēdiatl", "Īxiptli", "Imagen"], "nap": ["Fiùra", "Immagine"], "nds": ["Datei", "Bild"], "nds-nl": ["Ofbeelding", "Afbeelding", "Bestaand"], "ne": ["मीडिया", "चित्र"], "new": ["किपा", "माध्यम"], "nl": ["Bestand", "Afbeelding"], "nn": ["Fil", "Bilde", "Filpeikar"], "no": ["Fil", "Medium", "Bilde"], "nov": [], "nrm": ["Média", "Fichier"], "nso": ["Seswantšho"], "nv": ["Eʼelyaaígíí"], "oc": ["Imatge", "Fichièr", "Mèdia"], "olo": ["Kuva", "Medii", "Failu"], "or": ["ମାଧ୍ୟମ", "ଫାଇଲ"], "os": ["Ныв", "Медиа", "Файл", "Изображение"], "pa": ["ਤਸਵੀਰ", "ਮੀਡੀਆ"], "pcd": ["Média", "Fichier"], "pdc": ["Medium", "Datei", "Bild", "Feil"], "pfl": ["Dadai", "Medium", "Datei", "Bild"], "pi": ["मीडिया", "पटिमा"], "pl": ["Plik", "Grafika"], "pms": ["Figura", "Immagine"], "pnb": ["میڈیا", "تصویر", "فائل"], "pnt": ["Εικόνα", "Αρχείον", "Εικόναν", "Μέσον"], "ps": ["انځور", "رسنۍ", "دوتنه"], "pt": ["Multimédia", "Ficheiro", "Arquivo", "Imagem"], "qu": ["Midya", "Imagen", "Rikcha"], "rm": ["Multimedia", "Datoteca"], "rmy": ["Fişier", "Mediya", "Chitro", "Imagine"], "ro": ["Fişier", "Imagine", "Fișier"], "roa-rup": ["Fişier", "Imagine", "Fișier"], "roa-tara": ["Immagine"], "ru": ["Медиа", "Файл", "Изображение"], "rue": ["Медіа", "Медиа", "Файл", "Изображение", "Зображення"], "rw": ["Dosiye", "Itangazamakuru"], "sa": ["चित्रम्", "माध्यमम्", "सञ्चिका", "माध्यम", "चित्रं"], "sah": ["Миэдьийэ", "Ойуу", "Билэ", "Изображение"], "sat": ["ᱨᱮᱫ", "ᱢᱤᱰᱤᱭᱟ"], "sc": ["Immàgini"], "scn": ["Immagine", "Mmàggini", "Mèdia"], "sd": ["عڪس", "ذريعات", "فائل"], "se": ["Fiila"], "sg": ["Média", "Fichier"], "sh": ["Mediji", "Slika", "Медија", "Datoteka", "Medija", "Слика"], "si": ["රූපය", "මාධ්‍යය", "ගොනුව"], "sk": ["Súbor", "Obrázok", "Médiá"], "sl": ["Slika", "Datoteka"], "sq": ["Figura", "Skeda"], "sr": ["Датотека", "Medij", "Slika", "Медија", "Datoteka", "Медиј", "Medija", "Слика"], "srn": ["Afbeelding", "Gefre"], "stq": ["Bielde", "Bild"], "su": ["Média", "Gambar"], "sv": ["Fil", "Bild"], "sw": ["Faili", "Picha"], "szl": ["Plik", "Grafika"], "ta": ["படிமம்", "ஊடகம்"], "tcy": ["ಮಾದ್ಯಮೊ", "ಫೈಲ್"], "te": ["ఫైలు", "దస్త్రం", "బొమ్మ", "మీడియా"], "tet": ["Imajen", "Arquivo", "Imagem"], "tg": ["Акс", "Медиа"], "th": ["ไฟล์", "สื่อ", "ภาพ"], "ti": ["ፋይል", "ሜድያ"], "tk": ["Faýl"], "tl": ["Midya", "Talaksan"], "tpi": ["Fail"], "tr": ["Medya", "Resim", "Dosya", "Ortam"], "tt": ["Медиа", "Рәсем", "Файл", "Räsem", "Изображение"], "ty": ["Média", "Fichier"], "tyv": ["Медиа", "Файл", "Изображение"], "udm": ["Медиа", "Файл", "Суред", "Изображение"], "ug": ["ۋاسىتە", "ھۆججەت"], "uk": ["Медіа", "Медиа", "Файл", "Изображение", "Зображення"], "ur": ["میڈیا", "تصویر", "وسیط", "زریعہ", "فائل", "ملف"], "uz": ["Mediya", "Tasvir", "Fayl"], "vec": ["Immagine", "Imàjine", "Mèdia"], "vep": ["Pilt", "Fail"], "vi": ["Phương_tiện", "Tập_tin", "Hình", "Tập tin", "Phương tiện"], "vls": ["Afbeelding", "Ofbeeldienge"], "vo": ["Ragiv", "Magod", "Nünamakanäd"], "wa": ["Imådje"], "war": ["Medya", "Fayl", "Paypay"], "wo": ["Xibaarukaay", "Dencukaay"], "wuu": ["文件", "档案", "图像", "媒体"], "xal": ["Аһар", "Боомг", "Изображение", "Зург"], "xmf": ["მედია", "სურათი", "ფაილი"], "yi": ["מעדיע", "תמונה", "טעקע", "בילד"], "yo": ["Fáìlì", "Amóhùnmáwòrán", "Àwòrán"], "za": ["媒体文件", "文件", "档案", "图像", "媒体"], "zea": ["Afbeelding", "Plaetje"], "zh": ["媒体文件", "F", "文件", "媒體", "档案", "图像", "圖像", "媒体", "檔案"], "zh-classical": ["文件", "媒體", "圖像", "檔案"], "zh-min-nan": ["tóng-àn", "文件", "媒體", "Mûi-thé", "圖像", "檔案"], "zh-yue": ["檔", "档", "文件", "图", "媒體", "圖", "档案", "图像", "圖像", "媒体", "檔案"], } # Source: for each Wikipedia language code (example shown for "ab"), aliases for namespace 14 accessed via this API call: # https://ab.wikipedia.org/w/api.php?action=query&meta=siteinfo&siprop=namespacealiases|namespaces&format=json&formatversion=2 (accessed 12/21/2021) CAT_ALIASES = { "ab": ["Категория", "Акатегориа"], "ace": ["Kawan", "Kategori"], "af": ["Kategorie"], "ak": ["Nkyekyem"], "als": ["Kategorie"], "am": ["መደብ"], "an": ["Categoría"], "ang": ["Flocc"], "ar": ["تصنيف"], "arc": ["ܣܕܪܐ"], "arz": ["تصنيف"], "as": ["CAT", "শ্ৰেণী", "श्रेणी", "শ্রেণী"], "ast": ["Categoría"], "atj": ["Tipanictawin"], "av": ["Категория"], "ay": ["Categoría"], "az": ["Kateqoriya"], "azb": ["بؤلمه"], "ba": ["Төркөм", "Категория"], "bar": ["Kategorie"], "bat-smg": ["Kategorija", "Kateguorėjė"], "bcl": ["Kategorya"], "be": ["Катэгорыя"], "be-x-old": ["Катэгорыя"], "bg": ["Категория"], "bh": ["श्रेणी"], "bjn": ["Tumbung", "Kategori"], "bm": ["Catégorie"], "bn": ["বিষয়শ্রেণী", "വിഭാഗം"], "bpy": ["থাক"], "br": ["Rummad"], "bs": ["Kategorija"], "bug": ["Kategori"], "bxr": ["Категори", "Категория"], "ca": ["Categoria"], "cbk-zam": ["Categoría"], "cdo": ["分類"], "ce": ["Категори", "Тоба", "Кадегар"], "ceb": ["Kategoriya"], "ch": ["Katigoria"], "ckb": ["پ", "پۆل"], "co": ["Categoria"], "crh": ["Категория", "Kategoriya"], "cs": ["Kategorie"], "csb": ["Kategòrëjô"], "cu": ["Катигорї", "Категория", "Катигорїꙗ"], "cv": ["Категори"], "cy": ["Categori"], "da": ["Kategori"], "de": ["Kategorie"], "din": ["Bekätakthook"], "diq": ["Kategoriye", "Kategori"], "dsb": ["Kategorija"], "dty": ["श्रेणी"], "dv": ["ޤިސްމު"], "el": ["Κατηγορία"], "eml": ["Categoria"], "eo": ["Kategorio"], "es": ["CAT", "Categoría"], "et": ["Kategooria"], "eu": ["Kategoria"], "ext": ["Categoría", "Categoria"], "fa": ["رده"], "ff": ["Catégorie"], "fi": ["Luokka"], "fiu-vro": ["Katõgooria"], "fo": ["Bólkur"], "fr": ["Catégorie"], "frp": ["Catègorie"], "frr": ["Kategorie"], "fur": ["Categorie"], "fy": ["Kategory"], "ga": ["Rang", "Catagóir"], "gag": ["Kategori", "Kategoriya"], "gan": ["分類", "分类"], "gd": ["Roinn-seòrsa"], "gl": ["Categoría"], "glk": ["جرگه", "رده"], "gn": ["Ñemohenda"], "gom": ["वर्ग", "श्रेणी"], "gor": ["Dalala"], "got": ["𐌷𐌰𐌽𐍃𐌰"], "gu": ["શ્રેણી", "CAT", "શ્રે"], "gv": ["Ronney"], "hak": ["分類"], "haw": ["Māhele"], "he": ["קטגוריה", "קט"], "hi": ["श्र", "श्रेणी"], "hif": ["vibhag"], "hr": ["CT", "KT", "Kategorija"], "hsb": ["Kategorija"], "ht": ["Kategori"], "hu": ["Kategória"], "hy": ["Կատեգորիա"], "ia": ["Categoria"], "id": ["Kategori"], "ie": ["Categorie"], "ig": ["Ébéonọr", "Òtù"], "ii": ["分类"], "ilo": ["Kategoria"], "inh": ["ОагӀат"], "io": ["Kategorio"], "is": ["Flokkur"], "it": ["CAT", "Categoria"], "ja": ["カテゴリ"], "jbo": ["klesi"], "jv": ["Kategori"], "ka": ["კატეგორია"], "kaa": ["Sanat", "Kategoriya", "Санат", "سانات"], "kab": ["Taggayt"], "kbd": ["Категория", "Категориэ"], "kbp": ["Catégorie"], "kg": ["Kalasi"], "kk": ["Sanat", "Санат", "سانات"], "kl": ["Sumut_atassuseq", "Kategori", "Sumut atassuseq"], "km": ["ចំនាត់ថ្នាក់ក្រុម", "ចំណាត់ក្រុម", "ចំណាត់ថ្នាក់ក្រុម"], "kn": ["ವರ್ಗ"], "ko": ["분류"], "koi": ["Категория"], "krc": ["Категория"], "ks": ["زٲژ"], "ksh": ["Saachjropp", "Saachjrop", "Katejori", "Kategorie", "Saachjrupp", "Kattejori", "Sachjrop"], "ku": ["Kategorî", "پۆل"], "kv": ["Категория"], "kw": ["Class", "Klass"], "ky": ["Категория"], "la": ["Categoria"], "lad": ["Kateggoría", "Katēggoría", "Categoría"], "lb": ["Kategorie"], "lbe": ["Категория"], "lez": ["Категория"], "lfn": ["Categoria"], "li": ["Categorie", "Kategorie"], "lij": ["Categorîa", "Categoria"], "lmo": ["Categuria", "Categoria"], "ln": ["Catégorie"], "lo": ["ໝວດ"], "lrc": ["دأسە"], "lt": ["Kategorija"], "ltg": ["Kategoreja"], "lv": ["Kategorija"], "mai": ["CA", "श्रेणी"], "map-bms": ["Kategori"], "mdf": ["Категорие", "Категория"], "mg": ["Sokajy", "Catégorie"], "mhr": ["Категория", "Категорий"], "min": ["Kategori"], "mk": ["Категорија"], "ml": ["വിഭാഗം", "വി", "വർഗ്ഗം", "വ"], "mn": ["Ангилал"], "mr": ["वर्ग"], "mrj": ["Категори", "Категория"], "ms": ["Kategori"], "mt": ["Kategorija"], "mwl": ["Catadorie", "Categoria"], "my": ["ကဏ္ဍ"], "myv": ["Категория"], "mzn": ["رج", "رده"], "nah": ["Neneuhcāyōtl", "Categoría"], "nap": ["Categurìa", "Categoria"], "nds": ["Kategorie"], "nds-nl": ["Categorie", "Kattegerie", "Kategorie"], "ne": ["श्रेणी"], "new": ["पुचः"], "nl": ["Categorie"], "nn": ["Kategori"], "no": ["Kategori"], "nrm": ["Catégorie"], "nso": ["Setensele"], "nv": ["Tʼááłáhági_átʼéego", "Tʼááłáhági átʼéego"], "oc": ["Categoria"], "olo": ["Kategourii"], "or": ["ବିଭାଗ", "ଶ୍ରେଣୀ"], "os": ["Категори"], "pa": ["ਸ਼੍ਰੇਣੀ"], "pcd": ["Catégorie"], "pdc": ["Abdeeling", "Kategorie"], "pfl": ["Kadegorie", "Sachgrubb", "Kategorie"], "pi": ["विभाग"], "pl": ["Kategoria"], "pms": ["Categorìa"], "pnb": ["گٹھ"], "pnt": ["Κατηγορίαν"], "ps": ["وېشنيزه"], "pt": ["Categoria"], "qu": ["Katiguriya"], "rm": ["Categoria"], "rmy": ["Shopni"], "ro": ["Categorie"], "roa-rup": ["Categorie"], "roa-tara": ["Categoria"], "ru": ["Категория", "К"], "rue": ["Категория", "Катеґорія"], "rw": ["Ikiciro"], "sa": ["वर्गः"], "sah": ["Категория"], "sat": ["ᱛᱷᱚᱠ"], "sc": ["Categoria"], "scn": ["Catigurìa"], "sd": ["زمرو"], "se": ["Kategoriija"], "sg": ["Catégorie"], "sh": ["Kategorija", "Категорија"], "si": ["ප්‍රවර්ගය"], "sk": ["Kategória"], "sl": ["Kategorija"], "sq": ["Kategoria", "Kategori"], "sr": ["Kategorija", "Категорија"], "srn": ["Categorie", "Guru"], "stq": ["Kategorie"], "su": ["Kategori"], "sv": ["Kategori"], "sw": ["Jamii"], "szl": ["Kategoryjo", "Kategoria"], "ta": ["பகுப்பு"], "tcy": ["ವರ್ಗೊ"], "te": ["వర్గం"], "tet": ["Kategoría", "Kategoria"], "tg": ["Гурӯҳ"], "th": ["หมวดหมู่"], "ti": ["መደብ"], "tk": ["Kategoriýa"], "tl": ["Kategorya", "Kaurian"], "tpi": ["Grup"], "tr": ["Kategori", "KAT"], "tt": ["Төркем", "Törkem", "Категория"], "ty": ["Catégorie"], "tyv": ["Аңгылал", "Категория"], "udm": ["Категория"], "ug": ["تۈر"], "uk": ["Категория", "Категорія"], "ur": ["زمرہ"], "uz": ["Turkum", "Kategoriya"], "vec": ["Categoria"], "vep": ["Kategorii"], "vi": ["Thể_loại", "Thể loại"], "vls": ["Categorie"], "vo": ["Klad"], "wa": ["Categoreye"], "war": ["Kaarangay"], "wo": ["Wàll", "Catégorie"], "wuu": ["分类"], "xal": ["Янз", "Әәшл"], "xmf": ["კატეგორია"], "yi": ["קאטעגאריע", "קאַטעגאָריע"], "yo": ["Ẹ̀ka"], "za": ["分类"], "zea": ["Categorie"], "zh": ["分类", "分類", "CAT"], "zh-classical": ["分類", "CAT"], "zh-min-nan": ["分類", "Lūi-pia̍t"], "zh-yue": ["分类", "分類", "类", "類"], } _BASE_URL_TMPL = "https://dumps.wikimedia.org/{lang}wiki/{date}/" _INFO_FILE = "dumpstatus.json" _VERSION = datasets.Version("2.0.0", "") class WikipediaConfig(datasets.BuilderConfig): """BuilderConfig for Wikipedia.""" def __init__(self, language=None, date=None, version=_VERSION, **kwargs): """BuilderConfig for Wikipedia. Args: language: string, the language code for the Wikipedia dump to use. date: string, date of the Wikipedia dump in YYYYMMDD format. A list of available dates can be found at https://dumps.wikimedia.org/enwiki/. **kwargs: keyword arguments forwarded to super. """ super().__init__( name=f"{date}.{language}", description=f"Wikipedia dataset for {language}, parsed from {date} dump.", version=version, **kwargs, ) self.date = date self.language = language _DATE = "20220301" PROCESSED_CONFIG_TO_NUM_SHARDS = { "20220301.de": 18, "20220301.en": 41, "20220301.fr": 15, "20220301.frr": 1, "20220301.it": 10, "20220301.simple": 1, } class Wikipedia(datasets.ArrowBasedBuilder): """Wikipedia dataset.""" # Use mirror (your.org) to avoid download caps. BUILDER_CONFIG_CLASS = WikipediaConfig BUILDER_CONFIGS = [ WikipediaConfig( language=lang, date=_DATE, ) # pylint:disable=g-complex-comprehension for lang in WIKIPEDIA_LANGUAGES ] BATCH_SIZE = 1000 def _info(self): warnings.warn( """ This dataset is deprecated in favor of "wikimedia/wikipedia". Use `datasets.load_dataset('wikimedia/wikipedia', '20231101.en')` to load the dataset instead. """, FutureWarning, ) return datasets.DatasetInfo( description=_DESCRIPTION, features=datasets.Features( { "id": datasets.Value("string"), "url": datasets.Value("string"), "title": datasets.Value("string"), "text": datasets.Value("string"), } ), # No default supervised_keys. supervised_keys=None, homepage="https://dumps.wikimedia.org", citation=_CITATION, license=_LICENSE, ) def _split_generators(self, dl_manager): if self.config.name in PROCESSED_CONFIG_TO_NUM_SHARDS: num_shards = PROCESSED_CONFIG_TO_NUM_SHARDS[self.config.name] parquet_urls = [ os.path.join("data", self.config.name, f"train-{i:05d}-of-{num_shards:05d}.parquet") for i in range(num_shards) ] # Use dictionary since testing mock always returns the same result. downloaded_files = dl_manager.download({"parquet": parquet_urls}) files = downloaded_files["parquet"] is_processed = True else: def _base_url(lang): return _BASE_URL_TMPL.format(lang=lang.replace("-", "_"), date=self.config.date) lang = self.config.language info_url = _base_url(lang) + _INFO_FILE # Use dictionary since testing mock always returns the same result. downloaded_files = dl_manager.download_and_extract({"info": info_url}) xml_urls = [] total_bytes = 0 with open(downloaded_files["info"], encoding="utf-8") as f: dump_info = json.load(f) multistream_dump_info = dump_info["jobs"]["articlesmultistreamdump"] assert ( multistream_dump_info["status"] == "done" ), "Specified dump (%s) multistream status is not 'done': %s" % ( _base_url(lang), multistream_dump_info["status"], ) for fname, info in multistream_dump_info["files"].items(): if ".xml" not in fname: continue total_bytes += info["size"] xml_urls.append(_base_url(lang) + fname) # Use dictionary since testing mock always returns the same result. downloaded_files = dl_manager.download({"xml": xml_urls}) files = downloaded_files["xml"] is_processed = False return [ datasets.SplitGenerator( # pylint:disable=g-complex-comprehension name=datasets.Split.TRAIN, gen_kwargs={"files": files, "is_processed": is_processed} ) ] def _generate_tables(self, files, is_processed): if is_processed: batch_idx = 0 for file in files: with open(file, "rb") as f: f = pq.ParquetFile(f) for batch in f.iter_batches(batch_size=self.BATCH_SIZE): yield batch_idx, pa.Table.from_batches([batch]) batch_idx += 1 else: batch = [] batch_idx = 0 for file in files: logger.info("generating examples from = %s", file) for content in _extract_content(file): example = _clean_content(content, self.config.language) if example is None: continue batch.append(example) if len(batch) >= self.BATCH_SIZE: pa_table = pa.Table.from_pylist(batch) yield batch_idx, pa_table batch = [] batch_idx += 1 if batch: pa_table = pa.Table.from_pylist(batch) yield batch_idx, pa_table def _extract_content(file): """Extracts article content from a single WikiMedia XML file.""" print("Extracting content from", file) with open(file, "rb") as f: f = bz2.BZ2File(filename=f) # Workaround due to: https://github.com/tensorflow/tensorflow/issues/33563 utf_f = codecs.getreader("utf-8")(f) context = etree.iterparse(utf_f, events=("end",)) for unused_event, elem in context: if not elem.tag.endswith("page"): continue namespace = elem.tag[:-4] title = elem.find(f"./{namespace}title").text ns = elem.find(f"./{namespace}ns").text id_ = elem.find(f"./{namespace}id").text red_ = elem.find(f"./{namespace}redirect") # Filter pages that are not in the "main" namespace. if ns != "0": elem.clear() continue raw_content = elem.find(f"./{namespace}revision/{namespace}text").text elem.clear() # Filter redirects. if raw_content is None or red_ is not None: continue yield id_, title, raw_content def _parse_and_clean_wikicode(raw_content, parser, language): """Strips formatting and unwanted sections from raw page content.""" wikicode = parser.parse(raw_content) # Filters for magic words that are parser instructions -- e.g., __NOTOC__ re_rm_magic = re.compile("__[A-Z]*__", flags=re.UNICODE) # Filters for file/image links. media_prefixes = "|".join(["File", "Image", "Media"] + MEDIA_ALIASES.get(language, [])) re_rm_wikilink = re.compile(f"^(?:{media_prefixes}):", flags=re.IGNORECASE | re.UNICODE) def rm_wikilink(obj): return bool(re_rm_wikilink.match(str(obj.title))) # Filters for references and tables def rm_tag(obj): return str(obj.tag) in {"ref", "table"} # Leave category links in-place but remove the category prefixes cat_prefixes = "|".join(["Category"] + CAT_ALIASES.get(language, [])) re_clean_wikilink = re.compile(f"^(?:{cat_prefixes}):", flags=re.IGNORECASE | re.UNICODE) def is_category(obj): return bool(re_clean_wikilink.match(str(obj.title))) def clean_wikilink(obj): text = obj.__strip__() text = re.sub(re_clean_wikilink, "", text) obj.text = text def try_replace_obj(obj): try: clean_wikilink(obj) except ValueError: # For unknown reasons, objects are sometimes not found. pass def try_remove_obj(obj, section): try: section.remove(obj) except ValueError: # For unknown reasons, objects are sometimes not found. pass section_text = [] # Filter individual sections to clean. for section in wikicode.get_sections(flat=True, include_lead=True, include_headings=True): for obj in section.ifilter_wikilinks(recursive=True): if rm_wikilink(obj): try_remove_obj(obj, section) elif is_category(obj): try_replace_obj(obj) for obj in section.ifilter_tags(matches=rm_tag, recursive=True): try_remove_obj(obj, section) section_text.append(re.sub(re_rm_magic, "", section.strip_code().strip())) return "\n\n".join(section_text) def _construct_url(title, language): # See: https://meta.wikimedia.org/wiki/Help:URL return f"https://{language}.wikipedia.org/wiki/{quote(title)}" def _clean_content(inputs, language): """Cleans raw wikicode to extract text.""" import mwparserfromhell id_, title, raw_content = inputs try: text = _parse_and_clean_wikicode(raw_content, parser=mwparserfromhell, language=language) except (mwparserfromhell.parser.ParserError) as e: logger.error("mwparserfromhell ParseError: %s", e) return if not text: return url = _construct_url(title, language) return {"id": id_, "url": url, "title": title, "text": text}