# coding=utf-8 # Copyright 2020 The TensorFlow Datasets Authors and the HuggingFace Datasets Authors. # # Licensed under the Apache License, Version 2.0 (the "License"); # you may not use this file except in compliance with the License. # You may obtain a copy of the License at # # http://www.apache.org/licenses/LICENSE-2.0 # # Unless required by applicable law or agreed to in writing, software # distributed under the License is distributed on an "AS IS" BASIS, # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied. # See the License for the specific language governing permissions and # limitations under the License. # Lint as: python3 """Wikipedia dataset containing cleaned articles of all languages.""" import bz2 import codecs import json import re import xml.etree.cElementTree as etree from urllib.parse import quote import datasets logger = datasets.logging.get_logger(__name__) _CITATION = """\ @ONLINE {wikidump, author = {Wikimedia Foundation}, title = {Wikimedia Downloads}, url = {https://dumps.wikimedia.org} } """ _DESCRIPTION = """\ Wikipedia dataset containing cleaned articles of all languages. The datasets are built from the Wikipedia dump (https://dumps.wikimedia.org/) with one split per language. Each example contains the content of one full Wikipedia article with cleaning to strip markdown and unwanted sections (references, etc.). """ _LICENSE = ( "This work is licensed under the Creative Commons Attribution-ShareAlike " "3.0 Unported License. To view a copy of this license, visit " "http://creativecommons.org/licenses/by-sa/3.0/ or send a letter to " "Creative Commons, PO Box 1866, Mountain View, CA 94042, USA." ) # Source: https://en.wikipedia.org/wiki/List_of_Wikipedias (accessed 3/1/2019) # Removed because no articles: hz. WIKIPEDIA_LANGUAGES = [ "aa", "ab", "ace", "ady", "af", "ak", "als", "am", "an", "ang", "ar", "arc", "arz", "as", "ast", "atj", "av", "ay", "az", "azb", "ba", "bar", "bat-smg", "bcl", "be", "be-x-old", "bg", "bh", "bi", "bjn", "bm", "bn", "bo", "bpy", "br", "bs", "bug", "bxr", "ca", "cbk-zam", "cdo", "ce", "ceb", "ch", "cho", "chr", "chy", "ckb", "co", "cr", "crh", "cs", "csb", "cu", "cv", "cy", "da", "de", "din", "diq", "dsb", "dty", "dv", "dz", "ee", "el", "eml", "en", "eo", "es", "et", "eu", "ext", "fa", "ff", "fi", "fiu-vro", "fj", "fo", "fr", "frp", "frr", "fur", "fy", "ga", "gag", "gan", "gd", "gl", "glk", "gn", "gom", "gor", "got", "gu", "gv", "ha", "hak", "haw", "he", "hi", "hif", "ho", "hr", "hsb", "ht", "hu", "hy", "ia", "id", "ie", "ig", "ii", "ik", "ilo", "inh", "io", "is", "it", "iu", "ja", "jam", "jbo", "jv", "ka", "kaa", "kab", "kbd", "kbp", "kg", "ki", "kj", "kk", "kl", "km", "kn", "ko", "koi", "krc", "ks", "ksh", "ku", "kv", "kw", "ky", "la", "lad", "lb", "lbe", "lez", "lfn", "lg", "li", "lij", "lmo", "ln", "lo", "lrc", "lt", "ltg", "lv", "mai", "map-bms", "mdf", "mg", "mh", "mhr", "mi", "min", "mk", "ml", "mn", "mr", "mrj", "ms", "mt", "mus", "mwl", "my", "myv", "mzn", "na", "nah", "nap", "nds", "nds-nl", "ne", "new", "ng", "nl", "nn", "no", "nov", "nrm", "nso", "nv", "ny", "oc", "olo", "om", "or", "os", "pa", "pag", "pam", "pap", "pcd", "pdc", "pfl", "pi", "pih", "pl", "pms", "pnb", "pnt", "ps", "pt", "qu", "rm", "rmy", "rn", "ro", "roa-rup", "roa-tara", "ru", "rue", "rw", "sa", "sah", "sat", "sc", "scn", "sco", "sd", "se", "sg", "sh", "si", "simple", "sk", "sl", "sm", "sn", "so", "sq", "sr", "srn", "ss", "st", "stq", "su", "sv", "sw", "szl", "ta", "tcy", "te", "tet", "tg", "th", "ti", "tk", "tl", "tn", "to", "tpi", "tr", "ts", "tt", "tum", "tw", "ty", "tyv", "udm", "ug", "uk", "ur", "uz", "ve", "vec", "vep", "vi", "vls", "vo", "wa", "war", "wo", "wuu", "xal", "xh", "xmf", "yi", "yo", "za", "zea", "zh", "zh-classical", "zh-min-nan", "zh-yue", "zu", ] # Source: for each Wikipedia language code (example shown for "ab"), aliases for namespaces -2 and 6 accessed via this API call: # https://ab.wikipedia.org/w/api.php?action=query&meta=siteinfo&siprop=namespacealiases|namespaces&format=json&formatversion=2 (accessed 12/21/2021) MEDIA_ALIASES = { "ab": ["Медиа", "Файл", "Афаил", "Амедиа", "Изображение"], "ace": ["Beureukaih", "Gambar", "Alat", "Berkas"], "ady": ["Медиа"], "af": ["Lêer", "Beeld"], "als": ["Medium", "Datei", "Bild"], "am": ["ፋይል", "ስዕል"], "an": ["Imachen", "Imagen"], "ang": ["Ymele", "Biliþ"], "ar": ["ميديا", "صورة", "وسائط", "ملف"], "arc": ["ܠܦܦܐ", "ܡܝܕܝܐ"], "arz": ["ميديا", "صورة", "وسائط", "ملف"], "as": ["চিত্ৰ", "चित्र", "চিত্র", "মাধ্যম"], "ast": ["Imaxen", "Ficheru", "Imaxe", "Archivu", "Imagen", "Medios"], "atj": ["Tipatcimoctakewin", "Natisinahikaniwoc"], "av": ["Медиа", "Файл", "Изображение"], "ay": ["Medio", "Archivo", "Imagen"], "az": ["Mediya", "Şəkil", "Fayl"], "azb": ["رسانه", "تصویر", "مدیا", "فایل", "رسانه‌ای"], "ba": ["Медиа", "Рәсем", "Файл", "Изображение"], "bar": ["Medium", "Datei", "Bild"], "bat-smg": ["Vaizdas", "Medėjė", "Abruozdielis"], "bcl": ["Medio", "Ladawan"], "be": ["Мультымедыя", "Файл", "Выява"], "be-x-old": ["Мэдыя", "Файл", "Выява"], "bg": ["Медия", "Файл", "Картинка"], "bh": ["मीडिया", "चित्र"], "bjn": ["Barakas", "Gambar", "Berkas"], "bm": ["Média", "Fichier"], "bn": ["চিত্র", "মিডিয়া"], "bpy": ["ছবি", "মিডিয়া"], "br": ["Skeudenn", "Restr"], "bs": ["Mediji", "Slika", "Datoteka", "Medija"], "bug": ["Gambar", "Berkas"], "bxr": ["Файл", "Меди", "Изображение"], "ca": ["Fitxer", "Imatge"], "cbk-zam": ["Medio", "Archivo", "Imagen"], "cdo": ["文件", "媒體", "圖像", "檔案"], "ce": ["Хlум", "Медиа", "Сурт", "Файл", "Медйа", "Изображение"], "ceb": ["Payl", "Medya", "Imahen"], "ch": ["Litratu"], "ckb": ["میدیا", "پەڕگە"], "co": ["Immagine"], "crh": ["Медиа", "Resim", "Файл", "Fayl", "Ресим"], "cs": ["Soubor", "Média", "Obrázok"], "csb": ["Òbrôzk", "Grafika"], "cu": ["Видъ", "Ви́дъ", "Дѣло", "Срѣдьства"], "cv": ["Медиа", "Ӳкерчĕк", "Изображение"], "cy": ["Delwedd"], "da": ["Billede", "Fil"], "de": ["Medium", "Datei", "Bild"], "din": ["Ciɛl", "Apamduööt"], "diq": ["Medya", "Dosya"], "dsb": ["Wobraz", "Dataja", "Bild", "Medija"], "dty": ["चित्र", "मिडिया"], "dv": ["ފައިލު", "މީޑިއާ", "ފައިލް"], "el": ["Εικόνα", "Αρχείο", "Μέσο", "Μέσον"], "eml": ["Immagine"], "eo": ["Dosiero", "Aŭdvidaĵo"], "es": ["Medio", "Archivo", "Imagen"], "et": ["Pilt", "Fail", "Meedia"], "eu": ["Irudi", "Fitxategi"], "ext": ["Archivu", "Imagen", "Mediu"], "fa": ["رسانه", "تصویر", "مدیا", "پرونده", "رسانه‌ای"], "ff": ["Média", "Fichier"], "fi": ["Kuva", "Tiedosto"], "fiu-vro": ["Pilt", "Meediä"], "fo": ["Miðil", "Mynd"], "fr": ["Média", "Fichier"], "frp": ["Émâge", "Fichiér", "Mèdia"], "frr": ["Medium", "Datei", "Bild"], "fur": ["Immagine", "Figure"], "fy": ["Ofbyld"], "ga": ["Íomhá", "Meán"], "gag": ["Mediya", "Medya", "Resim", "Dosya", "Dosye"], "gan": ["媒体文件", "文件", "文檔", "档案", "媒體", "图像", "圖像", "媒体", "檔案"], "gd": ["Faidhle", "Meadhan"], "gl": ["Imaxe", "Ficheiro", "Arquivo", "Imagem"], "glk": ["رسانه", "تصویر", "پرونده", "فاىل", "رسانه‌ای", "مديا"], "gn": ["Medio", "Imagen", "Ta'ãnga"], "gom": ["माध्यम", "मिडिया", "फायल"], "gor": ["Gambar", "Berkas"], "got": ["𐍆𐌴𐌹𐌻𐌰"], "gu": ["દ્રશ્ય-શ્રાવ્ય (મિડિયા)", "દ્રશ્ય-શ્રાવ્ય_(મિડિયા)", "ચિત્ર"], "gv": ["Coadan", "Meanyn"], "hak": ["文件", "媒體", "圖像", "檔案"], "haw": ["Kiʻi", "Waihona", "Pāpaho"], "he": ["תמונה", "קו", "מדיה", "קובץ"], "hi": ["मीडिया", "चित्र"], "hif": ["file", "saadhan"], "hr": ["Mediji", "DT", "Slika", "F", "Datoteka"], "hsb": ["Wobraz", "Dataja", "Bild"], "ht": ["Imaj", "Fichye", "Medya"], "hu": ["Kép", "Fájl", "Média"], "hy": ["Պատկեր", "Մեդիա"], "ia": ["Imagine", "Multimedia"], "id": ["Gambar", "Berkas"], "ig": ["Nká", "Midia", "Usòrò", "Ákwúkwó orünotu", "Ákwúkwó_orünotu"], "ii": ["媒体文件", "文件", "档案", "图像", "媒体"], "ilo": ["Midia", "Papeles"], "inh": ["Медиа", "Файл", "Изображение"], "io": ["Imajo", "Arkivo"], "is": ["Miðill", "Mynd"], "it": ["Immagine"], "ja": ["メディア", "ファイル", "画像"], "jbo": ["velsku", "datnyvei"], "jv": ["Barkas", "Medhia", "Gambar", "Médhia"], "ka": ["მედია", "სურათი", "ფაილი"], "kaa": ["Swret", "Таспа", "سۋرەت", "Taspa", "Su'wret", "Сурет", "تاسپا"], "kab": ["Tugna"], "kbd": ["Медиа", "Файл"], "kbp": ["Média", "Fichier"], "kg": ["Fisye"], "kk": ["Swret", "سۋرەت", "Таспа", "Taspa", "Сурет", "تاسپا"], "kl": ["Billede", "Fiileq", "Fil"], "km": ["ឯកសារ", "រូបភាព", "មេឌា", "មីឌា"], "kn": ["ಚಿತ್ರ", "ಮೀಡಿಯ"], "ko": ["미디어", "파일", "그림"], "koi": ["Медиа", "Файл", "Изображение"], "krc": ["Медиа", "Файл", "Изображение"], "ks": ["میڈیا", "فَیِل"], "ksh": ["Beld", "Meedije", "Medie", "Belld", "Medium", "Datei", "Meedijum", "Bild"], "ku": ["میدیا", "پەڕگە", "Medya", "Wêne"], "kv": ["Медиа", "Файл", "Изображение"], "kw": ["Restren"], "ky": ["Медиа", "Файл"], "la": ["Imago", "Fasciculus"], "lad": ["Dossia", "Medya", "Archivo", "Dosya", "Imagen", "Meddia"], "lb": ["Fichier", "Bild"], "lbe": ["Медиа", "Сурат", "Изображение"], "lez": ["Медиа", "Mediya", "Файл", "Şəkil", "Изображение"], "lfn": ["Fix"], "li": ["Afbeelding", "Plaetje", "Aafbeilding"], "lij": ["Immaggine", "Immagine"], "lmo": ["Immagine", "Imàjine", "Archivi"], "ln": ["Média", "Fichier"], "lo": ["ສື່ອ", "ສື່", "ຮູບ"], "lrc": ["رسانه", "تصویر", "رسانه‌ای", "جانیا", "أسگ", "ڤارئسگأر"], "lt": ["Vaizdas", "Medija"], "ltg": ["Medeja", "Fails"], "lv": ["Attēls"], "mai": ["मेडिया", "फाइल"], "map-bms": ["Barkas", "Medhia", "Gambar", "Médhia"], "mdf": ["Медиа", "Няйф", "Изображение"], "mg": ["Rakitra", "Sary", "Média"], "mhr": ["Медиа", "Файл", "Изображение"], "min": ["Gambar", "Berkas"], "mk": ["Податотека", "Медија", "Медиум", "Слика"], "ml": ["പ്രമാണം", "ചി", "മീഡിയ", "പ്ര", "ചിത്രം"], "mn": ["Медиа", "Файл", "Зураг"], "mr": ["चित्र", "मिडिया"], "mrj": ["Медиа", "Файл", "Изображение"], "ms": ["Fail", "Imej"], "mt": ["Midja", "Medja", "Stampa"], "mwl": ["Multimédia", "Fexeiro", "Ficheiro", "Arquivo", "Imagem"], "my": ["ဖိုင်", "မီဒီယာ"], "myv": ["Медия", "Артовкс", "Изображение"], "mzn": ["رسانه", "تصویر", "مه‌دیا", "مدیا", "پرونده", "رسانه‌ای"], "nah": ["Mēdiatl", "Īxiptli", "Imagen"], "nap": ["Fiùra", "Immagine"], "nds": ["Datei", "Bild"], "nds-nl": ["Ofbeelding", "Afbeelding", "Bestaand"], "ne": ["मीडिया", "चित्र"], "new": ["किपा", "माध्यम"], "nl": ["Bestand", "Afbeelding"], "nn": ["Fil", "Bilde", "Filpeikar"], "no": ["Fil", "Medium", "Bilde"], "nov": [], "nrm": ["Média", "Fichier"], "nso": ["Seswantšho"], "nv": ["Eʼelyaaígíí"], "oc": ["Imatge", "Fichièr", "Mèdia"], "olo": ["Kuva", "Medii", "Failu"], "or": ["ମାଧ୍ୟମ", "ଫାଇଲ"], "os": ["Ныв", "Медиа", "Файл", "Изображение"], "pa": ["ਤਸਵੀਰ", "ਮੀਡੀਆ"], "pcd": ["Média", "Fichier"], "pdc": ["Medium", "Datei", "Bild", "Feil"], "pfl": ["Dadai", "Medium", "Datei", "Bild"], "pi": ["मीडिया", "पटिमा"], "pl": ["Plik", "Grafika"], "pms": ["Figura", "Immagine"], "pnb": ["میڈیا", "تصویر", "فائل"], "pnt": ["Εικόνα", "Αρχείον", "Εικόναν", "Μέσον"], "ps": ["انځور", "رسنۍ", "دوتنه"], "pt": ["Multimédia", "Ficheiro", "Arquivo", "Imagem"], "qu": ["Midya", "Imagen", "Rikcha"], "rm": ["Multimedia", "Datoteca"], "rmy": ["Fişier", "Mediya", "Chitro", "Imagine"], "ro": ["Fişier", "Imagine", "Fișier"], "roa-rup": ["Fişier", "Imagine", "Fișier"], "roa-tara": ["Immagine"], "ru": ["Медиа", "Файл", "Изображение"], "rue": ["Медіа", "Медиа", "Файл", "Изображение", "Зображення"], "rw": ["Dosiye", "Itangazamakuru"], "sa": ["चित्रम्", "माध्यमम्", "सञ्चिका", "माध्यम", "चित्रं"], "sah": ["Миэдьийэ", "Ойуу", "Билэ", "Изображение"], "sat": ["ᱨᱮᱫ", "ᱢᱤᱰᱤᱭᱟ"], "sc": ["Immàgini"], "scn": ["Immagine", "Mmàggini", "Mèdia"], "sd": ["عڪس", "ذريعات", "فائل"], "se": ["Fiila"], "sg": ["Média", "Fichier"], "sh": ["Mediji", "Slika", "Медија", "Datoteka", "Medija", "Слика"], "si": ["රූපය", "මාධ්‍යය", "ගොනුව"], "sk": ["Súbor", "Obrázok", "Médiá"], "sl": ["Slika", "Datoteka"], "sq": ["Figura", "Skeda"], "sr": ["Датотека", "Medij", "Slika", "Медија", "Datoteka", "Медиј", "Medija", "Слика"], "srn": ["Afbeelding", "Gefre"], "stq": ["Bielde", "Bild"], "su": ["Média", "Gambar"], "sv": ["Fil", "Bild"], "sw": ["Faili", "Picha"], "szl": ["Plik", "Grafika"], "ta": ["படிமம்", "ஊடகம்"], "tcy": ["ಮಾದ್ಯಮೊ", "ಫೈಲ್"], "te": ["ఫైలు", "దస్త్రం", "బొమ్మ", "మీడియా"], "tet": ["Imajen", "Arquivo", "Imagem"], "tg": ["Акс", "Медиа"], "th": ["ไฟล์", "สื่อ", "ภาพ"], "ti": ["ፋይል", "ሜድያ"], "tk": ["Faýl"], "tl": ["Midya", "Talaksan"], "tpi": ["Fail"], "tr": ["Medya", "Resim", "Dosya", "Ortam"], "tt": ["Медиа", "Рәсем", "Файл", "Räsem", "Изображение"], "ty": ["Média", "Fichier"], "tyv": ["Медиа", "Файл", "Изображение"], "udm": ["Медиа", "Файл", "Суред", "Изображение"], "ug": ["ۋاسىتە", "ھۆججەت"], "uk": ["Медіа", "Медиа", "Файл", "Изображение", "Зображення"], "ur": ["میڈیا", "تصویر", "وسیط", "زریعہ", "فائل", "ملف"], "uz": ["Mediya", "Tasvir", "Fayl"], "vec": ["Immagine", "Imàjine", "Mèdia"], "vep": ["Pilt", "Fail"], "vi": ["Phương_tiện", "Tập_tin", "Hình", "Tập tin", "Phương tiện"], "vls": ["Afbeelding", "Ofbeeldienge"], "vo": ["Ragiv", "Magod", "Nünamakanäd"], "wa": ["Imådje"], "war": ["Medya", "Fayl", "Paypay"], "wo": ["Xibaarukaay", "Dencukaay"], "wuu": ["文件", "档案", "图像", "媒体"], "xal": ["Аһар", "Боомг", "Изображение", "Зург"], "xmf": ["მედია", "სურათი", "ფაილი"], "yi": ["מעדיע", "תמונה", "טעקע", "בילד"], "yo": ["Fáìlì", "Amóhùnmáwòrán", "Àwòrán"], "za": ["媒体文件", "文件", "档案", "图像", "媒体"], "zea": ["Afbeelding", "Plaetje"], "zh": ["媒体文件", "F", "文件", "媒體", "档案", "图像", "圖像", "媒体", "檔案"], "zh-classical": ["文件", "媒體", "圖像", "檔案"], "zh-min-nan": ["tóng-àn", "文件", "媒體", "Mûi-thé", "圖像", "檔案"], "zh-yue": ["檔", "档", "文件", "图", "媒體", "圖", "档案", "图像", "圖像", "媒体", "檔案"], } # Source: for each Wikipedia language code (example shown for "ab"), aliases for namespace 14 accessed via this API call: # https://ab.wikipedia.org/w/api.php?action=query&meta=siteinfo&siprop=namespacealiases|namespaces&format=json&formatversion=2 (accessed 12/21/2021) CAT_ALIASES = { "ab": ["Категория", "Акатегориа"], "ace": ["Kawan", "Kategori"], "af": ["Kategorie"], "ak": ["Nkyekyem"], "als": ["Kategorie"], "am": ["መደብ"], "an": ["Categoría"], "ang": ["Flocc"], "ar": ["تصنيف"], "arc": ["ܣܕܪܐ"], "arz": ["تصنيف"], "as": ["CAT", "শ্ৰেণী", "श्रेणी", "শ্রেণী"], "ast": ["Categoría"], "atj": ["Tipanictawin"], "av": ["Категория"], "ay": ["Categoría"], "az": ["Kateqoriya"], "azb": ["بؤلمه"], "ba": ["Төркөм", "Категория"], "bar": ["Kategorie"], "bat-smg": ["Kategorija", "Kateguorėjė"], "bcl": ["Kategorya"], "be": ["Катэгорыя"], "be-x-old": ["Катэгорыя"], "bg": ["Категория"], "bh": ["श्रेणी"], "bjn": ["Tumbung", "Kategori"], "bm": ["Catégorie"], "bn": ["বিষয়শ্রেণী", "വിഭാഗം"], "bpy": ["থাক"], "br": ["Rummad"], "bs": ["Kategorija"], "bug": ["Kategori"], "bxr": ["Категори", "Категория"], "ca": ["Categoria"], "cbk-zam": ["Categoría"], "cdo": ["分類"], "ce": ["Категори", "Тоба", "Кадегар"], "ceb": ["Kategoriya"], "ch": ["Katigoria"], "ckb": ["پ", "پۆل"], "co": ["Categoria"], "crh": ["Категория", "Kategoriya"], "cs": ["Kategorie"], "csb": ["Kategòrëjô"], "cu": ["Катигорї", "Категория", "Катигорїꙗ"], "cv": ["Категори"], "cy": ["Categori"], "da": ["Kategori"], "de": ["Kategorie"], "din": ["Bekätakthook"], "diq": ["Kategoriye", "Kategori"], "dsb": ["Kategorija"], "dty": ["श्रेणी"], "dv": ["ޤިސްމު"], "el": ["Κατηγορία"], "eml": ["Categoria"], "eo": ["Kategorio"], "es": ["CAT", "Categoría"], "et": ["Kategooria"], "eu": ["Kategoria"], "ext": ["Categoría", "Categoria"], "fa": ["رده"], "ff": ["Catégorie"], "fi": ["Luokka"], "fiu-vro": ["Katõgooria"], "fo": ["Bólkur"], "fr": ["Catégorie"], "frp": ["Catègorie"], "frr": ["Kategorie"], "fur": ["Categorie"], "fy": ["Kategory"], "ga": ["Rang", "Catagóir"], "gag": ["Kategori", "Kategoriya"], "gan": ["分類", "分类"], "gd": ["Roinn-seòrsa"], "gl": ["Categoría"], "glk": ["جرگه", "رده"], "gn": ["Ñemohenda"], "gom": ["वर्ग", "श्रेणी"], "gor": ["Dalala"], "got": ["𐌷𐌰𐌽𐍃𐌰"], "gu": ["શ્રેણી", "CAT", "શ્રે"], "gv": ["Ronney"], "hak": ["分類"], "haw": ["Māhele"], "he": ["קטגוריה", "קט"], "hi": ["श्र", "श्रेणी"], "hif": ["vibhag"], "hr": ["CT", "KT", "Kategorija"], "hsb": ["Kategorija"], "ht": ["Kategori"], "hu": ["Kategória"], "hy": ["Կատեգորիա"], "ia": ["Categoria"], "id": ["Kategori"], "ie": ["Categorie"], "ig": ["Ébéonọr", "Òtù"], "ii": ["分类"], "ilo": ["Kategoria"], "inh": ["ОагӀат"], "io": ["Kategorio"], "is": ["Flokkur"], "it": ["CAT", "Categoria"], "ja": ["カテゴリ"], "jbo": ["klesi"], "jv": ["Kategori"], "ka": ["კატეგორია"], "kaa": ["Sanat", "Kategoriya", "Санат", "سانات"], "kab": ["Taggayt"], "kbd": ["Категория", "Категориэ"], "kbp": ["Catégorie"], "kg": ["Kalasi"], "kk": ["Sanat", "Санат", "سانات"], "kl": ["Sumut_atassuseq", "Kategori", "Sumut atassuseq"], "km": ["ចំនាត់ថ្នាក់ក្រុម", "ចំណាត់ក្រុម", "ចំណាត់ថ្នាក់ក្រុម"], "kn": ["ವರ್ಗ"], "ko": ["분류"], "koi": ["Категория"], "krc": ["Категория"], "ks": ["زٲژ"], "ksh": ["Saachjropp", "Saachjrop", "Katejori", "Kategorie", "Saachjrupp", "Kattejori", "Sachjrop"], "ku": ["Kategorî", "پۆل"], "kv": ["Категория"], "kw": ["Class", "Klass"], "ky": ["Категория"], "la": ["Categoria"], "lad": ["Kateggoría", "Katēggoría", "Categoría"], "lb": ["Kategorie"], "lbe": ["Категория"], "lez": ["Категория"], "lfn": ["Categoria"], "li": ["Categorie", "Kategorie"], "lij": ["Categorîa", "Categoria"], "lmo": ["Categuria", "Categoria"], "ln": ["Catégorie"], "lo": ["ໝວດ"], "lrc": ["دأسە"], "lt": ["Kategorija"], "ltg": ["Kategoreja"], "lv": ["Kategorija"], "mai": ["CA", "श्रेणी"], "map-bms": ["Kategori"], "mdf": ["Категорие", "Категория"], "mg": ["Sokajy", "Catégorie"], "mhr": ["Категория", "Категорий"], "min": ["Kategori"], "mk": ["Категорија"], "ml": ["വിഭാഗം", "വി", "വർഗ്ഗം", "വ"], "mn": ["Ангилал"], "mr": ["वर्ग"], "mrj": ["Категори", "Категория"], "ms": ["Kategori"], "mt": ["Kategorija"], "mwl": ["Catadorie", "Categoria"], "my": ["ကဏ္ဍ"], "myv": ["Категория"], "mzn": ["رج", "رده"], "nah": ["Neneuhcāyōtl", "Categoría"], "nap": ["Categurìa", "Categoria"], "nds": ["Kategorie"], "nds-nl": ["Categorie", "Kattegerie", "Kategorie"], "ne": ["श्रेणी"], "new": ["पुचः"], "nl": ["Categorie"], "nn": ["Kategori"], "no": ["Kategori"], "nrm": ["Catégorie"], "nso": ["Setensele"], "nv": ["Tʼááłáhági_átʼéego", "Tʼááłáhági átʼéego"], "oc": ["Categoria"], "olo": ["Kategourii"], "or": ["ବିଭାଗ", "ଶ୍ରେଣୀ"], "os": ["Категори"], "pa": ["ਸ਼੍ਰੇਣੀ"], "pcd": ["Catégorie"], "pdc": ["Abdeeling", "Kategorie"], "pfl": ["Kadegorie", "Sachgrubb", "Kategorie"], "pi": ["विभाग"], "pl": ["Kategoria"], "pms": ["Categorìa"], "pnb": ["گٹھ"], "pnt": ["Κατηγορίαν"], "ps": ["وېشنيزه"], "pt": ["Categoria"], "qu": ["Katiguriya"], "rm": ["Categoria"], "rmy": ["Shopni"], "ro": ["Categorie"], "roa-rup": ["Categorie"], "roa-tara": ["Categoria"], "ru": ["Категория", "К"], "rue": ["Категория", "Катеґорія"], "rw": ["Ikiciro"], "sa": ["वर्गः"], "sah": ["Категория"], "sat": ["ᱛᱷᱚᱠ"], "sc": ["Categoria"], "scn": ["Catigurìa"], "sd": ["زمرو"], "se": ["Kategoriija"], "sg": ["Catégorie"], "sh": ["Kategorija", "Категорија"], "si": ["ප්‍රවර්ගය"], "sk": ["Kategória"], "sl": ["Kategorija"], "sq": ["Kategoria", "Kategori"], "sr": ["Kategorija", "Категорија"], "srn": ["Categorie", "Guru"], "stq": ["Kategorie"], "su": ["Kategori"], "sv": ["Kategori"], "sw": ["Jamii"], "szl": ["Kategoryjo", "Kategoria"], "ta": ["பகுப்பு"], "tcy": ["ವರ್ಗೊ"], "te": ["వర్గం"], "tet": ["Kategoría", "Kategoria"], "tg": ["Гурӯҳ"], "th": ["หมวดหมู่"], "ti": ["መደብ"], "tk": ["Kategoriýa"], "tl": ["Kategorya", "Kaurian"], "tpi": ["Grup"], "tr": ["Kategori", "KAT"], "tt": ["Төркем", "Törkem", "Категория"], "ty": ["Catégorie"], "tyv": ["Аңгылал", "Категория"], "udm": ["Категория"], "ug": ["تۈر"], "uk": ["Категория", "Категорія"], "ur": ["زمرہ"], "uz": ["Turkum", "Kategoriya"], "vec": ["Categoria"], "vep": ["Kategorii"], "vi": ["Thể_loại", "Thể loại"], "vls": ["Categorie"], "vo": ["Klad"], "wa": ["Categoreye"], "war": ["Kaarangay"], "wo": ["Wàll", "Catégorie"], "wuu": ["分类"], "xal": ["Янз", "Әәшл"], "xmf": ["კატეგორია"], "yi": ["קאטעגאריע", "קאַטעגאָריע"], "yo": ["Ẹ̀ka"], "za": ["分类"], "zea": ["Categorie"], "zh": ["分类", "分類", "CAT"], "zh-classical": ["分類", "CAT"], "zh-min-nan": ["分類", "Lūi-pia̍t"], "zh-yue": ["分类", "分類", "类", "類"], } _BASE_URL_TMPL = "https://dumps.wikimedia.org/{lang}wiki/{date}/" _INFO_FILE = "dumpstatus.json" _VERSION = datasets.Version("2.0.0", "") class WikipediaConfig(datasets.BuilderConfig): """BuilderConfig for Wikipedia.""" def __init__(self, language=None, date=None, version=_VERSION, **kwargs): """BuilderConfig for Wikipedia. Args: language: string, the language code for the Wikipedia dump to use. date: string, date of the Wikipedia dump in YYYYMMDD format. A list of available dates can be found at https://dumps.wikimedia.org/enwiki/. **kwargs: keyword arguments forwarded to super. """ super().__init__( name=f"{date}.{language}", description=f"Wikipedia dataset for {language}, parsed from {date} dump.", version=version, **kwargs, ) self.date = date self.language = language _DATE = "20220301" class Wikipedia(datasets.BeamBasedBuilder): """Wikipedia dataset.""" # Use mirror (your.org) to avoid download caps. BUILDER_CONFIG_CLASS = WikipediaConfig BUILDER_CONFIGS = [ WikipediaConfig( language=lang, date=_DATE, ) # pylint:disable=g-complex-comprehension for lang in WIKIPEDIA_LANGUAGES ] def _info(self): return datasets.DatasetInfo( description=_DESCRIPTION, features=datasets.Features( { "id": datasets.Value("string"), "url": datasets.Value("string"), "title": datasets.Value("string"), "text": datasets.Value("string"), } ), # No default supervised_keys. supervised_keys=None, homepage="https://dumps.wikimedia.org", citation=_CITATION, ) def _split_generators(self, dl_manager, pipeline): def _base_url(lang): return _BASE_URL_TMPL.format(lang=lang.replace("-", "_"), date=self.config.date) lang = self.config.language info_url = _base_url(lang) + _INFO_FILE # Use dictionary since testing mock always returns the same result. downloaded_files = dl_manager.download_and_extract({"info": info_url}) xml_urls = [] total_bytes = 0 with open(downloaded_files["info"], encoding="utf-8") as f: dump_info = json.load(f) multistream_dump_info = dump_info["jobs"]["articlesmultistreamdump"] assert ( multistream_dump_info["status"] == "done" ), "Specified dump (%s) multistream status is not 'done': %s" % ( _base_url(lang), multistream_dump_info["status"], ) for fname, info in multistream_dump_info["files"].items(): if ".xml" not in fname: continue total_bytes += info["size"] xml_urls.append(_base_url(lang) + fname) # Use dictionary since testing mock always returns the same result. downloaded_files = dl_manager.download({"xml": xml_urls}) if not pipeline.is_local(): downloaded_files = dl_manager.ship_files_with_pipeline(downloaded_files, pipeline) return [ datasets.SplitGenerator( # pylint:disable=g-complex-comprehension name=datasets.Split.TRAIN, gen_kwargs={"filepaths": downloaded_files["xml"], "language": lang} ) ] def _build_pcollection(self, pipeline, filepaths, language): """Build PCollection of examples in the raw (text) form.""" import apache_beam as beam import mwparserfromhell def _extract_content(filepath): """Extracts article content from a single WikiMedia XML file.""" logger.info("generating examples from = %s", filepath) with beam.io.filesystems.FileSystems.open(filepath) as f: f = bz2.BZ2File(filename=f) # Workaround due to: https://github.com/tensorflow/tensorflow/issues/33563 utf_f = codecs.getreader("utf-8")(f) context = etree.iterparse(utf_f, events=("end",)) for unused_event, elem in context: if not elem.tag.endswith("page"): continue namespace = elem.tag[:-4] title = elem.find(f"./{namespace}title").text ns = elem.find(f"./{namespace}ns").text id_ = elem.find(f"./{namespace}id").text red_ = elem.find(f"./{namespace}redirect") # Filter pages that are not in the "main" namespace. if ns != "0": elem.clear() continue raw_content = elem.find(f"./{namespace}revision/{namespace}text").text elem.clear() # Filter redirects. if raw_content is None or red_ is not None: beam.metrics.Metrics.counter(language, "filtered-redirects").inc() continue beam.metrics.Metrics.counter(language, "extracted-examples").inc() yield (id_, title, raw_content) def _clean_content(inputs, language): """Cleans raw wikicode to extract text.""" id_, title, raw_content = inputs try: text = _parse_and_clean_wikicode(raw_content, parser=mwparserfromhell, language=language) except (mwparserfromhell.parser.ParserError) as e: beam.metrics.Metrics.counter(language, "parser-error").inc() logger.error("mwparserfromhell ParseError: %s", e) return if not text: beam.metrics.Metrics.counter(language, "empty-clean-examples").inc() return url = _construct_url(title, language) beam.metrics.Metrics.counter(language, "cleaned-examples").inc() yield id_, {"id": id_, "url": url, "title": title, "text": text} return ( pipeline | "Initialize" >> beam.Create(filepaths) | "Extract content" >> beam.FlatMap(_extract_content) | "Distribute" >> beam.transforms.Reshuffle() | "Clean content" >> beam.FlatMap(_clean_content, language=language) ) def _parse_and_clean_wikicode(raw_content, parser, language): """Strips formatting and unwanted sections from raw page content.""" wikicode = parser.parse(raw_content) # Filters for magic words that are parser instructions -- e.g., __NOTOC__ re_rm_magic = re.compile("__[A-Z]*__", flags=re.UNICODE) # Filters for file/image links. media_prefixes = "|".join(["File", "Image", "Media"] + MEDIA_ALIASES.get(language, [])) re_rm_wikilink = re.compile(f"^(?:{media_prefixes}):", flags=re.IGNORECASE | re.UNICODE) def rm_wikilink(obj): return bool(re_rm_wikilink.match(str(obj.title))) # Filters for references and tables def rm_tag(obj): return str(obj.tag) in {"ref", "table"} # Leave category links in-place but remove the category prefixes cat_prefixes = "|".join(["Category"] + CAT_ALIASES.get(language, [])) re_clean_wikilink = re.compile(f"^(?:{cat_prefixes}):", flags=re.IGNORECASE | re.UNICODE) def is_category(obj): return bool(re_clean_wikilink.match(str(obj.title))) def clean_wikilink(obj): text = obj.__strip__() text = re.sub(re_clean_wikilink, "", text) obj.text = text def try_replace_obj(obj): try: clean_wikilink(obj) except ValueError: # For unknown reasons, objects are sometimes not found. pass def try_remove_obj(obj, section): try: section.remove(obj) except ValueError: # For unknown reasons, objects are sometimes not found. pass section_text = [] # Filter individual sections to clean. for section in wikicode.get_sections(flat=True, include_lead=True, include_headings=True): for obj in section.ifilter_wikilinks(recursive=True): if rm_wikilink(obj): try_remove_obj(obj, section) elif is_category(obj): try_replace_obj(obj) for obj in section.ifilter_tags(matches=rm_tag, recursive=True): try_remove_obj(obj, section) section_text.append(re.sub(re_rm_magic, "", section.strip_code().strip())) return "\n\n".join(section_text) def _construct_url(title, language): # See: https://meta.wikimedia.org/wiki/Help:URL return f"https://{language}.wikipedia.org/wiki/{quote(title)}"