Datasets:
Multilinguality:
multilingual
Language Creators:
crowdsourced
Annotations Creators:
no-annotation
Source Datasets:
original
License:
# coding=utf-8 | |
# Copyright 2020 The TensorFlow Datasets Authors and the HuggingFace Datasets Authors. | |
# | |
# Licensed under the Apache License, Version 2.0 (the "License"); | |
# you may not use this file except in compliance with the License. | |
# You may obtain a copy of the License at | |
# | |
# http://www.apache.org/licenses/LICENSE-2.0 | |
# | |
# Unless required by applicable law or agreed to in writing, software | |
# distributed under the License is distributed on an "AS IS" BASIS, | |
# WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied. | |
# See the License for the specific language governing permissions and | |
# limitations under the License. | |
# Lint as: python3 | |
"""Wikipedia dataset containing cleaned articles of all languages.""" | |
import bz2 | |
import codecs | |
import json | |
import os | |
import re | |
import xml.etree.cElementTree as etree | |
from urllib.parse import quote | |
import pyarrow as pa | |
import pyarrow.parquet as pq | |
import datasets | |
logger = datasets.logging.get_logger(__name__) | |
_CITATION = """\ | |
@ONLINE {wikidump, | |
author = {Wikimedia Foundation}, | |
title = {Wikimedia Downloads}, | |
url = {https://dumps.wikimedia.org} | |
} | |
""" | |
_DESCRIPTION = """\ | |
Wikipedia dataset containing cleaned articles of all languages. | |
The datasets are built from the Wikipedia dump | |
(https://dumps.wikimedia.org/) with one split per language. Each example | |
contains the content of one full Wikipedia article with cleaning to strip | |
markdown and unwanted sections (references, etc.). | |
""" | |
_LICENSE = ( | |
"This work is licensed under the Creative Commons Attribution-ShareAlike " | |
"3.0 Unported License. To view a copy of this license, visit " | |
"http://creativecommons.org/licenses/by-sa/3.0/ or send a letter to " | |
"Creative Commons, PO Box 1866, Mountain View, CA 94042, USA." | |
) | |
# Source: https://en.wikipedia.org/wiki/List_of_Wikipedias (accessed 3/1/2019) | |
# Removed because no articles: hz. | |
WIKIPEDIA_LANGUAGES = [ | |
"aa", | |
"ab", | |
"ace", | |
"ady", | |
"af", | |
"ak", | |
"als", | |
"am", | |
"an", | |
"ang", | |
"ar", | |
"arc", | |
"arz", | |
"as", | |
"ast", | |
"atj", | |
"av", | |
"ay", | |
"az", | |
"azb", | |
"ba", | |
"bar", | |
"bat-smg", | |
"bcl", | |
"be", | |
"be-x-old", | |
"bg", | |
"bh", | |
"bi", | |
"bjn", | |
"bm", | |
"bn", | |
"bo", | |
"bpy", | |
"br", | |
"bs", | |
"bug", | |
"bxr", | |
"ca", | |
"cbk-zam", | |
"cdo", | |
"ce", | |
"ceb", | |
"ch", | |
"cho", | |
"chr", | |
"chy", | |
"ckb", | |
"co", | |
"cr", | |
"crh", | |
"cs", | |
"csb", | |
"cu", | |
"cv", | |
"cy", | |
"da", | |
"de", | |
"din", | |
"diq", | |
"dsb", | |
"dty", | |
"dv", | |
"dz", | |
"ee", | |
"el", | |
"eml", | |
"en", | |
"eo", | |
"es", | |
"et", | |
"eu", | |
"ext", | |
"fa", | |
"ff", | |
"fi", | |
"fiu-vro", | |
"fj", | |
"fo", | |
"fr", | |
"frp", | |
"frr", | |
"fur", | |
"fy", | |
"ga", | |
"gag", | |
"gan", | |
"gd", | |
"gl", | |
"glk", | |
"gn", | |
"gom", | |
"gor", | |
"got", | |
"gu", | |
"gv", | |
"ha", | |
"hak", | |
"haw", | |
"he", | |
"hi", | |
"hif", | |
"ho", | |
"hr", | |
"hsb", | |
"ht", | |
"hu", | |
"hy", | |
"ia", | |
"id", | |
"ie", | |
"ig", | |
"ii", | |
"ik", | |
"ilo", | |
"inh", | |
"io", | |
"is", | |
"it", | |
"iu", | |
"ja", | |
"jam", | |
"jbo", | |
"jv", | |
"ka", | |
"kaa", | |
"kab", | |
"kbd", | |
"kbp", | |
"kg", | |
"ki", | |
"kj", | |
"kk", | |
"kl", | |
"km", | |
"kn", | |
"ko", | |
"koi", | |
"krc", | |
"ks", | |
"ksh", | |
"ku", | |
"kv", | |
"kw", | |
"ky", | |
"la", | |
"lad", | |
"lb", | |
"lbe", | |
"lez", | |
"lfn", | |
"lg", | |
"li", | |
"lij", | |
"lmo", | |
"ln", | |
"lo", | |
"lrc", | |
"lt", | |
"ltg", | |
"lv", | |
"mai", | |
"map-bms", | |
"mdf", | |
"mg", | |
"mh", | |
"mhr", | |
"mi", | |
"min", | |
"mk", | |
"ml", | |
"mn", | |
"mr", | |
"mrj", | |
"ms", | |
"mt", | |
"mus", | |
"mwl", | |
"my", | |
"myv", | |
"mzn", | |
"na", | |
"nah", | |
"nap", | |
"nds", | |
"nds-nl", | |
"ne", | |
"new", | |
"ng", | |
"nl", | |
"nn", | |
"no", | |
"nov", | |
"nrm", | |
"nso", | |
"nv", | |
"ny", | |
"oc", | |
"olo", | |
"om", | |
"or", | |
"os", | |
"pa", | |
"pag", | |
"pam", | |
"pap", | |
"pcd", | |
"pdc", | |
"pfl", | |
"pi", | |
"pih", | |
"pl", | |
"pms", | |
"pnb", | |
"pnt", | |
"ps", | |
"pt", | |
"qu", | |
"rm", | |
"rmy", | |
"rn", | |
"ro", | |
"roa-rup", | |
"roa-tara", | |
"ru", | |
"rue", | |
"rw", | |
"sa", | |
"sah", | |
"sat", | |
"sc", | |
"scn", | |
"sco", | |
"sd", | |
"se", | |
"sg", | |
"sh", | |
"si", | |
"simple", | |
"sk", | |
"sl", | |
"sm", | |
"sn", | |
"so", | |
"sq", | |
"sr", | |
"srn", | |
"ss", | |
"st", | |
"stq", | |
"su", | |
"sv", | |
"sw", | |
"szl", | |
"ta", | |
"tcy", | |
"te", | |
"tet", | |
"tg", | |
"th", | |
"ti", | |
"tk", | |
"tl", | |
"tn", | |
"to", | |
"tpi", | |
"tr", | |
"ts", | |
"tt", | |
"tum", | |
"tw", | |
"ty", | |
"tyv", | |
"udm", | |
"ug", | |
"uk", | |
"ur", | |
"uz", | |
"ve", | |
"vec", | |
"vep", | |
"vi", | |
"vls", | |
"vo", | |
"wa", | |
"war", | |
"wo", | |
"wuu", | |
"xal", | |
"xh", | |
"xmf", | |
"yi", | |
"yo", | |
"za", | |
"zea", | |
"zh", | |
"zh-classical", | |
"zh-min-nan", | |
"zh-yue", | |
"zu", | |
] | |
# Source: for each Wikipedia language code (example shown for "ab"), aliases for namespaces -2 and 6 accessed via this API call: | |
# https://ab.wikipedia.org/w/api.php?action=query&meta=siteinfo&siprop=namespacealiases|namespaces&format=json&formatversion=2 (accessed 12/21/2021) | |
MEDIA_ALIASES = { | |
"ab": ["Медиа", "Файл", "Афаил", "Амедиа", "Изображение"], | |
"ace": ["Beureukaih", "Gambar", "Alat", "Berkas"], | |
"ady": ["Медиа"], | |
"af": ["Lêer", "Beeld"], | |
"als": ["Medium", "Datei", "Bild"], | |
"am": ["ፋይል", "ስዕል"], | |
"an": ["Imachen", "Imagen"], | |
"ang": ["Ymele", "Biliþ"], | |
"ar": ["ميديا", "صورة", "وسائط", "ملف"], | |
"arc": ["ܠܦܦܐ", "ܡܝܕܝܐ"], | |
"arz": ["ميديا", "صورة", "وسائط", "ملف"], | |
"as": ["চিত্ৰ", "चित्र", "চিত্র", "মাধ্যম"], | |
"ast": ["Imaxen", "Ficheru", "Imaxe", "Archivu", "Imagen", "Medios"], | |
"atj": ["Tipatcimoctakewin", "Natisinahikaniwoc"], | |
"av": ["Медиа", "Файл", "Изображение"], | |
"ay": ["Medio", "Archivo", "Imagen"], | |
"az": ["Mediya", "Şəkil", "Fayl"], | |
"azb": ["رسانه", "تصویر", "مدیا", "فایل", "رسانهای"], | |
"ba": ["Медиа", "Рәсем", "Файл", "Изображение"], | |
"bar": ["Medium", "Datei", "Bild"], | |
"bat-smg": ["Vaizdas", "Medėjė", "Abruozdielis"], | |
"bcl": ["Medio", "Ladawan"], | |
"be": ["Мультымедыя", "Файл", "Выява"], | |
"be-x-old": ["Мэдыя", "Файл", "Выява"], | |
"bg": ["Медия", "Файл", "Картинка"], | |
"bh": ["मीडिया", "चित्र"], | |
"bjn": ["Barakas", "Gambar", "Berkas"], | |
"bm": ["Média", "Fichier"], | |
"bn": ["চিত্র", "মিডিয়া"], | |
"bpy": ["ছবি", "মিডিয়া"], | |
"br": ["Skeudenn", "Restr"], | |
"bs": ["Mediji", "Slika", "Datoteka", "Medija"], | |
"bug": ["Gambar", "Berkas"], | |
"bxr": ["Файл", "Меди", "Изображение"], | |
"ca": ["Fitxer", "Imatge"], | |
"cbk-zam": ["Medio", "Archivo", "Imagen"], | |
"cdo": ["文件", "媒體", "圖像", "檔案"], | |
"ce": ["Хlум", "Медиа", "Сурт", "Файл", "Медйа", "Изображение"], | |
"ceb": ["Payl", "Medya", "Imahen"], | |
"ch": ["Litratu"], | |
"ckb": ["میدیا", "پەڕگە"], | |
"co": ["Immagine"], | |
"crh": ["Медиа", "Resim", "Файл", "Fayl", "Ресим"], | |
"cs": ["Soubor", "Média", "Obrázok"], | |
"csb": ["Òbrôzk", "Grafika"], | |
"cu": ["Видъ", "Ви́дъ", "Дѣло", "Срѣдьства"], | |
"cv": ["Медиа", "Ӳкерчĕк", "Изображение"], | |
"cy": ["Delwedd"], | |
"da": ["Billede", "Fil"], | |
"de": ["Medium", "Datei", "Bild"], | |
"din": ["Ciɛl", "Apamduööt"], | |
"diq": ["Medya", "Dosya"], | |
"dsb": ["Wobraz", "Dataja", "Bild", "Medija"], | |
"dty": ["चित्र", "मिडिया"], | |
"dv": ["ފައިލު", "މީޑިއާ", "ފައިލް"], | |
"el": ["Εικόνα", "Αρχείο", "Μέσο", "Μέσον"], | |
"eml": ["Immagine"], | |
"eo": ["Dosiero", "Aŭdvidaĵo"], | |
"es": ["Medio", "Archivo", "Imagen"], | |
"et": ["Pilt", "Fail", "Meedia"], | |
"eu": ["Irudi", "Fitxategi"], | |
"ext": ["Archivu", "Imagen", "Mediu"], | |
"fa": ["رسانه", "تصویر", "مدیا", "پرونده", "رسانهای"], | |
"ff": ["Média", "Fichier"], | |
"fi": ["Kuva", "Tiedosto"], | |
"fiu-vro": ["Pilt", "Meediä"], | |
"fo": ["Miðil", "Mynd"], | |
"fr": ["Média", "Fichier"], | |
"frp": ["Émâge", "Fichiér", "Mèdia"], | |
"frr": ["Medium", "Datei", "Bild"], | |
"fur": ["Immagine", "Figure"], | |
"fy": ["Ofbyld"], | |
"ga": ["Íomhá", "Meán"], | |
"gag": ["Mediya", "Medya", "Resim", "Dosya", "Dosye"], | |
"gan": ["媒体文件", "文件", "文檔", "档案", "媒體", "图像", "圖像", "媒体", "檔案"], | |
"gd": ["Faidhle", "Meadhan"], | |
"gl": ["Imaxe", "Ficheiro", "Arquivo", "Imagem"], | |
"glk": ["رسانه", "تصویر", "پرونده", "فاىل", "رسانهای", "مديا"], | |
"gn": ["Medio", "Imagen", "Ta'ãnga"], | |
"gom": ["माध्यम", "मिडिया", "फायल"], | |
"gor": ["Gambar", "Berkas"], | |
"got": ["𐍆𐌴𐌹𐌻𐌰"], | |
"gu": ["દ્રશ્ય-શ્રાવ્ય (મિડિયા)", "દ્રશ્ય-શ્રાવ્ય_(મિડિયા)", "ચિત્ર"], | |
"gv": ["Coadan", "Meanyn"], | |
"hak": ["文件", "媒體", "圖像", "檔案"], | |
"haw": ["Kiʻi", "Waihona", "Pāpaho"], | |
"he": ["תמונה", "קו", "מדיה", "קובץ"], | |
"hi": ["मीडिया", "चित्र"], | |
"hif": ["file", "saadhan"], | |
"hr": ["Mediji", "DT", "Slika", "F", "Datoteka"], | |
"hsb": ["Wobraz", "Dataja", "Bild"], | |
"ht": ["Imaj", "Fichye", "Medya"], | |
"hu": ["Kép", "Fájl", "Média"], | |
"hy": ["Պատկեր", "Մեդիա"], | |
"ia": ["Imagine", "Multimedia"], | |
"id": ["Gambar", "Berkas"], | |
"ig": ["Nká", "Midia", "Usòrò", "Ákwúkwó orünotu", "Ákwúkwó_orünotu"], | |
"ii": ["媒体文件", "文件", "档案", "图像", "媒体"], | |
"ilo": ["Midia", "Papeles"], | |
"inh": ["Медиа", "Файл", "Изображение"], | |
"io": ["Imajo", "Arkivo"], | |
"is": ["Miðill", "Mynd"], | |
"it": ["Immagine"], | |
"ja": ["メディア", "ファイル", "画像"], | |
"jbo": ["velsku", "datnyvei"], | |
"jv": ["Barkas", "Medhia", "Gambar", "Médhia"], | |
"ka": ["მედია", "სურათი", "ფაილი"], | |
"kaa": ["Swret", "Таспа", "سۋرەت", "Taspa", "Su'wret", "Сурет", "تاسپا"], | |
"kab": ["Tugna"], | |
"kbd": ["Медиа", "Файл"], | |
"kbp": ["Média", "Fichier"], | |
"kg": ["Fisye"], | |
"kk": ["Swret", "سۋرەت", "Таспа", "Taspa", "Сурет", "تاسپا"], | |
"kl": ["Billede", "Fiileq", "Fil"], | |
"km": ["ឯកសារ", "រូបភាព", "មេឌា", "មីឌា"], | |
"kn": ["ಚಿತ್ರ", "ಮೀಡಿಯ"], | |
"ko": ["미디어", "파일", "그림"], | |
"koi": ["Медиа", "Файл", "Изображение"], | |
"krc": ["Медиа", "Файл", "Изображение"], | |
"ks": ["میڈیا", "فَیِل"], | |
"ksh": ["Beld", "Meedije", "Medie", "Belld", "Medium", "Datei", "Meedijum", "Bild"], | |
"ku": ["میدیا", "پەڕگە", "Medya", "Wêne"], | |
"kv": ["Медиа", "Файл", "Изображение"], | |
"kw": ["Restren"], | |
"ky": ["Медиа", "Файл"], | |
"la": ["Imago", "Fasciculus"], | |
"lad": ["Dossia", "Medya", "Archivo", "Dosya", "Imagen", "Meddia"], | |
"lb": ["Fichier", "Bild"], | |
"lbe": ["Медиа", "Сурат", "Изображение"], | |
"lez": ["Медиа", "Mediya", "Файл", "Şəkil", "Изображение"], | |
"lfn": ["Fix"], | |
"li": ["Afbeelding", "Plaetje", "Aafbeilding"], | |
"lij": ["Immaggine", "Immagine"], | |
"lmo": ["Immagine", "Imàjine", "Archivi"], | |
"ln": ["Média", "Fichier"], | |
"lo": ["ສື່ອ", "ສື່", "ຮູບ"], | |
"lrc": ["رسانه", "تصویر", "رسانهای", "جانیا", "أسگ", "ڤارئسگأر"], | |
"lt": ["Vaizdas", "Medija"], | |
"ltg": ["Medeja", "Fails"], | |
"lv": ["Attēls"], | |
"mai": ["मेडिया", "फाइल"], | |
"map-bms": ["Barkas", "Medhia", "Gambar", "Médhia"], | |
"mdf": ["Медиа", "Няйф", "Изображение"], | |
"mg": ["Rakitra", "Sary", "Média"], | |
"mhr": ["Медиа", "Файл", "Изображение"], | |
"min": ["Gambar", "Berkas"], | |
"mk": ["Податотека", "Медија", "Медиум", "Слика"], | |
"ml": ["പ്രമാണം", "ചി", "മീഡിയ", "പ്ര", "ചിത്രം"], | |
"mn": ["Медиа", "Файл", "Зураг"], | |
"mr": ["चित्र", "मिडिया"], | |
"mrj": ["Медиа", "Файл", "Изображение"], | |
"ms": ["Fail", "Imej"], | |
"mt": ["Midja", "Medja", "Stampa"], | |
"mwl": ["Multimédia", "Fexeiro", "Ficheiro", "Arquivo", "Imagem"], | |
"my": ["ဖိုင်", "မီဒီယာ"], | |
"myv": ["Медия", "Артовкс", "Изображение"], | |
"mzn": ["رسانه", "تصویر", "مهدیا", "مدیا", "پرونده", "رسانهای"], | |
"nah": ["Mēdiatl", "Īxiptli", "Imagen"], | |
"nap": ["Fiùra", "Immagine"], | |
"nds": ["Datei", "Bild"], | |
"nds-nl": ["Ofbeelding", "Afbeelding", "Bestaand"], | |
"ne": ["मीडिया", "चित्र"], | |
"new": ["किपा", "माध्यम"], | |
"nl": ["Bestand", "Afbeelding"], | |
"nn": ["Fil", "Bilde", "Filpeikar"], | |
"no": ["Fil", "Medium", "Bilde"], | |
"nov": [], | |
"nrm": ["Média", "Fichier"], | |
"nso": ["Seswantšho"], | |
"nv": ["Eʼelyaaígíí"], | |
"oc": ["Imatge", "Fichièr", "Mèdia"], | |
"olo": ["Kuva", "Medii", "Failu"], | |
"or": ["ମାଧ୍ୟମ", "ଫାଇଲ"], | |
"os": ["Ныв", "Медиа", "Файл", "Изображение"], | |
"pa": ["ਤਸਵੀਰ", "ਮੀਡੀਆ"], | |
"pcd": ["Média", "Fichier"], | |
"pdc": ["Medium", "Datei", "Bild", "Feil"], | |
"pfl": ["Dadai", "Medium", "Datei", "Bild"], | |
"pi": ["मीडिया", "पटिमा"], | |
"pl": ["Plik", "Grafika"], | |
"pms": ["Figura", "Immagine"], | |
"pnb": ["میڈیا", "تصویر", "فائل"], | |
"pnt": ["Εικόνα", "Αρχείον", "Εικόναν", "Μέσον"], | |
"ps": ["انځور", "رسنۍ", "دوتنه"], | |
"pt": ["Multimédia", "Ficheiro", "Arquivo", "Imagem"], | |
"qu": ["Midya", "Imagen", "Rikcha"], | |
"rm": ["Multimedia", "Datoteca"], | |
"rmy": ["Fişier", "Mediya", "Chitro", "Imagine"], | |
"ro": ["Fişier", "Imagine", "Fișier"], | |
"roa-rup": ["Fişier", "Imagine", "Fișier"], | |
"roa-tara": ["Immagine"], | |
"ru": ["Медиа", "Файл", "Изображение"], | |
"rue": ["Медіа", "Медиа", "Файл", "Изображение", "Зображення"], | |
"rw": ["Dosiye", "Itangazamakuru"], | |
"sa": ["चित्रम्", "माध्यमम्", "सञ्चिका", "माध्यम", "चित्रं"], | |
"sah": ["Миэдьийэ", "Ойуу", "Билэ", "Изображение"], | |
"sat": ["ᱨᱮᱫ", "ᱢᱤᱰᱤᱭᱟ"], | |
"sc": ["Immàgini"], | |
"scn": ["Immagine", "Mmàggini", "Mèdia"], | |
"sd": ["عڪس", "ذريعات", "فائل"], | |
"se": ["Fiila"], | |
"sg": ["Média", "Fichier"], | |
"sh": ["Mediji", "Slika", "Медија", "Datoteka", "Medija", "Слика"], | |
"si": ["රූපය", "මාධ්යය", "ගොනුව"], | |
"sk": ["Súbor", "Obrázok", "Médiá"], | |
"sl": ["Slika", "Datoteka"], | |
"sq": ["Figura", "Skeda"], | |
"sr": ["Датотека", "Medij", "Slika", "Медија", "Datoteka", "Медиј", "Medija", "Слика"], | |
"srn": ["Afbeelding", "Gefre"], | |
"stq": ["Bielde", "Bild"], | |
"su": ["Média", "Gambar"], | |
"sv": ["Fil", "Bild"], | |
"sw": ["Faili", "Picha"], | |
"szl": ["Plik", "Grafika"], | |
"ta": ["படிமம்", "ஊடகம்"], | |
"tcy": ["ಮಾದ್ಯಮೊ", "ಫೈಲ್"], | |
"te": ["ఫైలు", "దస్త్రం", "బొమ్మ", "మీడియా"], | |
"tet": ["Imajen", "Arquivo", "Imagem"], | |
"tg": ["Акс", "Медиа"], | |
"th": ["ไฟล์", "สื่อ", "ภาพ"], | |
"ti": ["ፋይል", "ሜድያ"], | |
"tk": ["Faýl"], | |
"tl": ["Midya", "Talaksan"], | |
"tpi": ["Fail"], | |
"tr": ["Medya", "Resim", "Dosya", "Ortam"], | |
"tt": ["Медиа", "Рәсем", "Файл", "Räsem", "Изображение"], | |
"ty": ["Média", "Fichier"], | |
"tyv": ["Медиа", "Файл", "Изображение"], | |
"udm": ["Медиа", "Файл", "Суред", "Изображение"], | |
"ug": ["ۋاسىتە", "ھۆججەت"], | |
"uk": ["Медіа", "Медиа", "Файл", "Изображение", "Зображення"], | |
"ur": ["میڈیا", "تصویر", "وسیط", "زریعہ", "فائل", "ملف"], | |
"uz": ["Mediya", "Tasvir", "Fayl"], | |
"vec": ["Immagine", "Imàjine", "Mèdia"], | |
"vep": ["Pilt", "Fail"], | |
"vi": ["Phương_tiện", "Tập_tin", "Hình", "Tập tin", "Phương tiện"], | |
"vls": ["Afbeelding", "Ofbeeldienge"], | |
"vo": ["Ragiv", "Magod", "Nünamakanäd"], | |
"wa": ["Imådje"], | |
"war": ["Medya", "Fayl", "Paypay"], | |
"wo": ["Xibaarukaay", "Dencukaay"], | |
"wuu": ["文件", "档案", "图像", "媒体"], | |
"xal": ["Аһар", "Боомг", "Изображение", "Зург"], | |
"xmf": ["მედია", "სურათი", "ფაილი"], | |
"yi": ["מעדיע", "תמונה", "טעקע", "בילד"], | |
"yo": ["Fáìlì", "Amóhùnmáwòrán", "Àwòrán"], | |
"za": ["媒体文件", "文件", "档案", "图像", "媒体"], | |
"zea": ["Afbeelding", "Plaetje"], | |
"zh": ["媒体文件", "F", "文件", "媒體", "档案", "图像", "圖像", "媒体", "檔案"], | |
"zh-classical": ["文件", "媒體", "圖像", "檔案"], | |
"zh-min-nan": ["tóng-àn", "文件", "媒體", "Mûi-thé", "圖像", "檔案"], | |
"zh-yue": ["檔", "档", "文件", "图", "媒體", "圖", "档案", "图像", "圖像", "媒体", "檔案"], | |
} | |
# Source: for each Wikipedia language code (example shown for "ab"), aliases for namespace 14 accessed via this API call: | |
# https://ab.wikipedia.org/w/api.php?action=query&meta=siteinfo&siprop=namespacealiases|namespaces&format=json&formatversion=2 (accessed 12/21/2021) | |
CAT_ALIASES = { | |
"ab": ["Категория", "Акатегориа"], | |
"ace": ["Kawan", "Kategori"], | |
"af": ["Kategorie"], | |
"ak": ["Nkyekyem"], | |
"als": ["Kategorie"], | |
"am": ["መደብ"], | |
"an": ["Categoría"], | |
"ang": ["Flocc"], | |
"ar": ["تصنيف"], | |
"arc": ["ܣܕܪܐ"], | |
"arz": ["تصنيف"], | |
"as": ["CAT", "শ্ৰেণী", "श्रेणी", "শ্রেণী"], | |
"ast": ["Categoría"], | |
"atj": ["Tipanictawin"], | |
"av": ["Категория"], | |
"ay": ["Categoría"], | |
"az": ["Kateqoriya"], | |
"azb": ["بؤلمه"], | |
"ba": ["Төркөм", "Категория"], | |
"bar": ["Kategorie"], | |
"bat-smg": ["Kategorija", "Kateguorėjė"], | |
"bcl": ["Kategorya"], | |
"be": ["Катэгорыя"], | |
"be-x-old": ["Катэгорыя"], | |
"bg": ["Категория"], | |
"bh": ["श्रेणी"], | |
"bjn": ["Tumbung", "Kategori"], | |
"bm": ["Catégorie"], | |
"bn": ["বিষয়শ্রেণী", "വിഭാഗം"], | |
"bpy": ["থাক"], | |
"br": ["Rummad"], | |
"bs": ["Kategorija"], | |
"bug": ["Kategori"], | |
"bxr": ["Категори", "Категория"], | |
"ca": ["Categoria"], | |
"cbk-zam": ["Categoría"], | |
"cdo": ["分類"], | |
"ce": ["Категори", "Тоба", "Кадегар"], | |
"ceb": ["Kategoriya"], | |
"ch": ["Katigoria"], | |
"ckb": ["پ", "پۆل"], | |
"co": ["Categoria"], | |
"crh": ["Категория", "Kategoriya"], | |
"cs": ["Kategorie"], | |
"csb": ["Kategòrëjô"], | |
"cu": ["Катигорї", "Категория", "Катигорїꙗ"], | |
"cv": ["Категори"], | |
"cy": ["Categori"], | |
"da": ["Kategori"], | |
"de": ["Kategorie"], | |
"din": ["Bekätakthook"], | |
"diq": ["Kategoriye", "Kategori"], | |
"dsb": ["Kategorija"], | |
"dty": ["श्रेणी"], | |
"dv": ["ޤިސްމު"], | |
"el": ["Κατηγορία"], | |
"eml": ["Categoria"], | |
"eo": ["Kategorio"], | |
"es": ["CAT", "Categoría"], | |
"et": ["Kategooria"], | |
"eu": ["Kategoria"], | |
"ext": ["Categoría", "Categoria"], | |
"fa": ["رده"], | |
"ff": ["Catégorie"], | |
"fi": ["Luokka"], | |
"fiu-vro": ["Katõgooria"], | |
"fo": ["Bólkur"], | |
"fr": ["Catégorie"], | |
"frp": ["Catègorie"], | |
"frr": ["Kategorie"], | |
"fur": ["Categorie"], | |
"fy": ["Kategory"], | |
"ga": ["Rang", "Catagóir"], | |
"gag": ["Kategori", "Kategoriya"], | |
"gan": ["分類", "分类"], | |
"gd": ["Roinn-seòrsa"], | |
"gl": ["Categoría"], | |
"glk": ["جرگه", "رده"], | |
"gn": ["Ñemohenda"], | |
"gom": ["वर्ग", "श्रेणी"], | |
"gor": ["Dalala"], | |
"got": ["𐌷𐌰𐌽𐍃𐌰"], | |
"gu": ["શ્રેણી", "CAT", "શ્રે"], | |
"gv": ["Ronney"], | |
"hak": ["分類"], | |
"haw": ["Māhele"], | |
"he": ["קטגוריה", "קט"], | |
"hi": ["श्र", "श्रेणी"], | |
"hif": ["vibhag"], | |
"hr": ["CT", "KT", "Kategorija"], | |
"hsb": ["Kategorija"], | |
"ht": ["Kategori"], | |
"hu": ["Kategória"], | |
"hy": ["Կատեգորիա"], | |
"ia": ["Categoria"], | |
"id": ["Kategori"], | |
"ie": ["Categorie"], | |
"ig": ["Ébéonọr", "Òtù"], | |
"ii": ["分类"], | |
"ilo": ["Kategoria"], | |
"inh": ["ОагӀат"], | |
"io": ["Kategorio"], | |
"is": ["Flokkur"], | |
"it": ["CAT", "Categoria"], | |
"ja": ["カテゴリ"], | |
"jbo": ["klesi"], | |
"jv": ["Kategori"], | |
"ka": ["კატეგორია"], | |
"kaa": ["Sanat", "Kategoriya", "Санат", "سانات"], | |
"kab": ["Taggayt"], | |
"kbd": ["Категория", "Категориэ"], | |
"kbp": ["Catégorie"], | |
"kg": ["Kalasi"], | |
"kk": ["Sanat", "Санат", "سانات"], | |
"kl": ["Sumut_atassuseq", "Kategori", "Sumut atassuseq"], | |
"km": ["ចំនាត់ថ្នាក់ក្រុម", "ចំណាត់ក្រុម", "ចំណាត់ថ្នាក់ក្រុម"], | |
"kn": ["ವರ್ಗ"], | |
"ko": ["분류"], | |
"koi": ["Категория"], | |
"krc": ["Категория"], | |
"ks": ["زٲژ"], | |
"ksh": ["Saachjropp", "Saachjrop", "Katejori", "Kategorie", "Saachjrupp", "Kattejori", "Sachjrop"], | |
"ku": ["Kategorî", "پۆل"], | |
"kv": ["Категория"], | |
"kw": ["Class", "Klass"], | |
"ky": ["Категория"], | |
"la": ["Categoria"], | |
"lad": ["Kateggoría", "Katēggoría", "Categoría"], | |
"lb": ["Kategorie"], | |
"lbe": ["Категория"], | |
"lez": ["Категория"], | |
"lfn": ["Categoria"], | |
"li": ["Categorie", "Kategorie"], | |
"lij": ["Categorîa", "Categoria"], | |
"lmo": ["Categuria", "Categoria"], | |
"ln": ["Catégorie"], | |
"lo": ["ໝວດ"], | |
"lrc": ["دأسە"], | |
"lt": ["Kategorija"], | |
"ltg": ["Kategoreja"], | |
"lv": ["Kategorija"], | |
"mai": ["CA", "श्रेणी"], | |
"map-bms": ["Kategori"], | |
"mdf": ["Категорие", "Категория"], | |
"mg": ["Sokajy", "Catégorie"], | |
"mhr": ["Категория", "Категорий"], | |
"min": ["Kategori"], | |
"mk": ["Категорија"], | |
"ml": ["വിഭാഗം", "വി", "വർഗ്ഗം", "വ"], | |
"mn": ["Ангилал"], | |
"mr": ["वर्ग"], | |
"mrj": ["Категори", "Категория"], | |
"ms": ["Kategori"], | |
"mt": ["Kategorija"], | |
"mwl": ["Catadorie", "Categoria"], | |
"my": ["ကဏ္ဍ"], | |
"myv": ["Категория"], | |
"mzn": ["رج", "رده"], | |
"nah": ["Neneuhcāyōtl", "Categoría"], | |
"nap": ["Categurìa", "Categoria"], | |
"nds": ["Kategorie"], | |
"nds-nl": ["Categorie", "Kattegerie", "Kategorie"], | |
"ne": ["श्रेणी"], | |
"new": ["पुचः"], | |
"nl": ["Categorie"], | |
"nn": ["Kategori"], | |
"no": ["Kategori"], | |
"nrm": ["Catégorie"], | |
"nso": ["Setensele"], | |
"nv": ["Tʼááłáhági_átʼéego", "Tʼááłáhági átʼéego"], | |
"oc": ["Categoria"], | |
"olo": ["Kategourii"], | |
"or": ["ବିଭାଗ", "ଶ୍ରେଣୀ"], | |
"os": ["Категори"], | |
"pa": ["ਸ਼੍ਰੇਣੀ"], | |
"pcd": ["Catégorie"], | |
"pdc": ["Abdeeling", "Kategorie"], | |
"pfl": ["Kadegorie", "Sachgrubb", "Kategorie"], | |
"pi": ["विभाग"], | |
"pl": ["Kategoria"], | |
"pms": ["Categorìa"], | |
"pnb": ["گٹھ"], | |
"pnt": ["Κατηγορίαν"], | |
"ps": ["وېشنيزه"], | |
"pt": ["Categoria"], | |
"qu": ["Katiguriya"], | |
"rm": ["Categoria"], | |
"rmy": ["Shopni"], | |
"ro": ["Categorie"], | |
"roa-rup": ["Categorie"], | |
"roa-tara": ["Categoria"], | |
"ru": ["Категория", "К"], | |
"rue": ["Категория", "Катеґорія"], | |
"rw": ["Ikiciro"], | |
"sa": ["वर्गः"], | |
"sah": ["Категория"], | |
"sat": ["ᱛᱷᱚᱠ"], | |
"sc": ["Categoria"], | |
"scn": ["Catigurìa"], | |
"sd": ["زمرو"], | |
"se": ["Kategoriija"], | |
"sg": ["Catégorie"], | |
"sh": ["Kategorija", "Категорија"], | |
"si": ["ප්රවර්ගය"], | |
"sk": ["Kategória"], | |
"sl": ["Kategorija"], | |
"sq": ["Kategoria", "Kategori"], | |
"sr": ["Kategorija", "Категорија"], | |
"srn": ["Categorie", "Guru"], | |
"stq": ["Kategorie"], | |
"su": ["Kategori"], | |
"sv": ["Kategori"], | |
"sw": ["Jamii"], | |
"szl": ["Kategoryjo", "Kategoria"], | |
"ta": ["பகுப்பு"], | |
"tcy": ["ವರ್ಗೊ"], | |
"te": ["వర్గం"], | |
"tet": ["Kategoría", "Kategoria"], | |
"tg": ["Гурӯҳ"], | |
"th": ["หมวดหมู่"], | |
"ti": ["መደብ"], | |
"tk": ["Kategoriýa"], | |
"tl": ["Kategorya", "Kaurian"], | |
"tpi": ["Grup"], | |
"tr": ["Kategori", "KAT"], | |
"tt": ["Төркем", "Törkem", "Категория"], | |
"ty": ["Catégorie"], | |
"tyv": ["Аңгылал", "Категория"], | |
"udm": ["Категория"], | |
"ug": ["تۈر"], | |
"uk": ["Категория", "Категорія"], | |
"ur": ["زمرہ"], | |
"uz": ["Turkum", "Kategoriya"], | |
"vec": ["Categoria"], | |
"vep": ["Kategorii"], | |
"vi": ["Thể_loại", "Thể loại"], | |
"vls": ["Categorie"], | |
"vo": ["Klad"], | |
"wa": ["Categoreye"], | |
"war": ["Kaarangay"], | |
"wo": ["Wàll", "Catégorie"], | |
"wuu": ["分类"], | |
"xal": ["Янз", "Әәшл"], | |
"xmf": ["კატეგორია"], | |
"yi": ["קאטעגאריע", "קאַטעגאָריע"], | |
"yo": ["Ẹ̀ka"], | |
"za": ["分类"], | |
"zea": ["Categorie"], | |
"zh": ["分类", "分類", "CAT"], | |
"zh-classical": ["分類", "CAT"], | |
"zh-min-nan": ["分類", "Lūi-pia̍t"], | |
"zh-yue": ["分类", "分類", "类", "類"], | |
} | |
_BASE_URL_TMPL = "https://dumps.wikimedia.org/{lang}wiki/{date}/" | |
_INFO_FILE = "dumpstatus.json" | |
_VERSION = datasets.Version("2.0.0", "") | |
class WikipediaConfig(datasets.BuilderConfig): | |
"""BuilderConfig for Wikipedia.""" | |
def __init__(self, language=None, date=None, version=_VERSION, **kwargs): | |
"""BuilderConfig for Wikipedia. | |
Args: | |
language: string, the language code for the Wikipedia dump to use. | |
date: string, date of the Wikipedia dump in YYYYMMDD format. A list of | |
available dates can be found at https://dumps.wikimedia.org/enwiki/. | |
**kwargs: keyword arguments forwarded to super. | |
""" | |
super().__init__( | |
name=f"{date}.{language}", | |
description=f"Wikipedia dataset for {language}, parsed from {date} dump.", | |
version=version, | |
**kwargs, | |
) | |
self.date = date | |
self.language = language | |
_DATE = "20220301" | |
PROCESSED_CONFIG_TO_NUM_SHARDS = { | |
"20220301.de": 18, | |
"20220301.en": 41, | |
"20220301.fr": 15, | |
"20220301.frr": 1, | |
"20220301.it": 10, | |
"20220301.simple": 1, | |
} | |
class Wikipedia(datasets.ArrowBasedBuilder): | |
"""Wikipedia dataset.""" | |
# Use mirror (your.org) to avoid download caps. | |
BUILDER_CONFIG_CLASS = WikipediaConfig | |
BUILDER_CONFIGS = [ | |
WikipediaConfig( | |
language=lang, | |
date=_DATE, | |
) # pylint:disable=g-complex-comprehension | |
for lang in WIKIPEDIA_LANGUAGES | |
] | |
BATCH_SIZE = 1000 | |
def _info(self): | |
return datasets.DatasetInfo( | |
description=_DESCRIPTION, | |
features=datasets.Features( | |
{ | |
"id": datasets.Value("string"), | |
"url": datasets.Value("string"), | |
"title": datasets.Value("string"), | |
"text": datasets.Value("string"), | |
} | |
), | |
# No default supervised_keys. | |
supervised_keys=None, | |
homepage="https://dumps.wikimedia.org", | |
citation=_CITATION, | |
license=_LICENSE, | |
) | |
def _split_generators(self, dl_manager): | |
if self.config.name in PROCESSED_CONFIG_TO_NUM_SHARDS: | |
num_shards = PROCESSED_CONFIG_TO_NUM_SHARDS[self.config.name] | |
parquet_urls = [ | |
os.path.join("data", self.config.name, f"train-{i:05d}-of-{num_shards:05d}.parquet") | |
for i in range(num_shards) | |
] | |
# Use dictionary since testing mock always returns the same result. | |
downloaded_files = dl_manager.download({"parquet": parquet_urls}) | |
files = downloaded_files["parquet"] | |
is_processed = True | |
else: | |
def _base_url(lang): | |
return _BASE_URL_TMPL.format(lang=lang.replace("-", "_"), date=self.config.date) | |
lang = self.config.language | |
info_url = _base_url(lang) + _INFO_FILE | |
# Use dictionary since testing mock always returns the same result. | |
downloaded_files = dl_manager.download_and_extract({"info": info_url}) | |
xml_urls = [] | |
total_bytes = 0 | |
with open(downloaded_files["info"], encoding="utf-8") as f: | |
dump_info = json.load(f) | |
multistream_dump_info = dump_info["jobs"]["articlesmultistreamdump"] | |
assert ( | |
multistream_dump_info["status"] == "done" | |
), "Specified dump (%s) multistream status is not 'done': %s" % ( | |
_base_url(lang), | |
multistream_dump_info["status"], | |
) | |
for fname, info in multistream_dump_info["files"].items(): | |
if ".xml" not in fname: | |
continue | |
total_bytes += info["size"] | |
xml_urls.append(_base_url(lang) + fname) | |
# Use dictionary since testing mock always returns the same result. | |
downloaded_files = dl_manager.download({"xml": xml_urls}) | |
files = downloaded_files["xml"] | |
is_processed = False | |
return [ | |
datasets.SplitGenerator( # pylint:disable=g-complex-comprehension | |
name=datasets.Split.TRAIN, gen_kwargs={"files": files, "is_processed": is_processed} | |
) | |
] | |
def _generate_tables(self, files, is_processed): | |
if is_processed: | |
batch_idx = 0 | |
for file in files: | |
with open(file, "rb") as f: | |
f = pq.ParquetFile(f) | |
for batch in f.iter_batches(batch_size=self.BATCH_SIZE): | |
yield batch_idx, pa.Table.from_batches([batch]) | |
batch_idx += 1 | |
else: | |
batch = [] | |
batch_idx = 0 | |
for file in files: | |
logger.info("generating examples from = %s", file) | |
for content in _extract_content(file): | |
example = _clean_content(content, self.config.language) | |
if example is None: | |
continue | |
batch.append(example) | |
if len(batch) >= self.BATCH_SIZE: | |
pa_table = pa.Table.from_pylist(batch) | |
yield batch_idx, pa_table | |
batch = [] | |
batch_idx += 1 | |
if batch: | |
pa_table = pa.Table.from_pylist(batch) | |
yield batch_idx, pa_table | |
def _extract_content(file): | |
"""Extracts article content from a single WikiMedia XML file.""" | |
print("Extracting content from", file) | |
with open(file, "rb") as f: | |
f = bz2.BZ2File(filename=f) | |
# Workaround due to: https://github.com/tensorflow/tensorflow/issues/33563 | |
utf_f = codecs.getreader("utf-8")(f) | |
context = etree.iterparse(utf_f, events=("end",)) | |
for unused_event, elem in context: | |
if not elem.tag.endswith("page"): | |
continue | |
namespace = elem.tag[:-4] | |
title = elem.find(f"./{namespace}title").text | |
ns = elem.find(f"./{namespace}ns").text | |
id_ = elem.find(f"./{namespace}id").text | |
red_ = elem.find(f"./{namespace}redirect") | |
# Filter pages that are not in the "main" namespace. | |
if ns != "0": | |
elem.clear() | |
continue | |
raw_content = elem.find(f"./{namespace}revision/{namespace}text").text | |
elem.clear() | |
# Filter redirects. | |
if raw_content is None or red_ is not None: | |
continue | |
yield id_, title, raw_content | |
def _parse_and_clean_wikicode(raw_content, parser, language): | |
"""Strips formatting and unwanted sections from raw page content.""" | |
wikicode = parser.parse(raw_content) | |
# Filters for magic words that are parser instructions -- e.g., __NOTOC__ | |
re_rm_magic = re.compile("__[A-Z]*__", flags=re.UNICODE) | |
# Filters for file/image links. | |
media_prefixes = "|".join(["File", "Image", "Media"] + MEDIA_ALIASES.get(language, [])) | |
re_rm_wikilink = re.compile(f"^(?:{media_prefixes}):", flags=re.IGNORECASE | re.UNICODE) | |
def rm_wikilink(obj): | |
return bool(re_rm_wikilink.match(str(obj.title))) | |
# Filters for references and tables | |
def rm_tag(obj): | |
return str(obj.tag) in {"ref", "table"} | |
# Leave category links in-place but remove the category prefixes | |
cat_prefixes = "|".join(["Category"] + CAT_ALIASES.get(language, [])) | |
re_clean_wikilink = re.compile(f"^(?:{cat_prefixes}):", flags=re.IGNORECASE | re.UNICODE) | |
def is_category(obj): | |
return bool(re_clean_wikilink.match(str(obj.title))) | |
def clean_wikilink(obj): | |
text = obj.__strip__() | |
text = re.sub(re_clean_wikilink, "", text) | |
obj.text = text | |
def try_replace_obj(obj): | |
try: | |
clean_wikilink(obj) | |
except ValueError: | |
# For unknown reasons, objects are sometimes not found. | |
pass | |
def try_remove_obj(obj, section): | |
try: | |
section.remove(obj) | |
except ValueError: | |
# For unknown reasons, objects are sometimes not found. | |
pass | |
section_text = [] | |
# Filter individual sections to clean. | |
for section in wikicode.get_sections(flat=True, include_lead=True, include_headings=True): | |
for obj in section.ifilter_wikilinks(recursive=True): | |
if rm_wikilink(obj): | |
try_remove_obj(obj, section) | |
elif is_category(obj): | |
try_replace_obj(obj) | |
for obj in section.ifilter_tags(matches=rm_tag, recursive=True): | |
try_remove_obj(obj, section) | |
section_text.append(re.sub(re_rm_magic, "", section.strip_code().strip())) | |
return "\n\n".join(section_text) | |
def _construct_url(title, language): | |
# See: https://meta.wikimedia.org/wiki/Help:URL | |
return f"https://{language}.wikipedia.org/wiki/{quote(title)}" | |
def _clean_content(inputs, language): | |
"""Cleans raw wikicode to extract text.""" | |
import mwparserfromhell | |
id_, title, raw_content = inputs | |
try: | |
text = _parse_and_clean_wikicode(raw_content, parser=mwparserfromhell, language=language) | |
except (mwparserfromhell.parser.ParserError) as e: | |
logger.error("mwparserfromhell ParseError: %s", e) | |
return | |
if not text: | |
return | |
url = _construct_url(title, language) | |
return {"id": id_, "url": url, "title": title, "text": text} |