Tralalabs/The-Iberiapedia-Pile

---EN---

The Iberiapedia Pile

The Iberiapedia Pile is a multilingual Wikipedia dataset focused on the Iberian Peninsula and closely related languages.

Languages

Language	Code
Spanish	es
Portuguese	pt
Catalan	ca
Galician	gl
Basque	eu

Source

All content originates from Wikimedia Wikipedia snapshots:

• 20231101.es
• 20231101.pt
• 20231101.ca
• 20231101.gl
• 20231101.eu

Dataset Structure

Fields:

• url : Wikipedia article URL
• title : Article title
• text : Main article text
• language : Language code

Example:

{
  "url": "...",
  "title": "...",
  "text": "...",
  "language": "es"
}

Statistics

• Total rows: 4,307,249
• File format: Parquet
• Compression: Zstandard (ZSTD)
• Languages: 5

Intended Uses

• Language model pretraining
• Multilingual research
• Tokenizer training
• Cross-lingual transfer learning
• Educational NLP experiments

Notes

This dataset is a repackaging of Wikimedia Wikipedia content. Users should follow Wikimedia licensing requirements when redistributing derived works.

License

Please refer to Wikimedia licensing information for the original content. ---ES---

The Iberiapedia Pile

Descripción

The Iberiapedia Pile es un conjunto de datos multilingüe compuesto por artículos de Wikipedia de varias lenguas de la Península Ibérica. El objetivo del proyecto es proporcionar una fuente de texto limpia y de alta calidad para el entrenamiento de modelos de lenguaje, tokenizadores y tareas de investigación en PLN (Procesamiento del Lenguaje Natural).

Idiomas incluidos

Idioma	Código
Español	es
Portugués	pt
Catalán	ca
Gallego	gl
Euskera	eu

Origen de los datos

Todos los artículos proceden de instantáneas oficiales de Wikimedia Wikipedia:

• 20231101.es
• 20231101.pt
• 20231101.ca
• 20231101.gl
• 20231101.eu

Estructura

Cada fila contiene los siguientes campos:

Campo	Descripción
url	URL del artículo
title	Título del artículo
text	Texto completo del artículo
language	Código del idioma

Ejemplo

{
  "url": "https://es.wikipedia.org/wiki/España",
  "title": "España",
  "text": "España, oficialmente Reino de España...",
  "language": "es"
}

Estadísticas

• Filas totales: 4.307.249
• Formato: Parquet
• Compresión: ZSTD
• Idiomas: 5

Casos de uso

• Preentrenamiento de modelos de lenguaje
• Entrenamiento de tokenizadores
• Investigación multilingüe
• Aprendizaje cruzado entre idiomas
• Experimentos educativos de PLN
• Evaluación de modelos multilingües

Ventajas

• Datos escritos por humanos
• Cobertura enciclopédica amplia
• Múltiples idiomas ibéricos
• Formato eficiente para entrenamiento
• Fácil integración con Hugging Face Datasets

Licencia

Este conjunto de datos se deriva de contenido de Wikipedia y se distribuye bajo los términos de la licencia CC BY-SA 4.0.

Los usuarios deben respetar los requisitos de atribución y compartición bajo la misma licencia establecidos por Wikimedia y los autores originales.

Descargo de responsabilidad

Este repositorio no está afiliado con Wikimedia Foundation. El contenido original pertenece a sus respectivos autores y colaboradores.

Autor

Creado por Tralalabs para investigación, entrenamiento de modelos de lenguaje y proyectos educativos relacionados con IA y PLN. ---PT---

The Iberiapedia Pile

Descrição

The Iberiapedia Pile é um conjunto de dados multilíngue composto por artigos da Wikipédia em várias línguas da Península Ibérica. O objetivo do projeto é fornecer uma fonte de texto limpa e de alta qualidade para o treinamento de modelos de linguagem, tokenizadores e pesquisas em PLN (Processamento de Linguagem Natural).

Idiomas incluídos

Idioma	Código
Espanhol	es
Português	pt
Catalão	ca
Galego	gl
Basco	eu

Origem dos dados

Todos os artigos foram obtidos de snapshots oficiais da Wikimedia Wikipédia:

• 20231101.es
• 20231101.pt
• 20231101.ca
• 20231101.gl
• 20231101.eu

Estrutura

Cada linha contém os seguintes campos:

Campo	Descrição
url	URL do artigo
title	Título do artigo
text	Texto completo do artigo
language	Código do idioma

Exemplo

{
  "url": "https://pt.wikipedia.org/wiki/Portugal",
  "title": "Portugal",
  "text": "Portugal, oficialmente República Portuguesa...",
  "language": "pt"
}

Estatísticas

• Total de linhas: 4.307.249
• Formato: Parquet
• Compressão: ZSTD
• Idiomas: 5

Casos de uso

• Pré-treinamento de modelos de linguagem
• Treinamento de tokenizadores
• Pesquisa multilíngue
• Transferência de conhecimento entre idiomas
• Experimentos educacionais em PLN
• Avaliação de modelos multilíngues

Vantagens

• Conteúdo escrito por humanos
• Cobertura enciclopédica ampla
• Múltiplos idiomas ibéricos
• Formato eficiente para treinamento
• Fácil integração com Hugging Face Datasets

Licença

Este conjunto de dados é derivado de conteúdo da Wikipédia e é distribuído sob os termos da licença CC BY-SA 4.0.

Os usuários devem respeitar os requisitos de atribuição e compartilhamento sob a mesma licença definidos pela Wikimedia e pelos autores originais.

Aviso

Este repositório não é afiliado à Wikimedia Foundation. O conteúdo original pertence aos seus respectivos autores e colaboradores.

Autor

Criado por Tralalabs para pesquisa, treinamento de modelos de linguagem e projetos educacionais relacionados à IA e ao PLN. ---CA---

The Iberiapedia Pile

Descripció

The Iberiapedia Pile és un conjunt de dades multilingüe format per articles de la Viquipèdia en diverses llengües de la Península Ibèrica. L'objectiu del projecte és proporcionar una font de text neta i d'alta qualitat per a l'entrenament de models de llenguatge, tokenitzadors i investigació en PLN (Processament del Llenguatge Natural).

Llengües incloses

• Espanyol (es)
• Portuguès (pt)
• Català (ca)
• Gallec (gl)
• Basc (eu)

Estructura

Cada fila conté els camps següents:

• url: URL de l'article
• title: Títol de l'article
• text: Text complet de l'article
• language: Codi de la llengua

Estadístiques

• Total de files: 4.307.249
• Format: Parquet
• Compressió: ZSTD
• Llengües: 5

Casos d'ús

• Preentrenament de models de llenguatge
• Entrenament de tokenitzadors
• Investigació multilingüe
• Experiments de PLN
• Avaluació de models multilingües

Llicència

Aquest conjunt de dades deriva de contingut de la Viquipèdia i es distribueix sota la llicència CC BY-SA 4.0. ---GALEGO---

The Iberiapedia Pile

Descrición

The Iberiapedia Pile é un conxunto de datos multilingüe composto por artigos da Wikipedia en varias linguas da Península Ibérica. O obxectivo do proxecto é proporcionar unha fonte de texto limpa e de alta calidade para o adestramento de modelos de linguaxe, tokenizadores e investigación en PLN (Procesamento da Linguaxe Natural).

Linguas incluídas

• Español (es)
• Portugués (pt)
• Catalán (ca)
• Galego (gl)
• Éuscaro (eu)

Estrutura

Cada fila contén os seguintes campos:

• url: URL do artigo
• title: Título do artigo
• text: Texto completo do artigo
• language: Código da lingua

Estatísticas

• Filas totais: 4.307.249
• Formato: Parquet
• Compresión: ZSTD
• Linguas: 5

Casos de uso

• Preadestramento de modelos de linguaxe
• Adestramento de tokenizadores
• Investigación multilingüe
• Experimentos de PLN
• Avaliación de modelos multilingües

Licenza

Este conxunto de datos deriva de contido da Wikipedia e distribúese baixo a licenza CC BY-SA 4.0. ---EUSKARA---

The Iberiapedia Pile

Deskribapena

The Iberiapedia Pile Iberiar Penintsulako hainbat hizkuntzatako Wikipediako artikuluez osatutako datu multzo eleaniztuna da. Proiektuaren helburua hizkuntza-ereduak, tokenizatzaileak eta HNP (Hizkuntzaren Prozesamendu Naturala) ikerketak trebatzeko kalitate handiko testu-iturri garbi bat eskaintzea da.

Barne hartutako hizkuntzak

• Gaztelania (es)
• Portugesa (pt)
• Katalana (ca)
• Galegoa (gl)
• Euskara (eu)

Egitura

Errenkada bakoitzak honako eremu hauek ditu:

• url: Artikuluaren URLa
• title: Artikuluaren izenburua
• text: Artikuluaren testu osoa
• language: Hizkuntza-kodea

Estatistikak

• Guztira errenkadak: 4.307.249
• Formatua: Parquet
• Konpresioa: ZSTD
• Hizkuntzak: 5

Erabilera-kasuak

• Hizkuntza-ereduen aurreentrenamendua
• Tokenizatzaileen entrenamendua
• Ikerketa eleanitza
• HNP esperimentuak
• Eredu eleanitzen ebaluazioa

Lizentzia

Datu multzo hau Wikipediako edukitik eratorria da eta CC BY-SA 4.0 lizentziapean banatzen da.