Datasets:

raj2708
/

wikipedia-pt

id stringlengths 36 36	source stringclasses 1 value	type stringclasses 1 value	language stringclasses 1 value	text stringlengths 500 461k	metadata dict
1d5e8140-fb99-4914-b4ad-e15d53a0e385	wikipedia_pt	text	pt	thumb\|Formação estrelar na Grande Nuvem de Magalhães, uma galáxia irregular. thumb\|Mosaico da Nebulosa do Caranguejo, remanescente de uma supernova. Astronomia é uma ciência natural que estuda corpos celestes (como estrelas, planetas, cometas, nebulosas, aglomerados de estrelas, galáxias) e fenômenos que se originam fo...	{ "url": "https://pt.wikipedia.org/wiki/Astronomia", "title": "Astronomia", "license": "CC-BY-SA-4.0", "scraped_at": "2026-05-28T14:00:31.496960+00:00", "quality_score": 0.958, "token_count": 4834, "word_count": 3626 }
c73dc2db-6741-4f7b-910c-f4f760c853fb	wikipedia_pt	text	pt	América Latina (; ) é uma região do continente americano que engloba os países onde são faladas, primordialmente, línguas românicas (derivadas do latim) — no caso, o espanhol, o português e o francês — visto que, historicamente, a região foi maioritariamente dominada pelos impérios coloniais europeus Espanhol e Portugu...	{ "url": "https://pt.wikipedia.org/wiki/América_Latina", "title": "América Latina", "license": "CC-BY-SA-4.0", "scraped_at": "2026-05-28T14:00:31.496960+00:00", "quality_score": 0.9413, "token_count": 15765, "word_count": 11824 }
78bcd9d4-2651-401e-9c50-a2ad88e33378	wikipedia_pt	text	pt	Albino Maria Pereira Forjaz de Sampaio (Lisboa, 19 de Janeiro de 1884 — Lisboa, 13 de Março de 1949) foi um escritor e bibliógrafo português, autor de um dos livros mais vendidos em Portugal durante o século XX, Palavras Cínicas, lançado em 1905, que à morte do autor tinha já 46 edições. Início de carreira Albino Fo...	{ "url": "https://pt.wikipedia.org/wiki/Albino_Forjaz_de_Sampaio", "title": "Albino Forjaz de Sampaio", "license": "CC-BY-SA-4.0", "scraped_at": "2026-05-28T14:00:31.496960+00:00", "quality_score": 0.9395, "token_count": 2992, "word_count": 2244 }
7c8f1b85-2c2a-43b0-9445-2fd7bb1ef4a0	wikipedia_pt	text	pt	thumb\|260px\|Dionísio, o Exíguo, monge cita (m. 540), foi o primeiro a utilizar o ano do nascimento de Cristo como referência na datação. Anno Domini (A.D.) é uma expressão em latim que significa "no ano do Senhor" e é utilizada para marcar os anos seguintes ao ano 1 do calendário mais comumente utilizado no Ocidente, d...	{ "url": "https://pt.wikipedia.org/wiki/Anno_Domini", "title": "Anno Domini", "license": "CC-BY-SA-4.0", "scraped_at": "2026-05-28T14:00:31.496960+00:00", "quality_score": 0.9337, "token_count": 2804, "word_count": 2103 }
34e4a989-a368-4bac-8b5d-35490062f298	wikipedia_pt	text	pt	Aquiles (), na mitologia grega, foi um herói da Grécia, um dos participantes da Guerra de Troia e o protagonista e maior guerreiro da Ilíada, de Homero. Aquiles tem ainda a característica de ser loiro e o mais belo dos heróis reunidos contra Troia,Platão, Simpósio, 180a assim como o melhor entre eles. A figura de Aqui...	{ "url": "https://pt.wikipedia.org/wiki/Aquiles", "title": "Aquiles", "license": "CC-BY-SA-4.0", "scraped_at": "2026-05-28T14:00:31.496960+00:00", "quality_score": 0.9314, "token_count": 8350, "word_count": 6263 }
462918f0-7d2c-4146-a871-2c862eb1cf10	wikipedia_pt	text	pt	"Anarcocapitalismo (coloquialmente: ancap) é uma ideologia política e teoria econômica libertári(...TRUNCATED)	{"url":"https://pt.wikipedia.org/wiki/Anarcocapitalismo","title":"Anarcocapitalismo","license":"CC-B(...TRUNCATED)
b8062061-3d1c-48bc-b8cf-6f7d32405667	wikipedia_pt	text	pt	"Anarquismo é uma ideologia política que se opõe a toda e qualquer forma de opressão, hierarquia(...TRUNCATED)	{"url":"https://pt.wikipedia.org/wiki/Anarquismo","title":"Anarquismo","license":"CC-BY-SA-4.0","scr(...TRUNCATED)
e25e7978-2209-4d42-82a8-08224b140ad0	wikipedia_pt	text	pt	"Albert Einstein (Ulm, 14 de março de 1879 – Princeton, 18 de abril de 1955) foi um físico teór(...TRUNCATED)	{"url":"https://pt.wikipedia.org/wiki/Albert_Einstein","title":"Albert Einstein","license":"CC-BY-SA(...TRUNCATED)
41270e6b-4639-4161-84d6-3c79383fad85	wikipedia_pt	text	pt	"thumb\|350px\|Temperaturas globais na década de 1880 e 1980, comparadas à média no período entre (...TRUNCATED)	{"url":"https://pt.wikipedia.org/wiki/Aquecimento_global","title":"Aquecimento global","license":"CC(...TRUNCATED)
32caca1a-3b00-470e-ac02-88a034911699	wikipedia_pt	text	pt	"Públio Élio Adriano (; 24 de janeiro de 76 — 10 de julho de 138), também designado como Hadria(...TRUNCATED)	{"url":"https://pt.wikipedia.org/wiki/Adriano","title":"Adriano","license":"CC-BY-SA-4.0","scraped_a(...TRUNCATED)

End of preview. Expand in Data Studio

Wikipedia Portuguese — Preprocessed

A clean, preprocessed version of the Portuguese Wikipedia dump, ready for LLM pretraining.

Stats

Field	Value
Language	Portuguese (pt)
Total size	4.0 GB
License	CC-BY-SA 4.0
Source	pt.wikipedia.org
Dump date	May 2026

Processing Steps

Downloaded full Portuguese Wikipedia XML BZ2 dump
Parsed articles using mwparserfromhell — wikitext → plain text
Filtered redirects and short articles
Cleaned — removed templates, file/image links, excessive whitespace
Quality scored based on punctuation ratio

Format

{
  "id": "uuid-v4",
  "source": "wikipedia_pt",
  "type": "text",
  "language": "pt",
  "text": "Article text...",
  "metadata": {
    "url": "https://pt.wikipedia.org/wiki/Title",
    "title": "Article Title",
    "license": "CC-BY-SA-4.0",
    "scraped_at": "2026-05-29T00:00:00+00:00",
    "quality_score": 0.95,
    "token_count": 512,
    "word_count": 384
  }
}

Usage

from datasets import load_dataset

ds = load_dataset("raj2708/wikipedia-pt", split="train", streaming=True)
for row in ds:
    print(row["metadata"]["title"])
    print(row["text"][:300])
    break

Downloads last month: -