orlowf/gaia-edu-corpus-clean

GAIA-EDU Corpus Clean (silver)

TL;DR

Corpus educacional brasileiro (PT-BR), camada silver do pipeline GAIA Task 02: um documento por linha, texto extraído e normalizado a partir de 9 fontes públicas, schema fixo de 22 colunas com proveniência completa. 4872 documentos no total. Esta camada é o insumo do corpus gold (chunks para RAG, orlowf/gaia-edu-corpus-rag), publicado separadamente.

Camadas do pipeline

┌─────────────┐      ┌──────────────┐      ┌─────────────┐
│   BRONZE    │ ───▶ │    SILVER    │ ───▶ │     GOLD    │
│ PDFs/HTML/  │      │ (este repo)  │      │ chunks, 27  │
│ JSONL brutos│      │ 1 doc/linha  │      │ colunas,    │
│ (recoleta   │      │ 22 colunas   │      │ linhagem    │
│  pública +  │      │ proveniência │      │ char-level  │
│  Drive)     │      │ completa     │      │             │
└─────────────┘      └──────────────┘      └─────────────┘

Schema (22 colunas)

Coluna	Tipo	Descrição
doc_id	string	Identificador determinístico do documento ({source}:{slug}-{hash})
source	string	Fonte de origem (ex.: enem, bncc, wikilivros)
doc_type	string	Tipo de documento na fonte (questao, habilidade, livro, verbete, redacao, tema, resumo, ...)
parent_doc_id	string|null	doc_id do documento pai, quando aplicável (ex.: redação → tema)
text_md	string	Texto extraído e normalizado, em Markdown
titulo	string|null	Título do documento
autor	string|null	Autor, quando aplicável
ano	int|null	Ano de publicação/aplicação
materia	string|null	Matéria/disciplina, quando aplicável
nivel	string	Nível de ensino (fundamental, medio, superior, geral)
url	string|null	URL de origem, quando aplicável
licenca	string	Identificador da licença/fonte legal do conteúdo
origem_arquivo	string|null	Caminho do arquivo bronze de origem
origem_drive_path	string|null	Caminho no Google Drive do projeto, quando aplicável
origem_sha256	string|null	sha256 do arquivo bronze de origem
origem_url	string|null	URL de coleta do arquivo bronze
extracao_ferramenta	string	Ferramenta/ingestor usado na extração
extracao_versao	string	Versão da ferramenta/ingestor
extracao_data	string	Data da extração (ISO)
extracao_avisos	list[string]	Avisos de qualidade registrados durante a extração
n_chars	int32	Nº de caracteres de text_md
extra	string	JSON com campos específicos da fonte (ex.: alternativas, habilidades)

Fontes

Fonte	Docs	Licença	Extrator	Versão	Ressalvas
aes-enem	615	apache-2.0 (upstream kamel-usp/aes_enem_dataset)	ingest-aes-enem	0.1.0	—
bluex	812	upstream BLUEX (arXiv:2307.05410)	ingest-bluex	0.1.0	—
bncc	3	gov-br	ingest-bncc-pdf-oficial	0.1.0	1523 habilidades íntegras, reconstruídas dos PDFs oficiais do MEC
dominio-publico	413	dominio-publico	text-cleanup-jsonl-drive	0.1.0	Limpo de ruído de OCR na origem (fallback JSONL do Drive, Cloudflare bloqueia os PDFs)
enem	763	inep-gov-br	ingest-enem-questoes	0.1.0	47 questões excluídas por corrupção residual não reparável (ver enem_excluidas no manifest.json)
gutenberg-pt	49	gutenberg-license	ingest-gutenberg	0.1.0	1 obra de referência (dicionário) excluída da curadoria
obmep	18	obmep-org-br	router(docling+docling-ocr)	0.1.0	—
scielo	199	cc-by-4.0	ingest-scielo	0.1.0	—
wikilivros	2000	cc-by-sa-4.0	ingest-wikilivros	0.1.0	Recoletado via API MediaWiki (wikitext + HTML)

Proveniência

• Repositório do pipeline: task02 (local, commit c156768).
• Inventário do bronze (hash sha256 por arquivo): bronze_inventory.jsonl, incluído neste repositório.
• Corpus antigo (v1, referência): CEIA-GAIA-EDU/gaia-edu-corpus-rag @ sha f6c9afe5f4b71776b6369f40189f39eab54b94a0 (pinado, ver reports/decisoes.md).

Como carregar

import pandas as pd

# Uma fonte específica, na versão publicada:
df = pd.read_parquet(
    "hf://datasets/orlowf/gaia-edu-corpus-clean@v1.0.0/data/enem/train.parquet"
)

# Todas as fontes de uma vez (config "all"):
from datasets import load_dataset
ds = load_dataset("orlowf/gaia-edu-corpus-clean", "all", revision="v1.0.0")

Changelog

• v1.0.0 (2026-07-03): release inicial — 9 fontes, 4872 documentos.

Validação

• Gate de qualidade do silver: 0 hard fails (glifo/ctrl/FFFD, fill-rate, unicidade de doc_id, contagem mínima por fonte). Detalhes em reports/relatorio_task02.md.
• Extração validada por amostragem humana (protocolo em validation/, preenchimento pendente no momento desta publicação).

Limitações

• LUME/UFRGS ausente — o servidor da UFRGS retornou HTTP 502 em teste amostral; 0 documentos coletados nesta versão.
• 47 questões do ENEM excluídas por corrupção residual não reparável no texto de origem (glifo url-safe, caractere de controle ou U+FFFD) — lista completa de doc_id em manifest.json (enem_excluidas), concentradas na prova de 2021.
• SciELO: apenas abstracts (resumos), não o artigo completo.
• Contextual retrieval: campo contexto não gerado nesta camada (experimento controlado feito só no gold, sobre amostra).

Citações

Se você usar as fontes aes-enem ou bluex deste corpus, cite também os trabalhos originais:

@misc{aes_enem_kamel_usp,
  title = {AES-ENEM Dataset},
  author = {kamel-usp},
  howpublished = {Hugging Face Hub},
  url = {https://huggingface.co/datasets/kamel-usp/aes_enem_dataset}
}

@misc{bluex2023,
  title = {BLUEX: A benchmark based on Brazilian Leading Universities Entrance eXams},
  author = {Almeida, Thales Sales and Abonizio, Hugo and Nogueira, Rodrigo and Pires, Ramon},
  year = {2023},
  eprint = {2307.05410},
  archivePrefix = {arXiv}
}