orlowf/gaia-edu-corpus-rag

GAIA-EDU Corpus RAG (gold) v2

TL;DR

Corpus educacional brasileiro (PT-BR) pronto para RAG (Retrieval-Augmented Generation) — camada gold do pipeline GAIA Task 02: chunks sentence-aware com metadados completos e linhagem char-level até o documento de origem (camada silver, orlowf/gaia-edu-corpus-clean). 53142 chunks, 9 fontes.

Schema (27 colunas)

Coluna	Tipo	Descrição
chunk_id	string	{doc_id}#c{index:04d}
doc_id	string	doc_id do documento de origem (silver)
chunk_index	int	Índice do chunk dentro do documento
parent_chunk_id	string|null	Chunk pai, quando aplicável
chunk_type	string	conteudo|texto_base|questao|tema|redacao|habilidade|secao|exercicio|solucao|poesia|resumo
header	string	Cabeçalho determinístico (fonte/matéria/nível/título/seção)
body	string	Corpo do chunk
texto	string	header + "\n\n" + body — campo embeddável; n_tokens conta sobre ele
contexto	string|null	Contexto gerado por LLM (experimento controlado, amostra só)
secao_path	string|null	Caminho de heading, unido por " > "
char_start	int|null	Offset inicial do body no text_md do doc de origem
char_end	int|null	Offset final do body no text_md do doc de origem
n_tokens	int	Nº de tokens de texto (tokenizer BAAI/bge-m3)
tokenizer	string	BAAI/bge-m3
n_chars	int	Nº de caracteres de texto
overlap_prev_tokens	int	Overlap com o chunk anterior (0 em atômicos)
source	string	Fonte de origem
titulo_obra	string|null	Título do documento de origem
autor	string|null	Autor, quando aplicável
ano	int|null	Ano, quando aplicável
materia	string|null	Matéria/disciplina, quando aplicável
nivel	string	Nível de ensino
url	string|null	URL de origem, quando aplicável
licenca	string	Identificador da licença/fonte legal
estrategia	string	Estratégia de chunking aplicada (configs/chunking.yaml)
flags	list[string]	Flags de QA (ex.: oversized_atomic, atomico_curto, orphan_kept)
pipeline_version	string	Short SHA do commit que gerou o chunk

Fontes

Fonte	Docs	Chunks	Estratégia de chunking	p50 tokens
aes-enem	614	667	redacao-atomica	465
bluex	812	812	questao-atomica	347
bncc	3	1523	habilidade-atomica	91
dominio-publico	412	25108	md-sent-600-o80	576
enem	763	774	questao-atomica	305
gutenberg-pt	49	11323	md-sent-600-o80	557
obmep	18	2178	estrutural-fallback-md-sent-600-o80	248
scielo	195	196	resumo-atomico	193
wikilivros	1999	10561	secao-o50	323

Linhagem

• Documento de origem: orlowf/gaia-edu-corpus-clean @ tag v1.0.0.
• Offsets char-level (char_start/char_end) permitem rastrear qualquer chunk de volta ao trecho exato do text_md do documento silver correspondente.
• chunk_id é determinístico: {doc_id}#c{index:04d}.

Comparação v1 (baseline) vs v2 (gold atual)

Check	Baseline v1	Gold v2
Total de chunks	8135	53142
HARD FAILS	7/14	0/14
1. Glifos url-safe no corpo	FALHOU	OK
2. TOC pontilhado¹	FALHOU	OK (allowlist de 7 chunks)
4. Hifenização quebrada	FALHOU	OK
5. Caracteres de controle	FALHOU	OK
8. Duplicatas pós-dedup	FALHOU	OK
9. n_tokens > 768 fora de atômico	FALHOU	OK
12. Metadados obrigatórios 100%	FALHOU	OK

¹ Nota metodológica obrigatória: o check 2 (TOC pontilhado) no baseline foi medido com uma régua sem âncora (regex sem exigir número de página no fim da linha), enquanto o gold atual usa uma régua ancorada. As duas medições não usam a mesma régua — a melhoria ilustra a direção da correção, mas não é uma comparação estritamente apples-to-apples.

Como carregar

import pandas as pd

df = pd.read_parquet(
    "hf://datasets/orlowf/gaia-edu-corpus-rag@v2.0.0/data/enem.parquet"
)

from datasets import load_dataset
ds = load_dataset("orlowf/gaia-edu-corpus-rag", revision="v2.0.0")

Changelog

• v2.0.0 (2026-07-03): re-extração com roteamento OCR/text-layer por página, re-chunking sentence-aware com metadados completos — 53142 chunks (vs. 8135 no v1), 0/14 hard fails no gate (vs. 7/14 no v1).
• v1.0.0: corpus antigo, pinado como referência em CEIA-GAIA-EDU/gaia-edu-corpus-rag @ sha f6c9afe5f4b71776b6369f40189f39eab54b94a0.

Limitações

• 47 questões do ENEM 2021 excluídas por corrupção residual não reparável no texto de origem — lista completa em manifest.json (enem_excluidas).
• contexto é null fora da amostra experimental (contextual retrieval testado só numa amostra de 200 chunks de dominio-publico/gutenberg-pt, não aplicado ao corpus inteiro — ver reports/context_llm.md).
• LUME/UFRGS ausente — 0 chunks nesta versão (servidor UFRGS com HTTP 502 no momento da coleta).

Citações

@misc{aes_enem_kamel_usp,
  title = {AES-ENEM Dataset},
  author = {kamel-usp},
  howpublished = {Hugging Face Hub},
  url = {https://huggingface.co/datasets/kamel-usp/aes_enem_dataset}
}

@misc{bluex2023,
  title = {BLUEX: A benchmark based on Brazilian Leading Universities Entrance eXams},
  author = {Almeida, Thales Sales and Abonizio, Hugo and Nogueira, Rodrigo and Pires, Ramon},
  year = {2023},
  eprint = {2307.05410},
  archivePrefix = {arXiv}
}