BaruqRodrigues/senado-corpus-text

Corpus Legislativo do Senado Federal — camada text

Textos extraídos de documentos do Senado, publicados com metadados, indicadores de qualidade, proveniência por arquivo e divisões reproduzíveis. Os artefatos mantêm house=senado e os identificadores documentais e de processo disponíveis na fonte.

Release curada

A camada curada contém 77.332 documentos em 71.750 famílias. Cada documento e cada página/seção carrega uma coluna split; famílias conectadas por identificadores oficiais ou hash exato permanecem no mesmo split.

Split	Documentos
train	69.757
validation	3.728
test	3.812
quarantine	35

Seed de divisão: 42. O split quarantine contém documentos sem texto útil para treino. Os valores de quality status são indicadores por página, independentes do split. Na versão curada há 487.181 páginas: 481.391 pass e 5.790 review; não há páginas com status fail.

Arquivos curados

• curated/documents.parquet: uma linha por versão deduplicada, com texto concatenado na ordem das páginas, identificadores, URL, hash, contagens de qualidade, split e provenance_json.
• curated/pages.parquet: 487.181 linhas com texto por página, método/engine de extração, indicadores de qualidade e split.
• curated/sections.parquet: 314.629 seções detectadas, ligadas à versão e ao split.
• curated/splits.parquet: uma linha por versão com family_id, split e seed.
• curated/source_provenance.parquet: 77.366 ocorrências de PDF nos TARs, inclusive ocorrências duplicadas do mesmo conteúdo em pacotes diferentes.
• curated/release_summary.json e curated/COMPLETE.json: contagens, hashes e estado da release.

Os diretórios extraction/partNNN/ preservam as saídas de cada TAR, os checkpoints, manifests e marcadores de conclusão por lote. Para treino ou análise consolidada, prefira os arquivos em curated/.

Carregar os documentos curados

from huggingface_hub import hf_hub_download
import pyarrow.parquet as pq

path = hf_hub_download(
    repo_id="BaruqRodrigues/senado-corpus-text",
    repo_type="dataset",
    filename="curated/documents.parquet",
)
documents = pq.read_table(path).to_pandas()
train = documents[documents["split"] == "train"]

O Parquet tem uma linha por versão; text contém o texto extraído e include_in_training indica inclusão nos splits train/validation/test. As páginas com quality_status=review permanecem identificadas e podem exigir tratamento específico para cada análise.

Revisão e limitações conhecidas

Os 91 membros HTML candidatos a erro e um membro binário não classificado de part010.tar estão preservados e descritos na camada raw, mas não entraram no texto de treino. PDFs idênticos presentes em mais de um TAR foram consolidados como uma versão e mantidos separadamente em source_provenance.parquet. O inventário reflete as relações disponíveis nas fontes consultadas; não infere relações históricas ausentes.

Fonte e direitos

Os arquivos de origem estão no repositório raw. Este dataset não declara uma licença uniforme para todos os documentos oficiais. Consulte a fonte e as condições aplicáveis antes de reutilizar ou redistribuir os textos. A publicação destina-se a pesquisa científica e reprodutibilidade.