br-llm-data/stf-acordaos

STF Acordaos

Dataset de acordaos do Supremo Tribunal Federal em portugues, preparado para uso em NLP juridico e pre-treinamento continuo.

Esta versao deriva de costadev00/stf-acordaos-cpt-2048, mas publica documentos reconstruidos em vez de chunks. O objetivo e oferecer uma fonte sem chunk_index/chunk_total, para que o usuario possa aplicar o proprio chunking conforme o contexto do modelo ou do pipeline.

Origem dos dados

Fonte publica: https://dadosabertos.c3sl.ufpr.br/acordaos/json/

Arquivos de origem usados no dataset original:

• DocumentosAcordaos.json
• AcordaosVotos.json
• AcordaosRelatorios.json

Labels preservados:

• integra
• voto
• relatorio

Dataset original chunkado

O dataset stf-acordaos-cpt-2048 foi construido para continuous pre-training (CPT), com foco em textos juridicos e preservacao da cauda final de documentos longos.

Configuracao original:

Campo	Valor
Tokenizer	Qwen/Qwen3-8B
Chunk target	2048 tokens
Overlap	128 tokens
Split original	99/1 (train/validation)
Deduplicacao	SHA256 de texto normalizado
Preservacao de cauda	ativa

Estatisticas do dataset original chunkado:

Metrica	Valor
Total de linhas chunkadas	209.359
train	207.140
validation	2.219
integra	152.221
voto	44.104
relatorio	13.034
Tokens por chunk - minimo	129
Tokens por chunk - p50	2.048
Tokens por chunk - p99	2.466
Tokens por chunk - maximo	2.600

Reconstrucao sem chunks

Esta versao foi reconstruida a partir de data/cpt_mixed_2048.parquet do dataset original, na revisao b095e08fb6f0a680e359edce815f5761e4a25d52.

Configuracao da reconstrucao:

Campo	Valor
Ferramenta	dataset-unchunker
Agrupamento	source_oid, numero, label, votante
Texto	text
Indice de chunk	chunk_index
Total de chunks	chunk_total
Estrategia	text-overlap
Maximo de overlap textual inspecionado	2.000 caracteres
Tokenizer para token_count final	Qwen/Qwen3-8B
Split publicado	train

Resumo da transformacao:

Metrica	Valor
Linhas chunkadas lidas	209.359
Grupos candidatos	70.212
Documentos reconstruidos publicados	69.999
Grupos em quarentena	213

Motivos de quarentena:

Motivo	Grupos	Linhas chunkadas afetadas
chunk_index ausente ou duplicado	130	391
chunk_total inconsistente no grupo	65	530
overlap textual nao inferido com seguranca	18	88

Os grupos em quarentena nao entram no Parquet principal. Eles estao listados em reports/quarantined_groups.jsonl.

Estatisticas do dataset publicado

Estas estatisticas se referem apenas ao Parquet publicado nesta versao, isto e, aos documentos reconstruidos em data/train-*.parquet.

Metrica	Valor
Linhas publicadas	69.999
Split train	69.999
source_oid unicos	41.339
numero unicos	41.339
Textos vazios	0

Distribuicao por label:

Label	Linhas	source_oid unicos
integra	41.327	41.327
voto	20.553	18.878
relatorio	8.119	8.119

Distribuicao de token_count por documento reconstruido:

Escopo	Min	P50	P95	P99	Max
Todos	1.600	3.893	11.266	22.165	304.861
integra	1.607	4.851	13.059	27.268	304.861
voto	1.600	2.736	8.248	15.671	123.937
relatorio	1.600	2.333	5.520	8.685	62.851

Importante: token_count aqui e contado sobre o documento reconstruido completo. Portanto, esses valores podem ser muito maiores que 2.048, que era o limite de cada chunk no dataset original.

Distribuicao de tamanho em caracteres (text):

Min	P50	P95	P99	Max
3.929	11.429	34.103	69.267	974.699

Schema

Coluna	Descricao
numero	Numero do processo/acordao.
source_oid	Identificador de origem no dump.
label	Tipo de texto: integra, voto ou relatorio.
split	Split publicado; nesta versao, sempre train.
relator	Relator, quando disponivel.
votante	Ministro/votante, quando disponivel para votos.
source_dump	Dump JSON de origem.
reconstructed_group_id	Chave de agrupamento usada na reconstrucao.
text	Texto reconstruido sem duplicacao intencional de overlap.
token_count	Contagem de tokens do documento reconstruido com Qwen/Qwen3-8B.

Colunas de chunk removidas:

• chunk_index
• chunk_total
• record_id
• source_chunk_count
• sha256_text_norm
• reconstruction_status

Arquivos

• data/train-*.parquet: documentos reconstruidos sem chunks, shardados para o Dataset Viewer.
• reports/reconstruction_report.json: parametros, contagens e estatisticas do processo de reconstrucao.
• reports/quarantined_groups.jsonl: grupos nao publicados por inconsistencias nos chunks.

Observacoes

Este repositorio contem dados publicos e transformacoes minimas para uso em NLP juridico. Recomenda-se revisar licenciamento, privacidade e adequacao juridica antes de uso em producao.