Esta versão preserva os originais do high_educability_training_split selecionados nas classes 3 ou 4 e inclui todas as transformações publicadas da Wikipédia, independentemente da classe do artigo de origem. Somente os originais foram filtrados por educabilidade. As classes são um proxy, não uma avaliação definitiva; as transformações não foram classificadas independentemente.

Conteúdo

Conteúdo	Registros
Carolina original, classes 3/4	655.167
Wikipédia original, classes 3/4	544.792
Transformações da Wikipédia, todas as classes de origem	10.670.185
Total	11.870.144

São 5.651.320 transformações adicionais em relação à versão anterior. O arquivo contém textos completos, ocorrências repetidas já publicadas e transformações de trechos (::chunk-N). Não houve nova inferência, corte de textos ou exclusão de transformações pela classe do original. O split train identifica o uso pretendido; não é uma nova separação aleatória de treino e avaliação.

Estilo	Registros
article_pt	1,185,501
commentary_pt	1,185,629
discussion_pt	1,185,616
explanation_pt	1,185,596
faq_pt	1,185,601
math_pt	1,185,571
narrative_pt	1,185,434
table_pt	1,185,638
tutorial_pt	1,185,599

Carregamento

from datasets import load_dataset

ds = load_dataset("br-llm-data/high_educability_training_split_all_wikipedia_transformations", split="train", streaming=True)

Localmente:

from datasets import load_dataset

ds = load_dataset("parquet", data_files={"train": "data/*.parquet"},
                  split="train", streaming=True)

Identificadores, classes e vínculos

text: texto integral da própria linha; original_record_json: todos os campos do registro nativo. Os metadados XML/TEI de Carolina e os metadados da Wikipédia permanecem nos originais.
document_id: identidade única da ocorrência. Os IDs das ocorrências já presentes no conjunto anterior foram preservados. original_id é o identificador nativo da própria linha; nas transformações pode conter ::chunk-N.
record_kind: original ou reformulation. dataset_repo, dataset_revision, dataset_config, split, input_file, row_group, row_index e text_sha256 registram origem e localização. Nas transformações, row_index é a posição no arquivo inteiro, a partir de zero; row_group é nulo. Nos originais, row_index é a posição dentro do row group.
original_document_id: identidade do artigo original associado; nos originais aponta para a própria linha.
original_in_split: indica se esse original está presente como linha neste arquivo. É verdadeiro em todos os originais e nas transformações de pais das classes 3/4. É falso nas transformações de pais das classes 1/2.
original_predicted_class: classe disponível do original associado, inclusive 1 e 2. Esse campo não é uma classificação da transformação.
predicted_class, probabilities, logits, classifier_revision e os campos de prefixo/tokenização própria permanecem disponíveis nos originais e nulos nas transformações. A classificação avaliou até 1.022 tokens de conteúdo do original, mais dois especiais, não necessariamente seu texto completo.
selection_basis: critério original preservado nos originais; all_published_wikipedia_transformations em todas as transformações. selection_class, selection_classifier_model e selection_classifier_revision são nulos nas transformações.
original_probabilities, original_logits, parent_original_id, parent_dataset_repo, parent_dataset_revision, parent_text_sha256, parent_prefix_sha256 e wikipedia_page_id: informações do original associado, também quando ele não está no split.
bridge_id, bridge_file, bridge_row, generation_index e linkage_method: evidência da vinculação exata. rewrite_chunk_index preserva o índice do trecho; prompt_id e dataset_config preservam o estilo publicado.

O schema.json lista todas as colunas e tipos. Os campos da versão anterior foram preservados, com a atualização explícita do critério de seleção das transformações e os dois novos campos descritos acima.

Originais ausentes do arquivo

Há 5.651.320 transformações referenciando 626.776 artigos originais das classes 1/2 que não estão no split. Isso é intencional, não uma falha de vinculação. Para localizar seu texto original, use parent_dataset_repo na revisão parent_dataset_revision e procure page_id = parent_original_id (ou wikipedia_page_id) no Parquet da fonte. Confira o conteúdo usando parent_text_sha256.

Use LEFT JOIN para resolver vínculos dentro desta entrega, evitando perder transformações cujos pais estão ausentes:

WITH dados AS (SELECT * FROM read_parquet('data/*.parquet'))
SELECT r.document_id, r.text AS transformacao, r.original_predicted_class,
       r.original_in_split, r.wikipedia_page_id, o.text AS original_no_split
FROM dados r
LEFT JOIN dados o ON r.original_document_id = o.document_id AND o.record_kind = 'original'
WHERE r.record_kind = 'reformulation';

Os vínculos foram recuperados por SHA-256 do texto de entrada e índice de lote, com remoção apenas do sufixo explícito de trecho para resolver o artigo pai. A ponte foi reconciliada com os IDs e hashes de corpo da Wikipédia classificada. Não foi usado pareamento aproximado por título ou similaridade. O artigo page_id_343235 está entre os originais incluídos, mas não tem transformação publicada.

Fontes fixadas

Componente	Repositório	Revisão
Carolina (`default/corpus`)	ggg-llms-team2/corpus-carolina-v2	`b1b41279af99879343186dfd68a65c4cf387e9db`
Wikipédia original (`default/train`)	br-llm-data/wikipedia-pt-br-extract	`0f1cd2678495e067aec66d535b3025b15ed74eed`
Transformações (nove subsets, `train`)	br-llm-data/wikipedia_rephrase_pt	`b483a3205e6370a7e1d93b95faf06b342e23f223`
Classificador dos originais	gregassagraf/educability-norberto-mini-4class-v1	`a249e2f5833b0490d3faa0b02631cf7f88875afe`

O subset original do dataset de transformações serve como ponte de proveniência e não foi adicionado como outra cópia dos originais. As 54 fontes de transformações estão em audit/source_files.json.

Validação, limitações e reprodução

Foram verificados contagens por estilo, unicidade de ocorrências, igualdade integral dos registros originais, preservação dos textos e metadados nativos, vínculos com os artigos de origem, flags de presença e ausência de classificação própria nas transformações. A cobertura é integral nas revisões acima. Manifesto, auditoria e checksum.

A versão distribuída contém shards Parquet Zstandard; tamanhos, contagens e checksums estão em shards_manifest.json. Para conferir: sha256sum -c SHA256SUMS. O manifest.json documenta o arquivo original antes da divisão (23.838.843.798 bytes, SHA-256 71b578e384aa552a8980402d691583ec15d4d901ce235da30ad0c1772d09417b).

O conjunto é maior que a versão anterior; não foi equiparado a ela em tokens. Transformações sintéticas podem alterar fatos ou introduzir erros. O nome do conjunto não significa que todas as transformações têm alta educabilidade. A presença de variantes do mesmo artigo deve ser considerada ao criar partições de avaliação.

Na raiz do workspace de origem, com Python 3.12 e as dependências do uv.lock, reproduza com:

.venv-ml/bin/python -u scripts/build_high_all_wikipedia_transformations.py

O script requer o conjunto anterior, os snapshots locais fixados e as predições já concluídas; não executa novamente o classificador. Os checkpoints ficam em /scratch/user/gregassagraf/high_educability_training_split_all_wikipedia_transformations. A pasta desta entrega contém somente os arquivos destinados ao upload.

As condições declaradas pelas fontes estão em LICENSE_NOTICES.md; esta exportação não concede uma licença única nova.

Downloads last month: 867

Total file size:

27 GB