high_educability_training_split

Textos em português selecionados para treinamento: originais de Carolina e Wikipédia classificados nas classes 3 ou 4 pelo educability-norberto-mini-4class-v1, mais as reformulações publicadas vinculadas aos originais elegíveis.

Carregamento

from datasets import load_dataset

ds = load_dataset(
    "br-llm-data/high_educability_training_split",
    split="train",
    streaming=True,
)
registro = next(iter(ds))

Conteúdo e seleção

Total: 6.218.824 registros em um único Parquet.

• Carolina: 655.167 originais (424.924 na classe 3; 230.243 na classe 4).
• Wikipédia: 544.792 originais (324.378 na classe 3; 220.414 na classe 4).
• Reformulações: 5.018.865 registros, em nove subsets (article_pt, commentary_pt, discussion_pt, explanation_pt, faq_pt, math_pt, narrative_pt, table_pt, tutorial_pt), incluindo reformulações de trechos de artigos.
• Os originais são incluídos uma vez por ocorrência classificada. Ocorrências repetidas publicadas nas reformulações são preservadas; cada uma recebe identidade própria.
• Reformulações não foram classificadas independentemente. A seleção usa somente a classe do original vinculado. predicted_class, probabilities, logits, classifier_revision e campos de tokenização própria são nulos nas reformulações.

Uso e correspondência

text sempre contém o texto completo da própria linha. record_kind distingue original de reformulation. selection_class contém 3 ou 4 em todas as linhas: é a classe do original que justificou a inclusão.

original_document_id é a chave de ligação: nas reformulações, aponta para document_id da linha original; nos originais, aponta para a própria linha. Isso evita repetir o texto original em cada reformulação. wikipedia_page_id preserva a chave nativa da Wikipédia.

import duckdb
con = duckdb.connect()
con.execute("CREATE VIEW dados AS SELECT * FROM read_parquet('data/high_educability_training_split.parquet')")
pares = con.execute('''
  SELECT o.wikipedia_page_id, o.text AS texto_original,
         r.text AS texto_reformulado, r.dataset_config AS estilo,
         r.selection_class AS classe_do_original, r.rewrite_chunk_index
  FROM dados r JOIN dados o ON r.original_document_id = o.document_id
  WHERE r.record_kind = 'reformulation' AND o.record_kind = 'original'
  LIMIT 10
''').fetchall()

Rastreabilidade

• document_id: ocorrência única no arquivo; nas reformulações é SHA-256 de repositório, revisão, arquivo e posição física.
• original_id: ID nativo da própria linha. Nas reformulações pode conter ::chunk-N; não é o page_id.
• dataset, dataset_repo, dataset_revision, dataset_config, split, source, source_method: origem da própria linha. prompt_id preserva o prompt publicado.
• original_record_json: registro nativo completo serializado em JSON. Nos originais preserva todos os campos recebidos, incluindo XML/TEI de Carolina e title, page_id, ns, section_texts da Wikipédia. Nas reformulações preserva id, title, text, subset e prompt_id exatamente como publicados.
• input_file, row_group, row_index: localizador da ocorrência. Nas reformulações, row_group é nulo e row_index é a posição no arquivo inteiro, começando em zero. Nos originais, a posição é dentro do row group.
• text_sha256, original_length: hash UTF-8 e comprimento em pontos de código Unicode do texto integral da própria linha.
• predicted_class, logits, probabilities, precision, temperature, classifier_revision: classificação direta disponível apenas nos originais. Probabilidades calibradas com temperatura 1,138848624315927, aplicada uma vez.
• prefix_text, prefix_sha256, content_token_ids, content_tokens_original, content_tokens_used, classifier_truncated, classifier_sequence_limit, special_tokens: escopo auditável da classificação do original. Janela de 1.024 tokens, dos quais até 1.022 de conteúdo. Texto integral exportado pode exceder o prefixo avaliado.
• selection_basis, selection_classifier_model, selection_classifier_revision: origem do critério de seleção; original_probabilities e original_logits preservam a classificação do original também nas linhas reformuladas.
• parent_original_id, parent_dataset_repo, parent_dataset_revision, parent_text_sha256, parent_prefix_sha256: proveniência do original vinculado.
• bridge_id, bridge_file, bridge_row, generation_index, linkage_method: evidência da vinculação exata pela preparação do dataset de reformulações. bridge_row é a posição no arquivo inteiro, começando em zero.
• rewrite_chunk_index: índice do trecho, extraído apenas do sufixo explícito ::chunk-N; nulo quando não há esse sufixo. O rótulo continua sendo do prefixo do artigo original, não uma avaliação específica desse trecho.

Vinculação verificada

O subset original das reformulações usa page_id_N, enquanto as reformulações usam SHA-256 do JSON canônico {"index":i,"row":{"text":texto_de_entrada}} (UTF-8, chaves ordenadas, sem espaços, sem escapar Unicode). A preparação usou índices de lote entre 0 e 1.023. Os índices foram recuperados testando hashes exatos contra os identificadores publicados; as mudanças de numeração ficaram registradas em recovered_link_audit.json. Para trechos, removeu-se somente o sufixo ::chunk-[0-9]+ antes de vincular o hash do artigo pai.

Todos os 1.171.567 identificadores-pai distintos publicados nas reformulações foram recuperados, sem órfãos. Os 1.171.568 registros do subset original foram vinculados por page_id, e seu conteúdo foi comparado por SHA-256 com a Wikipédia classificada, removendo apenas o prefixo explícito Título: <title>\n\n. Não houve divergências de texto nem de identidade. Não foi usado pareamento aproximado por título ou similaridade.

O artigo page_id_343235 (classe 3) está incluído como original e não tem reformulação publicada. Isso é ausência no dataset de origem, não exclusão pela classificação. As reformulações podem introduzir erros ou mudanças de conteúdo; a seleção herdada não confirma sua qualidade.

Fontes e revisões

Componente	Repositório	Revisão
Carolina (default/corpus)	ggg-llms-team2/corpus-carolina-v2	b1b41279af99879343186dfd68a65c4cf387e9db
Wikipédia (default/train, Parquet)	br-llm-data/wikipedia-pt-br-extract	0f1cd2678495e067aec66d535b3025b15ed74eed
Reformulações (nove subsets, train)	br-llm-data/wikipedia_rephrase_pt	b483a3205e6370a7e1d93b95faf06b342e23f223
Classificador	gregassagraf/educability-norberto-mini-4class-v1	a249e2f5833b0490d3faa0b02631cf7f88875afe

O subset original das reformulações foi usado somente como ponte. A lista dos 60 Parquets de origem está em audit/source_files.json; os caminhos reais são <subset>/train-*.parquet, apesar do prefixo data/ anunciado no card dessa revisão.

Validações e limitações

Foram verificados contagem total, unicidade de document_id, inclusão de todos os originais elegíveis, classes de seleção, probabilidades, vínculos aos pais e hashes dos textos. Resultados em manifest.json. As contagens por arquivo estão em audit/selection_audit.json.

Há 184.806 reformulações de trechos e 345 ocorrências adicionais com o mesmo par (dataset_config, original_id), preservadas conforme a publicação. Todas têm document_id próprio. 544.791 artigos elegíveis têm reformulações publicadas.

O classificador avalia somente o prefixo do original. A seleção não certifica a precisão factual do texto completo ou de reformulações sintéticas. Domínios presentes no treinamento do classificador, truncamento e repetição podem afetar a composição deste conjunto.

Licenças e atribuição

As condições de origem são descritas em LICENSE_NOTICES.md. Não se atribui uma licença única ao conjunto: a extração da Wikipédia declara CC BY-SA 3.0, as reformulações declaram CC BY-SA 4.0, e o card do Carolina na revisão utilizada não declara uma licença no campo de metadados. Os registros preservam a proveniência e os metadados de origem.