GigaVerbo classificado por educabilidade
Corpus completo derivado de TucanoBR/GigaVerbo, classificado com educability-norberto-mini-4class-v1.
As colunas originais text, label, probs e metadata são preservadas.
educability_status=model identifica uma previsão do classificador.
Textos nulos, vazios, somente espaços ou sem tokens recebem classe 1 e
vetor [1, 0, 0, 0] por regra, com educability_status=rule_empty_text;
esse vetor representa uma decisão determinística, não confiança do modelo.
educability_reason identifica o motivo. Falhas isoladas ficam como
pending_error, com classe e probabilidades nulas, até serem resolvidas.
educability_class e educability_probabilities registram a classe (1–4) e
as quatro probabilidades da anotação quando preenchidas. As probabilidades por janela são
agregadas pela quantidade de tokens de conteúdo. educability_tokens e
educability_num_windows registram a extensão efetivamente classificada;
source_shard e source_row permitem rastrear cada linha na revisão original.
O texto original completo permanece no dataset; a inferência considera até
os primeiros 5120 tokens de conteúdo, em janelas de 1022 tokens mais os
tokens especiais do classificador.
A publicação é incremental. O estado complete em state.json identifica
uma campanha concluída e validada; enquanto esse estado não for registrado,
os arquivos disponíveis representam apenas a parte confirmada da campanha.
run.json contém o contrato e as revisões imutáveis. Os recibos em
receipts/ registram intervalos de origem, contagens e SHA-256 dos blocos.
As licenças variam entre as fontes do GigaVerbo. A anotação conserva as condições por fonte do original; a licença do classificador não substitui as licenças do corpus.
- Downloads last month
- 7,185