wikipedia-pt-br-article-labels-gemma

Dataset sintético de labels documentais para artigos da Wikipedia em português brasileiro.

Origem

Os registros derivam de costadev00/wikipedia-pt-br-extract. Cada linha representa um artigo e preserva page_id, title, source_dataset e a licença herdada cc-by-sa-3.0.

Processo

A pipeline aplica triagem determinística em CPU, remove documentos ruins e usa um modelo Gemma local para gerar categorias, subcategorias, tipo documental, affordances de tarefa, elegibilidade para Instruction Following e metadados de qualidade.

Campos

Inclui status de triagem, contagens de caracteres e palavras, categorias normalizadas, tipo documental, affordances, elegibilidade para IF, bandas de dificuldade, grounding e risco, além de metadados de fallback/truncamento de contexto.

Modelo

Modelo usado para labeling: google/gemma-4-26B-A4B-it. Versão da pipeline: 0.1.0.

Limitações

Os labels são sintéticos e podem conter erros residuais. Use auditoria humana para aplicações críticas.