AmandaGondra/ncm-classifier-dataset

NCM Classifier — dataset (parte pública do treino)

Objetivo

Exemplos de descrições de produtos agropecuários rotulados com a posição NCM (4 dígitos), usados para treinar o AmandaGondra/ncm-classifier.

Esta é a parte redistribuível do treino: 658 linhas de um total de 900 (marketplace: 241, ncm_official: 359, public_reference: 1, synthetic: 299).

Escopo

Grupo	Posições
Animais e produtos de origem animal	01.02, 01.03, 01.04, 01.05, 04.07, 05.11
Sementes, grãos e forragens	07.13, 10.05, 10.06, 10.07, 12.01, 12.09, 12.13, 12.14
Rações, suplementos e sal	23.02, 23.04, 23.09, 25.01
Adubos	31.01, 31.02, 31.03, 31.04, 31.05
Defensivos agrícolas	38.08
Ferramentas, arames e cercas	72.17, 73.13, 73.14, 73.17, 82.01, 85.43
Máquinas e implementos agrícolas	84.24, 84.32, 84.33, 84.34, 84.36, 87.01, 87.16

37 posições no total.

Tabela NCM: Vigente em 30/10/2026 (Resolução Gecex nº 926/2026).

Fontes

source_type	O que é	Redistribuição
ncm_official	Texto da própria tabela NCM: a descrição da posição e de cada subitem relevante, usando a posição de 4 dígitos como rótulo	Ato oficial, publicado pelo governo (Siscomex/Classif). A Lei 9.610/98, art. 8º, IV, exclui atos oficiais da proteção autoral. A NCM deriva do Sistema Harmonizado, cuja nomenclatura a Organização Mundial das Aduanas declara ser de sua propriedade intelectual. Publicado aqui com atribuição, para pesquisa e ensino; essa ressalva de direitos é uma limitação conhecida.
synthetic	Descrições escritas por um LLM (llm:claude-opus-5.5) no estilo de anúncios e notas, e revisadas uma a uma	CC BY 4.0

Não incluídos:

• descrições de anúncios e catálogos de terceiros (Mercado Livre, MF Rural, Magazine Luiza e outros), por serem textos de terceiros sem autorização de redistribuição;
• os dois testes congelados, para não comprometer a avaliação.

Construção

1. Escopo: 37 posições escolhidas do agro.
2. Exemplos oficiais: o texto de cada posição e de cada subitem, ignorando níveis genéricos ("Outros").
3. Exemplos sintéticos: descrições por posição no estilo de anúncios e notas, com unidades e abreviações comuns, cada uma revisada antes de entrar.
4. Limpeza contra vazamento: foram removidas as quase-duplicatas dos testes (Jaccard de 5-gramas de caracteres ≥ 0,8), os conflitos de rótulo e as repetições. A conferência de quase-duplicatas foi refeita na exportação deste arquivo.

Estrutura

data/train_public-v1.parquet:

Coluna	Tipo	Descrição
example_id	string	id estável (ncm-… oficial, s… sintético)
text	string	descrição do produto
position	string	posição NCM de 4 dígitos (rótulo)
chapter	string	capítulo NCM (2 primeiros dígitos)
source_type	string	ncm_official ou synthetic
source_ref	string	código NCM de origem ou identificação do gerador

Valores ausentes: nenhum. Todas as colunas estão preenchidas em todas as linhas.

Distribuição por capítulo

Capítulo	ncm_official	synthetic	total
01	29	32	61
04	5	8	13
05	8	8	16
07	28	8	36
10	14	25	39
12	14	32	46
23	17	24	41
25	4	8	12
31	36	43	79
38	70	8	78
72	8	8	16
73	16	24	40
82	7	8	15
84	55	39	94
85	25	8	33
87	23	16	39
total	359	299	658

37 posições presentes. Contagens por posição em stats/.

Exemplos

example_id	text	position	source_type
ncm-0102	Animais vivos da espécie bovina	0102	ncm_official
ncm-0103	Animais vivos da espécie suína	0103	ncm_official
ncm-0104	Animais vivos das espécies ovina e caprina	0104	ncm_official
s001	VENDO 20 GARROTES NELORE 12@ PASTO	0102	synthetic
s002	vaca girolanda parida de 15 dias, 18 litros/dia	0102	synthetic
s003	Touro reprodutor Angus PO registrado, 3 anos	0102	synthetic

Revisão

Cada linha foi revisada por uma pessoa antes de entrar no treino. A rotulagem segue o texto legal das posições, com estas convenções:

• Adubos sem embalagem declarada: contam como granel (mais de 10 kg), e não como 31.05.
• Sal: sal mineral para animais é 23.09; sal comum é 25.01.

Limitações

• Parte do treino: este arquivo, sozinho, não reproduz o modelo publicado. As 241 descrições de anúncios não estão aqui.
• Texto oficial é formal: ele é bem diferente das descrições comerciais reais.
• Viés dos sintéticos: eles refletem o estilo do gerador, mesmo revisados. Foram escritos depois de o primeiro teste existir.
• Classes pequenas: de 14 a algumas dezenas de linhas por posição, somando todas as fontes.

Licença

• synthetic: CC BY 4.0 (atribuição: Amanda Gondra, NCM Classifier).
• ncm_official: texto de ato oficial brasileiro, reproduzido com atribuição (fonte: Siscomex, Vigente em 30/10/2026 (Resolução Gecex nº 926/2026)), com a ressalva sobre o Sistema Harmonizado descrita em Fontes.
• Este documento não é parecer jurídico.

Versão

v1.0.0, gerado em 2026-11-03 a partir do código em https://github.com/amanda-gondra/ncm-classifier. Hashes dos arquivos em manifest.json.