phelipescript/ddsd-ptbr-corpus

DDSD PT-BR: corpus sintético de fala dirigida ao computador

English summary. Synthetic Brazilian Portuguese corpus for device-directed speech detection (DDSD): sentences labeled DD (addressed to the computer, i.e. a request to a voice assistant without a wake word) or NDD (anything else: conversation, comments, thinking aloud). All sentences were generated by LLMs. The default configuration, com_correcao, corrects the length bias of the initial corpus with new sentences generated by length band and 1:1 balancing within each length band, so that sentence length no longer predicts the label (AUC 0.515, against 0.859 in sem_correcao, the uncorrected control). 116,438 sentences per configuration, with fixed train/validation/test splits. Built for a bachelor's thesis (SENAC Santo Amaro, 2026).

Frases em português brasileiro rotuladas como DD (dirigida ao computador: um pedido a um assistente de voz sem palavra de ativação) ou NDD (qualquer outra fala: conversa com outra pessoa, comentário, pensar alto). Todas foram geradas por LLMs. É o corpus do TCC Detecção de Fala Direcionada ao Computador Pessoal em Português Brasileiro: Uma Abordagem Textual para Assistentes de Voz sem Palavra de Ativação (Bacharelado em Ciência da Computação, SENAC Santo Amaro, 2026).

Configurações

	com_correcao (padrão)	sem_correcao (controle)
Uso no TCC	treino dos modelos do sistema	treino dos modelos de controle
Frases	116.438 (58.219 por classe)	116.438 (58.219 por classe)
Treino / validação / teste	93.150 / 11.672 / 11.616	93.144 / 11.664 / 11.630
Origem	corpus inicial + 21.048 frases novas	só o corpus inicial
Balanceamento	1:1 em cada faixa de tamanho, casando fonte e origem	1:1 no total
Mediana de palavras (DD / NDD)	9 / 9	7 / 11
AUC do tamanho da frase como preditor da classe	0,515	0,859

O sem_correcao não tem nenhum texto do teste com_correcao: os 9.527 textos em comum saíram antes do balanceamento. Assim, os modelos de controle podem ser avaliados no teste com_correcao sem vazamento. As partições de cada configuração não têm texto em comum entre si.

Como usar

Exemplo executado com Python 3.13 e datasets 5.1.0:

from datasets import load_dataset

com = load_dataset("phelipescript/ddsd-ptbr-corpus")  # configuração padrão: com_correcao
sem = load_dataset("phelipescript/ddsd-ptbr-corpus", "sem_correcao")
for nome, corpus in (("com_correcao", com), ("sem_correcao", sem)):
    print(nome, {parte: corpus[parte].num_rows for parte in corpus})
print(com["train"][0])

Saída:

com_correcao {'train': 93150, 'validation': 11672, 'test': 11616}
sem_correcao {'train': 93144, 'validation': 11664, 'test': 11630}
{'text': 'pega o ditado de hoje e mostra no editor', 'text_raw': 'Pega o ditado de hoje e mostra no editor.', 'label': 'DD', 'source': 'glm', 'origin': 'legacy', 'strategy': 'legado', 'model': 'zai-org/glm-4.6v-flash', 'words': 9, 'bin': '9-10'}

Campos

Campo	Conteúdo
text	a frase normalizada: sem acento, em minúsculas e com pontuação e símbolos trocados por espaço. É a entrada dos modelos.
text_raw	a frase como o LLM gerou
label	DD ou NDD
source	lote de geração (ver Fontes)
origin	legacy: corpus inicial, gerado antes da correção do viés de comprimento; mitigation: frases novas, geradas para a correção
strategy	legado; comprimento: frases pedidas numa faixa de tamanho; negativos_dificeis: pares DD e NDD com a mesma forma (imperativo curto), em que só a ação muda (software no computador ou pedido a uma pessoa)
model	LLM que gerou a frase
words	número de palavras de text
bin	faixa de tamanho: 2, 3, 4, 5, 6, 7-8, 9-10, 11-13, 14-17, 18-24, 25-50 palavras

Exemplos do treino com_correcao:

text_raw	label	origin	strategy	model
Pega o ditado de hoje e mostra no editor.	DD	legacy	legado	zai-org/glm-4.6v-flash
Eu tô pensando em baixar aquele audiolivro sobre viagens.	NDD	legacy	legado	zai-org/glm-4.6v-flash
Exporta aí.	DD	mitigation	negativos_dificeis	claude-sonnet-5-5
Espera ele.	NDD	mitigation	negativos_dificeis	claude-sonnet-5-5

Como foi construído

1. Fontes: 36 arquivos de frases geradas por LLMs, um de DD e um de NDD por fonte (pasta fontes/).
2. Normalização e filtros: sem acento, minúsculas, pontuação e símbolos trocados por espaço. Ficam as frases com mais de 5 caracteres, de 2 a 50 palavras e só com caracteres ASCII depois da normalização; saem também as respostas que eram listas serializadas.
3. Deduplicação exata. Um texto que aparece nas duas classes é conflito de rótulo e sai das duas.
4. Deduplicação aproximada: pares com similaridade de cosseno TF-IDF acima de 0,95 viram um representante só; se o par tem classes diferentes, os dois saem.
5. Balanceamento: no com_correcao, 1:1 em cada faixa de tamanho, com a classe majoritária sorteada para reproduzir a mistura de fontes e origens da minoritária naquela faixa. No sem_correcao, 1:1 no total.
6. Partição 80/10/10, estratificada por rótulo e fonte, sem texto em comum entre as partições.

Funil do com_correcao:

Etapa	DD	NDD	Total	Detalhe
fontes	147.421	142.499	289.920	descartadas na leitura: rótulo divergente 0, texto ausente 0
normalização e filtros	147.344	142.389	289.733	descartes: tamanho 63, não ASCII 54, lista serializada 70
dedup exato + conflitos	132.824	141.814	274.638	duplicatas: 15.007; conflitos de rótulo: 44 textos
dedup aproximado	132.707	141.746	274.453	139 quase-duplicatas; 46 itens em conflito entre classes
balanceamento (faixa_fonte_origem)	58.219	58.219	116.438	descartados: 158.015

Funil do sem_correcao:

Etapa	DD	NDD	Total	Detalhe
fontes	136.153	131.213	267.366	descartadas na leitura: rótulo divergente 0, texto ausente 0
normalização e filtros	136.077	131.130	267.207	descartes: tamanho 39, não ASCII 50, lista serializada 70
dedup exato + conflitos	121.654	130.750	252.404	duplicatas: 14.717; conflitos de rótulo: 43 textos
dedup aproximado	121.544	130.685	252.229	129 quase-duplicatas; 46 itens em conflito entre classes
exclusão do teste do corpus principal	116.774	125.928	242.702	9.527 textos (iguais ou quase iguais)
balanceamento (global)	58.219	58.219	116.438	descartados: 126.264

Tamanho das frases no corpus final:

Palavras	com_correcao DD	com_correcao NDD	sem_correcao DD	sem_correcao NDD
2	1.502	1.502	136	6
3	1.751	1.751	1.405	2
4	1.964	1.964	4.229	94
5	2.961	2.961	10.144	506
6	5.287	5.287	10.693	1.501
7–8	15.445	15.445	17.499	8.213
9–10	13.007	13.007	7.712	13.588
11–13	12.164	12.164	5.155	21.597
14–17	3.378	3.378	1.222	10.104
18–24	760	760	24	2.327
25–50	0	0	0	281

O manifesto de cada build (<configuração>/manifest.json), o relatório (relatorio.md) e a configuração (config.toml) estão na pasta de cada configuração. Na config.toml, só a redação de alguns comentários difere da usada no build; os valores são os mesmos, e o config_sha256 do manifesto é o do arquivo do build.

Geradores

Origem	Modelo	Estratégia	com_correcao	sem_correcao
corpus inicial	qwen/qwen3.6-35b-a3b	legado	40.830	32.285
corpus inicial	claude-sonnet (CLI)	legado	20.780	13.356
frases novas	google/gemma-4-e4b	comprimento	7.964	0
corpus inicial	openrouter/free	legado	6.738	10.860
corpus inicial	qwen/qwen3.8-27b	legado	6.176	13.763
corpus inicial	zai-org/glm-4.6v-flash	legado	5.216	13.610
corpus inicial	opencode (CLI)	legado	4.684	5.572
corpus inicial	google/gemma-4-e4b	legado	3.946	13.873
corpus inicial	mistral-small-latest	legado	3.658	4.452
corpus inicial	moonshotai/kimi-k3	legado	3.362	8.667
frases novas	google/gemma-4-e4b	negativos_dificeis	2.850	0
frases novas	claude-sonnet-5-5	negativos_dificeis	2.422	0
frases novas	qwen/qwen3.8-27b	negativos_dificeis	1.970	0
frases novas	openai/gpt-oss-120b	negativos_dificeis	1.832	0
frases novas	qwen/qwen3.8-27b	comprimento	1.828	0
frases novas	openai/gpt-oss-120b	comprimento	1.406	0
frases novas	claude-sonnet-5-5	comprimento	722	0
frases novas	gemini-3.5-flash	comprimento	54	0

Os geradores são modelos de terceiros, e o uso do texto gerado pode estar sujeito aos termos de cada provedor.

Qualidade dos rótulos

O rótulo é a classe pedida ao gerador. Numa revisão humana cega de 300 frases do com_correcao (amostra estratificada por fonte, classe e faixa de tamanho, sem rótulo nem fonte à vista), a anotação concordou com o rótulo em 93,7% das frases (kappa de Cohen 0,873): 94,5% nas 182 frases do corpus inicial e 92,4% nas 118 novas. Uma única pessoa anotou: quem escreveu o TCC.

Fontes

A pasta fontes/ tem os 36 arquivos de frases geradas, de antes do funil, iguais byte a byte aos que o build leu: o SHA-256 de cada um está no campo sources de com_correcao/manifest.json (o sem_correcao usa só os de legacy/). A exceção é fontes/legacy/MANIFEST.json, em que o campo origin registrava um caminho absoluto do computador de origem e agora diz só tcc/project/src/dataset.

• fontes/legacy/<provedor>/{dd,ndd}.jsonl: o corpus inicial, com os campos text e label.
• fontes/mitigation/<fonte>/{dd,ndd}.jsonl: as frases novas da correção, com o modelo, a estratégia, a faixa de tamanho pedida e a data de geração.

Limitações

• 100% sintético: o estilo é de LLM, diferente da fala espontânea transcrita.
• Gerador dominante nas frases novas: 51% delas vêm de um só modelo (google/gemma-4-e4b).
• Rótulo pedido, não anotado: só a amostra de 300 frases teve revisão humana, de uma única pessoa.
• Frases longas: o com_correcao não tem frases de 25 palavras ou mais.

Modelos treinados com este corpus

Repositório	Conteúdo
phelipescript/ddsd-ptbr-bertimbau	BERTimbau com correção (padrão do sistema)
phelipescript/ddsd-ptbr-albertina	Albertina com correção
phelipescript/ddsd-ptbr-debertinha	DeBERTinha com correção
phelipescript/ddsd-ptbr-tfidf	TF-IDF com Regressão Logística e com SVM
phelipescript/ddsd-ptbr-bertimbau-sem-correcao	BERTimbau sem correção (controle)
phelipescript/ddsd-ptbr-albertina-sem-correcao	Albertina sem correção (controle)
phelipescript/ddsd-ptbr-debertinha-sem-correcao	DeBERTinha sem correção (controle)
phelipescript/ddsd-ptbr-corpus	o corpus, com e sem correção, e as fontes brutas

Licença

CC BY 4.0.

Citação

@misc{souza2026ddsd,
  author       = {Phelipe Pereira de Souza},
  title        = {Detecção de Fala Direcionada ao Computador Pessoal em Português Brasileiro: Uma Abordagem Textual para Assistentes de Voz sem Palavra de Ativação},
  year         = {2026},
  note         = {Trabalho de Conclusão de Curso, Bacharelado em Ciência da Computação, SENAC Santo Amaro},
  howpublished = {\url{https://huggingface.co/datasets/phelipescript/ddsd-ptbr-corpus}}
}