Suzuki-m1 — Corpus de pré-treinamento em português

Corpus de texto em português brasileiro/europeu para pré-treinamento (do zero) de modelos de linguagem causais (estilo GPT/Claude). Formato JSONL: um documento por linha, campo text.

Formato

{"text": "A economia brasileira cresceu no último trimestre, impulsionada pelo agronegócio."}

Fontes

Fonte	Descrição
wikimedia/wikipedia (20231101.pt)	Artigos da Wikipédia em português
allenai/c4 (multilingual)	Texto web multilingual filtrado para português

Limpeza aplicada:

• Normalização Unicode (NFKC)
• Remoção de URLs e marcadores (<|endoftext|>, </s>)
• Filtro de comprimento (mín/máx de caracteres)
• Deduplicação por hash de conteúdo
• Filtro de idioma por heurística de stopwords

Arquivos

Arquivo	Conteúdo
train.jsonl	Split de treino ({"text": "..."} por linha)
val.jsonl	Split de validação (~2%)
metadata.json	Estatísticas da geração (contagens por fonte, total de docs)

Como carregar

from datasets import load_dataset

ds = load_dataset("Raivatv24/Suzuki-m1", split="train")
for row in ds:
    print(row["text"])

Também funciona via streaming (recomendado para treino):

ds = load_dataset("Raivatv24/Suzuki-m1", split="train", streaming=True)

Uso pretendido

• Pré-treinamento do zero de LLMs pequenos/médios em português (ex.: GPT-2 style, 10M–300M params)
• Treino de tokenizadores (BPE) e fine-tuning
• Experimentos de linguagem

Limitações

• Corpus pequeno em comparação com scale de produção (GPT/Claude usam trilhões de tokens) — adequado para modelos de demonstração/acadêmicos, não para competir com modelos comerciais
• Mistura de pt-BR e pt-PT; pode conter ruído residual de web

Licença

A mistura deriva de Wikipedia (CC BY-SA) e C4 (domínio público na prática). O corpus como publicado aqui está sob cc-by-sa-4.0. Verifique os termos das fontes antes de uso comercial.