The dataset viewer is not available because its heuristics could not detect any supported data files. You can try uploading some data files, or configuring the data files location manually.
bee-gate-pt — corpus PT tokenizado para o gate de corpus do Bee-150M
Tokens (uint16) do corpus 100% português usado no gate de corpus do projeto Bee: um LLM de 151M parâmetros pré-treinado do zero em português.
Conteúdo
| pasta | tokens | descrição |
|---|---|---|
abc/ |
3,07B | faixas A+B+C — top 60% dos documentos pelo classificador educacional |
a/ |
3,07B | faixa A — top 10% dos documentos |
Cada pasta tem train.bin e val.bin (numpy.uint16, token 0 = <|endoftext|> separando
documentos). Amostrados proporcionalmente de 13 shards distintos, não como prefixo — um
corte no início pegaria só os 2 primeiros dumps do crawl.
Tokenizador: BPE ByteLevel próprio, vocab 32.000, do bee-150m-v3. Fertilidade medida: 0,2137 tok/byte.
Procedência e licença
⚠️ Fonte: HuggingFaceFW/fineweb-2,
configuração por_Latn, distribuída sob ODC-By 1.0. Este trabalho derivado mantém a mesma
licença e atribui a fonte, conforme a ODC-By exige.
Processamento: 13 parquets · 45.846.000 documentos lidos · filtro de qualidade estilo FineWeb (99,2% aprovados) · dedup por hash exato (0,00% de duplicata) · pontuação por classificador educacional PT (correlação de Pearson 0,705 com professor aberto) · separação em faixas de qualidade.
Detalhes em bee/coletar_pt_volume.py.
- Downloads last month
- 36