NanoMythos-1K

O NanoMythos-1K é o primeiro (e menor) modelo da série NanoMythos.

Ele usa arquitetura Transformer com um tokenizer char-level.

Como Usar

Use o script generate.py para rodar o NanoMythos-1K.

Benchmarks

ARC-Easy: 25.51% BLiMP: 50.17%

Créditos

O Dataset usado foi o Fineweb-Edu, da HUGGINGFACE.