cortex-v0.9-0.1b-mlx

Versión MLX (Apple Silicon, Metal) de Ilides/cortex-v0.9-0.1b — GPT conversacional de 126M parámetros entrenado desde cero y afinado con SFT multilingüe ES/EN.

• 126.241.536 parámetros · 12 capas × 768 · 12 cabezas · ctx 512 · vocab 16.384
• Paridad verificada con la referencia NumPy: máx |Δ logits| = 5.51e-05
• SFT: val 0.1011 (ppl 1.106) · ES 50.0 / EN 50.0

Cómo ejecutarlo

git clone https://huggingface.co/Ilides/cortex-v0.9-0.1b-mlx
cd cortex-v0.9-0.1b-mlx
pip install mlx transformers regex safetensors

# one-shot
python generate_mlx.py "Hola, ¿qué es la fotosíntesis?" --max-new 160

# REPL interactivo
python generate_mlx.py --interactive

Opciones de generate_mlx.py:

opción	por defecto	descripción
prompt	(batería de prueba)	texto posicional; sin prompt ejecuta 5 frases de prueba
--interactive	off	REPL por terminal
--temperature	0.8	temperatura de muestreo (≤ 0 = greedy)
--top-k	50	top-k (0 = desactivado)
--max-new	160	máximo de tokens nuevos

El script aplica solo la plantilla de chat <|system|>/<|user|>/<|assistant|>/<|end|> con un system prompt corto; corta la generación en <|end|>.

Estructura del repo

• weights.safetensors + model.py — pesos y arquitectura MLX
• generate_mlx.py — CLI de inferencia
• vocab.json, merges.txt, tokenization_cortex.py, tokenizer_config.json — tokenizer BPE de 16.384 tokens