Sovpallo-4B-v1
Локальный ИИ-ассистент для разработчиков на Apple Silicon
Модель
- Базовая архитектура: Qwen3-4B (Alibaba)
- Метод: QLoRA (rank=64, все слои, все проекции)
- Датасет: SimpleQA (train: 4104, valid: 216)
- Val loss: 0.201
- Точность: 100% на 50 validation вопросах
- Создатель: Sovpallo
- Дата: 2026-09-13
- Скорость: 67 tok/s (M1 Pro)
- Память: 2.41 GB peak
Возможности
- Отвечает на вопросы по программированию
- Пишет и объясняет код
- Помогает с архитектурой и отладкой
- Знает фактические данные (SimpleQA)
Использование
from mlx_lm import load, generate
model, tok = load("taksovpallo/Sovpallo-4B-v1")
prompt = tok.apply_chat_template(
[{"role": "user", "content": "Who received the IEEE Frank Rosenblatt Award in 2010?"}],
tokenize=False,
add_generation_prompt=True,
)
print(generate(model, tok, prompt=prompt, max_tokens=30))
- Downloads last month
- 19
Model size
4B params
Tensor type
U32
·
BF16 ·
Hardware compatibility
Log In to add your hardware
4-bit
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support