Instructions to use Davizig10jojo/BlazerApex-2B-v2 with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- llama.cpp
How to use Davizig10jojo/BlazerApex-2B-v2 with llama.cpp:
Install (macOS, Linux)
curl -LsSf https://llama.app/install.sh | sh # Start a local OpenAI-compatible server with a web UI: llama serve -hf Davizig10jojo/BlazerApex-2B-v2:IQ4_XS # Run inference directly in the terminal: llama cli -hf Davizig10jojo/BlazerApex-2B-v2:IQ4_XS
Install from WinGet (Windows)
winget install llama.cpp # Start a local OpenAI-compatible server with a web UI: llama serve -hf Davizig10jojo/BlazerApex-2B-v2:IQ4_XS # Run inference directly in the terminal: llama cli -hf Davizig10jojo/BlazerApex-2B-v2:IQ4_XS
Use pre-built binary
# Download pre-built binary from: # https://github.com/ggerganov/llama.cpp/releases # Start a local OpenAI-compatible server with a web UI: ./llama-server -hf Davizig10jojo/BlazerApex-2B-v2:IQ4_XS # Run inference directly in the terminal: ./llama-cli -hf Davizig10jojo/BlazerApex-2B-v2:IQ4_XS
Build from source code
git clone https://github.com/ggerganov/llama.cpp.git cd llama.cpp cmake -B build cmake --build build -j --target llama-server llama-cli # Start a local OpenAI-compatible server with a web UI: ./build/bin/llama-server -hf Davizig10jojo/BlazerApex-2B-v2:IQ4_XS # Run inference directly in the terminal: ./build/bin/llama-cli -hf Davizig10jojo/BlazerApex-2B-v2:IQ4_XS
Use Docker
docker model run hf.co/Davizig10jojo/BlazerApex-2B-v2:IQ4_XS
- LM Studio
- Jan
- Ollama
How to use Davizig10jojo/BlazerApex-2B-v2 with Ollama:
ollama run hf.co/Davizig10jojo/BlazerApex-2B-v2:IQ4_XS
- Unsloth Desktop
- Docker Model Runner
How to use Davizig10jojo/BlazerApex-2B-v2 with Docker Model Runner:
docker model run hf.co/Davizig10jojo/BlazerApex-2B-v2:IQ4_XS
- Lemonade
How to use Davizig10jojo/BlazerApex-2B-v2 with Lemonade:
Pull the model
# Download Lemonade from https://lemonade-server.ai/ lemonade pull Davizig10jojo/BlazerApex-2B-v2:IQ4_XS
Run and chat with the model
lemonade run user.BlazerApex-2B-v2-IQ4_XS
List all available models
lemonade list
- Atomic Chat
🦅 BlazerApex-2B-v2
Modelo 2.5B nativo em PT-BR, multilíngue (PT/EN/ZH), forte em código e matemática, otimizado para rodar offline no celular.
🧬 Linhagem (merge em cascata, método linear)
| Etapa | Operação | Resultado |
|---|---|---|
| 0 | BlazerApex-2B v1 (SFT 36k exemplos PT-BR/código/math) + LoRA_PTBR (1 epoch, 19.256 exemplos Gigaverbo-v2-SFT + UltrachatBR) | blazer_ptbr |
| 1 | 0.70 × blazer_ptbr + 0.30 × distilled-reasoning (Qwen3.8-Max/GLM-5.2/Kimi-K3) | mergeA |
| 2 | 0.80 × mergeA + 0.20 × LycheeAI-coder-2b-II-pro | mergeB |
| 3 | 0.85 × mergeB + 0.15 × uraion-forge-2b | BlazerApex-2B-v2 |
Pesos efetivos: BlazerApex-PTBR ≈ 0.48 · Reasoning ≈ 0.20 · Coder ≈ 0.17 · Uraion ≈ 0.15
📊 Desempenho
- v1 (radar, juiz Qwen3-4B-Instruct): média 88.1/100, vencendo o base MiniCPM5-2B (75.0) em 6 de 8 categorias.
- v2 (testes qualitativos): Code Reasoning corrigido (palíndromo correto com explicação), recusa de jailbreak firme, compreensão de chinês adicionada. Radar completo do v2 em breve.
🗣️ Idiomas
PT-BR nativo e conversacional · EN (âncora de código) · ZH (compreensão e explicação)
📱 Uso no celular
GGUF IQ4_XS (~1.4 GB) na pasta gguf/ — roda offline a ~5 tok/s em Snapdragon 695 (Maid/Layla, contexto 3K).
💻 Uso com transformers
from transformers import AutoTokenizer, AutoModelForCausalLM
tok = AutoTokenizer.from_pretrained("Davizig10jojo/BlazerApex-2B-v2")
model = AutoModelForCausalLM.from_pretrained("Davizig10jojo/BlazerApex-2B-v2", dtype="float16", device_map="auto")
⚠️ Limitações conhecidas
- Pode atribuir incorretamente o desenvolvedor em perguntas de identidade (correção planejada).
- Em geração crua, pode continuar após o EOS — use stop tokens no seu app/inference.
🙏 Créditos
Base: openbmb/MiniCPM5-2B · Doadores: jigs97022, whcl412, UraionLabs · Datasets: Polygl0t/gigaverbo-v2-sft, recogna-nlp/UltrachatBR · Merge: mergekit · Técnica: Model Soups (arXiv:2203.05482)
📜 Licença
Apache-2.0
- Downloads last month
- -