language: - ru - en license: mit tags: - deepseek - qwen - gguf - 8b - r1 - 0528

DeepSeek-R1-0528-Qwen3-8B-Q4_K_M

Это квантованная версия модели DeepSeek-R1-0528 на базе Qwen2.5-8B (или Qwen3-8B? уточните) в формате GGUF (Q4_K_M). Подходит для запуска на CPU или GPU с помощью llama.cpp, LM Studio, Ollama и других совместимых клиентов.

Скачать файл

DeepSeek-R1-0528-Qwen3-8B-Q4_K_M.gguf

Пример использования с llama.cpp

./main -m DeepSeek-R1-0528-Qwen3-8B-Q4_K_M.gguf -p "Привет, как дела?" -n 256
Downloads last month
6
GGUF
Model size
8B params
Architecture
qwen3
Hardware compatibility
Log In to add your hardware

4-bit

Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support