Instructions to use common-degradation/comrade-pi-coding-9b-gguf with libraries, inference providers, notebooks, and local apps. Follow these links to get started.

Notebooks
Google Colab
Kaggle
Local Apps Settings

How to use common-degradation/comrade-pi-coding-9b-gguf with llama.cpp:

Install (macOS, Linux)

curl -LsSf https://llama.app/install.sh | sh
# Start a local OpenAI-compatible server with a web UI:
llama serve -hf common-degradation/comrade-pi-coding-9b-gguf:Q4_K_M
# Run inference directly in the terminal:
llama cli -hf common-degradation/comrade-pi-coding-9b-gguf:Q4_K_M

Install from WinGet (Windows)

winget install llama.cpp
# Start a local OpenAI-compatible server with a web UI:
llama serve -hf common-degradation/comrade-pi-coding-9b-gguf:Q4_K_M
# Run inference directly in the terminal:
llama cli -hf common-degradation/comrade-pi-coding-9b-gguf:Q4_K_M

Use pre-built binary

# Download pre-built binary from:
# https://github.com/ggerganov/llama.cpp/releases
# Start a local OpenAI-compatible server with a web UI:
./llama-server -hf common-degradation/comrade-pi-coding-9b-gguf:Q4_K_M
# Run inference directly in the terminal:
./llama-cli -hf common-degradation/comrade-pi-coding-9b-gguf:Q4_K_M

Build from source code

git clone https://github.com/ggerganov/llama.cpp.git
cd llama.cpp
cmake -B build
cmake --build build -j --target llama-server llama-cli
# Start a local OpenAI-compatible server with a web UI:
./build/bin/llama-server -hf common-degradation/comrade-pi-coding-9b-gguf:Q4_K_M
# Run inference directly in the terminal:
./build/bin/llama-cli -hf common-degradation/comrade-pi-coding-9b-gguf:Q4_K_M

Use Docker

docker model run hf.co/common-degradation/comrade-pi-coding-9b-gguf:Q4_K_M

LM Studio
Jan

vLLM

How to use common-degradation/comrade-pi-coding-9b-gguf with vLLM:

Install from pip and serve model

# Install vLLM from pip:
pip install vllm
# Start the vLLM server:
vllm serve "common-degradation/comrade-pi-coding-9b-gguf"
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:8000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "common-degradation/comrade-pi-coding-9b-gguf",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Use Docker

docker model run hf.co/common-degradation/comrade-pi-coding-9b-gguf:Q4_K_M

Ollama
How to use common-degradation/comrade-pi-coding-9b-gguf with Ollama:
```
ollama run hf.co/common-degradation/comrade-pi-coding-9b-gguf:Q4_K_M
```
Unsloth Desktop

How to use common-degradation/comrade-pi-coding-9b-gguf with Pi:

Start the llama.cpp server

# Install llama.cpp:
brew install llama.cpp
# Start a local OpenAI-compatible server:
llama serve -hf common-degradation/comrade-pi-coding-9b-gguf:Q4_K_M

Configure the model in Pi

# Install Pi:
npm install -g @earendil-works/pi-coding-agent
# Add to ~/.pi/agent/models.json:
{
  "providers": {
    "llama-cpp": {
      "baseUrl": "http://localhost:8080/v1",
      "api": "openai-completions",
      "apiKey": "none",
      "models": [
        {
          "id": "common-degradation/comrade-pi-coding-9b-gguf:Q4_K_M"
        }
      ]
    }
  }
}

Run Pi

# Start Pi in your project directory:
pi

Docker Model Runner
How to use common-degradation/comrade-pi-coding-9b-gguf with Docker Model Runner:
```
docker model run hf.co/common-degradation/comrade-pi-coding-9b-gguf:Q4_K_M
```

Lemonade

How to use common-degradation/comrade-pi-coding-9b-gguf with Lemonade:

Pull the model

# Download Lemonade from https://lemonade-server.ai/
lemonade pull common-degradation/comrade-pi-coding-9b-gguf:Q4_K_M

Run and chat with the model

lemonade run user.comrade-pi-coding-9b-gguf-Q4_K_M

List all available models

lemonade list

Hermes Agent

How to use common-degradation/comrade-pi-coding-9b-gguf with Hermes Agent:

Start the llama.cpp server

# Install llama.cpp:
brew install llama.cpp
# Start a local OpenAI-compatible server:
llama serve -hf common-degradation/comrade-pi-coding-9b-gguf:Q4_K_M

Configure Hermes

# Install Hermes:
curl -fsSL https://hermes-agent.nousresearch.com/install.sh | bash
hermes setup
# Point Hermes at the local server:
hermes config set model.provider custom
hermes config set model.base_url http://127.0.0.1:8080/v1
hermes config set model.default common-degradation/comrade-pi-coding-9b-gguf:Q4_K_M

Run Hermes

hermes

Atomic Chat

OpenClaw

How to use common-degradation/comrade-pi-coding-9b-gguf with OpenClaw:

Start the llama.cpp server

# Install llama.cpp:
brew install llama.cpp
# Start a local OpenAI-compatible server:
llama serve -hf common-degradation/comrade-pi-coding-9b-gguf:Q4_K_M

Configure OpenClaw

# Install OpenClaw:
npm install -g openclaw@latest
# Register the local server and set it as the default model:
openclaw onboard --non-interactive --mode local \
  --auth-choice custom-api-key \
  --custom-base-url http://127.0.0.1:8080/v1 \
  --custom-model-id "common-degradation/comrade-pi-coding-9b-gguf:Q4_K_M" \
  --custom-provider-id llama-cpp \
  --custom-compatibility openai \
  --custom-text-input \
  --accept-risk \
  --skip-health

Run OpenClaw

openclaw agent --local --agent main --message "Hello from Hugging Face"

Comrade Pi Coding 9B — локальный ИИ-помощник для учёбы, преподавания и повседневных задач

Comrade Pi — это ИИ-помощник, которого можно запустить на собственном компьютере. Он может помогать готовить уроки, объяснять сложные темы простыми словами, придумывать упражнения, составлять планы занятий, писать тексты и помогать с повседневными задачами.

Модель создана на основе семейства Qwen и дополнительно дообучена в рамках проекта Comrade Pi.

🌐 Страница модели:
https://huggingface.co/common-degradation/comrade-pi-coding-9b-gguf

Для кого эта модель?

Comrade Pi подойдёт тем, кто хочет попробовать ИИ в работе и учёбе, не обязательно разбираясь в программировании.

Учителям и преподавателям — для подготовки к урокам, создания заданий, объяснения тем и разработки учебных материалов.
Студентам и школьникам — для разбора сложных вопросов, повторения материала и подготовки к занятиям.
Родителям — для составления упражнений, помощи с домашними заданиями и объяснения учебных тем.
Обычным пользователям — для написания писем, редактирования текстов, планирования дел и поиска идей.
Всем, кто интересуется ИИ — для знакомства с локальными языковыми моделями.

Что умеет Comrade Pi?

📚 Помогает готовить уроки

Можно попросить модель:

составить план урока;
придумать вопросы для проверки знаний;
подготовить упражнения разной сложности;
предложить темы для обсуждения;
сделать краткий конспект учебного материала;
адаптировать объяснение под возраст и уровень учеников.

Пример запроса:

Подготовь план урока по теме «Круговорот воды в природе» для учеников 5-го класса. Добавь простое объяснение, три вопроса для обсуждения и небольшое домашнее задание.

🧠 Объясняет сложное простыми словами

Модель можно попросить объяснить тему понятнее, привести примеры или разобрать задачу по шагам.

Пример запроса:

Объясни, что такое дроби, так, чтобы это понял ученик 10 лет. Приведи три примера из повседневной жизни.

✍️ Помогает работать с текстами

Comrade Pi может помочь составить письмо, улучшить формулировки, подготовить краткое изложение или превратить сложный текст в более понятный.

Пример запроса:

Перепиши это объявление для родителей школьников. Сделай его вежливым, понятным и коротким.

💡 Помогает придумывать идеи

Используйте модель как собеседника для поиска идей, планирования мероприятий, подготовки презентаций или разработки учебных проектов.

Пример запроса:

Предложи пять интересных проектов для школьной недели науки, которые можно провести с небольшим бюджетом.

💻 Помогает с цифровыми задачами

Модель также может объяснять основы программирования, помогать разбираться в технических вопросах и предлагать примеры кода. При этом уметь программировать для общения с моделью не нужно.

Как запустить модель?

Модель распространяется в формате GGUF. Для её запуска нужна небольшая программа, которая позволяет общаться с ИИ на своём компьютере.

Если вы раньше не пользовались локальными моделями, начните с Ollama — это один из наиболее простых способов запуска.

Шаг 1. Установите Ollama

Откройте официальный сайт: https://ollama.com/
Скачайте версию для своей операционной системы.
Установите программу, следуя инструкциям на экране.

Ollama — это программа для запуска ИИ-моделей на вашем компьютере. Она бесплатна для использования в рамках её условий распространения.

Шаг 2. Скачайте модель

Откройте страницу Comrade Pi на Hugging Face:

https://huggingface.co/common-degradation/comrade-pi-coding-9b-gguf

Перейдите в раздел Files and versions и найдите файл модели с расширением .gguf.

Скачайте файл на компьютер. Учтите, что он может занимать несколько гигабайт, поэтому заранее проверьте наличие свободного места.

Шаг 3. Подготовьте модель для Ollama

Этот шаг требует вставить несколько коротких команд. Если вы не знакомы с терминалом, попросите помочь с первоначальной настройкой человека, который умеет устанавливать программы.

Поместите скачанный файл в отдельную папку. В этой же папке создайте текстовый файл с названием Modelfile — без расширения .txt.

Вставьте в него следующий текст, заменив имя файла на точное имя скачанного GGUF-файла:

FROM ./ИМЯ_ФАЙЛА.gguf

PARAMETER num_ctx 8192
PARAMETER temperature 0.3

Откройте терминал, перейдите в эту папку и выполните:

ollama create comrade-pi -f Modelfile

После завершения установки запустите модель:

ollama run comrade-pi

Теперь можно задавать вопросы обычным языком, как в привычном чат-боте.

Чтобы завершить работу, введите:

/bye

Если вы хотите избежать командной строки, можно поискать графические приложения для запуска GGUF-моделей. Возможности и совместимость зависят от конкретной программы.

Подойдёт ли модель моему компьютеру?

Comrade Pi — модель примерно 9-миллиардного класса параметров, а конкретное потребление памяти зависит от квантизации и настроек.

16 ГБ оперативной памяти: разумная отправная точка для подходящей компактной квантизированной версии.
8 ГБ оперативной памяти: запуск может быть ограничен или работать медленно.
Меньше 8 ГБ: перед установкой стоит проверить требования выбранной версии и программы запуска.

На компьютерах с поддерживаемым графическим процессором модель может работать быстрее. На других устройствах скорость будет зависеть от процессора и доступной памяти.

Нужно ли подключение к интернету?

Интернет понадобится для скачивания модели и программы запуска. После этого модель обычно может работать локально, без постоянного подключения к интернету.

Это удобно, если вы хотите экспериментировать с ИИ в дороге или работать там, где соединение нестабильно.

Локальный запуск также помогает не отправлять каждый запрос внешнему ИИ-сервису. Однако фактическая конфиденциальность зависит от программы запуска, её настроек и других используемых приложений.

Важные замечания

Comrade Pi — экспериментальный проект, а не безошибочный эксперт.

Модель может давать неверные ответы, путать факты или придумывать информацию.
Учителям рекомендуется проверять факты, даты, формулы и ответы перед использованием в учебных материалах.
Не передавайте модели персональные данные учеников, оценки, медицинские сведения или другую конфиденциальную информацию без необходимых разрешений и мер защиты.
Не используйте ответы модели как единственное основание для важных решений.
Возможности модели могут отличаться в зависимости от программы запуска и настроек.

Часто задаваемые вопросы

Нужно ли уметь программировать?

Нет. Для общения с моделью достаточно писать обычные вопросы. Первоначальная установка GGUF-версии через Ollama может потребовать нескольких команд.

Можно ли использовать модель для подготовки к урокам?

Да. Она может предложить планы занятий, упражнения, вопросы, объяснения и идеи. Перед использованием материалы следует проверить и адаптировать к программе обучения.

Работает ли модель без интернета?

После скачивания модели и установки программы — обычно да, если программа запуска не требует сетевых сервисов для выбранной конфигурации.

Это замена ChatGPT или учителю?

Нет. Это альтернативный способ использовать языковую модель локально. Она может помогать в работе, но не заменяет профессиональное суждение преподавателя и проверку информации.

Бесплатно ли это?

Файлы модели можно скачать с Hugging Face, а Ollama доступна для бесплатного использования в соответствии с её условиями. Перед коммерческим использованием проверьте лицензии базовой модели и всех компонентов проекта.

Ссылки

Comrade Pi Coding 9B: https://huggingface.co/common-degradation/comrade-pi-coding-9b-gguf
Скачать Ollama: https://ollama.com/download
Документация Ollama: https://docs.ollama.com/
llama.cpp: https://github.com/ggml-org/llama.cpp

Comrade Pi — экспериментальный проект, цель которого — сделать локальные языковые модели доступнее для повседневной жизни, обучения и преподавания.

Downloads last month: 57

GGUF

Model size

9B params

Architecture

qwen35

Hardware compatibility

4-bit