Instructions to use sulsulAI/sulsulAI-models with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- llama.cpp
How to use sulsulAI/sulsulAI-models with llama.cpp:
Install (macOS, Linux)
curl -LsSf https://llama.app/install.sh | sh # Start a local OpenAI-compatible server with a web UI: llama serve -hf sulsulAI/sulsulAI-models:Q8_0 # Run inference directly in the terminal: llama cli -hf sulsulAI/sulsulAI-models:Q8_0
Install from WinGet (Windows)
winget install llama.cpp # Start a local OpenAI-compatible server with a web UI: llama serve -hf sulsulAI/sulsulAI-models:Q8_0 # Run inference directly in the terminal: llama cli -hf sulsulAI/sulsulAI-models:Q8_0
Use pre-built binary
# Download pre-built binary from: # https://github.com/ggerganov/llama.cpp/releases # Start a local OpenAI-compatible server with a web UI: ./llama-server -hf sulsulAI/sulsulAI-models:Q8_0 # Run inference directly in the terminal: ./llama-cli -hf sulsulAI/sulsulAI-models:Q8_0
Build from source code
git clone https://github.com/ggerganov/llama.cpp.git cd llama.cpp cmake -B build cmake --build build -j --target llama-server llama-cli # Start a local OpenAI-compatible server with a web UI: ./build/bin/llama-server -hf sulsulAI/sulsulAI-models:Q8_0 # Run inference directly in the terminal: ./build/bin/llama-cli -hf sulsulAI/sulsulAI-models:Q8_0
Use Docker
docker model run hf.co/sulsulAI/sulsulAI-models:Q8_0
- LM Studio
- Jan
- Ollama
How to use sulsulAI/sulsulAI-models with Ollama:
ollama run hf.co/sulsulAI/sulsulAI-models:Q8_0
- Unsloth Desktop
- Pi
How to use sulsulAI/sulsulAI-models with Pi:
Start the llama.cpp server
# Install llama.cpp: brew install llama.cpp # Start a local OpenAI-compatible server: llama serve -hf sulsulAI/sulsulAI-models:Q8_0
Configure the model in Pi
# Install Pi: npm install -g @earendil-works/pi-coding-agent # Add to ~/.pi/agent/models.json: { "providers": { "llama-cpp": { "baseUrl": "http://localhost:8080/v1", "api": "openai-completions", "apiKey": "none", "models": [ { "id": "sulsulAI/sulsulAI-models:Q8_0" } ] } } }Run Pi
# Start Pi in your project directory: pi
- Docker Model Runner
How to use sulsulAI/sulsulAI-models with Docker Model Runner:
docker model run hf.co/sulsulAI/sulsulAI-models:Q8_0
- Lemonade
How to use sulsulAI/sulsulAI-models with Lemonade:
Pull the model
# Download Lemonade from https://lemonade-server.ai/ lemonade pull sulsulAI/sulsulAI-models:Q8_0
Run and chat with the model
lemonade run user.sulsulAI-models-Q8_0
List all available models
lemonade list
- Hermes Agent
How to use sulsulAI/sulsulAI-models with Hermes Agent:
Start the llama.cpp server
# Install llama.cpp: brew install llama.cpp # Start a local OpenAI-compatible server: llama serve -hf sulsulAI/sulsulAI-models:Q8_0
Configure Hermes
# Install Hermes: curl -fsSL https://hermes-agent.nousresearch.com/install.sh | bash hermes setup # Point Hermes at the local server: hermes config set model.provider custom hermes config set model.base_url http://127.0.0.1:8080/v1 hermes config set model.default sulsulAI/sulsulAI-models:Q8_0
Run Hermes
hermes
- Atomic Chat
- OpenClaw
How to use sulsulAI/sulsulAI-models with OpenClaw:
Start the llama.cpp server
# Install llama.cpp: brew install llama.cpp # Start a local OpenAI-compatible server: llama serve -hf sulsulAI/sulsulAI-models:Q8_0
Configure OpenClaw
# Install OpenClaw: npm install -g openclaw@latest # Register the local server and set it as the default model: openclaw onboard --non-interactive --mode local \ --auth-choice custom-api-key \ --custom-base-url http://127.0.0.1:8080/v1 \ --custom-model-id "sulsulAI/sulsulAI-models:Q8_0" \ --custom-provider-id llama-cpp \ --custom-compatibility openai \ --custom-text-input \ --accept-risk \ --skip-health
Run OpenClaw
openclaw agent --local --agent main --message "Hello from Hugging Face"
sulsulAI-models
술술회계(SulSul Accounting)에서 쓰는 AI 모델 저장소입니다.
이 저장소의 모델은 회계 프로그램 술술회계에 AI 기능을 더하는 별도 앱 술술AI가 내려받아 PC 안에서 실행합니다. 술술회계는 이 모델로 다음 일을 합니다.
- 은행 파일 분개: 규칙으로 처리하지 못한 거래에 분개를 제안
- 분개 검토: 입력한 분개에 경고 표시
- 자연어 분개: 문장을 분개 초안으로 변환
술술회계 전용으로 학습한 모델이므로, 술술AI 앱 밖의 일반 대화·범용 용도에는 맞지 않습니다.
파일
| 파일 | 원 모델 | 형식 | 크기 | SHA256 |
|---|---|---|---|---|
sulsul-multi-qwen3.5-0.8b-r7-q8_0.gguf |
Qwen/Qwen3.5-0.8B | GGUF Q8_0 | 811,843,168 바이트 | 5544c7421e95a2e4876189e397b26d4798ca4214b0626da2f477b44ba4f549f1 |
sulsul-multi-qwen3.5-2b-r7-q8_0.gguf |
Qwen/Qwen3.5-2B | GGUF Q8_0 | 2,012,012,128 바이트 | 649bb7bc16750767013c321e4ef72f6a446caf50d100f7591b8fab8b04b1c652 |
sulsul-multi-qwen3.5-4b-r7-q8_0.gguf |
Qwen/Qwen3.5-4B | GGUF Q8_0 | 4,482,402,816 바이트 | 48448081458e4dd77309d952c726b7e8421caef4a251b631bf97f3d057df32ad |
라이선스와 변경 고지
- 이 저장소의 모델은 위 표의 원 모델(Qwen3.5 계열, Copyright 2026 Alibaba Cloud)을 추가 학습(미세조정)한 파생물입니다. 추가 학습 뒤 GGUF Q8_0 형식으로 양자화했습니다.
- 원 모델과 이 파생물 모두 Apache License 2.0을 따릅니다. 원문은 이 저장소의
LICENSE파일입니다. - 이 파생물은 원 모델 제작자(Alibaba Cloud / Qwen 팀)가 만들거나 보증한 것이 아닙니다.
- 라이선스 원문대로 이 모델은 «있는 그대로» 제공되며 어떤 보증도 하지 않습니다. 모델이 낸 분개 제안·경고는 참고용이며, 장부 반영 여부는 사용자가 확인해 결정해야 합니다.
English summary: AI models used by SulSul Accounting (술술회계), a Korean accounting app, through its companion app SulSulAI. Each model is a fine-tuned derivative of the listed Qwen base model (Apache-2.0, © Alibaba Cloud), quantized to GGUF. Not affiliated with or endorsed by the Qwen team. Licensed under Apache-2.0; see LICENSE.
- Downloads last month
- -
8-bit