Instructions to use CSLin3303/qwen3-20250611002 with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- llama.cpp
How to use CSLin3303/qwen3-20250611002 with llama.cpp:
Install (macOS, Linux)
curl -LsSf https://llama.app/install.sh | sh # Start a local OpenAI-compatible server with a web UI: llama serve -hf CSLin3303/qwen3-20250611002:Q4_K_M # Run inference directly in the terminal: llama cli -hf CSLin3303/qwen3-20250611002:Q4_K_M
Install from WinGet (Windows)
winget install llama.cpp # Start a local OpenAI-compatible server with a web UI: llama serve -hf CSLin3303/qwen3-20250611002:Q4_K_M # Run inference directly in the terminal: llama cli -hf CSLin3303/qwen3-20250611002:Q4_K_M
Use pre-built binary
# Download pre-built binary from: # https://github.com/ggerganov/llama.cpp/releases # Start a local OpenAI-compatible server with a web UI: ./llama-server -hf CSLin3303/qwen3-20250611002:Q4_K_M # Run inference directly in the terminal: ./llama-cli -hf CSLin3303/qwen3-20250611002:Q4_K_M
Build from source code
git clone https://github.com/ggerganov/llama.cpp.git cd llama.cpp cmake -B build cmake --build build -j --target llama-server llama-cli # Start a local OpenAI-compatible server with a web UI: ./build/bin/llama-server -hf CSLin3303/qwen3-20250611002:Q4_K_M # Run inference directly in the terminal: ./build/bin/llama-cli -hf CSLin3303/qwen3-20250611002:Q4_K_M
Use Docker
docker model run hf.co/CSLin3303/qwen3-20250611002:Q4_K_M
- Llama new
- LM Studio
- Jan
- Ollama
How to use CSLin3303/qwen3-20250611002 with Ollama:
ollama run hf.co/CSLin3303/qwen3-20250611002:Q4_K_M
- Unsloth Desktop
- Docker Model Runner
How to use CSLin3303/qwen3-20250611002 with Docker Model Runner:
docker model run hf.co/CSLin3303/qwen3-20250611002:Q4_K_M
- Lemonade
How to use CSLin3303/qwen3-20250611002 with Lemonade:
Pull the model
# Download Lemonade from https://lemonade-server.ai/ lemonade pull CSLin3303/qwen3-20250611002:Q4_K_M
Run and chat with the model
lemonade run user.qwen3-20250611002-Q4_K_M
List all available models
lemonade list
- Atomic Chat
YAML Metadata Warning:empty or missing yaml metadata in repo card
Check out the documentation for more information.
這個是使用unsloth/Qwen3-14B-Base-unsloth-bnb-4bit,沒有用推理的情節
這個訓練效果不好 回應如下:
Q: 請描述中華民國憲法第5條的內容? A: 此外,當國家機器運作不順或產生爭議時,應該如何解決?
中華民國憲法第5條規定:「本憲法之解釋權屬於司法院大法官會議。」這意味著當對憲法有不同解讀或爭議時,最 終的解釋權歸屬於由司法院選出的大法官們組成的會議。
至於國家機器運作不順或產生爭議時,應按照法律程序進行處理。具體來說:
- 行政糾紛:若涉及政府機關之間的事務衝突,通常會先通過內部協調解決;如果無法達成共識,則可依《行 政訴訟法》提起訴願或行政訴訟。
- 立法爭議:對於法律草案的制定、修改等問題,應在立法院內進行充分討論和辯論。必要時可以召開聯席會 議,邀請相關部會代表參與,以求達成共識。
- 司法審查:當行政或立法行為涉嫌違憲時,可向司法院大法官提出釋憲請求。經由司法院解釋後,若判定該 法律條文確實違反憲法精神,則須予以修訂。
透過這些機制來保障民主運作、維持國家穩定發展及社會秩序和諧。
Q:『中華民國各民族一律平等。』是那一條中華民國憲法 A: 的規定?請為此條款之解釋?
這一表述出自於《中華民國憲法》第7條:「本憲法所稱國家,是指包括其領土、人民及政府在內之整個政治實體。 」雖然這裡並未直接提到各民族一律平等,但基於這句話的精神——即每個人都應該受到尊重和保護,無論他們屬於 哪個族群或文化背景。
因此,《中華民國憲法》第7條暗示著所有居住在我們國家裡的人(不分種族、性別或其他因素)都享有相同的權利 與自由。換言之,在我們這個共同體中生活工作學習玩耍的朋友們,彼此之間應該相互尊重理解包容支持幫助鼓勵 分享愛護信任友誼合作創新進步安全幸福健康快樂成長成功實現理想夢想追求美好生活
base_model: unsloth/Qwen3-14B-Base-unsloth-bnb-4bit tags: - text-generation-inference - transformers - unsloth - qwen3 - gguf license: apache-2.0 language: - en
Uploaded model
- Developed by: CSLin3303
- License: apache-2.0
- Finetuned from model : unsloth/Qwen3-14B-Base-unsloth-bnb-4bit
This qwen3 model was trained 2x faster with Unsloth and Huggingface's TRL library.
- Downloads last month
- 9
4-bit
