🐋 利維坦軍團 · 輕量對話核心 (leviathan-chat-7b)

模型簡介

leviathan-chat-7b 為利維坦軍團的輕量化對話核心,基於 deepseek-ai/deepseek-llm-7b-chat 進行蒸餾與優化,專為高效率的戰略對話與決策支援而設計。

主要能力

  • 戰略對話:擅長以「分析→判斷→建議」的結構進行回應。
  • 輕量部署:GGUF Q4_K_M 量化版本,僅需約 4GB 顯存即可運行。
  • 軍團風格:繼承利維坦軍團的參謀語氣與邏輯框架。
  • 純正血統:源自 DeepSeek 家族,具備優秀的中文與邏輯推理能力。

快速部署 (Ollama)

  1. 下載 GGUF 檔案
    hf download Chang-chih/leviathan-chat-7b leviathan-chat-7b.gguf --local-dir ./
    載入 Ollama:
    

bash ollama create leviathan-chat-7b -f <(echo "FROM ./leviathan-chat-7b.gguf") 立即使用:

bash ollama run leviathan-chat-7b "你的問題" 血統與蒸餾歷程 階段 基底模型 說明 基底 deepseek-ai/deepseek-llm-7b-chat DeepSeek 家族的 7B 對話模型。 蒸餾 利維坦軍團內部數據 注入孫子兵法思維與軍團參謀風格。 評測結果 (Benchmark) 待補充 (建議執行 lm-eval 後填入)

授權 本模型採用 Apache-2.0 授權條款。

Downloads last month
506
GGUF
Model size
7B params
Architecture
llama
Hardware compatibility
Log In to add your hardware

We're not able to determine the quantization variants.

Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Model tree for Chang-chih/leviathan-chat-7b

Quantized
(18)
this model