wawj-7b-chat-gguf / README.md
lordjia's picture
Update README.md
a7677e5 verified
---
license: apache-2.0
language:
- zh
pipeline_tag: text-generation
tags:
- chat
- dialect
---
# 北京方言对话模型
基于 Qwen1.5/2 大模型微调的北京方言对话模型,提供口语化的北京方言对话体验。项目包括 7B 和 14B 版本,使用北京方言情景喜剧台词微调。
## 模型描述
- **7B 版本 (`wawj-7b-chat-gguf`)**: 中等大小模型,适用于平衡性能和质量。基于 Qwen1.5-7B-Chat 微调。
- **7B 版本 (`wawj-7b-instruct-gguf`)**: 中等大小模型,适用于平衡性能和质量。基于 Qwen2-7B-Instruct 微调。
- **14B 版本 (`wawj-14b-chat-gguf`)**: 大模型,优化了口语中的幽默感,适用于高质量生成。基于 Qwen1.5-14B-Chat 微调。
## 使用指南
### 在 LM Studio 使用
在 LM Studio 中搜索 `lordjia/wawj` 直接使用模型,无需手动下载。设置 System Prompt 为:
以口语化的北京方言与用户对话。
### 在 Ollama 使用
在 Ollama 中,您可以直接使用已经提供的 Modelfile 来创建模型实例,无需进行额外设置。
## 模型链接
- [7B 版本](https://huggingface.co/lordjia/wawj-7b-chat-gguf)
- [14B 版本](https://huggingface.co/lordjia/wawj-14b-chat-gguf)