我在ollama上部署了codeqwen-1_5-7b-chat-q5_0.gguf可是对话很奇怪,这个是为什么,有什么解决办法吗

#4
by monsterbeasts - opened

屏幕截图 2024-05-21 230819.png

屏幕截图 2024-05-21 231433.png

同样的问题gguf部署的code模型和官网给的Qwen模型差距过大,还是说你们的gguf没有考虑到在ollama上部署

Installed codeqwen from ollama and did not encounter similar problems.

ollama run codeqwen

via: https://ollama.com/library/codeqwen

Sign up or log in to comment