中文的效果感觉不是很好
#5
by
daisr
- opened
我使用ollama run了一下，输入你好，结果蹦出了很多不相关的内容
我用我手头的ollama q4_0版本试了十多次“你好”和“你好👋”，都是正常的。对q8_0来说应该也差不多。这个应该是小概率事件？
用经典的鸡兔同笼问题来测试，试了3次只对了1次。
这个应该是llama3-8b-instruct本身的能力限制（可能是因为参数量不够，70B模型是可以做的）。例如我尝试ollama run llama3:8b-instruct-q4_0输入同样的问题：
shenzhi-wang
changed discussion status to
closed
为什么会这样呢？