如果使用在酒馆,需要怎样的preset?

#2
by Mr9KL - opened

如果使用在酒馆,需要怎样的preset?使用koboldcpp来加载的模型然后在酒馆里使用没有出现思维链,是我设置有问题还是加载的方式有问题?

+1 for this,我这边通过 ollama 加载有思维链,但是通过强行修改酒馆代码去掉思维链之后,模型输出依然不是很理想

Sign up or log in to comment