prompt格式问题
#6
by
NSSSJSS
- opened
请问该模型的prompt格式是怎样的？还跟之前的chatglm3-6b一样吗？
应该是一致的，py代码基本没有修改
使用chatglm3的代码已经跑通推理，可惜没有quantizer部分
template需要用新的部分，如果你是chat这个接口跑的就没事，否则要用新的template
这是咋回事
这是咋回事
prompt格式没有调整好，出现幻觉问题了
chatchat目前不适配，请使用官方demo
zRzRzRzRzRzRzR
changed discussion status to
closed