你好, 推理时,我每次使用相同的超参: temperature, top_p 等都一样。 输入prompt也一样(主要是做分类),但是输出结果不一样. 有时候分对,有时候分错?
· Sign up or log in to comment