关于max_length

#6
by momo4826 - opened

您好,文档里写可以扩展到8k,但实际应用中generate(max_length=8000)后依旧会截断、使用的是4096长度,这是什么原因呢?

Fengshenbang-LM org

您好,文档里写可以扩展到8k,但实际应用中generate(max_length=8000)后依旧会截断、使用的是4096长度,这是什么原因呢?

为了更好地定位问题,请贴出你的代码,非常感谢。

Sign up or log in to comment