【乱码问题】输入约1w长度,输出超过1000长度,结尾部分会乱码。稳定复现!

#24
by chizhu - opened

image.png

更新vllm到0.7.2,加-enable-reasoning --reasoning-parser deepseek_r1 可解决

Sign up or log in to comment