moss-moon-003-base 模型的 tokenizer 中,eos token 为 <|endoftext|>,在训练SFT模型时需要将该 token 指定为 <eom> token.
eos token
<|endoftext|>
<eom>
<eoh>
<eot>
<eoc>