13b 的参数问题
#1
by
shibing624
- opened
13b 的config.json ，"vocab_size": 32000
这个量化模型没有扩充中文词表吗？
不应该同7b 的"vocab_size": 49954？
确实应该是 49954，我更新一下
更新好了，我试了一下，似乎没什么影响，总体看下来，7B 是比 13B 效果更好的
13b 的config.json ，"vocab_size": 32000
这个量化模型没有扩充中文词表吗？
不应该同7b 的"vocab_size": 49954？
确实应该是 49954，我更新一下
更新好了，我试了一下，似乎没什么影响，总体看下来，7B 是比 13B 效果更好的