导入自己训练的模型时候报错:RuntimeError: Wrong Size for bin file load

#43
by vining - opened

请问这种情况要怎么解决呢?
model = ChatGLM6BModel(arch=self.arch,**model_args)
File "/workdir/algorithm/lyraChatGLM/model.py", line 106, in init
self.model = torch.classes.FasterTransformer.GlmOp(
RuntimeError: Wrong Size for bin file load

This comment has been hidden
Tencent Music Entertainment Lyra Lab org

@vining 看readme,不支持导入自己训练的模型

@vining 看readme,不支持导入自己训练的模型

那这个lyraChatGLM不是属于不可用嘛。。。

Tencent Music Entertainment Lyra Lab org

@vining 看readme,不支持导入自己训练的模型

那这个lyraChatGLM不是属于不可用嘛。。。

@RioRui 我们开放的是标准版本,行业里很多同行也在应用这个版本。如果有定制模型的加速需求,可以与我们联系看看合作方式

Sign up or log in to comment