GLM6B kernel 方便提供下脚本吗？
#1
by
rayleee
- opened
在 faster_chat_glm下没有发下GLM6B的脚本，方便提供下吗？
lyraChatGLM\faster_chat_glm_init_.py
from .glm import GLM6B
rayleee
changed discussion status to
closed
你好，请问这个问题是已经解决了吗？我根据用例试用的时候，也发现了没有这个脚本，这个该如何解决呢
models/glm.cpython-38-x86_64-linux-gnu.so就是
那运行的时候报：ImportError: libcudart.so.12: cnnot open shared object file: No such file or directory，显示的是from .glm import GLM6B这一步骤有问题，这是跟环境配置有问题吗？
demo的环境是在cuda12的驱动下运行的，可能要适配下驱动版本