由用户自定义是否使用xformers

#1
by JaheimLee - opened

Hi,建议在config文件中设置一个选项让用户来控制是否使用xformers,这个库可能与其他第三方训练框架存在不兼容问题。

Baichuan Intelligent Technology org

其实现在不装也没事,就是最开始有个warning,会回落到其他实现。

JaheimLee changed discussion status to closed

其实主要是训练过程如果出现不兼容的情况,可以选择手动关闭,但是推理时候还是要xformer来加速,所以库还是得装的。现在为什么只在训练过程中启用啊?

JaheimLee changed discussion status to open
JaheimLee changed discussion status to closed

Sign up or log in to comment