百川大模型本地部署

#14
by Yuwh07 - opened

怎么在本地部署模型啊,下载了文件不知道怎么配置

https://github.com/baichuan-inc/Baichuan2#%E6%8E%A8%E7%90%86%E5%92%8C%E9%83%A8%E7%BD%B2

但是这个上面是从huggingface上重新下模型的?我已经下载完了有大佬能提供一下可以直接调用权重文件的py文件吗

Sign up or log in to comment