使用 3090 显卡本地部署 baichuan2-13b-chat 非量化版,有人成功过没?

#45
by catlenmao - opened

https://zhuanlan.zhihu.com/p/657550065

看了下,它用的应该是个 kde 的 linux ,比如 kubuntu ,竟然 跑起来了 13b

Sign up or log in to comment