Hugging Face's logo

jfiekdjdk
/
vicuna-13B-1.1-Chinese-GPTQ-4bit-128g

Text Generation
Transformers
llama
text-generation-inference
Inference Endpoints
Model card Files Community
1

你好，这个模型是没调整好或者不兼容我使用的前端工具吗？

#1
by Eilian - opened
Discussion
Eilian

我尝试用KoboldAI的4bit版本使用这个模型，但是它完全给不出一个完整的句子作为反馈，是因为不兼容？

Sign up or log in to comment