shibing624
commited on
Commit
•
e97a9ff
1
Parent(s):
d580b8c
Update README.md
Browse files
README.md
CHANGED
@@ -108,10 +108,20 @@ output:
|
|
108 |
```
|
109 |
|
110 |
## 模型来源
|
|
|
111 |
|
112 |
-
基于 [多LoRA权重合并(适用于Chinese-Alpaca-Plus )](https://github.com/ymcui/Chinese-LLaMA-Alpaca/wiki/%E6%89%8B%E5%8A%A8%E6%A8%A1%E5%9E%8B%E5%90%88%E5%B9%B6%E4%B8%8E%E8%BD%AC%E6%8D%A2#%E5%A4%9Alora%E6%9D%83%E9%87%8D%E5%90%88%E5%B9%B6%E9%80%82%E7%94%A8%E4%BA%8Echinese-alpaca-plus-)方法手动合并而成,具体是使用 [decapoda-research/llama-7b-hf](https://huggingface.co/decapoda-research/llama-7b-hf)
|
|
|
113 |
|
114 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
115 |
|
116 |
|
117 |
模型文件组成:
|
|
|
108 |
```
|
109 |
|
110 |
## 模型来源
|
111 |
+
release合并后的模型权重,一步到位直接使用,省电、减少碳排放。
|
112 |
|
113 |
+
基于 [多LoRA权重合并(适用于Chinese-Alpaca-Plus )](https://github.com/ymcui/Chinese-LLaMA-Alpaca/wiki/%E6%89%8B%E5%8A%A8%E6%A8%A1%E5%9E%8B%E5%90%88%E5%B9%B6%E4%B8%8E%E8%BD%AC%E6%8D%A2#%E5%A4%9Alora%E6%9D%83%E9%87%8D%E5%90%88%E5%B9%B6%E9%80%82%E7%94%A8%E4%BA%8Echinese-alpaca-plus-)方法手动合并而成,具体是使用 [decapoda-research/llama-7b-hf](https://huggingface.co/decapoda-research/llama-7b-hf)
|
114 |
+
底座模型 合并 Chinese-LLaMA-Plus-LoRA和Chinese-Alpaca-Plus-LoRA 两个LoRA权重 得到,并转化为HuggingFace版本权重(.bin文件)。
|
115 |
|
116 |
+
|
117 |
+
HuggingFace版本权重(.bin文件)可用于:
|
118 |
+
- 使用Transformers进行训练和推理
|
119 |
+
- 使用text-generation-webui搭建界面
|
120 |
+
|
121 |
+
PyTorch版本权重(.pth文件)可用于:
|
122 |
+
- 使用llama.cpp工具进行量化和部署
|
123 |
+
|
124 |
+
PyTorch版本权重(.pth文件)链接,8-bit量化版的Alpaca-Plus-7B:[Billsfriend/chinese-Alpaca-7b-plus-ggml-q8_0](https://huggingface.co/Billsfriend/chinese-Alpaca-7b-plus-ggml-q8_0/tree/main)
|
125 |
|
126 |
|
127 |
模型文件组成:
|