jiangchengchengNLP
commited on
Commit
•
b3056b6
1
Parent(s):
6bfaa8b
Update README.md
Browse files
README.md
CHANGED
@@ -4,7 +4,7 @@ license: apache-2.0
|
|
4 |
这是基于Auto-GPTQ框架的量化模型,模型选取为huatuoGPT2-7B,这是一个微调模型,基底模型为百川-7B。
|
5 |
|
6 |
参数说明:
|
7 |
-
原模型大小:16GB,量化后模型大小:
|
8 |
|
9 |
推理准确度尚未测试,请谨慎使用
|
10 |
|
|
|
4 |
这是基于Auto-GPTQ框架的量化模型,模型选取为huatuoGPT2-7B,这是一个微调模型,基底模型为百川-7B。
|
5 |
|
6 |
参数说明:
|
7 |
+
原模型大小:16GB,量化后模型大小:5GB
|
8 |
|
9 |
推理准确度尚未测试,请谨慎使用
|
10 |
|