Update README.md
Browse files
README.md
CHANGED
|
@@ -12,7 +12,10 @@ tags:
|
|
| 12 |
上記モデルをexllamav2の4.5bitで量子化したものです。
|
| 13 |
|
| 14 |
キャリブレーションデータは不使用。
|
|
|
|
| 15 |
RTX3090にて、量子化＋保存、約３時間ほどで作成できました。
|
| 16 |
|
| 17 |
-
|
|
|
|
|
|
|
| 18 |
outpu-00001-of-00002.safetensors → model-00001-of-00002.safetensors
|
|
|
|
| 12 |
上記モデルをexllamav2の4.5bitで量子化したものです。
|
| 13 |
|
| 14 |
キャリブレーションデータは不使用。
|
| 15 |
+
|
| 16 |
RTX3090にて、量子化＋保存、約３時間ほどで作成できました。
|
| 17 |
|
| 18 |
+
|
| 19 |
+
出力されたsafetensorファイルのファイル名を修正したのみで、基本コマンドのまま実行しました。
|
| 20 |
+
|
| 21 |
outpu-00001-of-00002.safetensors → model-00001-of-00002.safetensors
|