Update README.md
Browse files
README.md
CHANGED
@@ -6,10 +6,6 @@ license: apache-2.0
|
|
6 |
[llm-jpさんが公開しているllm-jp-13b-instruct-full-dolly-oasst-v1.0](https://huggingface.co/llm-jp/llm-jp-13b-instruct-full-dolly-oasst-v1.0)のggufフォーマット変換版です。
|
7 |
**jasterなし**です
|
8 |
|
9 |
-
注意:こちらはブランチで試用になります。llama.cpp本家にgpt2が実装された時に、このggufファイルが使用できない可能性があります。
|
10 |
-
|
11 |
-
***[GitHubリポジトリの readme はこちら](https://github.com/mmnga/llama.cpp/tree/mmnga-dev-merge)***
|
12 |
-
|
13 |
|
14 |
モデル一覧
|
15 |
[mmnga/llm-jp-13b-v1.0-4bit-g128-GPTQ-calib-ja-1k](https://huggingface.co/mmnga/llm-jp-13b-v1.0-4bit-g128-GPTQ-calib-ja-1k)
|
@@ -17,6 +13,7 @@ license: apache-2.0
|
|
17 |
[mmnga/llm-jp-13b-instruct-full-dolly-oasst-v1.0-GPTQ-calib-ja-1k](https://huggingface.co/mmnga/llm-jp-13b-instruct-full-dolly-oasst-v1.0-GPTQ-calib-ja-1k)
|
18 |
|
19 |
GGUF版
|
|
|
20 |
[mmnga/llm-jp-13b-v1.0-gguf](https://huggingface.co/mmnga/llm-jp-13b-v1.0-gguf)
|
21 |
[mmnga/llm-jp-13b-instruct-full-jaster-dolly-oasst-v1.0-gguf](https://huggingface.co/mmnga/llm-jp-13b-instruct-full-jaster-dolly-oasst-v1.0-gguf)
|
22 |
[mmnga/llm-jp-13b-instruct-full-dolly-oasst-v1.0-gguf](https://huggingface.co/mmnga/llm-jp-13b-instruct-full-dolly-oasst-v1.0-gguf)
|
@@ -25,12 +22,12 @@ GGUF版
|
|
25 |
|
26 |
|
27 |
## Convert Script
|
28 |
-
[変換スクリプトはこちら](https://github.com/mmnga/
|
29 |
|
30 |
## Usage
|
31 |
|
32 |
```
|
33 |
-
git clone
|
34 |
cd llama.cpp
|
35 |
make -j
|
36 |
./main -m 'llm-jp-13b-instruct-full-dolly-oasst-v1.0-q4_0.gguf' -n 128 -p '今日の夕食のレシピを教えて ### 回答:' --top_p 0.9 --temp 0.7 --repeat-penalty 1.2
|
|
|
6 |
[llm-jpさんが公開しているllm-jp-13b-instruct-full-dolly-oasst-v1.0](https://huggingface.co/llm-jp/llm-jp-13b-instruct-full-dolly-oasst-v1.0)のggufフォーマット変換版です。
|
7 |
**jasterなし**です
|
8 |
|
|
|
|
|
|
|
|
|
9 |
|
10 |
モデル一覧
|
11 |
[mmnga/llm-jp-13b-v1.0-4bit-g128-GPTQ-calib-ja-1k](https://huggingface.co/mmnga/llm-jp-13b-v1.0-4bit-g128-GPTQ-calib-ja-1k)
|
|
|
13 |
[mmnga/llm-jp-13b-instruct-full-dolly-oasst-v1.0-GPTQ-calib-ja-1k](https://huggingface.co/mmnga/llm-jp-13b-instruct-full-dolly-oasst-v1.0-GPTQ-calib-ja-1k)
|
14 |
|
15 |
GGUF版
|
16 |
+
[mmnga/llm-jp-13b-instruct-dolly-en-ja-oasst-v1.1-gguf](https://huggingface.co/mmnga/llm-jp-13b-instruct-dolly-en-ja-oasst-v1.1-gguf)
|
17 |
[mmnga/llm-jp-13b-v1.0-gguf](https://huggingface.co/mmnga/llm-jp-13b-v1.0-gguf)
|
18 |
[mmnga/llm-jp-13b-instruct-full-jaster-dolly-oasst-v1.0-gguf](https://huggingface.co/mmnga/llm-jp-13b-instruct-full-jaster-dolly-oasst-v1.0-gguf)
|
19 |
[mmnga/llm-jp-13b-instruct-full-dolly-oasst-v1.0-gguf](https://huggingface.co/mmnga/llm-jp-13b-instruct-full-dolly-oasst-v1.0-gguf)
|
|
|
22 |
|
23 |
|
24 |
## Convert Script
|
25 |
+
[変換スクリプトはこちら](https://gist.github.com/mmnga/bcde6bab59132682307112fef0472b80#file-llm-jp_convert-hf-to-gguf-py)
|
26 |
|
27 |
## Usage
|
28 |
|
29 |
```
|
30 |
+
git clone https://github.com/ggerganov/llama.cpp.git
|
31 |
cd llama.cpp
|
32 |
make -j
|
33 |
./main -m 'llm-jp-13b-instruct-full-dolly-oasst-v1.0-q4_0.gguf' -n 128 -p '今日の夕食のレシピを教えて ### 回答:' --top_p 0.9 --temp 0.7 --repeat-penalty 1.2
|