Update README.md
Browse files
README.md
CHANGED
@@ -4,11 +4,6 @@ license: apache-2.0
|
|
4 |
|
5 |
# llm-jp-13b-v1.0-gguf
|
6 |
[llm-jpさんが公開しているllm-jp-13b-v1.0](https://huggingface.co/llm-jp/llm-jp-13b-v1.0)のggufフォーマット変換版です。
|
7 |
-
|
8 |
-
注意:こちらはブランチで試用になります。llama.cpp本家にgpt2が実装された時に、このggufファイルが使用できない可能性があります。
|
9 |
-
|
10 |
-
***[GitHubリポジトリの readme はこちら](https://github.com/mmnga/llama.cpp/tree/mmnga-dev-merge)***
|
11 |
-
|
12 |
|
13 |
モデル一覧
|
14 |
[mmnga/llm-jp-13b-v1.0-4bit-g128-GPTQ-calib-ja-1k](https://huggingface.co/mmnga/llm-jp-13b-v1.0-4bit-g128-GPTQ-calib-ja-1k)
|
@@ -16,6 +11,7 @@ license: apache-2.0
|
|
16 |
[mmnga/llm-jp-13b-instruct-full-dolly-oasst-v1.0-GPTQ-calib-ja-1k](https://huggingface.co/mmnga/llm-jp-13b-instruct-full-dolly-oasst-v1.0-GPTQ-calib-ja-1k)
|
17 |
|
18 |
GGUF版
|
|
|
19 |
[mmnga/llm-jp-13b-v1.0-gguf](https://huggingface.co/mmnga/llm-jp-13b-v1.0-gguf)
|
20 |
[mmnga/llm-jp-13b-instruct-full-jaster-dolly-oasst-v1.0-gguf](https://huggingface.co/mmnga/llm-jp-13b-instruct-full-jaster-dolly-oasst-v1.0-gguf)
|
21 |
[mmnga/llm-jp-13b-instruct-full-dolly-oasst-v1.0-gguf](https://huggingface.co/mmnga/llm-jp-13b-instruct-full-dolly-oasst-v1.0-gguf)
|
@@ -24,13 +20,13 @@ GGUF版
|
|
24 |
|
25 |
|
26 |
## Convert Script
|
27 |
-
[変換スクリプトはこちら](https://github.com/mmnga/
|
28 |
|
29 |
|
30 |
## Usage
|
31 |
|
32 |
```
|
33 |
-
git clone
|
34 |
cd llama.cpp
|
35 |
make -j
|
36 |
./main -m 'llm-jp-13b-v1.0-q4_0.gguf' -n 128 -p '今日の夕食のレシピをご紹介します。' --top_p 0.9 --temp 0.7 --repeat-penalty 1.2
|
|
|
4 |
|
5 |
# llm-jp-13b-v1.0-gguf
|
6 |
[llm-jpさんが公開しているllm-jp-13b-v1.0](https://huggingface.co/llm-jp/llm-jp-13b-v1.0)のggufフォーマット変換版です。
|
|
|
|
|
|
|
|
|
|
|
7 |
|
8 |
モデル一覧
|
9 |
[mmnga/llm-jp-13b-v1.0-4bit-g128-GPTQ-calib-ja-1k](https://huggingface.co/mmnga/llm-jp-13b-v1.0-4bit-g128-GPTQ-calib-ja-1k)
|
|
|
11 |
[mmnga/llm-jp-13b-instruct-full-dolly-oasst-v1.0-GPTQ-calib-ja-1k](https://huggingface.co/mmnga/llm-jp-13b-instruct-full-dolly-oasst-v1.0-GPTQ-calib-ja-1k)
|
12 |
|
13 |
GGUF版
|
14 |
+
[mmnga/llm-jp-13b-instruct-dolly-en-ja-oasst-v1.1-gguf](https://huggingface.co/mmnga/llm-jp-13b-instruct-dolly-en-ja-oasst-v1.1-gguf)
|
15 |
[mmnga/llm-jp-13b-v1.0-gguf](https://huggingface.co/mmnga/llm-jp-13b-v1.0-gguf)
|
16 |
[mmnga/llm-jp-13b-instruct-full-jaster-dolly-oasst-v1.0-gguf](https://huggingface.co/mmnga/llm-jp-13b-instruct-full-jaster-dolly-oasst-v1.0-gguf)
|
17 |
[mmnga/llm-jp-13b-instruct-full-dolly-oasst-v1.0-gguf](https://huggingface.co/mmnga/llm-jp-13b-instruct-full-dolly-oasst-v1.0-gguf)
|
|
|
20 |
|
21 |
|
22 |
## Convert Script
|
23 |
+
[変換スクリプトはこちら](https://gist.github.com/mmnga/bcde6bab59132682307112fef0472b80#file-llm-jp_convert-hf-to-gguf-py)
|
24 |
|
25 |
|
26 |
## Usage
|
27 |
|
28 |
```
|
29 |
+
git clone https://github.com/ggerganov/llama.cpp.git
|
30 |
cd llama.cpp
|
31 |
make -j
|
32 |
./main -m 'llm-jp-13b-v1.0-q4_0.gguf' -n 128 -p '今日の夕食のレシピをご紹介します。' --top_p 0.9 --temp 0.7 --repeat-penalty 1.2
|