mmnga commited on
Commit
d593f42
1 Parent(s): f57382e

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +3 -7
README.md CHANGED
@@ -4,11 +4,6 @@ license: apache-2.0
4
 
5
  # llm-jp-13b-v1.0-gguf
6
  [llm-jpさんが公開しているllm-jp-13b-v1.0](https://huggingface.co/llm-jp/llm-jp-13b-v1.0)のggufフォーマット変換版です。
7
-
8
- 注意:こちらはブランチで試用になります。llama.cpp本家にgpt2が実装された時に、このggufファイルが使用できない可能性があります。
9
-
10
- ***[GitHubリポジトリの readme はこちら](https://github.com/mmnga/llama.cpp/tree/mmnga-dev-merge)***
11
-
12
 
13
  モデル一覧
14
  [mmnga/llm-jp-13b-v1.0-4bit-g128-GPTQ-calib-ja-1k](https://huggingface.co/mmnga/llm-jp-13b-v1.0-4bit-g128-GPTQ-calib-ja-1k)
@@ -16,6 +11,7 @@ license: apache-2.0
16
  [mmnga/llm-jp-13b-instruct-full-dolly-oasst-v1.0-GPTQ-calib-ja-1k](https://huggingface.co/mmnga/llm-jp-13b-instruct-full-dolly-oasst-v1.0-GPTQ-calib-ja-1k)
17
 
18
  GGUF版
 
19
  [mmnga/llm-jp-13b-v1.0-gguf](https://huggingface.co/mmnga/llm-jp-13b-v1.0-gguf)
20
  [mmnga/llm-jp-13b-instruct-full-jaster-dolly-oasst-v1.0-gguf](https://huggingface.co/mmnga/llm-jp-13b-instruct-full-jaster-dolly-oasst-v1.0-gguf)
21
  [mmnga/llm-jp-13b-instruct-full-dolly-oasst-v1.0-gguf](https://huggingface.co/mmnga/llm-jp-13b-instruct-full-dolly-oasst-v1.0-gguf)
@@ -24,13 +20,13 @@ GGUF版
24
 
25
 
26
  ## Convert Script
27
- [変換スクリプトはこちら](https://github.com/mmnga/llama.cpp/blob/mmnga-dev-merge/convert-llmjp-to-gguf.py)
28
 
29
 
30
  ## Usage
31
 
32
  ```
33
- git clone --branch mmnga-dev-merge https://github.com/mmnga/llama.cpp.git
34
  cd llama.cpp
35
  make -j
36
  ./main -m 'llm-jp-13b-v1.0-q4_0.gguf' -n 128 -p '今日の夕食のレシピをご紹介します。' --top_p 0.9 --temp 0.7 --repeat-penalty 1.2
 
4
 
5
  # llm-jp-13b-v1.0-gguf
6
  [llm-jpさんが公開しているllm-jp-13b-v1.0](https://huggingface.co/llm-jp/llm-jp-13b-v1.0)のggufフォーマット変換版です。
 
 
 
 
 
7
 
8
  モデル一覧
9
  [mmnga/llm-jp-13b-v1.0-4bit-g128-GPTQ-calib-ja-1k](https://huggingface.co/mmnga/llm-jp-13b-v1.0-4bit-g128-GPTQ-calib-ja-1k)
 
11
  [mmnga/llm-jp-13b-instruct-full-dolly-oasst-v1.0-GPTQ-calib-ja-1k](https://huggingface.co/mmnga/llm-jp-13b-instruct-full-dolly-oasst-v1.0-GPTQ-calib-ja-1k)
12
 
13
  GGUF版
14
+ [mmnga/llm-jp-13b-instruct-dolly-en-ja-oasst-v1.1-gguf](https://huggingface.co/mmnga/llm-jp-13b-instruct-dolly-en-ja-oasst-v1.1-gguf)
15
  [mmnga/llm-jp-13b-v1.0-gguf](https://huggingface.co/mmnga/llm-jp-13b-v1.0-gguf)
16
  [mmnga/llm-jp-13b-instruct-full-jaster-dolly-oasst-v1.0-gguf](https://huggingface.co/mmnga/llm-jp-13b-instruct-full-jaster-dolly-oasst-v1.0-gguf)
17
  [mmnga/llm-jp-13b-instruct-full-dolly-oasst-v1.0-gguf](https://huggingface.co/mmnga/llm-jp-13b-instruct-full-dolly-oasst-v1.0-gguf)
 
20
 
21
 
22
  ## Convert Script
23
+ [変換スクリプトはこちら](https://gist.github.com/mmnga/bcde6bab59132682307112fef0472b80#file-llm-jp_convert-hf-to-gguf-py)
24
 
25
 
26
  ## Usage
27
 
28
  ```
29
+ git clone https://github.com/ggerganov/llama.cpp.git
30
  cd llama.cpp
31
  make -j
32
  ./main -m 'llm-jp-13b-v1.0-q4_0.gguf' -n 128 -p '今日の夕食のレシピをご紹介します。' --top_p 0.9 --temp 0.7 --repeat-penalty 1.2