mmnga commited on
Commit
d005a97
1 Parent(s): 5934cfa

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +3 -6
README.md CHANGED
@@ -6,10 +6,6 @@ license: apache-2.0
6
  [llm-jpさんが公開しているllm-jp-13b-instruct-full-dolly-oasst-v1.0](https://huggingface.co/llm-jp/llm-jp-13b-instruct-full-dolly-oasst-v1.0)のggufフォーマット変換版です。
7
  **jasterなし**です
8
 
9
- 注意:こちらはブランチで試用になります。llama.cpp本家にgpt2が実装された時に、このggufファイルが使用できない可能性があります。
10
-
11
- ***[GitHubリポジトリの readme はこちら](https://github.com/mmnga/llama.cpp/tree/mmnga-dev-merge)***
12
-
13
 
14
  モデル一覧
15
  [mmnga/llm-jp-13b-v1.0-4bit-g128-GPTQ-calib-ja-1k](https://huggingface.co/mmnga/llm-jp-13b-v1.0-4bit-g128-GPTQ-calib-ja-1k)
@@ -17,6 +13,7 @@ license: apache-2.0
17
  [mmnga/llm-jp-13b-instruct-full-dolly-oasst-v1.0-GPTQ-calib-ja-1k](https://huggingface.co/mmnga/llm-jp-13b-instruct-full-dolly-oasst-v1.0-GPTQ-calib-ja-1k)
18
 
19
  GGUF版
 
20
  [mmnga/llm-jp-13b-v1.0-gguf](https://huggingface.co/mmnga/llm-jp-13b-v1.0-gguf)
21
  [mmnga/llm-jp-13b-instruct-full-jaster-dolly-oasst-v1.0-gguf](https://huggingface.co/mmnga/llm-jp-13b-instruct-full-jaster-dolly-oasst-v1.0-gguf)
22
  [mmnga/llm-jp-13b-instruct-full-dolly-oasst-v1.0-gguf](https://huggingface.co/mmnga/llm-jp-13b-instruct-full-dolly-oasst-v1.0-gguf)
@@ -25,12 +22,12 @@ GGUF版
25
 
26
 
27
  ## Convert Script
28
- [変換スクリプトはこちら](https://github.com/mmnga/llama.cpp/blob/mmnga-dev-merge/convert-llmjp-to-gguf.py)
29
 
30
  ## Usage
31
 
32
  ```
33
- git clone --branch mmnga-dev-merge https://github.com/mmnga/llama.cpp.git
34
  cd llama.cpp
35
  make -j
36
  ./main -m 'llm-jp-13b-instruct-full-dolly-oasst-v1.0-q4_0.gguf' -n 128 -p '今日の夕食のレシピを教えて ### 回答:' --top_p 0.9 --temp 0.7 --repeat-penalty 1.2
 
6
  [llm-jpさんが公開しているllm-jp-13b-instruct-full-dolly-oasst-v1.0](https://huggingface.co/llm-jp/llm-jp-13b-instruct-full-dolly-oasst-v1.0)のggufフォーマット変換版です。
7
  **jasterなし**です
8
 
 
 
 
 
9
 
10
  モデル一覧
11
  [mmnga/llm-jp-13b-v1.0-4bit-g128-GPTQ-calib-ja-1k](https://huggingface.co/mmnga/llm-jp-13b-v1.0-4bit-g128-GPTQ-calib-ja-1k)
 
13
  [mmnga/llm-jp-13b-instruct-full-dolly-oasst-v1.0-GPTQ-calib-ja-1k](https://huggingface.co/mmnga/llm-jp-13b-instruct-full-dolly-oasst-v1.0-GPTQ-calib-ja-1k)
14
 
15
  GGUF版
16
+ [mmnga/llm-jp-13b-instruct-dolly-en-ja-oasst-v1.1-gguf](https://huggingface.co/mmnga/llm-jp-13b-instruct-dolly-en-ja-oasst-v1.1-gguf)
17
  [mmnga/llm-jp-13b-v1.0-gguf](https://huggingface.co/mmnga/llm-jp-13b-v1.0-gguf)
18
  [mmnga/llm-jp-13b-instruct-full-jaster-dolly-oasst-v1.0-gguf](https://huggingface.co/mmnga/llm-jp-13b-instruct-full-jaster-dolly-oasst-v1.0-gguf)
19
  [mmnga/llm-jp-13b-instruct-full-dolly-oasst-v1.0-gguf](https://huggingface.co/mmnga/llm-jp-13b-instruct-full-dolly-oasst-v1.0-gguf)
 
22
 
23
 
24
  ## Convert Script
25
+ [変換スクリプトはこちら](https://gist.github.com/mmnga/bcde6bab59132682307112fef0472b80#file-llm-jp_convert-hf-to-gguf-py)
26
 
27
  ## Usage
28
 
29
  ```
30
+ git clone https://github.com/ggerganov/llama.cpp.git
31
  cd llama.cpp
32
  make -j
33
  ./main -m 'llm-jp-13b-instruct-full-dolly-oasst-v1.0-q4_0.gguf' -n 128 -p '今日の夕食のレシピを教えて ### 回答:' --top_p 0.9 --temp 0.7 --repeat-penalty 1.2