mmnga commited on
Commit
3403206
1 Parent(s): e9d766f

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +20 -0
README.md CHANGED
@@ -1,3 +1,23 @@
1
  ---
2
  license: apache-2.0
3
  ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
  ---
2
  license: apache-2.0
3
  ---
4
+ # japanese-stablelm-instruct-ja_vocab-beta-7b-gguf
5
+ [stabilityaiさんが公開しているjapanese-stablelm-instruct-ja_vocab-beta-7b](https://huggingface.co/stabilityai/japanese-stablelm-instruct-ja_vocab-beta-7b)のgguf版です。
6
+
7
+ モデル一覧
8
+ GPTQ
9
+ [mmnga/japanese-stablelm-base-ja_vocab-beta-7b-GPTQ-calib-ja-1k](https://huggingface.co/mmnga/japanese-stablelm-base-ja_vocab-beta-7b-GPTQ-calib-ja-1k)
10
+ [mmnga/japanese-stablelm-instruct-ja_vocab-beta-7b-GPTQ-calib-ja-1k](https://huggingface.co/mmnga/japanese-stablelm-instruct-ja_vocab-beta-7b-GPTQ-calib-ja-1k)
11
+
12
+ GGUF
13
+ [mmnga/japanese-stablelm-base-ja_vocab-beta-7b-gguf](https://huggingface.co/mmnga/japanese-stablelm-base-ja_vocab-beta-7b-gguf)
14
+ [mmnga/japanese-stablelm-instruct-ja_vocab-beta-7b-gguf](https://huggingface.co/mmnga/japanese-stablelm-instruct-ja_vocab-beta-7b-gguf)
15
+
16
+ ## Usage
17
+
18
+ ```
19
+ git clone https://github.com/ggerganov/llama.cpp.git
20
+ cd llama.cpp
21
+ make -j
22
+ ./main -m 'japanese-stablelm-instruct-ja_vocab-beta-7b-q4_0.gguf' -n 128 --temp 0.8 -p '<s>[INST] <<SYS>>\nあなたは役立つアシスタントです。\n<<SYS>>\n\n与えられたことわざの意味を小学生でも分かるように教えてください。\n\n情けは人のためならず [/INST] \n'
23
+ ```