mmnga commited on
Commit
ad3e856
1 Parent(s): 6faf86f

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +22 -0
README.md CHANGED
@@ -1,3 +1,25 @@
1
  ---
2
  license: apache-2.0
3
  ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
  ---
2
  license: apache-2.0
3
  ---
4
+ # japanese-stablelm-3b-4e1t-base-gguf
5
+ [stabilityaiさんが公開しているjapanese-stablelm-3b-4e1t-base](https://huggingface.co/stabilityai/japanese-stablelm-3b-4e1t-base)のggufフォーマット変換版です。
6
+
7
+ こちら[本家にサポートPR](https://github.com/ggerganov/llama.cpp/pull/3586)がありますので、本家で将来的に実行可能になると思います。
8
+
9
+
10
+ 他のモデルはこちら
11
+ [mmnga/japanese-stablelm-3b-4e1t-base-gguf](https://huggingface.co/mmnga/japanese-stablelm-3b-4e1t-base-gguf)
12
+ [mmnga/japanese-stablelm-3b-4e1t-instruct-gguf](https://huggingface.co/mmnga/japanese-stablelm-3b-4e1t-instruct-gguf)
13
+
14
+ 7bモデル
15
+ [mmnga/japanese-stablelm-base-gamma-7b-gguf](https://huggingface.co/mmnga/japanese-stablelm-base-gamma-7b-gguf)
16
+ [mmnga/japanese-stablelm-instruct-gamma-7b-gguf](https://huggingface.co/mmnga/japanese-stablelm-instruct-gamma-7b-gguf)
17
+
18
+ ## Usage
19
+
20
+ ```
21
+ git clone --branch mmnga-dev-merge https://github.com/ggerganov/llama.cpp.git
22
+ cd llama.cpp
23
+ make -j
24
+ ./main -m 'japanese-stablelm-3b-4e1t-base-q4_0.gguf' -n 128 -p '今夜の晩御飯のレシピをご紹介します。'
25
+ ```