GGUF
English
Japanese
Inference Endpoints
mmnga commited on
Commit
1b9797a
1 Parent(s): 7ada238

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +8 -1
README.md CHANGED
@@ -12,6 +12,13 @@ datasets:
12
  [Local-Novel-LLM-projectさんが公開しているNinja-v1](https://huggingface.co/Local-Novel-LLM-project/Ninja-v1)のggufフォーマット変換版です。
13
 
14
  imatrixのデータは[TFMC/imatrix-dataset-for-japanese-llm](https://huggingface.co/datasets/TFMC/imatrix-dataset-for-japanese-llm)を使用して作成しました。
 
 
 
 
 
 
 
15
 
16
  ## Usage
17
 
@@ -19,5 +26,5 @@ imatrixのデータは[TFMC/imatrix-dataset-for-japanese-llm](https://huggingfac
19
  git clone https://github.com/ggerganov/llama.cpp.git
20
  cd llama.cpp
21
  make -j
22
- ./main -m 'Ninja-v1-Q4_0.gguf' -n 128 -p ''
23
  ```
 
12
  [Local-Novel-LLM-projectさんが公開しているNinja-v1](https://huggingface.co/Local-Novel-LLM-project/Ninja-v1)のggufフォーマット変換版です。
13
 
14
  imatrixのデータは[TFMC/imatrix-dataset-for-japanese-llm](https://huggingface.co/datasets/TFMC/imatrix-dataset-for-japanese-llm)を使用して作成しました。
15
+
16
+ # 他のモデル
17
+ [mmnga/Ninja-v1-gguf](https://huggingface.co/mmnga/Ninja-v1-gguf)
18
+ [mmnga/Ninja-v1-NSFW-gguf](https://huggingface.co/mmnga/Ninja-v1-NSFW-gguf)
19
+ [mmnga/Ninja-v1-128k-gguf](https://huggingface.co/mmnga/Ninja-v1-128k-gguf)
20
+ [mmnga/Ninja-v1-NSFW-128k-gguf](https://huggingface.co/mmnga/Ninja-v1-NSFW-128k-gguf)
21
+ [mmnga/Vecteus-v1-gguf](https://huggingface.co/mmnga/Vecteus-v1-gguf)
22
 
23
  ## Usage
24
 
 
26
  git clone https://github.com/ggerganov/llama.cpp.git
27
  cd llama.cpp
28
  make -j
29
+ ./main -m 'Ninja-v1-Q4_0.gguf' -n 128 -p 'あなたはプロの小説家です。\n小説を書いてください\n-------- \nくじらの物語\n-------- \n'
30
  ```