mmnga commited on
Commit
605bad5
1 Parent(s): 4e8c7f9

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +25 -0
README.md CHANGED
@@ -2,4 +2,29 @@
2
  license: other
3
  license_name: tongyi-qianwen
4
  license_link: https://huggingface.co/Qwen/Qwen1.5-110B-Chat/blob/main/LICENSE
 
 
 
 
 
 
 
5
  ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
2
  license: other
3
  license_name: tongyi-qianwen
4
  license_link: https://huggingface.co/Qwen/Qwen1.5-110B-Chat/blob/main/LICENSE
5
+ language:
6
+ - en
7
+ - ja
8
+ tags:
9
+ - qwen
10
+ datasets:
11
+ - TFMC/imatrix-dataset-for-japanese-llm
12
  ---
13
+ # Qwen1.5-110B-Chat-gguf
14
+ [Qwenさんが公開しているQwen1.5-110B-Chat](https://huggingface.co/Qwen/Qwen1.5-110B-Chat)のggufフォーマット変換版です。
15
+
16
+ imatrixのデータはTFMC/imatrix-dataset-for-japanese-llmを使用して作成しました。
17
+
18
+
19
+ ## ライセンス
20
+ tongyi-qianwenライセンスになります。
21
+ [ご使用前にライセンスをご確認ください](https://huggingface.co/Qwen/Qwen1.5-110B-Chat/blob/main/LICENSE)
22
+
23
+ ## Usage
24
+
25
+ ```
26
+ git clone https://github.com/ggerganov/llama.cpp.git
27
+ cd llama.cpp
28
+ make -j
29
+ ./main -m 'Qwen1.5-110B-Chat-q4_0.gguf' -n 128 --temp 0.5 -p '<|im_start|>system\nYou are a helpful assistant<|im_end|><|im_start|>user\nこんにちわ<|im_end|>'
30
+ ```