mmnga commited on
Commit
6ea3ceb
1 Parent(s): 243d6cf

Create README.md

Browse files
Files changed (1) hide show
  1. README.md +22 -0
README.md ADDED
@@ -0,0 +1,22 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ license: apache-2.0
3
+ language:
4
+ - en
5
+ - ja
6
+ datasets:
7
+ - TFMC/imatrix-dataset-for-japanese-llm
8
+ ---
9
+ # YuisekinAIEvol-Mistral-7B-ja-math-v0.1.1-gguf
10
+ [yuisekiさんが公開しているYuisekinAIEvol-Mistral-7B-ja-math-v0.1.1](https://huggingface.co/yuiseki/YuisekinAIEvol-Mistral-7B-ja-math-v0.1.1)のggufフォーマット変換版です。
11
+
12
+ imatrixのデータは[TFMC/imatrix-dataset-for-japanese-llm](https://huggingface.co/datasets/TFMC/imatrix-dataset-for-japanese-llm)を使用して作成しました。
13
+
14
+
15
+ ## Usage
16
+
17
+ ```
18
+ git clone https://github.com/ggerganov/llama.cpp.git
19
+ cd llama.cpp
20
+ make -j
21
+ ./main -m 'YuisekinAIEvol-Mistral-7B-ja-math-v0.1.1-Q4_0.gguf' -p "[INST] 今晩の夕食のレシピを教えて [/INST] " -n 128
22
+ ```