grapevine-AI commited on
Commit
07a11f7
1 Parent(s): 9cc5434

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +28 -5
README.md CHANGED
@@ -1,5 +1,28 @@
1
- ---
2
- license: other
3
- license_name: exaone
4
- license_link: LICENSE
5
- ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ license: other
3
+ license_name: exaone
4
+ license_link: LICENSE
5
+ ---
6
+ # What is this?
7
+ LG AI Researchの韓国語-英語バイリンガル言語モデル[EXAONE-3.5-32B-Instruct](https://huggingface.co/LGAI-EXAONE/EXAONE-3.5-32B-Instruct)を日本語imatrixで量子化したものです。<br>
8
+ なお、**商用利用はできません**のでご注意ください。
9
+
10
+ # imatrix dataset
11
+ 日本語能力を重視し、日本語が多量に含まれる[TFMC/imatrix-dataset-for-japanese-llm](https://huggingface.co/datasets/TFMC/imatrix-dataset-for-japanese-llm)データセットを使用しました。<br>
12
+ 公式配布されているBF16版GGUFを利用しましたが、途中、計算リソースの関係上imatrixの算出においてはQ8_0量子化モデルを使用しました。
13
+
14
+ # Chat template
15
+ ```
16
+ [|system|]ここにsystemプロンプトを書きます[|endofturn|]
17
+ [|user|]ここにMessageを書きます
18
+ [|assistant|]
19
+ ```
20
+
21
+ # Environment
22
+ Windows(CUDA12)版llama.cpp-b4178を使用して量子化作業を実施しました。
23
+
24
+ # License
25
+ EXAONE AI Model License Agreement 1.1 - NC
26
+
27
+ # Developer
28
+ LG AI Research