Create README.md
Browse files
README.md
ADDED
|
@@ -0,0 +1,10 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
gemma-2-27b-itを日本語多めの重要度行列(iMatrix)を使って量子化したgguf版です。
|
| 2 |
+
日本語対応能力が多めに保持されている事を期待していますが確かめる事はまだ出来ていません
|
| 3 |
+
|
| 4 |
+
Q4_K_Mのwiki.test.raw(英語)を使ったperplexityスコアが他の同等GGUF量子化モデルに比べて何故か勝っている事は確認済ですが理由はまだわかりません
|
| 5 |
+
|
| 6 |
+
- llama.cpp側の不具合対応がほぼ完了した後に作成したからか?
|
| 7 |
+
- そもそもiMatrixは量子化強度が高いモデルでなければ効果があまりないという説もある
|
| 8 |
+
- そもそもwiki.test.raw(英語)で計測することにどこまで意味があるのか？
|
| 9 |
+
|
| 10 |
+
Window 11のCMD/PowerShellでは日本語が化けてしまう問題を確認しています。Linuxでは問題なく動くことを確認済です。
|