Update README.md
Browse files
README.md
CHANGED
|
@@ -32,13 +32,13 @@ pipeline_tag: text-generation
|
|
| 32 |
LightChatAssistant-2x7Bから以下の特徴を引き継いでいます。
|
| 33 |
|
| 34 |
- ContextSize 32768 まで対応
|
| 35 |
-
- iQ3XXS量子化ファイルを用いれば、VRAM12GBでフルロード可能
|
| 36 |
|
| 37 |
また本モデルで狙った効果は以下の通りです。
|
| 38 |
|
| 39 |
1. 加算するInstruct割合を可能な限り落とさず、それでいて日本語をより自然にする
|
| 40 |
1. 長文を出力させても日本語をより滑らかにできるように調整
|
| 41 |
-
1. LightChatAssistant
|
| 42 |
|
| 43 |
製作者の環境では上記3点が実現できたため、本モデルには満足しています。
|
| 44 |
ただしプロンプト等によっては元モデルより劣るものもあるかもしれないため、バージョンアップとしてではなく別型としてリリースすることにしました。
|
|
|
|
| 32 |
LightChatAssistant-2x7Bから以下の特徴を引き継いでいます。
|
| 33 |
|
| 34 |
- ContextSize 32768 まで対応
|
| 35 |
+
- iQ3XXS量子化ファイルを用いれば、[`ContextSize:32768`]時でもVRAM12GBでフルロード可能
|
| 36 |
|
| 37 |
また本モデルで狙った効果は以下の通りです。
|
| 38 |
|
| 39 |
1. 加算するInstruct割合を可能な限り落とさず、それでいて日本語をより自然にする
|
| 40 |
1. 長文を出力させても日本語をより滑らかにできるように調整
|
| 41 |
+
1. LightChatAssistantの特徴であるクリエイティブな文章力も、可能な限りキープする
|
| 42 |
|
| 43 |
製作者の環境では上記3点が実現できたため、本モデルには満足しています。
|
| 44 |
ただしプロンプト等によっては元モデルより劣るものもあるかもしれないため、バージョンアップとしてではなく別型としてリリースすることにしました。
|