Sdff-Ltba
/

LightChatAssistant-2x7B-GGUF

Text Generation

Mixture of Experts

Not-For-All-Audiences

nsfw

Inference Endpoints

Model card Files Files and versions Community

Sdff-Ltba commited on Apr 6

Commit

dccdb1e

•

1 Parent(s): 35ed6a9

Update README.md

Files changed (1) hide show

README.md +1 -1

README.md CHANGED Viewed

@@ -12,7 +12,7 @@ pipeline_tag: text-generation
 # LightChatAssistant-2x7B-GGUF
 [Sdff-Ltba/LightChatAssistant-2x7B](https://huggingface.co/Sdff-Ltba/LightChatAssistant-2x7B)をGGUF変換したものです。
-iQ3_XXSはiMatrixを併用して量子化しています。(それ以外はiMatrix非適用です)
 ※製作者は本モデルを使うときはiQ3_XXSを使用しています。
 ## 量子化手順

 # LightChatAssistant-2x7B-GGUF
 [Sdff-Ltba/LightChatAssistant-2x7B](https://huggingface.co/Sdff-Ltba/LightChatAssistant-2x7B)をGGUF変換したものです。
+ファイル名に`_imatrix`が付いているものはiMatrixを併用して量子化しています。
 ※製作者は本モデルを使うときはiQ3_XXSを使用しています。
 ## 量子化手順