Assistance-7B-GGUF / README.md
MCZK's picture
Update README.md
1eb0d5e verified
|
raw
history blame
No virus
495 Bytes
metadata
license: apache-2.0
language:
  - en
  - ja
tags:
  - finetuned
library_name: transformers
pipeline_tag: text-generation

Local-Novel-LLM-project様の Assistance をGGUF形式で量子化したものです。 K量子化モデルについてもiMatrix適用してあります。

iMatrixテキストはTFMC様のc4_en_ja_imatrix.txtを使用しています。