Assistance-7B-GGUF / README.md
MCZK's picture
Update README.md
1eb0d5e verified
|
raw
history blame
No virus
495 Bytes
---
license: apache-2.0
language:
- en
- ja
tags:
- finetuned
library_name: transformers
pipeline_tag: text-generation
---
Local-Novel-LLM-project様の [Assistance](https://huggingface.co/Local-Novel-LLM-project/Assistance) をGGUF形式で量子化したものです。
K量子化モデルについてもiMatrix適用してあります。
iMatrixテキストはTFMC様の[c4_en_ja_imatrix.txt](https://huggingface.co/datasets/TFMC/imatrix-dataset-for-japanese-llm)を使用しています。