--- language: - en - ja library_name: transformers pipeline_tag: text-generation license: llama3 model_type: llama --- tokyotech-llm様の [Llama-3-Swallow-8B-Instruct-v0.1](https://huggingface.co/tokyotech-llm/Llama-3-Swallow-8B-Instruct-v0.1) をGGUF形式に変換したものです。 K量子化モデルについてもiMatrix適用してあります。 iMatrixテキストはTFMC様の[c4_en_ja_imatrix.txt](https://huggingface.co/datasets/TFMC/imatrix-dataset-for-japanese-llm)を使用しています。