Japanese-LLaMA-2-13B-GGUFはJapanese-LLaMA-2-13BのGGUF形式です。
モデルURL:https://huggingface.co/owner203/japanese-llama-2-13b
4-bit
8-bit
16-bit