あかねと～くのGPT2用ファインチューニングデータを、llama.cppで利用するためのELYZA用LoRAアダプターです。 とりあえず公開。
./main -ins --color -m .\models\ELYZA-japanese-Llama-2-7b-fast-instruct-q4_K_M.gguf --lora .\loras\akane-talk-ELYZA.bin
関係各位に感謝します。
- あかねと～くデータセット[https://github.com/npaka3/akane-talk]
- ELYZA-fast-instruct(https://huggingface.co/elyza/ELYZA-japanese-Llama-2-7b-fast-instruct)
- ggufファイル(https://huggingface.co/mmnga/ELYZA-japanese-Llama-2-7b-fast-instruct-gguf)