|
--- |
|
license: mit |
|
tags: |
|
- llama |
|
--- |
|
|
|
# rinna-youri-7b-instruction-gguf |
|
[rinnaさんが公開しているyouri-7b-instruction](https://huggingface.co/rinna/youri-7b-instruction)のggufフォーマット変換版です。 |
|
|
|
モデル一覧 |
|
|
|
GGUF版 |
|
[mmnga/rinna-youri-7b-gguf](https://huggingface.co/mmnga/rinna-youri-7b-gguf) |
|
[mmnga/rinna-youri-7b-instruction-gguf](https://huggingface.co/mmnga/rinna-youri-7b-instruction-gguf) |
|
[mmnga/rinna-youri-7b-chat-gguf](https://huggingface.co/mmnga/rinna-youri-7b-chat-gguf) |
|
|
|
## Usage |
|
|
|
``` |
|
git clone https://github.com/ggerganov/llama.cpp.git |
|
cd llama.cpp |
|
make -j |
|
./main -m 'rinna-youri-7b-instruction-q4_0.gguf' -n 128 -p '今日の夕食のレシピを紹介してください。' --top_p 0.9 --temp 0.7 --repeat-penalty 1.2 |
|
``` |
