|
--- |
|
license: mit |
|
tags: |
|
- llama |
|
--- |
|
|
|
# rinna-youri-7b-chat-gguf |
|
[rinnaさんが公開しているyouri-7b-chat](https://huggingface.co/rinna/youri-7b-chat)のggufフォーマット変換版です。 |
|
|
|
モデル一覧 |
|
|
|
GGUF版 |
|
[mmnga/rinna-youri-7b-gguf](https://huggingface.co/mmnga/rinna-youri-7b-gguf) |
|
[mmnga/rinna-youri-7b-instruction-gguf](https://huggingface.co/mmnga/rinna-youri-7b-instruction-gguf) |
|
[mmnga/rinna-youri-7b-chat-gguf](https://huggingface.co/mmnga/rinna-youri-7b-chat-gguf) |
|
|
|
## Usage |
|
|
|
``` |
|
git clone https://github.com/ggerganov/llama.cpp.git |
|
cd llama.cpp |
|
make -j |
|
./main -m 'rinna-youri-7b-chat-q4_0.gguf' -n 128 -p 'ユーザー:今日の夕食のレシピをご紹介して システム:' --top_p 0.9 --temp 0.7 --repeat-penalty 1.2 |
|
``` |
