| license: mit | |
| language: | |
| - ja | |
| - en | |
| # rinna/bilingual-gpt-neox-4b-instruction-ppo | |
| [rinnaさんが公開しているbilingual-gpt-neox-4b-instruction-ppo](https://huggingface.co/rinna/bilingual-gpt-neox-4b-instruction-ppo)のggml変換版です。 | |
| ## Usage | |
| ``` | |
| git clone https://github.com/ggerganov/ggml.git | |
| cd ggml | |
| mkdir build && cd build | |
| cmake .. | |
| make -j | |
| ./bin/gpt-neox -m 'rinna-bilingual-gpt-neox-4b-instruction-ppo-ggml-q4_0.bin' -n 128 -t 8 -p '科学技術の発展はAIによって、' | |
| ``` |