mmnga/rinna-bilingual-gpt-neox-4b-instruction-sft-ggml

rinna/bilingual-gpt-neox-4b-instruction-sft

rinnaさんが公開しているbilingual-gpt-neox-4b-instruction-sftのggml変換版です。

Usage

git clone https://github.com/ggerganov/ggml.git
cd ggml
mkdir build && cd build
cmake ..
make -j
./bin/gpt-neox -m 'rinna-bilingual-gpt-neox-4b-instruction-sft-ggml-q4_0.bin' -n 128 -t 8 -p '科学技術の発展はAIによって、'