lightblue-karasu-1.1B-gguf

lightblueさんが公開しているkarasu-1.1Bのggufフォーマット変換版です。 TinyLlamaベースになります。

Usage

git clone https://github.com/ggerganov/llama.cpp.git
cd llama.cpp
make -j
./main -m 'lightblue-karasu-1.1B-q4_0.gguf' -p "今夜の晩御飯をご紹介します。" -n 128