alfredplpl-suzume-poc-gguf

alfredplplさんが公開しているsuzume-pocのggufフォーマット変換版です。 ベースモデルはgemma-2bになります。

Licence

ご利用にはgemma-terms-of-use 利用規約を確認し、同意が必要です。

Usage

git clone https://github.com/ggerganov/llama.cpp.git
cd llama.cpp
make -j
./main -m 'alfredplpl-suzume-poc-q4_0.gguf' -p "人工知能とは" -n 128