metadata

extra_gated_prompt: >-
  By clicking "Agree", you agree to the [License
  Agreement](https://huggingface.co/stabilityai/japanese-stablelm-2-instruct-1_6b/blob/main/LICENSE.txt)
  and acknowledge Stability AI's [Privacy
  Policy](https://stability.ai/privacy-policy).
license:
  - other
language:
  - en
  - ja
datasets:
  - TFMC/imatrix-dataset-for-japanese-llm
tags:
  - japanese-stablelm
  - causal-lm

japanese-stablelm-2-instruct-1_6b-gguf

stabilityaiさんが公開しているjapanese-stablelm-2-instruct-1_6bのggufフォーマット変換版です。

imatrixのデータはTFMC/imatrix-dataset-for-japanese-llmを使用して作成しました。

license

ご使用の前に利用規約を必ずご確認の上、同意した場合のみご利用になれます。ご使用される際は利用規約に同意したものとみなされます。

Please be sure to read this before using it, and you can use it only if you agree to it. By using this service, you are deemed to have agreed to the terms of use.

また、商用利用の際には、メンバーシップへの登録が必要です。
Please note: For commercial use, please refer to https://stability.ai/membership

Usage

git clone https://github.com/ggerganov/llama.cpp.git
cd llama.cpp
make -j
./main -m 'japanese-stablelm-2-instruct-1_6b-Q4_0.gguf' -n 128 -p 'こんにちわ'