mmnga's picture
Update README.md
b3c8900 verified
|
raw
history blame
1.76 kB
metadata
license: llama2
language:
  - en
  - ja
datasets:
  - TFMC/imatrix-dataset-for-japanese-llm

tokyotech-llm-Swallow-7b-instruct-v0.1-gguf

tokyotech-llmさんが公開しているSwallow-7b-instruct-v0.1のggufフォーマット変換版です。

imatrixのデータはTFMC/imatrix-dataset-for-japanese-llmを使用して作成しました。

他のモデル

mistral
mmnga/tokyotech-llm-Swallow-MS-7b-instruct-v0.1-gguf
mmnga/tokyotech-llm-Swallow-7b-plus-hf-gguf
mmnga/tokyotech-llm-Swallow-MS-7b-v0.1-gguf
mmnga/tokyotech-llm-Swallow-MX-8x7b-NVE-v0.1-gguf

llama2
mmnga/tokyotech-llm-Swallow-7b-instruct-v0.1-gguf
mmnga/tokyotech-llm-Swallow-13b-instruct-v0.1-gguf
mmnga/tokyotech-llm-Swallow-70b-instruct-v0.1-gguf

Usage

git clone https://github.com/ggerganov/llama.cpp.git
cd llama.cpp
make -j
./main -m 'tokyotech-llm-Swallow-7b-instruct-v0.1-Q4_0.gguf' -n 128 -p '[INST]<<SYS>\nあなたは誠実で優秀な日本人のアシスタントです。\n<</SYS>>\n\n東京工業大学の主なキャンパスについて教えてください[/INST]'