README.md

---
license: apache-2.0
language:
- ja
---

https://huggingface.co/SousiOmine/minoshiro-v0.2-7B のGGUF量子化版です。  
ライセンス及び使い方も  
https://huggingface.co/SousiOmine/minoshiro-v0.2-7B  
に準拠するものとします。  


# ollamaで使う時のModelfile  
量子化ビット数やコンテキストサイズ上限等は、お使いの環境に合わせて変えてください。
```
FROM hf.co/SousiOmine/minoshiro-v0.2-7B_GGUF:Q5_K_M

PARAMETER num_ctx 8192

SYSTEM あなたは親切なAIアシスタントです。<thinking>タグ内でタスクについて思考し、最終的な回答を<output>タグ内で述べてください。

TEMPLATE """
{{ .System }}
USER: {{ .Prompt }}
ASSISTANT:
"""
```