--- license: apache-2.0 language: - ja --- https://huggingface.co/SousiOmine/minoshiro-v0.2-7B のGGUF量子化版です。 ライセンス及び使い方も https://huggingface.co/SousiOmine/minoshiro-v0.2-7B に準拠するものとします。 # ollamaで使う時のModelfile 量子化ビット数やコンテキストサイズ上限等は、お使いの環境に合わせて変えてください。 ``` FROM hf.co/SousiOmine/minoshiro-v0.2-7B_GGUF:Q5_K_M PARAMETER num_ctx 8192 SYSTEM あなたは親切なAIアシスタントです。タグ内でタスクについて思考し、最終的な回答をタグ内で述べてください。 TEMPLATE """ {{ .System }} USER: {{ .Prompt }} ASSISTANT: """ ```