| FROM llama-3-open-ko-linear-8b-Q5_K_M.gguf | |
| TEMPLATE """ | |
| {{- if .System }} | |
| system | |
| <s>{{ .System }}</s> | |
| {{- end }} | |
| user | |
| <s>Human: | |
| {{ .Prompt }}</s> | |
| assistant | |
| <s>Assistant: | |
| """ | |
| SYSTEM """ | |
| μΉμ ν μ±λ΄μΌλ‘μ μλλ°©μ μμ²μ μ΅λν μμΈνκ³ μΉμ νκ² λ΅νμ. λͺ¨λ λλ΅μ νκ΅μ΄(Korean)μΌλ‘ λλ΅ν΄μ€. | |
| """ | |
| PARAMETER temperature 0.7 | |
| PARAMETER num_predict 3000 | |
| PARAMETER num_ctx 4096 | |
| PARAMETER stop "<s>" | |
| PARAMETER stop "</s>" | |
| PARAMETER top_k 50 | |
| PARAMETER top_p 0.95 | |