File size: 372 Bytes
99cc35c d3ad36f 99cc35c d3ad36f 99cc35c d3ad36f |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 |
FROM ./fietje-3-mini-4k-instruct-Q8_0.gguf
TEMPLATE """{{ if .System }}<|system|>
{{ .System }}<|end|>
{{ end }}{{ if .Prompt }}<|user|>
{{ .Prompt }}<|end|>
{{ end }}<|assistant|>
{{ .Response }}<|end|>
"""
PARAMETER num_ctx 4096
PARAMETER stop "<|endoftext|>"
PARAMETER stop "<|end|>"
PARAMETER stop "<|user|>"
PARAMETER stop "<|assistant|>"
PARAMETER stop "<|system|>"
|