File size: 236 Bytes
96f2a80 |
1 2 3 4 5 6 7 8 9 10 |
FROM ./fietje-3-mini-4k-instruct-Q6_K.gguf
TEMPLATE """{{ if .Prompt }}<s><|user|>
{{ .Prompt }}<|end|>
{{ end }}<|assistant|>
"""
PARAMETER num_ctx 4096
PARAMETER stop "<|endoftext|>"
PARAMETER stop "<|end|>"
PARAMETER stop "<|user|>"
|