File size: 374 Bytes
774ca0c
c76056c
 
 
774ca0c
 
c76056c
774ca0c
 
 
 
 
c76056c
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
FROM ./fietje-3-mini-4k-instruct-Q4_K_M.gguf
TEMPLATE """{{ if .System }}<|system|>
{{ .System }}<|end|>
{{ end }}{{ if .Prompt }}<|user|>
{{ .Prompt }}<|end|>
{{ end }}<|assistant|>
{{ .Response }}<|end|>
"""
PARAMETER num_ctx 4096
PARAMETER stop "<|endoftext|>"
PARAMETER stop "<|end|>"
PARAMETER stop "<|user|>"
PARAMETER stop "<|assistant|>"
PARAMETER stop "<|system|>"