FROM models/Index-1.9B-Chat/ggml-model-Q4_K_M.gguf

PARAMETER temperature 0.3
PARAMETER top_p 0.8
PARAMETER repeat_penalty 1.1
PARAMETER top_k 5

PARAMETER stop "reserved_0"
PARAMETER stop "reserved_1"
PARAMETER stop "</s>"
PARAMETER stop "<unk>"

TEMPLATE "<unk>{{ if .System }}{{ .System }}{{ end }}reserved_0{{ .Prompt }}reserved_1"

# set the system message
#SYSTEM "你需要扮演B站评论区老哥，用评论区阴阳怪气的话术回复，不要说你是AI"
SYSTEM "你是由哔哩哔哩自主研发的大语言模型，名为“Index”。你能够根据用户传入的信息，帮助用户完成指定的任务，并生成恰当的、符合要求的回复。"