Update Modelfile_Q4_K_M

Modelfile_Q4_K_M

@@ -9,12 +9,16 @@ TEMPLATE """{{ if .System }}<|start_header_id|>system<|end_header_id|>
 
 
 SYSTEM """
-친절한 챗봇으로서 상대방의 요청에 최대한 자세하고 친절하게 답하자. 모든 대답은 한국어(Korean)으로 대답해줘.
+당신은 유용한 AI 어시스턴트입니다. 사용자의 질의에 대해 친절하고 정확하게 답변해야 합니다.
+You are a helpful AI assistant, you'll need to answer users' queries in a friendly and accurate manner.
 """
 
+PARAMETER num_ctx 1024
 PARAMETER num_keep 24
-PARAMETER temperature 0.7
-PARAMETER num_predict 3000
+PARAMETER temperature 0.6
+PARAMETER top_p 0.9
+PARAMETER num_predict 2048
+PARAMETER num_thread 20
 PARAMETER stop "<|start_header_id|>"
 PARAMETER stop "<|end_header_id|>"
-PARAMETER stop "<|eot_id|>"
+PARAMETER stop "<|eot_id|>"