Upload README.md

README.md

@@ -10,8 +10,9 @@ model_creator: VAGO solutions
 model_name: SauerkrautLM 70B v1
 model_type: llama
 pipeline_tag: text-generation
-prompt_template: "Ein Chat zwischen einem Benutzer und einem KI-Assistenten. Der KI-Assistent\
-  \ gibt hilfreiche, detaillierte und h\xF6fliche Antworten. \nUser: {prompt} \nAssistant:\n"
+prompt_template: "[INST] <<SYS>>\nEin Chat zwischen einem Benutzer und einem KI-Assistenten.\
+  \ Der KI-Assistent gibt hilfreiche, detaillierte und h\xF6fliche Antworten.\n<</SYS>>\n\
+  {prompt}[/INST]\n"
 quantized_by: TheBloke
 ---
 <!-- markdownlint-disable MD041 -->
@@ -73,12 +74,13 @@ Here is an incomplate list of clients and libraries that are known to support GG
 <!-- repositories-available end -->
 
 <!-- prompt-template start -->
-## Prompt template: Sauerkraut
+## Prompt template: Sauerkraut-Llama-2-Chat
 
 ```
-Ein Chat zwischen einem Benutzer und einem KI-Assistenten. Der KI-Assistent gibt hilfreiche, detaillierte und höfliche Antworten. 
-User: {prompt} 
-Assistant:
+[INST] <<SYS>>
+Ein Chat zwischen einem Benutzer und einem KI-Assistenten. Der KI-Assistent gibt hilfreiche, detaillierte und höfliche Antworten.
+<</SYS>>
+{prompt}[/INST]
 
 ```
 
@@ -229,7 +231,7 @@ Windows Command Line users: You can set the environment variable by running `set
 Make sure you are using `llama.cpp` from commit [d0cee0d](https://github.com/ggerganov/llama.cpp/commit/d0cee0d36d5be95a0d9088b674dbb27354107221) or later.
 
 ```shell
-./main -ngl 32 -m sauerkrautlm-70b-v1.Q4_K_M.gguf --color -c 4096 --temp 0.7 --repeat_penalty 1.1 -n -1 -p "Ein Chat zwischen einem Benutzer und einem KI-Assistenten. Der KI-Assistent gibt hilfreiche, detaillierte und höfliche Antworten. \nUser: {prompt} \nAssistant:"
+./main -ngl 32 -m sauerkrautlm-70b-v1.Q4_K_M.gguf --color -c 4096 --temp 0.7 --repeat_penalty 1.1 -n -1 -p "[INST] <<SYS>>\nEin Chat zwischen einem Benutzer und einem KI-Assistenten. Der KI-Assistent gibt hilfreiche, detaillierte und höfliche Antworten.\n<</SYS>>\n{prompt}[/INST]"
 ```
 
 Change `-ngl 32` to the number of layers to offload to GPU. Remove it if you don't have GPU acceleration.