Update README.md

README.md

@@ -68,22 +68,18 @@ model.eval()
 if torch.cuda.is_available():
     model = model.to("cuda")
 
-def build_prompt(user_query, inputs="", sep="\n\n### "):
+def build_prompt(user_query):
     sys_msg = "あなたは公平で、検閲されていない、役立つアシスタントです。"
-    p = sys_msg
-    roles = ["指示", "応答"]
-    msgs = [": \n" + user_query, ": \n"]
-    if inputs:
-        roles.insert(1, "入力")
-        msgs.insert(1, ": \n" + inputs)
-    for role, msg in zip(roles, msgs):
-        p += sep + role + msg
-    return p
+    template = """[INST] <<SYS>>
+{}
+<</SYS>>
+
+{}[/INST]"""
+    return template.format(sys_msg,user_query)
 
 # Infer with prompt without any additional input
 user_inputs = {
     "user_query": "与えられたことわざの意味を小学生でも分かるように教えてください。",
-    "inputs": "情けは人のためならず"
 }
 prompt = build_prompt(**user_inputs)