Update app.py

app.py

@@ -21,16 +21,19 @@ print("Model ready!")
 def response(message, history):
   #url="https://afischer1985-wizardlm-13b-v1-2-q4-0-gguf.hf.space/v1/completions"
   url="http://0.0.0.0:2600/v1/completions"  
-  body={"prompt":"Im Folgenden findest du eine Instruktion, die eine Aufgabe bescheibt. Schreibe eine Antwort, um die Aufgabe zu lösen.\n\n### Instruktion:\n"+message+"\n\n### Antwort:","max_tokens":500, "echo":"False","stream":"True"} #128
+  #body={"prompt":"Im Folgenden findest du eine Instruktion, die eine Aufgabe bescheibt. Schreibe eine Antwort, um die Aufgabe zu lösen.\n\n### Instruktion:\n"+message+"\n\n### Antwort:","max_tokens":500, "echo":"False","stream":"True"}
+  body={"prompt":" chat between a curious user and an artificial intelligence assistant. The assistant gives helpful, detailed, and polite answers to the user's questions.\n\nUSER:\n"+message+"\n\nASSISTANT:","max_tokens":500, "echo":"False","stream":"True"}   
   response=""
   buffer=""
   print("URL: "+url)
   print("User: "+message+"\nAI: ")
   for text in requests.post(url, json=body, stream=True):  #-H 'accept: application/json' -H 'Content-Type: application/json'
-    print("*** Raw String: "+str(text)+"\n***\n")
+    if buffer is None: buffer=""
+    buffer=str("".join(buffer))
+    #print("*** Raw String: "+str(text)+"\n***\n")
     text=text.decode('utf-8')
-    if(text.startswith(": ping -")==False):buffer=str(buffer)+str(text)
-    print("\n*** Buffer: "+str(buffer)+"\n***\n") 
+    if((text.startswith(": ping -")==False) & (len(text.strip("\n\r"))>0)): buffer=buffer+str(text)
+    #print("\n*** Buffer: "+str(buffer)+"\n***\n") 
     buffer=buffer.split('"finish_reason": null}]}')
     if(len(buffer)==1):
       buffer="".join(buffer)
@@ -43,7 +46,8 @@ def response(message, history):
         print(part, end="", flush=True)
         response=response+part
         buffer="" # reset buffer
-      except:
+      except Exception as e:
+        print("Exception:"+str(e))
         pass
     yield response