Update app.py

app.py

@@ -36,8 +36,14 @@ tokenizer = AutoTokenizer.from_pretrained(model_id)
 prompt_template = f"### Anweisung:\n{{input}}\n\n### Antwort:"
 
 
-def generate(instruction, temperature=1, max_new_tokens=256, top_p=0.9, length_penalty=1.0):
+def generate(instruction, temperature=1.0, max_new_tokens=256, top_p=0.9, length_penalty=1.0):
     formatted_instruction = prompt_template.format(input=instruction)
+    
+    # make sure temperature top_p and length_penalty are floats
+    temperature = float(temperature)
+    top_p = float(top_p)
+    length_penalty = float(length_penalty)
+    
     # COMMENT IN FOR NON STREAMING
     # generation_config = GenerationConfig(
     #     do_sample=True,
@@ -110,11 +116,8 @@ def save_inputs_and_outputs(inputs, outputs, generate_kwargs):
 examples = [
     """Beantworten Sie die Frage am Ende des Textes anhand der folgenden Zusammenhänge. Wenn Sie die Antwort nicht wissen, sagen Sie, dass Sie es nicht wissen, versuchen Sie nicht, eine Antwort zu erfinden.
 "Das Unternehmen wurde 2016 von den französischen Unternehmern Clément Delangue, Julien Chaumond und Thomas Wolf gegründet und entwickelte ursprünglich eine Chatbot-App, die sich an Teenager richtete.[2] Nachdem das Modell hinter dem Chatbot offengelegt wurde, konzentrierte sich das Unternehmen auf eine Plattform für maschinelles Lernen.
-
 Im März 2021 sammelte Hugging Face in einer Serie-B-Finanzierungsrunde 40 Millionen US-Dollar ein[3].
-
 Am 28. April 2021 rief das Unternehmen in Zusammenarbeit mit mehreren anderen Forschungsgruppen den BigScience Research Workshop ins Leben, um ein offenes großes Sprachmodell zu veröffentlichen.[4] Im Jahr 2022 wurde der Workshop mit der Ankündigung von BLOOM abgeschlossen, einem mehrsprachigen großen Sprachmodell mit 176 Milliarden Parametern.[5]"
-
 Frage: Wann wurde Hugging Face gegründet?""",
     "Erklären Sie, was eine API ist.",
     "Bitte beantworten Sie die folgende Frage. Wer wird der nächste Ballon d'or sein?",