Update app

app.py

@@ -24,12 +24,12 @@ model = AutoModelForCausalLM.from_pretrained(
 )
 pipe = pipeline("text-generation", model=model, tokenizer=tokenizer)
 
-def generate_response(message, temperature=0.7):
+def generate_response(message, temperature=0.7, max_new_tokens=500):
     try:
         response = pipe(
             message,
             temperature=temperature,
-            max_new_tokens=500,
+            max_new_tokens=max_new_tokens,
             do_sample=True
         )
         return response[0]['generated_text']
@@ -41,7 +41,8 @@ demo = gr.Interface(
     fn=generate_response,
     inputs=[
         gr.Textbox(label="Votre message", placeholder="Entrez votre message ici..."),
-        gr.Slider(minimum=0.1, maximum=1.0, value=0.7, label="Température")
+        gr.Slider(minimum=0.1, maximum=1.0, value=0.7, label="Température"),
+        gr.Slider(minimum=10, maximum=500, value=50, label="Nombre de tokens")
     ],
     outputs=gr.Textbox(label="Réponse"),
     title="Chat avec Sacha-Mistral",