Update app.py

app.py

@@ -14,7 +14,7 @@ temperature=0.4
 max_new_tokens=240
 top_p=0.92
 repetition_penalty=1.7
-max_length=2048
+#max_length=2048
 
 model_name = "OpenLLM-France/Claire-7B-0.1"
 
@@ -61,7 +61,7 @@ class FalconChatBot:
         # Generate a response using the Falcon model
         response = model.generate(
             input_ids=input_ids, 
-            max_length=max_length, 
+        #   max_length=max_length, 
             use_cache=False, 
             early_stopping=False, 
             bos_token_id=model.config.bos_token_id, 
@@ -88,12 +88,16 @@ falcon_bot = FalconChatBot()
 title = "👋🏻Bienvenue à Tonic's 🌜🌚Claire Chat !"
 description = "Vous pouvez utiliser [🌜🌚ClaireGPT](https://huggingface.co/OpenLLM-France/Claire-7B-0.1) Ou dupliquer pour l'uiliser localement ou sur huggingface! [Join me on Discord to build together](https://discord.gg/VqTxc76K3u)."
 history = [
-     {"user": "Le dialogue suivant est une conversation entre Emmanuel Macron et Elon Musk:", "assistant": "Emmanuel Macron: Bonjour Monsieur Musk. Je vous remercie de me recevoir aujourd'hui."},]
+    {
+        "user": "Le dialogue suivant est une conversation entre Emmanuel Macron et Elon Musk:",
+        "assistant": "Emmanuel Macron: Bonjour Monsieur Musk. Je vous remercie de me recevoir aujourd'hui."
+    },
+]
 examples = [
     [
         "[Elon Musk:] - Bonjour Emmanuel. Enchanté de vous revoir.",  # user_message
         "[Emmanuel Macron:] - Je vois que vous avez effectué un voyage dans la région de la Gascogne.",  # assistant_message
-        [],  # history
+        history,  # history
         0.4,  # temperature
         700,  # max_new_tokens
         0.90,  # top_p
@@ -105,7 +109,7 @@ additional_inputs=[
     gr.Textbox("", label="Introduisez Un Autre Personnage Ici ou Mettez En Scene"),
     gr.Slider(
         label="Temperature",
-        value=0.9,
+        value=0.7,  # Default value
         minimum=0.0,
         maximum=1.0,
         step=0.05,
@@ -114,10 +118,10 @@ additional_inputs=[
     ),
     gr.Slider(
         label="Max new tokens",
-        value=256,
-        minimum=0,
-        maximum=3000,
-        step=64,
+        value=700,  # Default value
+        minimum=1,
+        maximum=1024,
+        step=1,
         interactive=True,
         info="The maximum numbers of new tokens",
     ),