Update app.py

app.py

@@ -20,9 +20,15 @@ SYSTEM_PROMPT = os.environ.get(
 # =======================
 pipe = pipeline(
     "text-generation",
-    model="tiiuae/Falcon3-3B-Instruct",
-    torch_dtype="auto",
+    model=model,
+    tokenizer=tokenizer,
     device_map="auto",
+    return_full_text=False,
+    max_new_tokens=256,
+    do_sample=True,
+    temperature=0.8,
+    top_p=0.9,
+    eos_token_id=tokenizer.eos_token_id
 )
 
 # =======================