Update app.py

app.py

@@ -90,6 +90,8 @@ def load_lora_model(
     if debug:
         print(model)
 
+    model.eval()
+
     return model, tokenizer