Update app.py

app.py

@@ -14,7 +14,7 @@ app = FastAPI()
 os.makedirs("/tmp/huggingface", exist_ok=True)
 
 # Carica il modello Hugging Face
-model_name = "microsoft/DialoGPT-small"
+model_name = "microsoft/DialoGPT-medium"
 tokenizer = AutoTokenizer.from_pretrained(model_name)
 model = AutoModelForCausalLM.from_pretrained(model_name)
 
@@ -31,7 +31,12 @@ async def chat(request: Request):
 
     # Tokenizzazione e generazione della risposta
     inputs = tokenizer(prompt, return_tensors="pt")
-    outputs = model.generate(inputs["input_ids"], max_length=50)
+    outputs = model.generate(
+    inputs["input_ids"],
+    max_length=50,
+    pad_token_id=tokenizer.eos_token_id,  # Aggiunto per evitare warning
+    attention_mask=inputs["attention_mask"]  # Aggiunto per maggiore stabilità
+)
     response = tokenizer.decode(outputs[0], skip_special_tokens=True)
 
     return JSONResponse({"response": response})