Update app.py
Browse files
app.py
CHANGED
|
@@ -331,14 +331,14 @@ async def call_hf_model(prompt: str, temperature: float = 0.5, max_tokens: int =
|
|
| 331 |
logger.debug(f"PROMPT => {content_preview}")
|
| 332 |
try:
|
| 333 |
resp = client.text_generation(
|
| 334 |
-
|
| 335 |
-
prompt,
|
| 336 |
parameters={
|
| 337 |
"temperature": temperature,
|
| 338 |
"max_new_tokens": max_tokens,
|
| 339 |
"top_p": 0.9
|
| 340 |
}
|
| 341 |
-
|
| 342 |
# La struttura della risposta potrebbe variare; verifica il campo corretto
|
| 343 |
raw = resp.get("generated_text", "")
|
| 344 |
if not raw:
|
|
|
|
| 331 |
logger.debug(f"PROMPT => {content_preview}")
|
| 332 |
try:
|
| 333 |
resp = client.text_generation(
|
| 334 |
+
HF_MODEL, # Argomento posizionale
|
| 335 |
+
prompt, # Argomento posizionale
|
| 336 |
parameters={
|
| 337 |
"temperature": temperature,
|
| 338 |
"max_new_tokens": max_tokens,
|
| 339 |
"top_p": 0.9
|
| 340 |
}
|
| 341 |
+
)
|
| 342 |
# La struttura della risposta potrebbe variare; verifica il campo corretto
|
| 343 |
raw = resp.get("generated_text", "")
|
| 344 |
if not raw:
|