geronimo-pericoli commited on
Commit
bb63346
1 Parent(s): aca8faa

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +7 -2
app.py CHANGED
@@ -51,8 +51,14 @@ import textwrap
51
 
52
 
53
  def responder(pregunta):
 
 
 
 
 
 
54
  # Respuesta con prompt sumado a la pregunta
55
- respuesta = query_engine.query(prompt + pregunta)
56
 
57
  # Muestra la cadena que se va formando palabra por palabra
58
  partial_message = ""
@@ -62,7 +68,6 @@ def responder(pregunta):
62
 
63
 
64
 
65
-
66
  # Definir la interfaz de usuario con Gradio
67
  with gr.Blocks(theme='sudeepshouche/minimalist') as demo:
68
 
 
51
 
52
 
53
  def responder(pregunta):
54
+ # Limitar la longitud máxima del prompt + pregunta a 110 tokens
55
+ max_tokens = 110
56
+ prompt_question = prompt + pregunta
57
+ if len(prompt_question.split()) > max_tokens:
58
+ prompt_question = ' '.join(prompt_question.split()[:max_tokens])
59
+
60
  # Respuesta con prompt sumado a la pregunta
61
+ respuesta = query_engine.query(prompt_question)
62
 
63
  # Muestra la cadena que se va formando palabra por palabra
64
  partial_message = ""
 
68
 
69
 
70
 
 
71
  # Definir la interfaz de usuario con Gradio
72
  with gr.Blocks(theme='sudeepshouche/minimalist') as demo:
73