Update app.py

app.py

@@ -16,7 +16,7 @@ else:
 storage_context = StorageContext.from_defaults(persist_dir=".")
 
 # Crear un nuevo modelo and service context (with the same variable name)
-modelo = LLMPredictor(llm=ChatOpenAI(temperature=0, model_name='gpt-3.5-turbo-16k', max_tokens=7000, top_p=0, stream=True))
+modelo = LLMPredictor(llm=ChatOpenAI(temperature=0, model_name='gpt-3.5-turbo-16k', max_tokens=7000, top_p=0))
 service_context = ServiceContext.from_defaults(llm_predictor=modelo)
 
 # Cargar el nuevo index Doc_1 (with the same variable name)
@@ -25,7 +25,6 @@ index = load_index_from_storage(service_context=service_context, storage_context
 # Prompt personalizado para el nuevo index
 prompt = 'responder en español como un asistente experto en medicina, dando una respuesta detallada y reflejando de forma fiel los datos disponibles. Considerar segun aplique la siguiente informacion adicional: Nombre del Medicamento: Acsodix. Principio Activo: Vortioxetina. Formas y Dosis: Acsodix 5, 10, y 20 mg (comprimidos recubiertos). Indicaciones: Tratamiento de episodios de depresión mayor en adultos. Contraindicaciones: Alergia a la Vortioxetina, toma de ciertos inhibidores de la monoaminooxidasa, enfermedad hepática grave, etc. Precauciones: Embarazo, lactancia, conducción, uso de otros medicamentos, etc. Efectos Adversos: Náuseas, diarrea, vómitos, mareo, prurito, etc. Instrucciones de Uso: Se puede tomar con o sin alimentos, no se aconseja la combinación con alcohol, etc. Sobredosis: Síntomas y tratamientos en caso de sobredosis. Presentación: Cajas conteniendo 30 comprimidos recubiertos en diferentes dosis. Almacenamiento: Conservar a temperatura ambiente inferior a 30 °C. Fabricante y Distribuidor: Mega Labs S.A., Industria Uruguaya, La dosis máxima de Acsodix para adultos menores a 65 años es de 20 mg al día. Se debe tener precaución cuando se traten pacientes mayores de 65 años de edad con dosis superiores a 10 mg de Vortioxetina una vez al día, ya que los datos son limitados.'
 
-# Funcion de chat para el nuevo index Doc_1
 # Funcion de chat para el nuevo index Doc_1
 def predict(message):
     # Agrega la pregunta del usuario al historial en formato OpenAI
@@ -38,23 +37,25 @@ def predict(message):
     # Obtener la pregunta del usuario
     user_message = full_prompt[-1]["content"]
     
-    # Utilizar el nuevo modelo y index Doc_1 para generar la respuesta
+    # Utilizar el nuevo index Doc_1 para generar la respuesta
     query = user_message
     respuesta = index.as_query_engine().query(query)
     
     # Respuesta de OpenAI basada en la consulta y agregarla al historial
     response = openai.ChatCompletion.create(
-        model=modelo.llm.model_name,  # Use the new model
-        messages=full_prompt  # Use the message history
+        model='gpt-3.5-turbo-16k',  # Use the new model
+        max_tokens=1000,
+        messages=full_prompt,
+        temperature=0.5,
+        stream=True
     )
-    
+
     partial_message = ""
     for chunk in response:
         if len(chunk['choices'][0]['delta']) != 0:
-            partial_message += chunk['choices'][0]['delta']['content']
+            partial_message = partial_message + chunk['choices'][0]['delta']['content']
             yield partial_message
 
-
 # Define la interfaz de Gradio para el nuevo index Doc_1
 gr.Interface(
     fn=predict,