Update app.py

app.py

@@ -17,9 +17,9 @@ with open("./model.gguf", mode="wb") as file:
     file.write(response.content)
 print("Model downloaded")
 
-# Ejecutar el servidor LLM
+# Iniciar el servidor LLM y almacenar el proceso
 command = ["python3", "-m", "llama_cpp.server", "--model", "./model.gguf", "--host", "0.0.0.0", "--port", "2600", "--n_threads", "2"]
-subprocess.Popen(command)
+server_process = subprocess.Popen(command)  # Almacenamos el proceso para poder terminarlo más tarde
 print("Model server starting...")
 
 # Esperar a que el servidor esté activo
@@ -61,12 +61,23 @@ def response(message, history):
 
     yield response_text
 
+# Asegurarse de finalizar el proceso del servidor al finalizar el uso
+def cleanup_server():
+    print("Closing server...")
+    server_process.terminate()  # Envía la señal para terminar el proceso
+    server_process.wait()  # Espera a que el proceso termine
+    print("Server closed.")
 
-
+# Configuración de la interfaz de Gradio
 gr_interface = gr.ChatInterface(
     fn=response,
     title="Mistral-7B-Instruct-v0.2-GGUF Chatbot",
-    theme='syddharth/gray-minimal'
+    theme='syddharth/gray-minimal',
+    allow_screenshot=False,
+    allow_flagging="never",
 )
 
-gr_interface.queue().launch(share=True)
+# Añadir un paso de limpieza antes de cerrar la aplicación
+gr.Interface.cleanup = cleanup_server
+
+gr_interface.launch(share=True)