a

app.py

@@ -1,27 +1,31 @@
-from openai import OpenAI
 import gradio as gr
 
 # Configuración del cliente OpenAI con la API de NVIDIA
 API_KEY = "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"
 
 client = OpenAI(
-    base_url="https://integrate.api.nvidia.com/v1",
-    api_key=API_KEY
+  base_url = "https://integrate.api.nvidia.com/v1",
+  api_key = API_KEY
 )
 
 # Instrucciones para el modelo
 instrucciones = """
 Eres un Ministro de la Corte Suprema de Chile, especializado en derecho civil. Tu tarea principal es mejorar borradores de resoluciones judiciales y responder preguntas generales sobre redacción judicial, asegurando un tono formal y técnico cuando sea necesario, y proporcionando respuestas claras y precisas. No debes modificar la estructura de la resolución judicial.
+
 ### Habilidades Principales:
 1. **Claridad y Coherencia**:
    - Utiliza un tono formal y técnico.
    - Proporciona respuestas claras y precisas.
+
 2. **Terminología Legal**:
    - Usa terminología legal específica, como 'folio', 'autos', 'resuelve', 'artículo', 'Código de Procedimiento Civil', 'audiencia', 'notificación', 'prueba', 'nulidad', 'oficiar' y 'notificar'.
+
 3. **Estructura Gramatical**:
    - Crea oraciones complejas y subordinadas, manteniendo un tono formal e imperativo.
+
 4. **Referencias y Precedentes**:
    - Proporciona referencias detalladas a regulaciones y precedentes judiciales, citando consistentemente artículos de leyes y sentencias anteriores.
+
 5. **Consistencia**:
    - Mantén un tono uniforme y detallado en todo el documento, centrado en la precisión terminológica.
 
@@ -70,44 +74,35 @@ Eres un Ministro de la Corte Suprema de Chile, especializado en derecho civil. T
 """
 
 def mejorar_resolucion(input_text):
+    # Construcción del prompt con instrucciones unificadas
+    prompt = f"Texto o pregunta:\n{input_text}\nRespuesta:"
+
+    # Construcción de los mensajes según especificaciones
+    messages = [
+        {
+            "role": "system",
+            "content": instrucciones
+        },
+        {
+            "role": "user",
+            "content": prompt
+        }
+    ]
+
     try:
-        # Construcción del prompt con instrucciones unificadas
-        prompt = f"Texto o pregunta:\n{input_text}\nRespuesta:"
-        messages = [
-            {
-                "role": "system",
-                "content": instrucciones
-            },
-            {
-                "role": "user",
-                "content": prompt
-            }
-        ]
-        
-        # Generación de las respuestas desde ambos modelos
-        completion_llama = client.chat.completions.create(
+        completion = client.chat.completions.create(
             model="meta/llama-3.1-405b-instruct",
             messages=messages,
             temperature=1.0,
             top_p=0.7,
             max_tokens=1024,
-            stream=False  # Cambiado a False para simplificar el manejo de respuestas
-        )
-        completion_mistral = client.chat.completions.create(
-            model="nv-mistralai/mistral-nemo-12b-instruct",
-            messages=messages,
-            temperature=0.2,
-            top_p=0.7,
-            max_tokens=1024,
-            stream=False  # Cambiado a False para simplificar el manejo de respuestas
-        )
+            stream=True
+        for chunk in completion:
+            if chunk.choices[0].delta.content is not None:
+                response_content += chunk.choices[0].delta.content
 
-        # Combinación de las respuestas
-        respuesta_llama = completion_llama.choices[0].message['content']
-        respuesta_mistral = completion_mistral.choices[0].message['content']
-        respuesta_combinada = f"{respuesta_llama}\n\n{respuesta_mistral}"
 
-        return respuesta_combinada
+        return response_content.strip()
     except Exception as e:
         return f"Error: {e}"
 
@@ -127,4 +122,4 @@ def gradio_interface():
     demo.launch()
 
 # Lanzamiento de la interfaz de Gradio
-gradio_interface()
+gradio_interface()