Update app.py

app.py

@@ -16,41 +16,54 @@ gen_pipeline = pipeline(
 )
 
 # Define the function to generate text
-def generate_text(question, options, context, max_new_tokens=50, temperature=1):
-    if context is None:
-        context = "nessun contesto fornito."
+def generate_text(question, options, context, max_new_tokens=30, temperature=1):
 
-    open_ended_prompt = """
+    options_filtered = [option if option is not None for option in options]
+    options_string = "; ".join([["A) ","B) ","C) ","D) "][i]+options[i] for i in range(len(options_filtered))])+"."
+    
+    closed_prompt = """
     ### Contesto:
     {}
-
+    
     ### Domanda:
     {}
-
-    ### Risposta:
-    """
     
-    closed_ended_prompt = """
-    ### Contesto:
+    ### Opzioni:
     {}
     
+    ### Risposta:
+    """
+    
+    closed_prompt_no_context = """
     ### Domanda:
     {}
     
     ### Opzioni:
     {}
     
+    ### Risposta:
+    """
+    
+    open_prompt = """
+    ### Domanda:
+    {}
+    
     ### Risposta:
     """
 
-    if len(options)>0:
-        prompt = closed_ended_prompt.format(context,question, options)
+    #valid context, valid options
+    if context is not None and len(context)>1 and len(options_filtered)>1:
+        prompt = closed_prompt.format(context, question, options_string)
+    #invalid context, valid options
+    elif context is None or len(context)<1 and len(options_filtered)>1:
+        prompt = closed_prompt_no_context.format(question, options_string)
+    #invalid context, invalid options
     else:
-        prompt = open_ended_prompt.format(context,question)
+        prompt = open_prompt.format(question)
     
     output = gen_pipeline(
         prompt,
-        max_new_tokens=len(options) if (len(options)<max_new_tokens and len(options)>0) else max_new_tokens,
+        max_new_tokens=max_new_tokens,
         temperature=temperature,
         return_full_text = False
     )
@@ -58,9 +71,12 @@ def generate_text(question, options, context, max_new_tokens=50, temperature=1):
     return f"<span>{question} </span><b style='color: blue;'>{generated_text}</b>"
 
 # Create the Gradio interface
-question = gr.Textbox(lines=2, placeholder="La testa del femore palpabile all'esame rettale è una caratteristica di quale delle seguenti condizioni?", label="Domanda")
-options = gr.Textbox(lines=2, placeholder="1) Lussazione posteriore dell'anca; 2) Lussazione anteriore dell'anca; 3) Lussazione centrale dell'anca; 4) Lussazione dell'anca inferiore.", label="Opzioni")
-context = gr.Textbox(lines=2, placeholder="Parigi, capitale della Francia, è una delle città più importanti d'Europa, centro mondiale di arte, moda, gastronomia e cultura.", label="Contesto (facoltativo)")
+question = gr.Textbox(lines=1, placeholder="L'ostruzione uretrale cronica dovuta a iperplasia prismatica benigna può portare al seguente cambiamento nel parenchima renale", label="Domanda (Opzioni facoltative)")
+opa = gr.Textbox(lines=1, placeholder="Iperplasia")
+opb = gr.Textbox(lines=1, placeholder="Iperofia")
+opc = gr.Textbox(lines=1, placeholder="Atrofia")
+opd = gr.Textbox(lines=1, placeholder="Displasia")
+context = gr.Textbox(lines=2, placeholder="L'ostruzione uretrale cronica dovuta a calcoli urinari, iperofia prostatica, tumori, gravidanza normale, tumori, prolasso uterino o disturbi funzionali causano idronefrosi che per definizione viene utilizzata per descrivere la dilatazione della pelvi renale e dei calcoli associati ad atrofia progressiva del rene dovuta a ostruzione dell'uretra. Deflusso di urina. Fare riferimento a Robbins 7yh/9,1012,9/e. P950.", label="Contesto (facoltativo)")
 
 temperature = gr.Slider(minimum=0.1, maximum=2.0, value=1.0, step=0.1, label="Temperature")
 
@@ -69,6 +85,11 @@ with gr.Blocks(css="#outbox { border-radius: 8px !important; border: 1px solid #
     gr.Markdown("🐢💬 To guarantee a reasonable througput (<1 min to answer with default settings), this space employs a **GGUF quantized version of [Igea 1B](https://huggingface.co/bmi-labmedinfo/Igea-1B-v0.0.1)**, optimized for **hardware-limited, CPU-only machines** like the free-tier HuggingFace space.")
     gr.Markdown("⚠️ Read the **[bias, risks and limitations](https://huggingface.co/bmi-labmedinfo/Igea-1B-v0.0.1#%F0%9F%9A%A8%E2%9A%A0%EF%B8%8F%F0%9F%9A%A8-bias-risks-and-limitations-%F0%9F%9A%A8%E2%9A%A0%EF%B8%8F%F0%9F%9A%A8)** of Igea before use!")
     question.render()
+    with gr.Row():
+        opa.render()
+        opb.render()
+        opc.render()
+        opd.render()
     options.render()
     context.render()
     with gr.Accordion("Advanced Options", open=False):
@@ -76,7 +97,7 @@ with gr.Blocks(css="#outbox { border-radius: 8px !important; border: 1px solid #
     output = gr.HTML(label="Answer",elem_id="outbox")
 
     btn = gr.Button("Answer")
-    btn.click(generate_text, [question, options, context, temperature], output)
+    btn.click(generate_text, [question=question, options=[opa, opb, opc, opd], context=context, temperature=temperature], output)
 
 # Launch the interface
 if __name__ == "__main__":