Update app.py

app.py

@@ -80,6 +80,7 @@ os.environ["TAVILY_API_KEY"] = TAVILY_KEY
 #MODEL_NAME = "gpt-3.5-turbo-1106"
 MODEL_NAME= "gpt-4-1106-preview"
 MODEL_NAME_IMAGE = "gpt-4-vision-preview"
+MODEL_NAME_CODE = "code-davinci-002"
 
 
 #verfügbare Modelle anzeigen lassen
@@ -167,6 +168,12 @@ def clear_all(history, uploaded_file_paths, chats):
  
     return None, gr.Image(visible=False), uploaded_file_paths, [], gr.File(uploaded_file_paths, label="Download-Chatverläufe",  visible=True, file_count="multiple", interactive = False), chats
     
+
+#wenn löschen Button geklickt
+def clear_all3(history):          
+    #die session variable in gradio erweitern und alle fliepath neu in das gr.File hochladen
+    uploaded_file_paths=  ""
+    return None, gr.Image(visible=False), [],  
     
 
 
@@ -198,6 +205,7 @@ def add_text2(chatbot, prompt):
     print("chatbot nach add_text............")
     print(chatbot)
     return chatbot, prompt, ""
+
     
 ############################################
 #nach dem Upload soll das zusätzliche Fenster mit dem image drinnen angezeigt werden
@@ -491,6 +499,81 @@ def generate_text (prompt, chatbot, history, rag_option, model_option, openai_ap
 
     return result, suche_im_Netz
 
+
+#Funktion wird direkt aufgerufen aus der GUI - von hier muss auch die Rückmeldung kommen....
+#man kann einen Text-Prompt eingeben , dazu ein Image hochladen, und dann dazu code erzeugen lassen
+def generate_code(prompt_in, file, chatbot, history, model_option, openai_api_key, k=3, top_p=0.6, temperature=0.5, max_new_tokens=4048, max_context_length_tokens=2048, repetition_penalty=1.3,top_k=35):
+        #prompt normalisieren bevor er an die KIs geht
+        prompt = normalise_prompt(prompt_in)
+
+        #kein Bild hochgeladen -> auf Text antworten...
+        status = "Antwort der KI ..."
+        if (file == None and file_history == None):
+            result, status = generate_code_antwort(prompt, chatbot, history, model_option, openai_api_key, k=3, top_p=0.6, temperature=0.5, max_new_tokens=4048, max_context_length_tokens=2048, repetition_penalty=1.3, top_k=35)
+            history = history + [[prompt, result]]
+        else:
+            #Es wurde ein File neu angehängt -> wenn prompt dazu, das Bild analysieren
+            #das history_fiel muss neu gesetzt werden
+            if (file != None):
+                # file_history wird neu gesetzt in der Rückgabe dieser Funktion...
+                neu_file = file
+
+            #herausfinden, ob Bild oder Dokument...
+            ext = analyze_file(neu_file)
+            if (ext == "png" or ext == "PNG" or ext == "jpg" or ext == "jpeg" or ext == "JPG" or ext == "JPEG"):
+                result= generate_text_zu_bild(neu_file, prompt, k, rag_option, chatbot, history, db)
+            else:
+                result = generate_text_zu_doc(neu_file, prompt, k, rag_option, chatbot, history, db)
+
+            #die history erweitern - abhängig davon, ob gerade ein file hochgeladen wurde oder nicht
+            if (file != None):    
+                history = history + [[(file,), None],[prompt, result]]
+            else:
+                history = history + [[prompt, result]]
+                
+        chatbot[-1][1] = ""
+        for character in result:
+            chatbot[-1][1] += character
+            time.sleep(0.03)
+            yield chatbot, history, None, neu_file, status
+            if shared_state.interrupted:
+                shared_state.recover()
+                try:
+                    yield chatbot, history, None, neu_file, "Stop: Success"
+                except:
+                    pass
+
+
+####################################################
+#aus einem Text-Prompt die Antwort von KI bekommen
+#mit oder ohne RAG möglich
+def generate_code_antwort (prompt, chatbot, history,  model_option, openai_api_key,  k=3, top_p=0.6, temperature=0.5, max_new_tokens=4048, max_context_length_tokens=2048, repetition_penalty=1.3, top_k=35):
+    suche_im_Netz="Antwort der KI ..."
+    print("Text pur..............................")
+    if (openai_api_key == "" or openai_api_key == "sk-"):
+        #raise gr.Error("OpenAI API Key is required.")
+        #eigenen OpenAI key nutzen
+        openai_api_key= OAI_API_KEY
+    if (prompt == ""):
+        raise gr.Error("Prompt ist erforderlich.")
+
+    
+    try:
+        ###########################
+        #LLM auswählen (OpenAI oder HF)
+        ###########################
+        if (model_option == "Davinci"):
+            #Anfrage an OpenAI ----------------------------
+            print("OpenAI Anfrage.......................")
+            llm = ChatOpenAI(model_name = MODEL_NAME_CODE,  openai_api_key = openai_api_key, temperature=temperature)#, top_p = top_p) 
+            #Prompt an history anhängen und einen Text daraus machen
+            history_text_und_prompt = generate_prompt_with_history_openai(prompt, history) 
+        else:
+            #oder an Hugging Face --------------------------
+            
+        print("LLM aufrufen ohne RAG: ...........")
+        resulti = llm_chain(llm, history_text_und_prompt)
+        result = resulti.strip()
         
       
 ################################################
@@ -531,16 +614,23 @@ with gr.Blocks(css=custom_css(), theme=themeAlex) as demo:
     # für die Übergabe an die ki aber der Pfad zum Bild behalten werden muss - was in der history der Fall ist!
     history = gr.State([])
     uploaded_file_paths= gr.State([])
+    history3 = gr.State([])
+    uploaded_file_paths3= gr.State([])
     #alle chats einer Session sammeln
     chats = gr.State({})
     #damit der Prompt auch nach dem upload in die History noch für predicts_args verfügbar ist
     user_question = gr.State("")
+    #für die anderen Tabs auch...
     #damit der Prompt auch nach dem upload in die History noch für predicts_args verfügbar ist
     user_question2 = gr.State("")
+    user_question3 = gr.State("")
     attached_file = gr.State(None)
     attached_file_history = gr.State(None)
+    attached_file3 = gr.State(None)
+    attached_file_history3 = gr.State(None)
     status_display = gr.State("")
     status_display2 = gr.State("")
+    status_display3 = gr.State("")
     ################################################
     # Tab zum Chatbot mit Text oder Bildeingabe
     ################################################
@@ -637,8 +727,8 @@ with gr.Blocks(css=custom_css(), theme=themeAlex) as demo:
     # Tab zum Zeichnen mit Stable Diffusion
     ################################################
     with gr.Tab("LI Zeichnen"):
-        with gr.Row():
-            #gr.HTML("LI Zeichnen mit KI")
+        with gr.Row(): 
+            gr.HTML("Lass den KI-Bot deine Ideen zeichnen...")
             status_display2 = gr.Markdown("Success", visible = False, elem_id="status_display")
         #gr.Markdown(description2)
         with gr.Row():
@@ -657,14 +747,47 @@ with gr.Blocks(css=custom_css(), theme=themeAlex) as demo:
                         #cancelBtn2 = gr.Button("Stop")
                 with gr.Row():
                     emptyBtn2 = gr.ClearButton([user_input, chatbot_bild], value="🧹 Neue Session", scale=10)  
-                    #additional_inputs_accordion = gr.Accordion(label="Weitere Eingaben...",  open=False)
+                    #additional_inputs_accordion = gr.Accordion(label="Weitere Eingaben...",  open=False)     
             with gr.Column():
                 with gr.Column(min_width=50, scale=1):
                     with gr.Tab(label="Parameter Einstellung"):
                         #gr.Markdown("# Parameters")
                         model_option_zeichnen = gr.Radio(["Stable Diffusion","DallE"], label="Modellauswahl", value = "Stable Diffusion")
 
+    
+    with gr.Tab("LI Codebot"):
+         with gr.Row(): 
+            gr.HTML("Gib als textuelle Beschreibung ein, was in Programmcode übersetzt werden soll und in welcher Sprache...")
+            status_display3 = gr.Markdown("Success", visible = False, elem_id="status_display")
+        #gr.Markdown(description2)
+        with gr.Row():
+            with gr.Column(scale=5):
+                with gr.Row():
+                    chatbot_code = gr.Chatbot(elem_id="li-zeichnen",show_copy_button=True, show_share_button=True)
+                with gr.Row():
+                    with gr.Column(scale=12):
+                        user_input3 = gr.Textbox(
+                            show_label=False, placeholder="Gib hier deinen Prompt ein...",
+                            container=False
+                        )
+                    with gr.Column(min_width=70, scale=1):
+                        submitBtn3 = gr.Button("Senden")
+                    with gr.Column(min_width=70, scale=1):
+                        cancelBtn3 = gr.Button("Stop")
+                with gr.Row():
+                        #file_display = gr.File(visible=False)
+                        image_display3 = gr.Image( visible=False)
+                        upload3 = gr.UploadButton("📁", file_types=["image", "pdf", "docx", "pptx", "xlsx"], scale = 10)
+                        emptyBtn3 = gr.ClearButton([user_input, chatbot, history, attached_file, attached_file_history, image_display], value="🧹 Neue Session", scale=10) 
+            with gr.Column():
+                with gr.Column(min_width=50, scale=1):
+                    with gr.Tab(label="Parameter Einstellung"):
+                        #gr.Markdown("# Parameters")
+                        model_option_code3 = gr.Radio(["Davinci","kommt noch"], label="Modellauswahl", value = "Davinci")
+
 
+
+        
     gr.Markdown(description)        
     
     ######################################
@@ -740,6 +863,50 @@ with gr.Blocks(css=custom_css(), theme=themeAlex) as demo:
     #cancelBtn2.click(
         #cancels=[predict_event2_1,predict_event2_2 ]
     #)
+
+
+    ######################################
+    # Für Tab 3: Codebot
+    #Argumente für generate Funktion als Input
+    predict_args = dict(
+        fn=generate_code,
+        inputs=[
+            user_question3,
+            attached_file3,
+            chatbot3,
+            history3,
+            model_option,
+            openai_key,
+            anzahl_docs3,
+            top_p,
+            temperature,
+            max_length_tokens,
+            max_context_length_tokens,
+            repetition_penalty,
+            top_k
+        ],
+        outputs=[chatbot_code, history3, attached_file3, status_display3], 
+        show_progress=True,
+    )
+
+
+    reset_args3 = dict(
+        fn=reset_textbox, inputs=[], outputs=[user_input3, status_display3]
+    )
+
+    # Chatbot
+    transfer_input_args3 = dict(    
+        fn=add_text, inputs=[chatbot_code, history3, user_input3, attached_file3], outputs=[chatbot_code, history3, user_question3, attached_file3, image_display3, user_input3], show_progress3=True
+    )
+
+    predict_event3_1 = user_input3.submit(**transfer_input_args3, queue=False,).then(**predict_args3)
+    predict_event3_2 = submitBtn3.click(**transfer_input_args3, queue=False,).then(**predict_args3)
+    predict_event3_3 = upload3.upload(file_anzeigen3, [upload3], [image_display3, image_display3, attached_file3] ) #.then(**predict_args)
+    emptyBtn3.click(clear_all3, [history3], [attached_file3, image_display3, history3])   
+    #Bild Anzeige neben dem Button wieder entfernen oder austauschen..
+    image_display3.select(file_loeschen3, [], [attached_file3, image_display3])
+    #download_button.click(fn=download_chats, inputs=chat_selector, outputs=[file_download])
+
     
     
 demo.title = "LI-ChatBot"