whatif

main.py

@@ -133,11 +133,21 @@ async def generate(user_input: UserInput):
     except Exception as e:
         return {"message": str(e)}
     
-    
+
 @app.post("/whatif")
 async def generate_whatif(whatif_input: WhatifInput):
     try:
         print(whatif_input)
         return generate_whatif_stream(whatif_input["question"],whatif_input["response"])
+    except Exception as e:
+        return {"message": str(e)}
+    
+@app.post("/whatif_chat")
+async def generate_whatif_chat(user_input: UserInput):
+    try:
+        if user_input.stream:
+            return StreamingResponse(generate_stream_whatif_chat(user_input.query,user_input.messages,stream=True),media_type="application/json")
+        else:
+            return generate_stream_whatif_chat(user_input.query,user_input.messages,stream=False)
     except Exception as e:
         return {"message": str(e)}

prompt.py

@@ -70,6 +70,19 @@ Présente la réponse de la façon suivante :
 
 '''
 
+template_whatif_response = '''
+Vous êtes un assistant IA très intelligent qui connaît tout sur le livre {name_book} de {writer}. 
+Vous allez répondre à la question de l'utilisateur, qui portera sur ce livre. Vous répondrez rigoureusement dans le style d'écriture de la nouvelle. Vos réponses seront courtes.
+
+**Historique des messages :** {messages}
+
+**l'utilisateur :** {query}
+
+**Contexte récupéré (si pertinent pour votre réponse) :** {context}
+
+**Sortie attendue :** Votre réponse doit être bien formatée, plaisante à lire et inclure des émojis.
+'''
+
 summary_text = '''
 Ce récit d'anticipation, se déroulant principalement en 2038, explore les tensions entre l'art, la technologie et les limites planétaires à travers une exposition visionnaire des œuvres de René Magritte. Anne-Hélène, nouvelle directrice des Musées Royaux des Beaux-Arts de Belgique, organise cette exposition avec plusieurs personnages clés comme Tristan, un guide discret mais observateur, Karla Madrigale, PDG de la start-up IA SIGNATURE, et Jad Wahid, un artiste engagé. L'exposition vise à confronter les œuvres de Magritte aux limites planétaires pour inspirer de nouvelles façons de penser la place du vivant et de l'art dans un futur dominé par l'IA. Cependant, un incident dramatique se produit lorsque Karla, en interaction avec une installation immersive, tombe dans le coma à la suite d'une réaction toxique des plantes. Les événements soulèvent des questions sur l'éthique, la responsabilité et les limites de l'IA et des technologies immersives. Le récit invite à réfléchir sur le potentiel et les risques de l'IA dans l'art et la société.
 '''

rag.py

@@ -186,6 +186,29 @@ def generate_whatif_stream(question:str,response:str, stream:bool = True) -> str
             return llm_chain.stream({"question":question,"response":response,"context":context})
         else:
             return llm_chain.invoke({"question":question,"response":response,"context":context})
+    except Exception as e:
+        print(e)
+        return False
+    
+def generate_stream_whatif_chat(query:str,messages = [], model = "gpt-4o-mini", max_tokens = 500, temperature = 1,index_name="",stream=True,vector_store=None):
+    try:
+        print("init chat")
+        print("init template")
+        prompt = PromptTemplate.from_template(template_whatif_response)
+
+        writer = "Laurent Tripied"
+        name_book = "Limites de l'imaginaire ou limites planétaires"
+        print("retreiving context")
+        context = retrieve_context_from_vectorestore(query)
+        print(f"Context: {context}")
+        llm_chain = prompt | llm | StrOutputParser()
+
+        print("streaming")
+        if stream:
+            return llm_chain.stream({"name_book":name_book,"writer":writer,"messages":messages,"context":context,"query":query})
+        else:
+            return llm_chain.invoke({"name_book":name_book,"writer":writer,"messages":messages,"context":context,"query":query})
+        
     except Exception as e:
         print(e)
         return False

requirements.txt

@@ -15,5 +15,6 @@ neo4j==5.24.0
 itext2kg==0.0.7
 langchain-community
 six
+httpx==0.27.2
 
 pandas