datacipen commited on
Commit
2c38bce
1 Parent(s): 989fe44

Update main.py

Browse files
Files changed (1) hide show
  1. main.py +5 -9
main.py CHANGED
@@ -24,9 +24,6 @@ import chainlit as cl
24
  from chainlit.input_widget import TextInput, Select, Switch, Slider
25
  from chainlit.playground.config import add_llm_provider
26
  from chainlit.playground.providers.langchain import LangchainGenericProvider
27
- from literalai import LiteralClient
28
- literal_client = LiteralClient(api_key=os.getenv("LITERAL_API_KEY"))
29
- literal_client.reset_context()
30
 
31
  from deep_translator import GoogleTranslator
32
 
@@ -201,12 +198,11 @@ async def on_message(message: cl.Message):
201
  cl.Text(name="Sources", content=sources_text, display="inline")
202
  )
203
 
204
- with literal_client.thread(name="Réponse de Mistral") as thread:
205
- cb = literal_client.langchain_callback()
206
- #cb = cl.AsyncLangchainCallbackHandler()
207
- #with tracing_v2_enabled():
208
- results = runnable.invoke("Contexte : Vous êtes un chercheur de l'enseignement supérieur et vous êtes doué pour faire des analyses d'articles de recherche sur les thématiques liées à la pédagogie, en fonction des critères définis ci-avant. En fonction des informations suivantes et du contexte suivant seulement et strictement, répondez en langue française strictement à la question ci-dessous à partir du contexte ci-dessous. En plus, tu créeras et tu afficheras 3 questions supplémentaires en relation avec le contexte initial, à chaque étape de la conversation. Tu écriras et tu afficheras les 3 questions supplémentaires en relation avec le contexte initial, avec un titrage de niveau 1 qui a pour titre \"Questions en relation avec le contexte : \". Si vous ne pouvez pas répondre à la question sur la base des informations, dites que vous ne trouvez pas de réponse ou que vous ne parvenez pas à trouver de réponse. Essayez donc de comprendre en profondeur le contexte et répondez uniquement en vous basant sur les informations fournies. Ne générez pas de réponses non pertinentes. Question : " + message.content, callbacks=[cb])
209
- answer = results["answer"]
210
 
211
  await cl.Message(content=GoogleTranslator(source='auto', target='fr').translate(answer)).send()
212
 
 
24
  from chainlit.input_widget import TextInput, Select, Switch, Slider
25
  from chainlit.playground.config import add_llm_provider
26
  from chainlit.playground.providers.langchain import LangchainGenericProvider
 
 
 
27
 
28
  from deep_translator import GoogleTranslator
29
 
 
198
  cl.Text(name="Sources", content=sources_text, display="inline")
199
  )
200
 
201
+ async with cl.Step(root=True, name="Réponse de Mistral 8x7b-Instruct", type="llm") as parent_step
202
+ cb = cl.AsyncLangchainCallbackHandler()
203
+ with tracing_v2_enabled(project_name="reviewStream"):
204
+ await results = runnable.ainvoke("Contexte : Vous êtes un chercheur de l'enseignement supérieur et vous êtes doué pour faire des analyses d'articles de recherche sur les thématiques liées à la pédagogie, en fonction des critères définis ci-avant. En fonction des informations suivantes et du contexte suivant seulement et strictement, répondez en langue française strictement à la question ci-dessous à partir du contexte ci-dessous. En plus, tu créeras et tu afficheras 3 questions supplémentaires en relation avec le contexte initial, à chaque étape de la conversation. Tu écriras et tu afficheras les 3 questions supplémentaires en relation avec le contexte initial, avec un titrage de niveau 1 qui a pour titre \"Questions en relation avec le contexte : \". Si vous ne pouvez pas répondre à la question sur la base des informations, dites que vous ne trouvez pas de réponse ou que vous ne parvenez pas à trouver de réponse. Essayez donc de comprendre en profondeur le contexte et répondez uniquement en vous basant sur les informations fournies. Ne générez pas de réponses non pertinentes. Question : " + message.content, callbacks=[cb])
205
+ answer = results["answer"]
 
206
 
207
  await cl.Message(content=GoogleTranslator(source='auto', target='fr').translate(answer)).send()
208