Update utils.py

utils.py

@@ -2,22 +2,30 @@
 # -- Libraries
 from   typing                      import Any, Dict, List, Mapping, Optional
 from   pydantic                    import Extra, Field, root_validator
+from   langchain_core.runnables    import RunnablePassthrough
 from   langchain.llms.base         import LLM
+from   langchain.chat_models       import ChatOpenAI
+from   langchain.prompts           import PromptTemplate
+from   langchain.schema            import StrOutputParser
 from   langchain.utils             import get_from_dict_or_env
 from   langchain.vectorstores      import Chroma
 from   langchain.text_splitter     import RecursiveCharacterTextSplitter
 from   langchain.chains            import RetrievalQA
 from   langchain.document_loaders  import TextLoader
-from   langchain.embeddings        import HuggingFaceEmbeddings
+from   langchain.embeddings        import HuggingFaceEmbeddings, OpenAIEmbeddings
 from   googletrans                 import Translator
 import streamlit as st
 import together
 import textwrap
+import getpass
 import spacy
 import os
 import re
 
 os.environ["TOGETHER_API_KEY"] = "6101599d6e33e3bda336b8d007ca22e35a64c72cfd52c2d8197f663389fc50c5"
+os.environ["OPENAI_API_KEY"]   = "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"
+os.environ["LANGCHAIN_TRACING_V2"] = "true"
+os.environ["LANGCHAIN_API_KEY"]    = getpass.getpass()
 
 # -- LLM class
 class TogetherLLM(LLM):
@@ -108,6 +116,38 @@ PREGUNTA:""", cleaned_prompt, re.DOTALL)
         text = self.clean_duplicates(text)
         return text, new_cleaned_prompt
 
+# -- Get GPT response
+def get_gpt_response(query):
+    template = """Eres un asistente. Su misión es proporcionar respuestas precisas a preguntas relacionadas con la transcripción de una entrevista de YouTube.
+    No saludes en tu respuesta. No repita la pregunta en su respuesta. Sea conciso y omita las exenciones de responsabilidad o los mensajes predeterminados.
+    Solo responda la pregunta, no agregue texto adicional. No des tu opinión personal ni tu conclusión personal. No haga conjeturas ni suposiciones.
+    Si no sabe la respuesta de la pregunta o el contexto está vacío, responda cortésmente por qué no sabe la respuesta. Por favor no comparta información falsa.
+    {context}
+    Pregunta: {question}
+    Respuesta:"""
+    
+    rag_prompt_custom = PromptTemplate.from_template(template)
+    docs = loader.load()
+
+    text_splitter = RecursiveCharacterTextSplitter(chunk_size=1000, chunk_overlap=200)
+    splits = text_splitter.split_documents(docs)
+    
+    vectorstore = Chroma.from_documents(documents=splits, embedding=OpenAIEmbeddings())
+    retriever = vectorstore.as_retriever()
+    
+    llm = ChatOpenAI(model_name="gpt-3.5-turbo", temperature=0)    
+    
+    def format_docs(docs):
+        return "\n\n".join(doc.page_content for doc in docs)
+    
+    rag_chain = (
+        {"context": retriever | format_docs, "question": RunnablePassthrough()}
+        | rag_prompt_custom
+        | llm
+        | StrOutputParser()
+    )
+    return rag_chain.invoke(query)
+
 # -- Python function to setup basic features: translator, SpaCy pipeline and LLM model
 @st.cache_resource
 def setup_app(transcription_path, emb_model, model, _logger):