Update utils.py

utils.py

@@ -53,6 +53,7 @@ from langchain_core.output_parsers import StrOutputParser
 from langchain_core.pydantic_v1 import BaseModel, Field
 from langchain_core.runnables import RunnablePassthrough
 from langchain.text_splitter import RecursiveCharacterTextSplitter
+from langchain_core import LLM, PromptTemplate, RunnableSequence
 from chromadb.errors import InvalidDimensionException
 import fitz  # PyMuPDF
 import docx
@@ -353,9 +354,12 @@ def document_retrieval_chroma(llm, prompt):
 #Langchain anlegen für RAG Chaining
 ###############################################
 #langchain nutzen, um prompt an LLM zu leiten - llm und prompt sind austauschbar
-def llm_chain(llm, prompt):
-    llm_chain = LLMChain(llm = llm, prompt = LLM_CHAIN_PROMPT)
-    result = llm_chain.run({"question": prompt})
+def llm_chain(llm, prompt, context):
+    # Generiere den vollständigen Prompt mit der Eingabe
+    # Generiere den vollständigen Prompt mit den Eingabevariablen
+    full_prompt = RAG_CHAIN_PROMPT.format(context=context, question=prompt)
+    sequence = RunnableSequence([full_prompt, llm])
+    result = sequence.invoke()
     return result
 
     
@@ -367,7 +371,7 @@ def rag_chain(llm, prompt,  retriever):
     most_relevant_docs=[]
 
     #passend zum Prompt relevante Dokuemnte raussuchen
-    relevant_docs = retriever.get_relevant_documents(prompt)
+    relevant_docs = retriever.invoke(prompt)
     #zu jedem relevanten Dokument die wichtigen Informationen zusammenstellen (im Dict)
     extracted_docs = extract_document_info(relevant_docs)
     
@@ -402,8 +406,7 @@ def rag_chain(llm, prompt,  retriever):
         #für die Zusammenfassung
         #############################################
         #1. Alternative, wenn llm direkt übergeben....................................
-        llm_chain = LLMChain(llm = llm, prompt = RAG_CHAIN_PROMPT)
-        answer = llm_chain.run({"context": combined_content, "question": prompt})
+        answer = llm_chain(llm = llm, prompt, combined_content)
 
         
         #2. Alternative, wenn mit API_URL ...........................................