Update utils.py

utils.py

@@ -67,7 +67,7 @@ from nltk.corpus import stopwords
 from nltk.tokenize import word_tokenize
 from nltk.stem import WordNetLemmatizer, PorterStemmer
 from nltk.tokenize import RegexpTokenizer
-from transformers import BertModel, BertTokenizer
+from transformers import BertModel, BertTokenizer, pipeline
 from nltk.stem.snowball import SnowballStemmer
 
 from sklearn.feature_extraction.text import TfidfVectorizer
@@ -397,12 +397,19 @@ def rag_chain(llm, prompt,  retriever):
         #############################################
         #Verschiedene LLMs ausprobieren 
         #############################################
-        #Alternative, wenn llm direkt übergeben....................................
+        #1. Alternative, wenn llm direkt übergeben....................................
         #llm_chain = LLMChain(llm = llm, prompt = RAG_CHAIN_PROMPT)
         #answer = llm_chain.run({"context": combined_content, "question": prompt})
-        #Alternative, wenn mit API_URL ...........................................
+
+        
+        #2. Alternative, wenn mit API_URL ...........................................
         answer =  query(llm, {"inputs": input_text,})
 
+        #3. Alternative: mit pipeline
+        #messages = [{"role": "user", "content": input_text},]
+        #pipe = pipeline("text-generation", model="microsoft/Phi-3-mini-128k-instruct", trust_remote_code=True)
+        #answer = pipe(messages)
+
         # Erstelle das Ergebnis-Dictionary
         result = {
             "answer": answer,