Update app.py
Browse files
app.py
CHANGED
@@ -254,9 +254,9 @@ def invoke (prompt, history, openai_api_key, rag_option, temperature=0.9, max_ne
|
|
254 |
#LLM auswählen (OpenAI oder HF)
|
255 |
###########################
|
256 |
#Anfrage an OpenAI
|
257 |
-
llm = ChatOpenAI(model_name = MODEL_NAME, openai_api_key = openai_api_key, temperature = 0)
|
258 |
#oder an Hugging Face
|
259 |
-
|
260 |
|
261 |
#zusätzliche Dokumenten Splits aus DB zum Prompt hinzufügen (aus VektorDB - Chroma oder Mongo DB)
|
262 |
if (rag_option == "Chroma"):
|
|
|
254 |
#LLM auswählen (OpenAI oder HF)
|
255 |
###########################
|
256 |
#Anfrage an OpenAI
|
257 |
+
#llm = ChatOpenAI(model_name = MODEL_NAME, openai_api_key = openai_api_key, temperature = 0)
|
258 |
#oder an Hugging Face
|
259 |
+
llm = HuggingFaceHub(repo_id=repo_id, model_kwargs={"temperature": 0.5, "max_length": 64})
|
260 |
|
261 |
#zusätzliche Dokumenten Splits aus DB zum Prompt hinzufügen (aus VektorDB - Chroma oder Mongo DB)
|
262 |
if (rag_option == "Chroma"):
|