Update app.py
Browse files
app.py
CHANGED
@@ -75,8 +75,8 @@ YOUTUBE_URL_3 = "https://www.youtube.com/watch?v=vw-KWfKwvTQ"
|
|
75 |
################################################
|
76 |
#LLM Model mit dem gearbeitet wird
|
77 |
#openai
|
78 |
-
MODEL_NAME = "gpt-3.5-turbo-16k"
|
79 |
-
|
80 |
|
81 |
#HuggingFace
|
82 |
repo_id = "meta-llama/Llama-2-13b-chat-hf"
|
@@ -258,10 +258,10 @@ def invoke (prompt, history, openai_api_key, rag_option, temperature=0.9, max_ne
|
|
258 |
#LLM auswählen (OpenAI oder HF)
|
259 |
###########################
|
260 |
#Anfrage an OpenAI
|
261 |
-
|
262 |
#oder an Hugging Face
|
263 |
#llm = HuggingFaceHub(repo_id=repo_id, model_kwargs={"temperature": 0.5, "max_length": 64})
|
264 |
-
llm = HuggingFaceHub(
|
265 |
|
266 |
#zusätzliche Dokumenten Splits aus DB zum Prompt hinzufügen (aus VektorDB - Chroma oder Mongo DB)
|
267 |
if (rag_option == "Chroma"):
|
|
|
75 |
################################################
|
76 |
#LLM Model mit dem gearbeitet wird
|
77 |
#openai
|
78 |
+
#MODEL_NAME = "gpt-3.5-turbo-16k"
|
79 |
+
MODEL_NAME ="gpt-4"
|
80 |
|
81 |
#HuggingFace
|
82 |
repo_id = "meta-llama/Llama-2-13b-chat-hf"
|
|
|
258 |
#LLM auswählen (OpenAI oder HF)
|
259 |
###########################
|
260 |
#Anfrage an OpenAI
|
261 |
+
llm = ChatOpenAI(model_name = MODEL_NAME, openai_api_key = openai_api_key, temperature = 0)
|
262 |
#oder an Hugging Face
|
263 |
#llm = HuggingFaceHub(repo_id=repo_id, model_kwargs={"temperature": 0.5, "max_length": 64})
|
264 |
+
#llm = HuggingFaceHub(url_??? = "https://wdgsjd6zf201mufn.us-east-1.aws.endpoints.huggingface.cloud", model_kwargs={"temperature": 0.5, "max_length": 64})
|
265 |
|
266 |
#zusätzliche Dokumenten Splits aus DB zum Prompt hinzufügen (aus VektorDB - Chroma oder Mongo DB)
|
267 |
if (rag_option == "Chroma"):
|