Spaces:
Runtime error
Runtime error
Commit
•
1663093
1
Parent(s):
3018c2c
Update custom_llm.py
Browse files- custom_llm.py +6 -6
custom_llm.py
CHANGED
@@ -77,12 +77,12 @@ async def create_vectorstore():
|
|
77 |
|
78 |
print("Docs len :", len(f))
|
79 |
|
80 |
-
|
81 |
|
82 |
-
|
83 |
-
|
84 |
|
85 |
-
|
86 |
|
87 |
|
88 |
|
@@ -122,12 +122,12 @@ def custom_chain_with_history(llm, memory):
|
|
122 |
|
123 |
|
124 |
prompt = PromptTemplate.from_template("""<s><INST><|system|>
|
125 |
-
Anda adalah asisten Chatbot customer service.
|
126 |
|
127 |
Anda memiliki akses konteks dibawah ini untuk menemukan informasi yang paling relevan dengan kebutuhan user:
|
128 |
{context}
|
129 |
|
130 |
-
Berikan respon kepada user berdasarkan riwayat chat berikut, jika tidak ada informasi yang relevan maka itu adalah informasi yang rahasia dan
|
131 |
{chat_history}
|
132 |
<|user|>
|
133 |
{question}
|
|
|
77 |
|
78 |
print("Docs len :", len(f))
|
79 |
|
80 |
+
tasks = []
|
81 |
|
82 |
+
for d in f:
|
83 |
+
tasks.append(db.aadd_documents(await splitter.atransform_documents([d])))
|
84 |
|
85 |
+
await asyncio.gather(*tasks)
|
86 |
|
87 |
|
88 |
|
|
|
122 |
|
123 |
|
124 |
prompt = PromptTemplate.from_template("""<s><INST><|system|>
|
125 |
+
Anda adalah asisten AI Chatbot customer service.
|
126 |
|
127 |
Anda memiliki akses konteks dibawah ini untuk menemukan informasi yang paling relevan dengan kebutuhan user:
|
128 |
{context}
|
129 |
|
130 |
+
Berikan respon kepada user berdasarkan riwayat chat berikut dengan bahasa yang digunakan terakhir kali oleh user, jika tidak ada informasi yang relevan maka itu adalah informasi yang rahasia dan Anda tidak diizinkan untuk menyebarkan informasi tersebut kepada user:
|
131 |
{chat_history}
|
132 |
<|user|>
|
133 |
{question}
|