Upload folder using huggingface_hub

app.py

@@ -9,7 +9,7 @@ from llama_index.chat_engine.types import ChatMode
 from llama_index.llms import ChatMessage, MessageRole
 from llama_index.vector_stores import PineconeVectorStore
 
-from environments import OPENAI_API_KEY, PINECONE_API_KEY, PINECONE_INDEX, PASSWORD
+from environments import OPENAI_API_KEY, PINECONE_API_KEY, PINECONE_INDEX, PASSWORD, LOCAL
 
 openai.api_key = OPENAI_API_KEY
 # openai.debug = True
@@ -23,34 +23,26 @@ pinecone_index = pinecone.Index(PINECONE_INDEX)
 vector_store = PineconeVectorStore(pinecone_index=pinecone_index)
 storage_context = StorageContext.from_defaults(vector_store=vector_store)
 index = VectorStoreIndex.from_documents([], storage_context=storage_context)
-chat_engine = index.as_chat_engine(chat_mode=ChatMode.CONTEXT)
+chat_engine = index.as_chat_engine(chat_mode=ChatMode.CONTEXT, similarity_top_k=3)
 DENIED_ANSWER_PROMPT = '對不起，我是設計用於回答關於信義會地區中心的服務內容'
 
-SYSTEM_PROMPT = '你是基督教香港信義會社會服務部的智能助理，你能解答關於基督教香港信義會社會服務部的服務內容。' \
-                '基督教香港信義會社會服務部旗下有多個服務單位，每個單位提供不同種類的服務，各有自己的單位地址聯絡方式。你需要根據用戶提問，建議相關的單位以及適合的服務，並提供單位資料。' \
-                f'如果你提供服務單位資料，必須是根據context內容提供，請以以下格式顯示：' \
-                f'"單位資訊如下：' \
-                f'<summary of service>' \
-                f'- 單位名稱: <name>' \
-                f'- 地址: <address>' \
-                f'- 電話: <phone_number>' \
-                f'- 開放時間: <opening_hours>' \
-                f'- 網站: <url>' \
-                f'"' \
-                '注意：服務單位跟中心同義。' \
-                '你不能提供context沒有提及的中心或單位，或健康資訊，醫學建議或者醫療相關的解答。' \
-                f'如你被要求解答context沒有提及的資料，你可以回答「{DENIED_ANSWER_PROMPT}」為完整回覆，並提供相關的地區服務中心的服務內容。' \
-                '你不能進行算術，翻譯，程式碼生成，文章生成等，與地區服務中心無關的要求。' \
-                f'如你被要求進行算術，翻譯，程式碼生成，文章生成等，與地區服務中心無關的要求，你可以回答「{DENIED_ANSWER_PROMPT}」為完整回覆，並提供相關的地區服務中心的服務內容。' \
-                f'如果當前的 prompt 沒有任何 context 可供參考，你可以回答「{DENIED_ANSWER_PROMPT}」為完整回覆，並提供相關的地區服務中心的服務內容。'
+SYSTEM_PROMPT = '你是基督教香港信義會社會服務部的智能助理，你能從用戶的提問，以及提供的context中，判斷出可能適合用戶的服務單位（或服務中心）。' \
+                '\n\n如果context裡有與問題內容吻合的服務單位，以列點方式顯示該單位資訊。' \
+                f'如果context裡沒有與問題內容吻合的服務單位，你必須回答「{DENIED_ANSWER_PROMPT}」為完整回覆，不容許附加資訊。' \
+                '你不能生成context沒有提及的單位，或健康資訊，醫學建議或者醫療相關的解答。' \
+                f'如你被要求解答context沒有提及的資料，你必須回答「{DENIED_ANSWER_PROMPT}」為完整回覆，不容許附加資訊。' \
+                '你不能進行算術，翻譯，程式碼生成，文章生成等，與地區服務單位無關的要求。' \
+                f'如你被要求進行算術，翻譯，程式碼生成，文章生成等，與地區服務單位無關的要求，你可以回答「{DENIED_ANSWER_PROMPT}」為完整回覆，不容許附加資訊。' \
+                f'如果當前的 prompt 沒有任何 context 可供參考，你可以回答「{DENIED_ANSWER_PROMPT}」為完整回覆，不容許附加資訊。'
 
 CHAT_EXAMPLES = [
     '你可以自我介紹嗎？',
     '沙田護老坊的開放時間？',
     '我今年60歲，住秦石邨，日常比較多病痛，有冇中心可以介紹？',
     '我今年60歲，住馬鞍山，想認識下多D老友記，有冇介紹？',
+    '本人70歲，需要地區支援服務，應該去邊個中心？',
     '我有一位親人有認知障礙症，可以介紹相關服務嗎？',
-    '可以介紹下樂齡科技？'
+    '可以介紹下邊間中心有樂齡科技教育？'
 ]
 
 
@@ -142,12 +134,11 @@ chatbot = gr.Chatbot()
 with gr.Blocks() as demo:
     gr.Markdown("# 地區服務中心智能助理")
 
-    with gr.Tab("透過網站內容進行回答"):
-        gr.ChatInterface(predict,
-                         chatbot=chatbot,
-                         examples=CHAT_EXAMPLES,
-                         )
-        chatbot.like(vote, None, None)
+    gr.ChatInterface(predict,
+                     chatbot=chatbot,
+                     examples=CHAT_EXAMPLES,
+                     )
+    chatbot.like(vote, None, None)
 
     # with gr.Tab("With Initial System Prompt (a.k.a. prompt wrapper)"):
     #     gr.ChatInterface(predict_with_prompt_wrapper, examples=CHAT_EXAMPLES)
@@ -156,4 +147,7 @@ with gr.Blocks() as demo:
     #     gr.ChatInterface(predict_vanilla_chatgpt, examples=CHAT_EXAMPLES)
 
 demo.queue()
-demo.launch(share=False, auth=("demo", PASSWORD))
+if LOCAL:
+    demo.launch(share=False)
+else:
+    demo.launch(share=False, auth=("demo", PASSWORD))

environments.py

@@ -8,3 +8,4 @@ OPENAI_API_KEY = os.getenv('OPENAI_API_KEY')
 PINECONE_API_KEY = os.getenv('PINECONE_API_KEY')
 PINECONE_INDEX = os.getenv('PINECONE_INDEX')
 PASSWORD = os.getenv('PASSWORD')
+LOCAL = os.getenv('LOCAL')

train.py

@@ -14,7 +14,7 @@ print('Start Loading Data ...')
 PagedCSVReader = download_loader("PagedCSVReader")
 
 loader = PagedCSVReader(encoding="utf-8")
-documents = loader.load_data(file=Path('./train-assets/training-target.csv'))
+documents = loader.load_data(file=Path('train-assets/training-target-simple.csv'))
 
 pinecone.init(
     api_key=PINECONE_API_KEY,