Update app.py

app.py

@@ -81,7 +81,18 @@ def main():
 
     # Кнопка "Answer LLM"
     if st.button("LLM Answer"):
-        output = llm('Что ты можешь рассказать про поэта Пушкина?', max_tokens=512, stream=True)
+        question = input_text.lower()
+        context = dataList[0]["Answer"]
+        text_input = f'''
+        [INST]<<SYS>> Вы помощник в вопросах-ответах. Используйте следующий фрагменты полученного контекста, чтобы ответить на вопрос. Если вы не знаете ответа, просто скажите, что не знаете. Используйте максимум три предложения и будьте краткими.<</SYS>> 
+
+Вопрос: {question} 
+
+Контекст: {context} 
+
+Ответ: [/INST]
+        '''
+        output = llm(text_input, max_tokens=512, stream=True)
         text_output = ""
         for out in output:
             stream = copy.deepcopy(out)