Update main.py

main.py

@@ -68,7 +68,7 @@ async def generate_response(chat_chunks, llm):
                         'role': 'system',
                         'content': llm.detokenize(chat_chunk)
                     },
-                    'finish_reason': 'stop' if llm.is_eos_token(chat_chunk) else 'unknown'
+                    'finish_reason': 'stop' if chat_chunk == "<|end|>" else 'unknown'
                 }
             ]
         }