Update app.py

app.py

@@ -53,6 +53,7 @@ def respond(
 
     response = requests.post("https://api-inference.huggingface.co/v1/chat/completions", headers=headers, json=payload, stream=True)
     
+    # Stream 방식으로 데이터를 출력
     response_text = ""
     for chunk in response.iter_content(chunk_size=None):
         if chunk:
@@ -62,10 +63,8 @@ def respond(
                 # content 영역만 출력
                 if "choices" in response_json:
                     content = response_json["choices"][0]["message"]["content"]
-                    response_text = content
-                    # 마지막 대화에 모델의 응답을 추가하여 메모리에 저장
-                    memory[-1] = (message, response_text)
-                    yield content
+                    response_text += content
+                    yield response_text  # 누적된 응답을 스트림 방식으로 반환
             except json.JSONDecodeError:
                 continue  # 유효하지 않은 JSON이 있을 경우 무시하고 다음 청크로 넘어감
 
@@ -81,6 +80,7 @@ demo = gr.ChatInterface(
         gr.Slider(minimum=0.1, maximum=4.0, value=0.7, step=0.1, label="Temperature"),
         gr.Slider(minimum=0.1, maximum=1.0, value=0.95, step=0.05, label="Top-p (nucleus sampling)"),
     ],
+    streaming=True  # 스트리밍 모드 활성화
 )
 
 if __name__ == "__main__":