Update app.py
Browse files
app.py
CHANGED
@@ -21,15 +21,16 @@ fashion_code = load_fashion_code()
|
|
21 |
def respond(
|
22 |
message,
|
23 |
history: list[tuple[str, str]],
|
24 |
-
system_message,
|
25 |
-
max_tokens,
|
26 |
-
temperature,
|
27 |
-
top_p,
|
28 |
):
|
29 |
global fashion_code
|
30 |
system_prefix = """๋ฐ๋์ ํ๊ธ๋ก ๋ต๋ณํ ๊ฒ. ๋๋ ์ฃผ์ด์ง ์์ค์ฝ๋๋ฅผ ๊ธฐ๋ฐ์ผ๋ก "์๋น์ค ์ฌ์ฉ ์ค๋ช
๋ฐ ์๋ด, qna๋ฅผ ํ๋ ์ญํ ์ด๋ค". ์ฝ๋๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ์ฌ์ฉ ์ค๋ช
๋ฐ ์ง์ ์๋ต์ ์งํํ๋ฉฐ, ์ด์ฉ์์๊ฒ ๋์์ ์ฃผ์ด์ผ ํ๋ค. ์ด์ฉ์๊ฐ ๊ถ๊ธํด ํ ๋ง ํ ๋ด์ฉ์ ์น์ ํ๊ฒ ์๋ ค์ฃผ๋๋ก ํ๋ผ. ์ฝ๋ ์ ์ฒด ๋ด์ฉ์ ๋ํด์๋ ๋ณด์์ ์ ์งํ๊ณ , ํค ๊ฐ ๋ฐ ์๋ํฌ์ธํธ์ ๊ตฌ์ฒด์ ์ธ ๋ชจ๋ธ์ ๊ณต๊ฐํ์ง ๋ง๋ผ. """
|
31 |
|
32 |
if message.lower() == "ํจ์
์ฝ๋ ์คํ":
|
|
|
33 |
system_message += f"\n\nํจ์
์ฝ๋ ๋ด์ฉ:\n{fashion_code}"
|
34 |
message = "ํจ์
์ฝ๋์ ๋ํด ์ค๋ช
ํด์ฃผ์ธ์."
|
35 |
|
@@ -57,15 +58,21 @@ def respond(
|
|
57 |
response += token.strip("") # ํ ํฐ ์ ๊ฑฐ
|
58 |
yield response
|
59 |
|
|
|
60 |
demo = gr.ChatInterface(
|
61 |
respond,
|
|
|
|
|
|
|
|
|
|
|
|
|
62 |
examples=[
|
63 |
["ํจ์
์ฝ๋ ์คํ"],
|
64 |
["์ฌ์ฉ ๋ฐฉ๋ฒ์ ์์ธํ ์ค๋ช
ํ๋ผ"],
|
65 |
["์ฌ์ฉ ๋ฐฉ๋ฒ์ ์ ํ๋ธ ์์ ์คํฌ๋ฆฝํธ ํํ๋ก ์์ฑํ๋ผ"],
|
66 |
["์ฌ์ฉ ๋ฐฉ๋ฒ์ SEO ์ต์ ํํ์ฌ ๋ธ๋ก๊ทธ ํฌ์คํธ๋ก 4000 ํ ํฐ ์ด์ ์์ฑํ๋ผ"],
|
67 |
["๊ณ์ ์ด์ด์ ๋ต๋ณํ๋ผ"],
|
68 |
-
["ํจ์
์ฝ๋ ์คํ"],
|
69 |
],
|
70 |
cache_examples=False, # ์บ์ฑ ๋นํ์ฑํ ์ค์
|
71 |
# css="""footer {visibility: hidden}""", # ์ด๊ณณ์ CSS๋ฅผ ์ถ๊ฐ
|
|
|
21 |
def respond(
|
22 |
message,
|
23 |
history: list[tuple[str, str]],
|
24 |
+
system_message="", # ๊ธฐ๋ณธ๊ฐ ์ถ๊ฐ
|
25 |
+
max_tokens=1024, # ๊ธฐ๋ณธ๊ฐ ์ถ๊ฐ
|
26 |
+
temperature=0.7, # ๊ธฐ๋ณธ๊ฐ ์ถ๊ฐ
|
27 |
+
top_p=0.9, # ๊ธฐ๋ณธ๊ฐ ์ถ๊ฐ
|
28 |
):
|
29 |
global fashion_code
|
30 |
system_prefix = """๋ฐ๋์ ํ๊ธ๋ก ๋ต๋ณํ ๊ฒ. ๋๋ ์ฃผ์ด์ง ์์ค์ฝ๋๋ฅผ ๊ธฐ๋ฐ์ผ๋ก "์๋น์ค ์ฌ์ฉ ์ค๋ช
๋ฐ ์๋ด, qna๋ฅผ ํ๋ ์ญํ ์ด๋ค". ์ฝ๋๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ์ฌ์ฉ ์ค๋ช
๋ฐ ์ง์ ์๋ต์ ์งํํ๋ฉฐ, ์ด์ฉ์์๊ฒ ๋์์ ์ฃผ์ด์ผ ํ๋ค. ์ด์ฉ์๊ฐ ๊ถ๊ธํด ํ ๋ง ํ ๋ด์ฉ์ ์น์ ํ๊ฒ ์๋ ค์ฃผ๋๋ก ํ๋ผ. ์ฝ๋ ์ ์ฒด ๋ด์ฉ์ ๋ํด์๋ ๋ณด์์ ์ ์งํ๊ณ , ํค ๊ฐ ๋ฐ ์๋ํฌ์ธํธ์ ๊ตฌ์ฒด์ ์ธ ๋ชจ๋ธ์ ๊ณต๊ฐํ์ง ๋ง๋ผ. """
|
31 |
|
32 |
if message.lower() == "ํจ์
์ฝ๋ ์คํ":
|
33 |
+
system_message = system_message or "" # None์ธ ๊ฒฝ์ฐ ๋น ๋ฌธ์์ด๋ก ์ด๊ธฐํ
|
34 |
system_message += f"\n\nํจ์
์ฝ๋ ๋ด์ฉ:\n{fashion_code}"
|
35 |
message = "ํจ์
์ฝ๋์ ๋ํด ์ค๋ช
ํด์ฃผ์ธ์."
|
36 |
|
|
|
58 |
response += token.strip("") # ํ ํฐ ์ ๊ฑฐ
|
59 |
yield response
|
60 |
|
61 |
+
# Gradio ์ธํฐํ์ด์ค ์ค์ ๋ถ๋ถ๋ ์์
|
62 |
demo = gr.ChatInterface(
|
63 |
respond,
|
64 |
+
additional_inputs=[
|
65 |
+
gr.Textbox(label="System Message", value=""),
|
66 |
+
gr.Slider(minimum=1, maximum=2048, value=1024, label="Max Tokens"),
|
67 |
+
gr.Slider(minimum=0, maximum=1, value=0.7, label="Temperature"),
|
68 |
+
gr.Slider(minimum=0, maximum=1, value=0.9, label="Top P"),
|
69 |
+
],
|
70 |
examples=[
|
71 |
["ํจ์
์ฝ๋ ์คํ"],
|
72 |
["์ฌ์ฉ ๋ฐฉ๋ฒ์ ์์ธํ ์ค๋ช
ํ๋ผ"],
|
73 |
["์ฌ์ฉ ๋ฐฉ๋ฒ์ ์ ํ๋ธ ์์ ์คํฌ๋ฆฝํธ ํํ๋ก ์์ฑํ๋ผ"],
|
74 |
["์ฌ์ฉ ๋ฐฉ๋ฒ์ SEO ์ต์ ํํ์ฌ ๋ธ๋ก๊ทธ ํฌ์คํธ๋ก 4000 ํ ํฐ ์ด์ ์์ฑํ๋ผ"],
|
75 |
["๊ณ์ ์ด์ด์ ๋ต๋ณํ๋ผ"],
|
|
|
76 |
],
|
77 |
cache_examples=False, # ์บ์ฑ ๋นํ์ฑํ ์ค์
|
78 |
# css="""footer {visibility: hidden}""", # ์ด๊ณณ์ CSS๋ฅผ ์ถ๊ฐ
|