add new

app.py

@@ -48,16 +48,37 @@ def inference(prompt):
                            pad_token_id=tokenizer.pad_token_id,
                            eos_token_id=tokenizer.eos_token_id,
                            bos_token_id=tokenizer.bos_token_id,
-                           use_cache=True)
-    outputs = tokenizer.decode(gen_ids[0])
+                           use_cache=True,
+                           do_sample=True,
+                           top_k=50, 
+                           top_p=0.92, 
+                           num_return_sequences=3
+                           )
+
+    outputs = []
+
+    for gen_id in gen_ids:
+        output = tokenizer.decode(gen_id.tolist(), skip_special_tokens=True)
+
+        if prompt in output:
+            output = output.replace(prompt, '')
+
+        output = output.split('.')[0]
+        outputs.append(output)
 
     return outputs
 
 
+# demo = gr.Interface(
+#     fn=inference, 
+#     inputs="text", 
+#     outputs="text" #return 값
+#     ).launch() # launch(share=True)를 설정하면 외부에서 접속 가능한 링크가 생성됨
+
 demo = gr.Interface(
     fn=inference, 
     inputs="text", 
     outputs="text" #return 값
-    ).launch() # launch(share=True)를 설정하면 외부에서 접속 가능한 링크가 생성됨
+    ).launch(share=True) # launch(share=True)를 설정하면 외부에서 접속 가능한 링크가 생성됨
 
 demo.launch()

requirements.txt

@@ -0,0 +1,7 @@
+konlpy
+scikit-learn
+numpy
+gradio
+torch
+transformers
+pandas