Update app.py

app.py

@@ -1,22 +1,21 @@
 import gradio as gr
 from gradio.mix import Parallel, Series
 
-def preprocess(inp):
-    text = "vietnews: " + inp + " </s>"
-    return text
+from transformers import pipeline
+
+summarizer = pipeline("summarization", model="VietAI/vit5-large-vietnews-summarization")
+
  
-def predict(input_ids, attention_mask):
-    outputs = model.generate(
-        input_ids=input_ids, attention_mask=attention_mask,
+def summarize(inp):
+    text = "vietnews: " + inp + " </s>"
+    res = summarizer(
+        text,
         max_length=256,
         early_stopping=True,
-    )
-    res = tokenizer.batch_decode(outputs, skip_special_tokens=True, clean_up_tokenization_spaces=True)[0]
+    )[0]['summary_text']
     return res
 
 
-extractor = gr.Interface(preprocess, 'text', 'text')
-summarizer = gr.Interface.load("huggingface/VietAI/vit5-large-vietnews-summarization")
 
 sample_url = [['VietAI là tổ chức phi lợi nhuận với sứ mệnh ươm mầm tài năng về trí tuệ nhân tạo và xây dựng một cộng đồng các chuyên gia trong lĩnh vực trí tuệ nhân tạo đẳng cấp quốc tế tại Việt Nam.'],
 ]
@@ -25,7 +24,7 @@ desc =  '''
          Abstractive Summarization on Vietnamese News
         '''
 
-iface = Series(extractor, summarizer, 
+iface = gr.Interface(fn=summarize, 
   inputs = gr.inputs.Textbox(
       lines = 5,
       label = 'Enter an article...'