Using this model in transformers (tested on 4.11.0.dev0)
import re
from transformers import AutoTokenizer, AutoModelForSeq2SeqLM
WHITESPACE_HANDLER = lambda k: re.sub('\s+', ' ', re.sub('\n+', ' ', k.strip()))
article_text = """Ảnh chụp hôm 27/7 cho thấy công trình xây dựng dự án Bạch Hạc Than, nằm ở hạ lưu sông Kim Sa. Dự án Bạch Hạc Than nằm trên sông Kim Sa, một nhánh thượng nguồn sông Dương Tử, giữa tỉnh Tứ Xuyên và Vân Nam. Nó đứng thứ hai chỉ sau Tam Điệp, dự án đập thuỷ điện lớn nhất thế giới, xét về tổng công suất lắp đặt, theo tập đoàn Tam Hiệp Trung Quốc, công ty phụ trách xây đập. Với tổng công suất lắp đặt 16 triệu kW, nó được kỳ vọng đạt sản lượng điện hơn 60 tỷ kWh/năm, tương đương với hai phần ba sản lượng điện tiêu thụ của Bắc Kinh năm 2015. Trạm thuỷ điện sẽ bắt đầu sản xuất năm 2021 và hoạt động đầy đủ vào cuối năm 2022, theo China Daily. Với đập cao 300 m, dự án có thể quản lý lưu vực rộng 430,000 km2, tức 91\% lưu vực sông Kim Sa. Gần 100,000 cư dân tại tỉnh Vân Nam và Tứ Xuyên sẽ được chuyển đến nơi khác để phục vụ dự án. Bạch Hạc Than là một trong 4 dự án thuỷ điện lớn ở hạ lưu sông Kim Sa. 4 dự án với tổng công suất lắp đặt hơn 46 triệu kW, có thể đạt sản lượng điện 190 tỷ kWh/ năm, gấp đôi so với sản lượng của đập Tam Điệp. Bạch Hạc Than có ý nghĩa trong việc phát triển Vành đai Kinh tế sông Dương Tử và việc điều chỉnh cơ cấu năng lượng Trung Quốc, Lu Chun, chủ tịch Tập đoàn Tam Hiệp Trung Quốc, nói. Dự án sẽ tương đương gần 20 triệu tấn than tiêu chuẩn, cắt giảm phát thải 52 triệu tấn khí CO2/năm, theo ông Lu. 20\% số đập lớn trên thế giới được xây dựng ở Trung Quốc. Là đập thuỷ điện lớn nhất thế giới, Đập Tam Điệp được Trung Quốc coi là dự án đồ sộ thành công về xã hội và kinh tế, với thiết kế tuốc bin lớn, tân tiến và công trình giúp hạn chế phát thải khí nhà kính. Tuy nhiên, Quốc vụ viện Trung Quốc từng thừa nhận nó gây ra một loạt \"vấn đề cấp bách\", trong đó có việc tái định cư người dân và tác động xấu đến sinh thái. Đập làm 1.3 triệu người phải rời bỏ nhà cửa, gia tăng nguy cơ sạt lở đất. Ảnh chụp hôm 27/7 cho thấy công trình xây dựng dự án Bạch Hạc Than, nằm ở hạ lưu sông Kim Sa. Lễ khởi công được tổ chức hôm qua. Đập Bạch Hạc Than nằm trên sông Dương Tử (Yangtze) đổ ra biển Hoa Đông."""
model_name = "polieste/fastAbs_base"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForSeq2SeqLM.from_pretrained(model_name)
input_ids = tokenizer(
[WHITESPACE_HANDLER(article_text)],
return_tensors="pt",
padding="max_length",
truncation=True,
max_length=512
)["input_ids"]
output_ids = model.generate(
input_ids=input_ids,
max_length=128,
no_repeat_ngram_size=2,
num_beams=4
)[0]
summary = tokenizer.decode(
output_ids,
skip_special_tokens=True,
clean_up_tokenization_spaces=False
)
print(summary)
