--- license: cc-by-nc-sa-4.0 task_categories: - text-generation - summarization - sentence-similarity - text2text-generation language: - bn tags: - headline-generation - low-resource - information-extraction - news-clustering - keyword-identification - document-categorization size_categories: - 100K ### Language(s) Bengali ## Dataset Structure ### Data Instances One example from the test split of the dataset is given below in JSON format. ``` { "news_link": https://www.ajkerpatrika.com/169885/%E0%A6%AA%E0%A6%B0%E0%A6%BF%E0%A6%AC%E0%A7%87%E0%A6%B6%E0%A6%A6%E0%A7%82%E0%A6%B7%E0%A6%A3%E0%A7%87-%E0%A6%AC%E0%A7%8D%E0%A6%AF%E0%A6%BE%E0%A6%A7%E0%A6%BF-%E0%A6%AC%E0%A6%BE%E0%A7%9C%E0%A6%9B%E0%A7%87-%E0%A6%B8%E0%A7%8D%E0%A6%AC%E0%A6%BE%E0%A6%B8%E0%A7%8D%E0%A6%A5%E0%A7%8D%E0%A6%AF%E0%A6%AE%E0%A6%A8%E0%A7%8D%E0%A6%A4%E0%A7%8D%E0%A6%B0%E0%A7%80, "head_lines": পরিবেশদূষণে ব্যাধি বাড়ছে: স্বাস্থ্যমন্ত্রী, "article": স্বাস্থ্য ও পরিবারকল্যাণমন্ত্রী জাহিদ মালেক বলেছেন, প্রতিনিয়ত বিশ্বে পরিবেশ দূষিত হচ্ছে। এতে নতুন নতুন রোগের সৃষ্টি হচ্ছে। পরিবেশদূষণের কারণে ১৫-২০ শতাংশ মানসিক রোগী বাড়ছে। বিশ্ব স্বাস্থ্য দিবস উপলক্ষে আজ বৃহস্পতিবার রাজধানীর ওসমানী স্মৃতি মিলনায়তনে আয়োজিত এক অনুষ্ঠানে তিনি এসব কথা বলেন।স্বাস্থ্যমন্ত্রী বলেন, 'বর্তমানে পরিবেশ, পানি দূষিত হচ্ছে। দেশের পরিবেশ ভালো থাকলে কৃষি, পানি, স্বাস্থ্য ভালো থাকবে এবং চাপ কম থাকবে। এগুলো ভালো রাখতে হবে, তবেই আমরা ভালো থাকব।'জাহিদ মালেক বলেন, কলকারখানার গ্যাস ও যানবাহনের দূষিত ধোঁয়া পরিবেশ নষ্ট করছে। এতে ডায়রিয়া, কলেরা, চিকুনগুনিয়াসহ নানা নতুন-পুরোনো রোগ দেখা দিচ্ছে। দেশের অন্যান্য স্থানের চেয়ে ঢাকায় বায়ুদূষণ বেশি হচ্ছে। দেশে যে পরিমাণ বনাঞ্চল থাকার কথা, তা নেই।পরিবেশ ধ্বংসে বাংলাদেশের হাত না থাকলেও সবচেয়ে বেশি ক্ষতির মুখে পড়তে হয় মন্তব্য করে স্বাস্থ্যমন্ত্রী বলেন, বিশ্বে প্রতিবছর ৬০ হাজার হেক্টর বন ধ্বংস হচ্ছে। পরিবেশ ধ্বংসে যুক্তরাষ্ট্র, ব্রাজিল ও ইউরোপের দেশগুলোর বড় ভূমিকা থাকলেও বাংলাদেশের মতো দেশগুলোকে প্রভাব মোকাবিলা করতে হয়।পানি সমস্যার কারণে ডায়রিয়া বাড়ছে জানিয়ে জাহিদ মালেক বলেন, পানি সমস্যার সমাধান করতে হবে। এর কারণে ডায়রিয়া, কলেরাসহ অন্যান্য রোগ বেড়েই চলেছে। ভেজাল খাদ্যের কারণে সংক্রামক ও অসংক্রামক রোগ বাড়ছে। তবে আমাদের স্বাস্থ্য ব্যবস্থাপনাও ভালো রাখতে হবে। দেশকে ভালো রাখতে হলে দেশের সম্পদ ঠিক রাখতে হবে।দেশের অন্যান্য উন্নয়নের পাশাপাশি স্বাস্থ্যব্যবস্থারও অনেক উন্নতি হয়েছে জানিয়ে স্বাস্থ্যমন্ত্রী বলেন, 'আমাদের গড় আয়ু এখন ৭৩ বছর। ভ্যাকসিনেও আমরা অনেক ভালো করেছি, বিশ্বে অষ্টম হয়েছি। লক্ষ্যমাত্রার ৯৫ ভাগ মানুষকে টিকা দিয়েছি। ভালো কাজ করেছি বিধায় জিডিপি এখনো সাতে রয়েছে। পাশের শ্রীলঙ্কা এখন দেউলিয়া, তারা হয়তো ভালো ব্যবস্থা নিতে পারেনি। কিন্তু আমাদের খাদ্যে কোনো ঘাটতি নেই। ৪৫ বিলিয়ন ডলার আমাদের রিজার্ভ রয়েছে। মাথাপিছু ঋণ অনেক দেশের তুলনায় কম রয়েছে।', "tags": স্বাস্থ্যমন্ত্রী,রাজধানী,পরিবেশ দূষণ,জাহিদ মালেক, "image_caption": অনুষ্ঠানে বক্তব্য দেন স্বাস্থ্য ও পরিবার কল্যাণমন্ত্রী জাহিদ মালেক।, "category": national } ``` ### Data Fields - `news_link`: A string representing the link of the news source - `head_lines`: A string representing the headline of the corresponding news article - `article`: A string representing the article body of the news - `tags`: A string representing the tags/topic-words related to the corresponding news article - `image_caption`: A string representing the caption(s) of the images from the corresponding news article - `category`: A string representing the category the corresponding news belongs to ### Data Splits The **Shironaam** dataset distribution over 13 different domains. After preprocessing the raw corpus, we have 240,580 news samples as a tuple of (headline, article, image caption, topic words, category). To ensure a balanced distribution, we maintain the ratio of (92% - 220,574), (2% - 4994), and (6% - 15,012) samples from all the categories to construct the train, validation, and test set, respectively. | **Category** | **Train** | **Valid** | **Test** | **Total** | |:-------------:|:-----------:|:---------:|:----------:|:-----------:| | Entertainment | 16,104 | 365 | 1095 | 17,565 | | National | 117,566 | 2,664 | 7,994 | 128,226 | | Nature | 467 | 10 | 31 | 510 | | International | 30,558 | 692 | 2,078 | 33,329 | | Sports | 17,635 | 399 | 1,199 | 19,235 | | Economy | 6,447 | 146 | 438 | 7,032 | | Life-Health | 6,356 | 144 | 432 | 6,933 | | Miscellaneous | 1,599 | 36 | 108 | 1,744 | | Opinion | 3,501 | 79 | 238 | 3,819 | | Politics | 15,018 | 340 | 1,021 | 16,380 | | Edu-Career | 4,008 | 90 | 272 | 4,372 | | Science-Tech | 1,046 | 23 | 71 | 1,141 | | Religion | 269 | 6 | 18 | 294 | | **Total** | **220,574** | **4,994** | **15,012** | **240,580** | ## Dataset Creation We crawl around 900,000 raw data samples from seven famous Bengali newspapers concentrating on certain criteria, such as headline, article, image caption, category, and topic words. Since each of the newspapers mentioned above has its own professional authors and distinct writing style, we consider multiple sources to prevent the bias of a particular annotation style. To ensure content diversity, we also cover various domains from all the news dailies. The majority of the news samples are extracted from HTML bodies of the corresponding publications, while some are rendered using JavaScript. However, two of them do not provide the archives on their websites; therefore, we collect the samples through their APIs... [details in the paper](https://aclanthology.org/2023.eacl-main.4.pdf) ### Source Data | **Newspaper** | **URL** | |:-------------------:|:------------------------:| | Prothom Alo | www.prothomalo.com | | Naya Diganta | www.dailynayadiganta.com | | Ajker Patrika | www.ajkerpatrika.com | | Bangladesh Protidin | www.bd-pratidin.com | | Samakal | www.samakal.com | | Bhorer Kagoj | www.bhorerkagoj.com | | Dhaka Tribune | www.dhakatribune.com | ### Discussion of Ethics We considered some ethical aspects while scraping the data. We requested data at a reasonable rate without any intention of a DDoS attack. Moreover, for each website, we read the instructions listed in robots.txt to check whether we can crawl the intended content. We tried to minimize offensive texts in the data by explicitly crawling the sites where such contents are minimal. Further, we removed the Personal Identifying Information (PII) such as name, phone number, email address, _etc._ from the corpus. ### Other Known Limitations Our dataset relies on auxiliary information such as image captions and topic words to achieve superior performance in generating news headlines. However, it is quite common to include images and extra information (e.g., topic words) to increase the article’s visibility, support, and context. On top of that **Shironaam** corpus supports only Bengali, a widely spoken but low-resource language. Still, this idea of using auxiliary information to improve headline generation performance can easily be extendable for many languages. ## Additional Information ### Licensing Information Contents of this repository are restricted to only non-commercial research purposes under the [Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License (CC BY-NC-SA 4.0)](https://creativecommons.org/licenses/by-nc-sa/4.0/). Copyright of the dataset contents belongs to the original copyright holders. ### Citation Information If you find this work useful for your research, please consider citing: ``` @inproceedings{akash-etal-2023-shironaam, title = "Shironaam: {B}engali News Headline Generation using Auxiliary Information", author = "Akash, Abu Ubaida and Nayeem, Mir Tafseer and Shohan, Faisal Tareque and Islam, Tanvir", booktitle = "Proceedings of the 17th Conference of the European Chapter of the Association for Computational Linguistics", month = may, year = "2023", address = "Dubrovnik, Croatia", publisher = "Association for Computational Linguistics", url = "https://aclanthology.org/2023.eacl-main.4", pages = "52--67" } ``` ### Contributors - Abu Ubaida Akash (akash.ubaida@gmail.com) - Mir Tafseer Nayeem (mnayeem@ualberta.ca) - Faisal Tareque Shohan (faisaltareque@hotmail.com) - Tanvir Islam (tislam@hawaii.edu) ### Acknowledgements - This work is the outcome of the ongoing research at [Dialect AI Research Group](https://github.com/dialect-ai). - Mir Tafseer Nayeem is supported by [Huawei](https://digitalpower.huawei.com/en/) Doctoral Fellowship.