IlyaGusev commited on
Commit
5eacc6e
1 Parent(s): 9ee07df

Create README.md

Browse files
Files changed (1) hide show
  1. README.md +173 -0
README.md ADDED
@@ -0,0 +1,173 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ YAML tags:
3
+ annotations_creators:
4
+ - expert-generated
5
+ - found
6
+ language_creators:
7
+ - expert-generated
8
+ - found
9
+ languages:
10
+ - ru-RU
11
+ licenses:
12
+ - unknown
13
+ multilinguality:
14
+ - monolingual
15
+ pretty_name: gazeta
16
+ size_categories:
17
+ - unknown
18
+ source_datasets:
19
+ - original
20
+ task_categories:
21
+ - conditional-text-generation
22
+ task_ids:
23
+ - summarization
24
+ ---
25
+
26
+ # Dataset Card for Gazeta
27
+
28
+ ## Table of Contents
29
+ - [Table of Contents](#table-of-contents)
30
+ - [Dataset Description](#dataset-description)
31
+ - [Dataset Summary](#dataset-summary)
32
+ - [Supported Tasks and Leaderboards](#supported-tasks-and-leaderboards)
33
+ - [Languages](#languages)
34
+ - [Dataset Structure](#dataset-structure)
35
+ - [Data Instances](#data-instances)
36
+ - [Data Fields](#data-fields)
37
+ - [Data Splits](#data-splits)
38
+ - [Dataset Creation](#dataset-creation)
39
+ - [Curation Rationale](#curation-rationale)
40
+ - [Source Data](#source-data)
41
+ - [Annotations](#annotations)
42
+ - [Personal and Sensitive Information](#personal-and-sensitive-information)
43
+ - [Considerations for Using the Data](#considerations-for-using-the-data)
44
+ - [Social Impact of Dataset](#social-impact-of-dataset)
45
+ - [Discussion of Biases](#discussion-of-biases)
46
+ - [Other Known Limitations](#other-known-limitations)
47
+ - [Additional Information](#additional-information)
48
+ - [Dataset Curators](#dataset-curators)
49
+ - [Licensing Information](#licensing-information)
50
+ - [Citation Information](#citation-information)
51
+ - [Contributions](#contributions)
52
+
53
+ ## Dataset Description
54
+
55
+ - **Homepage:** https://github.com/IlyaGusev/gazeta
56
+ - **Paper:** [Dataset for Automatic Summarization of Russian News](https://arxiv.org/abs/2006.11063)
57
+ - **Point of Contact:** [Ilya Gusev](https://t.me/YallenGusev)
58
+
59
+ ### Dataset Summary
60
+
61
+ Dataset for automatic summarization of Russian news. News and their summaries are from the [Gazeta](gazeta.ru) website. Summaries were parsed as the content of an HTML tag with “description” property. Additional selection of good summaries was performed. The resulting dataset consists of 63435 text-summary pairs. To form training, validation, and test datasets, these pairs were sorted by time. The first 52400 pairs are the training dataset, the proceeding 5265 pairs are the validation dataset, and the remaining 5770 pairs are the test dataset.
62
+
63
+ ### Supported Tasks and Leaderboards
64
+
65
+ [More Information Needed]
66
+
67
+ ### Languages
68
+
69
+ The dataset is in Russian.
70
+
71
+ ## Dataset Structure
72
+
73
+ ### Data Instances
74
+ For each instance, there is a string for the article, a string for the summary, and a string for the url. Additionally, a string for the title and a date are provided.
75
+
76
+ ```
77
+ {
78
+ 'date': '2019-10-01 15:14:05',
79
+ 'url': 'https://www.gazeta.ru/tech/2019/10/01/12698923/whatsapp_pls.shtml',
80
+ 'title': 'На последнем издыхании: у кого отключится WhatsApp',
81
+ 'summary': 'Мессенджер WhatsApp перестанет работать на ряде смартфонов — речь идет о гаджетах на базе операционных систем Android 2.3.7 и iOS 8, которые считаются устаревшими. В компании отмечают, что сервис на этих устройствах может отключиться в любой момент, поэтому будет целесообразно сменить устройство либо обновить ОС.',
82
+ 'text': 'На официальном сайте мессенджера WhatsApp появилось сообщение о том, что с 1 февраля 2020 года сервис прекратит свою работу на некоторых устаревших смартфонах. Речь идет об устройствах, работающих на базе операционных систем Android 2.3.7 и iOS 8. При этом руководство WhatsApp предупреждает, что даже до обозначенного выше дедлайна функционал мессенджера на этих ОС может быть ограничен. «В связи с тем, что мы не планируем обновлять данные операционные системы, некоторые функции могут перестать работать на них в любое время», — говорится в пресс-релизе компании. Чтобы сохранить возможность пользоваться мессенджером без проблем, следует обновить версию прошивки или приобрести новое, более современное устройство. Сообщается, что на старых версиях операционных систем уже не получится завести новый аккаунт WhatsApp или верифицировать уже существующий. При этом в WhatsApp порекомендовали пользоваться устройствами с Android 4.0.3 и более поздними версиями, а также iOS 9 и более поздними версиями. Ранее стало известно о том, что с 31 декабря 2019 года WhatsApp прекращает поддержку устройств на базе операционной системы Windows Phone, от разработки которой пришлось отказаться. Впрочем, если верить статистике , эти меры вряд ли затронут большое количество пользователей. По состоянию на май 2019 года лишь 0,3% всех владельцев Android все еще пользуются ОС версий 2.3.3–2.3.7. Что же касается iOS, то версия под номером «10» или старше установлена на 5% устройств Apple. Как уже упоминалось выше, выпуск новых гаджетов на Windows Phone и вовсе прекращен ее создателем. В середине сентября экс-сотрудник АНБ Эдвард Сноуден раскритиковал WhatsApp за несовершенную систему защиты, порекомендовав политикам пользоваться другими средствами связи. Журналист французской радиостанции France Inter отметил, что президент Франции Эмманюэль Макрон для связи использует Telegram, а премьер-министр страны Эдуар Филипп — WhatsApp. Сноуден назвал такое решение «большой ошибкой», учитывая серьезные посты, которые занимают Макрон и Филипп. По словам Сноудена, эти сервисы безопаснее обычных SMS-сообщений, но все еще «чрезвычайно опасны, если вы премьер-министр». Больше всего претензий у информатора к WhatsApp, который стал частью активов корпорации Facebook в 2014 году. Эдвард Сноуден отметил, что после приобретения мессенджера Facebook «слой за слоем» снимает различные уровни защиты сервиса, чтобы при необходимости читать переписку своих пользователей. Ранее с критикой в адрес WhatsApp выступил и глава Telegram Павел Дуров. По словам предпринимателя, после устранения одной «дыры» в мессенджере тут же появляются новые. «Все выявленные проблемы позволяют вести слежку, выглядят и функционируют как бэкдоры», — заявил Дуров. При этом Дуров подчеркнул, что WhatsApp мог быть вынужден установить бэкдоры по указанию ФБР. В июне руководство WhatsApp заявило о том, что их сервис готов судиться с юзерами за нарушение правил пользования. В список нарушений входит использование программы «не в личных целях» и применение автоматической рассылки сообщений. По данным пресс-службы WhatsApp, уже сейчас обнаружены и заморожены «миллионы аккаунтов», пойманных на «злоупотреблении». «Наша платформа изначально создавалась, чтобы помогать людям общаться с их друзьями и любимыми... Используя информацию приложения, мы нашли и заблокировали миллионы злоупотребляющих аккаунтов от использования нашей сети», – заявили в WhatsApp. В частности, нарушение происходит, если компания публично заявляет о возможности использовать WhatsApp, нарушая при этом правила пользования мессенджером. «Ничто в этом объявлении не ограничивает право WhatsApp от применения своих условий с использованием технологий. Классификаторы на основе machine learning нам в этом помогают, и мы продолжим их использовать», – добавили в команде приложе��ия.',
83
+ }
84
+ ```
85
+
86
+ Some dataset statistics are below:
87
+
88
+ | Feature | Mean Token Count | Mean Sentence Count |
89
+ |:---------|:---------|--------------------------------------------------|
90
+ | Text | 767 | 37 |
91
+ | Summary | 50 | 3 |
92
+
93
+ ### Data Splits
94
+
95
+ | Dataset Split | Number of Instances in Split |
96
+ |:---------|:---------|
97
+ | Train | 52,400 |
98
+ | Validation | 5,265 |
99
+ | Test | 5,770 |
100
+
101
+ ## Dataset Creation
102
+
103
+ ### Curation Rationale
104
+
105
+ [More Information Needed]
106
+
107
+ ### Source Data
108
+
109
+ #### Initial Data Collection and Normalization
110
+
111
+ [More Information Needed]
112
+
113
+ #### Who are the source language producers?
114
+
115
+ [More Information Needed]
116
+
117
+ ### Annotations
118
+
119
+ #### Annotation process
120
+
121
+ [N/A]
122
+
123
+ #### Who are the annotators?
124
+
125
+ [N/A]
126
+
127
+ ### Personal and Sensitive Information
128
+
129
+ The dataset is not anonymized, so individuals' names can be found in the dataset. Information about the original author is not included in the dataset.
130
+
131
+ ## Considerations for Using the Data
132
+
133
+ ### Social Impact of Dataset
134
+
135
+ [More Information Needed]
136
+
137
+ ### Discussion of Biases
138
+
139
+ [More Information Needed]
140
+
141
+ ### Other Known Limitations
142
+
143
+ [More Information Needed]
144
+
145
+ ## Additional Information
146
+
147
+ ### Dataset Curators
148
+
149
+ [More Information Needed]
150
+
151
+ ### Licensing Information
152
+
153
+ [More Information Needed]
154
+
155
+ ### Citation Information
156
+
157
+ ```bibtex
158
+ @InProceedings{10.1007/978-3-030-59082-6_9,
159
+ author="Gusev, Ilya",
160
+ editor="Filchenkov, Andrey and Kauttonen, Janne and Pivovarova, Lidia",
161
+ title="Dataset for Automatic Summarization of Russian News",
162
+ booktitle="Artificial Intelligence and Natural Language",
163
+ year="2020",
164
+ publisher="Springer International Publishing",
165
+ address="Cham",
166
+ pages="122--134",
167
+ isbn="978-3-030-59082-6"
168
+ }
169
+ ```
170
+
171
+ ### Contributions
172
+
173
+ Thanks to [@IlyaGusev](ilya.gusev@phystech.edu) for adding this dataset.