Alvant
commited on
Commit
•
8499941
1
Parent(s):
0ea1506
add info about dataset
Browse files
README.md
CHANGED
|
@@ -4,3 +4,35 @@ license_name: topicnet
|
|
| 4 |
license_link: >-
|
| 5 |
https://github.com/machine-intelligence-laboratory/TopicNet/blob/master/LICENSE.txt
|
| 6 |
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 4 |
license_link: >-
|
| 5 |
https://github.com/machine-intelligence-laboratory/TopicNet/blob/master/LICENSE.txt
|
| 6 |
---
|
| 7 |
+
|
| 8 |
+
|
| 9 |
+
# RuWiki-Good
|
| 10 |
+
|
| 11 |
+
Отдельные статьи из дампа русской Википедии за `20200301`. Подвыборка состоит из статей, относящихся к числу \"добротных\", \"хороших\" или \"избранных\" (см. https://ru.wikipedia.org/wiki/Википедия:Добротные_статьи).
|
| 12 |
+
|
| 13 |
+
|
| 14 |
+
Измеряемые характеристики датасета:
|
| 15 |
+
|
| 16 |
+
* D — число документов
|
| 17 |
+
* <имя модальности> W — размер словаря данной модальности (количество уникальных токенов)
|
| 18 |
+
* <имя модальности> len D — средняя длина документа в терминах этой модальности (количество слов)
|
| 19 |
+
* <имя модальности> len D uniq — средняя длина документа в уникальных терминах этой модальности (количество уникальных слов)
|
| 20 |
+
|
| 21 |
+
|
| 22 |
+
| | D | @categories W | @categories len D | @categories len D uniq | @lemmatized W | @lemmatized len D | @lemmatized len D uniq | @ngramms W | @ngramms len D | @ngramms len D uniq |
|
| 23 |
+
|:------|------------:|-----------------------:|---------------------------:|--------------------------------:|-----------------------:|---------------------------:|--------------------------------:|--------------------:|------------------------:|-----------------------------:|
|
| 24 |
+
| value | 8603 | 44493 | 5.1718 | 5.17296 | 1.66434e+07 | 1934.6 | 721.389 | 3.11727e+06 | 362.347 | 287.695 |
|
| 25 |
+
|
| 26 |
+
|
| 27 |
+
Информация о длинах документов в расчёте на модальность:
|
| 28 |
+
|
| 29 |
+
|
| 30 |
+
| | len_total@categories | len_total@lemmatized | len_total@ngramms | len_uniq@categories | len_uniq@lemmatized | len_uniq@ngramms |
|
| 31 |
+
|:-----|-----------------------:|-----------------------:|--------------------:|----------------------:|----------------------:|-------------------:|
|
| 32 |
+
| mean | 5.17296 | 1934.6 | 362.347 | 5.17296 | 721.389 | 287.695 |
|
| 33 |
+
| std | 4.0102 | 2065.78 | 384.164 | 4.0102 | 596.947 | 292.717 |
|
| 34 |
+
| min | 0 | 55 | 8 | 0 | 35 | 8 |
|
| 35 |
+
| 25% | 2 | 593 | 112.5 | 2 | 296 | 96 |
|
| 36 |
+
| 50% | 4 | 1223 | 229 | 4 | 540 | 189 |
|
| 37 |
+
| 75% | 7 | 2447 | 458 | 7 | 943 | 365 |
|
| 38 |
+
| max | 51 | 17472 | 3335 | 51 | 4423 | 2459 |
|