Datasets:
Update README.md
Browse files
README.md
CHANGED
@@ -12,13 +12,13 @@ tags:
|
|
12 |
|
13 |
# zhwiki-mnbvc
|
14 |
|
15 |
-
分项目:爬取并处理(
|
16 |
|
17 |
主项目:MNBVC(Massive Never-ending BT Vast Chinese corpus)超大规模中文语料集 https://github.com/esbatmop/MNBVC
|
18 |
|
19 |
该项目清洗流程主要参考:https://kexue.fm/archives/4176/comment-page-1
|
20 |
|
21 |
-
并且使用组员开发的(
|
22 |
|
23 |
样本:
|
24 |
|
|
|
12 |
|
13 |
# zhwiki-mnbvc
|
14 |
|
15 |
+
分项目:爬取并处理[中文维基百科](https://zh.wikipedia.org/wiki/Wikipedia:%E9%A6%96%E9%A1%B5)语料
|
16 |
|
17 |
主项目:MNBVC(Massive Never-ending BT Vast Chinese corpus)超大规模中文语料集 https://github.com/esbatmop/MNBVC
|
18 |
|
19 |
该项目清洗流程主要参考:https://kexue.fm/archives/4176/comment-page-1
|
20 |
|
21 |
+
并且使用组员开发的[去重工具](https://github.com/aplmikex/deduplication_mnbvc)进行数据格式化。
|
22 |
|
23 |
样本:
|
24 |
|