Datasets:
Update README.md
Browse files
README.md
CHANGED
@@ -14,13 +14,17 @@ tags:
|
|
14 |
|
15 |
分项目:爬取并处理[中文维基百科](https://zh.wikipedia.org/wiki/Wikipedia:%E9%A6%96%E9%A1%B5)语料
|
16 |
|
|
|
|
|
17 |
主项目:MNBVC(Massive Never-ending BT Vast Chinese corpus)超大规模中文语料集 https://github.com/esbatmop/MNBVC
|
18 |
|
19 |
该项目清洗流程主要参考:https://kexue.fm/archives/4176/comment-page-1
|
20 |
|
21 |
并且使用组员开发的[去重工具](https://github.com/aplmikex/deduplication_mnbvc)进行数据格式化。
|
22 |
|
23 |
-
|
|
|
|
|
24 |
|
25 |
```json
|
26 |
{
|
|
|
14 |
|
15 |
分项目:爬取并处理[中文维基百科](https://zh.wikipedia.org/wiki/Wikipedia:%E9%A6%96%E9%A1%B5)语料
|
16 |
|
17 |
+
数据时间:202302-202305 (持续更新)
|
18 |
+
|
19 |
主项目:MNBVC(Massive Never-ending BT Vast Chinese corpus)超大规模中文语料集 https://github.com/esbatmop/MNBVC
|
20 |
|
21 |
该项目清洗流程主要参考:https://kexue.fm/archives/4176/comment-page-1
|
22 |
|
23 |
并且使用组员开发的[去重工具](https://github.com/aplmikex/deduplication_mnbvc)进行数据格式化。
|
24 |
|
25 |
+
总行数(样本): 10,754,146
|
26 |
+
|
27 |
+
一个示例:
|
28 |
|
29 |
```json
|
30 |
{
|