wikipedia-zh-mnbvc / README.md
wanng's picture
Update README.md
af651bd
|
raw
history blame
2.57 kB
---
license: apache-2.0
task_categories:
- text-generation
language:
- zh
- en
tags:
- mnbvc
- Wikipedia
---
# zhwiki-mnbvc
分项目:爬取并处理[中文维基百科](https://zh.wikipedia.org/wiki/Wikipedia:%E9%A6%96%E9%A1%B5)语料
数据时间:202302-202305 (持续更新)
主项目:MNBVC(Massive Never-ending BT Vast Chinese corpus)超大规模中文语料集 https://github.com/esbatmop/MNBVC
该项目清洗流程主要参考:https://kexue.fm/archives/4176/comment-page-1
并且使用组员开发的[去重工具](https://github.com/aplmikex/deduplication_mnbvc)进行数据格式化。
总行数(样本): 10,754,146
一个示例:
```json
{
"文件名": "cleaned/zhwiki-20230420/folder_0/723712.txt",
"是否待查文件": false,
"是否重复文件": false,
"文件大小": 558,
"simhash": 14363740497821204542,
"最长段落长度": 142,
"段落数": 6,
"去重段落数": 6,
"低质量段落数": 0,
"段落": [
{
"行号": 0,
"是否重复": false,
"是否跨文件重复": false,
"md5": "39a3b4c7a4785d88c7c7d774364ea17e",
"内容": "【龙州 (唐朝)】"
},
{
"行号": 1,
"是否重复": false,
"是否跨文件重复": false,
"md5": "856bdf443999603f349625a56a5e92d6",
"内容": "龙州,中国古代的州,今龙州县的前身。"
},
{
"行号": 2,
"是否重复": false,
"是否跨文件重复": false,
"md5": "45fd3b9dc612d6235b5653d1a5b40688",
"内容": "唐朝武德四年(621年)设置的州,治所在龙城县(今广西壮族自治区龙州县北),辖两县:龙城县、柳岭县。贞观七年(633年),柳岭县并入龙城县,撤销龙州,龙城县归南昆州管辖。元朝设万户府,移治今龙州。明朝洪武初年,复为龙州。清朝雍正三年(1725年)废为龙州县,今属广西壮族自治区崇左市。"
},
{
"行号": 4,
"是否重复": false,
"是否跨文件重复": false,
"md5": "8756367c3ee308f3875ed8e942a6e377",
"内容": "== 参考文献 =="
},
{
"行号": 5,
"是否重复": false,
"是否跨文件重复": false,
"md5": "6db73b5b7c22fb1bcf7829fbe585043f",
"内容": "* 《旧唐书·地理志》"
},
{
"行号": 6,
"是否重复": false,
"是否跨文件重复": false,
"md5": "38b370ac9f61b116d4f6c98873ffc4bd",
"内容": "* 《明史·地理志》"
}
],
"文件日期": "2023-04-20"
}
```