Datasets:
JoeJoe12 commited on
Commit ·
f9d95b5
1
Parent(s): ae81a03
Update README.md
Browse files
README.md
CHANGED
|
@@ -1,5 +1,100 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
---
|
| 2 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 3 |
tags:
|
| 4 |
- OCR
|
| 5 |
- DocParsing
|
|
@@ -10,9 +105,6 @@ tags:
|
|
| 10 |
- ' markdown'
|
| 11 |
- benchmark
|
| 12 |
---
|
| 13 |
-
数据集文件元信息以及数据文件,请浏览“数据集文件”页面获取。
|
| 14 |
-
|
| 15 |
-
当前数据集卡片使用的是默认模版,数据集的贡献者未提供更加详细的数据集介绍,但是您可以通过如下GIT Clone命令,或者ModelScope SDK来下载数据集
|
| 16 |
|
| 17 |
#### 下载方法
|
| 18 |
:modelscope-code[]{type="sdk"}
|
|
|
|
| 1 |
+
# DocParsingBench-Dataset
|
| 2 |
+
|
| 3 |
+
[](https://)
|
| 4 |
+
[](LICENSE)
|
| 5 |
+
[]()
|
| 6 |
+
|
| 7 |
+
|
| 8 |
+
DocParsingBench是一个包含1400张图片的文档智能测评数据集,系统性地采集并标注了来自真实业务流程的文档样本,首次系统性总结企业高频的文档元素,涵盖金融、法律、科研、工业、教育五大领域。
|
| 9 |
+
|
| 10 |
+
---
|
| 11 |
+
## 🆕 最新资讯
|
| 12 |
+
|
| 13 |
+
**[2026.02.12]** DocParsingBench v1.0 正式发布!首个**面向真实行业场景**的智能文档解析数据集,涵盖金融、法律、科研、工业、教育五大领域。现已上线 Hugging Face!🔥🔥🔥
|
| 14 |
+
|
| 15 |
+
---
|
| 16 |
+
|
| 17 |
+
## 🎯 核心亮点
|
| 18 |
+
|
| 19 |
+
### ✅ 1. 五大真实行业场景
|
| 20 |
+
|
| 21 |
+
我们系统性地采集并标注了来自**真实业务流程**的文档样本,保留了**扫描噪声、印章遮挡、模糊字符**:
|
| 22 |
+
|
| 23 |
+
| 行业 | 文档类型 | 场景特征 |
|
| 24 |
+
|------|---------|---------|
|
| 25 |
+
| **金融** | 券商研报、上市公司财报、招股说明书 | 多栏报表、带印章的PDF扫描件、复杂表格 |
|
| 26 |
+
| **法律** | 法律文书、合同条款、行业标准规范 | 页眉页脚规范化、脚注密集、参考文献交叉引用 |
|
| 27 |
+
| **科研** | 学术论文、编程教材、专利全文 | 双栏/三栏混合、公式密集、代码段、化学式 |
|
| 28 |
+
| **工业制造** | 操作SOP、表格单据 | 扫描件模糊、手写填空项、二维码/条形码 |
|
| 29 |
+
| **教育** | 书籍教材、英文、化学、数学 | 化学结构式、化学反应式、选择题选项、填空空白 |
|
| 30 |
+
|
| 31 |
+
|
| 32 |
+
### ✅ 2. 复杂版面全覆盖
|
| 33 |
+
|
| 34 |
+
- **单栏**:教材、法律文书
|
| 35 |
+
- **双栏**:学术论文、部分研报
|
| 36 |
+
- **三栏及以上**:券商财报、数据报表
|
| 37 |
+
- **混合布局**:图文混排、表格跨栏、侧边栏嵌套
|
| 38 |
+
|
| 39 |
---
|
| 40 |
+
|
| 41 |
+
## 📊 数据构成
|
| 42 |
+
|
| 43 |
+
| 维度 | 分类 |
|
| 44 |
+
|------|------|
|
| 45 |
+
| **总样本量** | 1400页 |
|
| 46 |
+
| **语言** | 中文、英文、中英混合|
|
| 47 |
+
| **行业分布** | 金融 / 法律 / 科研 / 工业 / 教育 |
|
| 48 |
+
| **版面分布** | 单栏 / 双栏 / 三栏 / 混合 |
|
| 49 |
+
| **标注格式** | Markdown
|
| 50 |
+
| **化学标注** | 采用 [SoMarkdown](https://github.com/SoMarkAI/SoMarkDown) 规范,将 SMILES 与 LaTeX 结合进行表达,可完整渲染化学结构式
|
| 51 |
+
|
| 52 |
+
---
|
| 53 |
+
|
| 54 |
+
## 🏗️ 数据处理与标注理念
|
| 55 |
+
- **坚持全人工标注**,因为文档解析的“正确答案”不该是模型猜出来的。因为我们在实践中发现:模型预标注的误差会被标注员“惯性接受”。标注员面对已有markdown结果时,倾向于微调而非重画,导致模型错误被固化。每一根框线,都是一笔一笔画出来的;每一个字都是通过键盘输入的。这不是效率最高的方式,但这是质量最高的方式。
|
| 56 |
+
- 这是本项目投入时间最长的环节。我们为每一类文档元素制定了详细的边界判定规则,逐类试标、迭代、定稿。
|
| 57 |
+
- 每一类规范都经过3轮以上试标+全员培训+一致性测试,确保不同标注员对同一页面的判定差异<5%。累计退回重标批次6轮,标注-复核工时比1 : 0.8
|
| 58 |
+
|
| 59 |
+
|
| 60 |
+
## 📈 评测基准(待发布)
|
| 61 |
+
|
| 62 |
+
我们同期发布的DocParsingBench**行业文档解析评测基准**欢迎社区参与评测!📊
|
| 63 |
+
|
| 64 |
+
|
| 65 |
+
## ❤️ 致谢
|
| 66 |
+
|
| 67 |
+
这是一个需要极大耐心的工作。一个复杂页面的化学式+表格混排,可能耗时数小时;一次边界分歧导致的整批次退回,意味着数百小时的重来。每一页标注的背后,都是人眼对文档结构的理解,是人手对markdown的确认。感谢所有标注团队的坚持。
|
| 68 |
+
|
| 69 |
+
同时感谢 [SoMarkdown](https://github.com/SoMarkAI/SoMarkDown) 项目提供的化学结构式标注规范,使我们能够用精确表达大模型可读的化学内容。
|
| 70 |
+
|
| 71 |
+
---
|
| 72 |
+
|
| 73 |
+
## 📖 引用
|
| 74 |
+
|
| 75 |
+
如果您在研究中使用了DocParsingBench,请按如下格式引用:
|
| 76 |
+
|
| 77 |
+
```bibtex
|
| 78 |
+
@misc{DocParsingBench-2026,
|
| 79 |
+
title={DocParsingBench},
|
| 80 |
+
author={SoMark},
|
| 81 |
+
year={2026},
|
| 82 |
+
publisher={Hugging Face,ModelScope},
|
| 83 |
+
howpublished={\url{https://modelscope.cn/datasets/SoMark/DocParsingBench}}
|
| 84 |
+
}
|
| 85 |
+
```
|
| 86 |
+
|
| 87 |
+
---
|
| 88 |
+
|
| 89 |
+
## 📜 许可证
|
| 90 |
+
|
| 91 |
+
本项目采用 **ODC-BY (Open Data Commons Attribution License)** 许可证,开放学术研究和商业应用。
|
| 92 |
+
|
| 93 |
+
---
|
| 94 |
+
> 🌟 如果您觉得这个数据集有价值,欢迎在 Hugging Face 上给我们 ⭐!
|
| 95 |
+
|
| 96 |
+
---
|
| 97 |
+
|
| 98 |
tags:
|
| 99 |
- OCR
|
| 100 |
- DocParsing
|
|
|
|
| 105 |
- ' markdown'
|
| 106 |
- benchmark
|
| 107 |
---
|
|
|
|
|
|
|
|
|
|
| 108 |
|
| 109 |
#### 下载方法
|
| 110 |
:modelscope-code[]{type="sdk"}
|