Datasets:
Update README.md
Browse files
README.md
CHANGED
@@ -10,7 +10,7 @@ task_categories:
|
|
10 |
这里有两个数据集:*raw_formulas*和*cleaned_formulas*。
|
11 |
|
12 |
我们在*arxiv*上爬取了约100万条未经过清洗以及文本分词的latex公式的图片文本对从而得到了*raw_formulas*数据集。
|
13 |
-
在将*raw_formulas*数据集进行**清洗**并加入[im2latex-100K](https://zenodo.org/records/56198#.V2px0jXT6eA)数据集后得到了*cleaned_formulas
|
14 |
|
15 |
渲染公式对应的图片时,需要用到以下外部包:
|
16 |
* amsmath
|
@@ -49,16 +49,16 @@ task_categories:
|
|
49 |
|
50 |
## *cleaned_formulas*数据集的一些预处理细节
|
51 |
### 清洗
|
52 |
-
* 我们删除了*raw_formulas
|
53 |
-
* 我们删除了*raw_formulas
|
54 |
* 公式对应的渲染图片高宽比如果大于0.8,那么公式会被删除
|
55 |
* 字符长度大于200的公式被删除了
|
56 |
-
*
|
57 |
* \tag
|
58 |
* \text
|
59 |
* \begin{split}
|
60 |
* \end{split}
|
61 |
* \nonumber
|
62 |
* \notag
|
63 |
-
* *raw_formulas
|
64 |
* 我们删除了*raw_formulas*中包含自定义宏的公式。
|
|
|
10 |
这里有两个数据集:*raw_formulas*和*cleaned_formulas*。
|
11 |
|
12 |
我们在*arxiv*上爬取了约100万条未经过清洗以及文本分词的latex公式的图片文本对从而得到了*raw_formulas*数据集。
|
13 |
+
在将*raw_formulas*数据集进行**清洗**并加入[im2latex-100K](https://zenodo.org/records/56198#.V2px0jXT6eA)数据集后得到了*cleaned_formulas*数据集(一个具有**550K**公式-图片对的数据集)。
|
14 |
|
15 |
渲染公式对应的图片时,需要用到以下外部包:
|
16 |
* amsmath
|
|
|
49 |
|
50 |
## *cleaned_formulas*数据集的一些预处理细节
|
51 |
### 清洗
|
52 |
+
* 我们删除了*raw_formulas*和[im2latex-100K](https://zenodo.org/records/56198#.V2px0jXT6eA)中一些无用的垃圾数据
|
53 |
+
* 我们删除了*raw_formulas*和[im2latex-100K](https://zenodo.org/records/56198#.V2px0jXT6eA)中过于复杂的公式:
|
54 |
* 公式对应的渲染图片高宽比如果大于0.8,那么公式会被删除
|
55 |
* 字符长度大于200的公式被删除了
|
56 |
+
* 在*raw_formulas*和[im2latex-100K](https://zenodo.org/records/56198#.V2px0jXT6eA)的公式中,以下内容被删除了:
|
57 |
* \tag
|
58 |
* \text
|
59 |
* \begin{split}
|
60 |
* \end{split}
|
61 |
* \nonumber
|
62 |
* \notag
|
63 |
+
* *raw_formulas*和中的`equation、equation*、align、\[...\]`公式环境均被替换成了`align*`公式环境
|
64 |
* 我们删除了*raw_formulas*中包含自定义宏的公式。
|