OleehyO commited on
Commit
530aebf
1 Parent(s): 7f66571

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +5 -5
README.md CHANGED
@@ -10,7 +10,7 @@ task_categories:
10
  这里有两个数据集:*raw_formulas*和*cleaned_formulas*。
11
 
12
  我们在*arxiv*上爬取了约100万条未经过清洗以及文本分词的latex公式的图片文本对从而得到了*raw_formulas*数据集。
13
- 在将*raw_formulas*数据集进行**清洗**并加入[im2latex-100K](https://zenodo.org/records/56198#.V2px0jXT6eA)数据集后得到了*cleaned_formulas*数据集。
14
 
15
  渲染公式对应的图片时,需要用到以下外部包:
16
  * amsmath
@@ -49,16 +49,16 @@ task_categories:
49
 
50
  ## *cleaned_formulas*数据集的一些预处理细节
51
  ### 清洗
52
- * 我们删除了*raw_formulas*中一些无用的垃圾数据
53
- * 我们删除了*raw_formulas*中过于复杂的公式:
54
  * 公式对应的渲染图片高宽比如果大于0.8,那么公式会被删除
55
  * 字符长度大于200的公式被删除了
56
- * *raw_formulas*公式中的以下内容被删除了:
57
  * \tag
58
  * \text
59
  * \begin{split}
60
  * \end{split}
61
  * \nonumber
62
  * \notag
63
- * *raw_formulas*中的`equation、equation*、align、\[...\]`公式环境均被替换成了`align*`公式环境
64
  * 我们删除了*raw_formulas*中包含自定义宏的公式。
 
10
  这里有两个数据集:*raw_formulas*和*cleaned_formulas*。
11
 
12
  我们在*arxiv*上爬取了约100万条未经过清洗以及文本分词的latex公式的图片文本对从而得到了*raw_formulas*数据集。
13
+ 在将*raw_formulas*数据集进行**清洗**并加入[im2latex-100K](https://zenodo.org/records/56198#.V2px0jXT6eA)数据集后得到了*cleaned_formulas*数据集(一个具有**550K**公式-图片对的数据集)。
14
 
15
  渲染公式对应的图片时,需要用到以下外部包:
16
  * amsmath
 
49
 
50
  ## *cleaned_formulas*数据集的一些预处理细节
51
  ### 清洗
52
+ * 我们删除了*raw_formulas*和[im2latex-100K](https://zenodo.org/records/56198#.V2px0jXT6eA)中一些无用的垃圾数据
53
+ * 我们删除了*raw_formulas*和[im2latex-100K](https://zenodo.org/records/56198#.V2px0jXT6eA)中过于复杂的公式:
54
  * 公式对应的渲染图片高宽比如果大于0.8,那么公式会被删除
55
  * 字符长度大于200的公式被删除了
56
+ * 在*raw_formulas*和[im2latex-100K](https://zenodo.org/records/56198#.V2px0jXT6eA)的公式中,以下内容被删除了:
57
  * \tag
58
  * \text
59
  * \begin{split}
60
  * \end{split}
61
  * \nonumber
62
  * \notag
63
+ * *raw_formulas*和中的`equation、equation*、align、\[...\]`公式环境均被替换成了`align*`公式环境
64
  * 我们删除了*raw_formulas*中包含自定义宏的公式。