| license: openrail | |
| task_categories: | |
| - image-to-text | |
| # 大新闻‼️ | |
| 📮 [2024-02] 我们使用latex-formulas数据集训练了一个公式识别模型[TexTeller](https://github.com/OleehyO/TexTeller?tab=readme-ov-file)，它可以将latex公式转换为图片，并且有着**很高的准确率**以及**很强的泛化能力**，可以**覆盖大部分公式识别场景**。 | |
| > 详情信息请参阅[TexTeller的github仓库](https://github.com/OleehyO/TexTeller?tab=readme-ov-file) | |
| # Dataset Description | |
| 这里有两个数据集：**raw_formulas**和**cleaned_formulas**(这个数据集有*550K*个公式-图片对)。 | |
| 我们在*arxiv*上爬取了约100万条未经过清洗以及文本分词的latex公式的图片文本对从而得到了*raw_formulas*数据集。 | |
| 在将*raw_formulas*数据集进行**清洗**并加入[im2latex-100K](https://zenodo.org/records/56198#.V2px0jXT6eA)数据集后得到了*cleaned_formulas*数据集（一个具有*550K*公式-图片对的数据集）。 | |
| 渲染公式对应的图片时，需要用到以下外部包： | |
| * amsmath | |
| * amsfonts | |
| * amssymb | |
| * mathtools | |
| ## 用法 | |
| 加载 **raw_formulas** 数据集: | |
| ```python | |
| from datasets import load_dataset | |
| data = load_dataset("OleehyO/latex-formulas", "raw_formulas") | |
| ``` | |
| 加载 **cleaned_formulas** 数据集: | |
| ```python | |
| from datasets import load_dataset | |
| data = load_dataset("OleehyO/latex-formulas", "cleaned_formulas") | |
| ``` | |
| ## 有关*raw_formulas*数据集的一些细节 | |
| 我们爬取了包含以下公式环境的latex公式: | |
| * equation | |
| * align | |
| * align* | |
| * gather | |
| * gather* | |
| 公式中不存在以下内容： | |
| * \label | |
| * % | |
| * \quad | |
| * \qquad | |
| * \vspace | |
| * \hspace | |
| * \resizebox | |
| * \scalebox | |
| * \rotatebox | |
| * \parbox | |
| * \fbox | |
| * \makebox | |
| * \raisebox | |
| * \addvspace | |
| * \hfill | |
| * \vfill | |
| * \textwidth | |
| * \textheight | |
| * \rule | |
| ## *cleaned_formulas*数据集的一些预处理细节 | |
| ### 清洗 | |
| * 我们删除了*raw_formulas*和[im2latex-100K](https://zenodo.org/records/56198#.V2px0jXT6eA)中一些无用的垃圾数据 | |
| * 我们删除了*raw_formulas*和[im2latex-100K](https://zenodo.org/records/56198#.V2px0jXT6eA)中过于复杂的公式： | |
| * 公式对应的渲染图片高宽比如果大于0.8，那么公式会被删除 | |
| * 字符长度大于200的公式被删除了 | |
| * 在*raw_formulas*和[im2latex-100K](https://zenodo.org/records/56198#.V2px0jXT6eA)的公式中，以下内容被删除了： | |
| * \tag | |
| * \text | |
| * \begin{split} | |
| * \end{split} | |
| * \nonumber | |
| * \notag | |
| * *raw_formulas*和中的`equation、equation*、align、\[...\]`公式环境均被替换成了`align*`公式环境 | |
| * 我们删除了*raw_formulas*中包含自定义宏的公式。 | |