wuerchuang/car_data_for_pretrain

汽车领域预训练数据说明

1. 数据概述

本数据集面向汽车工程领域中文语言模型的继续预训练，主要内容来自汽车产品开发、汽车零部件设计、试验方法、性能评价和相关国家标准、行业标准及企业标准文档。

数据中包含较多汽车工程专业术语、结构设计要求、尺寸与公差、试验条件、法规指标、工程计算表达式和标准编号，适合用于增强模型在汽车研发场景中的专业文本理解与生成能力。

数据主要覆盖以下内容：

• 汽车发动机、变速箱原理与控制
• 汽车车身及覆盖件结构设计
• 前机舱盖、铰链、锁系统、撑杆和密封结构
• 汽车轮胎、车轮及轮胎动平衡试验
• 汽车零部件尺寸、间隙、安装位置和布置要求
• 行人保护、碰撞试验和安全法规指标
• 汽车工程中的材料、工艺、装配和质量要求
• 国家标准、行业标准、企业标准及其术语、章节和条款
• 工程表格、公式、单位、测量参数和试验数据

2. 数据文件

文件	说明
pretrain.txt	原始 OCR/Markdown 混合文本，保留原始页面内容和版面噪声
pretrain.cleaned.txt	清洗后的预训练文本，推荐作为训练输入
pretrain.cleaned.stats.json	清洗过程统计信息
clean_pretrain.py	流式文本清洗脚本
pre_process.py	使用 Qwen tokenizer 将文本转换为二进制 token 数据的脚本
pretrain.bin	默认生成的 token 二进制文件

原始文件应保留，不建议直接覆盖。清洗结果和 token 文件可以根据不同实验单独保存和命名。

3. 数据格式

清洗后的数据为 UTF-8 编码的纯文本文件，整体由多个标准文档按原始顺序拼接而成。

文档之间以及页面之间保留 <|endoftext|> 特殊标记，用于表示原始数据中的文本边界。当前数据集中该标记的数量与原始文件一致，训练代码不会将其当作普通文字进行改写。

文档内部保留以下结构信息：

• Markdown 标题层级，例如 #、## 和 #####
• 列表编号和条目结构，例如 ①、②、1. 和 -
• Markdown 表格及其分隔行
• 标准编号、章节编号、图号和表号
• 公式中的数字、符号、上下标内容和单位
• 图片 OCR 提取出的文字内容
• 中文、英文、数字、希腊字母及工程符号

4. 清洗规则

清洗脚本采用逐行流式处理，不覆盖原始数据。

4.1 删除的内容

• 页面注释，例如 <!-- 第 5 页 -->
• 图片 OCR 的起止包围注释，例如 <!-- Start of picture text -->
• 空的 Markdown 代码围栏
• 确认属于页脚的独立页码
• 在页面边界处重复出现的标准号页眉
• 过量连续空行
• sup、sub、br 等 HTML 展示标签本身
• 反引号展示符号，但保留反引号内部的文本

4.2 保留的内容

• <|endoftext|> 页面/文本边界标记
• 标准号，例如 GB/T、Q/JAS 等
• 正文中的独立数字、章节号和条款编号
• 图片 OCR 正文
• 表格行、表头和表格分隔线
• 单位、公式、尺寸、公差、角度和法规阈值
• 英文术语和中英文混排内容

清洗过程不根据中文比例自动删除疑似 OCR 内容，也不主动重建跨页表格，避免误删工程数据或破坏表格语义。

5. 清洗统计

本版本清洗统计如下：

指标	数量
原始文件大小	218,334,058 字节
清洗后文件大小	约 209,685,551 字节
原始输入行数	3,862,982
删除页面注释	110,806
删除图片 OCR 包围标记	65,678
保留 `<	endoftext
删除重复页眉	1,740
删除独立页码	51,286
保留表格行	276,504
保留表格分隔行	21,002
删除空代码围栏	3,684

完整统计以 pretrain.cleaned.stats.json 为准。

6. 生成预训练 token 数据

6.1 生成清洗文件

如需从原始文本重新生成清洗结果：

python clean_pretrain.py

也可以指定输入、输出和统计文件：

python clean_pretrain.py \
  pretrain.txt \
  pretrain.cleaned.txt \
  --stats pretrain.cleaned.stats.json

6.2 生成二进制 token 文件

默认使用 pretrain.cleaned.txt，并生成 pretrain.bin：

python pre_process.py

指定输入和输出文件：

python pre_process.py \
  --input pretrain.cleaned.txt \
  --output pretrain.cleaned.bin

当前 tokenization 使用 Qwen/Qwen2.5-0.5B tokenizer，并以 uint32 保存 token ID。运行前应确保 tokenizer 路径和 Python 依赖可用。

7. 适用场景

本数据集适合用于：

• 汽车领域基础语言模型的继续预训练
• 汽车工程术语和标准条款的领域适配
• 汽车研发问答模型的领域知识增强
• 车身、底盘、轮胎和安全法规文本建模
• 汽车工程文档检索、摘要和分类任务的预训练初始化
• 汽车设计规范、试验规范和工程条款的语义表示学习

8. 使用限制与注意事项

1. 数据主要来自 OCR 文档，可能存在错字、断词、字符粘连、表格错位和公式识别错误。
2. 清洗过程只删除明确的版面噪声，不保证修复所有 OCR 错误。
3. 图片中的图形、曲线、尺寸标注和几何关系通常无法仅通过文本恢复，图片 OCR 内容不能替代原始图纸。
4. 标准和法规内容可能随版本更新，训练数据不应直接作为当前法规或设计定版依据。
5. 进行工程设计、试验判定或合规评审时，应回到对应的正式标准原文和最新有效版本。
6. 训练前应根据显存、上下文长度和训练目标决定是否进一步切分文档、去重或建立验证集。
7. pre_process.py 当前会先读取整个清洗文本，再分块调用 tokenizer，并将 token ID 暂存于内存中的列表；如果机器内存不足，需要进一步改造成分片 tokenization 流程。

9. 建议的后续质量检查

在正式训练前，建议进行以下检查：

• 随机抽取多个标准文档，人工核对清洗前后文本。
• 检查标准号、章节号、单位、数字、公式和表格是否完整。
• 统计重复文档、重复段落和近似重复页面。
• 按标准文档划分训练集、验证集，避免同一文档的相邻页面跨集合泄漏。
• 检查 <|endoftext|> 是否在训练框架中被正确识别为特殊标记。
• 对清洗前后的 token 数量进行对比，并解释数量变化来源。
• 使用汽车术语、标准条款、尺寸要求和试验条件构造领域验证集。

10. 版本记录

• 当前版本：汽车领域预训练数据清洗版
• 原始数据：pretrain.txt
• 推荐训练数据：pretrain.cleaned.txt
• 清洗脚本：clean_pretrain.py
• Tokenizer 脚本：pre_process.py