xytpai/datax-open

DataX Open

面向大语言模型预训练的开放文本数据集，按类别组织并逐批扩充：

• **wiki/**：中英文 Wikipedia 清洗语料。已有 zh、en 配置保持不变。
• **periodicals/**：开放许可的期刊、报刊及新闻正文；本次发布首批 10 GB， 以英文开放获取科研论文为主，辅以中英文新闻，并非均衡的中英或新闻/科研语料。

不同类别、不同文章适用的许可可能不同。数据卡的多个 license 标签是许可清单，不表示 使用者可为任一文章任意选择其中一种许可；请按 LICENSE.md 和逐条 meta 中的来源及许可使用。本仓库不将第三方文本统一改授为 MIT、CC0 或其他许可。

已发布批次

类别 / 批次	JSONL 文件	训练切片	未压缩字节
Wiki / 20261001 v6	173	5,962,659	34,305,690,945
Periodicals / 20261020_v6	57	381,809	10,000,021,491
当前总计	230	6,344,468	44,305,712,436

统计仅描述列出的已发布批次，不代表未来扩充后的规模。后续 periodicals 批次使用新的 批次标识和文件名，保留旧批次，追加发布清单及校验和。20261020 是本批发布标识， 不是所有文章的发表日期，也不是源快照日期。

Periodicals：首批 20261020_v6

规模与时效

语言	文件	文章	切片	未压缩字节
简体中文	4	147	148	953,065
英文	53	212,283	381,661	9,999,068,426
合计	57	212,430	381,809	10,000,021,491

共 2,075,650,555 text tokens（约 20.76 亿），当前本地 Qwen2Tokenizer 下单条 text 最多 7,680 tokens；本页后文给出 tokenizer 哈希和使用窗口的注意事项。 10 GB 指含 metadata 的未压缩 JSONL，并非 10 GB 纯正文。

• 207,893 篇 PMC 期刊文章；3,922 篇 Common Pile 新闻； 147 篇中文及 468 篇英文 Wikinews。
• 按实际发表日期，2022 年及以后占 99.8219% 文件字节、99.8344% text tokens、 99.7968% 切片、99.7689% 文章，均超过本批最低 60% 要求。
• 较早内容为 491 篇，附 meta.historical_selection 入选依据。旧科研文章还要求 主题相关和可追溯的至少 100 次引用指标；引用量不是结论正确性的证明。
• PMC 源为 2024 年收集的快照，近期论文主要为 2022—2024。少量 2025—2026 内容来自新闻，不代表全面覆盖最新研究。
• 中文为原生中文新闻转简体，不包含批量英译中；本批中文不足 1 MB，不宣称中英平衡。

来源、处理与验收范围

来源为 Common Pile PubMed、 Common Pile News 和 Wikinews 转储。精确源 revision、源文件、文章链接、 作者和许可证据保留在每条 meta，源清单同时见下方批次发布记录。 PMC 的标题、发表日期、文章类型、许可类型按 PMCID 与 Europe PMC 元数据匹配。

从原始结构重建 Markdown；删除图片、导航及明确站点垃圾；保留原文指代所需的引用标识、 可可靠表达的表格和公式。不能可靠恢复的公式、压平表格或明确损坏正文按规则隔离， 不让模型猜补事实。通过正文、DOI、URL、标题和保守近重复规则去重；不跨语言强行合并文章。 这不是逐篇人工审定，也不保证识别所有重复或所有语言错误。

切片正文字符区间连续且无重叠，标题、章节、表头或代码围栏可为上下文少量重复； 完整覆盖仅指清洗后保留的正文，不表示原始网页无损。 少量标题引号做了确定性排版规范化，原始标题和变更记录仍保留。

本批验收通过：全文件 UTF-8/JSONL、token、哈希、ID 检查，全部 212,430 篇文章的 切片重组与获准正文匹配，以及独立时效配比统计；最终固定 14 条样本的私有模型 复检通过。自动检查和抽样通过不代表全量事实、文字质量或法律权利均无问题。 先前有缺陷的试验产物未发布；本批不会把被排除文章的旧审核失败改成审核通过。

路径与加载

文件格式仍为一行一条 {"id": ..., "language": ..., "meta": ..., "text": ...}。 本批：periodicals/periodicals_{en,zh}_20261020_v6_*.jsonl。常规分片约 200 MB； 语言切换或尾部可产生小分片。记录 ID 和内部源文件 metadata 保留原值，不因上传文件改名而改写。 meta 含许可、作者、文章日期、切片字符范围、质量修订和 token/哈希等追溯信息。

from datasets import load_dataset

periodicals = load_dataset(
    "xytpai/datax-open", "periodicals", split="train", streaming=True
)
periodicals_zh = load_dataset(
    "xytpai/datax-open", "periodicals_zh", split="train", streaming=True
)
print(next(iter(periodicals))["text"])

为固定本轮，建议同时固定 Hub commit，并将 data_files 限定为 periodicals/periodicals_*20261020_v6*.jsonl；不限定批次的 periodicals 配置会纳入后续追加数据。 新增批次可能扩展可选 metadata 字段，读取端应兼容。

本批记录：release manifest， validation summary， license summary。

Periodicals 许可

实际逐条统计包含 CC BY 2.5、CC BY 4.0 和 CC0 1.0。 应保留 meta.authors、meta.source_url、许可链接和修改说明。 未来批次可能增加不同许可证，必须逐文章保留实际许可版本，不将本批统计视作整个类别永久许可。 请阅读根目录 LICENSE.md 和 官方许可副本。

Wiki（既有发布，内容未变）

Wikipedia 来源为 Wikimedia 20261001 转储快照，处理版本 v6。 快照日期是转储任务标识，不保证每条修订均早于当月 1 日；具体修订时间见记录元数据。

Wiki 数据规模

语言	JSONL 文件	训练切片	未压缩大小
简体中文	20	906,751	3.91 GB
英文	153	5,055,908	30.40 GB
合计	173	5,962,659	34.31 GB

共约 6.704 billion tokens，按本次处理使用的 Qwen2Tokenizer 统计。每条 text 不超过 7680 tokens，为 8192 窗口预留余量。 更换 tokenizer、加入额外包装或把元数据也用于训练时，需重新检查长度。 Tokenizer JSON SHA-256： c0382117ea329cdf097041132f6d735924b697924d6f6fc3945713e96ce87539。

Wiki 文件与格式

• wiki/*.jsonl：UTF-8，一行一条训练切片；每文件约 200 MB，末尾分片较小。
• SHA256SUMS：所有 JSONL 的 SHA-256，路径相对于仓库根目录，按相对路径字典序排序。
• LICENSE.md：来源许可、署名和使用说明。

每条记录包含：

{"id": "wiki_<language>_<snapshot>_<page_id>_<chunk_index>", "language": "zh", "meta": {"title": "…", "original_title": "…", "source_file": "…", "source_url": "…"}, "text": "# 标题\n\nMarkdown 正文…"}

实际 meta 还包含修订号与时间、切片序号、正文字符范围、哈希、token 数和清洗信息。 source_url 指向 Wikipedia 的对应永久修订，便于溯源与署名。

Wiki 处理与质量

保留正文命名空间，过滤重定向、消歧义页、过短或明显损坏的内容；去除图片、 导航、维护和引用模板等，尽量将章节、列表、表格及公式转换为 Markdown。 中文以 OpenCC T2S 和有依据的语境修正规范为简体，必要外文、代码和公式保留。

同语言内进行规范化正文精确去重，以及保守的近重复候选检索和相似度复核； 中英文同主题文章不相互删除。长文按段落、句子等边界分片，正文区间不重叠； 为保留上下文，标题、章节标题、表头或代码围栏可能重复。

无法可靠展开的模板、损坏表格及不合格文章会被隔离，因此数据不是完整无损的 Wikipedia 副本。修复尽量忠于原文，不让模型扩写事实或猜补内容。 发布前完成全部文件的 UTF-8、哈希、切片覆盖及长度检查，并进行了固定 33 条样本的 质量复检；抽样通过不代表数百万篇文章没有事实错误、偏差或清洗遗漏。

Wiki 使用

from datasets import load_dataset

zh = load_dataset("xytpai/datax-open", "zh", split="train", streaming=True)
en = load_dataset("xytpai/datax-open", "en", split="train", streaming=True)
print(next(iter(zh))["text"])

下载后在仓库根目录校验：

sha256sum -c SHA256SUMS

Wiki 来源与许可

数据来源为 Wikimedia Dumps： 英文快照、 中文快照。 版权属于 Wikipedia 贡献者及相关权利人，不是 MIT 许可文本。

本语料中的 Wikipedia 文本通常按 CC BY-SA 4.0 提供，个别引用或第三方材料可能 适用其他条款。使用或再分发时应保留来源、作者署名途径、许可和修改说明，并遵守 适用的相同方式共享要求。详情见 LICENSE.md 与 Wikimedia 许可说明。 本仓库不因数据清洗而取得或授予超出原始许可的权利，也不保证下游模型训练或发布 自动满足所有法律义务。新闻性、敏感或有争议的内容可能仍然存在。