flufy3d/liangyi-zh-corpus

两仪(liangyi)中文语料 —— 私有正本

私有仓库,不可再分发。 这里的每一份数据都是从研究用途许可的公开语料 (LCCC / BELLE / COIG / OpenSubtitles / 中文维基 / 清洗网页等)清洗派生而来。 原始许可只覆盖研究用途,派生物同样只在本项目内部使用 —— 这不是习惯,是许可条款。

taiji 项目 liangyi 赛道(中文无限流对话 agent)的语料正本。它存在的理由只有一个: 清洗一次、到处能用。 清洗与分词在欧洲的自建机上跑(直连 HF),训练在国内机房的 租用 GPU 上跑(经 hf-mirror 拉),中间需要一条带版本、带校验、退租重开也不丢的传输路。

目录

tokenizer/<sha8>/    tokenizer.json + report.json     32k 中文 BPE(词表布局见下)
mid/<dataset_id>/    manifest.json + shard-*.jsonl.zst  中间态:清洗完、未分词
bin/<bin_id>/        manifest.json + shard-*.bin        uint16 memmap,直接喂训练

• dataset_id = <源名>@<版本>;重新清洗 = 新版本新 id,老配方脚下的数据永不被换掉。
• bin_id = <dataset_id>__<分词器 sha8>__oral<阈值两位>;换分词器 = 新目录,不覆盖。
• 每份 manifest.json 逐片记 sha256(解压后内容的 sha,不是压缩字节 —— 换 zstd 级别不该让全部片「变了」)、文档数、token 数。取片一律逐片验 sha,判据不是「目录在不在」。
• mid 与 bin 都推:只推 mid 的话每次重开都要重跑分词级,而纪律是「只拷不算」。

口径

• n_tokens_est(mid)是估算,n_tokens(bin)是实测。两个字段名不同,不是一个 字段两种含义 —— 混用过一次就再也分不清哪个数是量出来的。
• oral 是每篇文档的口语度分数 ∈ [0,1],分数进数据、阈值进配方:改阈值只重跑分词级 (便宜的那一半),不重跑下载清洗(贵的那一半)。
• 分词器词表 32768:真词 0–32703,保留区 32704–32767,最后一格 32767 是记忆协议的 查询符。这一格由模型侧写死取 vocab_size - 1,放错位置不会报错,只会让读数变噪声。

这不是什么

不是一个可以直接 load_dataset 的通用中文语料。配比、清洗阈值、分片边界全都是为 liangyi 这一个训练配方服务的,而且它们的身份记在项目自己的库里(ly_datasets 表), 不在这里。这个仓库是传输与备份,不是发布。