You need to agree to share your contact information to access this dataset
This repository is publicly accessible, but you have to accept the conditions to access its files and content.
这是一个研究过程的完整存档，包含实验数据、评测日志、脚本和一份完整的 AI 助手会话记录。 申请前请确认你已读过下面的「安全与隐私」与「数据来源与许可」两节。
Log in or Sign Up to review the conditions and access this dataset content.
synRL — 双层数据中心 RL 的完整实验记录
一个研究项目的全过程存档：数据、脚本、评测日志、报告，以及产生这一切的 AI 助手会话记录。
核心问题：让一个"教师"大模型重写训练数据，能不能让"学生"小模型学得更好？ 围绕它做了两个领域（数学、代码）的对照实验，测了六个数据归因方法， 并且——这可能是本存档最有价值的部分——完整记录了过程中犯的每一个错误和它们是怎么被发现的。
⚠️ 安全与隐私
这是一个公开仓库。上传前做过凭据扫描与脱敏：
| 项 | 处理 |
|---|---|
| 会话记录里的 API 密钥 | 已脱敏 12 处（sk-… / hf_… → REDACTED），上传前复核零残留 |
.deepseek_key |
未上传 |
| 模型权重、checkpoint | 未上传（387 GB + 636 GB，且可由脚本重建） |
| Python 虚拟环境 | 未上传（约 3 万个小文件，见下面的重建说明） |
会话记录中仍可能包含： 主机名、绝对路径、集群与调度器细节、 作者的工作模式与判断过程。发布者已知悉并接受。
如果你是本仓库的所有者：会话记录中出现过的所有密钥都应视为已泄露并轮换， 即使这里已经脱敏——它们曾以明文出现在会话里。
这里面有什么
data/ 518 MB 数学域：D0 原始池、七条重写臂、子集实验数据
data_code/ 205 MB 代码域 v1：KodCode 池、六条臂
data_code2/ 193 MB 代码域 v2：OpenCodeReasoning × code_contests、LiveCodeBench
logs/ 80 MB 全部评测结果、噪声地板阈值、训练日志、影响力分数
report/ 996 KB 8 份中文 HTML 报告（图文完整，零 JS）
scripts/ 1 MB 146 个脚本：建池、重写、SFT、评测、沙箱执行器、报告生成器
configs/ 11 KB 实验配置
reference_paper/ 13 MB OptimSyn (ICLR 2026)、DATE-LM (NeurIPS 2025) 两篇 PDF
session/ 21.6 MB 完整的 Claude Code 会话记录（已脱敏）
memory/ 6 KB 助手的持久化记忆文件
CLAUDE.md 项目规则（写给 AI 助手的，也是给人看的踩坑清单）
主要结论
数学域
重写有效，两个学生上都成立。 每个真正改写了数据的教师都确定地赢过原始数据。
教师选择只在学生小的时候重要。 0.6B 学生上六个教师拉开 9.59 pp、15 对里 12 对可判； 4B 学生上压缩到 0.95 pp、0/6 可判。
最强的模型不是最好的教师。 Opus 5 的改写采纳率最高（99.90%、零质量门拒收）， 但在 0.6B 学生上只排第三，被开源的 1.7B 确定地赢 4.66 pp。
数据归因（OptimSyn / DATE-LM 复核）
六个估计量，没有一个预测下游增益。 LESS、Grad-Sim、Grad-Dot、Rep-Sim、RDS+、BM25， 真臂间相关系数 −0.58 到 +0.21，全部落在 n=5 的噪声里 （五个点纯随机的 |r| 中位数就有 0.404）。
LESS 给最干净的那批数据打了负分。 Opus 采纳率 99.8%、实测 +4.82 pp， LESS 给 −0.00088，低于完全没改数据的对照臂。
在这个规模上，代理比真值还贵。 直接训完再测一条臂 15.1 分钟， 算一遍梯度影响力 20.2 分钟。
代码域
v1 有结构性缺陷，本存档保留了它以及发现缺陷的过程： 训练目标是裸代码，代码块外散文 0 字符，而数学域的算子重写的是一段推理。 两者不是同一件事。
v2 换成带推理的数据：OpenCodeReasoning 的 <think> 段，
中位 6,280 字符（2,351 token），接 code_contests 的测试做硬门。
方法上最要紧的一件事：先量尺子
在下任何「A 比 B 好」的判断之前，先测噪声地板—— 同一份数据、同样超参、只换随机种子，训 3 遍，看结果能差多少。
数学域 0.6B 学生 comb（4424 题） σ 0.311 峰值判定阈值 ±0.88
代码域 MBPP（500 题） σ 0.884 ±2.60
代码域 HumanEval（164 题） σ 2.172 ±6.14
代码域同分布 held-out（2942 题） σ 0.428 ±1.21
噪声地板由评测题数决定（近似 √N），但不完全： HumanEval 实测比 √N 预测高出三成半。
这把尺子在本项目里反复推翻看似显著的结论。logs/thresholds_*.json 是它的落盘形式。
存档里也记录了错误
这不是修饰。会话记录里能看到每一个错误从产生到被发现的完整过程， 其中若干次是结论已经写进报告之后才被对抗核查推翻的：
| 错误 | 后果 | 怎么发现的 |
|---|---|---|
| influence 对整条序列求梯度，而训练只对 completion 求 | 所有影响力数字作废；对照臂和空臂拿到一模一样的分数 | 36 个 agent 的审计工作流 |
| 把落在阈值内的 −4.07 当成代码域报告最强结论 | 同一节里数值相同的 +4.07 被正确标为"判不出"，自相矛盾 | 49 个 agent 的核查工作流 |
| 数学域对比行混用两套臂 | 教师差距被低估近一倍（5.05 vs 9.59） | 同上 |
| 报告数据集漏斗表账不平 | 116,078 − 98,035 ≠ 6,000，中间少写了一步随机抽样 | 同上 |
pkill -f 匹配到 agent 自己的命令行 |
自杀，补丁没落上，白跑一轮 | 自己踩了三次，写进了 CLAUDE.md |
| 评测脚本执行阶段串行 | 单点评测 30+ 分钟，同分布评测看似不可行 | 并行化后快 25 倍，结果逐位一致 |
CLAUDE.md 里的「Shell gotchas」一节是这些教训的沉淀。
怎么复原整个项目
1. 取数据
huggingface-cli download daipath/synRL --repo-type dataset --local-dir synRL
cd synRL
（本仓库是 manual gated，需先在网页上申请并等待批准。）
2. 建环境
项目原本运行在 NCSA DeltaAI（aarch64 / GH200 / Lustre）。关键约束写在 CLAUDE.md 里。
python3.12 -m venv .venv && source .venv/bin/activate
pip install torch vllm transformers trl datasets accelerate pytest
2026-09-11 在一台 AWS 主机（x86_64、8×H100、无 Lustre）上复原时用的是 bash scripts/setup_env_aws.sh：
uv 建 Python 3.12 venv，版本与 configs/freeze_all.txt 一致，并处理了 flashinfer JIT 所需的 CUDA 工具链；
非 Lustre 主机可直接参考。
scripts/ 里的脚本假定：
bin/py是唯一的 python 入口（它会先 sourceenv.sh）- 每个入口脚本调用
synrl_guard.check()，任何缓存变量指到项目外就拒绝启动
在别的机器上跑，需要改 env.sh 里的路径，并相应放宽 scripts/synrl_guard.py 的白名单。
3. 未包含的东西怎么来
| 缺什么 | 怎么重建 |
|---|---|
| 模型权重 | huggingface-cli download Qwen/Qwen3-0.6B-Base 等，脚本会自动拉 |
| checkpoint（约 1 TB） | 跑 scripts/sft.py；logs/ 里有全部超参和 train_runtime |
| 评测结果 | 已包含在 logs/，无需重跑 |
4. 重建报告
bash scripts/build_reports.sh # 一条命令重建全部 8 份 HTML
生成器在 scripts/report_cn/，全部数字构建时从 logs/ 读取，
两个 PYTHONHASHSEED 下逐字节一致。HTML 是产物，生成器才是源。
5. 重跑实验
# 数学域
bin/py scripts/prepare_data.py # 建 D0
bin/py scripts/rewrite_multi.py --variants B # 各教师重写
bin/py scripts/build_b_arms.py # 组装匹配臂（严格等行数）
bash scripts/run_ladder8.sh # 噪声地板：3 种子 × 8 epoch
bash scripts/run_b_sft.sh && bash scripts/run_b_eval.sh # 各臂 SFT + 评测
# 代码域 v2
bin/py scripts/build_pool2.py --n 2400 # OpenCodeReasoning × code_contests
bin/py scripts/gate_pool2.py # 参考解答自测过滤
bin/py scripts/code_exec_io.py # 沙箱执行器自检
顺序不能乱：噪声地板必须在任何臂间比较之前跑完。
怎么复原这个 Claude 会话
session/session-e128dc81.jsonl 是 Claude Code 的完整会话记录（已脱敏），
约 21.6 MB，一行一条消息（JSONL）。
直接读
# 只看人说的话
jq -r 'select(.type=="user") | .message.content' session/session-e128dc81.jsonl | head -50
# 看助手用了哪些工具
jq -r 'select(.type=="assistant") | .message.content[]? |
select(.type=="tool_use") | .name' session/session-e128dc81.jsonl | sort | uniq -c
在 Claude Code 里恢复上下文
Claude Code 的会话存放在 ~/.claude/projects/<路径编码>/<会话ID>.jsonl。
路径编码规则是把项目绝对路径里的 / 换成 -：
mkdir -p ~/.claude/projects/-work-hdd-bhlf-ddai2-synRL
cp session/session-e128dc81.jsonl \
~/.claude/projects/-work-hdd-bhlf-ddai2-synRL/e128dc81-b91b-4379-9cfb-edaa0ad7a6fc.jsonl
cp -r memory ~/.claude/projects/-work-hdd-bhlf-ddai2-synRL/memory
cd /work/hdd/bhlf/ddai2/synRL # 必须在同一个项目路径下
claude --resume # 或 claude -r，然后选这个会话
注意事项：
- 目录名必须和原项目路径完全对应，否则 Claude Code 找不到这个会话
- 若你的项目放在别的路径，把目录名改成你自己路径的编码形式
- 会话里引用的绝对路径（
/work/hdd/bhlf/ddai2/synRL/...）在别的机器上是无效的， 恢复的是上下文和历史，不是可直接重放的脚本 memory/会被自动加载；MEMORY.md是索引，其余是单条记忆
会话规模
约 21.6 MB、上千轮交互，覆盖从建数据集到发布报告的全过程， 包含每一次调试、每一次判断失误和纠正。这份记录本身就是实验的一部分。
数据来源与许可
本仓库是混合来源的衍生作品。转授须遵守各上游许可：
| 上游 | 用途 | 许可 |
|---|---|---|
| GSM8K | 数学 D0 | MIT |
| MATH (Hendrycks) | 数学 D0 | MIT |
| SVAMP / ASDiv | 数学评测 | MIT / CC BY |
| KodCode-V1 | 代码 v1 训练池 | 见原仓库 |
| MBPP | 代码 v1 评测 | CC BY 4.0 |
| HumanEval | 代码 v1 评测 | MIT |
| nvidia/OpenCodeReasoning | 代码 v2 推理链 | CC BY 4.0 |
| deepmind/code_contests | 代码 v2 测试用例 | Apache 2.0 |
| LiveCodeBench | 代码 v2 评测 | 见原仓库 |
| Qwen3 / Qwen3.5 系列输出 | 各教师重写产物 | 见各模型许可 |
| Claude Opus 5 输出 | Opus 臂重写产物 + 会话记录 | Anthropic 使用条款 |
reference_paper/ 下的两篇 PDF 版权归原作者，仅作研究参考收录。
本仓库自身产出的部分（脚本、报告、评测日志、会话记录）：CC BY 4.0。
引用
@misc{synRL2026,
title = {synRL: A Complete Experimental Record of Teacher-Rewritten
Training Data and Its Attribution},
author = {Dai, D.},
year = {2026},
url = {https://huggingface.co/datasets/daipath/synRL},
note = {Includes the full AI-assistant session transcript that produced it}
}
- Downloads last month
- 43