RSIChallenge — artifacts / 工件集

Composed on the aws server. Source repos: auto-impl (PostTrainBench agent study) and RSIChallenge (recursive self-improvement study). Built by scripts/compose_artifacts.py; inventory in MANIFEST.json.

高层要点 / Takeaways

1. 这是两个项目的"可移植产物"合集 —— 能跨机器、跨时间复用的那部分: agent trace、逐 run 指标、分析中间产物、全部文档。
2. 不含模型权重、agent 工作区和训练数据。 前者有数百 GB,后者含被刻意放进沙箱的 benchmark 测试题(发布等于再分发测试集)。详见下面"未收录"。
3. trace 是核心资产:168 个 run、每个 10 小时的自主研究过程,逐条工具调用与输出。
4. 每个 run 目录自带 metrics.json(最终分数)与 prompt.txt(任务原文),可独立使用。

This is the portable subset of two projects: agent traces, per-run metrics, analysis intermediates and all documents. It deliberately excludes model weights, agent workspaces and the training data the agents built — the last of those contains benchmark test items that were placed in the sandbox on purpose for a contamination self-check, so publishing it would redistribute test data. The traces are the asset: 168 runs of ten-hour autonomous research, tool call by tool call.

Layout / 结构

auto-impl/
  docs/            研究文档:结果、综述、总报告(中英双语)
  analysis/        trace 分析管线的代码与产物(探针、噪声、泄漏审计)
  scripts/         提交与复现脚本
  runs/
    claude_opus5_10h_run1/<task>_<model>_<timestamp>/
    claude_opus5_10h_run2/...        (第二个种子;extra/ 下是同配置重复)
    codex_gpt56sol_10h_run1/...
    direct_inference_zeroshot/...    (不训练的基线)
      ├── trace.txt         完整 agent trace(每行一个事件,带 ISO 时间戳)
      ├── trace_parsed.txt  解析后的可读版本
      ├── metrics.json      最终分数
      ├── prompt.txt        给 agent 的任务原文
      ├── final_eval_*.txt  评测日志
      └── time_taken.txt
RSIChallenge/
  docs/            研究文档
  experiments/     实验代码
  rsi_runs/        run 产物(traces/ 与 substeps/)

未收录,以及为什么 / What is not here

未收录	原因
final_model/	168 个 run 的训练后权重,数百 GB
agent_home/、task/	agent 工作区与它自己构建的训练数据;task/ 含 benchmark 测试题(沙箱里刻意放的,供 agent 自查污染),发布等于再分发测试集
hf_cache/、容器镜像	第三方权重与镜像,不是我们的东西
_aborted_*	被抢占的残缺 run,没有 metrics.json;数量记在 MANIFEST.json 里

可比性警告 / Caveats

• arenahardwriting 与 healthbench 由本地 Qwen3.6-27B 评分,顶替 OpenAI gpt-5-mini (集群连不上)。绝对值与已发表数字不可比 —— zero-shot 下本地 judge 给 0.034、论文给 0.095。 两个 agent 用的是同一个替代 judge,所以它们之间可比。
• agent 沙箱是刻意禁网的(--network=none),上游官方设定是联网无限制。
• 逐格比较的 95% 噪声门槛是 0.125(跨 sweep)/ 0.084(同 sweep 内); 小于它的分差不构成证据。方法见 auto-impl/docs/results/seed_variance_run1_run2_2026-10.md。