LLM Benchmark Contamination — 项目档案
这是一个研究项目的完整工作档案，不是数据集。项目主题：当前 LLM（GPT / Claude / Qwen / DeepSeek，尤其 Qwen 小模型）对 GSM8K / MATH 等测试集的记忆——把"有没有记住"拆成"记住多少 / 值多少分 / 能不能测出来"三个量，规划了四条研究路线（可检测性相图 / 合成数据洗白 / 距离-效应 / 网页中介分解），目标 ICML 2027。
档案由 Claude Code（Claude Fable 5）会话产生，包含：
| 目录 | 内容 |
|---|---|
report/ |
研究路线报告（自包含 HTML）+ 生成它的全部输入与脚本（事实简报、统一口径、章节 JSON、构建脚本） |
claude/ |
完整 Claude Code 会话转录（主会话 jsonl）、69 个子代理与 2 个 multi-agent workflow 的全部记录、workflow 脚本、本项目的 prompt history |
RESTORE.md |
如何复原这个会话、如何从原始记录逐字节重放出报告、如何接着做这个研究项目 |
报告正文请直接打开仓库内的 report/contamination-routes.html（自包含，无外部依赖）。曾发布过 Claude artifact 在线版（https://claude.ai/code/artifact/a5b30f6c-9707-430e-9fb8-605d720b5edc），但该链接仅在发布它的 Claude 账号下可见，账号切换后即不可访问，不应作为长期引用。
门控说明：本仓库 public + manual gated，文件访问需仓库所有者逐一批准。
安全说明：所有文件中的 API token 模式（hf_… 等）已在打包时替换为 hf_***REDACTED***；档案打包当日原 token 已作废。转录中的集群路径、账户余额等信息为存档时的状态。
引用警示：报告中大量 2026 年 arXiv 编号与数字来自另一会话的自动文献核查，未逐条对 PDF 复核；使用前请按报告末章的复核清单核实。
- Downloads last month
- 28