Datasets:
OOD-Test-v2
OOD-Test-v2 is a time-held-out benchmark for coding agents. It contains 456 standard-I/O problems from Codeforces and AtCoder contests held between June and November 2026. Every problem comes with:
- the statement, constraints, tags and editorial;
- complete stdin records with reference outputs from a project-generated supplementary test suite;
- a generator, validator, reference solution and checker;
- a pool of extra correct and buggy programs.
This version rebuilds the test suites for the same 456 problems in OOD-Test. It contains 21,236 complete test inputs: 779 original public samples and 20,457 generated inputs. All 456 generators and validators were written by GPT-6 Astra, with Polygon-style independent review, sealed wrong-program controls, native verification, and independent checks. This is a temporal split, not a guarantee that every model has never seen the problems. The official hidden test suites are not included in full.
On top of these, the dataset defines five evaluation tasks: Generation, Repair, Prediction, Execution and Testcase Gen.
problems/holds the complete problem packages and grading material.Tasks/holds the model-facing inputs, exported under per-task visibility rules.
The Dataset Viewer is configured with all five task subsets: Generation, Repair, Prediction, Execution, and Testcase Gen. Tasks/prediction.json (75.6 MiB) and Tasks/execution.json (70.9 MiB) can also be downloaded directly. The test-suite comparison detects 870/912 independent synthetic wrong mechanisms versus 773/912 for the previous suite; these are not model benchmark scores. No model pass@1, repair-success, or API-cost results are reported in this release.
下文为中文详细说明。The rest of this card is in Chinese; the project page is fully bilingual.
OOD-Test-v2 是面向 Coding Agent 的时间留出评测集,收录 456 道 Codeforces / AtCoder 标准输入输出题。每题包括以下内容:
- 题面、约束、tag 和题解;
- 测试输入与标准输出;
- 生成器、输入校验器、标准解和输出检查器;
- 额外的正确或错误程序。
数据采用 format 2.0,任务协议为 stdio_v2。
数据集用于评测 Generation、Repair、Prediction、Execution、Testcase Gen 五种能力:
problems/:完整题包与评分依据;Tasks/:按字段可见性规则导出的模型输入。
本次发布包含数据、任务定义和评价口径,沿用原 OOD-Test 的 456 道题、标准解、checker 和随包程序,重造 generator、validator 与补充测试,并刷新判题结果及任务输入。本地构建目录仍为 data/LiveCodeBench-Latest/OOD-Test-Polygon/,对外发布名称为 OOD-Test-v2。
1. 范围与规模
收录范围是 2026-06-01 至 2026-11-16 期间已结束比赛中的全部非交互标准输入输出题,覆盖所有难度。题目实际发布日期为 2026-06-06 至 2026-11-15。
| 平台 | 比赛类型 | 题数 |
|---|---|---|
| Codeforces | Div. 1 | 42 |
| Codeforces | Div. 2 | 104 |
| Codeforces | Div. 1 + 2 | 35 |
| Codeforces | Educational | 40 |
| AtCoder | ABC | 167 |
| AtCoder | ARC | 61 |
| AtCoder | AGC | 7 |
| 合计 | Codeforces 221 / AtCoder 235 | 456 |
候选题共 473 道,其中 16 道交互题和 1 道 output-only 题(ARC226E)未收录。
关于版本和重叠:
- Easy / Hard 版本各有独立的
uid,相关版本通过family_id关联。 - 与旧版 OOD-Test 的 456 道题完全重叠,沿用相同
uid,本次更新的是测试套件与对应任务输入。 - 原始收集中的 4 道题与
pilot20重叠;Polygon 的 20 题试跑也已包含在本次 456 题中。
| 内容 | 数量 |
|---|---|
| 题包 | 456 |
| 完整测试输入记录 | 21,236 |
| 保留的原题公开样例 | 779 |
| 由 GPT-6 Astra 编写的 generator 生成的输入 | 20,457 |
| 额外解答程序 | 916(不含每题的 std.cpp) |
| Generation 任务实例 | 456 |
| Repair 任务实例 | 456 |
| Prediction 任务实例 | 1,358 |
| Execution 任务实例 | 1,358 |
| Testcase Gen 任务实例 | 456 |
一份“测试输入”是一次完整的 stdin,可以包含多个题内 test case。所有测试输入都存放在各题 cases.json 的数组里,而不是单独的文件。每题有 2–601 份输入,其中 55 题超过 70 份,包含小域穷举与针对性压力构造。五类任务共有 4,084 个实例。
“OOD”指按题目发布时间留出,不保证对所有模型都属于未见题。报告结果时,请同时注明模型版本、已知训练截止日期和本数据集版本。
2. 目录结构
OOD-Test-v2/
├── README.md
├── index.html
├── Tasks/
│ ├── generation.json
│ ├── repair.json
│ ├── prediction.json
│ ├── execution.json
│ └── testcase_gen.json
└── problems/
└── <platform>_<problem_id>/
├── description.json
├── cases.json
├── tasks.json
├── expected_verdict.json
├── generator.cpp
├── validator.cpp
├── std.cpp
├── checker.cpp
└── solutions/
└── *.cpp / *.py
数据集只包含 README、主页、Tasks/ 与 problems/;审计报告、构建缓存、封存审查程序和运行日志保存在数据集之外。
目录名示例为 atcoder_abc461_a 和 codeforces_2242F,对应的题目 UID 是 atcoder:abc461_a 和 codeforces:2242F。case_id 只在所属题包内唯一,跨题引用时需带上题目 UID。
3. 题包格式
description.json:题目与来源
| 字段 | 含义 |
|---|---|
schema_version |
当前为 2.0 |
uid、family_id |
题目唯一标识及相关版本分组 |
platform、problem_id、title、url |
平台、公开题号、标题及原题链接 |
contest_id、release_date、split |
比赛、发布日期;本集的 split 均为 ood |
statement、constraints、io |
题面、完整输入约束、标准输入输出约定及来源 |
tags、tag_details、rating |
标签、标签来源及难度信息 |
editorial |
题解内容、来源及生成或改写方式 |
programs |
标准解和额外程序的路径、语言、来源、角色 |
limits.original |
原平台时间和内存限制 |
limits.dataset_execution |
本数据集采用的运行限制及时限计算规则 |
runtime |
C++ 标准、编译参数、testlib 版本、判题环境等 |
provenance、sources |
数据来源、协议与可比性说明 |
这几类字段如实记录来源:
- 难度与限制:只记录有可靠来源的值,其余留空。
- 标签:来自平台或由 Astra 补充,来源见
tag_details。 - 题面:可能是原文、注明来源的翻译或转述,具体见
statement中的说明。
cases.json:完整输入与参考输出
顶层包含 schema_version、problem_uid 和 cases 数组。每条记录有以下字段:
| 字段 | 含义 |
|---|---|
case_id |
当前题包内的测试标识 |
input |
完整 stdin 字符串,保留换行 |
expected_output |
标准程序实际运行得到的 stdout |
kind |
输入类别,如 sample、generated |
source |
来源链接、原始样例输出,或 generator、argv、seed、构造模式与重放信息 |
coverage |
该输入覆盖的边界或构造说明 |
例如 atcoder:abc461_a 的一条公开样例:
{
"case_id": "t0000",
"kind": "sample",
"coverage": "official sample",
"source": {
"origin": "source_snapshot",
"url": "https://atcoder.jp/contests/abc461/tasks/abc461_a",
"upstream_case_id": "t0000",
"published_sample_output": "Yes\n",
"input_sha256": "9d63d0ac62176acc5977b66200ca95fbff99307c57a1cff0bc7d445ee1672dde",
"expected_output_sha256": "927580bf287560d4a26a5d6e129f91ffa9cb63031b1a8c772be6ec584e65e82b",
"expected_output_origin": "native_standard_stdout"
},
"input": "4 5\n",
"expected_output": "Yes\n"
}
各类记录的来源:
kind: sample:保留原题公开样例输入,官网原始输出另存于source.published_sample_output。kind: generated:本次生成器产生的输入。用source.argv中的完整参数列表重放;各题的模式和参数不同,不能统一按 seed 0–9 调用。expected_output来自标准程序本次原生判题运行,其来源记为source.expected_output_origin: native_standard_stdout。输入和参考输出的 SHA-256 也记录在source中。
例如该题的 g0000 使用 source.argv: ["1"],运行已编译的 generator 1 即得到其 stdin。其他题可能有多个参数,应逐条读取 source.argv。
构造题可能有多个合法答案,expected_output 保存的是标准程序的实际输出,可能与官网样例输出不同。判定正确性时请使用本题的 checker.cpp。
tasks.json:可见性与评分引用
每题包含五类任务配置,主要字段为 default_visibility、tasks 和各任务的 instances。各任务如何引用测试:
- Generation:通过
score_case_ids指定评分测试。 - Repair:记录目标
program、feedback_case_ids、反馈内容和独立的score_case_ids。 - Prediction:通过
case_id指定待预测输出的输入。 - Execution:指定
program、case_id和输出真值来源。 - Testcase Gen:记录目标程序、正确对照程序、输出模式及生成预算。
可见性按以下顺序逐级覆盖:
default_visibility → 任务 visibility → 当前测试的 case_overrides
未开放的字段默认隐藏。题解、tag、标准解、其他程序和目标输出均可分别控制。Execution 会开放被执行的目标程序,公开样例有各自的覆盖配置。
expected_verdict.json:现有程序的预期结果
programs 以程序相对路径为键,记录以下内容:
overall;default_case_verdict;case_overrides;- 语言。
某个测试未出现在 case_overrides 中时,取默认 verdict。例如,某程序整体为 WA、默认测试状态为 AC,仅部分 case 标为 WA。
常见状态有 AC、WA、RE、TLE、CE;判题器支持的其他失败状态应保留并单独报告。这些 verdict 基于本集的固定测试与执行协议,与 description.json 中记录的上游程序角色相互独立。
四个 C++ 程序与 solutions/
| 文件 | 接口和作用 |
|---|---|
generator.cpp |
按当前 case 的 source.argv 传入完整参数;stdout 输出一份完整输入 |
validator.cpp |
从 stdin 读取输入;退出码 0 表示合法 |
std.cpp |
标准输入输出形式的 C++17 标准解 |
checker.cpp |
调用方式为 checker input_file output_file answer_file;退出码 0 表示接受 |
solutions/ |
额外的正确或错误程序(C++ / Python);角色与来源见 programs.solutions |
checker 根据题目需要使用 token 比较、浮点误差规则或语义检查。
4. Tasks/:提供给模型的输入
五个文件均为 UTF-8 JSON 数组,每个元素对应一个任务实例。它们由完整题包按可见性配置投影而来,可直接用于组装模型请求。
| 文件 | 默认提供的内容 | 期待模型生成 |
|---|---|---|
generation.json |
题面、约束、接口、限制及公开样例 | 解题程序 |
repair.json |
题面、错误程序和经过过滤的失败反馈 | 修复后的程序 |
prediction.json |
题面及指定输入 | 符合题意的输出 |
execution.json |
具体程序、指定输入、接口和运行环境 | 程序实际 stdout |
testcase_gen.json |
题面、目标程序、公开样例、生成预算与输出模式 | 测试输入或 generator |
公共字段为 task_id、scenario、protocol、description 和 cases。涉及程序的任务还有 program.language 与 program.code,Testcase Gen 另有 budget 和 output_modes。评分规则和隐藏真值保留在对应题包的 tasks.json 与 cases.json 中,通过 task_id 对应。
各任务的可见范围:
- Repair:反馈默认包含 verdict 和错误程序的实际输出。非公开反馈输入及其正确答案默认隐藏,公开样例按其覆盖配置开放。
- Prediction / Execution:指定输入可见,目标输出隐藏。
prediction.json 为 79,311,521 bytes(75.6 MiB),execution.json 为 74,304,610 bytes(70.9 MiB)。批量评测时可流式解析 JSON 数组(例如使用 ijson)。
5. 评价指标
以下定义用于评测 Coding Agent。本次发布未执行正式模型能力评测,未报告模型的通过率、修复成功率或 API 调用费用。后文的错误检出统计是测试套件强度实验。
Generation
生成的程序通过 score_case_ids 中的全部测试即为成功,主要报告 pass@1。若每题独立采样 n 次、其中 c 次通过:
pass@k = mean_over_problems(1 - C(n-c, k) / C(n, k)), n >= k
当 n-c < k 时,该题记为 1。多轮修复不视作独立采样,不套用此公式。
Repair
修复成功率 = 修复后通过全部评分测试的实例数 / 初始确实失败的实例数
反馈测试与评分测试分开,评分集合不含与反馈输入等价的输入,且未修改的原程序在评分集合上仍会失败。多轮修复应固定轮数或成本预算,并记录每轮结果与最终成功率。
Prediction
macro accuracy = mean_over_problems(该题正确输出数 / 该题评测输入数)
micro accuracy = 正确输出总数 / 评测输入总数
主指标为题目宏平均准确率,可同时报告微平均准确率;无实例的题目不进入对应分母。输出由题目 checker 判定,构造题接受任意合法答案。输入的选取规则:
- 每题最多 3 份;
- 不含公开样例;
- 按空白分隔的 token 序列去重。
ABC474A 和 ABC477A 的全部合法输入都已作为公开样例,因此这两题没有 Prediction / Execution 实例。其余 454 道题共产生 1,358 个 Prediction 实例和 1,358 个 Execution 实例。
Execution
accuracy = 正确预测执行输出的实例数 / 可执行的确定性实例数
真值是指定程序的实际 stdout。比较规则:
- 按空白分隔后的 token 序列精确匹配;
- 保留大小写和数值写法,例如
1与1.0不等价; - 即使题目允许多种构造,也需预测该程序实际输出的那一种。
编译或基础设施失败单独记录。
Testcase Gen
生成器运行成功率 = 成功完成并产出输入的运行次数 / 生成器运行次数
输入合法率 = 合法输入数 / 生成输入数
错误检出率 = 被检出的已确认错误程序数 / 已确认错误程序总数
误杀率 = 被判为错误的正确对照程序数 / 正确对照程序总数
生成的输入先经过 validator,再依次运行标准解、目标程序和 checker。计分规则:
- 非法输入不计为有效检错;
- 目标程序编译失败不计为 testcase 成功;
- 生成器运行成功率单独报告,程序池及其分母随结果一并给出。
每个实例的预算为:
- 最多 10 份输入;
- 总输入大小 16 MiB;
- generator 运行超时 20 秒。
具体配置见该实例的 budget。程序池中包含合成的错误程序,因此该指标衡量的是在本程序池上的检错能力。
调用成本
建议每次评测记录以下内容:
- 模型与价格版本;
- 模型及工具调用次数;
- 输入、缓存输入与输出 token;
- 实际费用与墙钟耗时。
失败调用和重试同样计入,未知费用留空。
- 每题成本:该题所有评测调用的费用之和。
- 每成功题成本:全部评测费用 / 成功题数(零成功时不定义)。
- Repair:分别记录增量修复成本和包含初始生成的完整流程成本。
- 判题耗时:单独列出,不与模型调用时间合并。
6. 执行环境与资源限制
原题限制与数据集执行限制分别存放在 limits.original 和 limits.dataset_execution。时限以每秒 4e8 次固定基准迭代为参考:在较慢的机器上相应放宽,并设 20 秒上限。
multiplier = max(1, 4e8 / measured_rate)
timeout_seconds = min(20, original_time_seconds * multiplier)
几个例子:
- 实测速率为
1e8时倍率为 4:原题 2 秒对应 8 秒,原题 8 秒对应 20 秒(受上限约束)。 - 机器快于
4e8时倍率为 1,直接使用原题时限。
本批六个原生判题实例分别执行固定的 uint64 乘加递推基准,实测速率为 1.2565e9–1.2780e9 次/秒,均快于 4e8。因此所有题的倍率均为 1,本批实际执行时限均保留原题值,未因机器较快而缩短。同题的新旧套件使用同一实例;DOMjudge 另行实施墙钟超时保护。
| 项目 | 当前配置 |
|---|---|
| 原生判题 | Polygon-Replica + DOMjudge 9.0.0,domjudge/judgehost:9.0.0 |
| 原生 C++ 编译 | GCC 13.3,C++17,-x c++ -Wall -O2 -std=c++17 -static -pipe -DDOMJUDGE |
| 独立复验 C++ 编译 | GCC 12.2,C++17,-O2 -pipe,upsolve-judge:1 |
| 解答程序内存 | max(512 MiB, 原题内存限制);原生判题由 DOMjudge judgehost 实施 |
| 单个输出文件上限 | 64 MiB |
| 编译超时 | 90 秒 |
| 原生 / 独立复验编译内存 | 2 GiB / 1 GiB |
每题实际镜像、C++ 参数、原生验证标识和资源设置分别见 runtime、provenance.native_verification 与 limits.dataset_execution。这套内存配置可能高于原题内存限制。
需要 testlib.h 的程序按执行方式选择固定版本:
- 独立编译:
runtime.standalone_testlib,对应 MikeMirzayanov/testlib 提交b0f7477。 - 复现原生 Polygon 运行:
runtime.native_testlib,对应 Polygon-Replica 固定版本 中的third_party/testlib/testlib.h。 - 两个记录各自带版本和文件哈希,不能仅凭同名头文件假定相同。编译时添加对应 include 目录,例如
-I third_party/testlib;构建文件与执行输出放在数据集目录外。
有 3 题的原生 Verification 留有耗时提示。仅在其他检查通过、相关程序对最慢输入两次无缓存复跑均在同一 CPU 时限内通过后发布;原始提示和复跑证据保存在外部审阅记录中。
7. 快速开始
下载数据集:
hf download Sy-SU/OOD-Test-v2 --repo-type dataset --local-dir OOD-Test-v2
用 Python 标准库读取一道题及其 Generation 输入:
import json
from pathlib import Path
root = Path("OOD-Test-v2")
folder = root / "problems" / "atcoder_abc461_a"
def read_json(path):
with path.open(encoding="utf-8") as stream:
return json.load(stream)
description = read_json(folder / "description.json")
cases = read_json(folder / "cases.json")["cases"]
tasks = read_json(folder / "tasks.json")["tasks"]
verdicts = read_json(folder / "expected_verdict.json")
print(description["uid"], description["title"])
print("测试输入数:", len(cases))
print("Generation 评分测试:", tasks["generation"]["instances"][0]["score_case_ids"])
model_inputs = read_json(root / "Tasks" / "generation.json")
task = next(item for item in model_inputs
if item["task_id"] == description["uid"] + ":generation")
print(task["description"]["statement"]["text"])
推荐的评测流程:
- 用
Tasks/中的可见输入构造模型请求。 - 评测器按
tasks.json读取隐藏的评分材料。 - 按任务判分:
- Generation / Repair:运行候选程序后逐个调用 checker;
- Prediction:把模型输出交给题目 checker;
- Execution:使用上述 stdout token 比较规则;
- Testcase Gen:先验证输入合法性,再检查标准解、目标程序及正确对照的结果。
完整题包含有题解、标准解和答案,请不要直接拼接进模型输入。
8. 测试构建、来源与许可
Polygon 流程与独立检验
所有 456 份 generator.cpp 和 456 份 validator.cpp 均由 GPT-6 Astra 编写。测试设计采用 Polygon-Skills 固定版本,并在自托管的 Polygon-Replica 固定版本 与 DOMjudge 9.0.0 上执行 Verification。五路审查分别覆盖:
- A:约束端点、极端规模及最坏结构;
- B:从题意独立推导的小域 oracle 和反例;
- C:随机化、截断搜索等易错算法;
- D / E:仅基于公开题面、样例和分配标签,独立编写错误程序、合法反例与错误证明。
构建时检查公开样例保真、生成输入合法性、重放确定性、独立参考解、checker 正负例和错误程序判定。全部 20,457 份生成输入重放两次;本批还包含 2,806 个小域 oracle 探针、3,553 个 validator 非法输入对照,及 10,943 份接受小域 oracle 检查的正式输入。oracle 只对其明确定义的小域作判断,不构成对全部输入的正确性证明。
同机新旧套件对照
以每题去重并冻结的 912 个独立合成错误机制为主评分池,同题的新旧测试在相同判题实例、相同限制下运行:
| 对照项 | 旧套件 | v2 套件 |
|---|---|---|
| 完整 stdin 数 | 5,520 | 21,236 |
| 检出的错误机制 | 773 / 912(84.76%) | 870 / 912(95.39%) |
| 成对结果 | 数量 |
|---|---|
| 两套都检出 | 773 |
| 仅 v2 检出 | 97 |
| 仅旧套件检出 | 0 |
| 两套均漏检 | 42 |
正确对照误杀为 0 / 916。这里的 916 是测试强度实验中的正确对照数,不能与题包中 916 份额外参考 / 错误程序混为一谈。封存审查程序与完整审计证据不放进正式数据包;随包 solutions/ 保留旧版公开程序池。
发布要求保留旧套件对同一错误池的检出。向生成器作者披露的盲测行为转为回归对照,修订后另用独立封存程序评分。这些数字仅描述本批合成程序池上的检错能力,仍有 42 个机制漏检;它们不是 Coding Agent 的 pass@1、Repair 成功率,也不能用于声称覆盖了所有错误解。
逐文件来源与适用范围
题面、题解和随包解答沿用旧版来源:
- Codeforces / AtCoder 官方资料;
- 已有公开数据,题面语料包括 CPRet 固定快照;
- Astra 补充缺少的解答、checker、标签或说明。
原有 std.cpp、checker.cpp 和 solutions/ 沿用,未统一重写为官方程序或 Astra 原创程序。具体原文、官方代码、官方代码的移植适配、根据题解实现及新编写代码,按各题 description.json 中 programs、provenance、editorial 等字段分别查阅。
779 份样例是官方公开输入,20,457 份输入是项目生成的补充测试。未获得平台完整官方隐藏测试集,所有题的 provenance.official_test_suite_complete 均为 false。 原始样例输出保留在 source.published_sample_output;用于本次评分的 expected_output 来自标准程序运行,构造题应通过语义 checker 判断。
本数据集的能力划分参考 LiveCodeBench,但使用自定义测试、程序池和 stdio_v2 任务协议;这是独立构建的数据集,并非官方 LiveCodeBench / LiveCodeBench Pro 的发布版本。报告结果时请注明 OOD-Test-v2、数据版本及资源设置,与官方 LiveCodeBench / Pro 分数分开报告。
许可:
- 题面及题解版权归 Codeforces、AtCoder 及原作者所有。
- 本数据集新增的测试、程序与标注沿用研究用途约定,仅供研究使用。
- 上游代码和依赖的署名与许可仍适用,本发布不对第三方材料另行授予许可。
引用
@misc{ood_test_v2_2026,
title = {OOD-Test-v2: A Time-Held-Out Coding Agent Benchmark with Polygon-Validated Tests},
author = {Senyang Su},
year = {2026},
howpublished = {\url{https://huggingface.co/datasets/Sy-SU/OOD-Test-v2}}
}
- Downloads last month
- 116