Datasets:
OOD-Test
OOD-Test is a time-held-out benchmark for coding agents. It contains 456 standard-I/O problems from Codeforces and AtCoder contests held between June and November 2026. Every problem comes with:
- the statement, constraints, tags and editorial;
- full test inputs with reference outputs;
- a generator, validator, reference solution and checker;
- a pool of extra correct and buggy programs.
On top of these, the dataset defines five evaluation tasks: Generation, Repair, Prediction, Execution and Testcase Gen.
problems/holds the complete problem packages and grading material.Tasks/holds the model-facing inputs, exported under per-task visibility rules.
The Dataset Viewer is configured with all five task subsets: Generation, Repair, Prediction, Execution, and Testcase Gen. Tasks/prediction.json and Tasks/execution.json are about 1.2 GB each and can also be downloaded directly.
下文为中文详细说明。The rest of this card is in Chinese; the project page is fully bilingual.
OOD-Test 是面向 Coding Agent 的时间留出评测集,收录 456 道 Codeforces / AtCoder 标准输入输出题。每题包括以下内容:
- 题面、约束、tag 和题解;
- 测试输入与标准输出;
- 生成器、输入校验器、标准解和输出检查器;
- 额外的正确或错误程序。
数据采用 format 2.0,任务协议为 stdio_v2。
数据集用于评测 Generation、Repair、Prediction、Execution、Testcase Gen 五种能力:
problems/:完整题包与评分依据;Tasks/:按字段可见性规则导出的模型输入。
本次发布包含数据、任务定义和评价口径。
1. 范围与规模
收录范围是 2026-06-01 至 2026-11-16 期间已结束比赛中的全部非交互标准输入输出题,覆盖所有难度。题目实际发布日期为 2026-06-06 至 2026-11-15。
| 平台 | 比赛类型 | 题数 |
|---|---|---|
| Codeforces | Div. 1 | 42 |
| Codeforces | Div. 2 | 104 |
| Codeforces | Div. 1 + 2 | 35 |
| Codeforces | Educational | 40 |
| AtCoder | ABC | 167 |
| AtCoder | ARC | 61 |
| AtCoder | AGC | 7 |
| 合计 | Codeforces 221 / AtCoder 235 | 456 |
候选题共 473 道,其中 16 道交互题和 1 道 output-only 题(ARC226E)未收录。
关于版本和重叠:
- Easy / Hard 版本各有独立的
uid,相关版本通过family_id关联。 - 有 4 道题复用自
pilot20,与其存在重叠。
| 内容 | 数量 |
|---|---|
| 题包 | 456 |
| 测试输入记录 | 5,520 |
| 由 generator 生成的输入 | 4,560(每题 seed 0–9) |
| 额外解答程序 | 916(不含每题的 std.cpp) |
| Generation 任务实例 | 456 |
| Repair 任务实例 | 456 |
| Prediction 任务实例 | 1,358 |
| Execution 任务实例 | 1,358 |
| Testcase Gen 任务实例 | 456 |
一份“测试输入”是一次完整的 stdin,可以包含多个题内 test case。所有测试输入都存放在各题 cases.json 的数组里,而不是单独的文件。
“OOD”指按题目发布时间留出。报告结果时,建议一并注明模型版本和已知的训练截止日期。
2. 目录结构
OOD-Test/
├── README.md
├── index.html
├── Tasks/
│ ├── generation.json
│ ├── repair.json
│ ├── prediction.json
│ ├── execution.json
│ └── testcase_gen.json
└── problems/
└── <platform>_<problem_id>/
├── description.json
├── cases.json
├── tasks.json
├── expected_verdict.json
├── generator.cpp
├── validator.cpp
├── std.cpp
├── checker.cpp
└── solutions/
└── *.cpp / *.py
目录名示例为 atcoder_abc461_a 和 codeforces_2242F,对应的题目 UID 是 atcoder:abc461_a 和 codeforces:2242F。case_id 只在所属题包内唯一,跨题引用时需带上题目 UID。
3. 题包格式
description.json:题目与来源
| 字段 | 含义 |
|---|---|
schema_version |
当前为 2.0 |
uid、family_id |
题目唯一标识及相关版本分组 |
platform、problem_id、title、url |
平台、公开题号、标题及原题链接 |
contest_id、release_date、split |
比赛、发布日期;本集的 split 均为 ood |
statement、constraints、io |
题面、完整输入约束、标准输入输出约定及来源 |
tags、tag_details、rating |
标签、标签来源及难度信息 |
editorial |
题解内容、来源及生成或改写方式 |
programs |
标准解和额外程序的路径、语言、来源、角色 |
limits.original |
原平台时间和内存限制 |
limits.dataset_execution |
本数据集采用的运行限制及时限计算规则 |
runtime |
C++ 标准、编译参数、testlib 版本、判题环境等 |
provenance、sources |
数据来源、协议与可比性说明 |
这几类字段如实记录来源:
- 难度与限制:只记录有可靠来源的值,其余留空。
- 标签:来自平台或由 Astra 补充,来源见
tag_details。 - 题面:可能是原文、注明来源的翻译或转述,具体见
statement中的说明。
cases.json:完整输入与参考输出
顶层包含 schema_version、problem_uid 和 cases 数组。每条记录有以下字段:
| 字段 | 含义 |
|---|---|
case_id |
当前题包内的测试标识 |
input |
完整 stdin 字符串,保留换行 |
expected_output |
标准程序实际运行得到的 stdout |
kind |
输入类别,如 sample、generated |
source |
来源链接、上游标识,或 generator 与 seed 等信息 |
coverage |
该输入覆盖的边界或构造说明 |
例如 atcoder:abc461_a 的一条公开样例:
{
"case_id": "t0000",
"input": "4 5\n",
"expected_output": "Yes\n",
"kind": "sample",
"coverage": "official sample",
"source": {
"origin": "source_snapshot",
"url": "https://atcoder.jp/contests/abc461/tasks/abc461_a",
"upstream_case_id": "t0000"
}
}
各类记录的来源:
g0000–g0009是运行generator.cpp(seed 0–9)得到的输入;- 其余记录来自公开样例或复用的来源数据,以
kind和source为准。
构造题可能有多个合法答案,expected_output 保存的是标准程序的实际输出,可能与官网样例输出不同。判定正确性时请使用本题的 checker.cpp。
tasks.json:可见性与评分引用
每题包含五类任务配置,主要字段为 default_visibility、tasks 和各任务的 instances。各任务如何引用测试:
- Generation:通过
score_case_ids指定评分测试。 - Repair:记录目标
program、feedback_case_ids、反馈内容和独立的score_case_ids。 - Prediction:通过
case_id指定待预测输出的输入。 - Execution:指定
program、case_id和输出真值来源。 - Testcase Gen:记录目标程序、正确对照程序、输出模式及生成预算。
可见性按以下顺序逐级覆盖:
default_visibility → 任务 visibility → 当前测试的 case_overrides
未开放的字段默认隐藏。题解、tag、标准解、其他程序和目标输出均可分别控制。Execution 会开放被执行的目标程序,公开样例有各自的覆盖配置。
expected_verdict.json:现有程序的预期结果
programs 以程序相对路径为键,记录以下内容:
overall;default_case_verdict;case_overrides;- 语言。
某个测试未出现在 case_overrides 中时,取默认 verdict。例如,某程序整体为 WA、默认测试状态为 AC,仅部分 case 标为 WA。
常见状态有 AC、WA、RE、TLE、CE。这些 verdict 基于本集的固定测试与执行协议,与 description.json 中记录的上游程序角色相互独立。
四个 C++ 程序与 solutions/
| 文件 | 接口和作用 |
|---|---|
generator.cpp |
第一个命令行参数为整数 seed;stdout 输出一份完整输入 |
validator.cpp |
从 stdin 读取输入;退出码 0 表示合法 |
std.cpp |
标准输入输出形式的 C++17 标准解 |
checker.cpp |
调用方式为 checker input_file output_file answer_file;退出码 0 表示接受 |
solutions/ |
额外的正确或错误程序(C++ / Python);角色与来源见 programs.solutions |
checker 根据题目需要使用 token 比较、浮点误差规则或语义检查。
4. Tasks/:提供给模型的输入
五个文件均为 UTF-8 JSON 数组,每个元素对应一个任务实例。它们由完整题包按可见性配置投影而来,可直接用于组装模型请求。
| 文件 | 默认提供的内容 | 期待模型生成 |
|---|---|---|
generation.json |
题面、约束、接口、限制及公开样例 | 解题程序 |
repair.json |
题面、错误程序和经过过滤的失败反馈 | 修复后的程序 |
prediction.json |
题面及指定输入 | 符合题意的输出 |
execution.json |
具体程序、指定输入、接口和运行环境 | 程序实际 stdout |
testcase_gen.json |
题面、目标程序、公开样例、生成预算与输出模式 | 测试输入或 generator |
公共字段为 task_id、scenario、protocol、description 和 cases。涉及程序的任务还有 program.language 与 program.code,Testcase Gen 另有 budget 和 output_modes。评分规则和隐藏真值保留在对应题包的 tasks.json 与 cases.json 中,通过 task_id 对应。
各任务的可见范围:
- Repair:反馈默认包含 verdict 和错误程序的实际输出。非公开反馈输入及其正确答案默认隐藏,公开样例按其覆盖配置开放。
- Prediction / Execution:指定输入可见,目标输出隐藏。
prediction.json 和 execution.json 各约 1.2 GB,批量评测时推荐流式解析 JSON 数组(例如使用 ijson)。
5. 评价指标
Generation
生成的程序通过 score_case_ids 中的全部测试即为成功,主要报告 pass@1。若每题独立采样 n 次、其中 c 次通过:
pass@k = mean_over_problems(1 - C(n-c, k) / C(n, k)), n >= k
当 n-c < k 时,该题记为 1。多轮修复不视作独立采样,不套用此公式。
Repair
修复成功率 = 修复后通过全部评分测试的实例数 / 初始确实失败的实例数
反馈测试与评分测试分开,评分集合不含与反馈输入等价的输入,且未修改的原程序在评分集合上仍会失败。多轮修复应固定轮数或成本预算,并记录每轮结果与最终成功率。
Prediction
macro accuracy = mean_over_problems(该题正确输出数 / 该题评测输入数)
micro accuracy = 正确输出总数 / 评测输入总数
输出由题目 checker 判定,构造题接受任意合法答案。输入的选取规则:
- 每题最多 3 份;
- 不含公开样例;
- 按空白分隔的 token 序列去重。
ABC474A 和 ABC477A 的全部合法输入都已作为公开样例,因此这两题没有 Prediction / Execution 实例。其余 454 道题共产生 1,358 个 Prediction 实例和 1,358 个 Execution 实例。
Execution
accuracy = 正确预测执行输出的实例数 / 可执行的确定性实例数
真值是指定程序的实际 stdout。比较规则:
- 按空白分隔后的 token 序列精确匹配;
- 保留大小写和数值写法,例如
1与1.0不等价; - 即使题目允许多种构造,也需预测该程序实际输出的那一种。
编译或基础设施失败单独记录。
Testcase Gen
输入合法率 = 合法输入数 / 生成输入数
错误检出率 = 被检出的已确认错误程序数 / 已确认错误程序总数
误杀率 = 被判为错误的正确对照程序数 / 正确对照程序总数
生成的输入先经过 validator,再依次运行标准解、目标程序和 checker。计分规则:
- 非法输入不计为有效检错;
- 目标程序编译失败不计为 testcase 成功;
- 生成器运行成功率单独报告,程序池及其分母随结果一并给出。
每个实例的预算为:
- 最多 10 份输入;
- 总输入大小 16 MiB;
- generator 运行超时 20 秒。
具体配置见该实例的 budget。程序池中包含合成的错误程序,因此该指标衡量的是在本程序池上的检错能力。
调用成本
建议每次评测记录以下内容:
- 模型与价格版本;
- 模型及工具调用次数;
- 输入、缓存输入与输出 token;
- 实际费用与墙钟耗时。
失败调用和重试同样计入,未知费用留空。
- 每题成本:该题所有评测调用的费用之和。
- 每成功题成本:全部评测费用 / 成功题数(零成功时不定义)。
- Repair:分别记录增量修复成本和包含初始生成的完整流程成本。
- 判题耗时:单独列出,不与模型调用时间合并。
6. 执行环境与资源限制
原题限制与数据集执行限制分别存放在 limits.original 和 limits.dataset_execution。时限以每秒 4e8 次固定基准迭代为参考:在较慢的机器上相应放宽,并设 20 秒上限。
multiplier = max(1, 4e8 / measured_rate)
timeout_seconds = min(20, original_time_seconds * multiplier)
几个例子:
- 实测速率为
1e8时倍率为 4:原题 2 秒对应 8 秒,原题 8 秒对应 20 秒(受上限约束)。 - 机器快于
4e8时倍率为 1,直接使用原题时限。
本批数据在 Intel Core Ultra 7 265K 上测得约 1.1732e9 次/秒,倍率为 1。测速方法:
- 基准为固定的 uint64 乘加递推;
- 限制使用一个 CPU;
- 预热后测量五次,取中位数。
| 项目 | 当前配置 |
|---|---|
| C++ 标准与编译参数 | C++17,-O2 -pipe |
| 解答程序内存 | max(512 MiB, 原题内存限制),按受测进程虚拟地址空间限制 |
| 单个输出文件上限 | 64 MiB |
| 编译超时 | 90 秒 |
| generator / validator / checker 超时 | 各 20 秒,独立于解答程序时限 |
| 构建时判题环境 | upsolve-judge:1,无网络 Docker,每 worker 限一个 CPU |
Python 解答的运行版本及镜像标识见各题的 runtime。
四个核心 C++ 程序依赖 testlib,固定提交为 b0f7477019d79ba900a57c1cda30f262065c01f6。配置方式:
- 将该版本的
testlib.h放到例如third_party/testlib下; - 编译时添加
-I third_party/testlib; - 编译和运行产生的文件请放在数据集目录之外。
7. 快速开始
下载数据集:
hf download Sy-SU/OOD-Test --repo-type dataset --local-dir OOD-Test
用 Python 标准库读取一道题及其 Generation 输入:
import json
from pathlib import Path
root = Path("OOD-Test")
folder = root / "problems" / "atcoder_abc461_a"
def read_json(path):
with path.open(encoding="utf-8") as stream:
return json.load(stream)
description = read_json(folder / "description.json")
cases = read_json(folder / "cases.json")["cases"]
tasks = read_json(folder / "tasks.json")["tasks"]
verdicts = read_json(folder / "expected_verdict.json")
print(description["uid"], description["title"])
print("测试输入数:", len(cases))
print("Generation 评分测试:", tasks["generation"]["instances"][0]["score_case_ids"])
model_inputs = read_json(root / "Tasks" / "generation.json")
task = next(item for item in model_inputs
if item["task_id"] == description["uid"] + ":generation")
print(task["description"]["statement"]["text"])
推荐的评测流程:
- 用
Tasks/中的可见输入构造模型请求。 - 评测器按
tasks.json读取隐藏的评分材料。 - 按任务判分:
- Generation / Repair:运行候选程序后逐个调用 checker;
- Prediction:把模型输出交给题目 checker;
- Execution:使用上述 stdout token 比较规则。
完整题包含有题解、标准解和答案,请不要直接拼接进模型输入。
8. 来源与许可
题目和题解的来源:
- Codeforces / AtCoder 官方资料;
- 已有的公开数据,题面语料包括 CPRet 固定快照;
- Astra 补充缺少的工具、解答和说明。
逐题来源见 description.json,官方代码、移植或改写代码、新编写代码均分别注明。
构建过程中检查了以下内容:
- 原题样例;
- 生成输入的合法性;
- 独立参考解的一致性;
- checker 的正负例;
- 错误程序的判定结果。
补充测试由本数据集构建,并非平台官方的完整测试集。
本数据集的能力划分参考 LiveCodeBench,但使用自定义测试、程序池和 stdio_v2 任务协议。报告结果时请注明使用的是 OOD-Test 本批数据及资源设置,并与官方 LiveCodeBench / Pro 分数分开报告。
许可:
- 题面及题解版权归 Codeforces、AtCoder 及原作者所有。
- 本数据集新增的测试、程序与标注仅供研究使用。
引用
@misc{ood_test_2026,
title = {OOD-Test: A Time-Held-Out Benchmark for Coding Agents},
author = {Senyang Su},
year = {2026},
howpublished = {\url{https://huggingface.co/datasets/Sy-SU/OOD-Test}}
}
- Downloads last month
- 184