You need to agree to share your Hugging Face information to access this dataset

This repository is publicly accessible, but you have to accept the conditions to access its files and content.

Log in or Sign Up to review the conditions and access this dataset content.

OOD-Test

🌐 Project page

OOD-Test is a time-held-out benchmark for coding agents. It contains 456 standard-I/O problems from Codeforces and AtCoder contests held between June and November 2026. Every problem comes with:

  • the statement, constraints, tags and editorial;
  • full test inputs with reference outputs;
  • a generator, validator, reference solution and checker;
  • a pool of extra correct and buggy programs.

On top of these, the dataset defines five evaluation tasks: Generation, Repair, Prediction, Execution and Testcase Gen.

  • problems/ holds the complete problem packages and grading material.
  • Tasks/ holds the model-facing inputs, exported under per-task visibility rules.

The Dataset Viewer is configured with all five task subsets: Generation, Repair, Prediction, Execution, and Testcase Gen. Tasks/prediction.json and Tasks/execution.json are about 1.2 GB each and can also be downloaded directly.

下文为中文详细说明。The rest of this card is in Chinese; the project page is fully bilingual.


OOD-Test 是面向 Coding Agent 的时间留出评测集,收录 456 道 Codeforces / AtCoder 标准输入输出题。每题包括以下内容:

  • 题面、约束、tag 和题解;
  • 测试输入与标准输出;
  • 生成器、输入校验器、标准解和输出检查器;
  • 额外的正确或错误程序。

数据采用 format 2.0,任务协议为 stdio_v2。

数据集用于评测 Generation、Repair、Prediction、Execution、Testcase Gen 五种能力:

  • problems/:完整题包与评分依据;
  • Tasks/:按字段可见性规则导出的模型输入。

本次发布包含数据、任务定义和评价口径。

1. 范围与规模

收录范围是 2026-06-01 至 2026-11-16 期间已结束比赛中的全部非交互标准输入输出题,覆盖所有难度。题目实际发布日期为 2026-06-06 至 2026-11-15。

平台 比赛类型 题数
Codeforces Div. 1 42
Codeforces Div. 2 104
Codeforces Div. 1 + 2 35
Codeforces Educational 40
AtCoder ABC 167
AtCoder ARC 61
AtCoder AGC 7
合计 Codeforces 221 / AtCoder 235 456

候选题共 473 道,其中 16 道交互题和 1 道 output-only 题(ARC226E)未收录。

关于版本和重叠:

  • Easy / Hard 版本各有独立的 uid,相关版本通过 family_id 关联。
  • 有 4 道题复用自 pilot20,与其存在重叠。
内容 数量
题包 456
测试输入记录 5,520
由 generator 生成的输入 4,560(每题 seed 0–9)
额外解答程序 916(不含每题的 std.cpp)
Generation 任务实例 456
Repair 任务实例 456
Prediction 任务实例 1,358
Execution 任务实例 1,358
Testcase Gen 任务实例 456

一份“测试输入”是一次完整的 stdin,可以包含多个题内 test case。所有测试输入都存放在各题 cases.json 的数组里,而不是单独的文件。

“OOD”指按题目发布时间留出。报告结果时,建议一并注明模型版本和已知的训练截止日期。

2. 目录结构

OOD-Test/
├── README.md
├── index.html
├── Tasks/
│   ├── generation.json
│   ├── repair.json
│   ├── prediction.json
│   ├── execution.json
│   └── testcase_gen.json
└── problems/
    └── <platform>_<problem_id>/
        ├── description.json
        ├── cases.json
        ├── tasks.json
        ├── expected_verdict.json
        ├── generator.cpp
        ├── validator.cpp
        ├── std.cpp
        ├── checker.cpp
        └── solutions/
            └── *.cpp / *.py

目录名示例为 atcoder_abc461_a 和 codeforces_2242F,对应的题目 UID 是 atcoder:abc461_a 和 codeforces:2242F。case_id 只在所属题包内唯一,跨题引用时需带上题目 UID。

3. 题包格式

description.json:题目与来源

字段 含义
schema_version 当前为 2.0
uid、family_id 题目唯一标识及相关版本分组
platform、problem_id、title、url 平台、公开题号、标题及原题链接
contest_id、release_date、split 比赛、发布日期;本集的 split 均为 ood
statement、constraints、io 题面、完整输入约束、标准输入输出约定及来源
tags、tag_details、rating 标签、标签来源及难度信息
editorial 题解内容、来源及生成或改写方式
programs 标准解和额外程序的路径、语言、来源、角色
limits.original 原平台时间和内存限制
limits.dataset_execution 本数据集采用的运行限制及时限计算规则
runtime C++ 标准、编译参数、testlib 版本、判题环境等
provenance、sources 数据来源、协议与可比性说明

这几类字段如实记录来源:

  • 难度与限制:只记录有可靠来源的值,其余留空。
  • 标签:来自平台或由 Astra 补充,来源见 tag_details。
  • 题面:可能是原文、注明来源的翻译或转述,具体见 statement 中的说明。

cases.json:完整输入与参考输出

顶层包含 schema_version、problem_uid 和 cases 数组。每条记录有以下字段:

字段 含义
case_id 当前题包内的测试标识
input 完整 stdin 字符串,保留换行
expected_output 标准程序实际运行得到的 stdout
kind 输入类别,如 sample、generated
source 来源链接、上游标识,或 generator 与 seed 等信息
coverage 该输入覆盖的边界或构造说明

例如 atcoder:abc461_a 的一条公开样例:

{
  "case_id": "t0000",
  "input": "4 5\n",
  "expected_output": "Yes\n",
  "kind": "sample",
  "coverage": "official sample",
  "source": {
    "origin": "source_snapshot",
    "url": "https://atcoder.jp/contests/abc461/tasks/abc461_a",
    "upstream_case_id": "t0000"
  }
}

各类记录的来源:

  • g0000–g0009 是运行 generator.cpp(seed 0–9)得到的输入;
  • 其余记录来自公开样例或复用的来源数据,以 kind 和 source 为准。

构造题可能有多个合法答案,expected_output 保存的是标准程序的实际输出,可能与官网样例输出不同。判定正确性时请使用本题的 checker.cpp。

tasks.json:可见性与评分引用

每题包含五类任务配置,主要字段为 default_visibility、tasks 和各任务的 instances。各任务如何引用测试:

  • Generation:通过 score_case_ids 指定评分测试。
  • Repair:记录目标 program、feedback_case_ids、反馈内容和独立的 score_case_ids。
  • Prediction:通过 case_id 指定待预测输出的输入。
  • Execution:指定 program、case_id 和输出真值来源。
  • Testcase Gen:记录目标程序、正确对照程序、输出模式及生成预算。

可见性按以下顺序逐级覆盖:

default_visibility → 任务 visibility → 当前测试的 case_overrides

未开放的字段默认隐藏。题解、tag、标准解、其他程序和目标输出均可分别控制。Execution 会开放被执行的目标程序,公开样例有各自的覆盖配置。

expected_verdict.json:现有程序的预期结果

programs 以程序相对路径为键,记录以下内容:

  • overall;
  • default_case_verdict;
  • case_overrides;
  • 语言。

某个测试未出现在 case_overrides 中时,取默认 verdict。例如,某程序整体为 WA、默认测试状态为 AC,仅部分 case 标为 WA。

常见状态有 AC、WA、RE、TLE、CE。这些 verdict 基于本集的固定测试与执行协议,与 description.json 中记录的上游程序角色相互独立。

四个 C++ 程序与 solutions/

文件 接口和作用
generator.cpp 第一个命令行参数为整数 seed;stdout 输出一份完整输入
validator.cpp 从 stdin 读取输入;退出码 0 表示合法
std.cpp 标准输入输出形式的 C++17 标准解
checker.cpp 调用方式为 checker input_file output_file answer_file;退出码 0 表示接受
solutions/ 额外的正确或错误程序(C++ / Python);角色与来源见 programs.solutions

checker 根据题目需要使用 token 比较、浮点误差规则或语义检查。

4. Tasks/:提供给模型的输入

五个文件均为 UTF-8 JSON 数组,每个元素对应一个任务实例。它们由完整题包按可见性配置投影而来,可直接用于组装模型请求。

文件 默认提供的内容 期待模型生成
generation.json 题面、约束、接口、限制及公开样例 解题程序
repair.json 题面、错误程序和经过过滤的失败反馈 修复后的程序
prediction.json 题面及指定输入 符合题意的输出
execution.json 具体程序、指定输入、接口和运行环境 程序实际 stdout
testcase_gen.json 题面、目标程序、公开样例、生成预算与输出模式 测试输入或 generator

公共字段为 task_id、scenario、protocol、description 和 cases。涉及程序的任务还有 program.language 与 program.code,Testcase Gen 另有 budget 和 output_modes。评分规则和隐藏真值保留在对应题包的 tasks.json 与 cases.json 中,通过 task_id 对应。

各任务的可见范围:

  • Repair:反馈默认包含 verdict 和错误程序的实际输出。非公开反馈输入及其正确答案默认隐藏,公开样例按其覆盖配置开放。
  • Prediction / Execution:指定输入可见,目标输出隐藏。

prediction.json 和 execution.json 各约 1.2 GB,批量评测时推荐流式解析 JSON 数组(例如使用 ijson)。

5. 评价指标

Generation

生成的程序通过 score_case_ids 中的全部测试即为成功,主要报告 pass@1。若每题独立采样 n 次、其中 c 次通过:

pass@k = mean_over_problems(1 - C(n-c, k) / C(n, k)),  n >= k

当 n-c < k 时,该题记为 1。多轮修复不视作独立采样,不套用此公式。

Repair

修复成功率 = 修复后通过全部评分测试的实例数 / 初始确实失败的实例数

反馈测试与评分测试分开,评分集合不含与反馈输入等价的输入,且未修改的原程序在评分集合上仍会失败。多轮修复应固定轮数或成本预算,并记录每轮结果与最终成功率。

Prediction

macro accuracy = mean_over_problems(该题正确输出数 / 该题评测输入数)
micro accuracy = 正确输出总数 / 评测输入总数

输出由题目 checker 判定,构造题接受任意合法答案。输入的选取规则:

  • 每题最多 3 份;
  • 不含公开样例;
  • 按空白分隔的 token 序列去重。

ABC474A 和 ABC477A 的全部合法输入都已作为公开样例,因此这两题没有 Prediction / Execution 实例。其余 454 道题共产生 1,358 个 Prediction 实例和 1,358 个 Execution 实例。

Execution

accuracy = 正确预测执行输出的实例数 / 可执行的确定性实例数

真值是指定程序的实际 stdout。比较规则:

  • 按空白分隔后的 token 序列精确匹配;
  • 保留大小写和数值写法,例如 1 与 1.0 不等价;
  • 即使题目允许多种构造,也需预测该程序实际输出的那一种。

编译或基础设施失败单独记录。

Testcase Gen

输入合法率 = 合法输入数 / 生成输入数
错误检出率 = 被检出的已确认错误程序数 / 已确认错误程序总数
误杀率     = 被判为错误的正确对照程序数 / 正确对照程序总数

生成的输入先经过 validator,再依次运行标准解、目标程序和 checker。计分规则:

  • 非法输入不计为有效检错;
  • 目标程序编译失败不计为 testcase 成功;
  • 生成器运行成功率单独报告,程序池及其分母随结果一并给出。

每个实例的预算为:

  • 最多 10 份输入;
  • 总输入大小 16 MiB;
  • generator 运行超时 20 秒。

具体配置见该实例的 budget。程序池中包含合成的错误程序,因此该指标衡量的是在本程序池上的检错能力。

调用成本

建议每次评测记录以下内容:

  • 模型与价格版本;
  • 模型及工具调用次数;
  • 输入、缓存输入与输出 token;
  • 实际费用与墙钟耗时。

失败调用和重试同样计入,未知费用留空。

  • 每题成本:该题所有评测调用的费用之和。
  • 每成功题成本:全部评测费用 / 成功题数(零成功时不定义)。
  • Repair:分别记录增量修复成本和包含初始生成的完整流程成本。
  • 判题耗时:单独列出,不与模型调用时间合并。

6. 执行环境与资源限制

原题限制与数据集执行限制分别存放在 limits.original 和 limits.dataset_execution。时限以每秒 4e8 次固定基准迭代为参考:在较慢的机器上相应放宽,并设 20 秒上限。

multiplier = max(1, 4e8 / measured_rate)
timeout_seconds = min(20, original_time_seconds * multiplier)

几个例子:

  • 实测速率为 1e8 时倍率为 4:原题 2 秒对应 8 秒,原题 8 秒对应 20 秒(受上限约束)。
  • 机器快于 4e8 时倍率为 1,直接使用原题时限。

本批数据在 Intel Core Ultra 7 265K 上测得约 1.1732e9 次/秒,倍率为 1。测速方法:

  • 基准为固定的 uint64 乘加递推;
  • 限制使用一个 CPU;
  • 预热后测量五次,取中位数。
项目 当前配置
C++ 标准与编译参数 C++17,-O2 -pipe
解答程序内存 max(512 MiB, 原题内存限制),按受测进程虚拟地址空间限制
单个输出文件上限 64 MiB
编译超时 90 秒
generator / validator / checker 超时 各 20 秒,独立于解答程序时限
构建时判题环境 upsolve-judge:1,无网络 Docker,每 worker 限一个 CPU

Python 解答的运行版本及镜像标识见各题的 runtime。

四个核心 C++ 程序依赖 testlib,固定提交为 b0f7477019d79ba900a57c1cda30f262065c01f6。配置方式:

  • 将该版本的 testlib.h 放到例如 third_party/testlib 下;
  • 编译时添加 -I third_party/testlib;
  • 编译和运行产生的文件请放在数据集目录之外。

7. 快速开始

下载数据集:

hf download Sy-SU/OOD-Test --repo-type dataset --local-dir OOD-Test

用 Python 标准库读取一道题及其 Generation 输入:

import json
from pathlib import Path

root = Path("OOD-Test")
folder = root / "problems" / "atcoder_abc461_a"

def read_json(path):
    with path.open(encoding="utf-8") as stream:
        return json.load(stream)

description = read_json(folder / "description.json")
cases = read_json(folder / "cases.json")["cases"]
tasks = read_json(folder / "tasks.json")["tasks"]
verdicts = read_json(folder / "expected_verdict.json")

print(description["uid"], description["title"])
print("测试输入数:", len(cases))
print("Generation 评分测试:", tasks["generation"]["instances"][0]["score_case_ids"])

model_inputs = read_json(root / "Tasks" / "generation.json")
task = next(item for item in model_inputs
            if item["task_id"] == description["uid"] + ":generation")
print(task["description"]["statement"]["text"])

推荐的评测流程:

  1. 用 Tasks/ 中的可见输入构造模型请求。
  2. 评测器按 tasks.json 读取隐藏的评分材料。
  3. 按任务判分:
    • Generation / Repair:运行候选程序后逐个调用 checker;
    • Prediction:把模型输出交给题目 checker;
    • Execution:使用上述 stdout token 比较规则。

完整题包含有题解、标准解和答案,请不要直接拼接进模型输入。

8. 来源与许可

题目和题解的来源:

  • Codeforces / AtCoder 官方资料;
  • 已有的公开数据,题面语料包括 CPRet 固定快照;
  • Astra 补充缺少的工具、解答和说明。

逐题来源见 description.json,官方代码、移植或改写代码、新编写代码均分别注明。

构建过程中检查了以下内容:

  • 原题样例;
  • 生成输入的合法性;
  • 独立参考解的一致性;
  • checker 的正负例;
  • 错误程序的判定结果。

补充测试由本数据集构建,并非平台官方的完整测试集。

本数据集的能力划分参考 LiveCodeBench,但使用自定义测试、程序池和 stdio_v2 任务协议。报告结果时请注明使用的是 OOD-Test 本批数据及资源设置,并与官方 LiveCodeBench / Pro 分数分开报告。

许可:

  • 题面及题解版权归 Codeforces、AtCoder 及原作者所有。
  • 本数据集新增的测试、程序与标注仅供研究使用。

引用

@misc{ood_test_2026,
  title        = {OOD-Test: A Time-Held-Out Benchmark for Coding Agents},
  author       = {Senyang Su},
  year         = {2026},
  howpublished = {\url{https://huggingface.co/datasets/Sy-SU/OOD-Test}}
}
Downloads last month
184

Spaces using Sy-SU/OOD-Test 2