You need to agree to share your Hugging Face information to access this dataset

This repository is publicly accessible, but you have to accept the conditions to access its files and content.

Log in or Sign Up to review the conditions and access this dataset content.

OOD-Test-v2

🌐 Project page

OOD-Test-v2 is a time-held-out benchmark for coding agents. It contains 456 standard-I/O problems from Codeforces and AtCoder contests held between June and November 2026. Every problem comes with:

  • the statement, constraints, tags and editorial;
  • complete stdin records with reference outputs from a project-generated supplementary test suite;
  • a generator, validator, reference solution and checker;
  • a pool of extra correct and buggy programs.

This version rebuilds the test suites for the same 456 problems in OOD-Test. It contains 21,236 complete test inputs: 779 original public samples and 20,457 generated inputs. All 456 generators and validators were written by GPT-6 Astra, with Polygon-style independent review, sealed wrong-program controls, native verification, and independent checks. This is a temporal split, not a guarantee that every model has never seen the problems. The official hidden test suites are not included in full.

On top of these, the dataset defines five evaluation tasks: Generation, Repair, Prediction, Execution and Testcase Gen.

  • problems/ holds the complete problem packages and grading material.
  • Tasks/ holds the model-facing inputs, exported under per-task visibility rules.

The Dataset Viewer is configured with all five task subsets: Generation, Repair, Prediction, Execution, and Testcase Gen. Tasks/prediction.json (75.6 MiB) and Tasks/execution.json (70.9 MiB) can also be downloaded directly. The test-suite comparison detects 870/912 independent synthetic wrong mechanisms versus 773/912 for the previous suite; these are not model benchmark scores. No model pass@1, repair-success, or API-cost results are reported in this release.

下文为中文详细说明。The rest of this card is in Chinese; the project page is fully bilingual.


OOD-Test-v2 是面向 Coding Agent 的时间留出评测集,收录 456 道 Codeforces / AtCoder 标准输入输出题。每题包括以下内容:

  • 题面、约束、tag 和题解;
  • 测试输入与标准输出;
  • 生成器、输入校验器、标准解和输出检查器;
  • 额外的正确或错误程序。

数据采用 format 2.0,任务协议为 stdio_v2。

数据集用于评测 Generation、Repair、Prediction、Execution、Testcase Gen 五种能力:

  • problems/:完整题包与评分依据;
  • Tasks/:按字段可见性规则导出的模型输入。

本次发布包含数据、任务定义和评价口径,沿用原 OOD-Test 的 456 道题、标准解、checker 和随包程序,重造 generator、validator 与补充测试,并刷新判题结果及任务输入。本地构建目录仍为 data/LiveCodeBench-Latest/OOD-Test-Polygon/,对外发布名称为 OOD-Test-v2。

1. 范围与规模

收录范围是 2026-06-01 至 2026-11-16 期间已结束比赛中的全部非交互标准输入输出题,覆盖所有难度。题目实际发布日期为 2026-06-06 至 2026-11-15。

平台 比赛类型 题数
Codeforces Div. 1 42
Codeforces Div. 2 104
Codeforces Div. 1 + 2 35
Codeforces Educational 40
AtCoder ABC 167
AtCoder ARC 61
AtCoder AGC 7
合计 Codeforces 221 / AtCoder 235 456

候选题共 473 道,其中 16 道交互题和 1 道 output-only 题(ARC226E)未收录。

关于版本和重叠:

  • Easy / Hard 版本各有独立的 uid,相关版本通过 family_id 关联。
  • 与旧版 OOD-Test 的 456 道题完全重叠,沿用相同 uid,本次更新的是测试套件与对应任务输入。
  • 原始收集中的 4 道题与 pilot20 重叠;Polygon 的 20 题试跑也已包含在本次 456 题中。
内容 数量
题包 456
完整测试输入记录 21,236
保留的原题公开样例 779
由 GPT-6 Astra 编写的 generator 生成的输入 20,457
额外解答程序 916(不含每题的 std.cpp)
Generation 任务实例 456
Repair 任务实例 456
Prediction 任务实例 1,358
Execution 任务实例 1,358
Testcase Gen 任务实例 456

一份“测试输入”是一次完整的 stdin,可以包含多个题内 test case。所有测试输入都存放在各题 cases.json 的数组里,而不是单独的文件。每题有 2–601 份输入,其中 55 题超过 70 份,包含小域穷举与针对性压力构造。五类任务共有 4,084 个实例。

“OOD”指按题目发布时间留出,不保证对所有模型都属于未见题。报告结果时,请同时注明模型版本、已知训练截止日期和本数据集版本。

2. 目录结构

OOD-Test-v2/
├── README.md
├── index.html
├── Tasks/
│   ├── generation.json
│   ├── repair.json
│   ├── prediction.json
│   ├── execution.json
│   └── testcase_gen.json
└── problems/
    └── <platform>_<problem_id>/
        ├── description.json
        ├── cases.json
        ├── tasks.json
        ├── expected_verdict.json
        ├── generator.cpp
        ├── validator.cpp
        ├── std.cpp
        ├── checker.cpp
        └── solutions/
            └── *.cpp / *.py

数据集只包含 README、主页、Tasks/ 与 problems/;审计报告、构建缓存、封存审查程序和运行日志保存在数据集之外。

目录名示例为 atcoder_abc461_a 和 codeforces_2242F,对应的题目 UID 是 atcoder:abc461_a 和 codeforces:2242F。case_id 只在所属题包内唯一,跨题引用时需带上题目 UID。

3. 题包格式

description.json:题目与来源

字段 含义
schema_version 当前为 2.0
uid、family_id 题目唯一标识及相关版本分组
platform、problem_id、title、url 平台、公开题号、标题及原题链接
contest_id、release_date、split 比赛、发布日期;本集的 split 均为 ood
statement、constraints、io 题面、完整输入约束、标准输入输出约定及来源
tags、tag_details、rating 标签、标签来源及难度信息
editorial 题解内容、来源及生成或改写方式
programs 标准解和额外程序的路径、语言、来源、角色
limits.original 原平台时间和内存限制
limits.dataset_execution 本数据集采用的运行限制及时限计算规则
runtime C++ 标准、编译参数、testlib 版本、判题环境等
provenance、sources 数据来源、协议与可比性说明

这几类字段如实记录来源:

  • 难度与限制:只记录有可靠来源的值,其余留空。
  • 标签:来自平台或由 Astra 补充,来源见 tag_details。
  • 题面:可能是原文、注明来源的翻译或转述,具体见 statement 中的说明。

cases.json:完整输入与参考输出

顶层包含 schema_version、problem_uid 和 cases 数组。每条记录有以下字段:

字段 含义
case_id 当前题包内的测试标识
input 完整 stdin 字符串,保留换行
expected_output 标准程序实际运行得到的 stdout
kind 输入类别,如 sample、generated
source 来源链接、原始样例输出,或 generator、argv、seed、构造模式与重放信息
coverage 该输入覆盖的边界或构造说明

例如 atcoder:abc461_a 的一条公开样例:

{
  "case_id": "t0000",
  "kind": "sample",
  "coverage": "official sample",
  "source": {
    "origin": "source_snapshot",
    "url": "https://atcoder.jp/contests/abc461/tasks/abc461_a",
    "upstream_case_id": "t0000",
    "published_sample_output": "Yes\n",
    "input_sha256": "9d63d0ac62176acc5977b66200ca95fbff99307c57a1cff0bc7d445ee1672dde",
    "expected_output_sha256": "927580bf287560d4a26a5d6e129f91ffa9cb63031b1a8c772be6ec584e65e82b",
    "expected_output_origin": "native_standard_stdout"
  },
  "input": "4 5\n",
  "expected_output": "Yes\n"
}

各类记录的来源:

  • kind: sample:保留原题公开样例输入,官网原始输出另存于 source.published_sample_output。
  • kind: generated:本次生成器产生的输入。用 source.argv 中的完整参数列表重放;各题的模式和参数不同,不能统一按 seed 0–9 调用。
  • expected_output 来自标准程序本次原生判题运行,其来源记为 source.expected_output_origin: native_standard_stdout。输入和参考输出的 SHA-256 也记录在 source 中。

例如该题的 g0000 使用 source.argv: ["1"],运行已编译的 generator 1 即得到其 stdin。其他题可能有多个参数,应逐条读取 source.argv。

构造题可能有多个合法答案,expected_output 保存的是标准程序的实际输出,可能与官网样例输出不同。判定正确性时请使用本题的 checker.cpp。

tasks.json:可见性与评分引用

每题包含五类任务配置,主要字段为 default_visibility、tasks 和各任务的 instances。各任务如何引用测试:

  • Generation:通过 score_case_ids 指定评分测试。
  • Repair:记录目标 program、feedback_case_ids、反馈内容和独立的 score_case_ids。
  • Prediction:通过 case_id 指定待预测输出的输入。
  • Execution:指定 program、case_id 和输出真值来源。
  • Testcase Gen:记录目标程序、正确对照程序、输出模式及生成预算。

可见性按以下顺序逐级覆盖:

default_visibility → 任务 visibility → 当前测试的 case_overrides

未开放的字段默认隐藏。题解、tag、标准解、其他程序和目标输出均可分别控制。Execution 会开放被执行的目标程序,公开样例有各自的覆盖配置。

expected_verdict.json:现有程序的预期结果

programs 以程序相对路径为键,记录以下内容:

  • overall;
  • default_case_verdict;
  • case_overrides;
  • 语言。

某个测试未出现在 case_overrides 中时,取默认 verdict。例如,某程序整体为 WA、默认测试状态为 AC,仅部分 case 标为 WA。

常见状态有 AC、WA、RE、TLE、CE;判题器支持的其他失败状态应保留并单独报告。这些 verdict 基于本集的固定测试与执行协议,与 description.json 中记录的上游程序角色相互独立。

四个 C++ 程序与 solutions/

文件 接口和作用
generator.cpp 按当前 case 的 source.argv 传入完整参数;stdout 输出一份完整输入
validator.cpp 从 stdin 读取输入;退出码 0 表示合法
std.cpp 标准输入输出形式的 C++17 标准解
checker.cpp 调用方式为 checker input_file output_file answer_file;退出码 0 表示接受
solutions/ 额外的正确或错误程序(C++ / Python);角色与来源见 programs.solutions

checker 根据题目需要使用 token 比较、浮点误差规则或语义检查。

4. Tasks/:提供给模型的输入

五个文件均为 UTF-8 JSON 数组,每个元素对应一个任务实例。它们由完整题包按可见性配置投影而来,可直接用于组装模型请求。

文件 默认提供的内容 期待模型生成
generation.json 题面、约束、接口、限制及公开样例 解题程序
repair.json 题面、错误程序和经过过滤的失败反馈 修复后的程序
prediction.json 题面及指定输入 符合题意的输出
execution.json 具体程序、指定输入、接口和运行环境 程序实际 stdout
testcase_gen.json 题面、目标程序、公开样例、生成预算与输出模式 测试输入或 generator

公共字段为 task_id、scenario、protocol、description 和 cases。涉及程序的任务还有 program.language 与 program.code,Testcase Gen 另有 budget 和 output_modes。评分规则和隐藏真值保留在对应题包的 tasks.json 与 cases.json 中,通过 task_id 对应。

各任务的可见范围:

  • Repair:反馈默认包含 verdict 和错误程序的实际输出。非公开反馈输入及其正确答案默认隐藏,公开样例按其覆盖配置开放。
  • Prediction / Execution:指定输入可见,目标输出隐藏。

prediction.json 为 79,311,521 bytes(75.6 MiB),execution.json 为 74,304,610 bytes(70.9 MiB)。批量评测时可流式解析 JSON 数组(例如使用 ijson)。

5. 评价指标

以下定义用于评测 Coding Agent。本次发布未执行正式模型能力评测,未报告模型的通过率、修复成功率或 API 调用费用。后文的错误检出统计是测试套件强度实验。

Generation

生成的程序通过 score_case_ids 中的全部测试即为成功,主要报告 pass@1。若每题独立采样 n 次、其中 c 次通过:

pass@k = mean_over_problems(1 - C(n-c, k) / C(n, k)),  n >= k

当 n-c < k 时,该题记为 1。多轮修复不视作独立采样,不套用此公式。

Repair

修复成功率 = 修复后通过全部评分测试的实例数 / 初始确实失败的实例数

反馈测试与评分测试分开,评分集合不含与反馈输入等价的输入,且未修改的原程序在评分集合上仍会失败。多轮修复应固定轮数或成本预算,并记录每轮结果与最终成功率。

Prediction

macro accuracy = mean_over_problems(该题正确输出数 / 该题评测输入数)
micro accuracy = 正确输出总数 / 评测输入总数

主指标为题目宏平均准确率,可同时报告微平均准确率;无实例的题目不进入对应分母。输出由题目 checker 判定,构造题接受任意合法答案。输入的选取规则:

  • 每题最多 3 份;
  • 不含公开样例;
  • 按空白分隔的 token 序列去重。

ABC474A 和 ABC477A 的全部合法输入都已作为公开样例,因此这两题没有 Prediction / Execution 实例。其余 454 道题共产生 1,358 个 Prediction 实例和 1,358 个 Execution 实例。

Execution

accuracy = 正确预测执行输出的实例数 / 可执行的确定性实例数

真值是指定程序的实际 stdout。比较规则:

  • 按空白分隔后的 token 序列精确匹配;
  • 保留大小写和数值写法,例如 1 与 1.0 不等价;
  • 即使题目允许多种构造,也需预测该程序实际输出的那一种。

编译或基础设施失败单独记录。

Testcase Gen

生成器运行成功率 = 成功完成并产出输入的运行次数 / 生成器运行次数
输入合法率 = 合法输入数 / 生成输入数
错误检出率 = 被检出的已确认错误程序数 / 已确认错误程序总数
误杀率     = 被判为错误的正确对照程序数 / 正确对照程序总数

生成的输入先经过 validator,再依次运行标准解、目标程序和 checker。计分规则:

  • 非法输入不计为有效检错;
  • 目标程序编译失败不计为 testcase 成功;
  • 生成器运行成功率单独报告,程序池及其分母随结果一并给出。

每个实例的预算为:

  • 最多 10 份输入;
  • 总输入大小 16 MiB;
  • generator 运行超时 20 秒。

具体配置见该实例的 budget。程序池中包含合成的错误程序,因此该指标衡量的是在本程序池上的检错能力。

调用成本

建议每次评测记录以下内容:

  • 模型与价格版本;
  • 模型及工具调用次数;
  • 输入、缓存输入与输出 token;
  • 实际费用与墙钟耗时。

失败调用和重试同样计入,未知费用留空。

  • 每题成本:该题所有评测调用的费用之和。
  • 每成功题成本:全部评测费用 / 成功题数(零成功时不定义)。
  • Repair:分别记录增量修复成本和包含初始生成的完整流程成本。
  • 判题耗时:单独列出,不与模型调用时间合并。

6. 执行环境与资源限制

原题限制与数据集执行限制分别存放在 limits.original 和 limits.dataset_execution。时限以每秒 4e8 次固定基准迭代为参考:在较慢的机器上相应放宽,并设 20 秒上限。

multiplier = max(1, 4e8 / measured_rate)
timeout_seconds = min(20, original_time_seconds * multiplier)

几个例子:

  • 实测速率为 1e8 时倍率为 4:原题 2 秒对应 8 秒,原题 8 秒对应 20 秒(受上限约束)。
  • 机器快于 4e8 时倍率为 1,直接使用原题时限。

本批六个原生判题实例分别执行固定的 uint64 乘加递推基准,实测速率为 1.2565e9–1.2780e9 次/秒,均快于 4e8。因此所有题的倍率均为 1,本批实际执行时限均保留原题值,未因机器较快而缩短。同题的新旧套件使用同一实例;DOMjudge 另行实施墙钟超时保护。

项目 当前配置
原生判题 Polygon-Replica + DOMjudge 9.0.0,domjudge/judgehost:9.0.0
原生 C++ 编译 GCC 13.3,C++17,-x c++ -Wall -O2 -std=c++17 -static -pipe -DDOMJUDGE
独立复验 C++ 编译 GCC 12.2,C++17,-O2 -pipe,upsolve-judge:1
解答程序内存 max(512 MiB, 原题内存限制);原生判题由 DOMjudge judgehost 实施
单个输出文件上限 64 MiB
编译超时 90 秒
原生 / 独立复验编译内存 2 GiB / 1 GiB

每题实际镜像、C++ 参数、原生验证标识和资源设置分别见 runtime、provenance.native_verification 与 limits.dataset_execution。这套内存配置可能高于原题内存限制。

需要 testlib.h 的程序按执行方式选择固定版本:

  • 独立编译:runtime.standalone_testlib,对应 MikeMirzayanov/testlib 提交 b0f7477。
  • 复现原生 Polygon 运行:runtime.native_testlib,对应 Polygon-Replica 固定版本 中的 third_party/testlib/testlib.h。
  • 两个记录各自带版本和文件哈希,不能仅凭同名头文件假定相同。编译时添加对应 include 目录,例如 -I third_party/testlib;构建文件与执行输出放在数据集目录外。

有 3 题的原生 Verification 留有耗时提示。仅在其他检查通过、相关程序对最慢输入两次无缓存复跑均在同一 CPU 时限内通过后发布;原始提示和复跑证据保存在外部审阅记录中。

7. 快速开始

下载数据集:

hf download Sy-SU/OOD-Test-v2 --repo-type dataset --local-dir OOD-Test-v2

用 Python 标准库读取一道题及其 Generation 输入:

import json
from pathlib import Path

root = Path("OOD-Test-v2")
folder = root / "problems" / "atcoder_abc461_a"

def read_json(path):
    with path.open(encoding="utf-8") as stream:
        return json.load(stream)

description = read_json(folder / "description.json")
cases = read_json(folder / "cases.json")["cases"]
tasks = read_json(folder / "tasks.json")["tasks"]
verdicts = read_json(folder / "expected_verdict.json")

print(description["uid"], description["title"])
print("测试输入数:", len(cases))
print("Generation 评分测试:", tasks["generation"]["instances"][0]["score_case_ids"])

model_inputs = read_json(root / "Tasks" / "generation.json")
task = next(item for item in model_inputs
            if item["task_id"] == description["uid"] + ":generation")
print(task["description"]["statement"]["text"])

推荐的评测流程:

  1. 用 Tasks/ 中的可见输入构造模型请求。
  2. 评测器按 tasks.json 读取隐藏的评分材料。
  3. 按任务判分:
    • Generation / Repair:运行候选程序后逐个调用 checker;
    • Prediction:把模型输出交给题目 checker;
    • Execution:使用上述 stdout token 比较规则;
    • Testcase Gen:先验证输入合法性,再检查标准解、目标程序及正确对照的结果。

完整题包含有题解、标准解和答案,请不要直接拼接进模型输入。

8. 测试构建、来源与许可

Polygon 流程与独立检验

所有 456 份 generator.cpp 和 456 份 validator.cpp 均由 GPT-6 Astra 编写。测试设计采用 Polygon-Skills 固定版本,并在自托管的 Polygon-Replica 固定版本 与 DOMjudge 9.0.0 上执行 Verification。五路审查分别覆盖:

  • A:约束端点、极端规模及最坏结构;
  • B:从题意独立推导的小域 oracle 和反例;
  • C:随机化、截断搜索等易错算法;
  • D / E:仅基于公开题面、样例和分配标签,独立编写错误程序、合法反例与错误证明。

构建时检查公开样例保真、生成输入合法性、重放确定性、独立参考解、checker 正负例和错误程序判定。全部 20,457 份生成输入重放两次;本批还包含 2,806 个小域 oracle 探针、3,553 个 validator 非法输入对照,及 10,943 份接受小域 oracle 检查的正式输入。oracle 只对其明确定义的小域作判断,不构成对全部输入的正确性证明。

同机新旧套件对照

以每题去重并冻结的 912 个独立合成错误机制为主评分池,同题的新旧测试在相同判题实例、相同限制下运行:

对照项 旧套件 v2 套件
完整 stdin 数 5,520 21,236
检出的错误机制 773 / 912(84.76%) 870 / 912(95.39%)
成对结果 数量
两套都检出 773
仅 v2 检出 97
仅旧套件检出 0
两套均漏检 42

正确对照误杀为 0 / 916。这里的 916 是测试强度实验中的正确对照数,不能与题包中 916 份额外参考 / 错误程序混为一谈。封存审查程序与完整审计证据不放进正式数据包;随包 solutions/ 保留旧版公开程序池。

发布要求保留旧套件对同一错误池的检出。向生成器作者披露的盲测行为转为回归对照,修订后另用独立封存程序评分。这些数字仅描述本批合成程序池上的检错能力,仍有 42 个机制漏检;它们不是 Coding Agent 的 pass@1、Repair 成功率,也不能用于声称覆盖了所有错误解。

逐文件来源与适用范围

题面、题解和随包解答沿用旧版来源:

  • Codeforces / AtCoder 官方资料;
  • 已有公开数据,题面语料包括 CPRet 固定快照;
  • Astra 补充缺少的解答、checker、标签或说明。

原有 std.cpp、checker.cpp 和 solutions/ 沿用,未统一重写为官方程序或 Astra 原创程序。具体原文、官方代码、官方代码的移植适配、根据题解实现及新编写代码,按各题 description.json 中 programs、provenance、editorial 等字段分别查阅。

779 份样例是官方公开输入,20,457 份输入是项目生成的补充测试。未获得平台完整官方隐藏测试集,所有题的 provenance.official_test_suite_complete 均为 false。 原始样例输出保留在 source.published_sample_output;用于本次评分的 expected_output 来自标准程序运行,构造题应通过语义 checker 判断。

本数据集的能力划分参考 LiveCodeBench,但使用自定义测试、程序池和 stdio_v2 任务协议;这是独立构建的数据集,并非官方 LiveCodeBench / LiveCodeBench Pro 的发布版本。报告结果时请注明 OOD-Test-v2、数据版本及资源设置,与官方 LiveCodeBench / Pro 分数分开报告。

许可:

  • 题面及题解版权归 Codeforces、AtCoder 及原作者所有。
  • 本数据集新增的测试、程序与标注沿用研究用途约定,仅供研究使用。
  • 上游代码和依赖的署名与许可仍适用,本发布不对第三方材料另行授予许可。

引用

@misc{ood_test_v2_2026,
  title        = {OOD-Test-v2: A Time-Held-Out Coding Agent Benchmark with Polygon-Validated Tests},
  author       = {Senyang Su},
  year         = {2026},
  howpublished = {\url{https://huggingface.co/datasets/Sy-SU/OOD-Test-v2}}
}
Downloads last month
116

Space using Sy-SU/OOD-Test-v2 1