The dataset viewer is not available for this subset.
Exception: SplitsNotFoundError
Message: The split names could not be parsed from the dataset config.
Traceback: Traceback (most recent call last):
File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 286, in get_dataset_config_info
for split_generator in builder._split_generators(
~~~~~~~~~~~~~~~~~~~~~~~~~^
StreamingDownloadManager(base_path=builder.base_path, download_config=download_config)
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
)
^
File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/harbor/harbor.py", line 171, in _split_generators
raise DataFilesNotFoundError("No task.toml or instruction.md files found")
datasets.exceptions.DataFilesNotFoundError: No task.toml or instruction.md files found
The above exception was the direct cause of the following exception:
Traceback (most recent call last):
File "/src/services/worker/src/worker/job_runners/config/split_names.py", line 68, in compute_split_names_from_streaming_response
for split in get_dataset_split_names(
~~~~~~~~~~~~~~~~~~~~~~~^
path=dataset,
^^^^^^^^^^^^^
config_name=config,
^^^^^^^^^^^^^^^^^^^
token=hf_token,
^^^^^^^^^^^^^^^
)
^
File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 340, in get_dataset_split_names
info = get_dataset_config_info(
path,
...<6 lines>...
**config_kwargs,
)
File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 291, in get_dataset_config_info
raise SplitsNotFoundError("The split names could not be parsed from the dataset config.") from err
datasets.inspect.SplitsNotFoundError: The split names could not be parsed from the dataset config.Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.
39 道高难 Agent 任务
这是供 OpenEnv Arena 提交的 39 道训练题。目标训练模型为 Qwen/Qwen3.8-27B。
题目来自既有 Task、环境、Rule 和 Rollout；模型的 Workspace 不挂载 Skill。
submission.json 是完整提交文件，39 个镜像都已公开并按摘要固定。
仓库名沿用 skillagent-arena-hard40，本次实际题数是 39。
题目包括机器人模型、工业仿真、电力系统、成本审计、统计计算、文档修订、软件调试和安全复现。 筛选使用历史 Qwen3.6-35B-A3B 无 Skill 轨迹的原生 Rule 分数；本批历史分数均不高于 0.5， 平均 0.185，中位数 0.200。 这些是旧模型与原始题面条件下的筛选证据，不能当作 Qwen3.8-27B 的评测结果。 新模型的实际效果须在 Arena 训练和评测后获取；本交付没有提交 Arena 或启动训练。
内容
submission.json：可直接提交 Arena 的完整 JSON。tasks.jsonl：每道题的实际题面、镜像摘要、预算、原始血缘和校验结果。tasks/<task_id>/bundle.tar.gz：该题的初始 Workspace、Rule 源码与任务配置。environment/：镜像中使用的 OpenEnv 服务源码。verification.json：镜像匿名访问、运行及原生评分的回执汇总。
评分在哪执行
模型通过 shell 操作自己的 Workspace，以 UID 1000 执行命令。调用 finish 后，
同一题的容器读取最终文件，在模型不能修改的 grader 目录里运行确定性 Rule，返回 0–1 reward。
没有 LLM Judge。Rule 保留各题原有分项权重与部分分。
grader 所需的确定性计算脚本与 schema 是评分资产，不作为 Skill 挂载给模型。
题目要求的输出契约写在题面中；模型读取不到私有 Rule 或评分辅助代码。
基础设施或评分执行错误保留为 evaluation_error、reward 为空。
运行接口与资源
所有镜像使用相同 GET /schema 和 WebSocket /ws。reset 传 task_id；
shell 动作为 {"operation":"shell","command":"..."}；结束动作为 {"operation":"finish"}。
每题为 linux/amd64、2 vCPU、16 GiB 内存、40 GiB Workspace；没有 GPU 或外部服务前置。
预算为 reset 300 秒、rollout 2100 秒、verifier 600 秒，合计 3000 秒；
每次工具最多 120 秒、总工具调用 512 次、每分钟 60 次，completion/context 上限均为 32768。
- Downloads last month
- 220