tysgydke/reachability-viewfinder

取景通路 Reachability Viewfinder Benchmark (v1)

同一数据集也发布于 ModelScope：https://modelscope.cn/datasets/tysgydk/reachability-viewfinder

500 题多模态空间可达性 / 连通性推理基准测试。

任务定义

每道题向模型展示 5 张图片：1 张主图 + 4 张候选局部图（A/B/C/D）。

• 主图：一个三维场景，绿色旗帜为起点、红色旗帜为终点，两点间的路径中段被虚线框遮挡（标记问号），遮挡区内的真实路径已隐藏；
• 候选图：遮挡区域的 4 种可能填充内容，图片边缘保留少量场景参照，用于对齐位置、高度与朝向。

模型需判断哪个选项能使路径从起点到终点物理连通。单选题，有且仅有一个正确答案，模型仅输出一个字母。

数据组织

questions/
  q0001/
    main.png          主图（含遮挡区）
    A.png ~ D.png     候选局部图
  q0002/
  ...
  q0500/
answers.json          答案与元数据（JSON，含 option_types 完整结构）
answers.csv           答案与元数据（CSV，便于用表格软件查看）
scoring_template.py   评分脚本模板（需自行接入模型 API）
prompt_template.txt   建议的输入提示词
README.md             本说明文件

questions/ 下共 500 个题目目录（q0001 ~ q0500），每题 5 张图片。

字段说明

answers.json 为长度 500 的数组，每项字段如下表；answers.csv 为对应的 500 行，除 option_types 被拆成 type_A ~ type_D 四列外，其余字段同名同义。

字段	含义
id	题号，如 q0001
correct_answer	正确选项（A / B / C / D）
option_types（JSON）	各选项类型的对象，如 {"A": "wall", "B": "wrongdir", "C": "correct", "D": "gap"}
type_A ~ type_D（CSV）	与 option_types 同一信息，拆为四列
path_style	路径风格：ramp 斜坡 / stairs 楼梯
direction	方向：up 上行 / down 下行
complexity	路径复杂度：straight 直线 / single_turn 单转弯 / double_turn 双转弯
has_fork	是否含岔路干扰（布尔值，岔路仅作固定背景，不构成选项差异）
theme	视觉主题（desert / dark / pink / aurora），仅改变天空、雾气与光照色调，不影响判分
height_delta	起终点高度差，正数为上行

选项类型：correct 正确通路 / gap 中途断裂 / wall 实体墙阻挡 / wrongdir 朝向坡度不符。每题四个选项恰好各属一种类型。该信息仅供结果分析使用。

answers.json 与 answers.csv 均含答案，仅供评分使用，不得输入被测模型。

题目设计

• 全部图片由程序化实时生成，无预渲染素材；
• 同一题四个选项仅遮挡区内的路径不同，材质、相机、光照完全一致，避免视觉捷径；
• 难度配比：含岔路 263 题 / 不含岔路 237 题；
• 答案位置分布均衡：A/B/C/D = 126/117/124/133；
• 维度分布：ramp 265 / stairs 235；上行 247 / 下行 253；straight 133 / single_turn 273 / double_turn 94；四主题各 117~135 题。

评测方法

1. 每题输入 main.png 与 A~`D四张候选图，使用prompt_template.txt` 中的提示词，要求模型只输出一个字母；
2. 在 scoring_template.py 的 get_model_answer() 中接入待测模型的 API 调用；
3. 运行脚本，得到总体正确率及按 path_style / direction / complexity / has_fork 的分维度正确率。

指标：总体 accuracy + 分维度 accuracy。注意 500 题样本量在 50% 正确率附近的 95% 置信区间约 ±4.4%，子维度区间更宽；模型间差距小于 5% 时结论并不可靠，建议报告置信区间。

关于提示词的说明：随附的 prompt_template.txt 中包含对三种错误类型（断裂 / 撞墙 / 朝向错误）的文字说明，人类基线在同等信息条件下测得。若希望更严格地考察纯空间推理能力、排除排除法捷径，可删除该段说明后另行评测，两个版本的结果不宜直接比较。

基线

人类基线：3 名测试者，每人独立抽样 50 题（共 150 题次），正确率 **100%**（150 题 0 错误，95% 置信下真实错误率上限约 2%）。表明题目对人类无歧义、难度处于天花板水平——任何模型低于 100% 的分数都直接反映其空间推理能力与人类的差距。

模型基线：以下分数由数据集作者在一个 50 题子集上测得（百分制，每题 2 分）。

模型	出处	得分
qwen3-vl-plus	阿里云百炼 API（闭源）	14
qwen3.5-omni-plus	阿里云百炼 API（闭源）	18
tysgydk/Qwen3.5-0.8B-GDN2-Spatial	作者自研 0.8B 模型，魔搭开源	28
deepseek-ai/DeepSeek-V4.1-Flash	DeepSeek 开源权重（MIT）	52
qwen3.8-omni-flash（非思考）	阿里云百炼 API（闭源）	78
qwen3.8-omni-flash（思考）	同上，开启深度思考	86
moonshotai/Kimi-K3	月之暗面开源权重，reasoning_effort=max	98

读这张表时请注意：

• 分数来自 50 题子集，不是 500 题全集，与全集分数不可直接比较；
• n=50 的抽样误差很大：95% 置信区间在 50% 附近约 ±14 个百分点、在 80% 附近约 ±11 个百分点、在 98% 附近约 ±4 个百分点。78 与 86 只差 4 题，14 / 18 / 28 之间的差距同样落在噪声范围内，据此排序并不可靠；
• qwen3.8-omni-flash 的两行是同一个模型的不同思考设置，不是两个模型；
• 以上均为作者单次测试，未做重复实验。欢迎使用者自行评测并反馈结果。

使用建议与局限

• 本 500 题为完整公开集，暂无独立留存集计划。答案文件随数据集公开，模型训练方请注意数据泄露风险；
• 题目由程序化生成，各维度配比固定。如需更大规模或不同配比的题集，可自行扩展生成流程；
• 模型基线所用 50 题子集的具体题号未随数据集提供，复现前请与作者确认；
• 建议在报告中注明所使用的提示词版本（含 / 不含错误类型说明）。

引用

如本 benchmark 对您的研究有帮助，请引用（作者署名请使用中文名）：

@misc{reachability_viewfinder_2026,
  author = {我本是我沐},
  title  = {取景通路 Reachability Viewfinder Benchmark v1},
  year   = {2026},
  publisher = {ModelScope},
  url    = {https://modelscope.cn/datasets/tysgydk/reachability-viewfinder}
}

许可与联系

• 许可协议：Apache License 2.0（本仓库随附许可全文 LICENSE；版权署名 Copyright 2026 我本是我沐）
• 作者：我本是我沐（ModelScope: @tysgydk；Hugging Face: @tysgydke）
• 问题反馈：请在数据集页面评论区留言