You need to agree to share your contact information to access this dataset
This repository is publicly accessible, but you have to accept the conditions to access its files and content.
This repository contains benchmark ground-truth answers (expected/ references for the QGIS remote-sensing CUA tasks) and full agent trajectories. Access is manually reviewed to prevent GT leakage into training corpora or task-taking agents. Please state your affiliation and purpose.
Log in or Sign Up to review the conditions and access this dataset content.
GeoScience-QGIS-CUA —— 双 GUI-agent 对照实验全套归档
orion 侧与上游 heli-qi/osworldscienceqs-geo 的 GUI agent,在同一 QGIS 3.44.13 镜像、同一判分器、同一模型后端上的对照实验(2026-08-29/31): 三道遥感题(ndvi-zonal-statistics / rareplanes-aircraft-point-annotation / registration-tps) × 两臂 × claude-sonnet-5 与 gpt-5.6-luna 各 3 轮,共 36 轮正式记录 + 控制/预实验归档。
⚠ 本仓库含题目标准答案(GT)与全部轨迹,故 gated(人工审批)。不要把 expected/ 内容交给做题 agent。
内容
| 路径 | 内容 |
|---|---|
harness/ |
orion 侧全部执行代码(双臂驱动、docker 复刻启动器、no-op/oracle 预检、llm_proxy 逐次计费、批量队列、分析脚本)、REPORT.md(实验报告)、CODE_DIFF.md(两套 agent 逐条源码对照)、report.html、烤镜像脚本 vm_scripts/ |
upstream_osworldscienceqs-geo.tar.gz |
上游仓库检出(commit 9b06e17,含 .git)+ hydrated 任务资产与 GT(evaluation_examples/assets/remote_sensing/*/expected/) |
mm_agents_snapshot.tar.gz |
orion agent 内核快照(mm_agents + vendored controller)。注意:实验期版本与此快照差三处已记录的小改(max_tokens 16384 / 不处理截断 / '<' 修复写法),见 REPORT.md §4 |
runs.tar.gz |
全部轨迹:36 轮正式(截图/trace/llm_raw/评分证据/逐次计费)+ controls(no-op/oracle)+ pilot(3.44.14 镜像)+ 误跑的 gpt-5.5 归档 |
assets-*.zip |
出题方原始资产交付包(inputs + expected) |
vm/Ubuntu-qgis3.44.13-baked.qcow2 |
实验用 guest 镜像(23 GiB,md5 见旁边 .md5;官方 OSWorld Ubuntu.qcow2 + 上游原样安装脚本 + apt pin 3.44.13;1920×1080,DPMS 关) |
关键结论(详见 harness/REPORT.md)
- 两套 agent 本体同源(OSWorld PromptAgent);执行层差异中影响分数的两条都在上游:无条件按
;拆代码 (gpt-5.6-luna 下 900 步 165 个动作被拆成 SyntaxError)、一次 API/解析失败即终止整题。 - sonnet-5:我们 6/9 过 vs 上游 4/9(ndvi 3/3 vs 1/3);luna:两臂各 1/9。
- 镜像必须钉 QGIS 3.44.13:rareplanes 的上游冻结 .so 链接 libqgis_core.so.3.44.13。
授权与来源
上游代码 Apache-2.0(OSWorld fork);任务影像源自 SpaceNet/RarePlanes/Sentinel-2 派生物, 遵循其原始许可;orion 侧代码与轨迹随本仓库以研究用途提供。请勿再分发 expected/ 内容。
- Downloads last month
- 24