ale-geo-tasks

5 道 Agents' Last Exam（ALE）v1.1 格式的地理空间任务，在 Linux 桌面的 QGIS 里完成。本库包含题包代码、题目数据，以及把数据烤进官方 v1.1 QEMU 磁盘的脚本。

下载需要先在本页申请访问，由维护者人工审核。

任务

taskId	内容
engineering/image_registration_sar_optical_01	用 Georeferencer 选控制点，把 SAR 影像配准到光学影像
engineering/image_registration_local_qc_01	找出两幅航空影像之间局部错配超过 3 m 的区域，并量出位移
engineering/building_footprint_repair_01	对照正射影像，修正与屋顶不符的建筑轮廓
engineering/building_footprint_split_01	把错误合并的建筑轮廓拆成两个
engineering/building_footprint_digitize_01	补画标注图层里缺失的建筑轮廓

全部使用 cpu-free-ubuntu 快照（官方 v1.1 Linux 镜像自带 QGIS 3.44.9），每题墙钟上限 7200 秒。判分只看产物文件，二值计分。

目录

tasks/engineering/<task>/     题包：task_card.json、main.py、grader/、scripts/
data/engineering/<task>/base/ 题目数据：input/、reference.7z（加密）、
                              output_test_pos/（正确样例）、output_test_neg/（错误样例）
tools/bake/                   把数据烤进官方磁盘的脚本和参考指纹
tools/host_push/              判分自检用的 agent：从宿主把样例答案写进虚拟机
configs/                      运行配置
evidence/                     起始状态截图等验收材料
ACCEPTANCE.md                 验收结果和已知限制

output_test_pos/ 和 output_test_neg/ 是明文答案，不会被烤进磁盘。

运行

需要：Linux x86_64、/dev/kvm、Docker（能使用 /dev/fuse）、uv、git，以及约 200 GB 磁盘空间（官方磁盘约 87 GB，烤好的磁盘约 86 GB）。以下命令都在 ALE 仓库根目录执行。

1. 检出 ALE v1.1，把本库下载到仓库根目录下的 geo/。目录名必须是 geo，配置里的路径依赖它。

   git clone https://github.com/rdi-berkeley/agents-last-exam.git
   cd agents-last-exam
   git checkout e6bbec5
   uv sync
   hf download weihao1115/ale-geo-tasks --repo-type dataset --local-dir geo
   cp -r geo/tasks/engineering/* tasks/engineering/
   cp secret/.env.example secret/.env
   

2. 下载官方磁盘。用 ALE 自带的 QEMU 配置跑一次 demo/hello，框架会下载磁盘、校验 SHA256，存到 ~/.cache/ale/qemu/images/ale-ubuntu22-v1.1.qcow2。这一步得 0 分是正常的。

   uv run python -m ale_run run geo/configs/fetch-base.yaml
   

3. 烤盘，约 30 分钟。最后一行应为 fingerprint matches the reference disk。

   geo/tools/bake/bake_disk.sh ~/.cache/ale/qemu/images/ale-ubuntu22-v1.1.qcow2 geo/data \
       ~/.cache/ale/qemu/images/ale-ubuntu22-v1.1-geo.qcow2
   

4. 判分自检：正确样例、错误样例、空交付各跑一遍，不调用模型。预期每题依次得 1.0、0.0、0.0。

   uv run python -m ale_run run geo/configs/geo-checks.yaml
   

5. 跑模型。以 Codex 为例：在 secret/.env 里加上 CODEX_BASE_URL、CODEX_API_KEY、CODEX_MODEL（网关需支持 Responses API），先跑 demo/hello 确认连通，再跑 5 道题。

   uv run python -m ale_run run geo/configs/codex-hello.yaml
   uv run python -m ale_run run geo/configs/codex-geo.yaml
   

   configs/codex-model-catalog.json 是 gpt-6-astra 的模型目录项，换模型时要改其中的 slug。模型不在 Codex 自带目录里、又没有目录项时，Codex 不会发送推理强度设置。

运行记录在 .logs/ale/<实验名>/ 下。

磁盘是怎么来的

bake_disk.sh 以官方磁盘为底（HF agents-last-exam/ale-images-qcow2，revision 49a1afa4fe2aa16c41d72279a0268125c707fe49，SHA256 ad0c2b86860765bafe5bc8156e5ee65736c910ca8da580aee13ca219cc9f3f32）加一层 qcow2。它不开机，用 debugfs 把每题的 input/ 和 reference.7z 写到 /media/user/data/agenthle/engineering/<task>/base/（属主 user，时间戳固定），再合并成一张独立的磁盘。脚本会对这一层写入的全部磁盘区段计算指纹，并和 tools/bake/expected-fingerprint.txt 比对。底盘一致、指纹也一致，就说明虚拟机看到的整块磁盘和维护者验收时用的逐字节相同。