RJY ERP 完整研究数据集：TAR 分片版
本目录用于下载传输；视觉和 QA 均须先解包，再运行加载器。解包命令见下文。
文档更新：2026-10-03。QA 数据修订：2026-10-03_partition_v2。
视觉资产版本：1.0.1-draft，资产发布日期：2026-09-24。默认 QA 版本：2026-10-03_V2。视觉资产与 QA 独立版本化，以 manifest.json 中的 release_version、qa_releases、qa_default_version 为准。
本 release 整合七个来源的 ERP 全景图、实例标注、分割 Mask、label map、径向深度、Caption、直接 crop、透视 crop，以及对应的 QA 数据。共 10,139 张 ERP、245,299 个可训练实例和 850,245 条 QA；ERP、实例和 QA 是三种不同的计数单位。一张 ERP 可以对应多个实例和多个问题。
本 README 介绍整个 release；链接中的完整 QA 文档在解包后恢复。QA 的各任务、各来源 split 数量、字段契约与评测方法详见 QA 数据集说明。
数据来源与规模
| 来源 | ERP 帧数 | 可训练实例 | crowd/排除区域 | 深度来源 |
|---|---|---|---|---|
| 360_dataset | 903 | 2,123 | 0 | DAP 单目米制估计 |
| 360_indoor | 3,335 | 89,140 | 0 | DAP 单目米制估计 |
| osv | 600 | 4,665 | 0 | DAP 单目米制估计 |
| pass_dataset | 400 | 13,101 | 0 | DAP 单目米制估计 |
| stanford2d3ds | 1,401 | 31,543 | 0 | 官方径向 GT |
| wildpass | 500 | 10,374 | 1 | DAP 单目米制估计 |
| pandora | 3,000 | 94,353 | 0 | DAP 单目米制估计 |
| 合计 | 10,139 | 245,299 | 1 | GT 与估计值分别保留来源 |
来源名称、类别词表、投影依据、深度属性和覆盖统计均保存在 manifest.json 的 datasets 中。类别保留各来源词表，不能假定不同来源的类别 ID 或 label_id 共用同一语义空间。这里的七个来源以 manifest 为准；额外未登记的本地工作目录不属于这一发布清单。
解包后的完整目录
数据根目录/
├── README.md
├── manifest.json
├── schema.json
├── checksums.sha256
├── rjy_qa.py
├── <数据集>/
│ ├── images/<image_id>.<扩展名>
│ ├── crop_direct/<image_id>/<instance_id>.png
│ ├── crop_perspective/<image_id>/...png、...json
│ └── annotations/
│ ├── <image_id>.json
│ ├── masks/<image_id>/<instance_id>.png
│ ├── label_maps/<image_id>.png
│ └── depth_maps/<image_id>.npy
└── qa/2026-10-03_V2/
├── README.md
├── manifest.json
├── datasets/<数据集>/{train,validation,test}.jsonl
├── benchmark/{train,validation,test}.jsonl
├── detail/{train,validation,test}.jsonl
├── training/{sampling.json,sampling_weights.jsonl,exclusions.jsonl}
├── evaluation/
│ ├── reference.{validation,test}.jsonl
│ ├── balanced/ # 固定均衡子集及对应参考答案
│ ├── tools/score.py
│ └── partition_report.json、quality_report.json、answer_distribution.json
└── public_test/ # 独立测试题与匿名图片
manifest.json 是发布级清单；schema.json 定义帧级标注，不是 QA 行的 schema；rjy_qa.py 是纯标准库 QA 加载器。文件使用相对路径，不依赖原服务器上的 raw、processed 或项目源码。解包后保持内部结构即可任意命名、整体移动下载目录。
视觉资产与标注字段
| 内容 | 作用与读取约定 |
|---|---|
| images | ERP 原始图像，实际尺寸以帧级标注和图片为准 |
| annotations/.json | 每帧的主标注，含图像尺寸、来源、实例列表及资产路径 |
| 实例记录 | instance_id、category、bbox_parts_xyxy、direction、mask、depth、caption、crop 等；具体可选字段见 schema |
| annotations/masks | 全 ERP 二值实例 Mask，是主分割表示，允许实例间重叠 |
| annotations/label_maps | uint16 单值索引图；0 为背景，正整数映射到同帧实例的 label_id |
| annotations/depth_maps | float32 NPY，单位米，表示相机到表面的径向距离 |
| crop_direct | 直接从 ERP 原始像素裁切的无标注 crop；通过 crop_transform 追溯原图 |
| crop_perspective | 畸变矫正的透视 crop；JSON sidecar 描述视图、变换、覆盖及来源摘要 |
| Caption | 实例文本描述及质量字段；不能仅凭存在 caption 就视为人工或视觉模型确认 |
标注中 image_file、mask_file、crop 等资产路径以所属数据集目录为根；QA inputs 路径包含数据集名称，以完整数据根目录为根。不要混淆这两种根目录，也不要从 JSON 文件的父目录直接拼接所有路径。透视 crop 的具体图片以 sidecar 或 QA teacher.inputs.crop 为准，crop_perspective_file 通常指向 sidecar，不能把它当图片。
ERP 投影、坐标与框
源标注使用 0-based 像素索引及 inclusive xyxy BBox。普通目标有一个 bbox_parts_xyxy，跨左右接缝的目标有两个贴边 part。pixel_uv 使用 circular BBox 中心；yaw_deg、pitch_deg 和 12 类 absolute_direction 按来源 erp_projection 计算。
所有来源水平覆盖 360°，垂直覆盖并不相同：PASS 为 pitch −15° 至 +60°（75°），WildPASS 为 −30° 至 +40°（70°）；其余当前清单按 −90° 至 +90° 记录。使用 manifest 中的具体投影，不能统一按完整 180° 垂直 ERP 解释。部分投影覆盖由宽高比推断，依据类型也在清单中记录。
QA 的点和框另有归一化契约，框使用半开区间；它与源标注的像素 inclusive xyxy 不相同。坐标换算时以对应数据层的契约为准。
分割与深度的使用注意事项
label map 每个像素只存一个 label_id，是重叠消解后的便捷索引；该 ID 的像素应是实例二值 Mask 的子集，不保证与完整 Mask 相等。53 个有效实例在 label map 中被完全覆盖，仍保留原 Mask，并以 fully_occluded_in_label_map 标记；不得仅因 label_map_pixels=0 就认定原实例不存在。WildPASS 的一个 crowd 区域在 JSON 和 label map 中保留，但排除实例训练，不生成该区域的 crop、深度统计或 Caption。
Stanford2D3DS 深度为官方 4096×2048 径向 GT；其余为 1024×512 DAP 单目米制估计。深度分辨率可能与 ERP 不同，需要显式建立像素对应关系；估计值不等于 GT。无效深度的非有限值及数值阈值以每个来源 manifest.depth.invalid_values 为准。实例深度统计与完整深度图分别提供。
读取图像与帧级标注
在数据根目录运行下例；读取 JSON 仅需 Python 标准库，解码图片可使用 Pillow，读取 NPY 可使用 NumPy。下载数据不要求安装生产环境 ms-swift。
import json
from pathlib import Path
root = Path.cwd()
dataset_root = root / "stanford2d3ds"
annotation_path = next((dataset_root / "annotations").glob("*.json"))
frame = json.loads(annotation_path.read_text(encoding="utf-8"))
image_path = dataset_root / frame["image_file"]
instances = frame["instances"]
# 如需解码：Image.open(image_path)；其他资产按标注中的相对路径读取。
QA 当前版本与使用入口
默认版本为 2026-10-03_V2，数据修订为 2026-10-03_partition_v2。本次直接重划 train / validation / test，保留全部 850,245 条 QA 的问题、选项、图像输入和答案语义；旧 split 的实验结果不能直接与本修订比较。之前版本目录名为 2026-09-25_V1，目录改名本身不改变 QA 内容；划分变化以 data_revision 和 partition_revision 为准。
| 来源 | train | validation | test |
|---|---|---|---|
| 360_dataset | 12,146 | 1,657 | 3,393 |
| 360_indoor | 143,464 | 30,317 | 130,505 |
| osv | 8,629 | 1,225 | 2,455 |
| pandora | 130,440 | 29,537 | 135,691 |
| pass_dataset | 40,578 | 2,161 | 19,014 |
| stanford2d3ds | 70,923 | 15,381 | 21,536 |
| wildpass | 35,912 | 5,074 | 10,207 |
| 合计 | 442,092 | 85,352 | 322,801 |
原始 train 中 32,123 条已知选项捷径题保留在语料，但默认训练过滤，当前默认可训练 409,969 条。850,245 是全语料计数，不能作为默认训练规模。
| QA 子目录 | 用途与关系 |
|---|---|
datasets/ |
唯一完整样本计数入口，按来源和 split 读取 |
training/ |
按 sample_id 关联的训练权重和排除名单，不是新增样本 |
evaluation/ |
自然分布参考答案、固定均衡子集、评分器和审计报告；参考答案只供评分 |
public_test/ |
独立匿名图片与无答案测试题，共 322,801 条；汇总与分来源入口重叠 |
benchmark/ |
正式任务的分类视图，与 datasets 重叠；不是固定均衡评测集 |
detail/ |
细节任务的分类视图，与 datasets 重叠；训练可含独立教师 crop |
普通训练从 datasets 和 training 进入；本地评测使用 evaluation。不要把 datasets、benchmark、detail 或 public_test 重复拼接。
图片已就位后，在数据根目录运行：
from rjy_qa import (
iter_trainable_qa, model_inputs, swift_record,
iter_training_weights, iter_evaluation_qa,
)
qa = next(iter_trainable_qa(version="2026-10-03_V2", dataset="stanford2d3ds"))
student = model_inputs(qa) # ERP、问题及选项，不含参考答案
answer = qa["answer"]
sft = swift_record(qa, training=True) # messages/images，显式添加训练目标
if "teacher" in qa:
teacher = model_inputs(qa, "teacher") # 独立透视 crop 输入
weights = iter_training_weights(version="2026-10-03_V2") # 按 sample_id 关联，不能直接 zip
balanced_test = iter_evaluation_qa("test", version="2026-10-03_V2") # 无答案均衡子集
iter_qa 是保留全部原始行的研究入口；默认训练用 iter_trainable_qa。swift_record 默认只生成推理消息，只有显式 training=True 才添加 assistant 目标。学生始终只看 ERP、问题和选项；教师 crop 不混入学生图片。train / validation 含答案，test 不含 answer 或 teacher。
自然分布 test 参考答案位于 evaluation/reference.test.jsonl，validation 参考答案位于 evaluation/reference.validation.jsonl；固定均衡协议使用 evaluation/balanced/reference.<split>.jsonl。例如：
python qa/2026-10-03_V2/evaluation/tools/score.py \
--references qa/2026-10-03_V2/evaluation/reference.test.jsonl \
--predictions predictions.jsonl --output scores.json
评分器保留全量诊断，同时在主要指标中排除已登记的捷径行；自然与均衡协议使用各自的参考答案。类别不均衡时应结合 balanced accuracy 和 macro-F1，深度任务区分 GT 与 DAP，不能仅凭总体 accuracy 判断模型能力。
划分按完整保护连通组进行，目标比例 70% / 10% / 20% 受官方 test、重复图、Stanford 房间/物理身份和 PASS 序列约束。跨来源官方标签冲突按 test 优先处理，因此属于自定义研究划分；所有官方 test 与训练隔离，不能宣称逐来源原样保留官方划分。七个来源都有 validation。其他来源的未检测同场景关系仍未认证。
完整研究版含源标注和评分答案；单独交付无答案测试输入时，只复制整个 qa/2026-10-03_V2/public_test/，图片路径以该目录为根，不附带 evaluation 或源标注。内部 private 审核材料未安装。历史发布的部分 train 已进入本版 test，匿名化无法消除历史训练污染，本版不宣称从未公开的盲测 benchmark。新增题仅规则审核，未执行逐题视觉 Gold 或模型基线评测，版本仍未冻结。详情见 QA 说明。
来源追溯与发布状态
manifest 的 source、references、license 与 coverage_source 保存来源及投影依据。当前视觉资产版本仍是 draft，许可状态为 unverified_release_blocker；本文件没有替任何上游数据集推断再分发许可，也未提供统一的新许可证。引用及许可应以各来源已确认记录为准。
2026-09-24 的 PASS 修订更新了 crop 来源摘要并将 +180° 接缝表示归一为 −180°；该次修订未重写 ERP、Mask、直接 crop 或透视图片。QA 2026-10-03_V2 后续作为独立版本安装；历史发布已备份；当前 QA 的划分修订见上面的版本说明。
打包目录与分片规模
本目录含 17 个视觉 TAR 和 1 个 QA TAR，共 18 个未压缩 POSIX PAX 分片。默认目标大小 8 GiB；视觉按完整帧组织，QA 按完整文件组织，均不为凑齐大小拆分单元。TAR 不采用 WebDataset 样本键布局；rjy_qa.py 读取解包文件，不直接读取 TAR。
打包下载目录/
├── README.md、PACKING.md
├── manifest.json、schema.json、rjy_qa.py
├── checksums.sha256 # 解包前：校验传输文件
├── unpacked_checksums.sha256 # 解包后：校验逻辑文件
├── <数据集>/shard-00000.tar ...
└── qa/2026-10-03_V2/
├── README.md # 解包前的简短 QA 说明
└── shard-00000.tar # 完整 QA 目录及 public_test 图片
| 来源 | TAR 数 | TAR 合计（GiB） |
|---|---|---|
| 360_dataset | 1 | 5.96 |
| 360_indoor | 2 | 15.80 |
| osv | 1 | 1.70 |
| pass_dataset | 1 | 3.11 |
| stanford2d3ds | 9 | 66.20 |
| wildpass | 1 | 2.13 |
| pandora | 2 | 15.47 |
| 视觉合计 | 17 | 110.36 |
| QA 2026-10-03_V2 | 1 | 5.01 |
| 全部 TAR | 18 | 115.37 |
视觉 TAR 内路径相对所属数据集目录；QA TAR 内路径相对 QA 版本目录，包含 datasets、training、evaluation、public_test、benchmark、detail 和版本文档。QA TAR 含 3,795 个源文件。TAR 不能直接解压到发布根目录。
下载、解包与校验
在线仓库：RyanJoy/PanoLLM_dataset。下载时保留仓库内部目录结构；本地目录名和位置可自行选择。每次更新由多个文件提交组成，复现实验应固定最终验收的 commit，并完整下载该版本的文档、分片和校验清单。
在完整下载根目录执行：
set -e
# 1. 必须在解包前校验传输文件；会读取所有 TAR。
sha256sum -c checksums.sha256
# 2. 原位展开视觉资产，保留数据集这一层目录。
for dataset in 360_dataset 360_indoor osv pandora pass_dataset stanford2d3ds wildpass; do
for shard in "$dataset"/shard-*.tar; do
tar -xf "$shard" -C "$dataset"
done
done
# 3. 展开 QA；同时恢复训练协议、评分器和匿名 public_test。
for shard in qa/2026-10-03_V2/shard-*.tar; do
tar -xf "$shard" -C qa/2026-10-03_V2
done
# 4. 解包后使用逻辑文件清单。
sha256sum -c unpacked_checksums.sha256
# 5. 读取默认过滤后的训练题，确认图片路径可用。
python - <<'PY'
from rjy_qa import iter_trainable_qa, model_inputs
qa = next(iter_trainable_qa(version="2026-10-03_V2", dataset="stanford2d3ds"))
print(model_inputs(qa))
PY
解包额外占用展开资产的磁盘空间，原 TAR 保留。QA 解包会用完整源 QA README 替换外部简短打包 README，因此 解包后重新运行 checksums.sha256 会报告该 README 摘要不符；此时应使用 unpacked_checksums.sha256。根 README 与 PACKING 始终是本打包版文档，逻辑清单中的对应摘要也针对这两个文件。
只研究一个来源时，可只下载/解开它的全部视觉分片，同时保留公共文件并解开 QA 全部分片，加载器显式指定 dataset。仅使用 public_test 时只需 QA TAR，图像路径以解出的 public_test 为根。这两种部分下载不适用全包校验命令，完整清单会报告未下载的文件。
若展开到新目录，复制 manifest.json、schema.json、rjy_qa.py 和 QA 到新根目录，保持“根目录/数据集/images”及“根目录/qa/版本”关系。哈希只证明文件与清单一致，不代表语义、视觉审核或许可已经通过。更多打包契约与增量更新说明见 PACKING.md。
- Downloads last month
- 361