SingleBicycle/pico_human_demo_v1

PICO 4 Ultra 真人第一视角示范数据 v1

PICO 4 Ultra 头显、人裸手操作桌面物体的第一视角数据。每条包含：第一视角 RGB 视频、头部 6DoF 轨迹、 PICO 原生裸手追踪的双手 26 关节（位置 + 朝向 + 有效标记）、每一帧的相机内参和相机位姿，以及逐帧对应表。 没有机器人数据。

下载

pip install -U huggingface_hub
hf download SingleBicycle/pico_human_demo_v1 --repo-type dataset --local-dir pico_human_demo_v1
cd pico_human_demo_v1 && sha256sum -c checksums.sha256   # 核对文件完整（macOS：shasum -a 256 -c checksums.sha256）

目录

README.md               本文件
manifest.csv            每条一行：任务、物体、时长、帧数、双手追踪比例、叠加核对、质检结果
checksums.sha256        全部文件的 SHA-256（拷贝后在本目录运行 sha256sum -c checksums.sha256）
calibration/
  camera_calibration.json   相机内参、相机相对头部的外参、坐标系定义、手部延迟
  calibration_report.json   参数来源、核对方法与结果、已知限制
objects/<object_id>/    物体参考照片 view_01–03 和 metadata.json
episodes/<episode>/
  raw/                  原始录制（JPEG 帧、camera_frames.csv、tracking.csv、meta.json），未改动
  video.mp4             第一视角视频，30 fps，第 k 帧 = 原始第 k 帧（不重复、不丢帧）
  poses.npz             头部与双手的原始样本（每个显示帧一个，约 90 Hz）及有效标记，原始时间戳
  camera_poses.npz      对齐到每个视频帧：相机位姿、内参、头部位姿、插值后的双手关节
  sync.csv              逐帧对应表：每帧用了哪两个手部样本、时间差、插值权重、有效关节数
  metadata.json         任务、物体、成功标签、设备与软件版本、时间范围
  qc.json               本条质检
previews/<episode>_overlay.mp4   手部骨架叠加在视频上的预览（绿 = 左手，橙 = 右手）

任务

ID	名称	动作	完成标准
T1	方块放进盘子	拿起黑色硬方块，放进白色纸盘，松手收回	方块完全在盘内，手已松开
T2	杯子放到盘子上	拿起红色塑料杯，直立放到白色纸盘上，松手收回	杯子直立稳定地在盘子上，手已松开
T3	长条竖直叠放	两根长方条（粉、红）竖立在桌上；拿起一根，竖直叠放到另一根上面，松手收回	上面的长条稳定立住，手已离开
T4	试管换架	握住带盖 50 mL 塑料试管，从一个试管架拔出，插进另一个试管架的空孔（蓝色架 ↔ 竹制架），松手收回	试管插进目标孔并稳定
T5	擦白板	拿起板擦，擦掉白板中间的绿色记号，再把板擦放回原来的角落，手收回	绿色记号擦净

各条

episode	任务	操作手	时长	帧数	腕部追踪（左/右）	骨架叠加平均偏差	质检	备注
task01_take01	T1	左手	19.267 s	579	100% / 91%	0.2 px	通过
task01_take02	T1	右手	19.001 s	571	100% / 95%	0.58 px	通过
task02_take01	T2	左手	15.034 s	452	98% / 92%	目视	通过
task02_take02	T2	右手	12.0 s	361	100% / 89%	0.23 px	通过
task03_take01	T3	右手	15.234 s	458	100% / 94%	目视	通过
task03_take02	T3	左手	9.567 s	288	100% / 88%	目视	通过	叠放时右手在下面那根长条旁边，可能扶了一下（不是严格的单手示范）
task04_take01	T4	右手	13.1 s	394	99% / 90%	0.13 px	通过
task04_take02	T4	左手	14.601 s	439	100% / 93%	0.3 px	通过
task05_take01	T5	左手	10.767 s	324	100% / 89%	0.4 px	通过
task05_take02	T5	右手	10.5 s	316	100% / 90%	0.2 px	通过

每个任务录两条：分别用左手和右手，第 2 条的物体布局左右对调（T4 第 2 条反向转移）；10 条都在同一张深色桌子上、同一组物体和光线下完成。

骨架叠加平均偏差是投影关节到画面中手（按肤色分割）的平均像素距离，落在手上的关节记 0；它说明骨架有没有整体偏出画面里的手，不是关节定位误差（方法见 calibration/calibration_report.json）。"目视" 表示该条背景不适合自动核对，已逐条目视检查叠加预览。

物体

object_id	名称	用于	照片	说明
object_001	黑色硬方块	T1	3 张
object_002	白色纸盘	T1、T2	3 张
object_003	红色塑料杯	T2	3 张
object_004	粉色长方条	T3	3 张	照片中与红色长方条（object_005）同框，粉色在左/上
object_005	红色长方条	T3	3 张	照片中与粉色长方条（object_004）同框
object_006	蓝色试管架	T4	3 张	照片中插着 50 mL 试管（object_007）
object_007	50 mL 带盖塑料试管（蓝盖，空）	T4	3 张	照片中插在蓝色试管架（object_006）上
object_008	竹制试管架	T4	3 张	第一视角视频里偏黄色
object_009	灰色板擦	T5	3 张

物体尺寸没有测量（metadata.json 里 size_mm 为 null）。object_004 和 object_005、object_006 和 object_007 是同框拍摄，照片相同。T5 被擦的白板和桌面没有单独拍参考照片，可在各条视频中看到。

坐标系和约定

符号	含义
W	该条录制的 PICO 跟踪空间：右手系，y 向上，单位米。原点和水平朝向由头显当时的边界决定，不同条之间不保证一致
H	头部（OpenXR VIEW，两眼中点）：x 右、y 上、z 向后
C	左眼 RGB 相机：x 右、y 下、z 向前（OpenCV 约定）

• T_A_B 把 B 坐标里的点变到 A：p_A = R·p_B + t。相机位姿 T_W_C(t) = T_W_H(t) · T_H_C；世界到相机用 inverse(T_W_C)。
• 所有位姿写成 [x, y, z, qx, qy, qz, qw]；4×4 矩阵另给。
• 手部 26 关节按 OpenXR XR_HAND_JOINT 顺序（poses.npz 里的 joint_names）：0 掌心、1 手腕、2–5 拇指、6–10 食指、11–15 中指、16–20 无名指、21–25 小指。关节位置在 W 中。
• 有效标记：*_valid 为该关节位置"正在追踪"（运行时标志位 8）。追踪丢失的样本保留原值但标为无效，没有补值。
• 关节朝向是运行时原样给出的四元数，在 W 中，按 OpenXR XR_EXT_hand_tracking 约定：每个关节的 −Z 沿骨头指向指尖、+Y 指向手背。已用数据核对：手指各关节 −Z 与指向下一关节的方向、手腕 +Y 与由关节位置算出的手背法向，夹角中位数都不到 1°。

时间

• 全部时间戳都是头显的 CLOCK_MONOTONIC，单位纳秒（开机以来）。录制目录名（metadata.json 的 source_trial）里的日期时间是头显本地时间（Asia/Shanghai，UTC+8）。
• 视频帧时间 = 相机给出的拍摄时刻 capture_ns（sync.csv）。video.mp4 按 30 fps 编码、第 k 帧即原始第 k 帧；k/30 与真实拍摄时间的最大差记录在 qc.json。
• 相机位姿用的头部位姿是运行时在拍摄时刻直接给出的，不是插值；核对：与头部轨迹在该时刻的插值相差，各条中位数 0.04–0.12 mm。
• 头部和双手的原始样本（poses.npz）时间戳是运行时的预测显示时间。
• 手部延迟：PICO 手势追踪给出的关节位置比它的时间戳晚约 70 ms 才对应画面中的手。逐帧对齐（camera_poses.npz 的双手、sync.csv、叠加预览）已按这个值补偿，并在 sync.csv 写明用了哪两个样本、时间差多少；poses.npz 的原始时间戳没有改。估计方法见 calibration/calibration_report.json。

相机

• 左眼彩色透视相机（XR_CAMERA_ID_RGB_LEFT_PICO），1280×960，30 fps，针孔模型： fx = 814.026，fy = 814.066，cx = 639.5，cy = 479.5（像素，原点在左上角）。
• 畸变参数：未知（SDK 不提供；画面由 PICO 运行时输出，主点正好在图像中心，看起来已去畸变）。
• 相机相对头部：在两眼中点左 3.2 cm、前 6.8 cm，光轴与头部朝前方向夹角 0.6°。
• 内参和外参每帧都由 SDK 读取并保存；全部 10 条、所有帧中内参最大变化 0 px，外参矩阵元素最大变化 0。（raw/camera_frames.csv、camera_poses.npz）

读取示例

import numpy as np
cam = np.load("episodes/task01_take01/camera_poses.npz")
T_W_C, K = cam["T_W_C"], cam["K"]            # 每帧相机位姿、内参
X = cam["right_joints_W"][100]                # 第 100 帧右手 26 关节（W，已对齐到该帧）
ok = cam["right_valid"][100]
Xc = (X - T_W_C[100, :3, 3]) @ T_W_C[100, :3, :3]   # 变到相机坐标 C
uv = (K[100] @ (Xc / Xc[:, 2:]).T).T[:, :2]           # 像素坐标

已知限制

• 手部追踪本身的精度没有对照真值测量；骨架叠加只说明投影与画面一致（见 calibration_report.json）。不代表毫米级精度。
• 只用一只 RGB 相机（左眼）；畸变参数未知。
• 不同 episode 的世界坐标 W 不保证一致。
• 不包含机器人数据、MANO 参数、物体三维模型或物体逐帧位姿。