PICO 4 Ultra 真人第一视角手部姿态录制 v2
同一台 PICO 4 Ultra 头显，人裸手操作桌面物体的第一视角录制：第一视角 RGB 视频、头部 6DoF、PICO 原生裸手追踪的双手 26 关节。 没有机器人数据。本仓库收的是到 2026-10-24 为止全部的手部姿态录制，原始文件原样（两条因隐私没有公开，见第 5 节）。 整理好的 10 条正式示范（逐帧相机位姿、对齐表、物体照片）在 pico_human_demo_v1。
| 文件夹 | 录制日（美国太平洋时间） | 录制 App | 条数 | 内容 |
|---|---|---|---|---|
egokit_20261023/ |
2026-10-23 | EgoKit-PICO 1.1.0 | 10 | 绿幕前三个任务：取瓶盖放进托盘 5 条、试管换孔 3 条、擦白板 2 条 |
egokit_20261006/ |
2026-10-06 | EgoKit-PICO 1.1.0 | 1 | 第一条测试；当时是手柄模式，没有手部数据 |
picoegorecorder_20261006/ |
2026-10-06 | PicoEgoRecorder（自己写的录制 App） | 15 | v1 那 10 条正式示范的原始录制，加上测试、备用和误触的录制 |
picoegorecorder_20261023/ |
2026-10-23 | PicoEgoRecorder | 7 | 和 egokit_20261023/ 同样的布置：取瓶盖放进托盘 2 条、试管换孔 3 条、擦白板 2 条；每帧记录相机内外参和拍摄时间 |
picoegorecorder_20261024/ |
2026-10-24 | PicoEgoRecorder | 2 | 同一绿幕布置，双手倒水 2 条：左手拿带漏斗的接水管、右手拿另一支管倒进去，再放回架上；每帧记录相机内外参和拍摄时间 |
下载
仓库公开、需申请：在本页申请访问，获批后：
pip install -U huggingface_hub
hf auth login
hf download SingleBicycle/pico_human_demo_v2 --repo-type dataset --local-dir pico_human_demo_v2
cd pico_human_demo_v2 && sha256sum -c checksums.sha256 # 核对文件完整（macOS：shasum -a 256 -c checksums.sha256）
目录
README.md 本文件
manifest.csv 每条一行：文件夹、录制 App、开始时间（头显本地 / 太平洋）、时长、帧数、双手追踪比例、任务、核对结果
checksums.sha256 全部文件的 SHA-256
calibration/
camera_calibration.json 相机内参和相机相对头部的外参（与 v1 逐字节相同，见 1.3）
egokit_alignment.json egokit_20261023 每条的骨架叠加核对和时间偏移
picoegorecorder_20261023_check.json picoegorecorder_20261023 每条的核对结果（check_trial.py）
picoegorecorder_20261024_check.json picoegorecorder_20261024 每条的核对结果（check_trial.py）
egokit_20261023/<录制>/ internal.mp4、poses.txt、log.txt（EgoKit 原样）
egokit_20261006/<录制>/ 同上
picoegorecorder_20261006/<录制>/ frames/*.jpg、camera_frames.csv、tracking.csv、meta.json（PicoEgoRecorder 原样）
picoegorecorder_20261023/<录制>/ 同上
picoegorecorder_20261024/<录制>/ 同上
previews/egokit_20261023/<录制>_overlay.mp4 骨架叠加预览（绿 = 左手，橙 = 右手）
previews/picoegorecorder_20261023/<录制>_overlay.mp4 同上，用每帧记录的相机参数
previews/picoegorecorder_20261024/<录制>_overlay.mp4 同上
tools/egokit.py 读取 EgoKit 录制（换坐标系、相机位姿、投影）
tools/egodata.py 读取 PicoEgoRecorder 录制（v1 用的同一份）
录制目录名是头显本地时间（Asia/Shanghai，UTC+8），比太平洋时间早 15 小时，所以 10-23 的录制目录名是 20261024_…。
1. egokit_20261023/：10-23 的 10 条（EgoKit）
1.1 内容
| 录制 | 任务 | 看到的动作 | 结束时 | 时长 | 视频帧 | 重复帧 | 左 / 右手追踪 | 骨架叠加平均偏差（落在手上的关节） | 时间偏移 头 / 手 |
|---|---|---|---|---|---|---|---|---|---|
20261024_094344 |
取瓶盖放进托盘 | 右手取下瓶盖放进托盘；左手在托盘边 | 瓶盖在托盘里 | 14.1 s | 1251 | 34% | 100% / 93% | 1.51 px（85%） | -40 / -20 ms |
20261024_094418 |
取瓶盖放进托盘 | 右手取下瓶盖放进托盘；左手在托盘边 | 瓶盖在托盘里 | 14.1 s | 1248 | 34% | 100% / 92% | 0.24 px（94%） | -40 / 0 ms |
20261024_094555 |
试管换孔 | 右手把试管从架上一个孔拔出、插进另一个孔；左手在旁边 | 试管立在架上 | 14.2 s | 1257 | 30% | 100% / 92% | 0.48 px（88%） | -60 / 0 ms |
20261024_094621 |
试管换孔 | 右手把试管从架上一个孔拔出、插进另一个孔 | 试管立在架上 | 10.9 s | 963 | 29% | 0% / 90% | 0.57 px（91%） | -80 / 0 ms |
20261024_094636 |
试管换孔 | 右手把试管从架上一个孔拔出、插进另一个孔 | 试管立在架上 | 13.7 s | 1216 | 32% | 0% / 91% | 0.60 px（91%） | -40 / 40 ms |
20261024_094732 |
取瓶盖放进托盘 | 右手取下瓶盖放进托盘 | 瓶盖在托盘里 | 12.4 s | 1102 | 30% | 0% / 92% | 0.50 px（93%） | -40 / -20 ms |
20261024_094749 |
取瓶盖放进托盘 | 右手取下瓶盖放进托盘 | 瓶盖在托盘里 | 11.7 s | 1042 | 35% | 0% / 77% | 0.46 px（93%） | -40 / -20 ms |
20261024_094805 |
取瓶盖放进托盘 | 右手取下瓶盖放进托盘 | 瓶盖在托盘里 | 12.5 s | 1111 | 34% | 1% / 87% | 0.54 px（92%） | -80 / 0 ms |
20261024_094951 |
擦白板 | 右手拿抹布擦掉白板中间的记号，再把抹布放回角落 | 记号擦掉，抹布放回 | 20.2 s | 1799 | 33% | 36% / 94% | 0.34 px（94%） | -40 / -20 ms |
20261024_095023 |
擦白板 | 右手拿抹布擦掉白板中间的记号，再把抹布放回角落 | 记号擦掉，抹布放回 | 19.2 s | 1712 | 35% | 34% / 94% | 0.66 px（90%） | -120 / 20 ms |
- 全部在绿幕前完成，做任务的是右手。任务和结束时的状态是看录像写的，操作者没有逐条标注成功与否。
- 追踪比例 = poses.txt 里该手有数据的行的比例；手离开视野时没有数据。
- 骨架叠加和时间偏移见 1.3。
1.2 文件格式（EgoKit 原样）
internal.mp4：左眼彩色透视相机，1280×960，H.264，没有音频。EgoKit 按渲染帧写入（约 89 帧/秒）， 其中 29–35% 是和前一帧相同的重复帧；没有逐帧拍摄时间。poses.txt：每个渲染帧一行（约 90 Hz），和视频帧一一对应：第 k 行 ↔ 视频第 k 帧，两者行数相同。 每行：idx t_ms+ 头部x y z qx qy qz qw+ 左手 26 个关节 ×x y z qx qy qz qw+ 右手 26 个关节 × 7。t_ms是相对第一行的毫秒。关节按 OpenXRXR_HAND_JOINT顺序：0 掌心、1 手腕、2–5 拇指、6–10 食指、11–15 中指、16–20 无名指、21–25 小指。log.txt：开始、结束时间（头显本地时间），以及视频和 poses 各自首帧、末帧的 unix 毫秒时间和帧数。log 里的视频帧数比 mp4 实际多 1。- 坐标系：poses.txt 是 Unity 世界坐标，左手系（x 右、y 上、z 前），米。
tools/egokit.py读取时换成和 v1 一样的 W（右手系，y 上）： 位置的 z 取反，四元数的 x、y 取反。换算后关节朝向符合 OpenXR 约定（每个关节的 −Z 沿骨头指向下一关节，夹角中位数 0.01°）。 不换算直接投影时，所有关节都落在相机后面。 - 没追踪到的手整组写 0（位置 0、四元数 0 0 0 1），按手腕位置是否为 0 判断有效。EgoKit 不给逐关节的追踪标志（v1 的 PicoEgoRecorder 有）。
1.3 相机内参和外参：EgoKit 不存，借用同一台头显的值并逐条核对
EgoKit 不记录相机内参、外参，也不记录每帧的拍摄时间。calibration/camera_calibration.json 是 PicoEgoRecorder 在
同一台头显、同一个相机（左眼 RGB）、同一分辨率 1280×960 上每一帧从 PICO SDK 读到的值（v1 全部 10 条、所有帧中都没有变化）：
fx = 814.026，fy = 814.066，cx = 639.5，cy = 479.5；相机在两眼中点左 3.2 cm、前 6.8 cm（T_H_C）。
核对：用这组参数把每条的手部关节投影到视频上，在约 60 个不重复、有手的帧上量投影点到画面中手（绿幕上按肤色分割）的平均距离， 落在手上的点记 0。10 条结果 0.24–1.51 px，85–94% 的关节落在手上； 对照：同样设置下把骨架整体平移 150 px，距离是 16–30 px，说明这项核对能分辨对齐和没对齐。
时间对应（calibration/egokit_alignment.json）：
- 第 k 帧的相机位姿 = 头部在
t_ms[k] + head_shift_ms时的位姿 ·T_H_C； - 第 k 帧对应的手 = 手部关节在
t_ms[k] + hand_shift_ms时的位置（相邻两行插值）。 - 偏移是每条扫描 −400…+200 ms（步长 20 ms）取叠加最好的值：头部 -120…-40 ms，手部 -20…40 ms。这是估计值，不是记录值。 不用这些偏移（头 0 ms、手 +70 ms）时叠加偏差为 0.33–2.60 px。
限制：内外参是借用的，不是录这几条时读出的；畸变未知（SDK 不提供，同 v1）；时间偏移只精确到 20 ms；重复帧的画面停在它所重复那一帧的拍摄时刻。 同样三个任务当晚又用 PicoEgoRecorder 录了 7 条、10-24 又录了 2 条（第 4 节），那些录制的相机参数和拍摄时间是逐帧记录的：它们每一帧的内参与上面这组值的最大差为 0 px，外参矩阵元素最大差 1.3e-06（浮点舍入），说明 10-23 这台头显的相机参数和 10-06 一样。
1.4 预览
previews/egokit_20261023/<录制>_overlay.mp4：按 1.3 的参数和偏移把双手骨架画在视频上（绿 = 左手，橙 = 右手）。
重复帧沿用它所重复那一帧的时刻，所以骨架不会在静止的画面上跳动。
2. egokit_20261006/：EgoKit 第一条测试
20261007_041143，29.4 s：环顾绿幕和桌面，双手做张开、握拳，拿起黑色方块。
录制时手柄处于激活状态，系统没有切到手势追踪，所以手部数据全为 0，只有头部位姿和视频。格式同 1.2。
这条测试之后，因为 EgoKit 不存相机内外参，改用自己写的 PicoEgoRecorder 录了第 3 节和 v1 的数据。
3. picoegorecorder_20261006/：PicoEgoRecorder 原始录制
| 录制 | App | 用途 | v1 episode | 内容 | 时长 | 帧数 | 左 / 右手追踪 |
|---|---|---|---|---|---|---|---|
20261007_063228_smoke |
第 1 版 | discard | 冒烟测试 | 0.8 s | 23 | 0% / 0% | |
20261007_063427_test1 |
第 1 版 | discard | 测试（头显休眠中断） | 5.6 s | 166 | 0% / 0% | |
20261007_070628_headset |
第 2 版 | test | 第 2 版 App 验证，绿幕；用于标定核对 | 20.1 s | 604 | 100% / 90% | |
20261007_075244_headset |
第 2 版 | spare | T1 成功，但在木桌、右手，不进正式数据 | 18.3 s | 547 | 100% / 91% | |
20261007_080017_headset |
第 2 版 | discard | 误按开始，方块没动 | 8.0 s | 240 | 92% / 72% | |
20261007_080032_headset |
第 2 版 | formal | task01_take01 | 目视通过：左手抓起方块放进盘子，松手收回 | 19.3 s | 579 | 100% / 92% |
20261007_080910_headset |
第 2 版 | formal | task01_take02 | 目视通过：右手把方块放进盘子（布局左右对调） | 19.1 s | 571 | 100% / 95% |
20261007_081415_headset |
第 2 版 | formal | task02_take01 | 目视通过：左手拿起红杯，直立放到盘子上 | 15.1 s | 452 | 98% / 92% |
20261007_081441_headset |
第 2 版 | formal | task02_take02 | 目视通过：右手拿起红杯，直立放到盘子上（布局左右对调） | 12.0 s | 361 | 100% / 89% |
20261007_081819_headset |
第 2 版 | formal | task03_take01 | 目视通过：右手把红条竖着叠到粉条上，稳住 | 15.3 s | 458 | 100% / 94% |
20261007_081841_headset |
第 2 版 | formal | task03_take02 | 目视通过：左手把粉条叠到红条上，稳住；叠时右手在底部旁，可能扶了一下 | 9.6 s | 288 | 100% / 88% |
20261007_082225_headset |
第 2 版 | formal | task04_take01 | 目视通过：右手把试管从蓝色架拔出，插进竹制架 | 13.1 s | 394 | 100% / 90% |
20261007_082247_headset |
第 2 版 | formal | task04_take02 | 目视通过：左手把试管从竹制架拔出，插回蓝色架 | 14.6 s | 439 | 100% / 93% |
20261007_082421_headset |
第 2 版 | formal | task05_take01 | 目视通过：左手拿起板擦擦掉白板中间的绿色记号（画面中绿色像素 643 → 0），板擦放回左上角原处 | 10.8 s | 324 | 100% / 89% |
20261007_082500_headset |
第 2 版 | formal | task05_take02 | 目视通过：右手拿起板擦擦掉绿色记号（绿色像素 946 → 14，为白板边缘噪声），板擦放回右上角原处 | 10.5 s | 316 | 100% / 90% |
- 用途：formal = v1 正式示范的原始数据；test = 流程或 App 版本验证；spare = 备用（成功，但不在正式布置下）；discard = 当时判为不用（冒烟测试、误触等）。
- 格式见 v1 README 的
raw/说明和tools/egodata.py：frames/*.jpg（30 fps）、camera_frames.csv（每帧拍摄时间、内参、外参、 拍摄时刻的头部位姿）、tracking.csv（每个渲染帧的头部和双手 26 关节，含追踪标志和关节半径）、meta.json（设备、系统和 SDK 版本、计数）。 - App 第 1 版（smoke、test1）有两处不同，
tools/egodata.py读取时自动处理：JPEG 上下颠倒（meta.json的jpegRowsFlippedForUnityEncoder）；外参多取反了一次。 - smoke 和 test1 的手部数据全为 0；test1 在头显休眠时停止（
stopReason: paused）。
4. picoegorecorder_20261023/：10-23 晚上用 PicoEgoRecorder 录的 7 条
和第 1 节同一个绿幕布置、同样三个任务，改用 PicoEgoRecorder 录。所以每一帧都记录了相机内参、外参、拍摄时间和拍摄那一刻的头部位姿， 不用借参数，也不用估时间偏移。格式同第 3 节（App 第 2 版）。
| 录制 | 任务 | 看到的动作 | 结束时 | 时长 | 帧数 | 左 / 右手追踪 | 骨架叠加平均偏差（落在手上的关节） | 手部延迟 | 备注 |
|---|---|---|---|---|---|---|---|---|---|
20261024_102442_headset |
擦白板 | 右手拿抹布擦掉白板中间的记号，再把抹布放回角落 | 记号擦掉，抹布放回 | 15.5 s | 466 | 13% / 96% | 0.77 px（91%） | 50 ms | |
20261024_102510_headset |
擦白板 | 右手拿抹布擦掉白板中间的记号，再把抹布放回角落 | 记号擦掉，抹布放回 | 17.1 s | 513 | 17% / 93% | 0.91 px（88%） | 70 ms | |
20261024_102536_headset |
试管换孔 | 右手把试管从架上一个孔拔出、插进另一个孔 | 试管立在架上 | 109.5 s | 981 | 40% / 35% | 1.40 px（86%） | 60 ms | 开头约 10 s 头显还没戴上（画面是腿和桌子底下）；10.0–86.6 s 头显暂停（摘下），这段没有画面；任务在恢复之后 |
20261024_102744_headset |
试管换孔 | 右手把试管从架上一个孔拔出、插进另一个孔 | 试管立在架上 | 13.4 s | 401 | 0% / 89% | 1.45 px（86%） | 40 ms | |
20261024_102806_headset |
试管换孔 | 右手把试管从架上一个孔拔出、插进另一个孔 | 试管立在架上 | 16.3 s | 490 | 0% / 88% | 1.33 px（84%） | 60 ms | |
20261024_102848_headset |
取瓶盖放进托盘 | 右手取下瓶盖放进托盘 | 瓶盖在托盘里 | 14.3 s | 428 | 15% / 90% | 0.81 px（90%） | 70 ms | |
20261024_102907_headset |
取瓶盖放进托盘 | 右手取下瓶盖放进托盘 | 瓶盖在托盘里 | 14.7 s | 440 | 0% / 92% | 1.55 px（84%） | 50 ms |
- 每条都用 v1 的同一套核对（
check_trial.py，结果在calibration/picoegorecorder_20261023_check.json）：每一帧都读到内外参，整条没有变化， 和calibration/camera_calibration.json相同；拍摄时刻的头部位姿与头部轨迹插值最多相差 0.13–0.55 mm； 骨架叠加见上表，对照（骨架平移 150 px）20–30 px。 - 手部延迟：PICO 手部关节比它的时间戳晚这么多才对应画面里的手，每条扫描 0–200 ms 取叠加最好的值（v1 用的是 70 ms）。预览按这个值对齐，原始时间戳没有改。
- 预览
previews/picoegorecorder_20261023/<录制>_overlay.mp4：30 fps，第 k 帧 = 原始第 k 帧。20261024_102536_headset中间暂停的那段没有画面，预览里直接接上。 - 任务和结果是看录像写的，操作者没有逐条标注。
4.1 picoegorecorder_20261024/：10-24 下午的 2 条（双手倒水）
同一绿幕布置，换成双手任务：左手从架上拿起带漏斗的接水管，右手拿起另一支管，把管里的水经漏斗倒进接水管，再把两支管放回架上。
格式和核对与上面相同，核对结果在 calibration/picoegorecorder_20261024_check.json。
| 录制 | 任务 | 看到的动作 | 结束时 | 时长 | 帧数 | 左 / 右手追踪 | 骨架叠加平均偏差（落在手上的关节） | 手部延迟 | 备注 |
|---|---|---|---|---|---|---|---|---|---|
20261025_075811_headset |
双手倒水 | 左手从架上拿起带漏斗的接水管，右手拿起另一支管，把水经漏斗倒进接水管，两支管放回架上 | 两支管立在架上 | 23.7 s | 711 | 100% / 96% | 0.48 px（93%） | 90 ms | 开头右手举在画面上方（刚按完音量键） |
20261025_075852_headset |
双手倒水 | 左手从架上拿起带漏斗的接水管，右手拿起另一支管，把水经漏斗倒进接水管，两支管放回架上 | 两支管立在架上 | 22.5 s | 676 | 100% / 95% | 0.68 px（91%） | 60 ms |
- 每帧内外参都和
calibration/camera_calibration.json相同；拍摄时刻的头部位姿与头部轨迹插值最多相差 0.14–0.16 mm； 骨架叠加见上表，对照（骨架平移 150 px）37–37 px。 - 预览
previews/picoegorecorder_20261024/<录制>_overlay.mp4，同第 4 节。
5. 没有公开的两条
20261007_064119_test2 和 20261007_071811_headset（都是 10-06 的测试录制）：桌上手机的屏幕上能看到另一个人，test2 里脸很清楚；
两条里笔记本屏幕上都有文字，test2 的终端文字可以看清。所以这两条没有放进本仓库。test2 是 v1 用来核对外参方向和手部延迟的录制之一，结论写在 v1 的 calibration/calibration_report.json。
6. 公开前检查
- 本仓库所有原始文件与头显里的原文件逐字节一致（SHA-256）。
- 隐私：v1 没有公开过的画面都逐张看过（10-06 的录制和 10-23 PicoEgoRecorder 的每秒一帧，10-23 EgoKit 的每 2 秒一帧）；
另用 OpenCV Haar 人脸检测扫了公开部分的 5,110 帧，699 处命中逐个看过，都是手、瓶子、试管架、墙、椅子和绿幕，没有人脸。
test1 的最后 27 帧是检查后从头显补拉的（之前拉取时 App 还没写完），只逐帧目视检查过。
20261007_075244_headset背景玻璃墙后有路人的腿，看不到脸；20261024_102536_headset开头拍到操作者的腿。视频里有操作者的手和手臂。 - 10-24 的 2 条：每秒一帧逐张看过，另用 Haar 人脸检测扫了 694 帧，51 处命中逐个看过，都是绿幕、手、试管和架子，没有人脸； 画面上方露出绿幕后面的天花板和墙，没有屏幕和人。
- 文本文件不含本机路径或序列号（
meta.json只有设备型号和系统版本）。
7. 读取示例
import json, sys
sys.path.insert(0, "tools") # 需要 numpy 和 opencv-python
import egokit as ek
K, T_H_C, size = ek.load_calibration("calibration/camera_calibration.json")
name = "20261024_094555"
rec = ek.Recording(f"egokit_20261023/{name}") # 已换成右手系 W
fit = json.load(open("calibration/egokit_alignment.json"))["recordings"][name]
T_W_C = rec.camera_poses(T_H_C, fit["head_shift_ms"]) # 每个视频帧的相机位姿 [N,4,4]
pos, ok = rec.hands_at(rec.t_ms + fit["hand_shift_ms"]) # 每个视频帧的双手 26 关节 [2,N,26,3] 和有效标记 [2,N]
uv, front = ek.project(K, T_W_C[100], pos[1, 100]) # 第 100 帧右手关节的像素坐标
PicoEgoRecorder 录制（第 3、4 节）：
import egodata as ed
tr = ed.Trial("picoegorecorder_20261023/20261024_102744_headset")
img = tr.image(100) # 第 100 帧（App 第 1 版的上下颠倒已自动翻正）
pos, valid, _, _ = tr.hands_at(tr.capture_ns, latency_ns=40_000_000) # 双手关节对齐到每帧拍摄时刻；延迟见 manifest 的 hand_latency_ms
uv, front = tr.project(100, pos[1, 100]) # 用第 100 帧记录的内外参投影右手关节
# tr.K[n]：第 n 帧内参；tr.T_W_C[n]：第 n 帧相机位姿；tr.capture_ns[n]：拍摄时间
已知限制
- EgoKit 录制的相机参数是借用的，时间偏移是估计值（见 1.3）。
- 手部追踪本身的精度没有对照真值；骨架叠加只说明投影和画面一致，不代表毫米级精度。
- 单目（左眼）相机，畸变未知。
- 不同录制之间的世界坐标 W 不保证一致。
- 10-23、10-24 的任务和结果是看录像写的，没有操作者逐条标注。
许可
CC BY-NC 4.0（同 v1）。
- Downloads last month
- 39