Datasets:

dex-robot
/

cap

CAP（Capture Dataset）是一套人类手部动作采集 + 灵巧操作演示数据集，记录了操作者用右手完成「按序摆放杯子（cups_order）」任务的全过程。数据以 DexCap 风格的采集管线记录，包含压缩后的轨迹 HDF5 与多视角相机的原始图像帧，可直接用于动作复现、模仿学习与手部姿态分析。

仓库：dex-robot/cap
主文件：cap.zip（10,697,737,890 字节 ≈ 9.96 GiB）
收录内容：18,939 个文件 + 24 个目录条目
SHA256：f91c11ee1761822fa875d4783c1fd9388f6fa3f0fa3feeef6cd5c20775220c10
采集日期：2026-07-07
任务：cups_order（按序摆放杯子）
手别：右手（right hand）

1. 数据总览

项目	内容
任务	cups_order（按序摆放杯子）
采集手别	右手
采集日期	2026-07-07
有效采集次数	5 次（16:46:34 / 16:54:35 / 16:56:54 / 16:59:04 / 17:01:24）
轨迹文件	5 个 `.hdf5`（每次采集一个）
相机视角	6 路（左手 / 右手 / 头部双目 / 头部全局 RGB / 头部全局深度）
图像帧	18,914 张 `.png` + 5 段 `.mp4`
其他	3 个 `.json`、6 个 `.txt`、5 个 `.npy`、1 个 `.raw`
压缩包大小	10.7 GB（10,697,737,890 字节）

2. 目录结构

cap/
├── hdf5/                                   # 每次采集一条压缩轨迹
│   ├── cups_order_right_hand_20260707_164634/
│   │   └── cups_order_right_hand_20260707_164634.hdf5
│   ├── cups_order_right_hand_20260707_165435/
│   │   └── cups_order_right_hand_20260707_165435.hdf5
│   ├── cups_order_right_hand_20260707_165654/
│   │   └── cups_order_right_hand_20260707_165654.hdf5
│   ├── cups_order_right_hand_20260707_165904/
│   │   └── cups_order_right_hand_20260707_165904.hdf5
│   └── cups_order_right_hand_20260707_170124/
│       └── cups_order_right_hand_20260707_170124.hdf5
└── raw_data/                               # 原始多模态记录（图像 + 视频 + 标定）
    └── cups_order_right_hand_20260707_164634/
        └── cups_order_right_hand_20260707_164634_extracted/
            └── observe/
                └── vision/
                    ├── left_hand_rgb/            # 左手腕视角（video + metadata）
                    ├── right_hand_rgb/           # 右手腕视角
                    ├── head_zed_left/            # 头部 ZED 左目
                    ├── head_zed_right/           # 头部 ZED 右目
                    ├── head_global_rgb/          # 头部全局 RGB
                    ├── head_global_depth/        # 头部全局深度
                    └── *_frames/                 # 各视角抽帧后的 PNG 序列

3. 采集会话清单

会话 ID	起始时间	HDF5 轨迹	原始帧
`cups_order_right_hand_20260707_164634`	16:46:34	✅	✅
`cups_order_right_hand_20260707_165435`	16:54:35	✅	—
`cups_order_right_hand_20260707_165654`	16:56:54	✅	—
`cups_order_right_hand_20260707_165904`	16:59:04	✅	—
`cups_order_right_hand_20260707_170124`	17:01:24	✅	—

说明：完整的多视角原始帧（18,915 张 PNG + 5 段 MP4）随首个会话 164634 一同发布；其余 4 次采集提供压缩后的 HDF5 轨迹。

4. 相机视角与帧数

视角目录	帧数（PNG）	视频
`head_global_depth_frames`	5,565	✅
`right_hand_rgb_frames`	3,089	✅
`head_zed_right_frames`	2,629	✅
`left_hand_rgb_frames`	2,563	✅
`head_zed_left_frames`	2,546	✅
`head_global_rgb_frames`	2,522	✅

帧文件命名规则：frame_%06d.png。编号并非严格连续（采集过程中存在丢帧），使用时请按文件名排序取序列，不要假设 i 与 i+1 相邻。

数据预览

预览文件	内容
`preview_overview.png`	6 路视角单帧总览
`preview_grid.gif`	6 路视角同步动图（24 帧）
`preview_right_hand_rgb.gif`	右手腕视角动态预览
`preview_head_global_rgb.gif`	头部全局 RGB 动态预览
`preview_head_global_depth.gif`	头部全局深度动态预览

5. 下载

5.1 huggingface-cli（推荐，支持断点续传）

pip install -U "huggingface_hub[cli]"
export HF_ENDPOINT=https://hf-mirror.com        # 国内网络可加，境外可省略
huggingface-cli download dex-robot/cap cap.zip --repo-type dataset --local-dir ./cap_data

5.2 Python

from huggingface_hub import hf_hub_download
p = hf_hub_download("dex-robot/cap", "cap.zip", repo_type="dataset")
print(p)

5.3 直链

https://huggingface.co/datasets/dex-robot/cap/resolve/main/cap.zip

6. 解压与校验

# 1) 大小核对
stat -c %s cap.zip        # 应为 10697737890

# 2) SHA256 核对
sha256sum cap.zip
# f91c11ee1761822fa875d4783c1fd9388f6fa3f0fa3feeef6cd5c20775220c10

# 3) 逐文件 CRC 校验（18963 项全部 OK 即为通过）
unzip -t cap.zip

# 4) 解压到当前目录，得到 cap/
unzip -q cap.zip

du -sh cap

预期结果：

cap/
├── hdf5/      (5 个 .hdf5)
└── raw_data/  (18,934 个文件)

7. 读取示例

7.1 读取 HDF5 轨迹

import h5py

path = "cap/hdf5/cups_order_right_hand_20260707_164634/cups_order_right_hand_20260707_164634.hdf5"
with h5py.File(path, "r") as f:
    def show(name, obj):
        if isinstance(obj, h5py.Dataset):
            print(f"D {name:50s} shape={obj.shape} dtype={obj.dtype}")
        else:
            print(f"G {name}")
    f.visititems(show)

7.2 读取图像帧

import cv2, glob

frames = sorted(glob.glob(
    "cap/raw_data/cups_order_right_hand_20260707_164634/"
    "cups_order_right_hand_20260707_164634_extracted/observe/vision/"
    "head_global_rgb_frames/frame_*.png"))
print("帧数:", len(frames))
img = cv2.imread(frames[0])
print(img.shape)  # (H, W, 3)

8. 推荐环境

pip install h5py opencv-python numpy

Python ≥ 3.8
解压后约需 15 GB 可用磁盘（原始 PNG 序列体积较大）
读取深度数据时注意 head_global_depth 可能为 16-bit PNG 或伴随 .npy / .raw 原始深度

9. 许可与引用

许可：见仓库 LICENSE（未单独指定时请联系数据发布方）
引用本数据集时请注明来源：

@misc{cap_dataset_2026,
  title  = {CAP: Cups Ordering Dexterous Manipulation Capture Dataset (Right Hand)},
  author = {dex-robot},
  year   = {2026},
  howpublished = {\url{https://huggingface.co/datasets/dex-robot/cap}}
}

10. 常见问题

Q：下载中断怎么办？ huggingface-cli download 支持断点续传，重新执行同一条命令即可继续；也可加 --max-workers 1 降低并发提升稳定性。

Q：unzip 报 "End-of-central-directory signature not found"？ 说明下载不完整、文件被截断，请校验文件大小是否为 10,697,737,890 字节、SHA256 是否匹配，不一致请重新下载。

Q：只想用轨迹，不想下 10 GB 图像？ 目前仅提供整包发布；有细分需求请在仓库 Discussion 中提出。

Q：深度图和 RGB 怎么对齐？ 同视角的 *_frames 与 MP4 按帧序号（frame_%06d）一一对应；跨视角对齐请使用 raw_data/.../observe/vision/ 下的标定 JSON。

11. 已知限制

帧编号不连续：各视角 frame_%06d.png 的编号存在跳号（采集过程中的丢帧），例如 right_hand_rgb_frames 实际 3,089 帧、最大编号 3,746。请按文件名排序后的顺序使用，不要通过 i+1 推断下一帧。
原始帧仅覆盖首个会话：5 次采集中，只有 164634 附带完整的多视角 PNG / MP4；其余 4 次仅有 HDF5 轨迹。
HDF5 内部结构随版本演进：不同采集时间生成的 HDF5 其 group / dataset 名称可能有差异，读取时请先 visititems 打印结构再取数。
本数据集由一次中断的打包过程抢救重建而来（已通过全部 18,963 项 CRC 校验），末尾 1 个不完整的 PNG 帧已被剔除。

Downloads last month: 154