TimerChen/FactoryDataset

Ragtel PiperX 双臂 1 kg 装箱数据集

本数据集由 Ragtel 双臂遥操作系统采集并转换为 LeRobot v3.0 格式，用于双臂 VLA、模仿学习和离线数据审核。当前版本包含 12 个 episode、51,185 帧，约 28.44 分钟；机器人信号和三路视频均输出为 30 Hz。

数据集概览

项目	值
任务	1KG装箱
机器人	双 PiperX，左右臂均为真实数据
Episode	12
总帧数	51,185
总时长	1,706.17 s（约 28.44 min）
采样率	30 Hz
State / Action	float32[14]
视频	3 路真实 RGB，1280×720，H.264，30 FPS，无音频
LeRobot 版本	v3.0
Split	train: 0:12

快速加载

from lerobot.datasets.lerobot_dataset import LeRobotDataset

dataset = LeRobotDataset("TimerChen/FactoryDataset")
sample = dataset[0]

print(sample["observation.state"].shape)       # torch.Size([14])
print(sample["action"].shape)                  # torch.Size([14])
print(sample["observation.images.top"].shape)  # torch.Size([3, 720, 1280])

目录与文件规范

FactoryDataset/
├── data/chunk-000/file-000.parquet
├── videos/
│   ├── observation.images.left_wrist/chunk-000/file-000.mp4 ... file-011.mp4
│   ├── observation.images.top/chunk-000/file-000.mp4 ... file-011.mp4
│   └── observation.images.right_wrist/chunk-000/file-000.mp4 ... file-011.mp4
└── meta/
    ├── info.json
    ├── stats.json
    ├── tasks.parquet
    ├── episodes/chunk-000/file-000.parquet
    ├── ragtel/alignment.v1.json
    ├── ragtel/batch_conversion.v1.json
    └── ragtel_calibration/
        ├── manifest.json
        ├── export_intrinsics.json
        ├── robot_description.urdf
        ├── left_wrist/
        ├── top/
        └── right_wrist/

每个 episode 对应每个相机目录中的一个 MP4，文件编号与 episode_index 一致。Parquet 中的 frame_index 在每个 episode 内从 0 开始，timestamp = frame_index / 30，时间单位为秒。

字段定义

Key	类型/形状	含义
observation.state	float32[14]	左右 PiperX 的实测关节位置与夹爪位置
action	float32[14]	实际发送给左右 follower 的关节与夹爪目标
observation.images.left_wrist	video [720,1280,3]	左腕相机，raw slot 0、采集设备 /dev/video4
observation.images.top	video [720,1280,3]	顶部固定相机，raw slot 1、采集设备 /dev/video2
observation.images.right_wrist	video [720,1280,3]	右腕相机，raw slot 2、采集设备 /dev/video6
timestamp	float32	episode 内相对时间，单位秒
frame_index	int64	episode 内帧号，从 0 开始
episode_index	int64	episode 编号，范围 0–11
index	int64	全数据集全局帧索引
task_index	int64	任务索引；当前仅有任务 0：1KG装箱

14 维 State / Action 规范

两个向量采用完全相同的维度顺序：

[left_j1, left_j2, left_j3, left_j4, left_j5, left_j6, left_gripper,
 right_j1, right_j2, right_j3, right_j4, right_j5, right_j6, right_gripper]

• 关节维度单位为 rad。
• 夹爪维度单位为 mm，约 0 表示闭合、90 表示张开。
• observation.state 是机器人反馈；action 是映射后实际发送给 follower 的目标，不是下一帧 state。
• J1–J5 的规范范围取自数据集随附的 meta/ragtel_calibration/robot_description.urdf，不是由当前样本统计得到。
• J6 当前存在范围/角度约定问题，尚未最终确认。下表仅列出 URDF 快照中的暂定值，不得把 J6 这一范围直接作为数据裁剪、异常剔除或硬件安全限位依据。
• 夹爪采用本数据集导出的控制量约定 0–90 mm；URDF 中单侧指爪的 prismatic 行程 0–0.05 m 不能直接等同于这里的夹爪开口量。
• 当前 51,185 帧逐维统计的 min/max、mean、std 和分位数仍完整保存在 meta/stats.json，用于数据分布检查和归一化。

Dim	State 含义	Action 含义	规范/暂定范围	范围来源与状态
0	左 J1 位置	左 J1 目标	[-2.61799, 2.61799] rad	URDF joint1
1	左 J2 位置	左 J2 目标	[0, 3.14159] rad	URDF joint2
2	左 J3 位置	左 J3 目标	[-2.96706, 0] rad	URDF joint3
3	左 J4 位置	左 J4 目标	[-1.55334, 1.55334] rad	URDF joint4
4	左 J5 位置	左 J5 目标	[-1.55334, 1.55334] rad	URDF joint5
5	左 J6 位置	左 J6 目标	[-2.09440, 2.09440] rad	URDF 暂定；范围待确认
6	左夹爪位置	左夹爪目标	[0, 90] mm	数据集控制量约定
7	右 J1 位置	右 J1 目标	[-2.61799, 2.61799] rad	URDF joint1
8	右 J2 位置	右 J2 目标	[0, 3.14159] rad	URDF joint2
9	右 J3 位置	右 J3 目标	[-2.96706, 0] rad	URDF joint3
10	右 J4 位置	右 J4 目标	[-1.55334, 1.55334] rad	URDF joint4
11	右 J5 位置	右 J5 目标	[-1.55334, 1.55334] rad	URDF joint5
12	右 J6 位置	右 J6 目标	[-2.09440, 2.09440] rad	URDF 暂定；范围待确认
13	右夹爪位置	右夹爪目标	[0, 90] mm	数据集控制量约定

J6 的待确认问题在当前统计中可见：左 J6 state/action 最小值约为 -2.399/-2.411 rad，右 J6 state/action 最小值约为 -3.067/-3.082 rad，均低于 URDF 暂定下限 -2.094 rad。在确认编码器零点、角度展开方式和真实机械范围之前，应保留这些原始数值并单独处理。

右臂 action 的 J4/J5（dim 10/11）在转换时执行了符号修正，以统一 raw action 与机器人 state 的方向约定。原始数据未被修改。

时间对齐

raw 数据中的 state、action、session 事件共享进程内单调时钟：

• robot_state.csv 提供 state/feedback 时间戳；
• action.csv 提供 action 时间戳；
• teleop_events.csv 提供各相机的 VideoRecordStart/Stop；
• video/manifest.json 提供 camera slot、设备和视频段信息。

导出时建立 30 Hz 固定时间网格，state/action 线性插值到对应时刻，视频按相机启动锚点选择最近的帧。每个 episode 的原始时间范围、视频锚点和网格起止时间保存在 meta/ragtel/alignment.v1.json。

当前 camera_offsets_ms=0、action_delay_ms=0 是导出默认值，并非测量得到的物理延迟。raw 没有逐视频帧的 host 单调时间戳，因此本版本不能被描述为硬件级帧同步；用于精确闭环 replay 前应进一步标定视频延迟和 action delay。

相机标定与 URDF

meta/ragtel_calibration/ 包含：

• 三路相机内参；
• 左右腕相机手眼外参；
• 顶部相机相对左右机械臂 base 的外参；
• piper_x_w_gripper.urdf 的数据集快照；
• 标定来源、角色映射和 SHA256 信息。

当前标定按相机角色从参考标定快照重映射到 left_wrist/top/right_wrist。raw manifest 只保存 /dev/video*，没有稳定相机序列号，因此 physical_camera_serial_verified=false。在度量级三维重投影、Overlay 验证或更换相机后，应先核对物理相机序列号，必要时重新标定。

Episode 清单

Episode	Raw session	帧数	时长 (s)
0	8_19_2	4,987	166.23
1	8_19_3	4,052	135.07
2	8_19_4	3,494	116.47
3	8_19_6	4,646	154.87
4	8_19_7	3,945	131.50
5	8_19_8	3,685	122.83
6	8_19_9	4,395	146.50
7	8_19_10	3,859	128.63
8	8_19_11	6,062	202.07
9	8_19_12	4,711	157.03
10	8_19_13	3,596	119.87
11	8_19_14	3,753	125.10

数据质量与使用注意事项

1. 当前发布只包含时长不少于 30 秒且被选入首批转换的 12 条 session。
2. 三路视频都是真实画面，不包含 dummy/黑色视频；左右臂 14 个数值维度也都是真实数据。
3. stats.json 提供全量 min/max/mean/std 及分位数，可用于归一化；部署时仍需使用机器人自身限位和安全控制。
4. 在训练前建议逐 episode 检查画面、state/action tracking error、任务成功状态以及视频时间偏移。
5. 这是数据集快照。raw 来源和转换 provenance 见 meta/ragtel/batch_conversion.v1.json，不要通过修改 Parquet/MP4 来修正 raw；修订应生成新的版本。