Episodes Preview Franka Panda Visualizer
100 episodes · 30 fps · 2 cameras · 1280×720 h264

Franka FR3 静止冰球示教数据集:时间对齐版 v1

数据集简介

hockey_static_aligned_v1 是使用单台 Franka FR3 机械臂采集的真实机器人冰球示教数据集,属于软件时间对齐后的训练副本。每个时间步包含 7 维机械臂关节位置、7 维关节位置动作,以及 wrist 和 overhead 两路 RGB 视觉观测。

保存的采集配置说明,球拍固定在夹爪中;数据集的主要状态与动作接口只包含机械臂关节,不包含夹爪控制。

meta/tasks.parquet 中保存的实际任务标签为:

hit a stationary hockey puck

中文含义:击打静止的冰球。

采集配置快照使用了较宽泛的指令 hit a stationary hockey puck toward the target(将静止冰球击向目标)。训练时应以本发布版任务表中的实际标签为准;当前元信息未提供定量的目标命中率。

  • 仓库标识: tongji-franka/hockey_static_aligned_v1。
  • 所属组织: Tongji Franka Research Team。
  • 预期用途: 模仿学习(Imitation Learning)、行为克隆(Behavior Cloning)、多视角视觉动作学习,以及示教数据的时间对齐分析。
  • 版本定位: 由 hockey_static_release 生成的软件时间对齐训练副本。
  • 许可证: CC-BY-NC-4.0。

数据规模

项目 数值
数据格式 LeRobot v3.0
元信息中的 robot type fr3_teach_aligned_single_arm
Episode 数 100
样本数 / 时间步数 12,913
任务标签数 1
名义采样频率 30 Hz
名义累计时长 430.43 秒,约 7.17 分钟
单 episode 样本数:最小 / 中位数 / 最大 80 / 146 / 147
单 episode 名义时长:最小 / 最大 2.67 / 4.90 秒
相机数量 2:wrist、overhead
每路图像分辨率 1280 × 720,RGB
视频格式 H.264,yuv420p,30 FPS,无音频
data Parquet 文件数 1
MP4 文件数 2
已发布划分 train,episode 0–99,即 0:100

以上时长由“样本数 ÷ FPS”计算,不是独立测量的墙上时钟时长。样本数统计的是时间步数,不是两路相机图像数量之和。任务文本保持英文,因此 YAML 中 language: en 描述任务标签语言;正文说明使用中文。

采集设备与设置

  • 机械臂: 单台 Franka FR3,记录 7 个关节,顺序为 fr3_joint1 至 fr3_joint7。
  • 腕部相机: Intel RealSense D435I,对应 wrist。
  • 上方相机: Intel RealSense D435,对应 overhead。
  • 视频观测: 两路均为 1280 × 720、30 FPS 的 RGB 视频。主要 schema 未声明 depth 或 audio 特征。
  • 末端设置: 球拍固定在夹爪中,主状态与动作向量不包含夹爪自由度。
  • 关节位置单位: 弧度(rad),见 recording/contract.json。
  • 相机标定: 内参和畸变信息见 recording/camera_calibration.json。
  • 采集配置快照: 见 recording/snapshots.json。

字段定义与动作含义

字段 存储 dtype / shape 含义
observation.state float32,(7,) 当前 7 个机械臂关节的观测位置,单位 rad
action float32,(7,) 未来 7 个机械臂关节的位置,单位 rad;具体定义见下文
observation.images.wrist Video,帧 shape 为 (720, 1280, 3) 腕部 RGB 图像
observation.images.overhead Video,帧 shape 为 (720, 1280, 3) 上方 RGB 图像
timestamp float32,标量 episode 内的数据集时间,单位秒
frame_index int64,标量 episode 内的样本索引
episode_index int64,标量 episode 编号
index int64,标量 全局样本索引
task_index int64,标量 任务表索引;本数据集只有一个任务标签

动作定义: 在均匀 30 Hz 时间轴上,下一个时间步的 7 个关节绝对位置,由记录的机器人轨迹线性插值得到。对应 recording/contract.json 中的 next_uniform_time_interpolated_joint_position_rad。

时间基准: 经软件时间戳对齐后生成的均匀 30 Hz 时间轴。

action 表示关节绝对位置,不应解释为关节速度、位置增量、力矩、笛卡尔位姿或夹爪指令。两路图像保存在 MP4 中,LeRobot 根据元信息定位和解码;它们不是直接嵌入 data Parquet 中的图像数组。加载后的图像 tensor 通常采用 channel-first 的 (3, 720, 1280) 布局。

数据生成与处理

本数据集由 hockey_static_release 生成。具体处理规则保存在 recording/contract.json、cleaning/alignment_report.json 和 cleaning/provenance.json 中。

  1. 机器人时间参考采用 native reader 的 host-receipt 时间戳,即主机接收到机器人数据的时间。
  2. 相机时间参考采用 RealSense SDK 的 global_time 时间戳。
  3. 在均匀 30 Hz 时间轴上,对机器人关节位置做线性插值,不做外推。
  4. 对每个时间步选取最近的已保存 RGB 帧;允许的最大绝对时间偏差配置为 33.333 ms。
  5. action 取下一个均匀时间步的插值关节位置,相对 observation.state 的名义时间间隔约为 33.333 ms。
  6. 保留全部 100 / 100 条 episode,本次对齐未排除任何 episode。
  7. 源数据的 13,206 个样本经过对齐后得到 12,913 个样本,减少 293 个样本。

这是软件时间戳对齐。记录契约明确标注 hardware_synchronized: false;主机接收延迟与相机曝光时钟精度未经过独立标定,缺失的 RGB 帧也没有被重建。

来源文件指纹为 988ff8b7e90241e7157c40aa540f938b232b92724c33fcf496398c8b4acd3caf。源 episode 对应关系、原始记录哈希和逐 episode 时间偏差保存在 cleaning/provenance.json 中。

数据质量与检查记录

编写本说明时已检查:data Parquet 的实际行数、episode 长度之和与 meta/info.json 一致;所有 observation.state 与 action 数值均为有限值。这些属于结构与数值检查,不代表重新执行了完整视频解码或策略训练评测。

已有 cleaning/verification.json 记录 verified: true,并确认 100 条 episode 以及两路视频的帧数与数据集样本数一致。这是随数据保存的验证结果,不代表任务成功率或策略评测成绩。

根据 cleaning/alignment_report.json 的逐 episode 记录汇总:

相机 最大绝对对齐偏差(ms) 重复选用帧计数
wrist 33.101 84
overhead 33.285 83

“重复选用帧计数”指对齐流程报告的重复选帧数量,不是被排除的 episode 数。相邻时间步可能引用同一张已保存图像。

此外,cleaning/training_reader_check.json 保存了一次训练数据读取检查:batch size 为 2,状态形状为 (2, 7),action chunk 形状为 (2, 100, 7),两路图像形状均为 (2, 3, 720, 1280)。该记录中的路径为当时的 staging 路径,不代表本次重新执行了训练。

文件结构

meta/
  info.json                       # 字段定义、FPS、split 与分片路径
  stats.json                      # 特征归一化统计量
  tasks.parquet                   # 任务描述与索引
  episodes/chunk-*/file-*.parquet  # Episode 长度及数据、视频偏移
data/chunk-*/file-*.parquet        # 状态、动作、时间戳与索引
videos/
  observation.images.wrist/chunk-*/file-*.mp4
  observation.images.overhead/chunk-*/file-*.mp4
recording/
  contract.json                   # 采集规则与 action 定义
  snapshots.json                  # 采集配置快照
  camera_calibration.json         # 相机内参
  raw/episode_*.jsonl              # 逐样本采集或对齐记录
cleaning/                         # 源数据审计、时间对齐、来源追踪与验证报告

若目录中存在额外图像资产,它们属于附属文件。训练使用的字段和分片路径以 meta/info.json 为准。

使用方法

请使用支持 LeRobot dataset v3.0 的 LeRobot 环境。仓库上传完成后,可从 Hugging Face Hub 加载:

from lerobot.datasets.lerobot_dataset import LeRobotDataset

dataset = LeRobotDataset(
    repo_id="tongji-franka/hockey_static_aligned_v1",
    revision="main",
)
sample = dataset[0]
print(sample["observation.state"].shape)
print(sample["action"].shape)

当前全部 100 条 episode 都属于 train,没有单独发布 validation 或 test split。建立评测划分时,应按 episode 或采集场次划分,并将源数据及其对应的 aligned 副本放在同一个划分中,以避免数据泄漏。

版本关系与数据重叠

数据集 定位 来源关系
hockey_static_release 原始发布数据;静止冰球任务 aligned_v1 的来源
hockey_static_aligned_v1 软件时间对齐后的训练副本 由 release 生成
hockey_static_release_01 原始发布数据;红色冰球任务 aligned_v2 的来源
hockey_static_aligned_v2 软件时间对齐后的训练副本 由 release_01 生成

aligned_v1 和 aligned_v2 来自不同的源发布版。名称中的 v1 / v2 不表示“在同一批数据上使用新旧两种算法”,也不能仅凭名称认定 v2 是 v1 的替代版或更优版本。

源数据和对应的 aligned 数据包含同一批示教的不同表示。因此,四个仓库不能视为 400 条互不重复的示教;合并训练或设计评测时需要检查来源关系。

已知局限

  • 每个发布版只包含一个任务标签,以及一套机器人和相机配置;尚未给出对其他任务、物体、场景或机器人的泛化评测。
  • 主 schema 未提供 reward、逐 episode 成功标签或目标位置标签;当前没有独立测试集、命中率或策略性能基准。
  • 动作由已记录轨迹中的关节位置构造,不能仅凭该向量定义完整的机器人控制系统。
  • 重复图像和静止片段可能仍然存在;aligned 版本不重建缺失图像,也不提供硬件级曝光同步。
  • 已检查的元信息未完整描述操作人员构成及所有环境变化。

许可证

本数据集采用 Creative Commons Attribution-NonCommercial 4.0 International(CC-BY-NC-4.0,署名—非商业性使用 4.0 国际) 许可证。

在遵守许可证的前提下,可以为非商业用途复制、分享、修改和基于本数据集创作。使用或再分发时,应:

  • 对数据集提供适当署名,并保留来源信息。
  • 提供许可证链接。
  • 如果修改了数据,说明所做修改。
  • 不得施加与许可证所授予权利冲突的额外法律或技术限制。

该许可证不授予商业用途许可;如需商业使用,请联系数据权利人另行协商。完整条款以许可证法律文本为准,也可查看中文许可摘要。

引用与联系

当前检查的元信息未附论文引用或 DOI。正式引用发布前,可使用仓库标识 tongji-franka/hockey_static_aligned_v1 与仓库 URL 标明数据来源,并在实验中记录使用的 commit revision,以保证结果可追溯。此来源说明不替代许可证中的其他要求。

关于采集方法、许可或评测的问题,可在本仓库的 Discussions 中提出,或联系 Tongji Franka Research Team。

Downloads last month
108