You need to agree to the conditions to access this dataset

This repository is publicly accessible, but you have to accept the conditions to access its files and content.

Log in or Sign Up to review the conditions and access this dataset content.

200 synthetic +90° knob demonstrations (four brake torques × 50), FR3 + right Sharpa Wave. 166,610 aligned RGB-D frames, 320×240 at 30 Hz; HDF5 with synchronized joint targets and contact forces. PyBullet rendering with Dex-X depth-camera geometry; not real RealSense RGB calibration or sensor noise.

下载(私有仓库需要先用 hf auth login 登录有访问权限的账号):

hf download cfeng9600/sharpa-knob90-dexx-rgbd --repo-type dataset --local-dir ./sharpa-knob90-dexx-rgbd
# 仅下载打印包
hf download cfeng9600/sharpa-knob90-dexx-rgbd knob90_print_pack.zip --repo-type dataset --local-dir ./knob-hardware

读取依赖:numpy、h5py。使用本仓库 read_dataset.py 或下方示例。 HF通用表格预览不适用于此自定义HDF5布局;不要直接假设可用 load_dataset() 或 LeRobot 原样加载。 SHA256SUMS 覆盖发布文件,hardware/mesh_validation.json 记录STL检查。 历史审计记录保留采集机器源路径作为溯源信息;下载后按仓库相对路径读取。

90° 旋钮:Dex-X 相机配置的 200 条合成视觉示范

状态:已完成四档各 50 条,共 200 条。共 166,610 帧同步 RGB-D、166,410 个动作转移;逐条验证结果见 visual_verification.json。

四档被动轴制动 0 / 0.005 / 0.03 / 0.10 N·m,各 50 条;目标从准备完成后的实测轴角起转动 +90°。每条为新模拟的完整90°任务,不是截取180°轨迹。沿用 FR3 7关节 + 右手 Sharpa Wave 22关节、腕臂辅助夹持及960 Hz物理步长、150求解迭代、30 Hz控制。轴端没有目标角驱动。教师为读取实际轴角/角速度的脚本控制器,尚未训练策略。

相机

  • 复制并记录哈希:Dex-X 仓库 calib/camera_align/current.npy,camera-in-armbase、ROS optical坐标(X右、Y下、Z前)。世界变换正确包含机械臂基座偏移。
  • 320×240、30 Hz;fx=193.33、fy=193.06、cx=160.08、cy=121.05。按 Dex-X 的像素中心 u+0.5/v+0.5 反投影约定补偿 TinyRenderer 的半像素栅格差异。独立斜平面验证见 camera/ray_geometry_validation.json。
  • 完整机械臂入镜、保留真实几何遮挡;旋钮顶面/侧面带物体固定刻度。训练图像不含阻力标签、进度文字、角度数值覆盖层或曲线。
  • RGB 和深度严格共用深度光学坐标系,是合成对齐 RGB-D。未获取真实 RealSense 彩色镜头内参/彩深外参,不把这里的 RGB 称为真实彩色相机配置。
  • PyBullet TinyRenderer 理想针孔 RGB-D;没有模拟 RealSense 噪声、深度空洞、曝光或镜头畸变,不是 Isaac 原版渲染器,也不是实机验证数据。
  • 原始前视机位较远,50 mm旋钮在320×240图像中较小,细刻度数字不保证可读;保留用户指定相机设置,不暗中放大/裁切训练图像。

数据文件与时间对齐

每条 episodes/cN_XXX.h5 包含 N 个动作和 N+1 个观察。obs[t] 是动作前,actions[t] 在接下来的1/30秒内执行,obs[t+1] 是执行后;最后观察没有对应的下一步动作。不要用动作后的图像去预测同一步动作。

HDF5 路径 形状/类型 含义
observations/rgb (N+1,240,320,3), uint8 RGB,无训练标签覆盖层
observations/depth_m (N+1,240,320), float32 相机光轴Z深度,米;不是射线欧氏距离
observations/depth_valid (N+1,240,320), uint8 1有效;0为远裁剪/背景,深度置0
observations/q_rad, dq_rad_s (N+1,29), float64 按header joint_names顺序排列
observations/tip_normal_force_world_n (N+1,5,3), float64 thumb/index/middle/ring/pinky的世界系法向接触力向量
observations/previous_target_rad (N+1,29) 上一步下发目标;首帧来自准备过程最后一步
observations/goal_relative_angle_rad (N+1,) 已知任务目标π/2
observations/timestamp_s (N+1,) 从任务起点计时
actions/joint_position_target_rad (N,29), float64 下发的绝对关节位置目标,弧度
actions/timestamp_s (N,) 动作执行区间起点
transition_terminal (N,), bool 只有最后转移为true
privileged/* 诊断/监督 实际轴角/转速、阻力、seed、刻度可见像素数等;不要自动拼接给视觉策略
frame_rgb_depth_sha256 (N+1,32), uint8 每帧原始RGB+深度字节的SHA256

HDF5属性记录原始轨迹哈希、相机配置、关节名称、触觉手指顺序、任务文字和完整物理header。camera/camera.json 和 .npy 可用于反投影。生成时每帧检查深度有限性,每条独立重新渲染首/中/末三帧并与磁盘内容逐像素比较;桌面深度还原也做验证。

动作格式与 Dex-X 原策略输出并不相同:本数据保存下发后的29维绝对关节目标;原策略的机械臂动作是归一化关节增量。训练时应明确学习本文件动作约定,不能不转换就送给原Dex-X策略接口。本数据也不是开箱即用的 LeRobot 或原 Dex-X DAgger buffer。

训练读取示例

import h5py
with h5py.File('episodes/c0_000.h5', 'r') as f:
    t = 10
    rgb = f['observations/rgb'][t]
    depth_m = f['observations/depth_m'][t]
    q = f['observations/q_rad'][t]
    tactile = f['observations/tip_normal_force_world_n'][t]
    target_q = f['actions/joint_position_target_rad'][t]
    next_rgb = f['observations/rgb'][t + 1]

read_dataset.py 提供逐帧读取与深度反投影示例。默认训练观察不读取 privileged。

清单、分割与质量

  • accepted/ 和 manifest.json:正式200条原始物理轨迹;按每档trial/seed顺序选前50条合格候选。
  • episodes/、visual_manifest.json:200条视觉文件与SHA256、帧数、逐条检查结果。
  • attempts/、preparation/:筛选前候选和每条5秒准备过程;不作为额外训练episode。准备过程没有导出RGB-D,任务首帧与准备末帧状态严格连续。
  • verification.json:物理轨迹质量、连续性、唯一性;visual_verification.json:最终视觉数据复核。
  • splits.json:seed%10=0为test,=1为validation,其余train。同seed的不同阻力轨迹不会跨分割,避免泄漏;它是已见四档条件下的随机种子留出,不是未见阻力泛化评测。
  • preview_rgbd/:直接从HDF5保存像素生成的检查图/GIF,标签只存在于此目录,不用于训练。
  • all_200_trajectories.png:全部200条任务角度曲线。

质量门槛:90°±0.25°且角速度≤0.05rad/s连续3秒;过冲≤1°、初始反转≤1°、累计转角路程≤95°,IK残差≤2mm,关节限位越界≤0.01rad,自碰撞/活动链节碰桌穿透≤2mm。指尖法向力峰值≤50N只是未标定异常筛查。

触觉是刚体接触模拟量,不是实机触觉阵列。当前食指触觉垫与拇指末节壳体夹持;壳体接触力没有冒充拇指触觉垫读数。动作教师未使用触觉反馈;本批次不能直接证明触觉ICL有效,也不宣称时间最优。随机性主要是抓紧幅度±2%与腕部速度,场景/背景/机位固定。

Downloads last month
50