200 synthetic +90° knob demonstrations (four brake torques × 50), FR3 + right Sharpa Wave. 166,610 aligned RGB-D frames, 320×240 at 30 Hz; HDF5 with synchronized joint targets and contact forces. PyBullet rendering with Dex-X depth-camera geometry; not real RealSense RGB calibration or sensor noise.
下载(私有仓库需要先用 hf auth login 登录有访问权限的账号):
hf download cfeng9600/sharpa-knob90-dexx-rgbd --repo-type dataset --local-dir ./sharpa-knob90-dexx-rgbd
# 仅下载打印包
hf download cfeng9600/sharpa-knob90-dexx-rgbd knob90_print_pack.zip --repo-type dataset --local-dir ./knob-hardware
读取依赖:numpy、h5py。使用本仓库 read_dataset.py 或下方示例。
HF通用表格预览不适用于此自定义HDF5布局;不要直接假设可用 load_dataset() 或 LeRobot 原样加载。
SHA256SUMS 覆盖发布文件,hardware/mesh_validation.json 记录STL检查。
历史审计记录保留采集机器源路径作为溯源信息;下载后按仓库相对路径读取。
90° 旋钮:Dex-X 相机配置的 200 条合成视觉示范
状态:已完成四档各 50 条,共 200 条。共 166,610 帧同步 RGB-D、166,410 个动作转移;逐条验证结果见 visual_verification.json。
四档被动轴制动 0 / 0.005 / 0.03 / 0.10 N·m,各 50 条;目标从准备完成后的实测轴角起转动 +90°。每条为新模拟的完整90°任务,不是截取180°轨迹。沿用 FR3 7关节 + 右手 Sharpa Wave 22关节、腕臂辅助夹持及960 Hz物理步长、150求解迭代、30 Hz控制。轴端没有目标角驱动。教师为读取实际轴角/角速度的脚本控制器,尚未训练策略。
相机
- 复制并记录哈希:Dex-X 仓库
calib/camera_align/current.npy,camera-in-armbase、ROS optical坐标(X右、Y下、Z前)。世界变换正确包含机械臂基座偏移。 - 320×240、30 Hz;fx=193.33、fy=193.06、cx=160.08、cy=121.05。按 Dex-X 的像素中心 u+0.5/v+0.5 反投影约定补偿 TinyRenderer 的半像素栅格差异。独立斜平面验证见
camera/ray_geometry_validation.json。 - 完整机械臂入镜、保留真实几何遮挡;旋钮顶面/侧面带物体固定刻度。训练图像不含阻力标签、进度文字、角度数值覆盖层或曲线。
- RGB 和深度严格共用深度光学坐标系,是合成对齐 RGB-D。未获取真实 RealSense 彩色镜头内参/彩深外参,不把这里的 RGB 称为真实彩色相机配置。
- PyBullet TinyRenderer 理想针孔 RGB-D;没有模拟 RealSense 噪声、深度空洞、曝光或镜头畸变,不是 Isaac 原版渲染器,也不是实机验证数据。
- 原始前视机位较远,50 mm旋钮在320×240图像中较小,细刻度数字不保证可读;保留用户指定相机设置,不暗中放大/裁切训练图像。
数据文件与时间对齐
每条 episodes/cN_XXX.h5 包含 N 个动作和 N+1 个观察。obs[t] 是动作前,actions[t] 在接下来的1/30秒内执行,obs[t+1] 是执行后;最后观察没有对应的下一步动作。不要用动作后的图像去预测同一步动作。
| HDF5 路径 | 形状/类型 | 含义 |
|---|---|---|
| observations/rgb | (N+1,240,320,3), uint8 | RGB,无训练标签覆盖层 |
| observations/depth_m | (N+1,240,320), float32 | 相机光轴Z深度,米;不是射线欧氏距离 |
| observations/depth_valid | (N+1,240,320), uint8 | 1有效;0为远裁剪/背景,深度置0 |
| observations/q_rad, dq_rad_s | (N+1,29), float64 | 按header joint_names顺序排列 |
| observations/tip_normal_force_world_n | (N+1,5,3), float64 | thumb/index/middle/ring/pinky的世界系法向接触力向量 |
| observations/previous_target_rad | (N+1,29) | 上一步下发目标;首帧来自准备过程最后一步 |
| observations/goal_relative_angle_rad | (N+1,) | 已知任务目标π/2 |
| observations/timestamp_s | (N+1,) | 从任务起点计时 |
| actions/joint_position_target_rad | (N,29), float64 | 下发的绝对关节位置目标,弧度 |
| actions/timestamp_s | (N,) | 动作执行区间起点 |
| transition_terminal | (N,), bool | 只有最后转移为true |
| privileged/* | 诊断/监督 | 实际轴角/转速、阻力、seed、刻度可见像素数等;不要自动拼接给视觉策略 |
| frame_rgb_depth_sha256 | (N+1,32), uint8 | 每帧原始RGB+深度字节的SHA256 |
HDF5属性记录原始轨迹哈希、相机配置、关节名称、触觉手指顺序、任务文字和完整物理header。camera/camera.json 和 .npy 可用于反投影。生成时每帧检查深度有限性,每条独立重新渲染首/中/末三帧并与磁盘内容逐像素比较;桌面深度还原也做验证。
动作格式与 Dex-X 原策略输出并不相同:本数据保存下发后的29维绝对关节目标;原策略的机械臂动作是归一化关节增量。训练时应明确学习本文件动作约定,不能不转换就送给原Dex-X策略接口。本数据也不是开箱即用的 LeRobot 或原 Dex-X DAgger buffer。
训练读取示例
import h5py
with h5py.File('episodes/c0_000.h5', 'r') as f:
t = 10
rgb = f['observations/rgb'][t]
depth_m = f['observations/depth_m'][t]
q = f['observations/q_rad'][t]
tactile = f['observations/tip_normal_force_world_n'][t]
target_q = f['actions/joint_position_target_rad'][t]
next_rgb = f['observations/rgb'][t + 1]
read_dataset.py 提供逐帧读取与深度反投影示例。默认训练观察不读取 privileged。
清单、分割与质量
accepted/和manifest.json:正式200条原始物理轨迹;按每档trial/seed顺序选前50条合格候选。episodes/、visual_manifest.json:200条视觉文件与SHA256、帧数、逐条检查结果。attempts/、preparation/:筛选前候选和每条5秒准备过程;不作为额外训练episode。准备过程没有导出RGB-D,任务首帧与准备末帧状态严格连续。verification.json:物理轨迹质量、连续性、唯一性;visual_verification.json:最终视觉数据复核。splits.json:seed%10=0为test,=1为validation,其余train。同seed的不同阻力轨迹不会跨分割,避免泄漏;它是已见四档条件下的随机种子留出,不是未见阻力泛化评测。preview_rgbd/:直接从HDF5保存像素生成的检查图/GIF,标签只存在于此目录,不用于训练。all_200_trajectories.png:全部200条任务角度曲线。
质量门槛:90°±0.25°且角速度≤0.05rad/s连续3秒;过冲≤1°、初始反转≤1°、累计转角路程≤95°,IK残差≤2mm,关节限位越界≤0.01rad,自碰撞/活动链节碰桌穿透≤2mm。指尖法向力峰值≤50N只是未标定异常筛查。
触觉是刚体接触模拟量,不是实机触觉阵列。当前食指触觉垫与拇指末节壳体夹持;壳体接触力没有冒充拇指触觉垫读数。动作教师未使用触觉反馈;本批次不能直接证明触觉ICL有效,也不宣称时间最优。随机性主要是抓紧幅度±2%与腕部速度,场景/背景/机位固定。
- Downloads last month
- 50