loopeva/tianji-box-subtask-v4

天机双臂折纸盒：按阶段提示词的 SFT 数据（v4）

天机双臂机器人把平铺的纸板折成盒子的示教数据。每条录像按人工标注切成 4 段，每段配一句阶段提示词，用于训练能按提示词逐段执行的 pi0.5 策略（subtask 模型）。

数据为 LeRobot v3.0 格式，三个子目录各是一个独立的数据集根目录。

目录	来源录像	episode 数	其中“保持”样本	帧数
train/	155 条（10-10 至 10-13）	8,342	7,530	489,456
val_old/	4 条（10-10 至 10-12 留出）	136	120	8,280
val_1013/	8 条（10-13 按会话留出）	392	360	20,273

阶段与提示词

段	内容	提示词（task）
1	起后壁、压顶盖	Raise the back wall and press down the top lid.
2	第一侧	Fold the right side. 或 Fold the left side.（按实际先做的一侧）
3	第二侧	另一侧的提示词
4	推盒回位	Push the box back into place.

特征

• observation.state（20 维）：两臂各 10 维，依次为末端位置 xyz、旋转 6D（旋转矩阵前两列 r00 r10 r20 r01 r11 r21）、夹爪命令开合度。A 臂在前，B 臂在后。位姿为拍照时刻的实测末端。
• action（600 维）：从当前帧起按真实时间 15Hz 取 30 步（2 秒）的动作块，每步 20 维，排列同状态，按步展平（第 k 步在 [20k, 20k+20)）。动作语义是控制器参考的末端位姿；夹爪是命令值。
• 图像：observation.images.cam_high（头部，360×640）、cam_left_wrist、cam_right_wrist（腕部，480×640）。
• 数据集 fps 写的是名义值 10。观测帧保留原始采样：10-10 至 10-12 的录像是 10Hz，10-13 的是 15Hz。时间戳和视频都按名义 10fps 编号；动作块已按真实时间预先算好，不依赖 fps。

构造方式

由 v3 数据（每条整段录像、单一提示词）加人工切段标注生成，规则参照 A1 机器人上验证过的做法，脚本见 scripts/build_v4.py：

1. 按段拆条：每段单独成一条 episode，每帧配该段提示词。
2. 段尾截断：动作块中超出本段最后一帧时刻的步，替换为本段最后一帧的第 0 步动作，表示“做完本段、没有收到下一段提示词就停住”。
3. 切点前移抖动（仅训练集）：每个切点随机往前挪 0 到 0.33 秒，挪出的帧配下一段提示词、动作为录像真实动作。
4. 保持样本：每个人工切点之后 1 秒内的每一帧，单独成一条 1 帧的 episode。画面和状态取自该帧，提示词是上一段的，动作块 30 步全是“两臂保持当前实测位姿、夹爪保持上一段最后的命令”。在 build_report.json 里标为 cf_hold。
5. 新数据加权：10-13 的 15Hz 录像复制两份，每份抖动独立。
6. 标注修正：剔除未完成的 4 条（训练集序号 41、49、55、141）；按标注员备注改正先做哪侧：训练集 19 改为先左、51 改为先右，val_1013 的 7 改为先左。

每个子目录的 build_report.json 记录了每条 episode 来自哪条源录像的哪几帧、第几段、是正常分段还是保持样本。

归一化统计

norm_stats.json 是训练 subtask 模型时用的归一化统计（与 v3 相同，状态和动作格式一致）。部署时须与模型一起使用。

使用

from huggingface_hub import snapshot_download
from lerobot.datasets.lerobot_dataset import LeRobotDataset

root = snapshot_download("loopeva/tianji-box-subtask-v4", repo_type="dataset")
train = LeRobotDataset("tianji_v4", root=f"{root}/train")

许可证

CC BY-NC 4.0：可自由使用、修改和再分发，须署名，不得用于商业目的。