vvzc/ChenLong_Embodied_Intelligence_Dataset

ChenLong Embodied Intelligence Dataset

数据集简介

这是一个使用 SO101 主从机械臂系统采集的 LeRobot 格式具身智能数据集。数据集任务是让机器人抓取桌面上的网球，并将网球放入目标区域。数据可用于模仿学习、视觉语言动作模型训练、机器人策略验证和 SO101 数据采集流程复现。

本数据集的任务文本为：

Pick up the tennis ball and place it in the target area.

中文含义：捡起网球并将其放到目标区域。

数据集基本信息

项目	数值
数据格式	LeRobot v3.0
Hugging Face 仓库	vvzc/ChenLong_Embodied_Intelligence_Dataset
机器人类型	so_follower
总 episodes	48
总帧数	21187
任务数量	1
采集帧率	30 FPS
图像分辨率	640 x 480
摄像头数量	2
动作维度	6
状态维度	6
数据划分	train: 0:48
数据文件模板	data/chunk-{chunk_index:03d}/file-{file_index:03d}.parquet
视频文件模板	videos/{video_key}/chunk-{chunk_index:03d}/file-{file_index:03d}.mp4

硬件配置

复现采集时使用以下硬件结构：

• SO101 follower arm：从臂，也就是实际执行动作的机械臂
• SO101 leader arm：主臂，也就是人工遥操作输入机械臂
• 俯视摄像头：固定在桌面上方，记录整体工作区域
• 手腕摄像头：安装在机械臂末端附近，记录抓取局部视角
• 操作物体：网球
• 目标区域：桌面上的指定放置区域

采集时的设备映射如下。不同机器上 /dev/ttyACM* 和 /dev/video* 可能变化，建议使用 /dev/serial/by-id 和 /dev/v4l/by-id 做稳定映射。

设备	采集时端口
SO101 follower arm	/dev/ttyACM0
SO101 leader arm	/dev/ttyACM1
overhead camera	/dev/video4
wrist camera	/dev/video2

主从臂电机配置：

• 电机 ID：1, 2, 3, 4, 5, 6
• 波特率：1000000
• 识别到的电机 model：777
• 关节顺序：shoulder_pan, shoulder_lift, elbow_flex, wrist_flex, wrist_roll, gripper

软件环境

采集环境如下：

• 操作系统：Ubuntu Linux
• Python：3.10
• Conda 环境名：lerobot044
• LeRobot：0.4.4
• 数据集格式版本：v3.0
• 视频编码：AV1
• 摄像头读取后端：OpenCV
• 机器人类型参数：so101_follower
• 遥操作器类型参数：so101_leader

建议使用与采集环境一致的 LeRobot 版本读取和复现：

conda activate lerobot044
python -c "import lerobot; print(lerobot.__version__)"

采集参数

本数据集按以下参数采集：

参数	数值
dataset.fps	30
dataset.episode_time_s	15
dataset.reset_time_s	10
dataset.num_episodes	每次追加采集 10 条
dataset.video	true
dataset.push_to_hub	false，本地采集完成后再上传
dataset.streaming_encoding	true
dataset.encoder_threads	2
display_data	true

每条数据的流程：

1. 开始采集后，操作者通过 SO101 leader arm 控制 follower arm。
2. 机械臂抓起网球。
3. 机械臂将网球移动并放入目标区域。
4. 单条 episode 采集 15 秒。
5. episode 结束后，有 10 秒 reset 时间，用于把环境恢复到下一条采集前的状态。

可复现采集命令

以下命令是本数据集采集时使用的核心命令。端口和摄像头路径需要按实际机器调整；如果设备映射和本数据集采集环境一致，可以直接使用这些参数。

lerobot-record \
  --robot.type=so101_follower \
  --robot.port="/dev/ttyACM0" \
  --robot.id="so101_follower_sakura" \
  --robot.cameras="{overhead: {type: opencv, index_or_path: /dev/video4, width: 640, height: 480, fps: 30}, wrist: {type: opencv, index_or_path: /dev/video2, width: 640, height: 480, fps: 30}}" \
  --teleop.type=so101_leader \
  --teleop.port="/dev/ttyACM1" \
  --teleop.id="so101_leader_sakura" \
  --display_data=true \
  --dataset.root="/home/sakura/lerobot_data" \
  --dataset.repo_id="local/so101_tennis" \
  --dataset.single_task="Pick up the tennis ball and place it in the target area." \
  --dataset.fps=30 \
  --dataset.episode_time_s=15 \
  --dataset.reset_time_s=10 \
  --dataset.num_episodes=10 \
  --dataset.video=true \
  --dataset.push_to_hub=false \
  --dataset.streaming_encoding=true \
  --dataset.encoder_threads=2 \
  --resume=true

如果是第一次创建新数据集，需要去掉：

--resume=true

如果是在已有数据集后继续追加采集，必须保留：

--resume=true

校准与设备检查

复现采集前需要完成 SO101 主从臂校准。采集环境中使用的校准 ID 为：

follower id: so101_follower_sakura
leader id:   so101_leader_sakura

推荐流程：

lerobot-calibrate \
  --robot.type=so101_follower \
  --robot.port="/dev/ttyACM0" \
  --robot.id="so101_follower_sakura"

lerobot-calibrate \
  --teleop.type=so101_leader \
  --teleop.port="/dev/ttyACM1" \
  --teleop.id="so101_leader_sakura"

如果当前 Linux 终端无法访问 /dev/ttyACM*，需要确认用户在 dialout 组中：

groups

如果不在 dialout 组，执行：

sudo usermod -aG dialout $USER

然后注销并重新登录，或在当前终端运行：

newgrp dialout

数据字段

数据集包含以下 feature：

字段	类型	形状	含义
action	float32	[6]	主臂遥操作产生的动作目标
observation.state	float32	[6]	从臂当前关节状态
observation.images.overhead	video	[480, 640, 3]	俯视摄像头视频
observation.images.wrist	video	[480, 640, 3]	手腕摄像头视频
timestamp	float32	[1]	当前帧时间戳
frame_index	int64	[1]	episode 内帧编号
episode_index	int64	[1]	episode 编号
index	int64	[1]	全局帧编号
task_index	int64	[1]	任务编号

action 和 observation.state 的 6 个维度名称一致：

shoulder_pan.pos
shoulder_lift.pos
elbow_flex.pos
wrist_flex.pos
wrist_roll.pos
gripper.pos

视频字段

两个摄像头字段的视频参数一致：

字段	分辨率	FPS	编码	像素格式	音频
observation.images.overhead	640 x 480	30	AV1	yuv420p	无
observation.images.wrist	640 x 480	30	AV1	yuv420p	无

其中：

• observation.images.overhead 用于观察桌面全局布局、网球位置和目标区域。
• observation.images.wrist 用于观察末端执行器附近的抓取细节。

目录结构

.
├── data/
│   └── chunk-000/
│       ├── file-000.parquet
│       ├── file-001.parquet
│       ├── file-002.parquet
│       ├── file-003.parquet
│       └── file-004.parquet
├── meta/
│   ├── episodes/
│   │   └── chunk-000/
│   │       ├── file-000.parquet
│   │       ├── file-001.parquet
│   │       ├── file-002.parquet
│   │       ├── file-003.parquet
│   │       └── file-004.parquet
│   ├── info.json
│   ├── stats.json
│   └── tasks.parquet
├── videos/
│   ├── observation.images.overhead/
│   │   └── chunk-000/
│   │       ├── file-000.mp4
│   │       ├── file-001.mp4
│   │       ├── file-002.mp4
│   │       ├── file-003.mp4
│   │       └── file-004.mp4
│   └── observation.images.wrist/
│       └── chunk-000/
│           ├── file-000.mp4
│           ├── file-001.mp4
│           ├── file-002.mp4
│           ├── file-003.mp4
│           └── file-004.mp4
└── README.md

使用 LeRobot 读取数据

推荐使用 LeRobot 的数据集接口读取：

from lerobot.datasets.lerobot_dataset import LeRobotDataset

dataset = LeRobotDataset(
    repo_id="vvzc/ChenLong_Embodied_Intelligence_Dataset",
)

print(dataset.num_episodes)
print(dataset.num_frames)

sample = dataset[0]
print(sample.keys())
print(sample["observation.state"].shape)
print(sample["action"].shape)

如果已经将数据集下载到本地目录，例如 /home/sakura/lerobot_data，可以指定本地 root：

from lerobot.datasets.lerobot_dataset import LeRobotDataset

dataset = LeRobotDataset(
    repo_id="local/so101_tennis",
    root="/home/sakura/lerobot_data",
)

print(dataset.num_episodes)
print(dataset.num_frames)

复现实验注意事项

• 采集前必须完成 follower arm 和 leader arm 的校准。
• 端口 /dev/ttyACM0、/dev/ttyACM1、/dev/video4、/dev/video2 可能会因插拔顺序变化，复现时应重新确认。
• 追加采集已有数据集时必须设置 --resume=true，否则可能创建新数据集或与已有目录冲突。
• 任务文本需要保持一致，否则同一数据集中会出现不同 task_index 或任务语义不一致。
• 摄像头分辨率和 FPS 应保持为 640 x 480、30 FPS，以保证 feature schema 与本数据集一致。
• 电机 ID 和波特率需要保持为 SO101 默认采集配置：ID 1-6，baud rate 1000000。
• reset 阶段不属于有效任务执行过程，但会被采集流程用于准备下一条 episode。