aiwika/Excavator-Embodied-Intelligence-Dataset

挖掘机具身智能多模态采集数据集

本数据集由 wika 公司 贡献，面向挖掘机等工程机械的具身智能（Embodied AI）研究，提供真实作业场景下多传感器同步的原始采集数据。数据尚未进行人工标注，可作为视觉-动作-状态多模态预训练、模仿学习、世界模型、操作策略学习等任务的原始语料。

一、数据集简介

本数据集采集自真实土方施工现场，覆盖场地平整等典型土方工程工况。采集平台搭载于挖掘机本体，通过车载域控同步记录以下多模态数据：

• 5 路 GMSL 相机：覆盖作业现场全景、料堆、铲斗及机身周围，提供丰富的视觉观测；
• 2 台激光雷达（rs_h32f70）：提供作业环境的三维点云；
• 2 组 IMU：提供机身姿态与运动信息；
• 4 路 CAN 总线：记录挖掘机液压系统、发动机、操纵手柄/踏板行程、动臂/斗杆/铲斗角度与角速度等机体状态与操作指令信号；
• RTK 高精度定位（CHCNAV）：提供经纬度、海拔等高精度位置信息；
• 录制打点标记（RecMarker）：人工/自动标注的重点工况时间戳，便于回放时快速定位关键片段。

所有数据以 MCAP 容器格式存储（兼容 ROS 2 消息与 Foxglove 回放），并附带 metadata.yaml 记录每个会话的时长、消息数与各话题统计。

适用任务

• 具身智能 / 机器人操作策略学习（视觉 + 机体状态 → 动作）
• 模仿学习、行为克隆、强化学习预训练
• 多模态世界模型 / 视频-动作联合建模
• 工程机械作业工况理解、状态估计与预测
• 视觉-点云-IMU 多模态融合与自监督预训练

二、数据集规模

项目	说明
机型	10 台（TZ200、TZ240、XG2662，不同品牌/型号挖掘机）
单会话时长	约 10 分钟（按 ~4 GB 分片切分，单会话含多个分片）

三、目录结构

.
├── TZ200/                          # 机型 TZ200（主体数据）
│   └── 土方工程/
│       └── 场地平整/                # 作业工况
│           └── 20261002-164416/     # 采集会话（以开始时间命名）
│               ├── metadata.yaml    # 会话元信息（时长/消息数/话题统计）
│               ├── 20261002-164416_0.mcap
│               ├── 20261002-164416_1.mcap
│               └── ...              # 按 ~4GB 顺序切分的分片
├── TZ240/
│   ├── metadata.yaml
│   └── 20261004-084409_80.mcap
├── XG2662/
│   ├── metadata.yaml
│   └── 20261004-083823_9.mcap

命名规则

• 会话目录：<机型>/<工程类型>/<工况>/<YYYYMMDD-HHMMSS>，例如 TZ200/土方工程/场地平整/20261002-164416；
• 分片文件：<会话名>_<序号>.mcap，同一会话内按序号顺序拼接即为完整时间线；
• 元信息：每个会话目录下的 metadata.yaml。

四、数据格式与话题（Topics）

数据采用 MCAP 容器（storage_identifier: mcap），消息序列化格式为 CDR，可直接用 Foxglove Studio 打开回放，也可用 mcap Python 库解析。

每个 .mcap 分片包含以下话题：

话题	消息类型	频率（约）	说明
/camera/gmsl_1/image/encoded … /camera/gmsl_5/image/encoded	foxglove_msgs/msg/CompressedVideo	30 Hz × 5 路	5 路 GMSL 相机压缩视频流
/lidar/rs_h32f70_1/points、/lidar/rs_h32f70_2/points	sensor_msgs/msg/PointCloud2	10 Hz × 2 台	激光雷达三维点云
/imu1/data、/imu2/data	sensor_msgs/msg/Imu	100 Hz × 2 组	加速度 + 角速度 + 姿态四元数
/chcnav/devpvt	msg_interfaces/msg/Hcinspvatzcb	85 Hz	RTK 高精度定位（经纬度/海拔/周/周内秒等）
/rec/markers	da_interfaces/msg/RecMarker	事件触发	录制打点标记（重点工况时间戳，含标签/类别/来源）

频率为示例会话实测值，不同会话/机型可能略有差异，以各分片 metadata.yaml 为准。

CAN 信号

• 机体姿态/关节：大臂角度、小臂角度、铲斗角度及各自角速度；
• 液压系统：主泵/前泵/后泵压力、各动臂/斗杆/铲斗/行走/回转的先导压力与主压、比例阀电流等；
• 发动机：转速、水温、机油压力、扭矩百分比；
• 操作指令：行走/回转/动臂/斗杆/铲斗等手柄与踏板行程；
• 状态：工作状态、档位、机具选择、破碎效率等级等。

元信息（metadata.yaml）

每个会话目录下的 metadata.yaml 采用 rosbag2 信息格式，包含：

• duration：会话总时长（纳秒）；
• starting_time：起始时间戳（纳秒，自 epoch）；
• message_count：消息总数；
• topics_with_message_count：各话题的消息类型、序列化格式与消息数；
• 多分片会话还包含各分片文件的 path、starting_time、duration、message_count。

五、数据加载与回放

1. Foxglove Studio（推荐，可视化回放）

将同一会话下的多个 .mcap 分片一并拖入 Foxglove Studio 即可按时间轴连续回放，支持视频、点云、IMU、CAN、定位等面板同步显示。

2. Python（mcap 库）

pip install mcap

from mcap.reader import make_reader

path = "TZ200/土方工程/场地平整/20261002-164416/20261002-164416_0.mcap"
with open(path, "rb") as f:
    reader = make_reader(f)
    for schema, channel, message in reader.iter_messages():
        # channel.topic  话题名
        # message.log_time  纳秒时间戳
        # message.data  消息字节（CDR 编码）
        ...

多分片会话请按序号顺序依次读取，时间戳全局单调递增，可直接拼接。

六、许可与声明

• 许可证：Apache License 2.0；
• 贡献方：wika 公司；
• 数据仅用于科研与具身智能相关研究，请遵守 Apache 2.0 许可条款。