Dataset Viewer
Duplicate
The dataset viewer is not available for this split.
Cannot load the dataset split (in streaming mode) to extract the first rows.
Error code:   StreamingRowsError
Exception:    TypeError
Message:      Couldn't cast array of type
struct<segment: int64, endpoint_max_joint_error_rad: double, gripper: struct<target_mm: double, start_mm: double, final_mm: double, travel_mm: double, error_mm: double, reached: bool, outcome: string, current_ma: double, t_start: double, t_end: double>, note: string>
to
{'segment': Value('int64'), 'endpoint_max_joint_error_rad': Value('float64')}
Traceback:    Traceback (most recent call last):
                File "/src/services/worker/src/worker/utils.py", line 147, in get_rows_or_raise
                  return get_rows(
                      dataset=dataset,
                  ...<4 lines>...
                      column_names=column_names,
                  )
                File "/src/libs/libcommon/src/libcommon/utils.py", line 272, in decorator
                  return func(*args, **kwargs)
                File "/src/services/worker/src/worker/utils.py", line 127, in get_rows
                  rows_plus_one = list(itertools.islice(safe_iter(ds, dataset=dataset), rows_max_number + 1))
                File "/src/services/worker/src/worker/utils.py", line 483, in safe_iter
                  yield from ds.decode(False) if ds.features else ds
                File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2951, in __iter__
                  for key, example in ex_iterable:
                                      ^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2461, in __iter__
                  for key, pa_table in self._iter_arrow():
                                       ~~~~~~~~~~~~~~~~^^
                File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2486, in _iter_arrow
                  for key, pa_table in self.ex_iterable._iter_arrow():
                                       ~~~~~~~~~~~~~~~~~~~~~~~~~~~~^^
                File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 547, in _iter_arrow
                  for key, pa_table in iterator:
                                       ^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 430, in _iter_arrow
                  for key, pa_table in self.generate_tables_fn(**gen_kwags):
                                       ~~~~~~~~~~~~~~~~~~~~~~~^^^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/json/json.py", line 343, in _generate_tables
                  self._cast_table(pa_table, json_field_paths=json_field_paths),
                  ~~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/json/json.py", line 132, in _cast_table
                  pa_table = table_cast(pa_table, self.info.features.arrow_schema)
                File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2378, in table_cast
                  return cast_table_to_schema(table, schema)
                File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2312, in cast_table_to_schema
                  cast_array_to_feature(
                  ~~~~~~~~~~~~~~~~~~~~~^
                      table[name] if name in table_column_names else pa.array([None] * len(table), type=schema.field(name).type),
                      ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                      feature,
                      ^^^^^^^^
                  )
                  ^
                File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 1861, in wrapper
                  return pa.chunked_array([func(chunk, *args, **kwargs) for chunk in array.chunks])
                                           ~~~~^^^^^^^^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2118, in cast_array_to_feature
                  casted_array_values = _c(array.values, feature.feature)
                File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 1863, in wrapper
                  return func(array, *args, **kwargs)
                File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2158, in cast_array_to_feature
                  raise TypeError(f"Couldn't cast array of type\n{_short_str(array.type)}\nto\n{_short_str(feature)}")
              TypeError: Couldn't cast array of type
              struct<segment: int64, endpoint_max_joint_error_rad: double, gripper: struct<target_mm: double, start_mm: double, final_mm: double, travel_mm: double, error_mm: double, reached: bool, outcome: string, current_ma: double, t_start: double, t_end: double>, note: string>
              to
              {'segment': Value('int64'), 'endpoint_max_joint_error_rad': Value('float64')}

Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.

Astra × Pika 桌面操作 Demo

叠碗 · 叠衣服 · 插插座

我们用 Astra 控制 Pika 机械臂,测试了叠碗(基础 pick & place)、叠衣服(操作柔性物体)和插插座(精细操作)三类任务。目前叠碗和叠衣服稳定成功(SR 100%),插接主要受视野和关节可达性限制(SR 0%)。

模型只使用当次任务提示、腕部与侧面观测,以及通用 IK 和控制工具,不参考历史轨迹。下面是我们根据实机过程总结的主要表现,以及对应的视频编号和时间段。

主要结论

1. 需要具体的任务 prompt 来指导操作。 没有明确替代抓点时,模型会坚持抓杯耳或突起,即使姿态别扭或不可达。说明可以抓杯壁、杯缘后,模型就能根据现场选择抓法。杯壁抓取示例:叠碗 2_of_3_success,06:04–06:42。操作步骤、可选抓法和关节协调建议来自我们的 prompt,具体抓点、姿态和路线由模型根据当前图像决定。

2. 具备 replan 能力,能根据实际结果调整动作。 碰移大碗后重新定位并完成放置(叠碗 3_of_3_success,07:06–10:40);空夹后调整位置和高度,重新抓起布料(叠衣 2_of_3_success,12:46–17:21)。我们在 prompt 中要求动作后检查、偏差后纠正,模型自行判断这次发生了什么,并给出新的动作方案。大碗移位的判断与修正动作见第27轮、第28轮。

3. 插插座受到观察瓶颈影响。 插脚与孔位缺乏有效视野,难以准确对齐;为了看清插脚而调整姿态,又会受到关节可达性限制。因此,抓取时就需要考虑后面的翻转、观察和插入。三次插接均未完成,insert_plug/2_of_3_fail 的第10轮记录了腕部限位问题,第35轮记录了插脚遮挡与对孔困难。

4. 执行效率需要prompt约束提高。 叠碗约 15–24分钟;两次模型报告完成的叠衣分别为 31分44秒、54分51秒,另有一条运行至60分钟后获人工认可。prompt 会影响模型选择哪些步骤。我们的做法是写清目标、必要操作和完成条件,同时保留“必要时观察”“根据情况换抓”等选择,减少多余步骤,避免把模型固定在一套动作里。

5. 对初始位置和朝向变化有适应能力。 第三次叠碗时,我们除了改变位置,还把中容器和小杯摆成侧躺姿态。模型识别实际朝向后,对中容器选择侧缘杯壁夹持、抬起后转正;对小杯避开把手、夹取杯身,最后完成套叠。这展示了模型根据初始摆放调整抓法和持物姿态的能力,与执行过程中碰移大碗后的 replan 是两个不同的表现。初始观察和两种抓法分别见第1轮、第10轮、第40轮。

6. 能根据 IK 结果和关节限位调整姿态。 模型会根据可达性检查结果修改动作方案。叠碗 3_of_3_success 中,它考虑让底座配合转向,分担腕部转动;遇到 J5 限位时,改用倾斜搬运姿态,为后续动作保留余量。对应记录见第15轮、第56轮。这些表现说明,我们提供关节协调原则后,模型能结合工具反馈选择具体姿态。

7. 任务成功≠动作质量。 叠碗有松爪后小杯侧倒的情况,叠衣也有滑脱、皱褶和边缘不齐。我们保留这些片段,用来判断抓持、释放和整理还差在哪里。同时,模型也能发现结果不到位并继续修正:叠衣 3_of_3_success 在主要折叠完成后补折外伸侧片,见 28:48–31:13。

回放标记

叠碗、叠衣各选3组代表片段,并各推荐一条完整录像。

时间为各自 MP4 的播放时间(分:秒)。主侧视与腕部可能存在时间差,请按对应列定位;也可通过下方关键动作链接回放。

完整代表录像

任务 目录编号 任务用时 完整录像 代表内容
叠碗 stack_container/3_of_3_success 23分52秒 主侧视 · 腕部 初始中、小容器侧躺;包含碰移大碗、重新定位和最终完成套叠的全过程。
叠衣 fold_clothes/3_of_3_success 31分44秒 主侧视 · 腕部 完成主要折叠后检查结果,补折外伸侧片,最后释放并退出。

任务用时包含推理、工具计算、运动和重试,准备与视频保存不计。

叠碗:3组

标记/目录编号 主侧视时间 腕部时间 回放关注点
B1 位移后重规划 · 3_of_3_success 07:06–10:40 07:06–10:40 搬运时碰移大碗;模型发现位移,抬高并重新对齐,放入中容器后退出。
B2 抓取与放置 · 2_of_3_success 06:04–06:42;12:59–13:57 06:04–06:42;12:59–13:57 局部杯壁抓取和试提;小杯放入中容器,退爪后保持稳定嵌套。
B3 释放姿态 · 1_of_3_success 13:36–13:43 13:36–13:43 小杯释放后侧倒。整体套叠已获认可,释放姿态仍需改进。

叠衣:3组

标记/目录编号 主侧视时间 腕部时间 回放关注点
F1 抓持失效 · 1_of_2_fail 24:59–25:23 24:50–25:14 下摆搬运时未保持有效抓持,上折没有完成。两路时间相差约9秒,按各自标记定位。
F2 重抓成功 · 2_of_3_success 12:46–17:21 12:46–17:21 空夹后调整接触位置和高度,重新抓起布料并折入,落稳后松爪。
F3 结果检查与补折 · 3_of_3_success 19:41–21:48;28:48–31:13 19:41–21:48;28:48–31:13 先完成主要折叠,再补折外伸侧片。退出后可查看成品的折层、边缘和皱褶。

关键动作定位

Downloads last month
309