TTaekwan/robocasa_contact

RoboCasa 접촉 라벨 (24 task · 7,200 episode)

RoboCasa MimicGen demo 를 MuJoCo 로 다시 세워 프레임마다 gripper 가 그 task 의 target 에 닿았는가 를 읽고, 그것을 H = 16 창으로 묶은 라벨이다. 붙이는 쪽 LeRobot dataset 은 kimtaey/robocasa_mg_gr00t_300 — 7,200 episode · 2,073,457 frame · 24 task (task 당 300 episode) 다. RoboCasa 는 LeRobot 변환에서 no-op 프레임을 지우지 않으므로 LeRobot episode 안의 index 와 raw demo 안의 frame 번호가 같은 자리다.

같은 형식의 LIBERO 판이 TTaekwan/libero_contact 에 있다.

무엇이 들어 있나

경로	개수 · 크기	무엇
flevel_v1/sidecar/episode_XXXXXX.parquet	7,200개 · 6.5 MB	학습에 바로 붙이는 열 flevel (float32 5칸), 행 수 = episode 길이
flevel_v1/F16__<task>.jsonl	24개 · 463 MB	창 하나가 한 줄인 원본 라벨. cmd_sum 과 접촉 flag 가 다 남아 있어 규칙을 다시 잘라 볼 수 있다
flevel_v1/_thresholds.json	1개	level 을 자른 규칙 · 24 task 목록 · 집계
flevel_v1/_episode_map.json	1개 · 1.0 MB	episode_index → task · demo · 길이

flevel 열 다섯 칸

flevel = [p_start, p_end, p_bnd, level, valid] (float32 5칸), 행 수 = episode 길이.

칸	뜻
p_start	창 시작 프레임 t 의 접촉 (0/1)
p_end	창 끝 프레임 t+16 의 접촉 (0/1)
p_bnd	창 안에서 접촉이 켜졌다 꺼진 경우 (0/1). 2,073,457 창 중 108,228개(5.22%)
level	1 = 접촉 전이 창, 2/3/4 = movement 하위/중간/상위
valid	movement head 를 켜는 자리면 1. episode 꼬리의 잘린 창에서 0

접촉 전이 판정식은 (p_start != p_end) or p_bnd 이고, 이 식은 창 라벨 label_bnd · level == 1 과 같은 값을 낸다 (2,073,457 창 전부에서 일치를 확인했다).

level 을 자른 규칙

movement = cmd_sum = sum_{k=t..t+15} ||action[k, 0:3]||_2 (팔 translation 3축의 경로 길이). label_bnd == False 인 창 1,619,724개를 24 task 에서 모아 tertile 로 자른다.

level = 1 if label_bnd else (4 if cmd_sum >= q66 else 3 if cmd_sum >= q33 else 2)
q33 = 6.4918215199196085
q66 = 10.74234372105286

전체 2,073,457 행의 분포는 level 1: 17.1% · 2: 26.1% · 3: 26.6% · 4: 30.1% 다.

jsonl 한 줄의 필드

{"episode_index": 3000, "demo": "demo_0", "t": 0, "task": "CloseDoubleDoor", "contact": 0, "level": 2, "valid": 1, "cmd_sum": 3.0363201247851386, "label_any": false, "label_bnd": false, "c_start": false, "c_end": false}

c_start · c_end 는 창 시작·끝 프레임의 접촉, label_any 는 창 안에 접촉이 한 번이라도 있었는가, label_bnd 는 창 안에서 접촉 값이 시작값과 달라졌는가다. task 는 그 줄이 온 RoboCasa task 이름이다.

episode 꼬리의 처리

episode 끝에서 16 프레임이 안 남는 자리에서는 잘린 창으로 접촉을 실제로 계산한다 — 기준 프레임 t, 비교 대상 t+1 .. len-1. 그래서 p_start · p_end · p_bnd 는 모든 행에서 값을 갖는다. movement 는 cmd_sum 이 16 step 의 합이라 창 길이가 달라지면 같은 threshold 로 자를 수 없으므로, 꼬리 115,200 행(5.6%)은 valid = 0 으로 movement head 만 가린다.

무엇이 접촉인가

gripper 쪽 geom 은 finger pad 와 palm(hand_collision)까지 넣고, target 은 그 task 에서 gripper 가 닿아야 하는 부위다 — PnP 계열은 옮기는 물체, 설비 task(문·서랍·손잡이·버튼·수도꼭지)는 그 설비의 움직이는 부분이다. 접촉은 episode 마다 model_file 로 장면을 통째로 다시 세운 뒤 sim.data.contact 에서 읽는다.

이 값은 특권 sim state 에서 온 오라클 라벨이다 — 학습 target 으로 쓰고, 배포 시점 입력은 RGB + 텍스트 + proprio 로 둔다.

_episode_map.json

episode_index 하나에 task · demo(raw MimicGen demo 이름) · n_rows(episode 길이) · n_valid(valid == 1 행 수) · n_level1(접촉 전이 창 수)이 붙는다. task 별 300개씩 7,200개다.

쓰는 법

sidecar 는 episode_index 로 붙고 len(라벨) == len(episode) 를 확인한다.

import numpy as np, pyarrow.parquet as pq

def attach_flevel(df, episode_index, flevel_dir):
    """LeRobot episode DataFrame 에 `flevel` 열을 붙인다."""
    path = f"{flevel_dir}/episode_{episode_index:06d}.parquet"
    arr = np.asarray(pq.read_table(path).column("flevel").to_pylist(), np.float32)
    assert len(arr) == len(df) and arr.shape[1] == 5
    df = df.copy()
    df["flevel"] = list(arr)
    return df

GR00T 학습에서는 LeRobotSingleDataset 을 상속해 get_trajectory_data 에서 위처럼 열을 붙이고, modality.json 의 가상 항목 action.flevel(original_key="flevel", 폭 5)로 잡으면 정규 경로가 (16, 5) 로 잘라 준다.

⚠ normalization_modes 에는 action.flevel 을 넣지 않는다. 넣으면 meta/stats.json 검증이 걸리고 gr00t/data/dataset.py 가 전 parquet 을 다시 읽어 통계를 재계산한 뒤 원본 stats.json 을 덮어쓴다. 넣지 않으면 값이 정수 그대로 head 에 도착한다.