prehj/robocasa-conf-labels-v22

robocasa 압축 가능성 라벨 (v22)

robocasa_mg_gr00t_300 7,200 에피 전부 · 24 태스크 · 131,195 청크에 대해, 각 순간의 모션을 더 빠르게 지나가도 되는지를 VLM 으로 매긴 라벨.

만든 방법

• 판정기 gemini-3.8-flash (reasoning low), 온도 0
• 입력: 그 순간의 카메라 3장(agentview-left · agentview-right · 손목) + 지시문
  • 계획된 액션에서 계산한 사실
• 출력: 문항 AF 를 15 등급으로. prompts/robocasa_v22.txt 가 나간 전문 그대로다
• SYSTEM 메시지를 쓰지 않는다. role: user 하나이고 가이던스가 본문 머리에 온다
• 청크 길이 16, stride 16. 아래 "중간 시점" 참고

파일

labels/robocasa_v22.parquet   131,195행
prompts/robocasa_v22.txt      나간 전문
checks/robocasa_v22.py        문항·부호·가중·conf 식
checks/robocasa_v22_descriptors.py   계산 사실 생성기

열

열	뜻
episode_index, frame_index	에피소드 · 청크 시작 프레임
A~`F`	문항별 등급 1~5
conf	압축 가능성 0~1. 높을수록 빨리 지나가도 된다
speed_mean	그 청크의 평균 스텝 크기 (계산 사실에 쓰인 값)
task, instruction	태스크 이름 · 지시문

문항과 가중

문항	이름	부호	가중
A	CLOSE_EXACT	감점	0.40
B	HEMMED_IN	감점	0.27
C	GUIDED_IN_PLACE	가점	0.50
D	LETTING_GO	가점	0.15
E	CARRY_OPEN	가점	0.35
F	SETTING_DOWN	감점	0.33

conf = (1 + Σ_safe w·g − Σ_risk w·g) / 2 ,   g = (등급−1)/4

가중은 잠정이다. 앞선 판에서 물려받았고 실측에 맞춘 적이 없다. 등급 A~F 를 그대로 실어 두었으니 어떤 가중으로도 conf 를 다시 낼 수 있다.

역치 고르는 법

conf 는 확률이 아니라 순서 값이다(167개 이산값). 원하는 압축 비율에서 자른다.

tau	conf >= tau 인 비율
0.40	89%
0.45	85%
0.50	80%
0.55	49%
0.60	40%

중간 시점의 conf 는 채워 써야 한다

학습 표본을 16의 배수에서만 뽑는다면 아무것도 안 해도 된다. 그 밖에는 채워야 한다.

청크 [t, t+16) 은 16k <= t < 16(k+1) 일 때 라벨된 두 블록에 걸친다 -- 블록 k 의 프레임 (16k+16-t) 개와 블록 k+1 의 프레임 (t-16k) 개를 가진다.

1. 겹침 비율 가중 선형보간 (기본 권장)

k = t // 16
w = (t - 16*k) / 16
conf_t = (1 - w) * conf[16*k] + w * conf[16*k + 16]

임의의 스무딩이 아니라 그 청크가 실제로 포함하는 프레임 비율로 평균낸 값이다. t = 16k 에서 원래 값으로 정확히 돌아가므로 라벨 위에서 잡은 tau 가 유지된다.

2. min(conf[16k], conf[16k+16]) — 보수적으로 갈 때. 게이트에서 "압축해도 된다" 를 잘못 말하면 에피소드가 깨지고 "압축 안 한다" 를 잘못 말하면 속도만 손해다. 대신 conf 분포가 아래로 밀리므로 tau 를 다시 잡아야 한다.

3. 최근접(floor(t/16)) 단독은 권하지 않는다. 16프레임짜리 계단이 되고, 국면이 바뀌는 지점에서 한 블록 통째로 틀린다.

복원 품질은 아직 안 쟀다. 같은 프로젝트의 stride 4 판은 전 프레임 복원을 실측해 conf 상관 0.966 · 이진 재현율 95.1% 를 적었다. 이 판은 stride 16 이라 그보다 성길 수밖에 없고, 숫자는 재는 대로 여기에 적는다.

알아 둘 것

• 구멍이 없다. 7,200 에피 전부 프레임 0 부터 (길이-4) 까지 stride 16 로 빈틈없이 덮는다. 에피소드 끝 4프레임 이내만 라벨이 없다 -- 16스텝 청크를 만들 수 없는 자리다.
• 처음 배포본에는 구멍이 있었다. 두 종류였고 둘 다 메웠다:
  • 판정 실패 21건 -- Gemini 가 형식을 못 맞춘 행을 버리기만 하고 재시도하지 않아 32 간격 내부 구멍 18개, 앞이 빈 에피 1개(ep1768 f0), 꼬리가 밀린 에피 2개가 생겼다.
  • ep6371 -- 길이 676 인데 미리 만든 타일이 448 까지만 있었다. 매니페스트가 에피를 덮는지 만 확인하고 에피 안에서 끝까지 덮는지 는 확인하지 않아 놓쳤다.
• 207 에피는 영상에서 직접 라벨했다. 본 라벨링은 미리 만들어 둔 타일을 작업 목록으로 썼는데 그 타일이 7,200 에피 중 6,993 만 덮고 있었다. 빠진 207 에피는 CloseSingleDoor 75 · CoffeeServeMug 75 · OpenDoubleDoor 57 로 세 태스크에 몰려 있어(각 19~25%) 태스크별 분석이 왜곡될 자리였다. 타일은 384x128 을 3등분한 것이므로 영상 3개(left_view · right_view · wrist_view)를 직접 디코딩해 같은 3장을 보냈다 -- 프롬프트는 글자까지 같다.
• 태스크 24개가 한 파일에 있다. task 열로 가른다.