prehj/humandata-conf-labels-v3

실제 Franka 압축 가능성 라벨 (human_data v3)

각 순간의 모션을 더 빠르게 지나가도 되는지 VLM 으로 매긴 라벨.

만든 방법

• 판정기 gemini-3.8-flash (reasoning low), 온도 0
• 입력: 그 순간의 카메라 2장 + 지시문 + 계획된 액션에서 계산한 사실
• 출력: 문항을 1~5 등급으로. prompts/humandata_v3.txt 가 나간 전문 그대로다
• SYSTEM 메시지를 쓰지 않는다. role: user 하나이고 가이던스가 본문 머리에 온다
• 청크 길이 16, stride 16. 아래 "중간 시점" 참고
• 게이트는 VLM 신뢰도 하나다. 접촉 열을 쓰지 않는다

실제 Franka 데모 세 벌 · 3,446 청크. 셋 다 같은 프롬프트로 만들었다 (전문·문항·부호·가중이 글자까지 같다).

데이터셋	청크	에피	fps	목적지	conf 평균
pnp_task	874	101	15	넓고 평평한 흰 접시	0.710
long_horizon_task	1,457	51	10	좁은 빨간 컵	0.446
franka_stack_cup	1,115	51	10	컵 위에 컵 포개기	0.422

franka_stack_cup 은 "왼쪽 파란 컵을 가운데 노란 컵에 포개고, 그다음 오른쪽 파란 컵도" 다. 목적지 여유가 가장 없고 conf 도 가장 낮다 -- 목적지 폭이 세 데이터셋을 가른다.

세 데이터셋이 한 파일에 있다. ds 열로 가른다 -- 에피소드 번호가 따로 매겨지므로 (episode_index, frame_index) 만으로는 키가 되지 않는다.

열

열	뜻
ds	pnp_task / long_horizon_task
episode_index, frame_index	에피소드 · 청크 시작 프레임
A~`D`	문항별 등급 1~5
conf_vlm	압축 가능성 0~1
phase	그리퍼 전이로 유도한 국면. 주기 밖은 null
merge_k2, grip_closed_frac	계산 사실에 쓰인 값
instruction	지시문

원본 데이터셋과 적용법

라벨이 가리키는 원본은 두 벌로 나뉘어 있다. 에피 번호가 데이터셋마다 따로 매겨지므로 (episode_index, frame_index) 만으로는 키가 되지 않는다 -- ds 를 반드시 같이 본다.

<HUMAN_DATA_ROOT>/pnp_task/lerobot/           에피 101 · 14,902 프레임 · 15fps
<HUMAN_DATA_ROOT>/long_horizon_task/lerobot/  에피  51 · 23,713 프레임 · 10fps
<HUMAN_DATA_ROOT>/franka_stack_cup/lerobot/   에피  51 · 18,259 프레임 · 10fps

라벨은 lerobot 에 대고 만들었다. 같은 루트에 lerobot_448(이미지 448 변환본)과 lerobot_contact 도 있는데 에피 수·프레임 수·fps·action 차원이 모두 같아 라벨이 그대로 적용된다. 이미지 해상도만 다르다.

액션은 8차원이고 그리퍼가 들어 있다. 압축 블록을 합산하는 파이프라인이라면 그리퍼 차원은 합산하면 안 된다 -- 절대 명령이라 블록의 마지막 값을 써야 한다. 어느 차원인지는 그 데이터셋 meta/modality.json 의 absolute: true 슬라이스를 보면 된다.

새 데이터셋을 붙일 때는 먼저 그 데이터셋의 분위를 만든다 -- 계산 사실의 문턱(속도 3분, 감속, 그리퍼 닫힘, 병합 점프 분위대)이 전부 자기 분포에서 나온다. 손으로 적은 상수를 쓰면 그것이 곧 "추측한 한계" 가 된다. grip_closed 만 봐도 pnp 0.70 · long 0.38 · stack_cup 0.82 로 전부 다르다.

HD_DATASETS=franka_stack_cup python checks/humandata_quantiles.py

데이터셋에 입히기

두 데이터셋이 한 파일에 있으므로 먼저 쪼갠다. 베이킹 스크립트는 데이터셋 하나를 받고 (episode_index, frame_index) 로만 키를 잡기 때문에, 통째로 넣으면 서로 다른 에피가 같은 키로 섞인다.

python checks/humandata_split_labels.py labels/humandata_v3.parquet split/
# -> split/pnp_task.parquet · split/long_horizon_task.parquet

# 그 다음 데이터셋마다 한 번씩 (GR00T-action-quantization 의 베이킹 스크립트)
python scripts/materialize_conf_v7.py \
  --src  <HUMAN_DATA_ROOT>/pnp_task/lerobot \
  --labels split/pnp_task.parquet \
  --dst  <출력>/pnp_conf --gate conf_vlm

--valid-col 은 주지 않는다. 이 배포본에는 접촉 유효 열이 없고, 유효 범위는 "마지막 라벨 프레임까지" 라는 규칙을 베이킹이 알아서 적용한다(그 뒤 프레임은 valid=0).

베이킹은 라벨을 np.interp 로 전 프레임에 편 뒤 action 배열 뒤에 ratio_label 2칸(값·유효)으로 붙인다. 아래 "중간 시점" 이 그 보간의 근거다.

검증

pnp_task 는 데이터셋이 손 검증 접촉 라벨을 준다(101에피 중 68 user_verified, 33 두 카메라 프레임 검토). long_horizon_task 는 없어서(전부 그리퍼 규칙, tactile 센서 없음) 프레임 54장을 직접 눈으로 보고 기록했다.

그 위에서 재면 좁은 컵에 쥔 채 내려놓는 순간이 운반보다 낮다(AUC 0.697). 넓은 접시인 pnp 에서는 같은 자리가 눌리지 않는다 -- 그 대조가 이 문항 집합의 검증이다.

franka_stack_cup -- 프롬프트를 손대지 않고 새 태스크에 적용

정답(배속 사다리)이 없어 순서 타당성으로만 본다. 국면별:

국면            n    conf      A      B      C      D
1집으러        98   0.317   4.30   1.26   1.04   1.00
2파지          92   0.356   3.50   1.15   1.00   1.00
3운반         108   0.348   1.00   1.03   1.00   3.47
4내려놓으러     96   0.285   1.00   1.02   1.31   4.68
5물러남        87   0.604   1.01   1.08   4.21   1.56

문항 넷이 모두 제 국면에서 켜진다. B(ROOMY_TARGET)가 포개는 순간 1.02 로 long 의 빨간 컵(1.19)보다도 낮다 -- 컵을 컵 위에 얹는 것이 컵 안에 넣는 것보다 여유가 없다는 판정이고, 프롬프트가 물체 종류가 아니라 여유 폭으로 읽고 있다는 뜻이다.

운반(0.348)이 기대보다 낮다. D(STILL_LOWERING)가 운반 구간에서 이미 3.47 로 켜져 있기 때문이다. 이 태스크는 컵 셋이 탁자 가운데 모여 있어 운반이랄 게 거의 없고, 16스텝 창(10fps 에서 1.6초) 안에 하강이 들어온다. long_horizon 에서도 운반의 D 가 1.99 로 새어 있었고 여기서는 거리가 더 짧아 더 심하다. 문항 결함이라기보다 창 길이 대비 주기가 짧은 태스크의 성질이다.

문항과 가중

문항	이름	부호	가중
A	GRASP_CLOSING	감점	0.50
B	ROOMY_TARGET	가점	0.67
C	HAND_OFF	가점	0.33
D	STILL_LOWERING	감점	0.50

conf = (1 + Σ_safe w·g − Σ_risk w·g) / 2 ,   g = (등급−1)/4

가중은 잠정이다. 실측에 맞춘 적이 없다. 등급을 그대로 실어 두었으니 어떤 가중으로도 conf 를 다시 낼 수 있다.

역치

tau	conf_vlm >= tau 인 비율
0.40	79%
0.45	74%
0.50	73%
0.55	42%
0.60	33%

중간 시점의 conf 는 채워 써야 한다

학습 표본을 16의 배수에서만 뽑는다면 아무것도 안 해도 된다. 그 밖에는 채워야 한다. 청크 [t, t+16) 은 16k <= t < 16(k+1) 일 때 라벨된 두 블록에 걸친다.

1. 겹침 비율 가중 선형보간 (기본 권장)

k = t // 16
w = (t - 16*k) / 16
conf_t = (1 - w) * conf[16*k] + w * conf[16*k + 16]

그 청크가 실제로 포함하는 프레임 비율로 평균낸 값이다. t = 16k 에서 원래 값으로 돌아가므로 라벨 위에서 잡은 tau 가 유지된다.

2. min(...) — 보수적으로. 게이트에서 "압축해도 된다" 를 잘못 말하면 에피소드가 깨지고 "압축 안 한다" 는 속도만 손해다. 대신 tau 를 다시 잡아야 한다.

3. 최근접 단독은 권하지 않는다. 16프레임짜리 계단이 되고 국면 전환점에서 한 블록 통째로 틀린다.

복원 품질은 아직 안 쟀다.