lekiwi_spin_cycle

LeKiwi(SO-101 팔 + 옴니휠 베이스)로 수집한 세탁기에서 수건 꺼내기 텔레오퍼레이션 데이터셋. SO-101 리더암으로 팔로워암을 조종하며 녹화했다. 베이스는 고정이고 팔 6축만 실제 학습 대상이다.

• 태스크 문자열: grabbing clothes from washer
• 에피소드: 100 ep / 13,964 frames (30fps 기준 약 7.8분)
• 수집일: 2026-07-22
• 수집 스크립트: examples/lekiwi/record_simple.py
• codebase_version: v3.0 · robot_type: lekiwi_client

구성

feature	shape	비고
action	[9]	리더암 6축 + 베이스 3축
observation.state	[9]	팔로워암 6축 + 베이스 3축
observation.images.front	[480, 640, 3]	정면 카메라
observation.images.wrist	[480, 640, 3]	손목 카메라

관절 순서: shoulder_pan, shoulder_lift, elbow_flex, wrist_flex, wrist_roll, gripper, 이어서 베이스 x.vel, y.vel, theta.vel.

베이스 3축은 전 프레임 0으로 고정되어 있다(주행 없음). 팔만 학습하려면 앞 6개 차원만 쓰면 된다.

수집 조건

• 통신: Jetson ↔ 노트북 USB 유선(192.168.55.1, RTT 약 1.7ms). WiFi는 RTT가 6~220ms로 튀고 패킷 유실이 관측되어 사용하지 않았다.
• 시작 자세 정렬: 매 에피소드 녹화 직전 리더암과 팔로워암을 poses/laundry_grabready.json 자세로 3초간 동시 이동시킨 뒤, 리더 토크를 풀고 녹화를 시작한다. 정렬 구간은 녹화되지 않으므로 각 에피소드의 첫 프레임이 곧 기준 자세다.

⚠️ 알려진 이슈

1. 시작 자세가 두 종류 섞여 있음

구간	shoulder_pan 시작 raw	상태
ep 1–18	2011	팔이 약 13.9° 틀어진 채 시작
ep 19–100	2199	교정됨

원인: 수집 도중 팔로워 arm_shoulder_pan(모터 1)의 Homing_Offset을 1640 → 1482로 재호밍(158 스텝 = 13.89°)했다. 리더암과 팔로워암의 어긋남을 잡기 위한 조치였는데, 포즈 파일이 원시 스텝(raw Present_Position)을 저장하는 방식이라 같은 숫자가 재호밍 이후 다른 물리 위치를 가리키게 됐다. ep 19부터는 재호밍 이후 실제 자세를 다시 저장해 사용한다.

나머지 5축의 변화는 −46 ~ +30 스텝(약 4° 이내)으로 작다.

→ 학습 결과가 불안정하면 ep 19 이후 82개만 사용하거나 재수집을 검토할 것.

2. 팔로워암은 부분 캘리브레이션 상태

리더암(SO-101)은 2026-07-22에 6축 전체를 재캘리브레이션했으나, 팔로워암은 모터 1번만 재호밍하고 나머지 5축은 이전 캘리브레이션을 그대로 쓴다. 다른 축에도 미세한 어긋남이 남아 있을 수 있다.

3. 이전 데이터셋·정책과 호환되지 않음

2026-07-20에 카메라를 물리적으로 재장착하면서 Jetson 설정의 회전을 제거했다 (front ROTATE_180 해제, wrist ROTATE_90 / 480×640 → NO_ROTATION / 640×480).

그 결과:

• 이전 데이터셋들(lekiwi_grasp, lekiwi_grasp_clean, lekiwi_grasp_v2, lekiwi_grasp_final_30ep, lekiwi_grasp_dagger)은 wrist가 [640, 480, 3]으로 shape과 시점이 모두 다르다. 이 데이터셋과 합칠 수 없다.
• 그 데이터로 학습한 정책(smolvla_lekiwi_grasp_dirty/100/clean/final)은 재사용 불가. 이 데이터셋으로는 lerobot/smolvla_base부터 새로 학습해야 한다.

학습

lerobot/smolvla_base에서 파인튜닝한다. --rename_map은 필수다 (아래 설명 참조).

lerobot-train \
  --policy.path=lerobot/smolvla_base \
  --policy.push_to_hub=false \
  --dataset.repo_id=Waffle0829/lekiwi_spin_cycle \
  --rename_map='{"observation.images.front": "observation.images.camera1", "observation.images.wrist": "observation.images.camera2"}' \
  --policy.use_amp=true \
  --batch_size=64 --steps=10000 \
  --optimizer.lr=1.5e-4 \
  --num_workers=8 \
  --save_freq=2500 \
  --output_dir=outputs/train/spin_cycle

배치 64 × 10,000 steps = 640,000 샘플 = 45.8 에폭. VRAM 40GB 이상 GPU 기준이다.

실행 시 걸리는 것들

① --rename_map 없이 돌리면 실패한다

ValueError: Feature mismatch between dataset/environment and policy config.
- Missing features: ['observation.images.camera1', 'camera2', 'camera3']
- Extra features: ['observation.images.front', 'observation.images.wrist']

lerobot/smolvla_base의 config에 input_features가 이미 채워져 있어 데이터셋 이름으로 덮어써지지 않는다(factory.py의 if not cfg.input_features: 조건). --rename_map을 주면 이름이 맞춰지고, 동시에 엄격 검증도 건너뛴다(factory.py의 if not rename_map: 조건).

배포 스크립트(examples/lekiwi/deploy_policy.py)도 camera1/camera2를 기대하므로 학습·배포 이름을 이렇게 통일하는 것이 맞다.

② camera3가 없어도 된다

정책 config는 카메라 3대를 선언하지만 이 데이터셋에는 2대뿐이다. modeling_smolvla.py의 prepare_images()는 배치에 없는 카메라를 그냥 건너뛰고, 전부 없을 때만 에러를 낸다 (empty_cameras=0이면 더미로 채우지도 않는다). 이전 학습들도 같은 조건에서 정상 동작했다.

③ observation.state가 [6]으로 선언되는 것도 정상

데이터셋 state는 9차원이지만 정책은 앞 6개(팔 6축)만 쓴다. 뒤 3개는 항상 0인 베이스 속도라 버려도 무방하다. output_features(action)는 데이터셋에서 덮어써져 [9]가 된다.

④ push_to_hub가 기본 True다

--policy.repo_id를 주지 않으면 'repo_id' argument missing 에러가 난다. 로컬에만 저장하려면 --policy.push_to_hub=false, Hub에 올리려면 --policy.repo_id=<user>/<name>.

소형 GPU(VRAM 8GB)에서 돌릴 때

RTX 4070 Laptop(8GB) 기준으로는 배치 64가 들어가지 않는다. 아래로 낮춘다.

  --batch_size=16 --steps=10000 --optimizer.lr=1.2e-4 --num_workers=4

= 160,000 샘플 = 11.5 에폭. 최종 품질용이 아니라 파이프라인 검증·동작 확인용이다. OOM이 나면 --batch_size=8 --optimizer.lr=1e-4로 더 낮춘다(검증된 조합).

use_amp=true(bf16)는 소형 GPU에서 특히 중요하다 — 속도와 VRAM 양쪽에서 이득이 크다. freeze_vision_encoder와 train_expert_only는 기본값이 이미 True라 추가로 켤 필요가 없다.

배포

examples/lekiwi/deploy_policy.py — Jetson에서 lekiwi_host 실행 후 노트북에서 정책 추론. HOME_POSE=laundry_grabready로 추론 시작 전과 정지 후 기준 자세로 복귀한다. 클라이언트의 카메라 설정은 호스트 실제 출력(둘 다 640×480, 회전 없음)과 반드시 일치해야 한다 — 어긋나면 add_frame에서 shape 불일치로 실패한다.