knu-physical-ai/fr3-dataset

FR3 + GELLO LIBERO Teleop

Physical Intelligence Laboratory (KNU) 소속 실기 Franka FR3 로봇을 GELLO 리더암으로 텔레옵해서 모은 LIBERO 포맷 모방학습 데이터셋입니다.

LeRobot 포맷(효율적/브라우저 미리보기용) 버전: knu-physical-ai/fr3-libero-teleop-lerobot -- 이 레포(원본)를 scripts/convert_libero_to_lerobot.py로 변환한 배포용. 큐레이션(에피소드 삭제 등)은 항상 이 원본 레포에서 먼저 하세요.

수집 도구: redEddie/gello_software (fr3-real-teleop 브랜치, experiments/collect_libero_gui.py).

파일 구조

Task(언어 지시문)당 하나의 .hdf5 파일:

<task_name>_demo_<contributor>_<YYYYMMDD>.hdf5

• <task_name>: task 설명을 공백→_로 치환한 것 (예: pick_up_the_red_block)
• <contributor>: 수집한 사람의 HF 계정
• <YYYYMMDD>: 수집 세션 날짜

여러 명이 같은 task를 나눠서 모을 때, 한 파일을 같이 수정하지 않습니다. HDF5는 git으로 diff/merge가 안 되는 바이너리라, 각자 자기 세션 파일을 따로 올리고, 학습 시점에 여러 파일을 합쳐서 씁니다 (아래 "여러 파일 합쳐 읽기" 참고). 한 task에 여러 파일이 쌓이면 주기적으로 하나로 재구성해서 정리할 수 있습니다.

스키마

LIBERO/robomimic 로더가 실제로 읽는 형식 그대로입니다 (LIBERO 공식 저장소의 get_dataset_info.py, dataset_utils.py, OpenVLA의 regenerate_libero_dataset.py 기준):

<task>_demo_<contributor>_<date>.hdf5
  data/                         (attrs: env_args=json str, problem_info=json str)
    demo_0/                     (attrs: num_samples=int, success=bool|없음)
      obs/
        agentview_rgb           (T, 256, 256, 3) uint8
        eye_in_hand_rgb         (T, 256, 256, 3) uint8
        joint_states            (T, 7) float32
        gripper_states          (T, 1) float32   -- 연속값, 0=open..1=closed
        ee_states              (T, 6) float32   -- xyz + axis-angle
        ee_pos                  (T, 3) float32
        ee_ori                  (T, 3) float32   -- axis-angle
      actions                   (T, 7) float32   -- 정규화 [-1, 1]
      rewards                   (T,) float32     -- 전부 0 (실기라 시뮬레이터 리워드 없음)
      dones                     (T,) float32     -- 마지막 프레임만 1

success (demo별 attr, 조작자가 라벨링, 없으면 미라벨/시간초과)는 LIBERO 정본 필드는 아니지만 다운스트림에서 성공/실패로 필터링할 때 씁니다.

액션 스페이스 -- 학습 전에 꼭 읽어주세요

GELLO는 조인트 공간으로 텔레옵합니다 (리더가 팔로워 조인트를 그대로 미러링). LIBERO 포맷 소비자는 robosuite OSC_POSE 컨트롤러(EE 델타)를 가정하므로, actions는 사후에 재구성됩니다: 프레임 t의 액션은 ee_pos_quat[t] -> ee_pos_quat[t+1]의 월드 프레임 델타 포즈를 OSC_POSE 기본값(output_max = 0.05 m / 0.5 rad)으로 정규화하고 [-1, 1]로 클리핑한 값입니다. 그리퍼: -1=open / +1=close (robosuite Panda 관례).

프레임 컨벤션과 그리퍼 부호는 robosuite 공식 문서 기준으로 맞췄고, 공식 LIBERO 샘플 파일과 바이트 단위로 직접 대조 검증하지는 못했습니다. 학습에 쓰기 전에 몇 에피소드를 직접 눈으로 확인하는 걸 권장합니다: 그리퍼 부호가 트리거 조작과 정확히 반대로/맞게 뒤집히는지, actions를 누적하면 ee_states를 대략 재현하는지.

카메라 구성

• Agentview (외부): Intel RealSense D455
• Eye-in-hand (손목): Intel RealSense D405

세션마다 실제 연결된 시리얼은 다를 수 있습니다 (GUI에서 매번 선택).

여러 파일 합쳐 읽기

import h5py
import glob

files = sorted(glob.glob("pick_up_the_red_block_demo_*.hdf5"))
for path in files:
    with h5py.File(path, "r") as f:
        for demo_name in f["data"].keys():
            grp = f["data"][demo_name]
            # grp["obs"]["agentview_rgb"], grp["actions"], ...

demo 인덱스는 파일마다 demo_0부터 다시 시작하므로, 합칠 때는 (파일, demo_name) 쌍으로 구분하거나 재인덱싱하세요.

시각화

HF Dataset Viewer는 hdf5를 못 읽습니다. 확인하려면:

• scripts/visualize_libero_demo.py <hdf5 경로> -- 에피소드별로 mp4를 뽑아서 로컬에서 재생 (agentview + wrist 좌우로 붙임)
• 또는 위 LeRobot 포맷 레포에서 브라우저로 바로 재생 (자동 생성된 "Visualize this dataset" 배지)

기여하기

1. collect_libero_gui.py로 데이터 수집 (자세한 사용법은 gello_software README 참고)
2. 세션 종료 후 저장된 <task>_demo.hdf5를 위 이름 규칙대로 리네임: <task>_demo_<본인 HF 계정>_<YYYYMMDD>.hdf5
3. 이 레포에 업로드 (write 권한 있는 org 멤버는 바로 push 가능)
4. 나쁜 테이크는 GUI의 데이터셋 탐색기에서 즉시 삭제해서 큐레이션 (LeRobot 포맷 버전에는 이 기능이 없어서, 정리는 항상 여기서 먼저)