JSHNSL/cyclo-intelligence-patches

cyclo_intelligence 패치 — Diffusion / VQ-BeT 정책이 안 돌아가는 문제

ROBOTIS cyclo_intelligence 에서 Diffusion·VQ-BeT 정책을 배포하면 로봇이 움직이지 않는다. ACT는 정상 동작한다. 그 원인과 수정본이다.

기준 커밋: 8065dfc (2026-07-10, ROBOTIS-GIT/cyclo_intelligence main)

---

한 줄 적용

curl -fsSL https://huggingface.co/JSHNSL/cyclo-intelligence-patches/resolve/main/apply_patches.sh | bash

VQ-BeT까지 쓰려면 (웹 UI 재빌드 포함):

curl -fsSL https://huggingface.co/JSHNSL/cyclo-intelligence-patches/resolve/main/apply_patches.sh | WITH_UI=yes bash

cyclo_intelligence 가 ~/cyclo_intelligence 가 아니면: CYCLO_INTELLIGENCE_DIR=/경로 bash apply_patches.sh 스크립트는 백업(*.bak)을 만들고, 이미 적용됐으면 건너뛴다.

---

무엇이 문제였나

① 엔진이 큐 기반 정책을 직접 호출한다 (핵심)

lerobot_engine/prediction.py 는 정책 추론을 이렇게 한다:

action = self._policy.predict_action_chunk(batch)      # 직접 호출

그런데 Diffusion과 VQ-BeT의 predict_action_chunk 는 단독 호출이 불가능하다. 내부 observation 큐(self._queues)를 stack하는데, 그 큐를 채우는 건 select_action 뿐이기 때문이다:

# lerobot/policies/diffusion/modeling_diffusion.py
def predict_action_chunk(self, batch, noise=None):
    # stack n latest observations from the queue
    batch = {k: torch.stack(list(self._queues[k]), dim=1) for k in batch if k in self._queues}

큐가 비어 있으니:

RuntimeError: stack expects a non-empty TensorList

→ get_action 실패 → 액션이 발행되지 않음 → 로봇이 안 움직인다.

ACT는 n_obs_steps=1 이라 큐를 안 쓴다. 그래서 ACT만 멀쩡했던 것이다.

기존 fallback은 except (NotImplementedError, AttributeError) 만 잡아서 RuntimeError 를 못 걸렀다.

수정: 큐 기반 정책은 predict_action_chunk 를 아예 건너뛰고 select_action 으로 라우팅한다.

_QUEUE_BASED_POLICIES = {"VQBeTPolicy", "DiffusionPolicy"}

def _predict_chunk(self, batch):
    if type(self._policy).__name__ in self._QUEUE_BASED_POLICIES:
        return self._select_action_chunk(batch)      # 큐를 채우는 경로
    try:
        ...
    except (NotImplementedError, AttributeError, RuntimeError, AssertionError):
        return self._select_action_chunk(batch)      # 안전망

② diffusers 가 추론 컨테이너에 없다

Diffusion 정책이 요구한다. lerobot_server 컨테이너엔 pip 이 없고 uv 를 쓴다:

docker exec lerobot_server sh -c 'VIRTUAL_ENV=/lerobot/.venv uv pip install diffusers'

pip install 은 No module named pip 으로 실패한다.

③ 웹 UI 드롭다운에 VQ-BeT이 없다 (VQ-BeT만 해당)

백엔드는 vqbet을 지원하는데 UI 목록에 항목이 없다. 한 줄 추가 + 재빌드가 필요하다.

⚠️ ./docker/container.sh build-ui 는 실패한다. npm을 호스트 uid로 돌리는데 UI가 컨테이너 /root/ 밑이라 permission denied가 나고, 그게 엉뚱하게 "no lockfile" 에러로 보고된다. root로 직접 빌드해야 한다 (스크립트가 그렇게 한다).

---

파일

파일	내용
apply_patches.sh	전부 적용하는 스크립트
prediction.py	패치된 엔진 → cyclo_brain/policy/lerobot/lerobot_engine/prediction.py
InferenceModelSelector.js	VQ-BeT 항목 추가 → orchestrator/ui/src/components/InferenceModelSelector.js
prediction.diff / ui.diff	원본 대비 변경분 (검토용)

---

수동 적용

CI=~/cyclo_intelligence
BASE=https://huggingface.co/JSHNSL/cyclo-intelligence-patches/resolve/main

# ① 엔진 패치
cp "$CI/cyclo_brain/policy/lerobot/lerobot_engine/prediction.py"{,.bak}
curl -fsSL "$BASE/prediction.py" -o "$CI/cyclo_brain/policy/lerobot/lerobot_engine/prediction.py"

# ② diffusers (Diffusion 쓸 때만)
docker exec lerobot_server sh -c 'VIRTUAL_ENV=/lerobot/.venv uv pip install diffusers'

# ③ 재시작
docker restart lerobot_server

VQ-BeT도 쓰려면 추가로:

cp "$CI/orchestrator/ui/src/components/InferenceModelSelector.js"{,.bak}
curl -fsSL "$BASE/InferenceModelSelector.js" -o "$CI/orchestrator/ui/src/components/InferenceModelSelector.js"

CID=$(docker ps -qf name=cyclo_intelligence)
UID_D=/root/ros2_ws/src/cyclo_intelligence/orchestrator/ui
docker exec -w "$UID_D" "$CID" bash -lc "npm ci --legacy-peer-deps"
docker exec -w "$UID_D" "$CID" bash -lc "npm run build"
docker exec "$CID" sh -c "cp -a $UID_D/build/. /usr/share/nginx/html/ && nginx -s reload"
# 브라우저 강력 새로고침 (Ctrl+Shift+R)

---

확인

# 엔진에 패치가 살아있나
docker exec lerobot_server sh -c 'grep -n _QUEUE_BASED_POLICIES /app/lerobot_engine/prediction.py'

# 추론 중 로그
docker logs -f lerobot_server

• RuntimeError: stack expects a non-empty TensorList 가 안 나오면 성공
• Action chunk: T=..., D=... 가 반복되면 액션이 나가는 중

되돌리기

mv <파일>.bak <파일>
docker restart lerobot_server

---

주의

• prediction.py 는 호스트 파일이고 컨테이너엔 read-only 마운트된다 → 호스트에서 고치고 재시작해야 반영된다.
• diffusers 설치는 컨테이너의 writable layer에 들어간다. docker restart 는 유지되지만 컨테이너를 재생성(--force-recreate, docker rm)하면 사라진다 → 다시 설치해야 한다.
• cyclo_intelligence 가 업데이트되면 prediction.py 가 덮어써질 수 있다 → 그때 다시 적용한다.

---

관련

• 전체 학습 파이프라인 (Isaac Sim → LeRobot → 학습 → 배포): JSHNSL/humanoid-imitation-learning
• upstream: ROBOTIS-GIT/cyclo_intelligence