pi0.5 LoRA โ RoboSynChallenge click_bell
RoboSynChallenge cobotmagic_Sim_click_bell ๋ก LoRA ๋ฏธ์ธ์กฐ์ ํ pi0.5 ์ฒดํฌํฌ์ธํธ์
๋๋ค.
๊ฒฐ๊ณผ
์๋ฎฌ๋ ์ด์
์ฑ๊ณต๋ฅ 50.0% (100 ์ํผ์๋, random ์ค์ , ๊ณต์ ํ๋กํ ์ฝ๊ณผ ๋์ผ ์กฐ๊ฑด)
| ์ ์ฑ | click_bell SR |
|---|---|
| ACT (์ฃผ์ต์ธก ๊ณต๊ฐ) | 37% |
| pi0.5 LoRA (์ด ๋ชจ๋ธ, step 15000) | 50.0% |
| DP 10-step (์ฃผ์ต์ธก ๊ณต๊ฐ) | 51% |
ACT ๋ฅผ ์์๊ณ DP ์ ๋๋ฅ ์ ๋๋ค. ์ฃผ์ต์ธก์ pi0.5 ์ฒดํฌํฌ์ธํธ๋ฅผ ๊ณต๊ฐํ์ง ์์์ผ๋ฏ๋ก pi0.5 ์ ์๋ฎฌ๋ ์ด์ ์ฑ๋ฅ์ ์ด ๊ฐ์ด ์ฒ์ ์ธก์ ๋ ๊ฒ์ ๋๋ค.
ํ์ต ๊ณก์
| ์คํ | SR | ์ํผ์๋ |
|---|---|---|
| 5,000 | 15.0% | 20 |
| 10,000 | 35.0% | 20 |
| 15,000 | 50.0% | 100 |
| 19,999 | 35.0% | 100 |
20,000 ์คํ ๊น์ง ๋๋ฆฌ๋ฉด ์คํ๋ ค ๋๋น ์ง๋๋ค(๊ณผ์ ํฉ). 15,000 ์ด ์ต์ ์ด๋ฉฐ, ์ฑ๊ณต ์ ํ๊ท ์ก์ ์คํ ๋ ๋ ์งง์ต๋๋ค(213 vs 255 / ์ํ 361).
ํ์ต ์ค์
| ํญ๋ชฉ | ๊ฐ |
|---|---|
| ๋ฒ ์ด์ค | gs://openpi-assets/checkpoints/pi05_base (12.4GB) |
| ๋ฐฉ์ | LoRA (gemma_2b_lora + gemma_300m_lora, rank 16) |
| ๋ฐ์ดํฐ | RoboSynChallenge/cobotmagic_Sim_click_bell (1,000 ์ํผ์๋ / 74,000 ํ๋ ์) |
| batch_size | 4 |
| num_train_steps | 20,000 (15,000 ์ฒดํฌํฌ์ธํธ๊ฐ ์ต์ ) |
| action_horizon | 50 |
| EMA | ๋ (LoRA) |
| ํ๋์จ์ด | RTX 3090 1์ฅ |
| ํ์ต ์๊ฐ | 1.6 ์ด/์คํ โ 15,000 ์คํ = ์ฝ 6.7์๊ฐ |
| ์ถ๋ก ์ง์ฐ | 199 ms / ํธ์ถ |
GPU 1์ฅ์ผ๋ก ์ถฉ๋ถํฉ๋๋ค. 3์ฅ FSDP ๋ฅผ ์๋ํ์ผ๋ NVLink ๊ฐ ์์ด PCIe ํต์ ์ ๋ฌถ์ฌ
42์ด/์คํ
(26๋ฐฐ ๋๋ฆผ)์ด ๋์ ํ๊ธฐํ์ต๋๋ค. ์์ธํ ๋ด์ฉ์ SETUP.md ์ฐธ๊ณ .
์ ์ฅ์ ๊ตฌ์ฑ
checkpoints/15000/ 8.9GB params + train_state + assets (ํ์ต ์ฌ๊ฐ ๊ฐ๋ฅ)
robosync_fixes.patch 7.8KB โ
์ ์ฅ์ ๋ฒ๊ทธ 8๊ฐ ์์ โ ์์ผ๋ฉด eval ์ด ์ ๋๋๋ค
finetune_resume.sh ์ค๋จ๋ ํ์ต ์ด์ดํ๊ธฐ
scripts/ ์ปจํ
์ด๋ ์คํ, ๊ณ ์ ํ๋ก์ธ์ค ์ ๋ฆฌ, ๋ฐฐ์น ์ธก์
logs/ ํ์ตยทํ๊ฐ ์๋ณธ ๋ก๊ทธ
SETUP.md ์ ์๋ฒ ์ค์น ์์ + ํจ์ 6๊ฐ์ง
์ฌ์ฉ๋ฒ
์ฒดํฌํฌ์ธํธ๋ง์ผ๋ก๋ ๋์ํ์ง ์์ต๋๋ค. robosync_fixes.patch ๋ฅผ ๋ฐ๋์ ์ ์ฉํด์ผ ํฉ๋๋ค
(pi05 eval ๊ฒฝ๋ก์ ์ธ์ ๋ถ์ผ์น ๋ฒ๊ทธ๊ฐ ์ฌ๋ฌ ๊ฐ ์์ต๋๋ค).
hf download yai-robosync/pi05-lora-click-bell --local-dir ./pi05-click-bell
git clone https://github.com/EDEM-AI/RoboSynChallenge.git
cd RoboSynChallenge && git checkout 9815e9e
git apply ../pi05-click-bell/robosync_fixes.patch
mkdir -p policy/pi05/checkpoints/pi05_robosyn_click_bell_lora/click_bell_sim
cp -r ../pi05-click-bell/checkpoints/15000 \
policy/pi05/checkpoints/pi05_robosyn_click_bell_lora/click_bell_sim/
bash policy/pi05/eval.sh click_bell random \
pi05_robosyn_click_bell_lora click_bell_sim 0 \
--checkpoint_id 15000 --headless True --max_episodes 100
์ ์ฒด ์ค์น(EmbodiChain, ๋์ปค, ์์กด์ฑ)๋ SETUP.md ๋ฅผ ๋ฐ๋ฅด์ธ์.
๋ผ์ด์ ์ค ์ฃผ์
pi0.5 ๋ฒ ์ด์ค ๊ฐ์ค์น์์ ํ์๋์์ผ๋ฉฐ Gemma ๊ฐ์ค์น ๋ผ์ด์ ์ค๊ฐ ํจ๊ป ์ ์ฉ๋ฉ๋๋ค. ์งํ ์ค์ธ ๋ํ ๊ฒฐ๊ณผ๋ฌผ์ด๋ฏ๋ก ๋น๊ณต๊ฐ๋ก ์ ์งํ์ธ์.