Instructions to use gc22-shin/pickdown_bottle1_act with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- LeRobot
How to use gc22-shin/pickdown_bottle1_act with LeRobot:
# No code snippets available yet for this library. # To use this model, check the repository files and the library's documentation. # Want to help? PRs adding snippets are welcome at: # https://github.com/huggingface/huggingface.js
- Notebooks
- Google Colab
- Kaggle
pickdown_bottle1_act โ 1๋ฒ ์์ฝํต ๋ด๋ ค๋๊ธฐ
OMX "1๋ฒ ์์ฝํต ๋ด๋ ค๋๊ธฐ" ํ์คํฌ์ฉ ACT ์ ์ฑ ๋ชจ์. ํ์ต ์กฐ๊ฑด๋ณ ๋ชจ๋ธ์ด ํด๋๋ก ๋๋์ด ์๊ณ , ๊ฐ ํด๋ ์์ ์ฒดํฌํฌ์ธํธ step๋ณ ํ์ ํด๋๊ฐ ์์ต๋๋ค.
๋ฐ์ดํฐ
- gamzadole/ARMCHEMIST_PICKDOWN_BOTTLE1 โ 25 ์ํผ์๋ ร 15์ด, 30fps, 11,266 ํ๋ ์
- ์
๋ ฅ/์ถ๋ ฅ: ์นด๋ฉ๋ผ 3๋ (
cam_head,cam_head_depth,cam_wrist), state/action 6์ฐจ์ (์ผํ joint1โ5 + gripper)
๋ชจ๋ธ
๋ ๋ชจ๋ธ์ fps(์ ๊ทธ์ ๋ง์ถ chunk ๊ธธ์ด)๋ง ๋ค๋ฆ ๋๋ค. ๋ฐ์ดํฐ๊ฐ ์์์(24 ์ํผ์๋) epoch๊ฐ ๋ง์ผ๋ 20k~50k๋ฅผ ๋จผ์ ์ํํด ๋ณด๊ธธ ๊ถํฉ๋๋ค.
| ํด๋ | fps | ์ ์ธ ์ํผ์๋ | ํ์ต ๋ฐ์ดํฐ | chunk / n_action_steps | epoch | ์ต์ข loss |
|---|---|---|---|---|---|---|
15fps/ |
15 | 23 | 24 ep / 5,415 ํ๋ ์ | 40 / 10 | 148 | 0.031 |
30fps/ |
30 | 23 | 24 ep / 10,815 ํ๋ ์ | 80 / 20 | 74 | 0.033 |
pickdown_bottle1_act/
โโโ 15fps/ (100k, 070k, 050k, 030k, 020k)
โโโ 30fps/ (100k, 070k, 050k, 030k, 020k)
๊ฐ ์ฒดํฌํฌ์ธํธ ํด๋(์: 15fps/100k/)์๋ config.json, model.safetensors, train_config.json์ด ๋ค์ด ์์ต๋๋ค.
๋ถ๋ฌ์ค๊ธฐ
์ด LeRobot ๋ฒ์ ์ repo ์์ ํ์ ํด๋๋ฅผ --policy.path๋ก ๋ฐ๋ก ์ง์ ํ ์ ์์ด์, ํ์ํ ํด๋๋ง ๋ฐ์์ ๋ก์ปฌ ๊ฒฝ๋ก๋ก ์ง์ ํฉ๋๋ค.
hf download gc22-shin/pickdown_bottle1_act --include "15fps/100k/*" --local-dir ckpt/pickdown_bottle1_act
--policy.path=ckpt/pickdown_bottle1_act/15fps/100k
์ถ๋ก fps๋ฅผ ํ์ต๊ณผ ๋ง์ถฐ์ผ ํฉ๋๋ค. 15fps ๋ชจ๋ธ์ 15fps๋ก, 30fps ๋ชจ๋ธ์ 30fps๋ก ๋๋ฆฌ์ธ์. chunk ๊ธธ์ด๊ฐ ํ๋ ์ ๋จ์๋ผ fps๊ฐ ๋ค๋ฅด๋ฉด ๋์ ์๋๊ฐ ๋ฌ๋ผ์ง๋๋ค.
15fps ๋ชจ๋ธ์ ์๋ณธ(30fps)์์ ์ง์ ํ๋ ์๋ง ๋จ๊ฒจ ํ์ตํ์ต๋๋ค. ์๋ณธ ์นด๋ฉ๋ผ๊ฐ ์ค์ ๋ก๋ 15Hz๋ผ 30fps ์์์ ๋ ํ๋ ์๋ง๋ค ๊ฐ์ ์์์ด ๋ฐ๋ณต๋๋๋ฐ, ์ง์ ํ๋ ์๋ง ์ฐ๋ฉด ๋ณต์ ํ๋ ์์ด ์์ด์ง๋๋ค.
๊ณตํต ํ์ต ์ค์
| ํญ๋ชฉ | ๊ฐ |
|---|---|
| ์ ์ฑ | ACT (resnet18 ImageNet backbone, dim_model 512, heads 8, enc 4 / dec 1) |
| VAE | latent 32, kl_weight 10 |
| lr / backbone lr / weight decay | 1e-5 / 1e-5 / 1e-4 |
| batch | 8, AMP on, seed 1000, temporal ensemble ์ฌ์ฉ ์ ํจ |
| chunk | ์๊ฐ ๊ธฐ์ค์ผ๋ก ๋ง์ถค: 2.7์ด ์์ธก, 0.67์ด๋ง๋ค ์ฌ์ถ๋ก (15fps: chunk 40 / n_action_steps 10, 30fps: 80 / 20) |
LeRobot commit 989f3d0, RTX 3080 1์ฅ.
ACT๋ ํ์ต loss๊ฐ ๊ฐ์ฅ ๋ฎ์ ์ฒดํฌํฌ์ธํธ๊ฐ ์ค์ ๋ก ๊ฐ์ฅ ์ํ์ง๋ ์๋ ๊ฒฝ์ฐ๊ฐ ๋ง์ผ๋, ์ค์ ๋ก๋ด์์ ๋น๊ตํด์ ๊ณ ๋ฅด์ธ์.