ChikaKomari/26summe-camp-10-data

StarVLA 数据、模型、环境与训练清单

本文档记录 /inspire/qb-ilm2/project/26summer-camp-10/26220447/data/starvla 目录下当前可用的 StarVLA 训练资产。快照时间为 2026-05-19 13:47:47 UTC。

关联代码仓库：

/inspire/qb-ilm2/project/26summer-camp-10/26220447/starVLA

当前代码分支为 starVLA_autoresearch。该工作区有未提交的本地修改，训练时应以当前工作区为准。

1. 目录总览

data/starvla/
├── action_head/      # 当前为空；Action Expert 实现来自 starVLA/starVLA/model/modules/action_model
├── checkpoints/      # 训练产物、模型权重、Accelerate/DeepSpeed 全状态
├── datasets/         # 本文档列出的训练数据集入口
├── models/           # base model 与 action-token 扩展模型的符号链接
└── runs/             # interaction/tmux 启动记录、环境快照、命令、日志

当前大小概览：

目录	当前大小	说明
datasets/	126G	CALVIN、OXE/Bridge/Fractal、RoboCasa、RoboTwin 2.0
models/	7.0K	主要为指向公共模型目录的符号链接
action_head/	512B	空目录，未单独存放 action head 权重
checkpoints/	321G	已有训练 checkpoint 和 DeepSpeed 全状态
runs/	377M	已有训练/评测启动记录与日志

2. 训练数据集清单

所有数据集入口都位于：

/inspire/qb-ilm2/project/26summer-camp-10/26220447/data/starvla/datasets

2.1 顶层入口与符号链接

入口	类型	指向/内容
calvin_task_ABC_D	symlink	/inspire/qb-ilm2/project/26summer-camp-10/public/inspire_shared/calvin_abc_d/calvin_task_ABC_D
OXE_LEROBOT_DATASET	dir	OXE 下的 Bridge 和 Fractal LeRobot 数据
OXE	symlink	OXE_LEROBOT_DATASET
Open_X_Embodiment_OXE	symlink	OXE_LEROBOT_DATASET
Bridge	symlink	OXE_LEROBOT_DATASET/bridge_orig_1.0.0_lerobot
Bridge-WidowX	symlink	OXE_LEROBOT_DATASET/bridge_orig_1.0.0_lerobot
Fractal	symlink	OXE_LEROBOT_DATASET/fractal20220817_data_0.1.0_lerobot
RoboCasa	dir	GR1/Fourier Hands RoboCasa 数据，共 24 个任务目录
PhysicalAI-Robotics-GR00T-X-Embodiment-Sim	symlink	RoboCasa
RoboTwin-2.0	dir	RoboTwin 2.0 Clean/Randomized 数据
RoboTwin	symlink	RoboTwin-2.0

2.2 CALVIN

字段	值
入口	datasets/calvin_task_ABC_D
LeRobot robot_type	panda
总 episode	17870
总 frame	1071743
总 task	389
总 video	35740
FPS	10
训练 mixture	calvin_task_ABC
数据注册文件	examples/calvin/train_files/data_registry/data_config.py
modality 文件	examples/calvin/train_files/modality.json

StarVLA 中的 CALVIN 配置：

• embodiment：EmbodimentTag.FRANKA
• video_keys：video.primary_image、video.wrist_image
• state_keys：state.x/y/z/roll/pitch/yaw/pad/gripper
• action_keys：action.x/y/z/roll/pitch/yaw/gripper
• language_keys：annotation.human.action.task_description
• action_dim=7
• state_dim=7 或数据原始 state 8 维，训练配置中 action expert 使用 7 维 action/state
• action_indices=list(range(8))，即预测 8 步 action chunk
• action normalization：除 gripper 外使用 min_max

当前已有 CALVIN 训练产物：

实验组	run	框架	base model	备注
qwen35_0_8b-QwenPI-calvin_task_ABC	interactive_calvin_0519_071115	QwenPI	Qwen3.5-0.8B	已有 final_model/pytorch_model.pt 和 final_state/
cosmos_predict2-CosmoPredict2PI-calvin_task_ABC	interactive_calvin_0519_084500	CosmoPredict2PI	Cosmos-Predict2-2B-Video2World	早期 H200 8 卡 run
cosmos_predict2-CosmoPredict2PI-calvin_task_ABC	interactive_calvin_0519_090224	CosmoPredict2PI	Cosmos-Predict2-2B-Video2World	早期 H200 8 卡 run
cosmos_predict2-CosmoPredict2PI-calvin_task_ABC	interactive_calvin_0519_093049	CosmoPredict2PI	Cosmos-Predict2-2B-Video2World	当前保存有 steps_2800/3400/3500/3700 权重
qwen35_0_8b-QwenOFT-calvin_task_ABC	interactive_calvin_0519_130157	QwenOFT	Qwen3.5-0.8B	当前保存有 steps_200/300/400 权重

2.3 OXE / Bridge / Fractal

统一入口：

datasets/OXE_LEROBOT_DATASET

实际包含两个 LeRobot 数据集：

数据集	入口	robot_type	episodes	frames	tasks	videos	FPS	训练 mixture
Bridge / WidowX	Bridge 或 Bridge-WidowX	widowx	53192	1893026	19974	212768	5	bridge、bridge_rt_1
Fractal / RT-1	Fractal	google_robot	87212	3786400	599	87212	3	bridge_rt_1

StarVLA 中的 OXE 配置：

• 数据注册文件：examples/SimplerEnv/train_files/data_registry/data_config.py
• Bridge robot config：oxe_bridge
• Fractal robot config：oxe_rt1
• bridge mixture：只用 bridge_orig_1.0.0_lerobot
• bridge_rt_1 mixture：bridge_orig_1.0.0_lerobot + fractal20220817_data_0.1.0_lerobot
• Bridge 视频键：video.image_0
• Fractal 视频键：video.image
• Bridge/Fractal action 维度：7
• 默认 action horizon：16
• Bridge 和 Fractal 的 gripper 使用 binary，其他 action/state 默认使用 q99

推荐训练配置：

examples/SimplerEnv/train_files/starvla_cotrain_oxe.yaml
examples/SimplerEnv/train_files/run_oxe_train.sh

注意：仓库原始脚本里的 oxe_data_root=playground/Datasets/OXE_LEROBOT，当前工作区里 playground/Datasets/OXE_LEROBOT 指向 playground/Datasets/OXE_LEROBOT_DATASET，而后者对应 data/starvla/datasets/OXE_LEROBOT_DATASET。

2.4 RoboCasa / PhysicalAI GR00T X Embodiment Sim

入口：

datasets/RoboCasa
datasets/PhysicalAI-Robotics-GR00T-X-Embodiment-Sim -> RoboCasa

当前包含 24 个 GR1/Fourier Hands 任务目录，每个任务目录是独立 LeRobot 数据集。首个任务目录 gr1_unified.PnPBottleToCabinetClose_GR1ArmsAndWaistFourierHands_1000 的元信息显示：

字段	值
robot_type	GR1ArmsAndWaistFourierHands
episodes / 每任务	1000
videos / 每任务	1000
FPS	20

全目录统计：

• 任务目录数：24
• 总文件数：48122
• 训练 mixture：fourier_gr1_unified_1000

24 个任务目录：

gr1_unified.PnPBottleToCabinetClose_GR1ArmsAndWaistFourierHands_1000
gr1_unified.PnPCanToDrawerClose_GR1ArmsAndWaistFourierHands_1000
gr1_unified.PnPCupToDrawerClose_GR1ArmsAndWaistFourierHands_1000
gr1_unified.PnPMilkToMicrowaveClose_GR1ArmsAndWaistFourierHands_1000
gr1_unified.PnPPotatoToMicrowaveClose_GR1ArmsAndWaistFourierHands_1000
gr1_unified.PnPWineToCabinetClose_GR1ArmsAndWaistFourierHands_1000
gr1_unified.PosttrainPnPNovelFromCuttingboardToBasketSplitA_GR1ArmsAndWaistFourierHands_1000
gr1_unified.PosttrainPnPNovelFromCuttingboardToCardboardboxSplitA_GR1ArmsAndWaistFourierHands_1000
gr1_unified.PosttrainPnPNovelFromCuttingboardToPanSplitA_GR1ArmsAndWaistFourierHands_1000
gr1_unified.PosttrainPnPNovelFromCuttingboardToPotSplitA_GR1ArmsAndWaistFourierHands_1000
gr1_unified.PosttrainPnPNovelFromCuttingboardToTieredbasketSplitA_GR1ArmsAndWaistFourierHands_1000
gr1_unified.PosttrainPnPNovelFromPlacematToBasketSplitA_GR1ArmsAndWaistFourierHands_1000
gr1_unified.PosttrainPnPNovelFromPlacematToBowlSplitA_GR1ArmsAndWaistFourierHands_1000
gr1_unified.PosttrainPnPNovelFromPlacematToPlateSplitA_GR1ArmsAndWaistFourierHands_1000
gr1_unified.PosttrainPnPNovelFromPlacematToTieredshelfSplitA_GR1ArmsAndWaistFourierHands_1000
gr1_unified.PosttrainPnPNovelFromPlateToBowlSplitA_GR1ArmsAndWaistFourierHands_1000
gr1_unified.PosttrainPnPNovelFromPlateToCardboardboxSplitA_GR1ArmsAndWaistFourierHands_1000
gr1_unified.PosttrainPnPNovelFromPlateToPanSplitA_GR1ArmsAndWaistFourierHands_1000
gr1_unified.PosttrainPnPNovelFromPlateToPlateSplitA_GR1ArmsAndWaistFourierHands_1000
gr1_unified.PosttrainPnPNovelFromTrayToCardboardboxSplitA_GR1ArmsAndWaistFourierHands_1000
gr1_unified.PosttrainPnPNovelFromTrayToPlateSplitA_GR1ArmsAndWaistFourierHands_1000
gr1_unified.PosttrainPnPNovelFromTrayToPotSplitA_GR1ArmsAndWaistFourierHands_1000
gr1_unified.PosttrainPnPNovelFromTrayToTieredbasketSplitA_GR1ArmsAndWaistFourierHands_1000
gr1_unified.PosttrainPnPNovelFromTrayToTieredshelfSplitA_GR1ArmsAndWaistFourierHands_1000

StarVLA 中的 RoboCasa/GR1 配置：

• 数据注册文件：examples/Robocasa_tabletop/train_files/data_registry/data_config.py
• 配置文件：examples/Robocasa_tabletop/train_files/starvla_cotrain_robocasa_gr1.yaml
• 训练脚本：examples/Robocasa_tabletop/train_files/run_robocasa.sh
• embodiment：EmbodimentTag.GR1
• video：video.ego_view
• state/action keys：left_arm、right_arm、left_hand、right_hand、waist
• action_dim=29
• state_dim=58，配置中含 sin/cos transform；原始 action key dims 为双 7 维 arm、双 6 维 hand、3 维 waist
• action_horizon=16
• action normalization：min_max

2.5 RoboTwin 2.0

入口：

datasets/RoboTwin-2.0
datasets/RoboTwin -> RoboTwin-2.0

目录结构：

• Clean：符号链接到 /inspire/qb-ilm2/project/26summer-camp-10/public/four/data/RoboTwin-Randomized/Clean
• Randomized：本目录下 33 个物理任务目录 + 17 个指向公共目录的任务符号链接

统计：

项	值
Clean 任务数	50
Randomized 任务数	50
当前跟随符号链接统计的文件总数	110636
单任务典型 episodes	500
单任务典型 FPS	15

示例任务 Randomized/adjust_bottle 的元信息：

字段	值
robot_type	aloha
episodes	500
frames	71223
tasks	425
videos	1500
FPS	15

StarVLA 中的 RoboTwin 配置：

• 数据注册文件：examples/Robotwin/train_files/data_registry/data_config.py
• 配置文件：examples/Robotwin/train_files/starvla_cotrain_robotwin_abs.yaml
• 训练脚本：examples/Robotwin/train_files/run_robotwin_train.sh
• mixture：robotwin_all、robotwin_all_50、robotwin
• robotwin_all_50 覆盖 Clean + Randomized 的 50 任务集合，使用 robotwin50
• video keys：video.cam_high、video.cam_left_wrist、video.cam_right_wrist
• state/action keys：left_joints、right_joints、left_gripper、right_gripper
• action/state dim：14
• robotwin_all_50 默认 action horizon：50
• action type：abs_qpos
• action mode：abs
• arm 使用 min_max，gripper 使用 binary

3. Base Model 清单

所有入口位于：

data/starvla/models

3.1 本目录中的模型符号链接

模型入口	指向	说明
Qwen3.5-0.8B	/inspire/qb-ilm2/project/26summer-camp-10/public/two/Model/Qwen3.5-0.8B	Qwen3.5 0.8B base
Qwen3.5-2B	/inspire/qb-ilm2/project/26summer-camp-10/public/two/Model/Qwen3.5-2B	Qwen3.5 2B base
Qwen3.5-4B	/inspire/qb-ilm2/project/26summer-camp-10/public/two/Model/Qwen3.5-4B	Qwen3.5 4B base
Qwen3.5-9B	/inspire/qb-ilm2/project/26summer-camp-10/public/two/Model/Qwen3.5-9B	Qwen3.5 9B base
Qwen3.5-0.8B-Action	/inspire/qb-ilm2/project/26summer-camp-10/public/Qwen3.5-0.8B-Action	tokenizer + embedding action token 扩展版
Qwen3.5-2B-Action	/inspire/qb-ilm2/project/26summer-camp-10/public/Qwen3.5-2B-Action	tokenizer + embedding action token 扩展版
Qwen3.5-4B-Action	/inspire/qb-ilm2/project/26summer-camp-10/public/Qwen3.5-4B-Action	tokenizer + embedding action token 扩展版
Qwen3.5-9B-Action	/inspire/qb-ilm2/project/26summer-camp-10/public/Qwen3.5-9B-Action	tokenizer + embedding action token 扩展版
Qwen3-VL-4B-Instruct-Action	/inspire/qb-ilm2/project/26summer-camp-10/public/Qwen3-VL-4B-Instruct-Action	Qwen3-VL 4B action 版本
Cosmos-Predict2-2B-Video2World	/inspire/qb-ilm2/project/26summer-camp-10/public/ten/Cosmos-Predict2-2B-Video2World	NVIDIA Cosmos-Predict2 2B Video2World
CosmoPredict2-2B	同上	Cosmos-Predict2 简写别名

3.2 Qwen3.5 Action 版本说明

models/qwen35_action_models_manifest.json 记录了 Qwen3.5 Action 系列的来源和改动：

• 4 个 Action 版本分别来自 Qwen/Qwen3.5-0.8B、Qwen/Qwen3.5-2B、Qwen/Qwen3.5-4B、Qwen/Qwen3.5-9B
• action_pretrain_ckpt_used=false
• 操作为 tokenizer extension plus embedding resize only
• action token 数量：2048
• tokenizer 长度：248077 -> 250125
• action token id 区间：248077..250124

也就是说，这些 *-Action 模型是“可承载 action token 的 tokenizer/embedding 扩展模型”，不是已经完成 action policy 训练的模型。

3.3 Cosmos-Predict2 说明

models/cosmos_predict2_provenance.json 记录：

• source repo：nvidia/Cosmos-Predict2-2B-Video2World
• source commit：f50c09f5d8ab133a90cac3f4886a6471e9ba3f18
• 当前入口只是链接已有完整官方 Video2World 2B base model
• 检查过的关键文件包括 model-720p-16fps.pt、transformer/diffusion_pytorch_model.safetensors、text_encoder/model.safetensors.index.json、vae/diffusion_pytorch_model.safetensors、scheduler/scheduler_config.json、tokenizer/tokenizer.json

3.4 训练脚本中还会用到的模型路径

StarVLA 仓库的 playground/Pretrained_models 已经把本目录模型链接好：

playground/Pretrained_models/Qwen3.5-0.8B -> data/starvla/models/Qwen3.5-0.8B
playground/Pretrained_models/Qwen3.5-2B -> data/starvla/models/Qwen3.5-2B
playground/Pretrained_models/Qwen3.5-4B -> data/starvla/models/Qwen3.5-4B
playground/Pretrained_models/Qwen3.5-9B -> data/starvla/models/Qwen3.5-9B
playground/Pretrained_models/Qwen3.5-*-Action -> data/starvla/models/Qwen3.5-*-Action
playground/Pretrained_models/Qwen3-VL-4B-Instruct-Action -> data/starvla/models/Qwen3-VL-4B-Instruct-Action
playground/Pretrained_models/nvidia/Cosmos-Predict2-2B-Video2World -> data/starvla/models/Cosmos-Predict2-2B-Video2World

此外，playground/Pretrained_models/Qwen3-VL-4B-Instruct 指向公共目录 /inspire/qb-ilm2/project/26summer-camp-10/public/three/Qwen3-VL-4B-Instruct，它不在 data/starvla/models 下，但被 RoboTwin/RoboCasa 等脚本使用。

4. Action Expert / Action Head 清单

data/starvla/action_head 当前为空；当前训练使用的 Action Expert 由代码动态构建，并随 checkpoint 一起保存到 checkpoints/<experiment>/<run>/checkpoints/ 和 accelerate_state/ 中。

Action Expert 实现位置：

starVLA/starVLA/model/modules/action_model

主要实现文件：

Action Expert	实现文件	说明	典型框架
FAST token action expert	fast_ActionHeader.py	使用 FAST tokenizer 将连续 action 离散化为 token，做 autoregressive next-token prediction	QwenFast
OFT / MLP L1 regression	MLP_ActionHeader.py	通过 action special token 的 hidden state 做连续 action 回归	QwenOFT、CosmoPredict2OFT、WanOFT
GR00T Flow Matching	GR00T_ActionHeader.py	DiT-B/DiT-L 等 flow-matching action head，通常用最后层视觉语言特征	QwenGR00T、CosmoPredict2GR00T、WanGR00T
PI Layerwise Flow Matching	LayerwiseFM_ActionHeader.py	layer-wise cross-DiT flow-matching，使用多层 backbone hidden states	QwenPI、QwenPI_v3、CosmoPredict2PI、WanPI
DiT diffusion action head	DiTActionHeader.py	DiT-S/B/L diffusion action head 基础实现	多个 flow-matching/diffusion 变体
VLA Adapter head	VLA_AdapterHeader.py	adapter 型 action regression head	QwenAdapter
AML / multi-embodiment flow matching	AML_ActionHeader.py	多 embodiment action encoder + flow matching	实验性
spike action model	spike_action_model_multitimestep.py	spiking temporal action prediction 实验模块	实验性

当前代码注册的框架名称包括：

QwenPI / QwenFM
QwenPI_v3
QwenOFT
QwenGR00T
QwenFast
QwenAdapter
QwenDual
CosmosGR00T
CosmoPredict2PI
CosmoPredict2OFT
CosmoPredict2GR00T
WanPI
WanOFT
WanGR00T
Gemma4PI
Gemma4GR00T
InternVLA-M1
ABot_M0
LangForce

当前目录中已有 checkpoint 涉及的框架：

• QwenPI：Qwen3.5 0.8B + PI/layer-wise flow-matching action expert，CALVIN
• QwenOFT：Qwen3.5 0.8B + MLP L1 action expert，CALVIN
• CosmoPredict2PI：Cosmos-Predict2 2B Video2World + layer-wise flow-matching action expert，CALVIN

5. StarVLA 环境配置清单

5.1 离线环境包

离线环境包位于：

/inspire/qb-ilm2/project/26summer-camp-10/26220447/starVLA/envSet/starvla_env

环境包 manifest：

python env: /inspire/qb-ilm2/project/26summer-camp-10/26220447/starVLA/env/starvla-py310
archive: envSet/starvla_env/archives/starvla-py310-env.tar
archive sha256: ca236a59571e4f7eb45c010ea99dfc4b9c7d7f0d0c520b780b8a026ff5056760

安装或修复：

cd /inspire/qb-ilm2/project/26summer-camp-10/26220447/starVLA/envSet/starvla_env
bash scripts/install_offline.sh
bash scripts/gpu_oneclick_fix.sh --num-gpus 8
source scripts/activate_offline_env.sh

GPU 修复也可以从仓库根目录启动：

cd /inspire/qb-ilm2/project/26summer-camp-10/26220447/starVLA
bash interaction/bin/starvla-gpu-fix.sh --num-gpus 8

5.2 已验证 Python/CUDA 组件

当前环境实测导入版本：

包	版本
Python	env/starvla-py310/bin/python
Torch	2.6.0+cu124
CUDA	12.4
Transformers	5.2.0
Accelerate	1.5.2
DeepSpeed	0.16.9
FlashAttention	2.7.4.post1
Diffusers	0.38.0
HuggingFace Hub	1.15.0
Decord	0.6.0
PyTorch3D	0.7.6
WandB	0.27.0
OmegaConf	2.3.0
PyAV	12.3.0
PyArrow	14.0.1

envSet/starvla_env/manifest.json 还确认 Qwen3.5/Qwen3-VL runtime classes 可离线使用。

5.3 H200 / NCCL / DeepSpeed 推荐配置

H200 8 卡推荐使用 interaction 层：

cd /inspire/qb-ilm2/project/26summer-camp-10/26220447/starVLA
bash interaction/bin/starvla-interact.sh perf-check --gpus auto --num-gpus 8

H200 profile 主要设置：

• Accelerate 配置：interaction/config/accelerate_h200_zero2.yaml
• DeepSpeed 配置：interaction/config/ds_h200_zero2.json
• distributed_type=DEEPSPEED
• mixed_precision=bf16
• ZeRO stage：2
• CPU offload：关闭
• overlap_comm=true
• reduce_scatter=true
• contiguous_gradients=true
• bucket size：1e9
• gradient_accumulation_steps=1

常用环境变量：

NCCL_DEBUG=WARN
NCCL_ASYNC_ERROR_HANDLING=1
TORCH_NCCL_ASYNC_ERROR_HANDLING=1
TORCH_NCCL_USE_COMM_NONBLOCKING=1
TORCH_NCCL_HIGH_PRIORITY=1
TORCH_NCCL_ENABLE_MONITORING=1
TORCH_NCCL_HEARTBEAT_TIMEOUT_SEC=600
NCCL_SOCKET_RETRY_CNT=34
NCCL_SOCKET_RETRY_SLEEP_MSEC=100
CUDA_DEVICE_MAX_CONNECTIONS=1
PYTORCH_CUDA_ALLOC_CONF=expandable_segments:True
OMP_NUM_THREADS=1
MKL_NUM_THREADS=1
NUMEXPR_NUM_THREADS=1
TORCH_ALLOW_TF32_CUBLAS_OVERRIDE=1
NVIDIA_TF32_OVERRIDE=1

已有 run 的环境快照显示：

• 使用节点为 NVIDIA H200
• 有 4 卡和 8 卡两类运行记录
• 代理变量 HTTP_PROXY/HTTPS_PROXY/ALL_PROXY 均为空，符合 no-proxy 运行方式
• Python 解释器使用 /inspire/qb-ilm2/project/26summer-camp-10/26220447/starVLA/env/starvla-py310/bin/python

6. 训练方式清单

6.1 统一输出约定

推荐输出根目录：

/inspire/qb-ilm2/project/26summer-camp-10/26220447/data/starvla/checkpoints

输出结构：

checkpoints/<model>-<action_head>-<dataset>/<run_id>/
├── config.full.yaml
├── config.yaml
├── dataset_statistics.json
├── checkpoints/steps_<N>_pytorch_model.pt
├── accelerate_state/steps_<N>/
├── accelerate_state/latest
├── topk_checkpoints.json
├── summary.jsonl
├── final_model/
└── final_state/

interaction 层默认保留 top-k checkpoint：

• --keep-top-k 3：默认保留 loss 最低的 3 个权重及对应 state
• --run-mode new：新建 run
• --run-mode continue：从 accelerate_state/latest 或最新 steps_<N> 继续
• --resume-from-checkpoint <path>：从指定全状态目录或权重文件恢复

6.2 推荐 interaction 启动方式

从仓库根目录启动：

cd /inspire/qb-ilm2/project/26summer-camp-10/26220447/starVLA
source envSet/starvla_env/scripts/activate_offline_env.sh

检查环境和路径：

bash interaction/bin/starvla-interact.sh check
bash interaction/bin/starvla-interact.sh paths
bash interaction/bin/starvla-interact.sh perf-check --gpus auto --num-gpus 8

已有 preset：

preset	数据集	默认框架	默认模型	说明
calvin_vla	CALVIN	QwenPI	qwen35_0_8b	当前已有多次 CALVIN 运行
robotwin_vla	RoboTwin 2.0	QwenOFT	qwen3vl_4b	使用 robotwin_all_50
bridge_vla	OXE Bridge	QwenGR00T	qwen3vl_4b_action	使用 bridge mixture
robocasa365_smoke	RoboCasa365	QwenOFT	qwen3vl_4b_action	smoke preset，不等同于当前 datasets/RoboCasa 的 GR1 24 任务
libero_vla	LIBERO	QwenPI	qwen35_0_8b	数据不在 data/starvla/datasets 下
libero_cotrain	LIBERO + VLM	QwenFast	qwen3vl_4b_action	多目标 co-training
vlm_only	VLM-only	QwenFast	qwen3vl_4b_action	仅 VLM post-training

示例：启动 CALVIN VLA：

bash interaction/bin/starvla-interact.sh train \
  --preset calvin_vla \
  --run-mode new \
  --gpus auto \
  --num-gpus 8 \
  --perf-profile auto \
  --throughput-profile auto \
  --yes

示例：继续最新 CALVIN run：

bash interaction/bin/starvla-interact.sh train \
  --preset calvin_vla \
  --run-mode continue \
  --yes

示例：指定 checkpoint 恢复：

bash interaction/bin/starvla-interact.sh train \
  --preset calvin_vla \
  --resume-from-checkpoint /path/to/accelerate_state/steps_XXXX \
  --resume-mode auto \
  --yes

6.3 直接 Accelerate 启动方式

直接使用 StarVLA 训练入口：

accelerate launch \
  --config_file starVLA/config/deepseeds/deepspeed_zero2.yaml \
  --num_processes 8 \
  starVLA/training/train_starvla.py \
  --config_yaml <config_yaml> \
  --framework.name <FrameworkName> \
  --framework.qwenvl.base_vlm <base_model_path> \
  --datasets.vla_data.data_root_dir <dataset_root> \
  --datasets.vla_data.data_mix <data_mix> \
  --datasets.vla_data.per_device_batch_size <batch> \
  --trainer.freeze_modules <freeze_modules> \
  --trainer.max_train_steps <steps> \
  --trainer.save_interval <save_interval> \
  --trainer.logging_frequency <log_every> \
  --trainer.eval_interval <eval_every> \
  --run_root_dir /inspire/qb-ilm2/project/26summer-camp-10/26220447/data/starvla/checkpoints/<experiment_group> \
  --run_id <run_id>

6.4 各数据集直接训练模板

CALVIN + QwenPI：

accelerate launch \
  --config_file starVLA/config/deepseeds/deepspeed_zero2.yaml \
  --num_processes 8 \
  starVLA/training/train_starvla.py \
  --config_yaml examples/calvin/train_files/starvla_train_calvin.yaml \
  --framework.name QwenPI \
  --framework.qwenvl.base_vlm playground/Pretrained_models/Qwen3.5-0.8B \
  --datasets.vla_data.data_root_dir playground/Datasets/calvin \
  --datasets.vla_data.data_mix calvin_task_ABC \
  --datasets.vla_data.per_device_batch_size 16 \
  --trainer.max_train_steps 30000 \
  --trainer.save_interval 100 \
  --run_root_dir /inspire/qb-ilm2/project/26summer-camp-10/26220447/data/starvla/checkpoints/qwen35_0_8b-QwenPI-calvin_task_ABC \
  --run_id manual_calvin_qwenpi

CALVIN + CosmoPredict2PI：

accelerate launch \
  --config_file interaction/config/accelerate_h200_zero2.yaml \
  --num_processes 8 \
  --mixed_precision bf16 \
  starVLA/training/train_starvla.py \
  --config_yaml examples/calvin/train_files/starvla_train_calvin.yaml \
  --framework.name CosmoPredict2PI \
  --framework.qwenvl.base_vlm playground/Pretrained_models/nvidia/Cosmos-Predict2-2B-Video2World \
  --trainer.freeze_modules backbone \
  --datasets.vla_data.data_root_dir playground/Datasets/calvin \
  --datasets.vla_data.data_mix calvin_task_ABC \
  --datasets.vla_data.per_device_batch_size 48 \
  --trainer.max_train_steps 7500 \
  --trainer.save_interval 100 \
  --run_root_dir /inspire/qb-ilm2/project/26summer-camp-10/26220447/data/starvla/checkpoints/cosmos_predict2-CosmoPredict2PI-calvin_task_ABC \
  --run_id manual_calvin_cosmos_pi

OXE Bridge + Fractal：

accelerate launch \
  --config_file starVLA/config/deepseeds/deepspeed_zero2.yaml \
  --num_processes 8 \
  starVLA/training/train_starvla.py \
  --config_yaml examples/SimplerEnv/train_files/starvla_cotrain_oxe.yaml \
  --framework.name QwenGR00T \
  --framework.qwenvl.base_vlm playground/Pretrained_models/Qwen3-VL-4B-Instruct-Action \
  --datasets.vla_data.data_root_dir playground/Datasets/OXE_LEROBOT_DATASET \
  --datasets.vla_data.data_mix bridge_rt_1 \
  --datasets.vla_data.per_device_batch_size 16 \
  --trainer.max_train_steps 100000 \
  --trainer.save_interval 10000 \
  --run_root_dir /inspire/qb-ilm2/project/26summer-camp-10/26220447/data/starvla/checkpoints/qwen3vl_4b-QwenGR00T-bridge_rt_1 \
  --run_id manual_oxe_bridge_rt1

RoboCasa GR1：

accelerate launch \
  --config_file starVLA/config/deepseeds/deepspeed_zero2.yaml \
  --num_processes 8 \
  starVLA/training/train_starvla.py \
  --config_yaml examples/Robocasa_tabletop/train_files/starvla_cotrain_robocasa_gr1.yaml \
  --framework.name QwenGR00T \
  --framework.qwenvl.base_vlm playground/Pretrained_models/Qwen3-VL-4B-Instruct-Action \
  --datasets.vla_data.data_root_dir playground/Datasets/PhysicalAI-Robotics-GR00T-X-Embodiment-Sim \
  --datasets.vla_data.data_mix fourier_gr1_unified_1000 \
  --datasets.vla_data.per_device_batch_size 8 \
  --trainer.max_train_steps 100000 \
  --trainer.save_interval 10000 \
  --run_root_dir /inspire/qb-ilm2/project/26summer-camp-10/26220447/data/starvla/checkpoints/qwen3vl_4b-QwenGR00T-robocasa_gr1 \
  --run_id manual_robocasa_gr1

RoboTwin 2.0：

accelerate launch \
  --config_file starVLA/config/deepseeds/deepspeed_zero2.yaml \
  --num_processes 8 \
  starVLA/training/train_starvla.py \
  --config_yaml examples/Robotwin/train_files/starvla_cotrain_robotwin_abs.yaml \
  --framework.name QwenOFT \
  --framework.qwenvl.base_vlm playground/Pretrained_models/Qwen3-VL-4B-Instruct \
  --datasets.vla_data.data_root_dir playground/Datasets/RoboTwin \
  --datasets.vla_data.data_mix robotwin_all_50 \
  --datasets.vla_data.per_device_batch_size 4 \
  --trainer.max_train_steps 150000 \
  --trainer.save_interval 10000 \
  --run_root_dir /inspire/qb-ilm2/project/26summer-camp-10/26220447/data/starvla/checkpoints/qwen3vl_4b-QwenOFT-robotwin_all_50 \
  --run_id manual_robotwin_all_50

6.5 训练入口脚本

训练模式	入口
VLA supervised fine-tuning	starVLA/training/train_starvla.py
VLA + VLM multimodal co-training	starVLA/training/train_starvla_cotrain.py
VLM-only post-training	starVLA/training/train_starvlm.py

StarVLA README 中支持的训练范式：

• SFT
• Multimodal Multi-objectives Co-Training
• Cross-embodiment Co-Training
• RL Adaptation：代码文档提到支持路线，但当前 data/starvla 目录下没有对应 RL checkpoint 或数据产物

7. 当前运行与评测记录

runs/ 当前包含：

20260519_071132_interactive_calvin_0519_071115
20260519_084507_interactive_calvin_0519_084500
20260519_090233_interactive_calvin_0519_090224
20260519_093055_interactive_calvin_0519_093049
20260519_121951_starvla_eval_pytorch_model

每个训练 run 目录通常包含：

• environment.json / environment.main.json
• job.json
• main.command.sh
• main.runner.sh
• main.log
• events.jsonl
• nccl_topology.xml
• main.pid、main.accelerate.pid、main.accelerate.pgid

评测 run 20260519_121951_starvla_eval_pytorch_model 包含：

• commands/
• runners/
• logs/
• calvin_eval/
• 多个 server/client environment snapshot

8. 维护注意事项

1. datasets/ 中大量入口是符号链接，复制或迁移时必须保留链接语义；如需完整物理复制，应显式确认目标空间。
2. RoboTwin-2.0/Clean 是符号链接；RoboTwin-2.0/Randomized 内也混合了物理任务目录和符号链接任务目录。
3. models/ 中几乎都是符号链接；模型完整性依赖公共目录中对应目标。
4. 当前 runs/ 日志可能仍会被外部任务追加；若需要严格归档，建议任务结束后再做最后同步。
5. 下载或运行时建议保持 no-proxy：已有环境快照中 HTTP_PROXY/HTTPS_PROXY/ALL_PROXY 均为空。
6. 如果使用 H200 8 卡，优先使用 interaction/bin/starvla-interact.sh，它会自动设置 H200/DeepSpeed/NCCL 相关参数并写入 runs/。
7. 新训练建议统一写入 data/starvla/checkpoints/<model>-<action_head>-<dataset>/<run_id>，这样后续 README、同步和 public/seven 复制都更容易维护。