yimmmmmy/libero-singleview-idm

LIBERO 单视角离线 IDM：Codex 技术交接与运行手册

本文档是项目迁移到另一台机器后，供 Codex 或工程人员直接接手使用的 主运行手册。除非明确需要改变实验设计，否则应以本文、cfg/ 和 scripts/ 中的配置为准。

0. 接手结论与执行原则

项目目标是把离线 LIBERO 单视角视频转换为机器人动作：

agentview 离线视频
  → 每 16 帧生成 20×20 个均匀点轨迹
  → 单视角 Motion Tokenizer
  → 对应 LIBERO 系列的 IDM
  → 16 步 × 7 维动作

接手此项目的 Codex 应遵守以下原则：

1. 先进入项目根目录，再执行任何脚本；所有默认路径均相对于项目根目录。
2. 先运行资产校验。校验通过时，不要重新下载或重新生成 LIBERO 和轨迹数据。
3. 先进行单卡或 DDP 冒烟测试，再启动完整训练。
4. Motion Tokenizer 只训练一个共享模型；五个 LIBERO 系列分别训练自己的 IDM。
5. 不训练 Forward Dynamics，不加载 T5，不使用语言、腕部相机或 proprioception。
6. 不要把 W&B、Hugging Face 或其他服务的 API key 写入代码、脚本或 README。
7. 不要把 best.pt 当成断点续训文件；续训只能使用包含优化器状态的 latest.pt。
8. 不要假设目标服务器有 8 张 GPU。必须先用 nvidia-smi -L 检查实际数量。
9. Hugging Face 版本不包含可从原始来源下载的 data/libero，但包含单视角轨迹、 官方 IDM、代码、报告以及后续训练权重。

文档编写时（2026-07-29）的状态：

• 原始 LIBERO 数据、轨迹标注和五个官方 IDM 权重已经完整放入项目。
• CoTracker2 推理权重已经纳入 weights/pretrained/cotracker/；源码可由幂等 安装脚本按固定 commit 获取。
• 数据及轨迹完整性检查通过，剩余坏轨迹窗口为 0。
• 五个官方 IDM 均已验证可以向单视角模型迁移 59/59 个目标参数张量。
• 单卡和 DDP 训练代码、CSV 指标记录、断点续训与每 10 epoch 保存均已实现。
• 正式全量训练尚未开始，weights/trained/ 目前没有正式训练权重。
• 原机器有 2 张 RTX 4090；这只是当前机器信息，不是目标机器假设。

1. 项目目标、模型结构与非目标

1.1 目标路径

每个训练样本的核心张量已经验证为：

images   (1, 128, 128, 3)   # agentview 起始图像
traj     (1, 16, 400, 2)    # 16 步、400 个点、二维轨迹
actions  (16, 7)            # 目标动作序列

模型结构：

已观测的 agentview 点轨迹 [16, 400, 2]
               │
               ▼
共享单视角 Motion Tokenizer
  hidden_dim=768, codebook_size=2048
               │
               ▼
15 个量化运动 token + 冻结的 ResNet-18 图像 token
               │
               ▼
某一个 suite 专属 Gaussian IDM
               │
               ▼
LIBERO 动作 [16, 7]

1.2 为什么需要 Motion Tokenizer，但不需要 Forward Dynamics

这是离线视频任务。点轨迹已经从完整视频中观测得到，因此 Motion Tokenizer 负责把真实轨迹编码成运动 token，IDM 再将运动 token 和图像特征映射为动作。

Forward Dynamics 的作用是从初始条件预测未来 motion token；当前任务已经拥有 未来轨迹，不需要预测，所以不训练、不加载 Forward Dynamics。

T5 只服务于语言条件路径。当前设置 cond_on_text=false，因此不需要 T5、 语言标注或文本 embedding。

1.3 训练归属

• Motion Tokenizer：从官方双视角权重提取 agentview 初始化，再联合使用五个 LIBERO 系列全量微调。
• IDM：五个独立模型，每个系列一个。
• Motion Tokenizer 在 IDM 阶段冻结。
• ResNet-18 在 IDM 阶段使用 ImageNet 预训练权重并冻结。
• CoTracker 只用于轨迹预处理，不参与本项目训练。
• IDM 的所有目标可训练参数都会继续全量 fine-tune。

2. 项目目录契约

在任意机器上，项目根目录可以不同，但内部层级必须保持不变：

libero_singleview_idm/
├── amplify/                         # 模型、数据加载器和训练工具
├── cfg/
│   ├── train_motion_tokenizer_singleview.yaml
│   ├── train_inverse_dynamics_singleview.yaml
│   └── suite/                       # 五个 suite 的官方 IDM 映射
├── data/
│   ├── libero/                      # 真实目录：官方 LIBERO HDF5
│   ├── tracks/                      # 真实目录：agentview 均匀点轨迹
│   ├── manifests/
│   │   └── corrupt_tracks.json
│   ├── asset_manifest.json
│   └── README.md
├── weights/
│   ├── pretrained/
│   │   └── official_idm/            # 五个官方 AMPLIFY IDM
│   ├── trained/
│   │   ├── motion_tokenizer/        # 新训练的共享 tokenizer
│   │   └── inverse_dynamics/        # 新训练的五个 IDM
│   └── README.md
├── scripts/                         # 环境、校验、训练、screen 脚本
├── track_quality/                   # 原始数据和轨迹质量报告
├── logs/                            # screen 文本日志
├── tests/
├── train_motion_tokenizer.py
├── train_inverse_dynamics.py
└── README.md

所有正式配置默认使用以下相对路径：

LIBERO data        data/libero
trajectory data    data/tracks
quality manifest   data/manifests/corrupt_tracks.json
official IDM       weights/pretrained/official_idm
training outputs   weights/trained
screen logs        logs

不要在 YAML 或训练脚本中重新写死任何机器专属绝对路径。

3. 数据资产

3.1 数据内容

LIBERO 原始数据共 130 个 task HDF5，每个 task 包含 50 个 demo。轨迹数据共 6500 个 demo HDF5，方法为 uniform_400_reinit_16，只包含 agentview：

Suite	原始 task 文件	原始数据	轨迹文件	轨迹数据
libero_10	10	12.8 GiB	500	6.1 GiB
libero_90	90	62.1 GiB	4500	29.7 GiB
libero_goal	10	5.9 GiB	500	2.8 GiB
libero_object	10	6.9 GiB	500	3.3 GiB
libero_spatial	10	5.8 GiB	500	2.8 GiB
总计	130	约 94 GiB	6500	约 45 GiB

精确字节数记录在 data/asset_manifest.json。

Hugging Face 项目仓库会故意排除 data/libero/。从 Hub 下载项目后，必须从 LIBERO 原始分发源单独下载这 130 个 HDF5，并恢复到以下相对目录；不要改变 suite 子目录名称：

data/libero/libero_10/
data/libero/libero_90/
data/libero/libero_goal/
data/libero/libero_object/
data/libero/libero_spatial/

data/tracks/ 会随本项目上传，不需要重新生成。

原始数据路径：

data/libero/<suite>/<task>_demo.hdf5

轨迹路径：

data/tracks/<suite>/uniform_400_reinit_16/<task>/demo_<n>.hdf5

3.2 训练/验证拆分

每个 task 的前 45 个 demo 用于训练，最后 5 个 demo 用于验证：

train: 0.9
val:  -0.1

五个 suite 的 Motion Tokenizer 数据会合并训练；每个 IDM 只读取自己的 suite。

3.3 轨迹质量

最终排除清单：

data/manifests/corrupt_tracks.json

当前清单报告剩余损坏窗口数为 0。详细检查报告位于：

track_quality/raw_libero_report.json
track_quality/track_quality_report.json
track_quality/training_impact_exhaustive.json
track_quality/corrupt_tracks_exhaustive_after.json

除非 scripts/verify_project.py 或实际 HDF5 读取失败，否则不要重新生成轨迹。 重新生成轨迹需要 CoTracker 和额外 GPU 时间，但全量训练本身不需要 CoTracker。

4. 权重资产

4.1 官方 IDM 初始化权重

五个官方权重位于：

weights/pretrained/official_idm/
├── libero_10_gaussian.pt
├── libero_90_gaussian.pt
├── libero_goal_gaussian.pt
├── libero_object_gaussian.pt
├── libero_spatial_gaussian.pt
└── SHA256SUMS

每个文件约 740 MiB，总计约 3.7 GiB。SHA256：

1dc2d4f857b17dfc3e9976a3076a473d92fd4054ea7b2b26d7dcbd6a162ec035  libero_10_gaussian.pt
5d965c003af829812d67b365ee7ebca995547d28ea5476e27803134a096382cb  libero_90_gaussian.pt
43a7699d2c8483d9096cf81bb0064970c798e3a0f92b5d6e725aa67e9508ba8c  libero_goal_gaussian.pt
2c1db9f07b8fc9399c7651261f57524e1e3c4bad6cbbbf6216e7d9c5be6cb0a0  libero_object_gaussian.pt
814ca38d6d5c41b74b438592f6762926fdda23473e6303449d3c3668af13aac7  libero_spatial_gaussian.pt

官方 IDM 原本使用双视角和 proprioception。单视角迁移代码 amplify/utils/idm_transfer.py 会：

1. 提取对应 suite 的 inverse_dynamics.* 参数。
2. 复制所有尺寸一致的目标参数。
3. 将双视角 img_proj.weight [768,1024] 转为 agentview img_proj.weight [768,512]。
4. 去掉目标模型不存在的 proprioception 投影。
5. 重新生成单视角 attention mask。
6. 使用全新优化器开始 fine-tune。

当前五个 suite 均验证为 59/59 个目标参数张量迁移，参数覆盖率 100%。

4.2 Motion Tokenizer 权重

官方 checkpoint 同时包含双视角 Motion Tokenizer。本项目会复制全部尺寸一致 参数，将 encoder.encoder_proj.weight [768,1600] 切出 agentview 对应的 [768,800]，并将两行 view embedding 切为 agentview 一行。目标单视角模型 验证为 48/48 张量、100% 参数覆盖；迁移后所有参数仍然参与训练，不依赖 eye_in_hand。共享 tokenizer 输出到：

weights/trained/motion_tokenizer/<run_name>/

IDM 必须使用这个新训练的单视角 best.pt。

默认初始化来自 libero_10_gaussian.pt。libero_10/90/goal/spatial 中内置的 Tokenizer 完全相同；libero_object 内置的是另一组参数。如果后续实验发现 object 明显落后，可用下面的环境变量单独训练 object tokenizer：

MT_INIT_CHECKPOINT=weights/pretrained/official_idm/libero_object_gaussian.pt \
RUN_NAME=singleview_mt_libero_object \
bash scripts/train_motion_tokenizer.sh \
  'train_datasets=[libero_object:traj0.9]' \
  'val_datasets=[libero_object:traj-0.1]' \
  balance_datasets=false

需要完全随机初始化做对照实验时显式传入 init_from_official=null eval_before_train=false。

4.3 ResNet-18 预训练权重

IDM 使用 timm 的 resnet18.a1_in1k 预训练权重，约 47 MB。该文件当前不在 项目 weights/ 目录内；第一次构建 IDM 时通常会自动下载到 Hugging Face 缓存。目标机器在正式训练前应主动验证：

python - <<'PY'
import timm
timm.create_model("resnet18", pretrained=True, num_classes=0)
print("ResNet-18 pretrained weight is ready")
PY

如果目标机器完全离线，需要提前复制对应 Hugging Face 缓存，或把该权重纳入 离线资产。Motion Tokenizer 设置 cond_on_img=false，只有 IDM 阶段需要它。

5. 环境要求与创建

5.1 基础要求

• Linux
• NVIDIA GPU；完整训练建议 24 GB 显存或更多
• NVIDIA 驱动兼容 CUDA 12.4
• Conda（Miniconda 或 Miniforge）
• Python 3.10
• PyTorch 2.5.1 + CUDA 12.4
• torchvision 0.20.1
• GNU screen：仅后台运行需要
• 足够磁盘空间：基础项目约 142 GiB，完整训练还预计需要约 11–12 GiB

建议目标磁盘至少预留 170 GiB 可用空间，避免 checkpoint 保存时耗尽。

5.2 自动创建环境

进入项目根目录：

cd /path/to/libero_singleview_idm
bash scripts/setup_env.sh
conda activate amplify

setup_env.sh 默认创建名为 amplify 的 Conda 环境。它是幂等脚本：

• 环境不存在：创建 Python 3.10 环境并安装依赖。
• 环境已完整：直接跳过，不重复下载。
• 环境存在但依赖不完整：补装依赖。
• 安装结束后执行 pip check。

可选参数：

# 使用另一个环境名
CONDA_ENV_NAME=libero-idm bash scripts/setup_env.sh

# 明确要求重新安装
FORCE_REINSTALL=true bash scripts/setup_env.sh

# 替换 PyTorch wheel 源
TORCH_INDEX_URL=<index-url> bash scripts/setup_env.sh

环境创建脚本中的 conda activate 不会永久改变父 shell，所以脚本结束后仍需 手动执行一次：

conda activate amplify

5.3 环境检查

python - <<'PY'
import torch
import torchvision
import amplify

print("torch:", torch.__version__)
print("torchvision:", torchvision.__version__)
print("CUDA build:", torch.version.cuda)
print("CUDA available:", torch.cuda.is_available())
print("GPU count:", torch.cuda.device_count())
print("amplify:", amplify.__file__)
PY

python -m pip check
nvidia-smi -L

从项目根目录执行时，amplify.__file__ 应指向当前项目的 amplify/。

6. 迁移到新机器后的必做校验

不要直接开始全量训练。按顺序执行：

cd /path/to/libero_singleview_idm
conda activate amplify

# 如果项目来自 Hugging Face，先单独下载原始 LIBERO 到 data/libero/

# 检查五个 suite 的数据数量、轨迹数量和官方权重
python scripts/verify_project.py

# 检查官方权重哈希
(
  cd weights/pretrained/official_idm
  sha256sum -c SHA256SUMS
)

# 验证五个官方 IDM 到单视角目标模型的迁移
python scripts/verify_idm_transfers.py

# 查看空间和 GPU
df -h .
nvidia-smi -L

预期结果：

• 原始 HDF5：130 个。
• 轨迹 HDF5：6500 个。
• 五个官方权重均存在。
• bad windows: 0。
• 五个 SHA256 均为 OK。
• 五个 IDM 均为 100.000% parameters, 59/59 tensors。

如果这些检查通过，不要重新下载数据、重新复制权重或重新生成轨迹。

7. 默认训练配置

7.1 共享 Motion Tokenizer

配置文件：cfg/train_motion_tokenizer_singleview.yaml

参数	默认值
摄像头	agentview
轨迹方法	uniform_400_reinit_16
轨迹长度	16
点数	400
hidden size	768
codebook size	2048
transformer layers	2
attention heads	8
初始化	官方 Tokenizer 的 agentview 切片
epoch	30
global batch size	256
单 GPU micro batch 上限	16
AMP	BF16
保存间隔	10 epoch
图像条件	关闭

7.2 每个 suite 的 IDM

配置文件：cfg/train_inverse_dynamics_singleview.yaml

参数	默认值
模型类型	Gaussian
输入视角	agentview
轨迹条件	开启
起始图像条件	开启
proprioception	关闭
text	关闭
action horizon	16
action dimension	7
transformer layers	4
attention heads	8
learning rate	3e-5
epoch	50
global batch size	256
单 GPU micro batch 上限	16
AMP	BF16
保存间隔	10 epoch

保持 BF16。此前在 RTX 4090 上测试时，FP16 可能出现“显示的 loss 有限，但 GradScaler 因非有限梯度跳过所有 optimizer update”的静默失败。当前代码会记录 并检查真实 optimizer update。

batch_size=256 是目标全局 batch；gpu_max_bs=16 是每个 GPU 的 micro batch 上限，代码会使用梯度累积补足目标 batch。

8. 冒烟测试

8.1 单卡冒烟测试

该脚本会用少量 libero_10 数据依次测试 Motion Tokenizer 和 IDM，并检查 优化器确实发生更新：

GPU_ID=0 USE_WANDB=false bash scripts/smoke_single_gpu.sh

输出位于：

weights/smoke_tests_single/

8.2 DDP 冒烟测试

先确认至少有两张可见 GPU：

CUDA_VISIBLE_DEVICES=0,1 \
NPROC_PER_NODE=2 \
USE_WANDB=false \
bash scripts/smoke_ddp.sh

输出位于：

weights/smoke_tests_ddp/

只有在冒烟测试完成、loss 有限、check_optimizer_update.py 通过后，才能启动 相同模式的完整训练。

9. 推荐的完整训练流程

9.1 统一训练入口

推荐使用：

scripts/train_pipeline.sh

它会：

1. 先训练共享 Motion Tokenizer。
2. 找到 tokenizer 的 best.pt。
3. 依次训练五个 suite 的 IDM。
4. 每个阶段成功结束后写入 .completed。
5. 再次运行时跳过有 .completed 的阶段。
6. 如果有 latest.pt 但没有 .completed，自动断点续训。

五个 IDM 默认是依次训练，不是五个任务并发训练。DDP 模式下，每一个 IDM 会独占该命令可见的所有 GPU。

9.2 单卡完整训练

GPU_ID=0 USE_WANDB=false \
bash scripts/train_pipeline.sh single all

9.3 单机多卡 DDP 完整训练

两卡：

CUDA_VISIBLE_DEVICES=0,1 \
NPROC_PER_NODE=2 \
USE_WANDB=false \
bash scripts/train_pipeline.sh ddp all

八卡：

CUDA_VISIBLE_DEVICES=0,1,2,3,4,5,6,7 \
NPROC_PER_NODE=8 \
USE_WANDB=false \
bash scripts/train_pipeline.sh ddp all

当前 DDP 包装脚本使用 --standalone --nnodes=1，只支持单机多卡，不是多节点 训练脚本。不要在没有修改 rendezvous 配置的情况下直接用于多节点。

9.4 使用 screen 后台运行

先激活环境，再启动：

conda activate amplify

CUDA_VISIBLE_DEVICES=0,1 \
NPROC_PER_NODE=2 \
USE_WANDB=false \
bash scripts/launch_screen.sh libero_train \
  bash scripts/train_pipeline.sh ddp all

查看：

screen -ls
screen -r libero_train
tail -f logs/libero_train.log

在 screen 内按 Ctrl-A，再按 D，可断开但保持训练运行。

服务器或进程中断后，重新执行完全相同的 train_pipeline.sh 命令即可：

• .completed 阶段被跳过。
• 有 latest.pt 的未完成阶段自动续训。
• 尚未开始的 suite 从对应官方 IDM 初始化。

9.5 只训练部分阶段

只训练 Motion Tokenizer：

NPROC_PER_NODE=2 USE_WANDB=false \
bash scripts/train_pipeline.sh ddp motion_tokenizer

使用已有 tokenizer，只训练 IDM：

MT_CHECKPOINT=weights/trained/motion_tokenizer/<run>/best.pt \
NPROC_PER_NODE=2 USE_WANDB=false \
bash scripts/train_pipeline.sh ddp idms

只训练部分 suite：

SUITES=libero_10,libero_goal \
MT_CHECKPOINT=weights/trained/motion_tokenizer/<run>/best.pt \
NPROC_PER_NODE=2 USE_WANDB=false \
bash scripts/train_pipeline.sh ddp idms

支持的 suite 名称严格为：

libero_10
libero_90
libero_goal
libero_object
libero_spatial

9.6 分阶段脚本

如需更细控制，可直接使用：

scripts/train_motion_tokenizer.sh
scripts/train_motion_tokenizer_ddp.sh
scripts/train_idm.sh
scripts/train_idm_ddp.sh
scripts/train_all_idms.sh

例如：

GPU_ID=0 USE_WANDB=false \
bash scripts/train_motion_tokenizer.sh

MT=weights/trained/motion_tokenizer/singleview_mt_all_libero/best.pt

GPU_ID=0 USE_WANDB=false \
bash scripts/train_idm.sh libero_10 "$MT"

如果需要向单个阶段传入特有 Hydra 参数，优先使用分阶段脚本。统一 pipeline 末尾提供的 Hydra override 会被应用到所有选中阶段。

10. 训练输出、权重和指标

10.1 Pipeline 默认输出名称

单卡 pipeline：

weights/trained/motion_tokenizer/
  singleview_mt_all_libero/

weights/trained/inverse_dynamics/
  singleview_idm_<suite>_transfer_seed_0/

DDP pipeline：

weights/trained/motion_tokenizer/
  singleview_mt_all_libero_ddp/

weights/trained/inverse_dynamics/
  singleview_idm_ddp_<suite>_transfer_seed_0/

10.2 每个 run 的文件

<run>/
├── latest.pt
├── best.pt
├── epoch_0010.pt
├── epoch_0020.pt
├── ...
├── .completed
├── metrics/
│   ├── train_steps.csv
│   ├── val_steps.csv
│   └── epochs.csv
└── transfer_report.json            # 使用官方初始化的 MT/IDM

文件用途：

• latest.pt：完整断点，包含模型、AdamW、scaler、scheduler、epoch 和步数。
• best.pt：最佳验证 loss 的轻量模型，用于后续推理和上传。
• epoch_*.pt：每 10 epoch 的轻量历史权重。
• .completed：只有统一 pipeline 正常结束该阶段后才创建。
• transfer_report.json：MT/IDM 官方权重迁移来源、切片和覆盖情况。

不要用 best.pt 或 epoch_*.pt 继续训练，因为它们不含优化器状态。

10.3 每步文本指标

metrics/train_steps.csv 每个 optimizer update 写一行：

epoch
optimizer_step
global_samples
batch_index
micro_batches
loss
grad_l2_norm
grad_clip_threshold
update_applied
learning_rate
world_size

grad_l2_norm 是梯度裁剪前的全局 L2 norm。update_applied=false 表示出现 非有限更新，当前训练代码会停止而不是继续产生无效权重。

metrics/val_steps.csv 每个验证 batch 写一行。Motion Tokenizer 额外记录轨迹 L1、RMSE 和真实 FSQ perplexity；Gaussian IDM 额外记录 action MAE、RMSE、 7 个逐维 MAE 和夹爪符号准确率。metrics/epochs.csv 写入这些 epoch 聚合值、 训练/验证 loss、学习率和历史最佳验证 loss。官方迁移运行会先写 epoch 0 基线并保存为 best.pt，因此微调退化时不会覆盖更好的初始模型。

CSV 每行立即 flush，不依赖 W&B，可直接用于后续画图。

Gaussian IDM 使用连续负对数似然，loss 在某些情况下可以为负数；负 loss 本身不是错误。NaN、Inf 或 update_applied=false 才是错误。

11. W&B 与凭据

默认关闭 W&B：

USE_WANDB=false

这不会关闭本地 CSV 指标。

如需启用：

wandb login

USE_WANDB=true \
WANDB_PROJECT=libero-singleview-idm \
bash scripts/train_pipeline.sh single all

API key 必须来自 W&B authorize 页面，只输入 key 本身，不要粘贴整条命令、 URL、引号或额外空格。不要把 key 写入：

README.md
scripts/*.sh
cfg/*.yaml
.env.local
Git commit

在服务器上应使用交互登录、环境变量或服务器 secret manager。

12. 断点续训与新实验

推荐方式是重新运行原 pipeline 命令。不要手工移动 latest.pt。

Pipeline 判断：

有 .completed                 → 跳过
无 .completed，有 latest.pt   → 续训
两者都没有                    → 新训练

IDM 续训时必须关闭官方初始化：

resume=true
init_from_official=null

统一 pipeline 已自动处理这一点。

如果要开始一个真正的新实验，不要复用旧 run 名称。设置：

MT_RUN_NAME=<new_mt_run> \
IDM_RUN_PREFIX=<new_idm_prefix> \
bash scripts/train_pipeline.sh ddp all

SKIP_COMPLETED=false 不是创建新实验的替代方案。创建新实验应使用新 run 名称， 以免错误续训或覆盖实验语义。

13. 常用环境变量

大部分情况下不需要设置路径变量：

变量	默认值/作用
GPU_ID	单卡脚本使用的 GPU，默认 0
CUDA_VISIBLE_DEVICES	限制进程可见 GPU
NPROC_PER_NODE	DDP 进程数，通常等于可见 GPU 数
USE_WANDB	默认 false
WANDB_PROJECT	W&B 项目名
MT_CHECKPOINT	pipeline 的已有 tokenizer 权重
MT_RUN_NAME	pipeline tokenizer run 名
IDM_RUN_PREFIX	pipeline IDM run 前缀
IDM_SEED	默认 0
SUITES	逗号分隔的 suite 子集
SKIP_COMPLETED	默认 true
CHECKPOINT_ROOT	默认 weights/trained
LIBERO_DATA_ROOT	默认 data/libero
TRACK_ROOT	默认 data/tracks
OFFICIAL_IDM_ROOT	默认 weights/pretrained/official_idm
PYTHON_BIN	覆盖训练脚本使用的 Python

只有把数据放在项目外部时才应覆盖路径变量。标准迁移应保留相对目录，不创建 机器特定 .env.local。

14. Hugging Face 上传、下载和磁盘注意事项

本机完整项目约 142 GiB：

LIBERO raw            约 94 GiB
trajectory tracks     约 45 GiB
official IDM          约 3.7 GiB
code/reports          少量

Hub 上传策略明确排除可从原始来源获得的 data/libero/，因此首轮上传约 49 GiB；训练计划预计再产生约 11–12 GiB，最终约 60 GiB。

上传或复制时：

1. 保持整个项目内部目录层级。
2. 空间不足时不要先额外创建一份 tar；直接流式上传目录。
3. 根目录 .gitignore 只排除原始 data/libero/ 和缓存/密钥文件。
4. data/tracks/、官方 IDM 和 weights/trained/ 应上传到 Hub。
5. 本机 .git/info/exclude 只用于防止本地 Git 误 stage 大文件；HF 文件夹 上传不会读取它。
6. 推荐使用 Hugging Face Xet 支持的 hf upload，不要对 49+ GiB 使用普通 git push。
7. 免费账户的私有存储额度为 100 GB；当前排除 raw 数据后的计划可放入， 但仍应在 Hub 设置页监控存储使用量。
8. 公共发布前应再次确认轨迹衍生数据和官方权重的许可证/分发要求。
9. 从 Hub 下载到目标机器后，另外下载原始 LIBERO，再运行第 6 节全部校验。

完整资产精确清单：

data/asset_manifest.json
weights/pretrained/official_idm/SHA256SUMS

15. 离线视频推理

根目录的 infer_offline_video.py 提供单视角离线推理入口。它保持与训练完全 相同的处理：

离线 agentview 视频
  → 切成 16 帧窗口
  → 每个窗口生成 20×20 均匀点
  → CoTracker 得到 [16,400,2]
  → 使用训练时相同的坐标顺序和 [-1,1] 归一化
  → 加载 Motion Tokenizer best.pt
  → 加载视频所属 suite 的 IDM best.pt
  → 输出 LIBERO 原始动作约定下的 [16,7] 动作

不要在推理时引入 Forward Dynamics 或 T5。不要直接把原始像素送入 IDM 并省略 轨迹，因为当前 IDM 配置 cond_on_tracks=true。LIBERO loader 使用原始 7 维 action，因此这个项目路径不做额外 action 反归一化。

首次直接处理 MP4 前安装并校验官方 CoTracker2 源码和权重：

bash scripts/setup_cotracker.sh

源码保存到 third_party/co-tracker/，权重保存到 weights/pretrained/cotracker/cotracker2.pth。脚本会避开失效的 localhost 代理，权重默认从 hf-mirror.com 获取；二者都存在时会跳过下载。项目固定使用 CoTracker commit 82e02e8，下载后还会校验 checkpoint SHA256。

使用本地 CoTracker2 直接从 MP4 生成 20×20 均匀点：

conda activate amplify
python infer_offline_video.py \
  --video /path/to/agentview.mp4 \
  --motion-tokenizer weights/trained/motion_tokenizer/RUN/best.pt \
  --idm weights/trained/inverse_dynamics/RUN_seed_0/best.pt \
  --cotracker-root third_party/co-tracker \
  --stride 8 \
  --output outputs/video_actions.npz

默认会先把视频帧缩放到 Motion Tokenizer checkpoint 中记录的训练尺寸 128×128，再运行 CoTracker，以匹配训练分布；确实需要保留原分辨率时才使用 --preserve-resolution。LIBERO HDF5 的环境元数据记录 control_freq=20，因此 脚本还会默认把高帧率视频降采样到 20 FPS；输入低于 20 FPS 时会拒绝伪造重复帧。 只有已经确认每一帧就是一个 LIBERO 控制步时才用 --target-fps 0。 stride 必须在 1–16 之间，否则无法为每一帧生成动作。

如果轨迹已离线生成，可传入 [窗口数,16,400,2] 的 NPY，默认坐标为 CoTracker 的像素 (x,y)，并假定像素坐标对应输入视频的原始尺寸。已经归一化为 [-1,1] 且坐标顺序为 (y,x) 时，另加 --track-format normalized_yx：

python infer_offline_video.py \
  --video /path/to/agentview.mp4 \
  --tracks-npy /path/to/tracks_xy.npy \
  --motion-tokenizer weights/trained/motion_tokenizer/RUN/best.pt \
  --idm weights/trained/inverse_dynamics/RUN_seed_0/best.pt \
  --output outputs/video_actions.npz

NPZ 同时保存逐帧融合后的 actions [T,7]、原始 action_windows [W,16,7]、窗口起点和每帧重叠计数。默认对重叠窗口连续平均； 只有明确需要二值夹爪时才加 --binarize-gripper。脚本已通过窗口覆盖、坐标处理 和重叠融合单元测试；完整 MP4 → CoTracker → 动作仍需等实际训练权重完成后做 任务级精度评估。

根目录的 eval_libero.py 来自上游 AMPLIFY，不是本项目的离线视频入口。

训练安全性说明

• allow_padded_windows=false：默认只训练完整 16 步窗口，不再把 episode 尾部 零填充 action 当成真值。
• Motion Tokenizer 默认 balance_datasets=true，避免 libero_90 因样本量大 主导五套联合训练；IDM 仍按 suite 分开训练。
• 配置中的 codebook_size=2048 是上游命名；实际 FSQ levels [8,8,6,5] 对应 1920 个离散组合，日志使用真实的 1920 计算 perplexity。
• latest.pt 是可恢复的完整训练状态；best.pt 和 epoch_*.pt 仅含模型权重， 误用于恢复会给出明确错误。
• metrics/val_steps.csv 额外记录 action MAE、RMSE、7 个逐维 MAE 和夹爪符号 准确率；所有 CSV 都逐行刷新。

16. 故障排查

数据或权重缺失

python scripts/verify_project.py

如果数量不符，先对照 data/asset_manifest.json 和远端上传清单，不要直接删除 现有文件或重新下载整个数据集。

首次 IDM 启动时无法连接 Hugging Face

这是 timm 在获取 ResNet-18 预训练权重。联网预下载，或复制 models--timm--resnet18.a1_in1k 对应缓存。T5 不是当前依赖。

CUDA OOM

优先减小 gpu_max_bs，保持 batch_size=256，让梯度累积维持目标全局 batch：

NPROC_PER_NODE=2 bash scripts/train_pipeline.sh ddp all gpu_max_bs=8

如果只想调整某一阶段，请使用对应的分阶段脚本，不要把阶段专属 override 传给完整 pipeline。

DDP 卡住

依次检查：

1. NPROC_PER_NODE 是否等于可见 GPU 数。
2. CUDA_VISIBLE_DEVICES 是否在 screen 子进程中继承。
3. 每张 GPU 是否有其他进程占用。
4. 所有 rank 是否读取同一项目目录和数据目录。
5. 日志中是否有某个 rank 提前 OOM 或异常退出。

不要在同一组 GPU 上同时启动两个 DDP 作业。

loss 为负

Gaussian IDM 的连续 NLL 可以为负。检查 NaN/Inf、验证趋势、梯度 norm 和 update_applied，不要仅凭 loss 正负判断训练错误。

loss 有限但模型不更新

检查：

metrics/train_steps.csv
update_applied
grad_l2_norm
optimizer_step

必须使用 BF16，不要改回 FP16。也可以再次运行：

python scripts/check_optimizer_update.py <run>/latest.pt

W&B 提示 API key 长度错误

只粘贴 authorize 页面给出的 key 本体。不要粘贴 URL、shell 命令、JSON、 前后引号或多余空格。也可以保持 USE_WANDB=false，本地 CSV 不受影响。

磁盘不足

df -h .
du -sh data/libero data/tracks weights

latest.pt 是唯一必须保留的完整续训状态；best.pt 和周期权重是轻量模型状态。 不要在训练过程中删除正在写入的 latest.pt。

17. Codex 接手验收清单

另一台机器上的 Codex 在宣布“可以训练”前，必须完成：

• 确认当前工作目录是项目根目录。
• 确认 data/libero 和 data/tracks 是可读的真实目录。
• 运行 scripts/setup_env.sh 并激活正确 Conda 环境。
• 运行 python -m pip check。
• 运行 python scripts/verify_project.py。
• 验证五个官方权重 SHA256。
• 运行 python scripts/verify_idm_transfers.py。
• 确认 timm ResNet-18 权重可加载。
• 用 nvidia-smi -L 确认 GPU 数量，而不是假设 8 卡。
• 检查至少约 20 GiB 的训练输出空间，建议更多。
• 完成对应模式的冒烟测试。
• 检查冒烟测试 optimizer_step 增长且 update_applied=true。
• 使用 screen 启动长任务并确认日志持续写入。
• 确认 W&B key 没有写入项目文件。

18. 关键文件索引

文件	作用
README.md	本交接与运行手册
docs/ARCHITECTURE.md	精简架构说明
docs/TRAINING.md	精简训练命令
docs/METRICS.md	CSV 指标字段
docs/STORAGE.md	存储与上传规则
docs/AMPLIFY_UPSTREAM.md	原始 AMPLIFY README
data/asset_manifest.json	数据数量与精确字节数
data/manifests/corrupt_tracks.json	轨迹排除清单
weights/README.md	权重目录说明
cfg/train_motion_tokenizer_singleview.yaml	共享 tokenizer 配置
cfg/train_inverse_dynamics_singleview.yaml	单 suite IDM 配置
scripts/setup_env.sh	Conda 环境创建与幂等检查
scripts/verify_project.py	数据和权重布局检查
scripts/verify_idm_transfers.py	官方 IDM 迁移检查
scripts/smoke_single_gpu.sh	单卡两阶段冒烟测试
scripts/smoke_ddp.sh	DDP 两阶段冒烟测试
scripts/train_pipeline.sh	推荐的完整训练入口
scripts/launch_screen.sh	screen 后台运行与日志
amplify/utils/idm_transfer.py	双视角官方 IDM 到单视角 IDM 的迁移
amplify/utils/step_logger.py	每步 loss/梯度 CSV 记录