WAM Cosmos3 模型权重与精选续训状态

本仓库汇总 Cosmos3 交接总结中 C01 至 C42 的 42 组实验,保留全部 99 个保存点的模型权重,约 4.177 TB。完整训练状态只保留 V7 High 13k、V7 Low 13k 和 Super32B 61.5k 三份,额外约 361.43 GB;配置、统计、索引、说明和源码归档约 1.386 GB。当前选定内容合计约 4.54 TB。文件保持原始 DCP 内容,没有转换张量格式。

全量完成以 catalog.json 的 status: complete 为准。 model_upload_complete 表示该保存点的模型已上传;upload_complete 表示该点选定的全部文件已提交。ready_for_resume 仅对保留完整训练状态的三个保存点成立。每个完成选定文件上传的保存点都有 SHA256SUMS.json,可以单独下载与校验。

原始交接总结见 Cosmos3 核心修改与实验交接总结。源码为提交 d9ad62c 的归档,位于 source/;解压后可按原始相对路径浏览代码和文档。原训练数据、公共 VAE、tokenizer 等资源需按交接总结另行准备。

保留的训练状态

保存点 内容 模型之外的训练状态
C20 V7 High 13,000 optim、scheduler、trainer 及元数据 55.74 GB
C21 V7 Low 13,000 optim、scheduler、trainer 及元数据 55.74 GB
C03 Super32B 61,500 optim、scheduler、trainer 及元数据 249.94 GB

其余保存点只保留 model/ 和相应配置,不继续上传优化器或训练状态。旧提交历史可能仍包含早期上传的状态;当前 main 目录和 catalog.json 表示本次选定范围。

源文件完整性

99 个保存点的模型 DCP 存储引用检查通过。源机器上的 98 个完整保存点四类组件齐全,元数据引用的分片存在且长度覆盖全部 offset。这个检查不分配 GPU,也不表示已经重新执行训练或逐张量加载。

C12 的 iter_000015000 在源机器上不是完整续训快照。 模型 DCP 存储映射通过,但 optim/.metadata、scheduler/ 和 trainer/ 缺失。本次只保存它的模型,这个历史训练状态缺口不影响选定模型文件的归档。

source_validation.json 记录源机器各组件的检查结果,不代表所有源组件都参与当前上传。ready_for_resume 表示选定的完整续训文件上传齐全且源 DCP 存储映射检查通过;训练仍需相应数据、环境、并行配置和模型代码。

空的 rank 分片按原样保留。它们可能是复制并行下未使用 rank 的正常产物,不能直接按零字节判定损坏。prepared 中的原始占位文件也保持不变;例如 V7 的 body_clips.sqlite 原本为零字节,不能把它当成已验证的 SQLite 数据库。

权重与配置路径

catalog.json
source_validation.json
expected_files.jsonl.gz
files.jsonl.gz
artifact_map.json
checkpoint_release.py
experiments/C20/config.yaml
checkpoints/C20/iter_000013000/
  model/.metadata
  model/*.distcp
  optim/.metadata
  optim/*.distcp
  scheduler/
  trainer/
  SHA256SUMS.json
artifacts/mnt/yjh/...
source/cosmos-main-d9ad62c.tar.gz
docs/
post_train_scripts/

files.jsonl.gz 在全量完成时生成,记录选定文件的大小和 SHA-256。expected_files.jsonl.gz 从上传开始提供当前计划的路径和大小。每个 SHA256SUMS.json 只包含该点当前选定的组件。artifact_map.json 将原机器上的配置、统计和索引路径映射到本仓库位置,迁移时按此恢复挂载或显式修改对应配置。

每组实验使用自己的 experiments/Cxx/config.yaml,并结合交接总结中的 dataloader、动作契约、归一化统计和推理协议。High/Low 专家需要按该家族配对:AP V7 为 C20/C21,RoboTwin V8 为 C36/C37,RoboTwin V9 为 C38/C39。AP V7 的 13,000 步可作为固定对齐点。不要用旧 latest_checkpoint.txt 推断实际保存点;C12 的原 latest 指针本身就与现存目录不一致。

下载一个完整保存点

安装 requirements.txt 中已验证的 Hub SDK。以下命令仅为当前下载进程移除代理,并使用镜像入口:

env -u HTTP_PROXY -u HTTPS_PROXY -u ALL_PROXY \
    -u http_proxy -u https_proxy -u all_proxy \
    HF_ENDPOINT=https://hf-mirror.com HF_HUB_DISABLE_XET=1 \
    hf download yjh001/WAM-cosmos3 --local-dir WAM-cosmos3 \
    --include README.md catalog.json source_validation.json artifact_map.json \
      checkpoint_release.py requirements.txt \
      'checkpoints/C20/iter_000013000/*' 'experiments/C20/*' \
      'artifacts/*' 'source/*'

python WAM-cosmos3/checkpoint_release.py verify \
  --local-dir WAM-cosmos3 --checkpoint C20 --step 13000

下载配对专家时,把 C21 的同一步数路径和配置一并加入 --include。推理通常使用保存点下的 model/;保留训练状态的三个点可下载整个 iteration 目录用于续训。其余保存点提供模型初始化和推理所需权重,不提供原优化器恢复。这些是 PyTorch Distributed Checkpoint 文件,需要 Cosmos3 相应代码加载,不能直接当作单个 safetensors 模型使用 from_pretrained。

上传与断点续传

重新盘点时,先运行 audit_inventory.py、源环境中的 validate_dcp.py 和 prepare_release.py,得到原始完整文件计划。随后使用 select_release.py 选取全部模型和少量续训点;--keep-state C20:13000 可重复指定,--models-only 可省略全部训练状态。--public-used-tb 和 --public-quota-tb 填写账户后台显示的值。选择器会保守核算后续上传量,且不按历史对象清理抵扣空间。修改范围前停止上传进程,选择器会保留旧计划备份。

验证步骤依赖源环境的 PyTorch;上传和文件哈希校验只需本仓库的 requirements.txt。已经选好范围的工作目录直接续传,不要重新生成全量计划。

本机工作目录保存完整上传计划和逐文件状态。重复执行同一命令会核对远端文件大小和哈希,跳过已提交文件,并复用服务端已经收到的完整对象。单个未完成的多段文件会重新发送该文件。

python checkpoint_release.py upload \
  --work /mnt/yjh/cosmos_hf_work_20261027 \
  --repo yjh001/WAM-cosmos3 \
  --endpoint https://hf-mirror.com \
  --token-file /path/to/hf_token \
  --workers 8 --commit-batch 64

python checkpoint_release.py status --work /mnt/yjh/cosmos_hf_work_20261027

token 仅从显式文件或 HF_TOKEN 读取,不使用全局缓存的其他账户。控制请求经 hf-mirror.com,大文件使用签名 URL 直传对象存储,二者均关闭环境代理。脚本直接读取源文件,不生成另一份 TB 级副本;原文件大小或修改时间变化时会停止。一个工作目录只能有一个上传进程。服务端返回存储额度限制时保留已上传进度,不会购买容量或改变仓库可见性。

首次核验可增加 --limit 2,去掉后继续全部文件。全量结束时,上传器再次检查每个远端文件的大小与 LFS SHA-256 或 Git blob SHA-1,并保存 remote_verification.json。

CPU 文件完整性和上传协议回归测试:

python -m unittest -q test_checkpoint_release.py

实验索引

下表中的步数来自 2026 年 10 月 22 日交接总结;上传完整性以 catalog.json 的逐保存点状态为准。

编号 实验 保存步数
C01 Action Pretrain V3 5,000, 10,000, 13,000
C02 Super32B 早期十机 FA2 续训 500
C03 Super32B 当前主线 59,250, 59,500, 59,750, 60,000, 60,250, 60,500, 60,750, 61,000, 61,250, 61,500
C04 Super32B 十一机基线 250
C05 Action Pretrain V4 High 4,000
C06 Action Pretrain V4 Low 4,000
C07 Action Pretrain V5 High 3,500
C08 Action Pretrain V5 Low 4,000
C09 Action Pretrain V6 High 3,500
C10 Action Pretrain V6 Low 3,500
C11 V7 No MoE 2,500, 5,000, 10,000, 13,000, 44,000
C12 V7 No self V2V High 5,000, 10,000, 13,000, 15,000
C13 V7 No self V2V Low 5,000, 10,000, 13,000, 14,500
C14 V7 EgoExo65 重拍 High 5,000, 10,000
C15 V7 EgoExo65 重拍 Low 5,000, 10,000
C16 V7 MultiCam 重拍 High 1,000, 3,000, 5,000, 10,000, 11,500
C17 V7 MultiCam 重拍 Low 1,000, 3,000, 5,000, 10,000, 11,500
C18 No self 预训练后的重拍 High 1,000, 3,000, 5,000, 6,000, 8,000
C19 No self 预训练后的重拍 Low 1,000, 3,000, 5,000, 6,000, 10,000, 11,500, 41,500
C20 Action Pretrain V7 High 5,000, 10,000, 13,000, 14,500
C21 Action Pretrain V7 Low 5,000, 10,000, 13,000, 14,500
C22 AgiBot Beta gripper 10,000, 30,000, 33,000
C23 咖啡机 RLWM 从袜子权重开始 10,000
C24 咖啡机 RLWM 第二轮后训练 10,000
C25 G0.5 V1 4,000
C26 G0.5 Route A High 5,000, 10,000
C27 G0.5 Route A Low 5,000, 10,000
C28 RoboTwin V4 1,000
C29 RoboTwin V5 1,000, 4,000
C30 RoboTwin V6 750, 1,500, 2,750
C31 RoboTwin Head to Multi 前置试验 2,000
C32 RoboTwin SR RGB 前置试验 1,000
C33 RoboTwin V2 10,000
C34 RoboTwin V3 1,000
C35 RoboTwin V7 500, 1,000, 1,500
C36 RoboTwin V8 High 500
C37 RoboTwin V8 Low 500
C38 RoboTwin V9 High 500
C39 RoboTwin V9 Low 500
C40 RoboTwin BWM480 10,000, 18,000
C41 袜子 RLWM 16,000
C42 Solar Ego Camera State 早期试验 2,000
Downloads last month

-

Downloads are not tracked for this model. How to track
Video Preview
loading