data-loader/simlingo-posttrain-buckets

SimLingo post-train bucket 迁移包

保存现有 SimLingo post-train 使用的 bucket 索引和样本缓存。 缓存已去除原服务器绝对路径，恢复工具会写入新服务器的数据路径。 不包含 RGB、measurements、boxes、commentary、DriveLM 或 Dreamer 原始数据。 压缩包约 129 MB，解压约 3.86 GB；恢复后的缓存大小随目标路径长度变化。

内容	说明
样本缓存	BUCKET2DATA_remove_missing_dream_jianing.pkl 的可迁移快照
Bucket 索引	bucketsv2_simlingo/buckets_paths.pkl，42 个非空定义，原样保存
train / all	2,023,499 个 expert 样本
train / dream_all	1,058,349 个 Dreamer 样本
其他分组	保留源缓存的全部 train / val buckets；数量见 manifest.json

这是项目实际使用的历史缓存，包含原有过滤结果；恢复工具不重新划分数据。 索引中的路径本来就是 database/simlingo_v2_2025_01_10/...，因此保持不变。 缓存里的绝对路径则需要转换。包内 BUCKET2DATA.portable.pkl 不能直接作为训练缓存。

1. 下载与恢复

使用已恢复的 simlingo 环境 （或 Python 3.8+、NumPy 和 Pillow）。建议 64 GB RAM、20 GB 空闲磁盘。

source "$HOME/envs/simlingo/bin/activate"
huggingface-cli download data-loader/simlingo-posttrain-buckets \
  --repo-type dataset --local-dir /srv/downloads/simlingo-buckets
cd /srv/downloads/simlingo-buckets
sha256sum -c SHA256SUMS

若客户端使用新版命令，将 huggingface-cli download 换成 hf download。 也可从 Files 页面下载全部文件；下载完成后恢复过程不访问网络。

先准备 SimLingo 原始数据，整理为：

/srv/resources/simlingo_data/
  simlingo_v2_2025_01_10/
    data/simlingo/           # RGB、measurements、boxes 等
    commentary/simlingo/
    drivelm/simlingo/
    dreamer/simlingo/

随后恢复缓存、索引，并实际解码代表性的 expert、语言标签和 Dreamer 文件：

python restore.py --database-root /srv/resources/simlingo_data --check-data

结果是在 simlingo_data/ 下新增两个训练入口：

BUCKET2DATA_remove_missing_dream_jianing.pkl
bucketsv2_simlingo/buckets_paths.pkl

恢复工具核验压缩包和内部文件 SHA-256，按字段转换路径，保留样本、顺序和计数， 并拒绝覆盖已有文件。若想先恢复缓存、之后再下载原始数据，可暂时省略 --check-data。 恢复后的缓存绑定指定的数据目录；移动原始数据后，需从此原始迁移包恢复到新的空目录。

2. 接入本项目

把本项目 SimLingo 子目录的 database 链接到资源目录：

PROJECT=/path/to/driving-mid-train
ln -s /srv/resources/simlingo_data "$PROJECT/simlingo_posttrain_bench2drive/database"
cd "$PROJECT/simlingo_posttrain_bench2drive"
python tools/audit_simlingo_data.py --project-root "$PWD" \
  --output validation_logs/data_audit_migrated.json

若 database 已存在，先核对并调整已有入口，不在已有目录里再嵌套创建链接。 保持原有 data_path=database/simlingo_v2_2025_01_10、 bucket_path=database/bucketsv2_simlingo 配置即可。 加载器还支持 SIMLINGO_BUCKET_CACHE 指定缓存文件，但当前项目 preflight 检查默认位置； 优先按上面的目录布局恢复。

官方下载数据的版本、路径和完整性必须与快照匹配。--check-data 是代表性样本检查， 不是数百万样本的完整覆盖证明；若缺少特定路线或标签，补齐对应文件或按项目流程重建缓存， 不要靠修改路径掩盖缺失。该 SimLingo 样本缓存不适用于 FiveVLA 的独立 loader 缓存。

验证与来源

源快照日期：2026-10-15。来源是本项目已使用的共享 SimLingo bucket 文件； 原始文件大小和 SHA-256、各分组数量、包内清单见 manifest.json。 restore-validation.json 记录完整缓存路径往返转换校验、索引检查和真实文件解码结果。 源共享文件未被修改。用途和上游条款见 TERMS.md。