Hugging Face's logo

Datasets:
Richard-ZZZZZ
/
particle-flow-handoff

Dataset card Files
xet
 Community
Dataset Viewer
The dataset viewer is not available for this subset.
Cannot get the split names for the config 'default' of the dataset.
Exception:    SplitsNotFoundError
Message:      The split names could not be parsed from the dataset config.
Traceback:    Traceback (most recent call last):
                File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 286, in get_dataset_config_info
                  for split_generator in builder._split_generators(
                                         ~~~~~~~~~~~~~~~~~~~~~~~~~^
                      StreamingDownloadManager(base_path=builder.base_path, download_config=download_config)
                      ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                  )
                  ^
                File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/webdataset/webdataset.py", line 80, in _split_generators
                  raise ValueError(
                  ...<2 lines>...
                  )
              ValueError: The TAR archives of the dataset should be in WebDataset format, but the files in the archive don't share the same prefix or the same types.
              
              The above exception was the direct cause of the following exception:
              
              Traceback (most recent call last):
                File "/src/services/worker/src/worker/job_runners/config/split_names.py", line 68, in compute_split_names_from_streaming_response
                  for split in get_dataset_split_names(
                               ~~~~~~~~~~~~~~~~~~~~~~~^
                      path=dataset,
                      ^^^^^^^^^^^^^
                      config_name=config,
                      ^^^^^^^^^^^^^^^^^^^
                      token=hf_token,
                      ^^^^^^^^^^^^^^^
                  )
                  ^
                File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 340, in get_dataset_split_names
                  info = get_dataset_config_info(
                      path,
                  ...<6 lines>...
                      **config_kwargs,
                  )
                File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 291, in get_dataset_config_info
                  raise SplitsNotFoundError("The split names could not be parsed from the dataset config.") from err
              datasets.inspect.SplitsNotFoundError: The split names could not be parsed from the dataset config.

Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.

YAML Metadata Warning:empty or missing yaml metadata in repo card

Check out the documentation for more information.

particle-flow 完整交接说明（2026-10-14）

这是从 B200 集群打包上传的 particle-flow 全量可继续开发快照（含粒子流 Tokenizer、粒子流 DiT 世界模型、粒子流 JEPA 契约 A/B 世界模型、以及下游视频分割 VOS 与点追踪读出器）。

1. 一键下载、解压与完整性校验

在新机器上下载本仓库（约 300 GB），按顺序解压主分卷与补充包，然后运行校验脚本：

huggingface-cli download Richard-ZZZZZ/particle-flow-handoff --repo-type dataset --local-dir handoff
cd handoff

# 1) 校验全部分卷的 SHA256
(cd parts && sha256sum -c PARTS.sha256 && sha256sum -c particle-flow-supplement.tar.sha256)

# 2) 解压主分卷（particle-flow-handoff.tar.000 .. 034）并覆盖解压补充包（particle-flow-supplement.tar）
cat parts/particle-flow-handoff.tar.* | tar -xf -
tar -xf parts/particle-flow-supplement.tar

# 3) 进入项目根目录并运行完整性校验（必须输出 HANDOFF_VERIFY_OK）
cd particle-flow-handoff
bash ops/verify_handoff.sh

重要说明： parts/particle-flow-supplement.tar（约 5.3 GB）补齐了主分卷打包时未解引用的软链接目标（assets/data/realcam512/cameras_full 512 段相机轨迹、assets/weights/jepa-gpstoken-legacy* 旧版 144p/360p 底座权重）、Reacher 一次性反事实数据集（reacher_true_cf_20260922 与 cf_split.json），以及改为自动识别仓库根目录（支持环境变量 PF_ROOT）的 ops/ 与 jepa/longwin/ 脚本。请务必在解压主分卷后解压 particle-flow-supplement.tar。

2. 环境配置

  • Python 3.12，torch 2.8.0+cu128。
  • 完整依赖锁文件在 env/requirements.lock（含 dm_control、mujoco、stable_worldmodel、hydra-core、wandb、einops 等所有模块共用的依赖）。
  • 在新机器上创建虚拟环境至 env/.venv（详见 env/README.md）：
    python3.12 -m venv env/.venv
env/.venv/bin/pip install -U pip
env/.venv/bin/pip install -r env/requirements.lock

3. 各模块当前状态与继续开发入口

(A) 粒子流 Tokenizer（已收口，保持冻结）

  • V7b11（66 帧长窗口，11 帧分块，long_chunk=11, long_layout=fixed）：gpstoken/ckpts/tokenizer/track-tok-v7b11-step4000/ckpt_00004000.pt（SHA256 cc62f1b73b34487273aa09938d2bf82b05fd5c1de69d7ef440229c99bfa81555）。
  • V7（≤17 帧 2D/3D 底座）：gpstoken/ckpts/tokenizer/track-tok-f2-selfcond-v7-step4500/ckpt_00004500.pt。
  • 3D 渲染与深度头：U3 gpstoken/experiments/gs3d/unified/U3/models/ckpt_008000.pt；V6j assets/weights/jepa/track_tokenizer/v6j/head_008000.pt。
  • 约束：始终设置 export TRACK_OVERRIDES='{"self_cond_eval_iters": 1}'，绝不要往 TRACK_OVERRIDES 中添加 long_chunk。

(B) 粒子流 DiT 世界模型（当前主线：realcam512_v7b11_df_cam2）

  • 已验证结论：
    1. realcam64_v7b11_df 在第 20000 步收口（assets/runs/dit/realcam64_v7b11_df/models/ckpt_00020000.pt），采样评估在 assets/runs/dit_eval/realcam64_step20000_ema/。
    2. realcam512_v7b11_df 加入真实文本与相机条件训至第 3000 步（assets/runs/dit/realcam512_v7b11_df/models/ckpt_00003000.pt）。条件检验（ops/dit_condition_check.py）证明：文本条件已生效（换 caption 掉 4.9 dB），但相机条件被 slot_gate[0] = -1 抵消输入残差而失效。
    3. 第一版修复 realcam512_v7b11_df_cam（去掉未门控输入残差、门控清零）训至第 1500 步（assets/runs/dit/realcam512_v7b11_df_cam/models/ckpt_00001500.pt），因门控清零而相机 token 末层非零陷入鞍点。
    4. **第二版修复 realcam512_v7b11_df_cam2**（gpstoken/configs/dit_l_realcam512_v7b11_causal_df_cam2.yaml：camera_slot_input: false + camera_slot_gate_init: 0.1 + reset_camera_slot_token: true）打破死锁，在新机器上从 realcam512_v7b11_df_cam/models/ckpt_00001500.pt 继续：
      WANDB_API_KEY=<your_key> \
INIT=$PWD/assets/runs/dit/realcam512_v7b11_df_cam/models/ckpt_00001500.pt \
CONFIG=configs/dit_l_realcam512_v7b11_causal_df_cam2.yaml \
PROJECT=realcam512_v7b11_df_cam2 \
BATCH=22 ACCUM=1 \
CUDA_VISIBLE_DEVICES=0,1,2,3,4,5,6,7 \
bash ops/launch_dit_realcam512.sh
    5. 训练到第 2000 步后，运行 bash ops/dit_camera_watch.sh 2000 检查门控并评测静态/倒放/替换相机条件。

(C) 粒子流 JEPA 世界模型

  • 契约 B（V7b11 长窗口 66 帧 / 11 帧块，PushT & TwoRoom）：
    • 设计文档：docs/contract_b.md；代码：jepa/longwin/{cache,data,model,train,evaluate,protocol}.py。
    • 缓存：assets/runs/jepa/contract_b/cache/{pusht,tworoom}（含 codes.npy、static.npy、action.npy、code_stats.pt、meta.json，均已通过 STATS_PAIRING_OK）。
    • 第一轮 20k 步、batch 32 的官方 3×3×100 Direct 结果已出并写入 assets/ledgers/jepa_contract_b_ledger_20261013：
      • **TwoRoom Direct：96.33 ± 2.65%**（种子 42 达 99.3%，对照契约 A 锁定值 100.00 ± 0.00%）
      • **PushT Direct：41.33 ± 4.26%**（对照契约 A 锁定值 85.67 ± 0.58%）
    • 全部 6 个 checkpoint_020000.pt 与 18 份 Direct 评测报告均在 assets/runs/jepa/contract_b/runs_20261013/。
    • 在新机器上的下一步：运行已准备好的大 batch（BATCH=256, STEPS=30000）与大容量摘要（--dim 512 --queries 32，ops/run_pusht_diag_and_capacity.sh）实验以进一步提升 PushT Direct。
  • 契约 A（8 帧 144p，Reacher）：
    • 官方 3×3×100 Direct 为 1.56 ± 0.19%（assets/ledgers/jepa_reacher_ledger_20261012）；完整根因诊断与粒子世界模型 CEM 搜索（256×10 达 **42.3 ± 4.6%**，搜索非 Direct）记录在 assets/ledgers/jepa_reacher_diagnostics_20261013。
    • 三个种子的 checkpoint_018000.pt、一次性生成的反事实数据集 reacher_true_cf_20260922、cf_split.json 及缓存元数据均已打包。

(D) 下游任务：粒子读出器（视频分割 VOS & 点追踪 Tracking）

  • 代码：downstream/{particles,reader,vos,track}.py。
  • 视频目标分割（DAVIS-17 val 未来帧 J&F）：
    • 从免训练传播 0.446 → v1 0.564 → v2（时变 Legendre 粒子标签）0.592 → v3（加入 YouTube-VOS 2019）0.612（assets/runs/downstream/vos_reader_v3_b5_e8/best.pt）。
  • 点追踪（TAP-Vid-DAVIS 内部协议）：
    • 修正 Kubric 遮挡标记后，TrackReader（每查询每帧独立 token + 跨帧时序注意力）达 δ 0.533 / AJ 0.424 / OA 0.851（assets/runs/downstream/track_reader_v2/best.pt），优于免训练 field_app（0.511 / 0.406）。
  • 训练缓存（vos_cache_v3、track_v2_cache 等）及源数据（DAVIS、YouTube-VOS、精简版 Kubric 400 分片）均已打包，可直接运行 ops/run_downstream_long.sh 继续更长周期训练。

4. 未打包的大体积公开/可再生项（按需获取）

  1. LeWM 公开环境 HDF5 数据集（评测契约 A/B 环境或重编缓存时使用，运行 bash ops/fetch_jepa_env_data.sh 自动从 Hugging Face 下载 quentinll/lewm-pusht 与 quentinll/lewm-tworooms 到 jepa/data/datasets/，Reacher 为 quentinll/lewm-reacher）。
  2. Reacher 契约 A 的 expert.npy（306 GB）：仅在重新训练契约 A Reacher 时需要，可由 reacher.h5 + assets/weights/jepa/reacher_causal_screen 重新编码生成；其余所有元数据与索引均已包含。
  3. Wan2.2-TI2V-5B 文本编码器（11 GB）：realcam512_v7b11/text_cache 已在包内，训练/采样 DiT 无需此权重；仅在新视频上重建文本缓存时从 Wan-AI/Wan2.2-TI2V-5B 下载。
  4. track_tok（25 GB）：Tokenizer 预训练帧数据（Tokenizer 已冻结，无需使用）。
Downloads last month
197
Total file size:
298 GB