Dataset Viewer
Duplicate
The dataset viewer is not available for this split.
Cannot load the dataset split (in streaming mode) to extract the first rows.
Error code:   StreamingRowsError
Exception:    ReadError
Message:      invalid header
Traceback:    Traceback (most recent call last):
                File "/src/services/worker/src/worker/utils.py", line 147, in get_rows_or_raise
                  return get_rows(
                      dataset=dataset,
                  ...<4 lines>...
                      column_names=column_names,
                  )
                File "/src/libs/libcommon/src/libcommon/utils.py", line 272, in decorator
                  return func(*args, **kwargs)
                File "/src/services/worker/src/worker/utils.py", line 127, in get_rows
                  rows_plus_one = list(itertools.islice(safe_iter(ds, dataset=dataset), rows_max_number + 1))
                File "/src/services/worker/src/worker/utils.py", line 483, in safe_iter
                  yield from ds.decode(False) if ds.features else ds
                File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2951, in __iter__
                  for key, example in ex_iterable:
                                      ^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2471, in __iter__
                  for key, example in self.ex_iterable:
                                      ^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 326, in __iter__
                  for key_example in islice(self.generate_examples_fn(**gen_kwargs), shard_example_idx_start, None):
                                     ~~~~~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/webdataset/webdataset.py", line 127, in _generate_examples
                  for example_idx, example in enumerate(self._get_pipeline_from_tar(tar_path, tar_iterator)):
                                              ~~~~~~~~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/webdataset/webdataset.py", line 32, in _get_pipeline_from_tar
                  for filename, f in tar_iterator:
                                     ^^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/utils/track.py", line 49, in __iter__
                  for x in self.generator(*self.args):
                           ~~~~~~~~~~~~~~^^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/utils/file_utils.py", line 1404, in _iter_from_urlpath
                  yield from cls._iter_tar(f)
                File "/usr/local/lib/python3.14/site-packages/datasets/utils/file_utils.py", line 1355, in _iter_tar
                  stream = tarfile.open(fileobj=f, mode="r|*")
                File "/usr/local/lib/python3.14/tarfile.py", line 1959, in open
                  t = cls(name, filemode, stream, **kwargs)
                File "/usr/local/lib/python3.14/tarfile.py", line 1822, in __init__
                  self.firstmember = self.next()
                                     ~~~~~~~~~^^
                File "/usr/local/lib/python3.14/tarfile.py", line 2873, in next
                  raise ReadError(str(e)) from None
              tarfile.ReadError: invalid header

Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.

AVSpeech 93,942 完整数据集

本仓库是选定 93,942 个合成视频、256,708 个 target、390,402 条 v6 prompt 的独立公开入口。 当前状态:COMPLETE。下表所列最终媒体与GT均已上传并绑定下载索引。

内容 已上传并绑定索引 总数
视频与 mixture 93,942 93,942
target/residual 完整视频组 93,942 93,942
target/residual 音频对 256,708 256,708
文本 prompt 390,402 390,402
视频、mixture、所有 target/residual 都已齐全的视频 93,942 93,942

完整性记录见 STATUS.json;本版音频合成已完成。 已上传对象使用 HF 服务器端复制汇集到本仓库;大文件无需重新经过本地网络上传。 源对象已全量回读核验;新仓库对照不可变 LFS SHA256、大小及逐文件清单,并做小批真实回读。不会声称每份新副本都重复下载了一遍。

目录与一一对应关系

README.md                   本说明
STATUS.json                 当前实际覆盖进度,COMPLETE 才表示所有媒体齐全
SELECTION.json              固定版本、原始清单 SHA256 和六类 prompt 数量
prompts.jsonl.gz             全部 390,402 条 v6 prompt
videos.jsonl.gz              视频、模式、target 槽位、source/window ID、配方哈希
archives.jsonl.gz            所有已核验 TAR 的本仓库路径、固定 commit、SHA256
audio_files.jsonl.gz        target/residual 成员路径、编码和解码后 SHA256
media/archives/*.tar         完整合成视频、mixture、配方与合成回执
audio/archives/*.tar        每个 target 的 target_{slot}.wv / residual_{slot}.wv
download_selected.py         按视频 ID 或全量下载并恢复文件布局

同一视频由 composite_id 标识,target 由 (composite_id, slot) 标识;slot 从 0 开始。 每个 target 有至少一条 prompt;同一 target 的多条 prompt 共用同一对 target/residual 音频。 每条 prompt 同时带 source_id、window_id、recipe_sha256,保持与本版媒体绑定。 TAR 只是传输容器,不是重编码;下载程序会还原为:

data/<composite_id>/video.mp4
data/<composite_id>/mixture.wav
data/<composite_id>/target_0.wv
data/<composite_id>/residual_0.wv
 ... 每个 slot 一对音频
data/<composite_id>/recipe.json
data/<composite_id>/render_receipt.json
prompts.jsonl
videos.jsonl
RELEASE.json

音频和视频约定

  • 视频:1280 宽、15fps,保持原固定画幅规则。
  • mixture:48kHz、单声道、float32 WAV。
  • target 与 residual:48kHz、单声道、float32 无损 WavPack,.wv 可用 FFmpeg 解码。不是有损 MP3/AAC。
  • 空间/画内外混合:target 是对应源按人数缩放后的贡献,residual = frozen mixture − target,采用 float32 运算。
  • 时间拼接:target 仅在自己的 10 秒段有声,其他段为零;residual 在该 target 的时间段为零,其他段保留其余声音。
  • 每个 target/residual 长度与完整 mixture 相同。量化前后波形身份和原回执保留,不用新标注替换旧文本。

当前 prompt 版本

v6,390,402 条。保留已批准的 man/woman 表述、英语描述细化、左右计数和外语文本的英文翻译。 不确定身份的已批准描述可能仍使用 person;完整语义人工复核不在本次上传中新增。

类别 条数
Spatial 132,894
Appearance 104,328
Audio 51,750
Temporal 43,884
Identity 30,636
Action 26,910

下载与使用

pip install huggingface_hub requests
hf download TerryShenty/avspeech-93942 download_selected.py --type dataset --local-dir .
python download_selected.py --ids avspeech_fixed100k_000000 --output ./sample
# STATUS 为 COMPLETE 后全量下载:
python download_selected.py --all --output ./avspeech_93942

用 --revision <commit> 固定元数据版本。尚未上传齐全的视频会明确报“仍在上传”,不会静默漏文件。 下载按 TAR 批次取数;只选一个视频也可能需要读取它所在的约4GB分片,适合批量训练数据转移。 文件按 SHA256 校验。所有索引中的 archive repository 都指向本仓库;旧仓库仅留作来源/恢复历史。

上游原素材保留其原有权利和使用条款,本仓库不授予新的原素材权利。

数据分类 / 2026-10-20

01 最新训练数据 — 新版完整训练主入口:93,942视频、256,708目标、390,402 prompts;使用本仓库下载器。

来源与恢复:Longleaf合成媒体与GT;STATUS和archives索引;本次核对331分片大小/SHA,未重新下载全部媒体。

同类数据集合

Downloads last month
8,093

Collection including TerryShenty/avspeech-93942