The dataset viewer is not available for this split.
Error code: StreamingRowsError
Exception: ReadError
Message: invalid header
Traceback: Traceback (most recent call last):
File "/src/services/worker/src/worker/utils.py", line 147, in get_rows_or_raise
return get_rows(
dataset=dataset,
...<4 lines>...
column_names=column_names,
)
File "/src/libs/libcommon/src/libcommon/utils.py", line 272, in decorator
return func(*args, **kwargs)
File "/src/services/worker/src/worker/utils.py", line 127, in get_rows
rows_plus_one = list(itertools.islice(safe_iter(ds, dataset=dataset), rows_max_number + 1))
File "/src/services/worker/src/worker/utils.py", line 483, in safe_iter
yield from ds.decode(False) if ds.features else ds
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2951, in __iter__
for key, example in ex_iterable:
^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2471, in __iter__
for key, example in self.ex_iterable:
^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 326, in __iter__
for key_example in islice(self.generate_examples_fn(**gen_kwargs), shard_example_idx_start, None):
~~~~~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/webdataset/webdataset.py", line 127, in _generate_examples
for example_idx, example in enumerate(self._get_pipeline_from_tar(tar_path, tar_iterator)):
~~~~~~~~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/webdataset/webdataset.py", line 32, in _get_pipeline_from_tar
for filename, f in tar_iterator:
^^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/utils/track.py", line 49, in __iter__
for x in self.generator(*self.args):
~~~~~~~~~~~~~~^^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/utils/file_utils.py", line 1404, in _iter_from_urlpath
yield from cls._iter_tar(f)
File "/usr/local/lib/python3.14/site-packages/datasets/utils/file_utils.py", line 1355, in _iter_tar
stream = tarfile.open(fileobj=f, mode="r|*")
File "/usr/local/lib/python3.14/tarfile.py", line 1959, in open
t = cls(name, filemode, stream, **kwargs)
File "/usr/local/lib/python3.14/tarfile.py", line 1822, in __init__
self.firstmember = self.next()
~~~~~~~~~^^
File "/usr/local/lib/python3.14/tarfile.py", line 2873, in next
raise ReadError(str(e)) from None
tarfile.ReadError: invalid headerNeed help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.
AVSpeech 93,942 完整数据集
本仓库是选定 93,942 个合成视频、256,708 个 target、390,402 条 v6 prompt 的独立公开入口。 当前状态:COMPLETE。下表所列最终媒体与GT均已上传并绑定下载索引。
| 内容 | 已上传并绑定索引 | 总数 |
|---|---|---|
| 视频与 mixture | 93,942 | 93,942 |
| target/residual 完整视频组 | 93,942 | 93,942 |
| target/residual 音频对 | 256,708 | 256,708 |
| 文本 prompt | 390,402 | 390,402 |
| 视频、mixture、所有 target/residual 都已齐全的视频 | 93,942 | 93,942 |
完整性记录见 STATUS.json;本版音频合成已完成。
已上传对象使用 HF 服务器端复制汇集到本仓库;大文件无需重新经过本地网络上传。
源对象已全量回读核验;新仓库对照不可变 LFS SHA256、大小及逐文件清单,并做小批真实回读。不会声称每份新副本都重复下载了一遍。
目录与一一对应关系
README.md 本说明
STATUS.json 当前实际覆盖进度,COMPLETE 才表示所有媒体齐全
SELECTION.json 固定版本、原始清单 SHA256 和六类 prompt 数量
prompts.jsonl.gz 全部 390,402 条 v6 prompt
videos.jsonl.gz 视频、模式、target 槽位、source/window ID、配方哈希
archives.jsonl.gz 所有已核验 TAR 的本仓库路径、固定 commit、SHA256
audio_files.jsonl.gz target/residual 成员路径、编码和解码后 SHA256
media/archives/*.tar 完整合成视频、mixture、配方与合成回执
audio/archives/*.tar 每个 target 的 target_{slot}.wv / residual_{slot}.wv
download_selected.py 按视频 ID 或全量下载并恢复文件布局
同一视频由 composite_id 标识,target 由 (composite_id, slot) 标识;slot 从 0 开始。
每个 target 有至少一条 prompt;同一 target 的多条 prompt 共用同一对 target/residual 音频。
每条 prompt 同时带 source_id、window_id、recipe_sha256,保持与本版媒体绑定。
TAR 只是传输容器,不是重编码;下载程序会还原为:
data/<composite_id>/video.mp4
data/<composite_id>/mixture.wav
data/<composite_id>/target_0.wv
data/<composite_id>/residual_0.wv
... 每个 slot 一对音频
data/<composite_id>/recipe.json
data/<composite_id>/render_receipt.json
prompts.jsonl
videos.jsonl
RELEASE.json
音频和视频约定
- 视频:1280 宽、15fps,保持原固定画幅规则。
- mixture:48kHz、单声道、float32 WAV。
- target 与 residual:48kHz、单声道、float32 无损 WavPack,
.wv可用 FFmpeg 解码。不是有损 MP3/AAC。 - 空间/画内外混合:target 是对应源按人数缩放后的贡献,residual = frozen mixture − target,采用 float32 运算。
- 时间拼接:target 仅在自己的 10 秒段有声,其他段为零;residual 在该 target 的时间段为零,其他段保留其余声音。
- 每个 target/residual 长度与完整 mixture 相同。量化前后波形身份和原回执保留,不用新标注替换旧文本。
当前 prompt 版本
v6,390,402 条。保留已批准的 man/woman 表述、英语描述细化、左右计数和外语文本的英文翻译。 不确定身份的已批准描述可能仍使用 person;完整语义人工复核不在本次上传中新增。
| 类别 | 条数 |
|---|---|
| Spatial | 132,894 |
| Appearance | 104,328 |
| Audio | 51,750 |
| Temporal | 43,884 |
| Identity | 30,636 |
| Action | 26,910 |
下载与使用
pip install huggingface_hub requests
hf download TerryShenty/avspeech-93942 download_selected.py --type dataset --local-dir .
python download_selected.py --ids avspeech_fixed100k_000000 --output ./sample
# STATUS 为 COMPLETE 后全量下载:
python download_selected.py --all --output ./avspeech_93942
用 --revision <commit> 固定元数据版本。尚未上传齐全的视频会明确报“仍在上传”,不会静默漏文件。
下载按 TAR 批次取数;只选一个视频也可能需要读取它所在的约4GB分片,适合批量训练数据转移。
文件按 SHA256 校验。所有索引中的 archive repository 都指向本仓库;旧仓库仅留作来源/恢复历史。
上游原素材保留其原有权利和使用条款,本仓库不授予新的原素材权利。
数据分类 / 2026-10-20
01 最新训练数据 — 新版完整训练主入口:93,942视频、256,708目标、390,402 prompts;使用本仓库下载器。
来源与恢复:Longleaf合成媒体与GT;STATUS和archives索引;本次核对331分片大小/SHA,未重新下载全部媒体。
- Downloads last month
- 8,093