Luuu213u/broken_video_dataset

Broken Video Dataset

本数据集用于 AI 生成视频的破损/异常区域检测与分割（broken video artifact detection & segmentation）。 数据来源于多种主流视频生成模型，包含原始视频、逐帧图像，以及逐像素的破损实例标签。

The dataset is for detecting and segmenting broken / artifact regions in AI-generated videos. It covers several mainstream video-generation models and provides source videos, per-frame images, and per-pixel broken-instance labels.

数据集来源模型 / Source Models

Easyanimatev4, OpenSora1.2, kling1.5, luma1.6, minimax, tongyi （部分样本 ID 前缀还包含 Cog5B、gen3、qingying、vidu、luma 等，见 split 列表。）

文件说明 / Files

由于逐像素标签（.npy）解压后体积极大（约 190GB、近 50 万个小文件），本仓库以两个标准 tar.gz 归档提供，便于下载与解压：

• data.tar.gz（约 2.4GB）：逐帧图像与像素标签。 解压后结构：data/<model>/<sample_id>/<instance_idx>/<frame>.png 与同名 <frame>.npy。
  • <frame>.png：该帧的 RGB 图像。
  • <frame>.npy：该帧的逐像素标签数组（numpy）。
• data_video.tar.gz（约 7.1GB）：原始视频。 解压后结构：data_video/<model>/<sample_id>.mp4。
• train.txt / test.txt / valid.txt：训练 / 测试 / 验证集的样本 ID 列表（分别 3090 / 152 / 9 条）。

像素标签含义 / Pixel Label

• 像素标签值 2 表示该像素属于视频中的第二个破损实例（second broken instance）。
• 依此类推，不同的整数值对应不同的破损实例编号；0 通常为背景 / 正常区域。

数据划分 / Splits

样本以 ID 划分，ID 形如 kling1.5_00407、Cog5B_00596。使用时按 train.txt / test.txt / valid.txt 中的 ID 从 data/ 与 data_video/ 中取对应样本。

使用方法 / How to Use

由于本数据集为「逐帧图像 + 逐像素 .npy 掩码 + 视频」的嵌套结构，不适用于 load_dataset 的内置自动解析。请按如下方式下载并解压后自行读取：

from huggingface_hub import snapshot_download
import tarfile, os

# 1) 下载归档
local_dir = snapshot_download(
    repo_id="Luuu213u/broken_video_dataset",
    repo_type="dataset",
)

# 2) 解压（注意：data.tar.gz 解压后约 190GB，请预留磁盘空间）
for name in ["data.tar.gz", "data_video.tar.gz"]:
    with tarfile.open(os.path.join(local_dir, name)) as t:
        t.extractall(local_dir)

# 3) 读取一个帧与其像素标签
import numpy as np
from PIL import Image
frame = Image.open(f"{local_dir}/data/kling1.5/kling1.5_00407/0/00109.png")
label = np.load(f"{local_dir}/data/kling1.5/kling1.5_00407/0/00045.npy")
print(frame.size, label.shape, np.unique(label))

许可 / License

数据集许可待作者补充（license: other）。如需使用，请遵循数据来源模型与原作者的相关条款。

引用 / Citation

如果本数据集对你的研究有帮助，请注明来源。