naatee/genimage-subset-9

GenImage Subset — Team 9

GenImage（NeurIPS 2023 D&B）的可复现子集，为 MAIE5421 / ARIN5201 课程项目 「AI 生成图像检测」构建。原始全集约 678 GB；这里只保留实验真正用得到的那部分， 逐图元数据与冻结切分随数据一起发，组员不需要各自下载全集再筛选。

关键约定（先读这段）

1. 图像是原始文件字节：fake 保持上游的 PNG，real 保持 ImageNet 的 JPEG， 没有重编码、没有缩放。经过有损压缩的样例会毁掉本项目要审计的低层痕迹， 所以请不要自己重新压缩后当训练数据用。
2. split 已冻结：用 split 列或 meta/splits/*.csv，不要重新随机切分。
3. 真图池只有一份：generator == "nature" 的行就是全局真图池，所有生成器共用， train/val/test 全局固定。所有实验的真图完全一致，指标差异才能归因到生成器。
4. val 用来调参和校准阈值（建议 τ 取 5% FPR），test 只在最后用一次。
5. 换机器先跑一遍 python scripts/verify.py 自检。

规模

生成器	族	fake 张数	覆盖类数	体积
ADM	diffusion	12,000	1000	1.43 GB
BigGAN	GAN	12,000	1000	0.36 GB
GLIDE	diffusion	12,000	1000	0.93 GB
Midjourney	diffusion	12,000	1000	14.84 GB
VQDM	diffusion	12,000	1000	1.35 GB
stable_diffusion_v_1_4	diffusion	12,000	1000	5.51 GB
stable_diffusion_v_1_5	diffusion	12,000	1000	5.5 GB
wukong	diffusion	12,000	1000	5.59 GB

合计 192,000 张 / 46.5 GB： train 115,200 ｜ validation 19,200 ｜ test 57,600。

抽样：固定种子、按分片分层抽样；类分布近似均匀（每类每生成器约 12 张）。

用法

from datasets import load_dataset

ds = load_dataset("naatee/genimage-subset-9")            # 首次下载约 47 GB
ds_tiny = load_dataset("naatee/genimage-subset-9", "tiny")  # 约 100 MB，只用来打通管道
# 注意：split 名是 train / validation / test（HF 把 val 规范化成 validation）

# P1 在域：以 Stable Diffusion v1.4 为例
train = ds["train"].filter(lambda x: x["generator"] in ("stable_diffusion_v_1_4", "nature"))
test  = ds["test"].filter(lambda x: x["generator"] in ("stable_diffusion_v_1_4", "nature"))

# P2 留一生成器（LOGO）：留出 ADM
train = ds["train"].filter(lambda x: x["generator"] != "ADM")
test  = ds["test"].filter(lambda x: x["generator"] in ("ADM", "nature"))

要目录树的人：

hf download naatee/genimage-subset-9 --repo-type dataset --local-dir ./snap
python snap/scripts/materialize.py --root ./snap --out ./data
# ./data/<generator>/<split>/ai/<class_name>/*.PNG
# ./data/nature/<split>/<class_name>/*.JPEG

字段

字段	说明
image	原始文件字节（PIL 自动解码）
image_path	上游原始相对路径，便于溯源
md5	文件字节 md5
label	0 = real，1 = fake
generator	nature 或生成器名
family	real / GAN / diffusion
class_id / class_name	ImageNet-1K 类号与类名
split	train / val / test
width / height / format / bytes	原始属性
jpeg_qf	JPEG 质量因子：真图取自官方 metadata（以 96 为主），假图为 PNG 统一记 100

已知偏差（务必在报告里声明）

• JPEG 质量因子：real 的 jpeg_qf 以 96 为主（占 68%），仍有 75/80/90 等低质量样本； fake 全是 PNG（jpeg_qf = 100，无量化表）。做 P5 偏差审计时按需 ds.filter(lambda x: x["jpeg_qf"] >= 96) 对齐即可，不要指望数据已经对齐过。
• 格式：fake 为无损 PNG、real 为 ImageNet JPEG。这是上游 GenImage 的固有偏差 （见 Grommelt et al., Fake or JPEG?, ECCV-W 2024），也是本项目 P5 的审计对象。
• 分辨率：上游各生成器输出尺寸不同（BigGAN/VQDM/ADM 偏小，Midjourney 1024²）， real 为 ImageNet 原始尺寸，分布重叠有限。
• 真图池：8 个生成器各带一份 real 样本，实测跨生成器重叠倍数 1.0×（1.0 = 几乎不重叠），去重后 101,799 张唯一真图， 按 1:1 配比取 96,000 张入集。全部合并成单一真图池， train/val/test 全局冻结、所有实验共用同一批真图。
• 类覆盖：8 个生成器均覆盖 1000 个 ImageNet 类，每类约 12 张。做类级配对分析前，建议先用 meta/index.parquet 核对每个生成器的可用 class_id。

许可与引用

继承上游 CC BY-NC-SA 4.0（非商业、署名、相同方式共享）。使用请引用：

@inproceedings{zhu2023genimage,
  title={GenImage: A Million-Scale Benchmark for Detecting AI-Generated Image},
  author={Zhu, Mingjian and Chen, Hanting and Yan, Qiangyu and Huang, Xudong and Lin, Guanyu
           and Li, Wei and Tu, Zhijun and Hu, Hailin and Hu, Jie and Wang, Yunhe},
  booktitle={NeurIPS Datasets and Benchmarks},
  year={2023}
}

本 repo 是上述数据集的衍生子集，不代表原作者对子集抽样方式的背书。