bqewutq5565/segvigen-pv-2view

SegviGen PV — 2 视角部件名分割数据（SAM3 概念库训练集）

2000 个 3D 资产，每个带人工审阅过的部件名和两个方位（az0 / az135）的 512×512 灰模渲染图 + 逐像素部件 id 图。这是训练 SAM3 概念库 所需的最小文件集。

物体来自 PartVerse。原始 133 GB 的完整管线数据（latent、变体、拆件 GLB）不在这里，只保留概念库训练真正会读的部分：打包 730 MB，解开 2.87 GB。

内容

cb_data.tar.gz（730 MB，12 007 个文件），解开后：

pv/<object_id>/
  names.json          # ["head", "body", "leg", ...]，下标 = 部件 id
  names_meta.json     # {"object": "dog", "uncertain": [false, ...], ...}
  views/az0/
    render.png        # 512×512 RGBA，无纹理灰模，正交，白底
    ids.npy           # int16 [512, 512]，值 = names.json 下标，-1 = 背景
  views/az135/        # 同上，绕 Y 轴 135°
pv_holdout_v3.txt     # 55 个留出物体 id（35 mixed + 20 hard）
pv_hard.txt           # 20 个难样本
pv_holdout_mix.txt    # 35 个混合留出
concept_bank_v3/      # 对照基线：bank.pt、split.json、text_cache.pt、log.jsonl

之所以能压到 730 MB：ids.npy 里绝大部分是背景，gzip 后只剩原体积的 0.5%。

统计

物体数	2000（全部都有完整的 2 视角）
图像数	4000
部件名词表（出现 ≥ 8 次）	280，覆盖约 82% 的部件实例
划分	1800 训练 / 200 留出（见 concept_bank_v3/split.json）

用法

huggingface-cli download bqewutq5565/segvigen-pv-2view cb_data.tar.gz \
  --repo-type dataset --local-dir /data
cd /data && tar -xzf cb_data.tar.gz

读一个物体：

import json, os
import numpy as np
from PIL import Image

obj = "/data/pv/000ec112ae7f4a8a93f847ccfd4031be"
names = json.load(open(os.path.join(obj, "names.json"), encoding="utf-8"))
meta = json.load(open(os.path.join(obj, "names_meta.json"), encoding="utf-8"))
img = Image.open(os.path.join(obj, "views/az0/render.png"))
ids = np.load(os.path.join(obj, "views/az0/ids.npy"))      # int16, -1 = 背景

for p in sorted(set(int(x) for x in np.unique(ids) if x >= 0)):
    print(p, names[p], "uncertain" if meta["uncertain"][p] else "", (ids == p).sum(), "px")

names.json 的下标就是 ids.npy 的值，所以名字级 GT 掩码 = 同名部件的并集：

gt = np.zeros(ids.shape, bool)
for p, n in enumerate(names):
    if n.strip() == "leg":
        gt |= (ids == p)

标注口径

• 全小写、≤ 3 个词、单数、去掉了 component / part / detailed / cylindrical 这类无信息词。
• 名字由 LLM 从多视角渲染图生成，再人工审阅修正；names_meta.json 的 uncertain[i] 标记不确定的部件——概念库训练默认把这些部件从正例里剔除。
• 同一物体里允许重名（4 条腿都叫 leg）；名字级监督下它们是一个并集。

完整格式规范与自检脚本见 finetune/DATA_concept_bank.md。

训练

python finetune/concept_bank.py --dataset_root /data/pv --out /data/concept_bank_v4 \
  --template name --epochs 3 --neg_mode mixed --negatives 3 --neg_weight 0.5 \
  --lr_e0 5e-4 --holdout_file /data/pv_holdout_v3.txt --azimuths 0,135 \
  --min_count 8 --max_prompts 12 --eval_thresholds 0.4,0.5,0.6

只需要 SAM3 环境（transformers>=5 + torch + PIL + numpy），不需要 TRELLIS.2 / bpy / nvdiffrast —— 那些只在生成 render.png / ids.npy 时用得到，而这两样已经在包里。

v3 的结果（留出集，阈值 0.5）：mIoU 0.288 → 0.368，未绑定的灰像素 0.654 → 0.381，难负例误检 0.186 → 0.188（持平）。新数据训完应不低于这个数。

注意

• 留出集里那 145 个随机补的物体由 --seed 和根目录下的物体列表共同决定，物体集合一变 split 就变。要严格对比就沿用 concept_bank_v3/split.json，或保持 2000 个物体不动。
• 渲染图无纹理、正交、固定光照，这是刻意的：下游要处理的是没有贴图的 3D 拆件资产。

相关

• 概念库权重：bqewutq5565/sam3-concept-bank
• 代码与报告：GzaIcebreak/sam3seggen