wukaikevin/MiniMax-H3-Singularity-Ref2VA-NVFP4

MiniMax-H3 Singularity Ref2VA — NVFP4 (pruned)

WarmBloodAban/Minimax-h3_Singularity 的 Ref2VA Pruned v1.3 (int8) 转 NVFP4 版。

格式

• 权重: NVFP4 E2M1, hi_lo nibble 打包 (blocks.N.{attn.qkv_proj,attn.out_proj,mlp.fc1,mlp.fc2}.weight uint8 [out, in/2])
• 组缩放: 每 16 元素 fp8e4m3 (weight_scale), cuBLAS blocked(128×4 tile) 布局 — 用 comfy_kitchen.float_utils.from_blocked 解码为线性布局, 或原样直喂 torch._scaled_mm / cuBLAS NVFP4 GEMM
• 张量缩放: f32 标量 (weight_scale_2)
• 非量化部分 (adaln/norm/refiner/顶层) bf16 直拷, adaln_t_table f32
• 转换时已撤销 convrot Hadamard 旋转 (int8 源是旋转基, 本权重是原始基)

转换验证

• 权重级 cos(fp64) = 0.9955 (对 int8 反量化参考)
• 端到端: 有效视频生成验证通过

声明

• 原模型: WarmBloodAban/Minimax-h3_Singularity (微调质量/许可归原作者)
• 基础模型: MiniMaxAI/MiniMax-H3
• 本仓库仅包含量化格式转换产物