ryugyosoft/Z-Image-Turbo-onw-image-int8

Z-Image-Turbo for onw-Image (INT8, Intel NPU / Lunar Lake)

日本語 | English

Tongyi-MAI/Z-Image-Turbo を、Intel NPU で動かすアプリ onw-Image 用に変換したモデルです。単体では使えません。 onw-Image を入れると、このモデルも自動でダウンロードされます。

curl -fsSL https://huggingface.co/ryugyosoft/onw-image/resolve/main/install.sh | bash

内容

フォルダ・ファイル	中身
dit2/	DiT（画像生成本体、6B）。OpenVINO IR、INT8（W8A8）。6 層ずつ 5 グラフ＋プロンプト側 refiner 1 グラフ
dit2_vec.npz	層ごとの正規化・量子化用ベクトル（ホスト側で使用）
te_seg/	テキストエンコーダー（Qwen3-4B の 35 層）。INT8 重み、5 層ずつ 7 グラフ。RoPE は NPU で正しく計算できる行列積の形（0.2）
vae/	VAE デコーダー（FLUX VAE）、fp16
host/	ホスト側で計算する小さな部分（時刻埋め込み、変調、最終層など）と、トークンの埋め込み表（INT8＋行ごとの尺度、0.2 で 778 MB → 389 MB）
tokenizer.json	トークナイザー

• 対象：Lunar Lake（Core Ultra 200V シリーズ、NPU 4000）、メモリ 16 GB、Ubuntu
• 初回起動時に NPU 向けのコンパイル（約 20 分）が走り、結果はこのフォルダの npu_blobs3/ に保存されます（重みを持たない圧縮形式で合計約 25 MB）
• 768×768、9 ステップで 1 枚約 80 秒（テキストエンコーダー・DiT・VAE の合計、onw-Image 0.2）

変換について

• 重みは出力チャネルごとの INT8、活性化は INT8（FakeQuantize）。画像トークンは静的なテンソル単位、 プロンプトのトークンはトークンごとの 2 段 INT8
• SmoothQuant（α=0.5）と、FFN の出力側（w2）の層ごとの α・クリップ調整。校正は 4 種類のプロンプト（1024×1024）
• fp32 の元モデルとの比較（同じノイズから 9 ステップ、CPU 上の正確なシミュレーション）：PSNR 約 16 dB。 構図や細部が少し変わることがありますが、画質は保たれます
• テキストエンコーダー（0.2）：NPU 上の出力と fp32 の元モデルとの差 1.3〜1.5%（0.1 は RoPE の計算が NPU で崩れて 8.2%）

ライセンス

元のモデルと同じ Apache License 2.0 です。元モデル：Tongyi-MAI/Z-Image-Turbo（テキストエンコーダーは Qwen3-4B、 VAE は FLUX VAE を含みます）。