TripoSG: High-Fidelity 3D Shape Synthesis using Large-Scale Rectified Flow Models (2025) 

### TripoSG: High-Fidelity 3D Shape Synthesis using Large-Scale Rectified Flow Models (Li, 2025) 

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981660/75481ae0-ceb8-44ae-97c3-7d28e68ab646.png)

#### 3行要約

1.  ✨ TripoSGは、大規模Rectified Flow Transformerと独自の高精度データ構築システムにより、画像からの高忠実度3D形状生成を実現する新しい手法です。
2.  🏗️ SDF表現を用いたVAEを、サーフェス法線ガイダンスを含むハイブリッド損失で訓練することで、高品質な3D再構築と詳細なジオメトリ学習を可能にしました。
3.  🚀 高品質な大規模データセット、およびモデルと解像度のスケーリング戦略を組み合わせることで、TripoSGは最先端の3D生成性能を達成しました。



#### Q:提案手法の概要を説明してください
#### A:

本論文は、高品質な3Dメッシュを高精度な画像対応とともに生成する新しいストリームライン化された形状拡散パラダイムであるTripoSGを提案している。従来の3D形状生成は、データ規模の制約、3Dデータ処理の複雑さ、および3Dドメインにおける先進技術の探索不足により遅れをとっていた。既存のアプローチは、出力品質、汎化能力、および入力条件との整合性の面で大きな課題に直面している。TripoSGはこれらの課題に対処するために、以下の3つの主要な貢献を行う。

1.  **大規模Rectified Flow Transformerによる3D形状生成:** 広範で高品質なデータでの学習を通じて、最先端の忠実度を達成する。
2.  **3D VAEのためのハイブリッド教師あり学習戦略:** SDF、normal、およびeikonal lossを組み合わせ、高品質な3D再構成性能を実現する。
3.  **データ処理パイプライン:** 200万サンプルの高品質3Dデータを生成し、3D生成モデルの学習におけるデータ品質と量の決定的なルールを強調する。

これらのコンポーネメントのシームレスな統合により、TripoSGは3D形状生成において最先端の性能を達成している。生成される3D形状は、高解像度能力による詳細の強化と、入力画像への例外的な忠実度を示している。さらに、TripoSGは多様な画像スタイルやコンテンツからの3Dモデル生成において改善された多様性を実証しており、強力な汎化能力を示している。

**TripoSGフレームワークの詳細**

TripoSGは主にデータ構築システムとTripoSGモデルの2つの主要コンポーネントから構成される (Fig. 2)。

**データ構築システム**

TripoSGは、Objaverse(-XL)やShapeNetなどの既存のオープンソースデータセットを学習に利用する。これらのデータセットには約1000万の3Dデータが含まれるが、その品質は大きくばらついており、学習に適した品質を確保するために広範な前処理が必要となる。この課題を克服するため、TripoSGは高品質で大規模な3D学習データ（Image-SDFペア）を生成するための専用3Dデータ処理システムを開発した。このシステムは、データスコアリング、フィルタリング、修正と拡張、フィールドデータ生成の4つの処理段階（Data Process I〜IV）から構成される (Fig. 6)。

1.  **Data Scoring (I):** 各3Dモデルにスコアを付与し、高スコアのモデルのみが次の処理段階に進む。ランダムに選択した約10Kの3Dモデルについて、Blenderを使用して4つの異なる視点から法線マップをレンダリング。これらの多視点法線マップは、10人のプロの3Dモデラーによって手動で1（最低）から5（最高）のスケールで評価される。このアノテーションデータを使用し、CLIPおよびDINOv2特徴を入力とする線形回帰ベースのスコアリングモデルを学習。このモデルは、全ての3Dモデルの多視点法線マップから品質スコアを推論するために使用される。
2.  **Data Filtering (II):** スコアリング後、大きな平面ベース、アニメーションにおけるレンダリングエラー、複数オブジェクトを含むモデルをさらにフィルタリングする。平面ベースのフィルタリングは、表面パッチが単一平面として分類できるかを、その重心位置、法線ベクトル、結果として生じる平面の領域からなる特徴に基づいて判断することで行う。アニメーションエラーはBlenderで識別され、最初のフレームに設定してもレンダリングエラーを示すモデルはフィルタリングされる。複数オブジェクトを含むモデルは、不透明マスク上の最大連結コンポーネントの割合と、最大連結コンポーネントおよび全体マスクのsolidityの大きさを評価することでフィルタリングされる。
3.  **Data Fixing and Augmentation (III):** データフィルタリング後、キャラクターモデルの方向を前方を向くように修正する。x, y, z軸周りの24の方向を選択し、それぞれの方向について、正面、背面、左、右、上、下の6つの直交視点から画像をレンダリングする。これら6つの視点からのDINOv2特徴を連結し、方向推定モデルを学習し、全てのキャラクターモデルの方向を推論および修正するために使用する。さらに、テクスチャのないモデルについては、多視点法線マップをレンダリングし、ControlNet++を使用して対応する多視点RGBデータを生成し、学習中の条件入力として使用する。
4.  **Field Data Production (IV):** 元の非WatertightなメッシュをWatertightなものに変換する。一般的なTSDF-fusionやManifoldPlusではなく、元の非Watertightメッシュから512^3グリッド解像度のUDF fieldを構築し、Marching Cubesを使用して小さな閾値$\tau = \frac{3}{512}$でiso-surfaceを抽出する。より効率的な幾何学習のために内部構造を除去するため、Marching Cubesを適用する前に、不可視グリッドのUDF値をリセットして内部iso-surfaceの抽出を防ぐ。次に、各メッシュコンポーネントの面積とambient occlusion ratioを計算して、いくつかの小さくて不可視な内部メッシュコンポーネントを除去する。最後に、法線とともに表面点を均一にサンプリングし、体積内および表面近くの点をランダムにサンプリングする。

**3D Variational Autoencoder (VAE)**

TripoSGのVAEは、大規模データセットでの広範な学習の後、任意の3D形状を多解像度潜在表現 $X = L \times C$, $L \in \{512, 2048\}$, $C = 64$ にエンコードし、3Dメッシュにデコードすることができる。TripoSGのVAEは、高品質な3D再構成を可能にするためにいくつかの改善を導入している。

-   **3Dモデル表現:** 多くの既存研究がoccupancy fieldを採用しているのに対し、TripoSGはより高精度で詳細な幾何エンコーディングを提供するneural SDFを採用する。Occupancyグリッドは量子化誤差によりエイリアシングアーティファクト（「階段状」効果）を導入しやすいが、SDFはこれを回避する。
-   **幾何学習と表面法線ガイダンス:** SDF表現は、neural implicit fieldの勾配ドメインにおけるスーパービジョンの有効性を理論的に保証する。幾何詳細はimplicit fieldの値ドメインよりも高次の情報である勾配ドメインに関連すると考えられる。そのため、VAE学習中に表面法線ガイダンスを適用し、より細かい幾何詳細を捉え、モデルサンプリングのためのより良い潜在空間を提供する。
-   **ハイブリッド学習ロス:** 一般的に使用されるSDF lossに加えて、真値の表面法線を使用したより細かい詳細の幾何学習のための直接的なスーパービジョンと、追加のeikonal正則化を含む。損失関数は以下で定義される。
    $$L_{vae} = L_{sdf} + \lambda_{sn}L_{sn} + \lambda_{eik}L_{eik} + \lambda_{kl}L_{kl}$$
    $$L_{sdf} = |s - \hat{s}| + \|s - \hat{s}\|_2^2$$
    $$L_{sn} = 1 - \left\langle \frac{\nabla D(\mathbf{x}, \mathbf{f})}{\|\nabla D(\mathbf{x}, \mathbf{f})\|}, \hat{\mathbf{n}} \right\rangle$$
    $$L_{eik} = \|\nabla D(\mathbf{x}, \mathbf{f}) - 1\|_2^2$$
    ここで$\hat{s}$は真値SDF、$\hat{n}$は真値表面法線、$\langle \cdot, \cdot \rangle$はコサイン類似度、$L_{eik}$はeikonal正則化、$L_{kl}$は潜在空間のKL正則化である。表面法線ロスは表面点のみに適用され、細かい幾何学習に効率的である。
-   **ネットワークアーキテクチャ:** 3DShape2Vecset (Zhang et al., 2023) の設計に従い、 latent vector setを潜在表現として選択し、Transformerベースのエンコーダー・デコーダーアーキテクチャを採用する (Fig. 4)。
    -   エンコーダーは、表面点のフルセットXからM点をサブサンプリングしたX'を初期クエリとして使用し、位置埋め込みと表面法線を連結して符号化された表面点情報をクロスアテンションを通じて潜在クエリに統合し、幾何情報に富んだコンパクトな潜在トークンZを生成する (Eq. 21, 22)。より高密度の表面点（各3Dモデルに対して20,480点）を入力として使用する。
    -   デコーダーは、潜在表現Zから各クエリ位置x ∈ R³のSDF値sをデコードする (Eq. 23, 24)。
    -   モデルのメッシュは、Marching Cubesを適用して抽出される。
-   **多解像度学習:** プログレッシブなフローモデル学習のために、多解像度VAE (M ∈ {512, 2048}トークン) を採用し、VAEの重みは異なる解像度間で共有される。VAE Transformerの位置エンコーディングフリーな特性と組み合わせることで、追加のファインチューニングなしでより高解像度（例: 4096トークン）での直接推論を可能にする。

**Rectified Flow Transformer**

Rectified Flow Transformerは、VAEによって圧縮された潜在表現上で学習され、画像制御条件下で高品質かつ意味的に一貫性のある3D形状を生成する。

-   **アーキテクチャ:** DiT (Peebles & Xie, 2023) および3DShape2VecSet (Zhang et al., 2023) に触発された標準的なTransformerブロックを使用する。浅い特徴と深い特徴間の情報融合を改善するため、U-ViT (Bao et al., 2023) およびStable Diffusion (Rombach et al., 2022) のUNet構造に触発され、ブロック間にロングスキップ残差接続を導入する (Fig. 3左)。EncoderブロックとDecoderブロックは同数N（N=10）で、i番目のEncoderブロックの出力は(N-i)番目のDecoderブロックの出力にスキップ接続される (Eq. 1)。全体で2N+1個のTransformerブロックを使用する。
-   **条件付け:** 時刻tと画像条件付けを注入する。時刻tはTimesteps層とMLPでエンコード。入力潜在XはMLPでW次元に射影。これらを連結してフローバックボーンに入力する (Eq. 2)。画像条件付けとして、CLIP-ViT-L/14でグローバル特徴Iglobal、DINOv2-Largeでローカル特徴Ilocalを抽出する。各フローブロックでは、両方の特徴を別々のcross-attention機構を使用して同時に注入し、元の入力と組み合わせて次のステージに渡す (Eq. 3-6)。これにより、モデルは各ブロックでグローバルおよびローカルな画像情報の両方に注意を向け、トレーニング収束を高速化し、生成された3D形状と入力画像の間の強力な詳細一貫性を維持する。
-   **Rectified Flowベースの生成:** 3D生成モデルはRectified Flowを使用して学習される。Rectified Flow (Eq. 9) は、ノイズ分布からデータ分布へのベクトル場を学習し、データサンプルxtを元のデータx0とノイズϵのより単純な線形軌道 $xt = tx0 + (1 − t)\epsilon$ としてモデル化する。これはDDPM (Eq. 7) やEDM (Eq. 8) よりも効率的でストリームライン化されたアプローチを提供する。
-   **サンプリング戦略:** SD3 logit-normal samplingからインスピレーションを得て、中間ステップにおけるサンプリング重みを増加させる (Eq. 10)。また、高解像度化に伴うノイズの不確実性の変化に対応するため、Resolution-Dependent Shifting of Timestepを導入し、トレーニングおよびサンプリング中のtimestepを調整する (Eq. 11)。
-   **モデルおよび解像度のスケールアップ:** 潜在解像度を2048から4096に、モデルパラメータをMoEを使用して1.5Bから4Bにスケールアップする。VAEは訓練データセット$\{512, 2048\}$で学習されているが、位置エンコーディングフリーな特性により4096解像度で直接エンコード・デコード可能であり、フローモデルにより細かい幾何潜在表現を提供する。高解像度でのファインチューニング中にTransformerブロック内のQとKにRMSNorm (Zhang & Sennrich, 2019) を適用し、混合精度学習中の不安定性を軽減する。MoEは、標準的なFFNモジュールを複数のFFN expertに置き換えることで、モデルパラメータを増加させつつ、スパースな活性化により計算リソースと推論遅延をほぼ一定に保つ (Fig. 3右)。8つのexpertモデルを使用し、各トークンで上位2つを活性化し、1つのFFN expertを共有する。MoE拡張はDecoderの最終6層に限定的に適用され、全体のパラメータは約4Bに増加する (Eq. 12, 13)。

**実験**

実験はTripoSG実験とAblation実験の2部構成で行われた。TripoSG実験では、解像度とモデルサイズを段階的にスケールアップした。まず、1.5Bパラメータモデルを2Mデータセット、512トークン解像度で学習。次に2048トークン解像度に切り替えて学習を継続。最後にMoEを使用してモデルパラメータを4Bに拡張し、潜在解像度を4096トークンに増加させて学習を再開した。全体の学習には約3週間、160 A100 GPUを使用した。Ablation実験は、Objaverseからフィルタリングした180Kの小規模データセットと975Mパラメータモデルを使用して行われた。

**データセット、評価指標、ベースライン**

学習にはデータ構築システムで前処理された200万の高品質3Dオブジェクトを使用した。評価指標として、Flowモデルの生成品質にはNormal-FID (Heusel et al., 2017) とGPTEval3D (Wu et al., 2024c) を、VAEの再構成品質にはChamfer distance、F-score、Normal consistencyを使用した。Normal-FIDは、生成された3Dモデルからレンダリングされた法線マップと真値の法線マップ間のFIDを計算することで、入力RGB画像と生成されたテクスチャなし3Dモデル間の評価ギャップを埋める。GPTEval3Dは、LMM（Claude3.5）を使用して、3D plausibility、text-asset alignment、geometry details、texture details、texture-geometry coherencyの5側面から評価する。比較対象には、MeshFormer、LRM、CRM、TripoSR、InstantMesh、Craftsman-1.5などの最先端手法を用いた。

**定量的および定性評価**

TripoSGは、既存の最先端手法と比較して、意味的一貫性、詳細度、汎化能力、空間構造生成、および全体的な性能において優れていることが、視覚的な比較 (Fig. 7) およびLMMによる評価 (Fig. 8) から示された。TripoSGによって生成されたサンプル (Fig. 1, Fig. 11, Fig. 12) は、複雑な構造、多様なスタイル、想像力豊かなデザイン、多オブジェクト構成、薄い表面、詳細なシナリオなど、幅広いケースで高品質な3Dモデルを生成する能力を示している。これは、大規模データセットの利点、高潜在解像度および大規模モデルの利点を強調している。

**Ablation Study**

-   **Flow Model Ablation (Tab. 1, Tab. 2, Fig. 10):** Rectified Flowサンプリングが他の手法よりも良い生成結果をもたらし、学習効率も高い。Skip-connection操作は生成結果に大きな影響を与え、深い特徴と浅い特徴の融合がフローモデリングを改善する。CLIP条件付けもわずかに結果を改善する。潜在解像度の増加（512→2048→4096）は生成結果を一貫して改善し、特に512から2048トークンへの改善が最も大きい。MoEによるモデルパラメータ増加（975M→4B）も性能向上に寄与する。高品質データ量の増加（180K→2M）は、高性能化に最も大きく貢献し、データ品質を改善した後は、データ量が増加しても性能は向上し続け、現在のトレーニング規模でボトルネックに遭遇しないことが示唆された。
-   **VAE Ablation (Tab. 3, Fig. 9):** SDF表現はOccupancyベースの結果に比べてエイリアシングアーティファクトが少ない。表面法線ガイダンスとeikonal正則化を組み合わせることで、再構成品質と幾何詳細が改善される。特に表面法線ガイダンスはシャープな再構成に寄与するが、過度に強調するとわずかなエイリアシングを導入し、eikonal正則化によって緩和される。データ量が増加すると、VAEの再構成品質はさらに向上する。
-   **Data-Building System Ablation (Tab. 4, Fig. 10):** データ構築システムによって処理された180Kの高品質データセットは、元の800K Objaverseデータセット（処理なし）よりも優れた生成結果をもたらし、学習においてはデータ品質がデータ量よりも重要であることを示している。さらに、高品質データセットを180Kから2Mに増加させると、生成性能が大幅に向上し、高品質データがあればデータ量をスケールアップすることがより良い結果を達成するために不可欠であることを示している。

**テクスチャ生成**

TripoSGによって生成された高詳細で高品質な3D幾何形状のおかげで、Meta 3D Texture-Gen (Bensadoun et al., 2024) を参考に、レンダリングされた法線マップを入力条件として使用し、成熟した多視点生成手法を活用して一貫性のある多視点テクスチャ画像を生成することができる。これらの多視点テクスチャ画像は、幾何表面に投影され、詳細なテクスチャマップが得られる (Fig. 12)。

**結論と考察**

TripoSGは、Rectified FlowベースのTransformerを介した新しいimage-to-3D生成モデルである。高品質な形状生成のために、データ構築システムを提案し、元のデータセットからのデータを処理する。野外にある全ての3Dモデルを学習データセットに使用するのではなく、フィルタリングおよび修正された高品質データを適切に生成することで、モデルの学習性能を効果的に向上させることができる。さらに、SDF表現に表面法線ガイダンスとeikonal正則化を組み合わせることで、より細かい幾何詳細を実現し、エイリアシングアーティファクトを回避する。また、MoEと高解像度戦略を備えたRectified FlowベースのTransformerをスケールアップ学習のために導入した。実験により、TripoSGは高忠実度の3D形状を生成でき、新しい最先端の性能を達成することが実証された。TripoSGを通じて、3D生成はアーキテクチャと開発段階において画像・動画生成と連携し、2D画像・動画生成から得られた豊富なアーキテクチャと学習経験を活用できるようになる。今後の展望として、モデルパラメータと学習データのさらなるスケールアップ、より細かい条件付け、3Dモデルの超解像度、シーン生成、スタイル化などが考えられる。



#### TripoSGシステム概要図
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981660/4b59361a-099e-4851-a34d-54c7362f4d98.png)

この図は、TripoSG モデルの全体像を示しています。主に2つの主要なコンポーネントで構成されています。

(i) Data-Building System (データ構築システム):

多様なオリジナルの3Dデータセット（例：ObjaverseやShapeNet）から始めます。
これらのデータは「Data Processing（データ処理）」パイプラインを通過します。
オリジナルのデータには品質の低いものが含まれていますが（WatertightやDirection Alignの問題などが示されています）、データ処理により高品質な学習データが生成されます（高品質なデータには緑のチェックマークがついています）。
このシステムは、3D生成モデルの学習において、データの質と量が重要であるという発見に基づいて構築されています。


(ii) TripoSG Model (TripoSG モデル):

入力は1枚の画像（例：アライグマのイラスト）です。
入力画像からは、CLIP と DINO という2つの異なる手法を用いて特徴量が抽出されます。CLIPはグローバルな画像特徴を、DINOはローカルな画像特徴を捉えるために使用されます。
モデルは「Noised Latents（ノイズ付き潜在変数）」から生成を開始します。これは、Rectified Flow という生成モデルのフレームワークの一部です。
Rectified Flow Transformer のバックボーンは、緑色で示された「MoE Residual Attention Block」と「Linear + LayerNorm」の層で構成されています。これらの層がノイズ付き潜在変数を処理します。
モデルのアーキテクチャはTransformerベースで、浅い層と深い層の間で情報融合を強化するためにスキップコネクション（赤い線で示されています）が含まれています。
MoE（Mixture-of-Experts）機構が導入されており、モデルのパラメータ数を増やしつつ、計算コストを抑えています。
抽出された画像特徴（CLIPとDINO）は、クロスアテンション機構を通じて、Transformerブロック内で処理される潜在変数に注入されます。これにより、生成される3D形状が入力画像と整合性が取れるようになります。
Transformerの出力は「Latent Tokens（潜在トークン）」です。
「VAE Decoder (D)」がこれらの潜在トークンをデコードし、最終的な3D形状を出力します。
最終的な出力として、高品質な3D形状が生成されます（例：入力画像のアライグマの3Dモデルが異なる視点から示されています）。

このTripoSGモデルは、データ構築システムで準備された大規模で高品質なデータセットと、改良されたRectified Flow Transformerアーキテクチャを活用することで、高品質な画像からの3D形状生成を実現しています。
TripoSGは、画像生成や動画生成で成功している大規模なFlowモデルのアプローチを3D生成に適用し、データ処理、モデルアーキテクチャ、学習戦略の革新を通じて、この分野の性能を向上させています。

#### Q:提案手法の処理の流れを順序だてて説明してください
#### A:
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981660/7abd510c-45aa-4b9a-8455-b0a5c385145c.png)

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981660/30b9733b-5f21-4f2a-853a-87c7ab5c82ca.png)

TripoSGの提案手法の処理の流れは、大きく分けて「訓練データ準備」と「モデル訓練・生成」の二つのフェーズから構成されます。それぞれのフェーズ内の主要なステップを順序立てて説明します。

**フェーズ1：高品質訓練データの準備 (Data-Building System)**

このフェーズの目的は、様々なソースから集められた生データ（Raw 3D Data）を、TripoSGモデルの訓練に適した高品質なImage-SDFペアのデータセットに変換することです。このプロセスは、論文のFigure 6で示される4つの主要な処理段階（I〜IV）を経て行われます。

1.  **Data Scoring (データ・スコアリング):**
    *   生データである3Dモデルに対し、Blenderを用いて複数の視点から法線マップ（Normal Maps）をレンダリングします。
    *   これらのマルチビュー法線マップと、事前に少数のデータセットで手動評価されたデータを用いて訓練されたスコアリングモデル（CLIPおよびDINOv2特徴を基盤とする線形回帰モデル）を使用します。
    *   スコアリングモデルにより、全ての3Dモデルの品質スコアが推論されます。基準を満たすスコアを持つモデルだけが、次の段階に進みます（Scored 3D Data）。

2.  **Data Filtering (データ・フィルタリング):**
    *   スコア付きデータの中から、訓練の妨げとなる特定の特性を持つモデルを自動的に除去します。これには、大きすぎる平面ベースを持つモデル、アニメーションレンダリングエラーのあるモデル、複数の独立したオブジェクトを含むモデルなどが含まれます。
    *   フィルタリングを通過したモデルが次の段階に進みます（Filtered 3D Data）。

3.  **Data Fixing and Augmentation (データ・フィキシングと拡張):**
    *   キャラクターモデルなど、特定のカテゴリのモデルに対して、標準的な向き（例えば、常に正面を向くように）に修正（Orientation Fixing）を行います。
    *   テクスチャを持たないモデルに対して、マルチビュー法線マップをレンダリングし、ControlNet++などの手法を用いて、これに整合するマルチビューRGB画像を生成します（Image Augmentation）。これは、画像条件付き生成のための入力ペアを増やすためです。
    *   この段階を経たモデルが次の段階に進みます（Fixed 3D Data）。

4.  **Field Data Production (フィールドデータ生成):**
    *   処理済みの3Dモデル（メッシュ形式が多い）から、Neural Implicit Field表現、特にTruncated Signed Distance Function (TSDF) や Unsigned Distance Function (UDF) を生成します。
    *   多くの生データは非watertight（隙間があるなど、閉じていない）なメッシュであるため、これをwatertightなメッシュに変換します（例：UDFグリッドを構築し、Marching Cubesで抽出）。不必要な内部構造も除去します。
    *   最終的に、訓練データとして使用するための必要な情報（3Dポイント座標、それらのSDF値、法線など）をサンプリングし、標準化された形式で保存します。これにより、モデル訓練のための高品質なImage-SDFペアのデータセット（Training Data）が完成します。

**フェーズ2：TripoSG モデルの訓練と生成**

このフェーズでは、準備された高品質訓練データセットを用いて、TripoSGモデル（VAEとRectified Flow Transformer）を訓練し、最終的に新しい入力画像から3D形状を生成します。

1.  **3D Variational Autoencoder (VAE) の訓練:**
    *   訓練データセットから、3Dモデルに対応する、サンプリングされた3Dポイント（表面点、近傍点、体積点など）を入力としてVAEのEncoderに入力します。
    *   VAE Encoder（Transformerベース）は、これらの3Dポイント情報を、コンパクトな潜在トークン（Latent Tokens）のセットにエンコードします。
    *   エンコードされた潜在トークンと、SDF値を予測したい3D空間上のクエリポイントを入力として、VAEのDecoder（Transformerベース）に入力します。
    *   VAE Decoderは、各クエリポイントにおけるSDF値を予測します。
    *   予測されたSDF値、およびground-truthのSDF値、法線、Eikonal Regularizationに基づき損失を計算し、VAEを訓練します。特に、SDF Loss、Surface Normal Loss、Eikonal Regularization Lossを組み合わせたハイブリッドな損失関数を使用します。
    *   訓練されたVAEは、3Dモデルを潜在空間に圧縮（encode）したり、潜在トークンからSDFフィールドをデコードし、Marching Cubesでメッシュを抽出（decode）したりできるようになります。

2.  **Rectified Flow Transformer の訓練:**
    *   訓練データセットから、準備されたImage-SDFペア（2D入力画像と、VAEでエンコードされた対応する3Dモデルの潜在トークン）を取得します。
    *   2D入力画像から、CLIP（Global特徴）とDINOv2（Local特徴）を用いて画像特徴を抽出します。
    *   訓練中のタイムステップ `t` をサンプリングし、3Dモデルの潜在トークンにノイズを加えます（Rectified Flowの線形補間式 `xt = tx0 + (1-t)epsilon` に従います）。
    *   ノイズ付き潜在トークン、タイムステップ `t` の埋め込み、そして抽出された画像特徴（CLIP, DINOv2）をTripoSG Flow Backbone（Transformerベース）に入力します。画像特徴は、個別のCross-Attention層を通じて注入されます。TransformerはSkip-connectionsやMoE構造を含みます。
    *   Flow Backboneは、入力されたノイズ付き潜在トークンからノイズ（または速度ベクトル）を予測します。
    *   予測されたノイズとground-truthのノイズとの差に基づいて損失を計算し、Flow Modelを訓練します。訓練効率を高めるため、ログ正規サンプリング重み付けや解像度依存のタイムステップ調整なども用います。
    *   （TripoSGでは）段階的に、潜在解像度（512→2048→4096）とモデルサイズ（MoE導入による1.5B→4B）をスケールアップして訓練を行います。

3.  **3D形状の生成（推論）:**
    *   新しい単一の入力画像が与えられます。
    *   入力画像から、訓練時と同様にCLIPとDINOv2を用いてGlobal/Local画像特徴を抽出します。
    *   標準正規分布からランダムなノイズとして初期の潜在トークンを生成します。これはRectified Flowの開始点（`t=1` に相当）となります。
    *   訓練済みのRectified Flow Transformerを用いて、このノイズ付き潜在トークンを、画像特徴とタイムステップの条件付けのもと、タイムステップを1から0へと徐々にノイズ除去していきます（サンプリングプロセス）。
    *   サンプリングプロセスの結果、ノイズのない最終的な潜在トークンが得られます（`t=0` に相当）。
    *   この最終的な潜在トークンを、訓練済みのVAE Decoderに入力します。
    *   VAE Decoderは潜在トークンから3D空間上のSDFフィールドをデコードします。
    *   デコードされたSDFフィールドに対し、Marching Cubesアルゴリズムを適用することで、最終的な3Dメッシュモデルが抽出されます。
    *   （オプション）生成されたメッシュに対して、別のプロセスでテクスチャを生成・適用することで、テクスチャ付きの3Dモデルを得ることができます。

この一連のステップを通じて、TripoSGは単一の入力画像から高品質な3Dメッシュ形状を生成します。

#### Q:関連研究とそれらの手法との比較について詳しく説明してください
#### A:

論文では、3D形状生成の先行研究を主に以下の3つのカテゴリに分類し、それぞれの課題や限界を指摘しています。そして、TripoSGがこれらの課題をどのように克服し、新たな可能性を切り開いたかを説明しています。

**1. Lifting 2D Prior to 3D Modeling (Section 2.1)**

*   **手法の概要:** これらのアプローチは、画像や動画生成で大きな成功を収めた2DのDiffusion Modelの強力な事前知識（prior）を3D生成に応用しようとするものです。代表的な手法として、`DreamFusion` のように、Score Distillation Sampling (SDS) やVariational Score Distillation (VSD) を用いて、微分可能なレンダリングを通じて3D表現（NeRFやGaussian Splattingなど）を最適化する方法があります。また、マルチビュー画像生成モデルを訓練し、それを用いて3Dを再構築する手法もあります。
*   **先行研究例:** `DreamFusion`, `Instant-NGP`, `GET3D`, `Score Jacobian Chaining`, `Magic3D`, `Zero-1-to-3`, `MVDream`, `SyncDreamer`, `Wonder3D`, `Make-it-3D` など。
*   **課題・限界:**
    *   **時間のかかる最適化:** 多くの手法は、高品質な3Dモデルを得るために、ターゲットとなる3D表現を反復的に最適化する必要があり、これには数分から数時間かかります。
    *   **視点の一貫性問題:** 2Dモデルを3Dに応用する際に、異なる視点からの生成物間の一貫性を保つことが難しい場合があります。
    *   **詳細さの不足:** 特にSDSベースの手法は、詳細な形状を生成するのが苦手な場合があります。

**2. Large 3D Reconstruction Modeling (Section 2.2)**

*   **手法の概要:** これらのアプローチは、単一または複数の入力画像から、事前に定義された3D表現（点群、ボクセル、メッシュ、Implicit Fieldなど）を用いて、3Dモデルを直接的かつ決定論的に再構築するエンコーダー・デコーダーネットワークを学習します。最適化プロセスが不要なため、比較的速く3Dモデルを生成できます。
*   **先行研究例:** `LRM`, `MeshFormer`, `One-2-3-45`, `CRM`, `TripoSR`, `InstantMesh`, `CraftsMan` (の一部要素) など。Objaverseのような大規模3DデータセットとTransformerベースのアーキテクチャによって性能が向上しています。
*   **課題・限界:**
    *   **入力の一貫性への依存:** 複数視点入力を用いる場合、入力画像間の一貫性が低いと再構築品質が低下します。
    *   **未観測領域の弱さ:** 入力画像から見えない領域（オクルージョンされた部分や背面など）の形状を推測する能力が限定的で、しばしばぼやけた結果になります。
    *   **本質的な限界:** これらは「生成」ではなく「再構築」に近いため、入力にない要素を創造的に生成する能力に限界があり、根本的に出力品質の天井が決まってしまいます。

**3. 3D Diffusion Modeling (Section 2.3)**

*   **手法の概要:** このカテゴリは、画像や動画生成と同様に、3Dデータ自体（またはその潜在表現）にDiffusion Modelを直接学習させるアプローチです。様々な3D表現（ボクセル、点群、Implicit Fieldなど）や、VAEを用いて圧縮した潜在空間 (`latent space`) 上で学習が行われます。
*   **先行研究例:** `SDFusion`, `3DShape2VecSet`, `CLAY`, `Craftsman`, `LN3Diff`, `Direct3D` など。VAEとlatent spaceを用いた手法が増えています。
*   **課題・限界:**
    *   **データ不足:** 長らく、高品質な大規模3Dデータセットが不足していたため、これらの手法は、他のカテゴリの手法に比べて性能が劣っていました。シンプルなデータセット(`ShapeNet`)での学習が中心でした。
    *   **表現能力の限界:** 多くの手法が `Occupancy` 表現を用いていましたが、これは `Signed Distance Function (SDF)` に比べて幾何学的な詳細表現に限界があり、aliasing artifactsが生じやすいという問題がありました。
    *   **アーキテクチャと学習戦略:** 従来のDiffusion Modelのアーキテクチャやサンプリング戦略では、高品質かつ入力画像に厳密にalignmentした3Dモデルを生成することが難しく、suboptimalな結果になりがちでした。

**TripoSGのアプローチと先行研究との比較・優位性**

TripoSGは、上記の課題、特に「3D Diffusion Modeling」カテゴリの限界を克服するために、以下の革新的なアプローチを組み合わせています。

1.  **高品質・大規模データ (Section 4, 7.3):**
    *   既存のデータセット（Objaverseなど）はノイズが多く、そのままでは学習に適さないという課題に対し、TripoSGは独自のデータ処理システム（Data-Building System）を構築しました。スコアリング、フィルタリング、フィキシング、Augmentation、そしてFieldデータ生成という多段階のプロセスを経て、200万個の高品質なImage-SDFペアデータセットを作成しました。
    *   **比較優位性:** アブレーション研究（Tab. 4, Fig. 10）で示されているように、単に大量の生データを使用するよりも、高品質に処理された少ないデータの方が良い結果が得られ、さらに高品質なデータの量を増やすことで性能が飛躍的に向上することを実証しました。これは、データ品質と量の両方が重要であるという、既存の3D生成研究では十分に探求されていなかった知見を示しています。

2.  **SDF表現と強化されたVAE学習 (Section 3.3, 7.2):**
    *   多くのDiffusionベース手法がOccupancyを使っていたのに対し、TripoSGは**SDF表現**をVAEの出力として採用しました。SDFはより連続的で詳細な幾何学情報を表現できるため、Occupancy表現で生じるaliasing artifactsや“staircasing”効果を回避できます。
    *   さらに、VAE学習に**Surface Normal Guidance**と**Eikonal Regularization**を損失関数に追加しました (`L_{vae} = L_{sdf} + λ_{sn}L_{sn} + λ_{eik}L_{eik} + λ_{kl}L_{kl}`). Surface Normal Lossは、表面点に特化した勾配ドメインでの supervisioin を行うことで、よりシャープで精密なジオメトリ学習を可能にします。Eikonal Regularizationは、SDFの勾配ノルムが1であるという性質を利用し、フィールドの滑らかさを保ちます。
    *   **比較優位性:** アブレーション研究（Tab. 3, Fig. 9）で、SDF表現にこれらのlossを加えることで、OccupancyベースやSDFのみの場合と比較して、Chamfer Distance、F-score、Normal Consistencyといった定量指標、および視覚的な再構築品質（特に薄い構造や詳細）が向上することを示しています。

3.  **大規模Rectified Flow Transformerとスケールアップ戦略 (Section 3.1, 3.2, 7.1):**
    *   生成モデルのアーキテクチャとして、画像・動画生成で成功しているTransformerベースのFlow Model、特に**Rectified Flow**を採用しました。Rectified Flowは、データとノイズ間の線形な軌道を学習するため、DDPMやEDMと比較して学習がより効率的で安定します。
    *   アーキテクチャは**DiT**をベースに、浅い層と深い層の特徴融合を強化する`skip-connections`、効率的な正規化手法である`RMSNorm`、そして重要な要素として**Global (`CLIP`)** および **Local (`DINOv2`)** な画像特徴を**個別のCross-Attention機構**を通じて注入する洗練された条件付けメカニズムを取り入れました。
    *   さらに、モデルサイズと潜在表現の解像度をスケールアップするため、FFN層に**Mixture-of-Experts (MoE)** を導入し、パラメータ数を4Bに増やしました。VAEのMulti-resolution対応と組み合わせることで、4096トークンという高解像度での学習・生成を可能にしました。
    *   **比較優位性:** アブレーション研究（Tab. 1, 2）で、`skip-connections`やRectified Flowサンプリングが性能を向上させること、そして潜在表現の解像度増加とMoEによるモデルサイズ増加が定量的・定性的に大きな効果をもたらすことを示しました。特に、Cross-AttentionによるGlobal/Local特徴注入は、先行研究 (`Michelangelo`, `CLAY`) の条件付け手法と比較して、入力画像に対する3Dモデルの微細なディテールの一貫性を高めるのに貢献しています。大規模なMoEモデルと高解像度での学習は、先行研究には見られないスケールでの試みであり、これがTripoSGの高いfidelityと汎化能力の基盤となっています。

**定量的・定性的な比較評価 (Section 5.3):**

*   **定性評価 (Fig. 7):** MeshFormer, LRM, CRM, TripoSR, InstantMesh, Craftsman-1.5といった既存の主要な画像-to-3D手法との視覚的な比較において、TripoSGは複雑な構造、多様なスタイル（コミック調、カートゥーン調）、微細なディテール（服の質感、アクセサリー）、多オブジェクト構成、薄い表面など、幅広いケースで明らかに優れた結果を示しています。特に、幾何学的な精度と詳細さが際立っています。
*   **定量評価 (Fig. 8):** Normal-FIDという新たな指標に加え、GPTEval3DというLarge Multimodal Model (LMM) (Claude 3.5を使用) による評価を用いました。LMMによる評価は、人間の好みをより反映すると考えられています。semantic consistency、geometry details、generalizationなど、評価された全ての側面において、TripoSGが比較対象の多くのSOTA手法（DreamFusion, Magic3D, Fantasia3D, Zero-1-to-3, One-2-3-45, Shap-e, Point-e, CLR, LRM, Instant3D, Craftsman-1.5）を上回る結果を示しました。

**結論として、** TripoSGは、先行研究が抱えていたデータ不足、表現能力の限界、モデルアーキテクチャの制約といった課題に対し、高品質な大規模データセットの構築、SDF表現と強化されたVAE学習、そしてRectified Flow TransformerとMoEによる大規模モデル化・高解像度対応という多角的なアプローチで取り組みました。これにより、従来の「再構築」や初期の「3D Diffusion」手法では達成困難だった、高忠実度で入力画像と高精度に整合した、詳細かつ多様な3D形状生成を実現し、画像・動画生成分野でのFlow Modelの成功を3D分野に効果的に展開した点が、最も重要な先行研究との比較における優位性と言えます。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981660/4b9feb2e-c020-4e7d-86e7-f8b52611fc71.png)

#### Q:TripoSR,  TripoSFとの違いについて言及されていますか
#### A:
TripoSGの論文中では、`TripoSR` について言及があります。具体的には、関連研究のセクションや、他のSOTA手法との比較を行う際に、`TripoSR` を比較対象の一つとして挙げています。

論文のFigure 7では、他の既存手法（MeshFormer, LRM, CRM, TripoSR, InstantMesh, Craftsman-1.5）と並んで、`TripoSG` の生成結果が視覚的に比較されています。これにより、TripoSGがTripoSRを含むこれらの先行研究と比較して、どのような点で優れているか（例えば、より詳細な形状、複雑な構造の再現性、多様なスタイルへの対応など）が示されています。

また、論文の参考文献リストにも `TripoSR` の論文（Tochilkin et al., 2024）が含まれています。TripoSRは、論文のタイトルからも示唆されるように、Transformerを用いた高速な単一画像からの3D再構築（reconstruction）手法であり、TriplaneやGaussian Splattingといった表現を利用しています。一方、TripoSGは、Rectified Flowを用いた**生成（generation）**モデルであり、潜在空間上のTransformerで学習を行う点が、根本的なアプローチの違いとして挙げられます。TripoSGは、高品質な大規模データとFlow Modelの強力な生成能力を活かすことで、単なる再構築にとどまらない、より創造的で詳細な形状生成を目指しています。

一方で、論文中には `TripoSF` という名称のモデルに関する直接的な言及は見当たりません。もしかすると、`TripoSF` は別の研究プロジェクトや、TripoSG以降に発表された、あるいは異なる文脈で言及されているモデルかもしれません。このTripoSGの論文の範囲内では、TripoSRとの比較は行われていますが、TripoSFについては触れられていません。

このように、TripoSGの論文は、TripoSRを含む主要な先行研究（特に単一画像からの3D再構築や生成手法）との位置づけを明確にし、提案手法の優位性を示す形で構成されています。


#### Q:提案手法の限界と今後の課題はなんですか？
#### A:
TripoSGは、3D生成の分野で大きな進歩を遂げ、2D/動画生成の成功を3Dに効果的に応用できることを示しました。しかし、研究は常に進化し続けるものであり、TripoSGにもまだ改善の余地や未開拓の方向性があります。論文では、今後の展望として、以下のような点が挙げられています。これらは現在のTripoSGの限界であるとも言えます。

**TripoSGの限界（現在の到達点における改善の余地）**

1.  **さらなるfidelity（忠実度）と詳細さの追求:** TripoSGはSOTAのfidelityと詳細さを実現していますが、論文では「even more detailed 3D modelsを生成するため」に今後の方向性を述べています。これは、現在のモデルでもまだ理想的なリアリティや微細なディテールの全てを捉えきれていない可能性があることを示唆しています。
2.  **条件付けのさらなる洗練:** 現在、CLIPとDINOv2を用いたCross-Attentionによる画像条件付けは非常に効果的ですが、論文では「more fine-grained conditional information injection methodsを用いること」が今後の課題として挙げられています。これは、より局所的な制御や、入力画像の特定の要素（例えば、小さなアクセサリーや特定の模様など）を3D形状に精密に反映させるためには、現在の条件付け方法では限界がある可能性を示唆しています。
3.  **現在のモデル規模とデータ規模の限界:** TripoSGは大規模なデータセット（200万サンプル）と大規模なモデル（4Bパラメータ）で訓練されていますが、アブレーション研究 (Table 2, 4) やDiscussionでは、データ量とモデル規模のスケールアップが性能向上に寄与することが繰り返し強調されています。これは、現在の規模が性能のボトルネックになっているわけではないものの、さらなる性能向上には「further scale up model parameters and training data」が必要であり、現在の規模が最終的な限界ではないことを意味します。

**今後の課題と研究の方向性 (Future Challenges and Directions)**

論文のDiscussionで明確に述べられている今後の研究方向性は以下の通りです。これらは上記の限界を克服するための取り組みでもあります。

1.  **モデルパラメータと訓練データのさらなるスケールアップ:** 現在の4Bパラメータ、2Mデータから、さらにモデルとデータの規模を拡大することが挙げられています。これは、より複雑な形状やディテール、そして高い汎化能力を実現するための最も直接的なアプローチと考えられます。
2.  **よりきめ細かい条件付け方法の開発:** 画像情報だけでなく、他のモダリティ（例えばテキストなど）を組み合わせたり、画像の特徴をモデルのより適切な層や部位に、より精緻なメカニズムで注入したりする方法論を探索することが課題です。これにより、生成される3Dモデルに対する制御性を高めることが目指されます。
3.  **関連する3Dタスクへの応用と拡張:** TripoSGの強力な3D形状生成能力を基盤として、以下のような関連タスクへの展開が提案されています。
    *   **3Dモデルの超解像度化 (Super-resolution):** 生成されたモデルの解像度をさらに高める研究。
    *   **シーン生成 (Scene generation):** 単一のオブジェクトだけでなく、複数のオブジェクトから構成される複雑なシーンを生成する研究。
    *   **スタイライゼーション (Stylization):** 特定の芸術スタイルやテクスチャスタイルを3Dモデルに適用する研究。

これらの課題への取り組みは、TripoSGを単なる静的なオブジェクト生成ツールから、より多様で応用範囲の広い3Dコンテンツクリエーションの基盤へと発展させる可能性を秘めています。