ASMR: Adaptive Skeleton-Mesh Rigging and Skinning via 2D Generative Prior(2025) 

### ASMR: Adaptive Skeleton-Mesh Rigging and Skinning via 2D Generative Prior(Hong, 2025) 


#### Q:この論文の要約を教えてください
#### A:
✨この研究では、メッシュとスケルトンの多様な構成に対応するため、2D生成事前分布を利用した、キャラクターメッシュの自動リギングとスキニングの新しい手法が提案されています。
💪提案手法は、注意機構を用いた骨格関節予測とスキニングウェイト予測の2つの主要モジュールで構成され、メッシュとスケルトンの間の関係性を捉え、明示的な教師なしで多様な構成に対応したスキニングウェイトを学習します。
🚀実験結果は、提案手法が既存手法と比較して、リギング、スキニング、およびメッシュ変形の品質において優れており、多様なスケルトンおよびメッシュ入力に対する堅牢性を示すことを実証しています。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981660/b1774d0a-5e22-4f68-8f3d-e4b7c7e154f6.png)


#### Q:もう少し詳しくこの論文の概要を教えてください
#### A:
この論文は、スケルトンアニメーションデータをキャラクターメッシュのアニメーションに統合する際の課題に対処するため、ASMR (Adaptive Skeleton-Mesh Rigging and Skinning) という新しい自動リギング・スキニング手法を提案します。
既存の手法では、スケルトンとメッシュの多様な構成 (形状、構造) への対応が不十分であり、メッシュとスケルトンの両方の設定におけるバリエーションを十分に考慮できていませんでした。

**提案手法の概要**
ASMRは、スケルトンとメッシュの任意の設定に対応し、明示的な教師あり学習を必要とせずに、最適なスケルトンの予測とスキニングウェイトの定義を可能にします。
主な構成要素は以下の通りです。

**Skeletal Articulation Prediction (スケルトン関節予測)**: 入力メッシュとスケルトンの関係を捉えるAttention機構を用いて、メッシュのサイズとプロポーションに合うようにスケルトンを調整し、元の関節の接続性を維持します。
メッシュエンコーダには、Diffusion 3D Features (Diff3F) を採用し、大規模な画像データセットで事前学習された基盤ビジョンモデルから得られるセマンティック記述子として、メッシュのセマンティック情報を効果的に捉え、多様なメッシュ形状への汎化性能を高めます。
GCN（Graph Convolutional Network）を用いることで、スケルトンの構造を考慮した潜在表現を獲得します。
クロスアテンション機構により、メッシュとスケルトンの潜在特徴間の相互作用をモデル化し、関節のオフセット残差を予測します。

**Skinning Weight Prediction (スキニングウェイト予測)**: 変形されたメッシュからスキニングウェイトを暗黙的に学習し、特定のメッシュ・スケルトン構成に合わせた明示的なground truthスキニングウェイトを必要としません。Attention機構を用いて、メッシュとスケルトン間の関係をモデル化し、学習されたAttentionウェイトをスキニングウェイトとして利用します。


**手法の詳細**

**データ表現**

**スケルトン**:
\[
        S = \{g_{1:NJ}, o_{1:NJ}\}
        \]
ここで、\(NJ\) は関節の数、\(g_j \in \mathbb{R}^3\) はレストポーズでのグローバルな関節位置、\(o_j \in \mathbb{R}^3\) は親関節座標系に対するローカルな関節位置を表します。
メッシュ:
\[
        G = \{V_r, V_{1:NT}^d, V_f\}
        \]
ここで、\(V_r \in \mathbb{R}^{NV \times 3}\) はレストポーズでの頂点位置、\(NV\) は頂点の数、\(V_t^d \in \mathbb{R}^{NV \times 3}\) はタイムステップ \(t\) での変形された頂点位置、\(V_f\) は3D diffusion特徴を表します。


**Skeletal Articulation Prediction**

**メッシュエンコーダ**:
PointNetアーキテクチャを用いて、レストポーズでの頂点位置 \(V_r\) と Diff3F \(V_f\) からメッシュの潜在特徴 \(z_m \in \mathbb{R}^{NV \times ND}\) を生成します (\(ND\) は潜在ベクトルの次元)。

**スケルトンエンコーダ**:
GCN (グラフ畳み込みネットワーク) を用いて、スケルトンのグラフ構造と特徴をエンコードし、潜在表現 \(z_s \in \mathbb{R}^{NJ \times ND}\) を生成します。具体的には、グラフAttentionネットワークを用いてノード特徴を更新します。

**オフセット残差予測**:
クロスAttention機構を用いてメッシュとスケルトン間の関係を捉え、ローカルオフセットの残差 \(\Delta o \in \mathbb{R}^{NJ \times 3}\) を予測します。
\[
        z' = \text{softmax} \left( \frac{z_s z_m^T}{\sqrt{ND}} \right) z_m
        \]
左右対称性を考慮して残差を更新します。
\[
        \Delta o_j = \frac{1}{2} \left( \Delta o_j + \Delta o_{\rho(j)} \odot [-1, 1, 1] \right)
        \]
ターゲットスケルトンのローカルオフセットを計算します。
\[
        o^{tgt} = o^{src} + \Delta o
        \]
**モーションリターゲティング**:
事前学習済みの SAME (Skeleton-Agnostic Motion Embedding) モデルを用いて、ターゲットポーズ \(\hat{D}_t\) を取得します。


**Skinning Weight Prediction**

メッシュの潜在特徴 \(z_m\) をクエリ、ターゲットスケルトンの潜在特徴 \(z_t\) をキーとしてAttention行列 \(A \in \mathbb{R}^{NV \times NJ}\) を計算します。
\[
        A = \text{softmax} \left( \frac{z_m z_t^T}{\sqrt{ND}} \right)
        \]
学習されたAttentionウェイトをスキニングウェイトとしてLBS (Linear Blend Skinning) に適用し、メッシュを変形させます。
\[
        \begin{bmatrix} \hat{V}_{d,i} \\ 1 \end{bmatrix} = \sum_{j=1}^{NJ} A_{i,j} T_j \begin{bmatrix} V_{r,i} \\ 1 \end{bmatrix}
        \]


**学習**

**損失関数**:
\[
        L = L_{vtx} + L_{edge} + L_{skel} + L_{sdf}
        \]
ここで、\(L_{vtx}\) は頂点再構成損失、\(L_{edge}\) はエッジ損失、\(L_{skel}\) はスケルトン損失、\(L_{sdf}\) は符号付き距離関数 (Signed Distance Function) 損失を表します。

**実験結果**
既存手法 (Pinocchio, RigNet, NBS) との比較により、提案手法がリギング、スキニング、メッシュ変形の品質において優れていることを示しました。Diff3Fの有効性、スケルトン対称性の重要性を示すAblation実験を行いました。ユーザー評価の結果、提案手法が既存手法よりも高い評価を得ました。

**結論**
ASMRは、スケルトンアニメーションデータを用いたキャラクターメッシュの自動リギング・スキニングにおいて、高い柔軟性と汎化性能を実現する有望な手法です。 Diff3Fのようなセマンティックな事前情報を活用することで、様々なメッシュとスケルトンの設定に対応し、高品質なアニメーションを生成することができます。

**今後の課題**
・スキニングウェイトのリークや不均一な分布の改善
・指のような補助的な関節の処理
・SDF損失計算のロバスト性の向上

#### Q:提案手法の処理の流れを順序だてて説明してください
#### A:

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981660/06aacbb7-7190-4978-b1fb-9a5fd5cc4013.png)


この論文で提案されているASMR（Adaptive Skeleton-Mesh Rigging and Skinning）手法の処理の流れは、以下のようになります。

**入力**:
アニメーションさせたいキャラクターメッシュ（T-ポーズ）。
ソースとなるスケルトンモーションデータ（スケルトンの形状、ボーンの長さ、関節の数、階層構造を含む）。
ソースメッシュとソーススケルトンは、一貫してT-ポーズで提供され、リニアブレンドスキニング（LBS）を使用する際の適切なアライメントを保証します。

**Skeletal Articulation Prediction（スケルトン関節予測）**:
メッシュエンコーダが、入力メッシュから意味のある特徴を抽出します。この際、Diff3F（Diffusion 3D Features）というセマンティック記述子を利用し、様々なメッシュ形状に対応できるようにしています。
スケルトンエンコーダが、入力スケルトンから特徴を抽出します。GCN（グラフ畳み込みネットワーク）を用いて、関節の数や階層構造が異なる様々なスケルトンに対応します。
オフセット残差予測により、入力スケルトンの関節位置を調整し、メッシュのサイズやプロポーションに合わせたターゲットスケルトンを生成します。
これにより、関節がメッシュ内に適切に配置され、不自然な変形を防ぎます。
モーションリターゲティングのために、予測されたターゲットスケルトンを使用します。
SAMEモデル（Skeleton-Agnostic Motion Embedding）などの既存の手法を利用して、ソーススケルトンのモーションをターゲットスケルトンに適用します。

**Skinning Weight Prediction（スキニングウェイト予測）**:
ターゲットスケルトンと入力メッシュの特徴を用いて、各メッシュ頂点がどの関節の影響を受けるかを決定するスキニングウェイトを予測します。アテンション機構を利用して、メッシュの特徴とスケルトンの特徴の関係性を学習し、スキニングウェイトを生成します。これにより、明示的な教師データなしに、適切なスキニングウェイトを暗黙的に学習します。


**メッシュの変形**:
予測されたスキニングウェイトとターゲットスケルトンのモーションデータを用いて、リニアブレンドスキニング（LBS）によってキャラクターメッシュを変形させます。これにより、ソーススケルトンのモーションが、入力メッシュに合わせて自然に変形されたアニメーションとして表現されます。

**出力**:
アニメーションされたキャラクターメッシュ。
この手法の重要な点は、スケルトンとメッシュの様々な構成に対応できること、Diff3Fを利用してセマンティックな情報を活用していること、明示的なスキニングウェイトの教師データなしに学習できることです。


#### Q:関連手法との比較について詳しく説明してください
#### A:
この論文では、提案手法（ASMR）をPinocchio、RigNet、NBSという3つの既存の自動リギング手法と比較しています。それぞれの比較について、詳細な説明を以下に示します。
**1. Pinocchio**

概要: Pinocchioは、ユーザーが指定したスケルトンをキャラクターメッシュにフィットさせることで、自動的にリギングとスキニングを行う初期の研究の一つです。メッシュを反復的に縮小させ、スケルトン状のグラフに収束させた後、熱拡散モデルを用いて各頂点のスキニングウェイトを計算します。
比較:
利点: ユーザーが指定したスケルトンを比較的簡単にメッシュにフィットさせることができます。
欠点: スケルトンとメッシュのサイズやプロポーションが大きく異なる場合、スケルトンの構造を維持することが難しく、不自然な結果になることがあります。また、幾何学的処理に依存しているため、高レベルなセマンティック関係を考慮できず、不適切な頂点にウェイトが割り当てられることがあります。
論文における評価: 論文では、Pinocchioが手足などの妥当な結果を生成する一方で、下半身や骨盤関節からの不適切な頂点を他の関節に割り当ててしまうと指摘しています。これは、Pinocchioが幾何学的処理に依存しており、特定の頂点をどの関節にバインドすべきかを定義する高レベルのセマンティック関係を考慮していないためです。


論文での対応: 論文では、Pinocchioの結果を元のメッシュにマッピングし直すことで、公平な比較を試みています。

**2. RigNet**

概要: RigNetは、グラフニューラルネットワーク（GNN）を用いて、3Dジオメトリから直接スケルトンを予測する学習ベースの手法です。複雑で多様なキャラクターモデルに対してロバストなソリューションを提供します。
比較:
利点: スケルトンの入力が不要で、メッシュから直接スケルトンを生成できます。
欠点: ユーザーが関節の数や階層構造を明示的に指定できないため、スケルトンの構造を制御することが難しい場合があります。また、骨盤関節の特定や、肩などのボリュームのある領域に不要な関節を追加してしまうといった課題があります。
論文における評価: 論文では、RigNetが骨盤関節を正確に識別することが難しく、肩などのボリュームのある領域に不要な関節を導入してしまうと指摘しています。これにより、スケルトンが元のスケルトン構造から大きく逸脱する可能性があります。

論文での対応: 論文では、RigNetが生成した複数のスケルトンをランダムに生成し、評価に使用しています。

**3. NBS (Neural Blend Shapes)**

概要: NBSは、ニューラルネットワークを用いて、リギングされたポーズ付きメッシュを生成するデータ駆動型の深層学習アプローチです。テンプレートスケルトンの関節オフセットと、ポーズに依存するブレンドシェイプを予測することで、アニメーションメッシュの品質を向上させます。
比較:
利点: 柔軟で適応的なリギングソリューションを提供します。
欠点: 事前に定義されたスケルトン構造と、SMPL分布に厳密に沿ったメッシュに依存しているため、汎用性が低いという制約があります。
論文における評価: 論文では、NBSがメッシュのサイズとプロポーションにフィットするスケルトンを生成する一方で、ソーススケルトンの形状を事前に定義されたスケルトンオフセットに変化させてしまうと指摘しています。また、ソーススケルトンがテンプレートで定義された関節を含まない場合、動作させることができません。


論文での対応: 論文では、NBSを、すべてのキャラクターでNBSの要件を満たすスケルトン構成でのみ評価しています。

**提案手法（ASMR）の利点**:

スケルトンとメッシュの様々な構成に対応できること。
Diff3Fを利用してセマンティックな情報を活用していること。
明示的なスキニングウェイトの教師データなしに学習できること。
他の手法と比較して、リギング、スキニング、メッシュ変形の品質が高いこと。

総括:
この論文では、提案手法（ASMR）が、既存の自動リギング手法と比較して、より高い汎用性と品質を提供できることを示しています。ASMRは、スケルトンとメッシュの様々な構成に対応できるだけでなく、セマンティック情報を活用し、明示的な教師データなしに学習することができます。これらの利点により、ASMRは、キャラクターアニメーション制作の自動化において、有望なソリューションであると考えられます。
この詳細な比較が、提案手法の優位性を理解する上で役立つことを願っています。さらに質問があれば、遠慮なくお尋ねください。

#### Q:今後の課題について詳しく説明して下さい
#### A:
この論文で述べられている今後の課題について、さらに詳しく説明します。

**リギング品質の向上**:
**現状の課題**: 時折、意図しない関節に頂点がバインドされてしまうスキニングウェイトのリークが発生する。また、一部の予測されたスキニングウェイトが、特定の関節に集中する代わりに、複数の関節に均等に分散してしまうことがある。
**解決策の方向性**:
各関節がキャラクターメッシュ内に正確に埋め込まれるように、リギング品質を向上させる。関節と頂点の対応関係をより正確にモデル化する。
**期待される効果**: より正確なスキニングウェイトの予測、より自然なメッシュ変形。

**モーションリターゲティングの精度向上**:
**現状の課題**: SAME (Skeleton-Agnostic Motion Embedding) の限界により、補助関節（指など）の制御が難しい。
**解決策の方向性**:より高度な技術を取り入れ、モーションリターゲティングの精度を高める。よりロバストな事前特徴を利用する。
**期待される効果**: より自然で正確なモーションリターゲティング、特に補助関節の制御の改善。


**変形品質の向上**:
**現状の課題**: スキニングウェイトが不正確に予測されると、変形プロセス中にアーティファクトが発生し、全体的な変形品質が低下する。
**解決策の方向性**:異なる関節間のスキニングウェイトの急激な変化を促すために、追加の正則化項を導入する。
**期待される効果**: より滑らかで自然なメッシュ変形、アーティファクトの軽減。


**補助関節（指など）への対応**:
**現状の課題**: 指などの補助関節の制御が難しい。
**解決策の方向性**:補助関節のモーションをより詳細にモデル化する。
手と物体のインタラクションを考慮する。
**期待される効果**: より自然な指の動き、手と物体のインタラクションのリアリティ向上。


**SDF (Signed Distance Function) 計算のロバスト性向上**:
**現状の課題**: SDF損失を計算するために、まず関節から最も近い表面までの符号なし距離を取得し、次に内部と外部の分類に基づいて符号を割り当てるという簡略化されたアプローチは、複雑なジオメトリに対してロバスト性に欠ける。
**解決策の方向性**:より高度なSDF計算手法を導入する。非水密メッシュに対するSDF計算のロバスト性を向上させる。
**期待される効果**: より正確なSDF損失の計算、より安定したリギング結果。

**追加の考察**:
**学習データの多様性の向上**: 現在の手法は、特定のデータセット（Mixamoなど）に依存している可能性があります。より多様なデータセットで学習することで、汎化性能を向上させることができます。
**リアルタイム性能**: 現在の手法は、リアルタイムアプリケーションには計算コストが高い可能性があります。モデルの軽量化や高速化技術を導入することで、リアルタイム性能を向上させることができます。
**ユーザーインタラクション**: 自動リギング・スキニングの結果をユーザーがインタラクティブに編集できるようなインターフェースを開発することで、より柔軟で使いやすいシステムを構築することができます。

これらの課題に取り組むことで、自動リギング・スキニング技術はさらに進化し、キャラクターアニメーション制作の効率化と品質向上に大きく貢献することが期待されます。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981660/5bc8bd0f-bc69-41f5-ba48-c3196cb0d43d.png)

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981660/2f011a32-0519-41d3-82e0-ef507bce05ee.png)