Stylized Rendering as a Function of Expectation(2024) 

### Stylized Rendering as a Function of Expectation(Rex, 2021) 


#### Q:この論文の概要を教えてください
#### A:
この論文は、物理ベースのレンダリング（PBR）と非写実的レンダリング（NPR）の視覚効果を統合するための新しい手法を提案しています。従来のレンダリング方程式の一般化を行い、物理的な光伝達と一部のNPRスタイル化を統一した枠組みで捉えることを目指しています。提案された手法では、期待値の概念を使用して、光の古典的な伝達とNPRスタイル化をモデル化しています。これにより、リアルな光伝達と芸術的スタイル化を組み合わせ、視覚的に魅力的なコンテンツを生成することが可能となります。論文では、具体的な例を挙げながら、提案された手法がどのようにリアルな視覚効果とスタイル化された視覚効果を融合させるかを示しています。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981660/67932503-e129-da78-1d0f-d86b28e2bc82.png)


#### Q:この論文の主な貢献を3つ挙げてください．
#### A:
この論文の主な貢献を以下の3つにまとめます：

**物理ベースのレンダリングと非写実的レンダリングの統合**:

この論文の主要な貢献の1つは、物理ベースのレンダリング（PBR）と非写実的レンダリング（NPR）を統合する新しい手法を提案したことです。従来のPBRは物理的な現象をリアルに再現することに焦点を当てていましたが、NPRは芸術的なスタイル化を追求しています。提案された手法では、両者を統一的な枠組みで捉え、リアルな光伝達と一部のNPRスタイル化を統合することが可能となります。
この統合により、視覚的な自由度が向上し、レンダリングされたコンテンツの外観や感触を設計する際に新たな可能性が開かれます。例えば、提案された手法を用いて、シート紙をクロスハッチングでスタイル化してロボットの手描き感を周囲の環境と調和させたり、ペンの下のスタイライズされた影を通じて視覚的なコントラストを提供したりすることができます。

**期待値を用いたモデリング**:

論文では、期待値の概念を導入して、光の古典的な伝達とNPRスタイル化をモデル化しています。このアプローチにより、NPRスタイル化を期待値の関数として扱うことで、レンダリングプロセスにNPRスタイル化を統合することが可能となります。
光の振る舞いを捉える物理ベースのレンダリングと、芸術的効果を追求するNPRスタイル化を期待値の関数として組み合わせることで、リアリティと創造性を融合させた視覚的なコンテンツを生み出すことができます。

**新しいレンダリング方程式の提案**:

この論文では、提案された一般化されたレンダリング方程式を導入し、リアルな光伝達とNPRスタイル化を統合するための新しい手法を提示しています。この新しい方程式は、リアルなPBRの視覚効果とNPRの一部のスタイル化を捉えることができるため、従来のレンダリング手法では難しかった視覚化を可能にします。
この新しい方程式は、光の振る舞いとスタイル化を統一的に扱うことができるため、研究者やクリエイターにとって革新的なツールとなり、新しい視覚的表現を探求するための基盤を提供します、。

これらの貢献により、この論文はPBRとNPRの両方の利点を組み合わせ、視覚的な表現の幅を広げる新たな手法を提供しています。物理的なリアリティと芸術的なスタイル化を統合することで、より魅力的で表現豊かなコンテンツを生み出すことが可能となります。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981660/c9b09364-7a1c-e348-f2ce-2cb18e597d3b.png)

#### Q:提案されているレンダリング方程式の一般化は、物理ベースのレンダリングと様式化されたレンダリングをどのように組み合わせるのでしょうか？
#### A:
提案するレンダリング方程式の一般化は、現実的な光輸送と非フォトリアリスティックレンダリング（NPR）の様式化のサブセットの両方を統一されたフレームワークで捉える様式化レンダリング方程式を導入することで、物理ベースレンダリング（PBR）と様式化レンダリングを組み合わせたものである。この一般化は、ある種のNPRスタイライゼーションは、オブジェクトの表面から出る光を修正すると解釈できるという観察に基づいています。

スタイル化されたレンダリング方程式では、スタイル関数ᑔが出射輝度に適用され、これは期待値の関数です。この方程式は期待値の再帰関数であり、NPRスタイライゼーションをレンダリングプロセスに統合することができます。スタイル関数を介して放射輝度を変更することにより、オブジェクトの知覚色が変更され、PBRの現実的な光輸送と芸術的なスタイライゼーションが効果的にブレンドされます。

この一般化により、いつ、どのように放射輝度をスタイル化するかを制御できる柔軟なパラメトリゼーションが提供され、特定のNPRスタイル化とPBRのシームレスな統合が可能になります。定型化されたレンダリング方程式は、定型化された時点までの経路に基づいてオブジェクトの定型化を可能にし、既存の定式化では困難であったビジュアライゼーションの新たな可能性を開きます。

全体として、提案されたレンダリング方程式の一般化は、物理ベースのレンダリングと様式化されたレンダリングのギャップを埋めるものです。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981660/01c428c5-a483-00aa-ed76-4eb1100f9063.png)


#### Q:現実的なビジュアルと様式化されたビジュアルの融合を説明するために、文書にはどのような例が示されているか？
#### A:
この文書では、提案されたレンダリング方程式の一般化を使用して、リアルなビジュアルとスタイル化されたビジュアルのブレンドを説明するために、いくつかの例を示しています：

**紙のスタイライズ**: このドキュメントでは、1枚の紙をスタイライズしてクロスハッチの影を生成し、ロボットの手描き感を周囲の環境とブレンドする方法を紹介しています。

**ペンの下のスタイライズされた影**： ペンの下のスタイライズされた影が、興味深い視覚的コントラストを提供する例が示されています。

**鮮やかなゴールドのセルシェーディング**: このドキュメントでは、明るいゴールドのセルシェーディングが、影のある床をどのように明るくし、視覚的なまとまりを高めているかを示しています。

**タンクのスタイライズ**: 戦車を直接見るか、テーブルの上に置いた鏡を通して見るかによって、異なるスタイルが適用される。

**モノトーンの絵本**: 絵本のくすんだモノトーンカラーが、覗き窓越しに見ると生き生きと浮かび上がり、色の変化を見せる。

これらの例は、提案された定式化によって、カラーマッピング、セルシェーディング、クロスハッチングなどのさまざまなスタイライゼーションをレンダリングプロセスに統合できることを強調しています。NPRスタイライゼーションとPBRテクニックを組み合わせることで、リアルなビジュアルとスタイライズされたビジュアルをシームレスに融合させた視覚的に説得力のあるコンテンツを制作する上で、スタイライズされたレンダリング方程式の汎用性と創造的な可能性を実証しています。



#### Q:提案されている定式化において、古典的な輸送と非フォトリアリスティックな様式化の両方をモデル化するために、期待値の概念はどのように使われているのか？
#### A:
提案する定式化では、期待値の概念を用いて、古典的な輸送と非フォトリアリスティック（NPR）スタイライゼーションの両方をモデル化する。このアプローチにより、NPRスタイライゼーションを原理的かつ統一的な方法でレンダリングプロセスに統合することができます。

**古典的な輸送のモデル化**: 物理ベースレンダリング（PBR）において、古典的輸送とは、シーンにおける光の相互作用の現実的なシミュレーションを指します。オブジェクトの表面から出る光を表す出射輝度は、古典的輸送をモデル化する上で重要な要素です。出射輝度を期待値として考慮することで、この定式化はシーンにおける光の物理的挙動を捉えます。

**非フォトリアリスティックなスタイライゼーションのモデリング**： 非フォトリアリスティックなスタイライゼーションは、芸術的効果を得るためにレンダリング画像の外観を変更します。セルシェーディング、クロスハッチング、カラーマッピングなどのスタイライゼーションは、物理的な正確さではなく、芸術的な目標に基づいて出射輝度を変更する関数として解釈されます。スタイライゼーションを期待値の関数として扱うことで、定式化はこれらのスタイライゼーションを首尾一貫した制御された方法で適用することができます。

古典的な輸送モデリングと期待値の関数としての様式化を組み合わせることで、提案された定式化は、現実的なレンダリングと芸術的な様式化の間のギャップを埋める。このアプローチは、物理ベースのレンダリングにNPRスタイライゼーションをシームレスに統合することを可能にし、PBRのリアリズムとスタイライズされたレンダリングの創造性を融合した視覚的に魅力的なコンテンツを作成するための統一されたフレームワークを提供します。

#### Q:この研究の限界と今後の課題はなんですか
#### A:
この研究の限界と今後の課題について以下の点が挙げられます：

**期待値関数の不連続性への対応**:

現在の研究では、期待値関数の連続性に焦点を当てており、不連続な期待値関数に対する無バイアス推定法が限られています。不連続な期待値関数に対する収束する無バイアス推定法を探求することは重要な課題です。従来の手法では収束しない可能性があるため、新たな手法の開発が求められます。

**スタイル化レンダリング方程式の局所性**:

提案されたスタイル化レンダリング方程式は、主に出射輝度を局所的に変更することに焦点を当てています。そのため、畳み込みや非線形拡散プロセスに基づくスタイル化など、より複雑なスタイル化を適切に捉えることができない場合があります。より抽象的なスタイル化や新しい表現方法に対応するために、方程式の拡張や改良が必要とされます。

**物理的表現の困難性**:

特定のスタイル化を物理的な表現として捉えることは困難な場合があります。例えば、特定のスタイル化を光源として扱う方法は、物理的な表現を見つけることが難しい場合があります。この課題に対処するために、より現実的なスタイル化の表現方法や新たなアプローチの開発が必要です。

これらの限界と課題に対処するためには、不連続な関数の期待値に対する収束する無バイアス推定法の開発や、より複雑なスタイル化を捉えるための方程式の拡張、物理的表現の困難性に対処する新たなアプローチの検討が必要となります。今後の研究において、これらの課題に取り組むことで、より高度なスタイル化レンダリング手法の開発が期待されます。

#### Q:新しいレンダリング方程式の提案とのことですが、どのようなものか詳しく説明してください
#### A:
この研究では、従来の物理ベース・レンダリング（PBR）と非写実的レンダリング（NPR）の視覚表現を統合するための新しいレンダリング方程式の提案が行われています。提案されたレンダリング方程式は、期待値の関数としてスタイル化を捉えることを基本としています。

具体的には、物体表面から出る光、つまり出射輝度を修正する関数としてスタイル化を捉えます。例えば、セルシェーディングやクロスハッチングなどのスタイル化は、物体の色を局所的に変更する操作として表現されます。PBRの文脈では、物体の色は表面から出る光によって決定されます。このようなスタイル化は、出射輝度を解く積分にスタイル（関数）を適用することで、期待値の関数として効果的に適用されると解釈されます。

提案されたレンダリング方程式は、再帰的な積分から再帰的な期待値関数への一般化を行います。期待値関数の推定は挑戦的であるため、無バイアスおよびバイアスの推定法を提供し、提案された再帰的な方程式の完全な推定器を構築します。この手法は、既存のスタイル化（色のマッピング、セルシェーディング、クロスハッチングなど）を捉えるだけでなく、NPRとPBRの視覚表現を融合し、従来の手法では困難だった視覚表現を探求することが可能です。

この新しいレンダリング方程式の提案により、物理的な光伝達と一部のNPRスタイル化を包括的に捉えることが可能となります。この手法は、視覚表現のデザインにおいて大きな自由度を提供し、写実的な視覚と芸術的な視覚を統合する新たな可能性を開拓することが期待されます。


### 所感
ヒューリスティックな手法が多いノンフォトを定式化してレンダリング方程式化しているところが素晴らしい．ヒューリスティックな手法が複雑になりがちだが、このような数式による形は（理解できれば）シンプルで、最終的には生き残る気がする。