Perceptual Model for Adaptive Local Shading and Refresh Rate (2021)

### Perceptual Model for Adaptive Local Shading and Refresh Rate (AKSHAY, 2021) 

#### Q:この論文の概要を教えてください
#### A:
この論文は、限られたレンダリング予算内でアニメーションコンテンツの品質を最大化する、局所的なシェーディング（VRS）とリフレッシュレートの適応制御のための新しい手法を提案しています。 手法は、テクスチャコンテンツ、動きベクトル、輝度、角度分解能を分析し、リフレッシュレートとVRS状態マップを提案します。 既存の手法との比較実験により、提案手法が固定解像度レンダリングや既存の動き適応技術よりも大幅に優れていることが示されています。 新たな知覚モデル（CaMoJAB）が開発され、様々なデータセットを用いて検証されています。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981660/6b5749ac-1336-758b-d3fb-3726ad0d4cb2.png)


#### Q:この論文で提案されている知覚モデルの主な目的は何ですか？
#### A:
この論文で提案されている知覚モデルの主な目的は、**制約のあるレンダリング予算下でアニメーションコンテンツの品質を最大化するために、ローカルシェーディング（VRS）とリフレッシュレートを適応的に制御する新しい方法を提案すること**です。

具体的には、このモデルは以下の要素を考慮して、最適なリフレッシュレートとVRS状態マップを提案します:

*   **テクスチャコンテンツ**：画像のテクスチャの複雑さを分析します。高周波テクスチャは、低周波テクスチャよりもVRSによる品質劣化が目立ちやすいため、より高いシェーディングレートが割り当てられます。
*   **画面上の速度**：オブジェクトの動きの速さを分析します。動きの速い領域は、VRSによる品質劣化が目立ちにくいため、より低いシェーディングレートが割り当てられます。
*   **輝度**：画面の明るさを分析します。
*   **実効解像度**：ディスプレイの解像度を考慮します。
*   **表示の残光**：ディスプレイのピクセルが発光を続ける時間を考慮します。

このモデルは、これらの要素に基づいて、ジャダー、エイリアシング、ブラーの知覚的な影響を評価する新しいコンテンツ適応型メトリック（CaMoJAB）を使用しています。このメトリックは、コントラスト感度の心理物理学的モデルに基づいており、データに基づいて調整および検証されています。

このモデルの目標は、レンダリングコストを一定に保ちながら、フレーム全体で知覚される品質を最大化することです。従来のVRS制御方法とは異なり、このモデルは、レンダリングコストがフレームごとに変化するのではなく、一定の予算内で品質を最大化することを目指しています。

このモデルは、ゲームエンジンにプラグインとして実装されており、実験的な検証では、固定解像度とリフレッシュレートでのレンダリングや、既存のモーション適応技術よりも大幅に優れた結果を示しています。


#### Q:提案手法は、既存手法と比べてどのような利点がありますか？
#### A:
提案手法であるALSaRR（Adaptive Local Shading and Refresh Rate）は、既存の手法と比較して、以下のような利点があります。

*   **局所的な可変レートシェーディング（VRS）の制御**：ALSaRRは、16x16ピクセルのタイルごとに異なるシェーディングレートを適用することで、局所的な解像度を制御できます。これにより、画像の特定領域に対してよりきめ細かい品質調整が可能になります。
*   **リフレッシュレートの適応制御**: ALSaRRは、テクスチャの内容、画面上の速度、輝度、有効解像度、ディスプレイの残像などの主要な要素に基づいて、VRSの状態マップだけでなく、リフレッシュレートも制御します。これにより、アニメーションコンテンツの品質を最大限に高めることができます。
*   **コンテンツ適応型メトリックの利用**: ALSaRRは、知覚心理モデルに基づいて導出された、ジャダー、エイリアシング、ブラーのコンテンツ適応型メトリック（CaMoJAB）を使用しています。これにより、人間の視覚システム（HVS）の特性を考慮した、より正確な品質評価が可能になります。
*   **眼球追跡の不要**: 既存のモーション適応技術とは異なり、ALSaRRは眼球追跡を必要とせずに、局所的な解像度を制御します。これにより、より多くのアプリケーションでALSaRRの利用が可能になります。
*   **固定されたレンダリング予算内での最適化**: ALSaRRは、フレームごとの計算コストを一定に保ちつつ、限られたレンダリング予算内で空間的および時間的な解像度の最適なトレードオフを見つけることを目指しています。
*   **モーションアーチファクトへの総合的な対応**: 既存のモデルの多くがモーションアーチファクトの一部のみを考慮しているのに対し、ALSaRRは、レンダリングによる時間的および空間的なエイリアシングなど、複数のモーションアーチファクトを考慮しています。
*   **幅広いディスプレイ技術への汎用性**: ALSaRRは、さまざまなディスプレイ技術やコンテンツに対して一般化できるように設計されており、広範なディスプレイパラメータとモーションアーチファクトに対応できます。
*   **実験データに基づいたキャリブレーションと検証**: ALSaRRのメトリックは、既存のデータセットと新しい実験データに基づいてキャリブレーションおよび検証されています。これにより、モデルの信頼性が高められています。

これらの利点により、ALSaRRは、リアルタイムレンダリングにおいて、より効率的かつ高品質なアニメーション表示を実現することが可能になります。


#### Q:ALSaRR手法のレンダリング予算制約への対応方法は？
#### A:
ALSaRR（Adaptive Local Shading and Refresh Rate）手法は、**固定されたレンダリング予算内で最適な画質を実現する**ために、以下の方法で対応しています。

*   **ピクセル/秒単位での予算制約**：ALSaRRは、レンダリング予算をピクセル/秒単位で定義します。これにより、GPUの処理能力や電力制約を考慮した上で、最適なレンダリングパラメータを決定できます。
*   **フレームレートの調整**: 画面全体の平均的な動きの速さに基づいて、最適なフレームレートを決定します。動きの速いシーンでは、より高いフレームレートでスムーズな動きを実現し、動きの少ないシーンでは、より高い解像度で鮮明な画像を提供します。
*   **可変レートシェーディング(VRS)の活用**：
    *   ALSaRRは、VRS技術を利用して、画面を16x16ピクセルのタイルに分割し、各タイルに異なるシェーディングレートを適用します。
    *   これにより、画像のテクスチャの複雑さ、動きの速さ、輝度などの要素に応じて、必要な部分にのみ高いシェーディングレートを適用し、不要な部分には低いシェーディングレートを適用することで、レンダリング負荷を軽減します。
*   **CaMoJABメトリックによる品質評価**:
    *   ALSaRRは、提案されたCaMoJAB（Content-adaptive Metric of Judder, Aliasing and Blur）メトリックを用いて、各タイルの画質を評価します。
    *   CaMoJABは、ジャダー、エイリアシング、ブラーといったモーションアーチファクトを、人間の視覚特性に基づいて評価します。
    *   これにより、レンダリング予算内で知覚的な画質を最大化するシェーディングレートの選択が可能になります。
*   **貪欲法によるシェーディングレートの決定**:
    *   ALSaRRは、動的計画法よりも計算コストの低い**近似的な貪欲法**を用いて、各タイルに最適なシェーディングレートを決定します。
    *   具体的には、各タイルについて、品質とレンダリングコスト（ピクセル数）の比率を計算し、その比率が高い順に、シェーディングレートを上げていきます。
    *   これにより、与えられたレンダリング予算内で、最も知覚的な画質向上効果の高いタイルから優先的に高いシェーディングレートが割り当てられます。
*  **事前計算された品質関数の利用**:
    *   各テクスチャ、ミップマップレベル、シェーディングレートに対して、事前にCaMoJABによる品質予測を計算し、多項式として保存します。
    *  これにより、リアルタイムでの品質計算の負荷を大幅に削減し、ALSaRRのリアルタイムな動作を可能にしています。
*  **局所的な眼球運動の考慮**:
   *   眼球追跡を使用せずに、各VRSタイルで眼球が動きを追跡していると仮定することで、各タイルごとに異なる眼球運動速度を考慮し、最も保守的な品質劣化の推定を行います。これにより、眼球追跡を必要とせずに、より正確な品質予測が可能になります。
*   **動的な解像度調整ではなく、局所的なシェーディング制御**: ALSaRRは、フレーム全体の解像度を動的に調整するのではなく、VRSを用いて、局所的にシェーディングレートを調整します。これにより、必要な部分にのみ高いシェーディングレートを適用し、全体的な画質を向上させながら、レンダリング負荷を低減します。

これらの手法により、ALSaRRは、**限られたレンダリング予算内で、知覚的に最適な画質**を実現します。特に、モバイルデバイスなどの制約のある環境において、より高い解像度とリフレッシュレートでゲームをプレイするための重要な技術となります。

ただし、ALSaRRにはいくつかの**限界**も存在します。例えば、テクスチャ情報に依存しているため、影や透明オブジェクト、パーティクルシステムなど、シェーディングが重要な要素となる場合には、最適なシェーディングレートが割り当てられない可能性があります。

#### Q:CaMoJABメトリックが考慮する視覚的アーティファクトは何か
#### A:
CaMoJAB（Content-adaptive Metric of Judder, Aliasing and Blur）メトリックは、以下の視覚的アーティファクトを考慮しています。

*   **ジャダー（Judder）**：
    *   **低リフレッシュレート**で動画を表示した際に発生する、動きがカクカクして見える現象。
    *   CaMoJABは、時間的なサンプリングによって生じる信号の**複製（エイリアス）**を周波数領域で分析し、ジャダーの度合いを評価します。
    *   特に、**ディスプレイのリフレッシュレート**と**動画の動きの速さ**がジャダーの知覚に影響を与えることを考慮しています。

*   **エイリアシング（Aliasing）**：
    *   **解像度が低い**場合に、画像に階段状のギザギザやモアレが生じる現象。
    *   CaMoJABは、**可変レートシェーディング(VRS)**によって生じるテクスチャの歪みを、周波数領域で分析します。
    *   具体的には、VRSによる**ミップマップ**の選択や、**ダウンサンプリング**によって失われる高周波成分、およびエイリアシングによって生じる低周波成分の歪みを評価します。

*   **ブラー（Blur）**：
    *   **動きが速いオブジェクト**を表示した際に、画像がぼやけて見える現象。
    *   CaMoJABは、**ホールド型ブラー**と**眼球運動ブラー**の2種類のブラーを考慮します。
        *   ホールド型ブラーは、LCDなどのディスプレイ技術に固有の、**フレーム表示時間の長さ**によって生じるブラーです。
        *   眼球運動ブラーは、**スムーズな眼球運動(SPEM)**が不完全な場合に生じるブラーであり、オブジェクトの速度に比例します。
    *   これらのブラーを周波数領域で分析し、その影響を評価します。

これらのアーティファクトは、互いに独立ではなく、相互に影響し合う可能性があるため、CaMoJABはこれらのアーティファクトを総合的に評価します。また、**テクスチャのコンテンツ**がこれらのアーティファクトの知覚に影響を与えるため、CaMoJABはコンテンツ適応型（Content-adaptive）のメトリックとして設計されています。


#### Q:本論文で用いられた主観的画質評価実験の目的と手法を簡潔に説明せよ。
#### A:
この論文では、主観的な画質評価実験として、**2つの主要な実験**（実験1と実験2）が実施されています。それぞれの目的と手法は以下の通りです。

**実験1：VRSモーション品質測定実験**

*   **目的**:
    *   **可変レートシェーディング(VRS)**によるシェーディングレートの低減が、モーション品質に与える影響を測定すること。
    *   特に、**リフレッシュレート**、**ディスプレイの残光時間(persistence)**、**解像度**、**輝度**、**コントラスト**、**オブジェクトの速度**、**テクスチャの種類**などの要素が、VRSによる画質劣化にどのように影響するかを調査すること。
    *   この実験の結果は、提案する**CaMoJABメトリック**を調整・検証するためのデータとして使用すること。
*   **手法**:
    *   **3つの異なるディスプレイ設定**（PC、モバイル、VRを想定）で実験を実施。
        *   各設定で、**リフレッシュレート**、**残光時間**、**解像度**などのパラメータを調整。
    *   **複数のテクスチャ**（チェッカーボード、ノイズ、草、グラデーションなど）を使用。
    *   **異なる速度**で動く3Dオブジェクトのアニメーションを表示。
    *   参加者には、**異なるシェーディングレート**でレンダリングされた2つのアニメーションを比較してもらい、どちらがより高品質であるかを判断してもらう。
    *   **ペアワイズ比較**を用いて、各条件の画質を評価。
    *   実験結果は、**JND（Just-Noticeable Difference）**という知覚的な尺度に変換して分析。
    *   **アクティブサンプリング**を用いて、実験の効率を向上。
    *   **ブートストラップ法**を用いて信頼区間を計算し、結果の信頼性を評価。

**実験2：ALSaRRリアルタイムレンダリング実験**

*   **目的**:
    *   提案する**ALSaRR（Adaptive Local Shading and Refresh Rate）**手法の有効性を、**実際のゲームシーン**を模倣した環境で検証すること。
    *   ALSaRRを、**固定解像度・リフレッシュレートレンダリング**および既存の**MARRR**（モーション品質モデル）と比較し、ALSaRRの優位性を示すこと。
*   **手法**:
    *   **Unity 3D**で実装された複数のゲームシーンを使用。
        *   各シーンで、**異なるカメラモーション**（プレイヤー操作、定義済みパス）を使用。
    *   **ALSaRR**、**固定解像度・リフレッシュレートレンダリング**、**MARRR**の3つのレンダリング手法で各シーンをレンダリング。
        *   固定解像度・リフレッシュレートレンダリングでは、**複数のシェーディングレートとリフレッシュレート**の組み合わせを使用。
    *   参加者には、**2つのレンダリング結果を比較**してもらい、どちらがより高品質であるかを判断してもらう。
    *   品質の判断基準を「**スムーズな動きと鮮明な画像**」と明確化。
    *   **ペアワイズ比較**を用いて、各手法の画質を評価。
    *   実験結果は、**二項検定**を用いて統計的に分析し、有意差を検証。

これらの実験を通じて、**VRSによる画質劣化の要因**を特定し、それを考慮した**ALSaRR手法の有効性**を評価しています。また、実験で得られたデータは、**CaMoJABメトリックの精度向上**にも貢献しています。


#### Q:提案手法の有効性を検証するために用いられた実験を詳細に説明しなさい。
#### A:
提案手法の有効性を検証するために、この研究では**2つの主要な実験**が行われました。これらの実験は、提案された**ALSaRR（Adaptive Local Shading and Refresh Rate）**手法の有効性と、その基盤となる**CaMoJAB（Content-adaptive Metric of Judder, Aliasing and Blur）メトリック**の精度を評価することを目的としています。

**実験1：VRSモーション品質測定実験**

*   **目的**: この実験は、**可変レートシェーディング（VRS）**によるシェーディングレートの低減が、モーション品質に与える影響を詳細に測定することを目的としています。特に、**リフレッシュレート**、**ディスプレイの持続性**（persistence）、**解像度**、**輝度**、**コントラスト**、**オブジェクトの速度**、**テクスチャの種類**など、様々な要因がモーション品質に与える影響を調べます。
*   **実験設定**:
    *   実験は、**PC、モバイル、VR**の3つの異なるディスプレイ環境を想定した設定で行われました。
    *   **2つの165Hzのアダプティブシンクモニター**を使用し、2つのアニメーションを左右に並べて表示しました。
    *   VR環境をシミュレートするために、**Valve Index**ヘッドセットで仮想ディスプレイを使用しました。
    *   実験に使用したテクスチャは、**チェッカーボード、線形グラデーション、ノイズ、草**の4種類で、それぞれ異なる空間周波数成分を含んでいます。
    *   3Dモデルは、**立方体、円錐、球、円柱、カプセル**などの単純な形状と、**スタンフォードバニー、ユタティーポット**などの複雑な形状を使用しました。
    *   3Dモデルは水平方向に一定速度で移動し、わずかな回転運動も加えられました。
    *   VRSによるシェーディングレートの低減は、**水平方向のみ**に適用し、{1 × 2, 2 × 2, 4 × 2}の3つのシェーディングレートを比較しました。
*   **実験手順**:
    *   参加者は、2つのアニメーションを比較し、**より高品質**な方を選択するように指示されました。
    *   比較対象のアニメーションは、シェーディングレートまたはテクスチャが異なります。
    *   必要に応じて、**スペースキー**を押すことで、**元の解像度（VRS 1×1）でレンダリングされた参照**アニメーションを確認できました。
    *   参加者には、VRSによって引き起こされるモーションアーチファクトに関する**短いトレーニング**が行われました。
    *   実験は、参加者の疲労を避けるため、各セッション30分以内に制限されました。
    *   データ収集の効率を最大化するため、**アクティブサンプリング**という手法を用いました。
*   **結果**:
    *   実験の結果は、**JND（Just-Noticeable Difference：最小可知差異）**スケールに変換され、統計的に分析されました。
    *   実験の結果から、**シェーディングレートの低減による品質劣化**は、速度が上がるにつれて減少することが確認されました。また、品質劣化は、テクスチャの種類によって異なることも示されました。
    *   この実験データは、**CaMoJABメトリックのキャリブレーション**に使用されました。

**実験2：ALSaRRのリアルタイムレンダリング実験**

*   **目的**: この実験は、提案された**ALSaRR手法**が、実際のゲームシーンにおいて、固定解像度レンダリングやMARRR（先行研究のモーション品質モデル）と比較して、**より高い画質**を提供できるかを検証することを目的とします。
*   **実験設定**:
    *   実験では、**Unityアセットストアから3つの異なるゲームシーン**（SciFi Market、John Lemon’s Haunted Jaunt、Sally’s Country House）を採用しました。
    *   各シーンで、**4つの異なるカメラモーションシナリオ**を用意しました。そのうち1つは、参加者がマウスとキーボードでカメラを操作できるもので、残りはカメラの動きが事前に定義されたものでした。
    *   各シーンは、**ALSaRR、固定解像度レンダリング、MARRR**の3つのレンダリング方法でレンダリングされました。
    *   固定解像度レンダリングでは、固定のレンダリング予算で、いくつかのシェーディングレートとリフレッシュレートの組み合わせを使用しました。
*   **実験手順**:
    *   参加者は、**2つのレンダリング方法**を比較し、より高品質な方を選択するように指示されました。
    *   比較対象は、**ALSaRRと固定解像度レンダリング**、または**ALSaRRとMARRR**の組み合わせでした。
    *   参加者は、**スペースバー**を押すことで、2つのレンダリング方法を切り替えることができました。
    *   参加者には、**「どちらのメソッドがより高い視覚品質（すなわち、スムーズな動きと鮮明な画像）を持っていますか？」**という質問が提示されました。
    *   各参加者は、108回の比較を行いました。
*   **結果**:
    *   実験の結果、**ALSaRR**が固定解像度レンダリングやMARRRと比較して、**より高い視覚品質**を提供することが示されました。
    *   **ALSaRR**の優位性は、テストしたすべての条件で有意でした。
    *   レンダリング予算が増加するにつれて、ALSaRRによる改善の効果は減少しました。
    *   **MARRR**は、高い予算の場合には固定フレームレートよりも優れていましたが、低い予算の場合には劣っていました。
    *   これらの結果は、ALSaRRが、限られたレンダリング予算内で、より知覚的に最適な画質を提供できることを示しています。

これらの実験は、提案された**CaMoJABメトリック**と**ALSaRR手法**の有効性を検証するために、さまざまな条件と設定で実施されました。実験結果は、提案手法が、**リアルタイムグラフィックス**において、より高品質なモーションを実現するための有効なアプローチであることを示唆しています。


#### Q:この研究で用いられた実験手法と結果の信頼性はどの程度ですか？
#### A:
この研究では、実験手法と結果の信頼性を高めるために、いくつかの工夫が凝らされています。

まず、実験手法についてですが、
*   **複数の実験**を実施しています。特に、VRSのモーション品質を測定する実験（実験1）、ALSaRRの有効性を検証する実験（実験2）の2種類の実験を行っています。
*   実験1では、**異なるディスプレイ設定**（PC、モバイル、VRを想定）で、**複数のテクスチャ**、**異なる速度**で動く3Dオブジェクトのアニメーションを比較する実験を行っています。また、実験に使用する刺激を、**より現実的なテクスチャ**や3Dモデルにすることで、実験結果の一般化可能性を高めることを目指しています。
*   実験2では、**実際のゲームシーンを模倣**した、複雑な動きの環境下でALSaRRの性能を評価しています。
*   実験では、**参加者に2つのアニメーションを比較**してもらい、どちらがより高品質であるかを判断してもらうことで、主観的な品質評価を測定しています。また、視覚的な品質の判断基準を「スムーズな動きと鮮明な画像」と明確にすることで、参加者の判断のばらつきを抑えるよう努めています。
*   実験結果は、**JND（Just-Noticeable Difference：最小可知差異）**という知覚的な尺度に変換され、統計的に分析されています。JNDは、人間の視覚が知覚できる最小の差異を表すため、実験結果の解釈を容易にします。
*   実験1では、**アクティブサンプリング**という手法を用いて、各試行で得られる情報量を最大化し、効率的にデータを収集しています。
*   **実験結果の信頼性**を高めるために、**ブートストラップ法**を用いて、信頼区間を計算しています。
*   実験の実施にあたっては、**参加者の疲労を考慮**し、実験時間を30分以内に制限しています。

次に、実験結果の信頼性についてですが、
*   **複数の既存研究のデータ**も用いて、提案モデル（CaMoJAB）のパラメータを調整しています。これにより、モデルの一般化能力を高め、さまざまな状況での予測精度を向上させています。
*   提案モデルの**予測結果と実験結果とのRMSE（二乗平均平方根誤差）**を計算し、モデルの精度を定量的に評価しています。
*   提案モデルの**各コンポーネント（空間歪みモデル、時間歪みモデルなど）の寄与**を分析することで、モデルの妥当性を検証しています。
*   提案モデルを**他の既存モデルと比較**し、その優位性を示しています。
*   **他の研究で得られたデータ**に対しても、提案モデルの汎用性を検証しています。
*   ALSaRRの検証実験（実験2）では、**固定解像度レンダリング**や**MARRR**（先行研究のモーション品質モデル）と比較し、ALSaRRの有効性を確認しています。

これらのことから、この研究では、実験の妥当性と結果の信頼性を確保するために、厳密な手法と多角的な検証が行われていると言えます。
しかし、研究にはいくつかの**限界**も指摘されています。
*   提案モデルは、**コントラストマスキング**や**色**の劣化、**視線追跡**を考慮していないため、これらの要素が重要な場面では、モデルの予測精度が低下する可能性があります。
*   ALSaRRの実装では、**テクスチャ情報**に依存しているため、**影**や**透明オブジェクト**、**パーティクルシステム**など、シェーディングが重要な要素となる場合には、最適なシェーディングレートが割り当てられない可能性があります。
*   モデルは、**平均的な観察者**をモデル化しているため、個々の観察者の視覚特性の違いを考慮していません。

これらの限界を考慮する必要がありますが、この研究は、リアルタイムグラフィックスにおけるモーション品質の向上に大きく貢献する可能性を秘めています。


#### Q:提案手法ではタイルの境界で解像度の差異が生じませんか？
#### A:
提案手法であるALSaRR（Adaptive Local Shading and Refresh Rate）では、**16x16ピクセルのタイル単位で可変レートシェーディング（VRS）を適用**するため、タイルの境界で解像度の差異が生じる可能性があります。

*   **VRSの仕組み:** VRSは、**フル解像度でラスタライズ処理**を行いますが、**ピクセルシェーダーの実行頻度**をタイル単位で制御します。つまり、**1つのピクセルシェーダーの計算結果を複数のピクセルに適用**することで、シェーディング負荷を軽減します。この際、ピクセルシェーダーの実行解像度が低いと、テクスチャのルックアップ時に、より**粗いミップマップレベル**が選択され、結果的に、**タイルの境界で解像度の変化**が起こります。
*   **エイリアシング**: シェーディングレートを下げると、**より粗いミップマップレベル**が選択され、**高周波成分が失われる**とともに、**エイリアシング**が発生する可能性があります。特に、テクスチャの詳細な部分やエッジ部分では、解像度の低下が目立ちやすくなります。
*   **アーチファクトの発生**: VRSは、**ボックスフィルターによるアップサンプリング**と同様のアーチファクトを生成します。このため、タイルの境界で急激に解像度が変化すると、**ブロック状のアーチファクト**が見える可能性があります。
*   **知覚的な影響**: ただし、ALSaRRは、**CaMoJABメトリック**を用いて、**テクスチャコンテンツ、画面上の速度、輝度、有効解像度**などの要素を考慮し、**知覚的に最も重要な領域に高いシェーディングレート**を割り当てることで、このようなアーチファクトの視覚的な影響を最小限に抑えるように設計されています。例えば、動きの速い領域や、平坦なテクスチャの領域では、シェーディングレートを下げても、視覚的な品質の低下は少ないとされています。
*   **課題**: 論文では、ALSaRRが**テクスチャ情報に基づいてシェーディングレートを決定**するため、**影や反射、透明オブジェクト、パーティクルシステム**など、シェーディングによる影響が大きい場合には、**最適なシェーディングレートが割り当てられない可能性がある**と指摘しています。これは、ALSaRRが最終的なシェーディング結果ではなく、テクスチャ情報を利用しているためです。

要約すると、ALSaRRではタイルの境界で解像度の差異が生じる可能性があり、その結果、エイリアシングやブロック状のアーチファクトが発生する可能性があります。しかし、**CaMoJABメトリック**に基づく適応的なシェーディングレートの調整と、**視覚的に影響の少ない領域でのシェーディングレート低減**により、これらのアーチファクトの視覚的な影響は最小限に抑えられるように設計されています。

#### Q:提案手法ではタイルの境界で解像度の差異が生じませんか？
#### A:
この論文で提案されているALSaRR（Adaptive Local Shading and Refresh Rate）手法の利点と欠点は以下の通りです。

**利点:**

*   **画質の最適化:**
    *   **可変レートシェーディング（VRS）**と**リフレッシュレートの適応制御**を組み合わせることで、**制約のあるレンダリング予算内**でアニメーションコンテンツの画質を最大化します。
    *   **テクスチャコンテンツ、画面上の速度、輝度、有効解像度**といった主要な要素を考慮し、レンダリングパラメータを動的に調整します。
    *   特に、画質に影響の大きい領域には高いシェーディングレートを、そうでない領域には低いシェーディングレートを適用することで、**レンダリング負荷を最適化**します。
*   **Content-adaptive Metric of Judder, Aliasing and Blur (CaMoJAB) の活用:**
    *   人間の視覚特性に基づいた**新しいメトリック**を用いて、ジャダー、エイリアシング、ブラーといったモーションアーチファクトを評価します。
    *   **テクスチャコンテンツ**がこれらのアーチファクトの知覚に影響を与えるため、コンテンツ適応型として設計されています。
    *   このメトリックは、**コントラスト感度**の心理物理モデルに基づいており、実験データに基づいて調整されているため、実際の知覚に近い形で品質を評価できます。
*   **リアルタイムレンダリングへの適合性:**
    *   **事前計算された品質関数**を使用することで、リアルタイムでの処理が可能になります。
    *   **グリーディな近似解法**を用いて、各タイルのシェーディングレートを効率的に決定します。
    *   このため、ゲームやその他のリアルタイムアプリケーションにおいて、動的にレンダリング品質を調整できます。
*   **眼球運動の局所的な考慮:**
    *   **眼球追跡**を使用せずに、各VRSタイルで眼球が動きを追跡していると仮定することで、局所的な眼球運動を考慮したより正確な品質予測を可能にしています。
    *   これにより、**全体的な眼球運動ではなく**、各タイルごとに異なる眼球運動速度を考慮することで、**より正確な品質評価**に基づいたシェーディングレートの決定が可能となります。
*   **従来の動的解像度スケーリングの改善:**
    *   フレーム全体の解像度を動的に調整するのではなく、VRSを用いて、**局所的にシェーディングレートを調整**することで、**必要な部分にのみ高いシェーディングレート**を適用し、全体的な画質を向上させながら、レンダリング負荷を低減します。
    *   これにより、**解像度を全体的に下げることなく**、特定の領域のみシェーディングレートを下げることができるため、**より効率的なレンダリング**が可能です。
*   **多様なプラットフォームへの適用可能性:**
    *   特に、モバイルデバイスなど、**リソースが限られた環境**において、高い解像度とリフレッシュレートでゲームをプレイするための重要な技術となります。
    *   **VRヘッドセット**のような高リフレッシュレート、低残像の環境においても、モーションアーチファクトを抑制し、高い画質を維持することが期待されます。
*   **ゲームエンジンへの統合:**
    *   Unity 3Dのプラグインとして実装されており、実際のゲームシーンでの有効性が検証されています。

**欠点:**

*   **テクスチャ情報への依存:**
    *   ALSaRRはテクスチャ情報に基づいてシェーディングレートを決定するため、**影、反射、透明オブジェクト、パーティクルシステム**など、シェーディングによる影響が大きい場合には、最適なシェーディングレートが割り当てられない可能性があります。
    *   これは、ALSaRRが最終的なシェーディング結果ではなく、テクスチャ情報を利用しているため、シェーディング処理で発生する頻度情報を考慮できないことが原因です。
*   **タイルの境界における解像度の差異:**
    *   **16x16ピクセルのタイル単位**でVRSを適用するため、タイルの境界で解像度の差異が生じ、エイリアシングやブロック状のアーチファクトが発生する可能性があります。
    *   特に、詳細なテクスチャやエッジ部分では、解像度の低下が目立ちやすくなります。
*   **コントラストマスキングの欠如:**
    *   CaMoJABメトリックは、コントラストマスキングをモデル化していないため、**人間の視覚特性の一部**を考慮できていない可能性があります。
*   **個体差の考慮不足:**
    *   CaMoJABメトリックは、個人の視覚特性のばらつきを考慮しておらず、**平均的な観察者をモデル化**しているため、個々のユーザーにとっては最適でない場合があります。
*   **完全な最適化ではない:**
    *   グリーディな解法を使用しているため、**必ずしも最適な解**が得られるとは限りません。しかし、論文中では、実験的にこの解法が十分な性能を発揮することが示されています。

これらの利点と欠点を総合的に考えると、ALSaRRは**リアルタイムレンダリングにおいて、画質を向上させながらレンダリング負荷を低減するための有効な手法**と言えます。しかし、その効果を最大限に発揮するためには、**テクスチャ情報に依存するという制限を理解し、適切な状況で適用する必要**があります。


![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981660/b156d6bb-91a7-4570-d6e5-d6f2cd2dd637.png)