Perceptual Characterization of 3D Graphical Contents based on Attention Complexity Measures(2020) 

### Perceptual Characterization of 3D Graphical Contents based on Attention Complexity Measures(Mona, 2020) 

https://hal.science/hal-02971538/document


#### Q:この論文の概要を教えてください
#### A:
この論文「Perceptual Characterization of 3D Graphical Contents based on Attention Complexity Measures」は、3Dグラフィカルコンテンツ（3DGC）の知覚的特性を視覚的注意の複雑さ（VAC）を用いて評価する方法について述べています。以下は論文の概要です。

**背景と目的**: 3Dグラフィックスはデジタルエンターテインメントや文化遺産、建築シミュレーションなどのアプリケーションで広く使用されていますが、視覚的特性や視覚的興味は視点によって変化します。本研究の目的は、3DGCにおける視覚的注意の複雑さを測定し、これを用いてコンテンツの選択や処理技術の最適化に役立てることです。

**方法論**: 研究者たちは、21の高解像度の3Dオブジェクトを選定し、これらを異なる視点からレンダリングしました。34人の参加者を対象にしたアイ・トラッキング実験を通じて、視線データを収集し、視覚的注意の分布を分析しました。収集したデータを基に、ground truthのサリエンシーマップを作成し、視覚的注意の複雑さを評価しました。

**主要な発見**: VAC指標を用いて、3Dオブジェクトの視覚的注意の分散を評価し、異なる視点における注意の複雑さを測定しました。また、最先端のサリエンシーモデルがVACとどの程度相関するかを調査し、いくつかのモデルが十分な性能を示すことが確認されました。

**応用の可能性**: 研究の結果は、品質体験（QoE）研究において、3DGCの処理技術のベンチマークやユーザーの体験を最適化するためのコンテンツ選択に役立つ可能性があります。

この研究は、3Dグラフィカルコンテンツの知覚的特性を理解するための新しいアプローチを提供し、視覚的注意の複雑さを定量化する手法を提案しています。


#### Q:この論文の主な貢献を3つ挙げてください
#### A:
この論文「Perceptual Characterization of 3D Graphical Contents based on Attention Complexity Measures」は、3Dグラフィカルコンテンツ（3DGC）の知覚的特性を視覚的注意の複雑さ（VAC）を用いて評価する新しいアプローチを提案しています。以下に、この研究の主な貢献を3つ挙げ、それぞれについて詳しく説明します。

1. **視覚的注意の複雑さ（VAC）指標の拡張**
本研究の最も重要な貢献の一つは、視覚的注意の複雑さ（VAC）指標を2Dイメージングから3Dグラフィカルコンテンツに適応させたことです。従来のVACは、2Dコンテンツにおける視線の固定の変動を測定するために使用されていましたが、3D環境では視点が変わることで視覚的特性が大きく変化します。この研究では、3DGCにおけるVACを視点レベルで測定する方法を提案し、異なる視点からの視覚的注意の分布を評価することが可能になりました。これにより、3Dコンテンツの選択や評価において、より精緻な基準を提供することができます。

2. **アイ・トラッキングを用いた実験的アプローチ**
本研究では、34人の参加者を対象にしたアイ・トラッキング実験を実施し、視覚的注意のデータを収集しました。この実験により、参加者が3Dオブジェクトをどのように視覚的に探索し、どの部分に注意を向けるかを定量的に分析することができました。収集した視線データを基に、ground truthのサリエンシーマップを作成し、視覚的注意の分布を視覚化しました。このアプローチは、3DGCの知覚的特性を理解するための新しい手法を提供し、視覚的注意の複雑さを定量化するための基盤を築きました。

3. **サリエンシーモデルとの相関分析**
さらに、本研究では、最先端のサリエンシーモデルがVACとどの程度相関するかを調査しました。具体的には、収集した視線データとサリエンシーモデルの出力を比較し、どのモデルが3DGCにおける視覚的注意の複雑さを予測するのに適しているかを評価しました。この分析により、特定のサリエンシーモデル（例えば、SALICONモデル）が3DGCのVACを予測するのに十分な性能を示すことが確認されました。この知見は、今後のQoE研究や3Dコンテンツの処理技術の最適化において、サリエンシーモデルを活用する可能性を示唆しています。

**結論**
この論文は、3Dグラフィカルコンテンツの知覚的特性を理解するための新しいアプローチを提供し、視覚的注意の複雑さを定量化する手法を提案しています。VAC指標の拡張、アイ・トラッキングを用いた実験的アプローチ、サリエンシーモデルとの相関分析という3つの主要な貢献は、3Dコンテンツの評価や最適化において重要な基盤を築くものであり、今後の研究や実用化に向けた道筋を示しています。これにより、3Dグラフィックスの品質向上やユーザー体験の最適化に寄与することが期待されます。


#### Q:研究で得られた主な発見は何ですか？
#### A:
「Perceptual Characterization of 3D Graphical Contents based on Attention Complexity Measures」で発表された研究結果の主な内容は以下の通りです。

1. **視覚的注意複雑度（VAC）測定**：この研究では、2D画像用に提案されたVAC測定を、3Dグラフィカルコンテンツ（3DGC）の文脈にうまく適応させることに成功しました。この適応により、3Dオブジェクトのさまざまなビューに視覚的注意がどのように分散しているかをより深く理解できるようになります。

2. **アイトラッキング実験**：34人の被験者を対象に、レンダリングされた3Dグラフィカルオブジェクトを自由に閲覧している間の視線データを収集するアイトラッキング実験を実施しました。このデータは、各ピクセルの視線確率を表すグランドトゥルース・サリエンシーマップの計算に使用されました。

3. **注目度マップの処理**：研究チームは、2Dのガウスカーネルを集合した注視データに適用し、注目度マップを作成しました。また、3Dオブジェクトの可視表面を考慮するために形態学的拡張技術も実装し、注目度マップがオブジェクトのさまざまな部分に引きつけられる注意を正確に反映するようにしました。

4. **注意の複雑性分析**：この研究では、さまざまな視点における注目度の分散を分析することで、さまざまな 3D オブジェクトの視覚的注意の複雑性を評価しました。その結果、一部のオブジェクトでは視点によって VAC 値に高いばらつきが見られ、注意の複雑性のレベルが異なることが示されました。

5. **注目度モデルとの相関関係**：この研究では、基準となる注目度マップから算出された VAC 値と、最新鋭の注目度モデルによる予測値との整合性を評価しました。この評価はピアソン相関係数を用いて行われ、3D グラフィックスにおける視覚的注意の予測におけるこれらのモデルの有効性が明らかになりました。

6. **ユーザー体験（QoE）の質に対する示唆**：この研究結果は、開発された VAC 測定法と顕著性モデルが、特に 3D グラフィカルコンテンツのレンダリング、コーディング、ストリーミングにおけるコンテンツの選択と処理技術の最適化において、QoE 研究に役立つ可能性を示唆しています。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981660/7c377846-7fa5-12d0-54e7-8ccdca39c5a2.png)

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981660/cfa9d4a0-9cd6-fafc-f588-320bd6f02b7e.png)

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981660/f63be81d-f95c-bc35-1349-a5492b3a6a7c.png)


#### Q: 3D グラフィカルコンテンツの文脈において「注意の複雑さ」をどのように定義しているのでしょうか？
#### A:
3D グラフィカルコンテンツの文脈において、著者は「視覚的注意複雑性（VAC）」の概念を通じて「注意複雑性」を定義しています。VAC は、人間の視線の固定の変化を測定する尺度として特徴づけられ、さまざまなグラフィカルコンテンツが観察者の視覚的注意をどのように引きつけるかを反映します。具体的には、3D オブジェクトのさまざまなビューにどのように注意が分散されているかに基づいて、「探索的」コンテンツと「集中的」コンテンツを区別します。

著者らは、VAC指標をビュー粒度レベルで動作するように適応させ、3Dグラフィカルコンテンツの異なる視点における注意の複雑さを測定できるようにしました。この適応は、QoE（Quality of Experience）研究における3Dグラフィカルコンテンツの選択基準を提供し、コンテンツレンダリング中のユーザーエクスペリエンスを向上させる視点ごとの簡素化戦略を可能にする必要性から動機づけられています。VAC測定は、3Dオブジェクトのレンダリングされたビュー全体にわたって、知覚的に注意が集中しているか分散しているかを定量化することを目的としています。これにより、これらのコンテンツによって引き起こされる視覚的関与に関する洞察が得られます。


#### Q:この研究で使用された方法論の概要を説明していただけますか？
#### A:
「注意複雑性測定に基づく3Dグラフィックコンテンツの知覚的特性評価」という研究で使用された方法論には、いくつかの重要なステップが含まれていました。

1. **3D グラフィックオブジェクトの選択**：研究者は、4つの異なる意味カテゴリー（人物/キャラクター、動物、彫像、物体）から、高解像度のカラー3Dグラフィックオブジェクト21個を選択しました。これらのオブジェクトは、形状、色、複雑さが異なり、頂点数は25万から60万でした。

2. **レンダリングと視点制御**：3Dオブジェクトはあらかじめ定義された視点からレンダリングされました。仮想カメラは各オブジェクトの周囲を90度間隔で配置し、合計84枚のレンダリング画像（21オブジェクト×4カテゴリー）を作成しました。この設定により、異なる視点によって視覚情報がどのように変化するのかを検証することができました。

3. **アイトラッキング実験**：EyeLink 1000 Plus デバイスをリモートモードで使用し、参加者が頭を自由に動かせるようにしたアイトラッキング実験を実施しました。実験には34人の参加者が参加し、フルHDモニターでレンダリングされた画像を見ました。視線データを収集し、参加者がどこに注目したかを分析しました。

4. **グランドトゥルース・サリエンシーマップの作成**：収集した視線データは、グランドトゥルース・サリエンシーマップの作成に用いられました。これは、集約された注視データを2Dガウスカーネルと畳み込み、標準偏差を人間の視覚系の中心窩半径に近づけることで行われました。背景が際立つことで偏りが生じるのを防ぐため、レンダリング時にはグレーの背景が使用されました。

5. **形態学的操作**：3Dオブジェクトの可視表面を考慮するため、マスクを注目度マップに適用しました。このマスクは、可視表面の境界で収集された視線データを含めるために、形態学的膨張を用いて拡大されました。

6. **視覚的注意の複雑性分析**：3Dオブジェクトの視覚的注意複雑性（VAC）は、各2Dビューに対応する注目度情報に基づいて評価されました。この研究では、グラフィックコンテンツの注意の複雑性を特徴づけるために、注目度の分散と観察者間の整合性を評価する方法が採用されました。

7. **注目度モデルとの相関**：研究チームは、最先端の計算による注目度予測モデルと、実際の注目度測定値との相関関係についても調査しました。これには、これらのモデルがアイトラッキングデータで観察された注意の複雑さをどの程度正確に予測できるかを判断するための統計分析が含まれました。

全体として、この研究手法は、実験計画、アイトラッキング技術、および計算分析を組み合わせ、視覚的注意と3Dグラフィックコンテンツの知覚的特性との関連性を探求したものです。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981660/a49d0698-2f57-8ef9-5db5-15fff2954799.png)

#### Q:この研究の限界と今後の課題はなんですか
#### A:
この研究「Perceptual Characterization of 3D Graphical Contents based on Attention Complexity Measures」にはいくつかの限界があり、今後の課題も存在します。以下に、主な限界と今後の研究における課題を挙げて説明します。

1. **データセットの制約**
本研究では、アイ・トラッキング実験を通じて収集したデータを基にVACを評価しましたが、3Dグラフィカルコンテンツに特化したデータセットが不足しているという制約があります。特に、色付きの3Dグラフィックスに関する既存のデータセットは限られており、これが視覚的注意の予測モデルの開発や評価において障害となっています。今後の研究では、より多様な3DGCを含むデータセットの構築が求められます。

2. **視点の多様性とユーザーの個人差**
3D環境では、ユーザーが異なる視点からコンテンツを探索するため、視点の多様性がVACの評価に影響を与える可能性があります。また、ユーザーごとに視覚的注意のパターンが異なるため、個人差を考慮した分析が必要です。今後の研究では、異なる視点やユーザーの特性を考慮したVACの評価方法を開発し、より一般化可能な結果を得ることが重要です。

3. **サリエンシーモデルの限界**
本研究では、いくつかのサリエンシーモデルがVACと相関することが示されましたが、これらのモデルが3DGCにおいて常に高い予測精度を持つわけではありません。特に、3D環境特有の要素（例えば、奥行きや立体感）がサリエンシーの予測に与える影響については、さらなる研究が必要です。今後の課題として、3DGCに特化した新しいサリエンシーモデルの開発や、既存モデルの改良が挙げられます。

4. **ユーザー体験（QoE）の評価**
VACを用いた3DGCの評価は、視覚的注意の観点からの知見を提供しますが、ユーザー体験（Quality of Experience, QoE）全体を評価するには他の要因も考慮する必要があります。例えば、ユーザーの感情的反応や、コンテンツのインタラクティブ性、ナビゲーションの容易さなどがQoEに影響を与える可能性があります。今後の研究では、VACと他のQoE指標との関連性を探ることが重要です。

**結論**
この研究は3Dグラフィカルコンテンツの知覚的特性を理解するための重要なステップを提供しましたが、データセットの制約、視点の多様性、サリエンシーモデルの限界、ユーザー体験の評価といった課題が残されています。これらの限界を克服するためには、今後の研究において新しいデータセットの構築や、視覚的注意の評価方法の改良、QoEの包括的な評価が求められます。これにより、3Dコンテンツの品質向上やユーザー体験の最適化に向けたさらなる進展が期待されます。