Predicting Eyes’ Fixations in Movie Videos:  Visual Saliency Experiments on a New Eye-Tracking Database (2014) 

### Predicting Eyes’ Fixations in Movie Videos:  Visual Saliency Experiments on a New Eye-Tracking Database (Petros , 2014) 

#### Q:この論文の概要を教えてください
#### A:
この論文は、ハリウッド映画のビデオクリップを用いた新しい眼球追跡データベース(ETMD)と、眼球の注視点を予測する視覚的顕著性推定のための計算フレームワークについて述べています。ETMDは、既存のデータベースよりも長い動画とより複雑な意味を含み、複数の被験者による眼球追跡データでアノテーションされています。提案されたフレームワークは、輝度、色、動きなどの低レベル特徴と顔検出結果を組み合わせて、単一の顕著性ボリュームマップを作成します。 実験では、相関係数、正規化スキャンパス顕著性、シャッフルAUCといった指標を用いて、提案手法の有効性を定量的に評価しており、眼球注視点の予測において良好な結果が得られました。特に、輝度情報と顔検出の組み合わせが、予測精度向上に貢献していることが示されています。

#### Q:本論文の主要な貢献を3つ挙げよ
#### A:
本論文の主要な貢献は、以下の3つです。

*   **新しい視線追跡データベース（ETMD）の作成**。
    *   このデータベースは、**ハリウッド映画のビデオクリップ**と、**人間の視線追跡データ**を組み合わせたものであり、既存のデータベースと比較して、**より複雑な意味内容を持つ長尺の動画データ**を含んでいます。
    *   具体的には、**オスカー受賞歴のある6つの異なるジャンルの映画**から、それぞれ2つのビデオクリップが使用されており、**動きやアクションが多いシーン**だけでなく、**会話シーン**も含まれています。
    *   **10人の異なる参加者**による視線追跡データは、**カラーとグレースケール**の両方のビデオに対して記録されており、視覚的特徴が人間の注視点に与える影響を詳細に分析することを可能にします。
    *   このデータベースは、**人間の視覚的注意のモデル化**や、**動画の要約**など、様々な応用研究に役立つことが期待されます。
*   **視覚的顕著性推定のための新しい計算フレームワークの提案**。
    *   このフレームワークは、**低レベルの特徴（輝度、色、動き）**と**中レベルの特徴（顔検出の結果）**を統合し、**単一の顕著性ボリュームマップ**を生成します。
    *   **CIE-Lab色空間**を使用し、**輝度と色コントラスト**を分離して処理することで、より知覚的に意味のある特徴抽出を実現しています。
    *   **空間時間Gaborフィルタリング**を用いることで、**空間的な周波数だけでなく、時間的な周波数も分析**し、動画内の動きを捉えることが可能になります。
    *   **Viola-Jones顔検出器**を組み込むことで、**顔が視覚的注意に与える影響**を考慮し、**顔を含む領域の顕著性を強調**します。
    *   このフレームワークは、**ボトムアップの顕著性と顔検出の結果を統合**するために、**MAX**（最大値を使用）と**OR**（顔検出があるフレームのみ顔検出の結果を使用）の2つの方法を提案しており、**顔が特に目立つ場合に有効**です。
*   **視線追跡データの分析と評価**。
    *   ETMDデータベースを用いて、提案された視覚的顕著性モデルの性能を評価しています。
    *   **相関係数（CC）**、**正規化されたスキャンパス顕著性（NSS）**、**シャッフルされた曲線下面積（AUC）**の3つの評価指標を用いて、モデルの予測結果を定量的に評価しています。
    *   分析の結果、**輝度と色コントラストの両方の情報を利用することで、より良い結果が得られる**こと、また、**顔検出の結果を統合することで、顕著性の予測精度が向上する**ことが示されています。
    *   さらに、**カラービデオに対する評価の方が、グレースケールビデオに対する評価よりも良い結果**が得られ、**色が人間の視覚的注意を引く重要な要因である**ことを示唆しています。

これらの貢献は、人間の視覚的注意のメカニズムの理解を深め、**動画の要約**や**ヒューマンコンピュータインタラクション**などの様々な分野での応用を促進することが期待されます。


#### Q:本論文で提案された視覚的顕著性フロントエンドの構成要素と処理過程を説明しなさい。
#### A:
本論文で提案された視覚的顕著性フロントエンドは、**低レベルの特徴と顔検出の結果**に基づいており、単一の顕著性ボリュームマップを提供します。処理過程は以下の通りです。

*   **色空間変換:**
    *   まず、入力されたRGBビデオボリュームを**CIE-Lab色空間**に変換します。
    *   CIE-Lab色空間では、**輝度成分(L\*)**と**色度成分(a\*, b\*)**が分離され、知覚的に均一な空間となります。
    *   輝度チャンネルと色コントラストチャンネルの2つのストリームに分割されます。

*   **輝度ストリームの処理:**
    *   **空間時間Gaborフィルタリング**を適用します。
    *   **3D Gaborフィルタ**は、空間と時間の両方の周波数特性を捉えるために使用されます。
    *   フィルタリング後、各フィルタの出力のエネルギーを計算します。
    *   **優勢エネルギー選択（Dominant Energy Selection）**を用いて、各ボクセルの最大エネルギー値を選択し、1つの輝度エネルギーボリュームを生成します。

*   **色コントラストストリームの処理:**
    *   **ローパス3Dガウシアンフィルタ**を適用します。
    *   **中心周辺差分**を計算して、背景との差を強調します。

*   **顔検出:**
    *   **Viola-Jones顔検出器**を使用して、ビデオフレーム内の顔を検出します。
    *   顔検出器の結果は、顔が含まれるフレームの顕著性を推定するために使用できます。

*   **統合:**
    *   輝度エネルギーボリュームと色コントラストエネルギーボリュームを統合します。
    *   顔検出の結果は、顕著性マップに統合するために、最大値をとる方法（MAX）または顔検出の結果を顔のあるフレームに適用する方法（OR）を使用できます。

*   **後処理:**
    *   必要に応じて、**時間移動平均(TMA)**を適用して、時間的に近い視覚イベントを統合します。
    *   **拡張演算子（dilation operator）**を用いて空間的な平滑化を行い、よりコンパクトで密なエネルギー領域を見つけることも可能です。

これらの処理を経て、最終的な顕著性ボリュームマップが生成されます。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981660/0cd3b25e-1812-f565-0ec3-4d9270df3892.png)

#### Q:視覚的顕著性フロントエンドで使用された低レベル特徴を三つ挙げよ。
#### A:
視覚的顕著性フロントエンドで使用された低レベル特徴は、以下の3つです。

*   **輝度（Intensity）**:
    *   **CIE-Lab色空間**における**L\*成分**で表される、**知覚的な明るさ**の情報。
    *   この輝度情報に対して**空間時間Gaborフィルタリング**が適用され、**異なる空間スケール、空間方向、時間周波数**での輝度変化が抽出されます。
    *   Gaborフィルタリングによって得られたエネルギーは、**優勢エネルギー選択（Dominant Energy Selection）**によって統合され、最終的な輝度エネルギーボリューム(STDE)が生成されます。
*   **色（Color）**:
    *   **CIE-Lab色空間**における**a\*とb\*成分**で表される、**赤-緑と黄-青の色の差異**の情報。
    *   これらの色度成分から計算される**色コントラスト**が、動画内の色の変化を捉えます。
    *   **ローパス3Dガウシアンフィルタ**と**中心周辺差分**によって、色コントラストの変化が強調されたエネルギーボリューム(LE)が生成されます。
*   **動き（Motion）**:
    *   **空間時間Gaborフィルタ**を使用することで、時間的な変化（動き）を捉えることが可能になります。
    *   Gaborフィルタは、**空間的な周波数だけでなく、時間的な周波数も分析**します。これにより、動画内の動きの速さや方向を抽出できます。
    *   **異なる時間周波数を持つフィルタ**を組み合わせることで、様々な速度の動きに対応できます。

これらの低レベル特徴は、人間の視覚システムが刺激の顕著性を判断する際に重要となる基本的な情報を捉えるために使用されます。これらの特徴を組み合わせることで、動画内の動きや色、明るさの変化に注目した顕著性マップを生成できます。また、これらの低レベル特徴に加えて、**顔検出の結果**を統合することで、より高度な視覚的注意モデルを構築しています。



#### Q:論文で用いられた3つの評価指標（CC、NSS、AUC）の意味とそれぞれの利点・欠点を比較検討しなさい。
#### A:
この論文で用いられている3つの評価指標、相関係数（CC）、正規化スキャンパスサリエンシー（NSS）、およびシャッフルAUC（AUC）について、それぞれの意味、利点、および欠点を比較検討します。

**相関係数（CC: Correlation Coefficient）**
*   **意味:** モデルのサリエンシーマップと、人間の目のfixation（注視点）を中心とした2次元ガウス分布のサリエンシーマップとの間の関係性を表します。具体的には、モデルが予測したサリエンシーマップと、実際の人間が注視した場所を示すマップとの間の類似度を測ります。
*   **利点:**
    *   2つのマップ間の線形関係の強さを捉えることができる。
    *   計算が比較的簡単で、実装しやすい。
*   **欠点:**
    *   非線形の関係を捉えることが難しい。
    *   中心バイアス（画像の中央に注視点が集中する傾向）の影響を受ける可能性がある。

**正規化スキャンパスサリエンシー（NSS: Normalized Scanpath Saliency）**
*   **意味:** モデルのサリエンシーマップをゼロ平均正規化し、単位標準化した後、各人間の注視点におけるモデルのサリエンシー値が、マップ全体の平均値より何倍高いかを示します。つまり、モデルが人間の注視点をどれだけ正確に予測できているかを、相対的な値で評価します。
*   **利点:**
    *   モデルの予測が平均的なサリエンシーマップよりもどれだけ優れているかを評価できる。
    *   モデルのサリエンシー値が、人間の注視点においてどれほど突出しているかを定量的に評価できる。
*   **欠点:**
    *   サリエンシーマップの平均値と標準偏差に依存するため、マップの分布によって値が変動しやすい。
    *   負のNSS値は、モデルがランダムな選択よりもサリエンシー領域をうまく予測できないことを示す。

**シャッフルAUC（AUC: Shuffled Area Under Curve）**
*   **意味:** 受信者動作特性（ROC）曲線の下の領域で定義され、サリエンシーを二値分類問題として扱い、サリエンシー領域を陽性クラス、非サリエンシーピクセルを陰性クラスとします。モデルのサリエンシー値を閾値処理してROC曲線を生成し、その下の領域をAUCとして計算します。シャッフルAUCでは、負のサンプルをランダムに選択する代わりに、評価対象のビデオ以外のすべてのビデオの注視点を使用することで、中心バイアスの影響を軽減しています。
*   **利点:**
    *   サリエンシー予測の精度を総合的に評価できる。
    *   中心バイアスの影響を受けにくい。
    *   ROC曲線全体を考慮に入れるため、モデルの予測能力をより詳細に評価できる。
*   **欠点:**
    *   計算が複雑で、他の指標よりも計算コストが高い。
    *   解釈がやや難しく、ROC曲線に対する理解が必要になる。
    *   この論文のデータセットのように中心バイアスが強いデータセットでは、パフォーマンスが低くなる可能性がある。

**比較検討**

| 指標         | 意味                                                                                               | 利点                                                                 | 欠点                                                                         |
| :----------- | :------------------------------------------------------------------------------------------------- | :------------------------------------------------------------------- | :--------------------------------------------------------------------------- |
| 相関係数（CC） | モデルのサリエンシーマップと人間の注視マップの線形関係                                                      | 計算が簡単、実装しやすい                                                             | 非線形関係を捉えにくい、中心バイアスの影響を受ける可能性がある                                                         |
| NSS          | 正規化されたサリエンシーマップにおける、人間の注視点における値の突出度                                                                 | モデルの予測が平均よりどれだけ優れているかを評価できる                                                                 | マップの分布に依存する、負の値はランダムより予測が悪いことを示す                                                                 |
| シャッフルAUC | ROC曲線下の面積で、二値分類問題としてのサリエンシー予測精度を評価                                                                   | 中心バイアスの影響を受けにくい、モデルの予測能力を詳細に評価できる                                                                | 計算が複雑、解釈が難しい、中心バイアスが強いデータセットではパフォーマンスが低い可能性がある                                                                  |

この論文では、これらの3つの指標を組み合わせることで、モデルのサリエンシー予測能力を多角的に評価しています。特に、シャッフルAUCは中心バイアスの影響を軽減するよう設計されており、よりロバストな評価を提供しています。

#### Q:顔検出結果を視覚的顕著性マップに統合する2つの方法を説明しなさい。
#### A:
論文では、**顔検出結果を視覚的顕著性マップに統合する**ために、主に以下の2つの方法が提案されています。

*   **MAX (Bottom-Up, Face Detection)**：
    *   この方法は、**ボトムアップの視覚的顕著性マップと顔検出器の結果を、各ピクセルで最大値を採用して統合**します。
    *   具体的には、ボトムアップの顕著性モデルによって生成されたサリエンシー値と、顔検出器によって検出された顔領域のサリエンシー値の**うち、大きい方の値を最終的なサリエンシーマップの値として採用**します。
    *   このアプローチは、顔領域が他の顕著な領域と同様に扱われるため、**顔が特に目立つ場合に有効**です。
*   **Bottom-Up OR Face Detection**：
    *   この方法は、**顔検出器によって顔が検出されたフレームでは顔検出器の結果を使用**し、**それ以外のフレームではボトムアップの顕著性モデルの結果を使用**します。
    *   つまり、動画内で顔が現れているフレームについては、顔検出器の結果によってサリエンシーマップが決定され、顔が現れていないフレームについては、ボトムアップの顕著性モデルによってサリエンシーマップが決定されます。
    *   このアプローチは、**顔領域が存在しないフレームでは、顔検出結果に依存することなく、ボトムアップの顕著性モデルによる結果をそのまま適用**したい場合に有効です。

これらの2つの方法を比較すると、**MAX**はすべてのフレームにおいてボトムアップと顔検出の結果を比較し、より顕著な方を選択する一方、**OR**はフレームごとに顔の有無で利用するモデルを切り替える点が異なります。実験結果では、これらの2つの方法の結果は非常に近いものとなっています。

論文では、これらの方法に加えて、顔検出器の結果を**顔が含まれるフレームのみに適用する**方法も試されています。これにより、顔検出器が検出した領域が視覚的顕著性マップにどのように影響するかを個別に評価することができます。


#### Q:ETMDデータベースの特徴と既存のアイトラッキングデータベースとの違いを論じなさい。
#### A:
ETMD（Eye-Tracking Movie Database）は、ハリウッド映画のビデオクリップにアイトラッキングによる人間の注視点アノテーションを付加した新しいデータベースです。既存のアイトラッキングデータベースと比較して、いくつかの重要な特徴があります。

*   **動画の長さと複雑な意味内容:** 既存のデータベースの多くは静止画像のみを含んでいるか、短い動画で単純な意味内容しか含まないのに対し、ETMDは**3〜3.5分の長さのハリウッド映画のクリップを使用**しており、より複雑な意味内容を含んでいます。これにより、映画の要約など、より複雑な問題を扱うことが可能になります。
*   **多様なジャンル:** ETMDは、シカゴ（CHI）、クラッシュ（CRA）、ディパーテッド（DEP）、ファインディング・ニモ（FNE）、グラディエーター（GLA）、ロード・オブ・ザ・リング（LOR）といった、**様々なジャンルのオスカー受賞映画**からクリップを選択しています。これにより、多様な視覚刺激に対する人間の注視点を分析できます。
*   **アノテーション方法:** ETMDでは、10人の異なる参加者が各クリップを視聴し、アイトラッキングシステムによって画面上の注視点が記録されました。**参加者はグレースケールとカラーの両方のバージョンを視聴**しており、データ収集時に両方の情報が得られます。
*   **注視点の相関:** ETMDのデータ分析によると、ほとんどの場合、視聴者の注視点は互いに近い位置にあり、グレースケール版とカラー版の注視点も高い相関があることがわかっています。ただし、映画によっては相関が低い場合もあります（例：FNE Clip 2、LOR Clip 2）。
*   **中心バイアス:** ETMDの注視点ヒートマップは、ほとんどの注視点が画像の中心に集中しており、**映画のクリップに強い中心バイアスがある**ことを示しています。
*   **顔検出との統合:** ETMDの研究では、人間の顔が注視点に影響を与えることを考慮し、**顔検出器（Viola-Jones）の結果を視覚的な顕著性モデルに統合**しています。これにより、「顔バイアス」のある動画に対する注視点の予測精度を向上させています。

これらの特徴により、ETMDは視覚注意モデルの分析や評価に役立つだけでなく、映画の要約などの応用にも貢献できると期待されます。


#### Q:ETMDデータベースの特徴を三つ挙げなさい。
#### A:
ETMD（Eye-Tracking Movie Database）データベースには、以下の3つの主な特徴があります。

*   **ハリウッド映画のビデオクリップを使用**: ETMDは、**オスカー受賞歴のある様々なジャンルのハリウッド映画から切り取られたビデオクリップ**で構成されています。具体的には、『シカゴ(CHI)』、『クラッシュ(CRA)』、『ディパーテッド(DEP)』、『ファインディング・ニモ(FNE)』、『グラディエーター(GLA)』、『ロード・オブ・ザ・リング(LOR)』の6作品から、それぞれ2つのビデオクリップ（約3〜3.5分）が使用されています。これにより、既存のデータベースと比較して、**より複雑な意味内容を持つ、長尺の動画データ**を扱えるようになっています。
*   **人間のアノテーションによる視線追跡データ**: ETMDには、**10人の異なる参加者による視線追跡データ**が付与されています。参加者は、ビデオを**カラーとグレースケール**の両方で視聴し、その際の視線の動きが記録されました。これにより、視覚的な特徴が人間の注視点に与える影響を詳細に分析することが可能になります。また、**少なくとも8人分の注視データが各クリップに収集**されており、データの信頼性を高めています。
*   **多様なシーンを含む**: データベースのクリップには、**動きやアクションが多いシーン**だけでなく、**会話シーン**も含まれています。これにより、様々な種類の視覚刺激に対する人間の視覚的注意のメカニズムを研究することができます。また、映画というコンテキストの中で、**より自然な状況での人間の視線行動を捉えることができる**という利点があります。

これらの特徴から、ETMDは、人間の視覚的注意のモデル化や、動画の要約などの応用研究に役立つデータベースであると言えます。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981660/c87c4c1e-bfec-2a20-37df-b09295075d4c.png)