SPATIO-TEMPORAL SALIENCY MODEL TO PREDICT EYE MOVEMENTS IN VIDEO FREE VIEWINGy(2008) 

### SPATIO-TEMPORAL SALIENCY MODEL TO PREDICT EYE MOVEMENTS IN VIDEO FREE VIEWINGy(Marat, 2008) 

#### Q:この論文の概要を教えてください
#### A:
この論文は、生物学的に着想を得た新しい視覚注意モデルを提案し、ビデオ視聴中の眼球運動を予測するものです。網膜の視覚信号を静的経路と動的経路に分解し、ガボールフィルタを用いて処理することで、静的サリエンスマップと動的サリエンスマップを作成、統合します。 大規模なビデオデータベースを用いた実験により、特に「Mand」融合法が、静的・動的両経路の情報が眼球運動と高い相関を示すことを確認しています。 このモデルは、ビデオ圧縮や要約などの応用が期待されます。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981660/6d325def-effc-d166-97c2-0e4def899d2a.png)

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981660/133d5564-ec0f-ad70-a091-603e3f85165f.png)


#### Q:このモデルは人間の視覚システムをどの程度正確に模倣できているのか？
#### A:
このモデルは、人間の視覚システムの生物学的な側面を模倣することを目指しており、特に網膜と視覚皮質の初期段階における情報処理を模倣しています。

具体的には以下の点がモデル化されています。

*   **網膜のモデル化**：網膜の主要な出力である傍細胞経路（parvocellular pathway）とマグノ細胞経路（magnocellular pathway）を分離してモデル化しています。
    *   傍細胞経路は、静的なシーンの空間情報を処理し、コントラストを高める役割を果たします。
    *   マグノ細胞経路は、動的なシーンの動き情報を処理し、背景に対する領域の動きを検出する役割を果たします。
*   **皮質様フィルター**：一次視覚野（V1）における情報処理を模倣するために、Gaborフィルターを使用して周波数と方向の処理をモデル化しています。
*   **相互作用**：皮質ニューロンの相互作用を、近傍のニューロン間の抑制と、長距離の輪郭強調の二つのタイプで考慮に入れています。
*   **静的および動的注意マップ**：これらの処理を通じて、静的注意マップと動的注意マップを生成し、それらを統合して時空間注意マップを作成します。

このモデルは、人間の眼球運動を予測するために、実際のビデオ映像を用いた実験で評価されています。実験では、被験者が自由にビデオを視聴している間の眼球位置を記録し、モデルによって予測された注意領域と比較しています。

実験結果は、モデルが人間の眼球運動をかなり正確に予測できることを示唆しています。特に、静的注意と動的注意の両方を考慮した融合マップ（特に乗算融合）が、最も高い精度を示しています。

ただし、モデルは**ボトムアップの処理**に焦点を当てており、タスクや認知状態などのトップダウンの影響は考慮されていません。また、色や音声情報も考慮されていません。したがって、人間の視覚システムを完全に模倣しているとは言えませんが、**初期の注意メカニズムを理解するための有力なモデル**であると言えます。


#### Q:静的経路と動的経路の相対的な重要性は、予測精度にどう影響するか？
#### A:
静的経路と動的経路の相対的な重要性は、予測精度に影響を与えます。この論文では、人間の視覚システムを模倣した新しい時空間サリエンシーモデルを提案し、静的経路と動的経路の両方を用いて、動画における視覚的な注意を予測しています。

*   **静的経路（parvocellular pathway）**は、コントラストなどの空間的な特徴を捉えるのに役立ち、静的なサリエンシーマップを生成します。この経路は、網膜の出力の一つであり、視覚シーンの空間情報を伝えます。実験結果によると、静的経路だけでも高い予測精度を示しますが、動的経路と組み合わせることで、さらに精度が向上します。
*   **動的経路（magnocellular pathway）**は、動きの情報を捉え、動的なサリエンシーマップを生成します。この経路は、網膜のもう一つの出力であり、動きの情報を伝えます。動きは、視覚的な注意を引きつける重要な要因であり、動的経路も高い予測精度を示します。
*   **経路の統合:** 静的および動的サリエンシーマップを統合すると、予測精度が向上します。特に、**乗算融合（Mand）**は、静的と動的の両方の経路で顕著な領域のみを保持するため、最も高い精度を示します。これは、注目を集める領域は、静的および動的な両方の特徴を持つ必要があることを示唆しています。平均融合（Mmean）や最大融合（Mmax）も予測精度を向上させますが、乗算融合ほどではありません。
*   **時間経過に伴う影響:** 最初の数フレームでは、静的サリエンシーマップがわずかに高い予測精度を示します。これは、視線が以前の位置にとどまる傾向があるため、静的な領域に留まる可能性が高いからです。しかし、時間の経過とともに、動的サリエンシーマップがより高い予測精度を示すようになります。このことから、動画の視聴初期には静的な情報が、その後は動的な情報がより注意を引きつけることが示唆されます。
*   **サリエンシーマップの特徴:** 静的サリエンシーマップは、テクスチャのある領域など、フレーム全体に広がる傾向があります。一方、動的サリエンシーマップは、動きのある特定の領域に集中する傾向があります。
*   **クリップの特性:** 静的サリエンシーマップの最大値が高い場合、静的経路の予測精度が高くなります。さらに、歪度（skewness）が高い場合、予測精度はさらに向上します。一方、動的サリエンシーマップは、歪度が高いほど予測精度が高くなります。これは、動きが局所的である場合に特に顕著です。しかし、動きが速すぎると、視線が動きを予測し、モデルではあまり顕著でない領域に視線が向かうため、予測精度が低下する可能性があります。

これらの結果は、静的経路と動的経路の両方が視覚的な注意の予測に重要であり、それらを組み合わせることで、より正確な予測が可能になることを示しています。

#### Q:静的経路, 動的経路とは何ですか？
#### A:
この論文で提案されているモデルにおける**静的経路（parvocellular pathway）**と**動的経路（magnocellular pathway）**は、人間の視覚システムを模倣した情報処理の経路です。これらの経路は、網膜からの主要な出力をモデル化し、視覚的な注意を予測するために使用されます。

*   **静的経路（parvocellular pathway）**
    *   この経路は、網膜からの出力の一つであり、**視覚シーンの空間情報を処理します**。
    *   特に、**コントラストなどの空間的な特徴を捉える**のに役立ちます。
    *   網膜のモデルでは、**視細胞、水平細胞、双極細胞**などのニューロン層を通じて情報が処理されます。
    *   視細胞は、コントラストを強調する非線形関数を適用し、暗い領域の輝度を増加させます。
    *   水平細胞は、視細胞の出力をローパスフィルタリングし、双極細胞は、視細胞と水平細胞の出力の差を計算します。これは、フレームのハイパスフィルタリングに相当します。
    *   この経路は、**静的なサリエンシーマップ（Ms）**を生成するために使用されます。静的サリエンシーマップは、テクスチャのある領域など、フレーム全体に広がる傾向があります。
*   **動的経路（magnocellular pathway）**
    *   この経路は、網膜からのもう一つの出力であり、**動きの情報を伝えます**。
    *   動きは、視覚的な注意を引きつける重要な要因であり、この経路は**動きの情報を捉える**のに役立ちます。
    *   動的経路では、最初に**背景の動きを補正**し、領域の動きを推定します。背景はフレームの半分以上のピクセルを占めると仮定され、支配的な動きとして計算されます。
    *   網膜フィルターを通過した後、双極細胞は現在のフレームと水平細胞の出力の差を計算します。これは、フレームのエネルギー分布を均一化するハイパスフィルタリングとして機能します。
    *   アマクリン細胞はローパスフィルタリングを行い、高周波数を除去します。
    *   この経路は、**動的なサリエンシーマップ（Md）**を生成するために使用されます。動的サリエンシーマップは、動きのある特定の領域に集中する傾向があります。

これらの2つの経路は、独立して機能するだけでなく、互いに補完し合うように設計されています。最終的には、これらの2つの経路から得られたサリエンシーマップを融合することで、より正確な視覚的注意の予測が可能になります。特に、乗算融合（Mand）は、静的および動的な両方の特徴を持つ領域を強調するため、最も高い予測精度を示します。


#### Q:提案モデルで用いられた3種類の融合手法を説明しなさい。
#### A:
提案モデルでは、静的サリエンシーマップ（Ms）と動的サリエンシーマップ（Md）を融合させるために、以下の3種類の融合手法が用いられています。

*   **平均融合（Mmean）**：静的サリエンシーマップと動的サリエンシーマップの各ピクセル値を平均します。数式では、Mmean = (Ms + Md) / 2 と表されます。この手法は、両方のマップの情報を均等に考慮し、どちらかのマップが突出して高い値を持つ場合に、その影響を緩和する効果があります。つまり、**一方のマップで顕著な領域が、他方のマップではそれほど顕著でない場合、融合後のサリエンシー値は両者の中間の値になります**。
*   **最大融合（Mmax）**：静的サリエンシーマップと動的サリエンシーマップの各ピクセル値のうち、大きい方の値を採用します。数式では、Mmax = Max(Ms, Md) と表されます。この手法は、**どちらかのマップで最も顕著な領域を強調する**ため、最も注意を引く可能性のある領域を捉えるのに適しています。
*   **乗算融合（Mand）**：静的サリエンシーマップと動的サリエンシーマップの各ピクセル値を掛け合わせます。数式では、Mand = Ms × Md と表されます。この手法は、**両方のマップで同時に顕著な領域のみを強調する**ため、最も選択的な融合方法です。つまり、ある領域が静的にも動的にも顕著である場合にのみ、融合後のサリエンシー値が高くなります。

これらの融合手法を比較すると、乗算融合（Mand）が最も選択的であり、静的と動的の両方の経路で顕著な領域のみを保持します。実験結果では、乗算融合が最も高い予測精度を示すことが確認されています。平均融合（Mmean）は、一方のマップが他方を調整するような効果があり、最大融合（Mmax）は、静的または動的のいずれかで最も高いサリエンシー値を採用します。これらの結果から、**視覚的な注意を引く領域は、静的および動的な両方の特徴を持つ必要がある**ということが示唆されます。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981660/378d7c6c-a155-aa4e-9fa5-6bcc1ff04c41.png)

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981660/484a434c-8a89-13b7-8983-63e132678726.png)


#### Q:提案モデルで用いられた3種類の融合手法のNSS値を比較しなさい。
#### A:
提案モデルで用いられた3種類の融合手法（平均融合、最大融合、乗算融合）のNSS値を比較すると、以下のようになります。

*   **平均融合（Mmean）**: 静的サリエンシーマップと動的サリエンシーマップの各ピクセル値の平均を取ることで、両方の情報のバランスを取ります。この手法のNSS値は0.99です。
*   **最大融合（Mmax）**: 静的サリエンシーマップと動的サリエンシーマップの各ピクセル値のうち、大きい方の値を選択します。この手法のNSS値は0.84です。
*   **乗算融合（Mand）**: 静的サリエンシーマップと動的サリエンシーマップの各ピクセル値を掛け合わせます。この手法のNSS値は1.00であり、**3つの融合手法の中で最も高い値を示します**。

これらの結果から、**乗算融合（Mand）が最も高いNSS値を持ち、人間の視線位置を最もよく予測できる**ことがわかります。乗算融合は、静的サリエンシーと動的サリエンシーの両方で高い値を持つ領域のみを強調するため、視覚的な注意を引きつける領域は、静的および動的な特徴を同時に持つ必要があるということを示唆しています。

平均融合（Mmean）は、静的および動的サリエンシーの情報を均等に考慮するため、乗算融合に次いで高いNSS値を示します。最大融合（Mmax）は、静的または動的のいずれかで最も高いサリエンシー値を持つ領域を選択するため、他の2つの融合手法よりも低いNSS値となっています。

これらの結果は、**静的情報と動的情報の両方を適切に組み合わせることが、人間の視覚的な注意を予測するために重要である**ことを示しています。