Static Saliency vs. Dynamic Saliency: A Comparative Study(2013)

### Static Saliency vs. Dynamic Saliency: A Comparative Study(Nguyen,2013)


#### 概要
この論文は、静止画における静的サリエンスと動画における動的サリエンスの包括的な比較研究を行っています。特に、カメラの動きが動的サリエンスに及ぼす影響を調査し、静的サリエンス情報を用いた新規な動的サリエンス予測モデル（CMASS）を提案しています。 CMASSは、カメラモーションと静的サリエンスマップを統合することで、動的サリエンス予測の精度を向上させ、聴覚障害者のための動画字幕挿入への応用も示しています。実験の結果、CMASSは既存手法を上回る性能を示したと報告されています。


#### Q: この論文の主な目的は何ですか？
#### A:
この論文の主な目的は、**静的サリエンス（静止画像における視覚的な顕著さ）と動的サリエンス（動画における視覚的な顕著さ）を比較研究し、動画における動的サリエンス予測の精度を向上させること**です。

具体的には、以下の3つの主要な目的を達成しようとしています。
*   **静的サリエンスと動的サリエンスの包括的な比較研究**: 従来のサリエンス研究の多くは静止画像に焦点を当てていましたが、この論文では、初めて静的サリエンスと動的サリエンスを直接的に比較し、その違いと関係性を明らかにすることを目指しています。
*   **カメラモーションが動的サリエンスに与える影響の調査**: 動画には頻繁にカメラの動き（パン、チルト、ズームなど）が含まれますが、従来の動的サリエンス研究では、これらのカメラモーションの影響が十分に考慮されていませんでした。この論文では、カメラモーションが動的サリエンスの分布に大きな影響を与えることを実験的に検証し、動的サリエンス予測におけるカメラモーションの重要性を明らかにすることを目指しています。
*   **新しい動的サリエンス予測モデルの提案**: 静的サリエンスと動的サリエンスの関係性、およびカメラモーションの影響を考慮して、動的サリエンス予測の精度を向上させるための新しい学習フレームワークであるCMASS（Camera Motion And Static Saliency）を提案することを目指しています。このフレームワークは、静的サリエンスマップと動的サリエンスマップを融合させ、カメラモーションの情報も統合することで、より正確な動的サリエンスマップを生成します。

さらに、この論文では、提案した動的サリエンス予測モデルの応用例として、聴覚障害を持つ人々がナレーションのみの動画をより楽しめるように、**動画に字幕を自動的に挿入する**という新しいアプリケーションを紹介しています。この字幕挿入アプリケーションは、動画のサリエンシーマップに基づいて、字幕が目立つオブジェクトと重ならず、かつ視聴者の注意を散漫にさせない最適な位置に字幕を挿入することを目指しています。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981660/ace31113-b0f0-a650-5bb8-a6d1a3e46f08.png)

#### Q: 本研究の主要な貢献点を3つ挙げなさい。
#### A:
本研究の主要な貢献点は以下の3つです。

*   **静的サリエンスと動的サリエンスの比較研究を初めて包括的に実施した**。従来の視覚サリエンス研究の多くが静止画像に焦点を当てていたのに対し、本研究では動画における動的サリエンスに焦点を当て、静的サリエンスと動的サリエンスの違いと関係性を詳細に分析しました。
*   **動的サリエンス検出におけるカメラモーションの影響を初めて調査した**。カメラの動き（チルト、パン、ズームなど）が動的サリエンスの分布に大きな影響を与えることを実験的に示し、動的サリエンス予測においてカメラモーションを考慮することの重要性を明らかにしました。具体的には、パン、ペデスタル、チルトなどのカメラモーションにおいて、注視点が動きの予想される方向に向かう傾向があることを発見しました。また、ズームインやズームアウトなどのカメラモーションは、注視点が興味のある物体または周辺の動きに向かう可能性があることを示しました。
*   **静的サリエンスと動的サリエンスの関係性に着想を得て、CMASS（Camera Motion And Static Saliency）という新しい学習フレームワークを提案した**。このフレームワークは、静的サリエンスマップと動的サリエンスマップを自動的に融合させ、カメラモーションの情報も統合することで、動的サリエンス予測の精度を向上させます。CMASSフレームワークは、ニューラルネットワークを使用して、静的サリエンスマップと動的サリエンスマップの最適な重みを学習し、より正確な動的サリエンスマップを生成します。実験結果では、CMASSフレームワークが既存の動的サリエンス予測手法よりも優れた性能を示すことが確認されています。

これらの貢献により、本研究は、視覚サリエンスの分野において、静的サリエンスと動的サリエンスの理解を深め、より高度な動的サリエンス予測モデルの開発に貢献しました。さらに、動的サリエンスの応用として、聴覚障害者向けの字幕挿入という実用的な応用例も紹介しました。


#### Q: 本研究で使用されたデータセットの特徴を簡潔に説明しなさい。
#### A:
本研究で使用されたデータセットは、**静的サリエンスと動的サリエンスの両方を同時に研究するために特別に構築された2つの新しいデータセット**、**CAMO (Camera Motion) データセット**と**Hollywoodデータセット**です。

*   **CAMOデータセット**
    *   映画撮影における**6つの基本的なカメラモーション**（ドリー、ズーム、トラッキング、チルト、パン、ペデスタル）を含む**120個の動画**で構成されています。
    *   各動画には、**単一のカメラモーション**が含まれています。
    *   このデータセットは、**カメラモーションが動画のサリエンスに与える影響を研究する**ために特別に作成されました。
    *   動画ごとに、静的サリエンスマップ収集のために、ランダムに1フレームが選択されました。
    *   **各カメラモーション**は以下の通りです:
        *   チルト: カメラが静止した状態で垂直面に回転する動き。
        *   パン: カメラが静止した状態で水平面に回転する動き。
        *   ドリー: カメラがドリーに取り付けられ、カメラマンがドリーに乗ってカメラを操作する動き。
        *   トラッキング: ドリーショットとほぼ同義だが、特に横方向の動きを指すことが多い。
        *   ペデスタル: カメラの位置を被写体に対して垂直に動かす動き。
        *   ズーム: レンズの焦点距離を変えることで、カメラが近づいたり遠ざかったりするような錯覚を与える動き（厳密にはカメラの動きではない）。
    *   これらのカメラモーションの例は、図2に示されています。
*   **Hollywoodデータセット**
    *   ハリウッド2データセットから**ランダムに選択された500個の動画**で構成されています。
    *   このデータセットは、**多様で現実的な動画設定での自然な人間の動き**を捉えています。
    *   動画ごとに、静的サリエンスマップ収集のために、ショット境界ではなく、動画の中心フレームに近いランダムな1フレームが選択されました。
    *   このデータセットは、現実的な映画における人間の注視データを収集するために使用されました。

これらのデータセットでは、**参加者が静止画像と動画を自由に閲覧する際の視線追跡データが収集**され、**人間の注視マップ**が作成されました。これらの注視マップは、**サリエンス予測モデルの学習と評価に使用**されました。また、**CAMOデータセットの動画部分は、カメラモーションの影響を分析するために使用**されました。

これらのデータセットは、**静的サリエンスと動的サリエンスの比較研究を包括的に行うための基礎**を提供しました。


#### Q: 静的サリエンスとは何ですか？また、動的サリエンスとは何ですか？
#### A:
静的サリエンシーとは、**静止画像内の顕著な領域に対する優先的な注意**を指します。これは、心理学、神経科学、コンピュータービジョン、マルチメディアの分野で研究されている、複雑な生物学的視覚システムに自然に組み込まれた視覚的注意メカニズムです。静的サリエンシーの研究は、画像のリサイズ、自動コラージュ作成、広告デザインなどの多くのアプリケーションに応用されています。

一方、動的サリエンシーとは、**動画内の顕著な領域に対する優先的な注意**を指します。動的サリエンシーの研究は、動画処理の需要が増加しているにもかかわらず、静的サリエンシーに比べてあまり注目されていません。動的サリエンシーは、動画内のカメラの動き（チルト、パン、ズームなど）に大きく影響を受けることが研究で示されています。

この論文では、静的サリエンシーと動的サリエンシーを比較研究し、以下の2つの重要な観察結果を得ています。
*   **動画のサリエンシーは、静止画像のサリエンシーとは異なるが、関連性がある**。
*   **カメラの動きは、動的サリエンシーに大きな影響を与える**。

これらの観察結果に基づき、動的サリエンシーの予測において、静的サリエンシーを事前情報として利用し、カメラの動きを考慮した新しいモデルを提案しています。また、動的サリエンシー予測の応用として、聴覚障害を持つ人々がオフスクリーンの音声のみの動画（ドキュメンタリー、ニュース、スポーツなど）を楽しむための、動的な動画キャプション挿入を提案しています。

この論文では、静的サリエンシーと動的サリエンシーの両方を同時に研究するための新しいデータセット（CAMOとHollywood）を構築し、人間の視線追跡データに基づいてサリエンシーマップを作成しています。そして、カメラの動きが動的サリエンシーに与える影響を分析し、静的サリエンシーとカメラの動きを組み合わせて、より正確な動的サリエンシー予測を行うためのCMASSフレームワークを提案しています。


#### Q: 静的サリエンスと動的サリエンスの比較研究において、カメラの動きがどのように影響するか説明しなさい。
#### A:
静的サリエンスと動的サリエンスの比較研究において、カメラの動きは動的サリエンスに大きな影響を与えることが示されています。具体的には、以下の点が指摘されています。

*   **全体的な関係性**：動画内の注視点は、単一の人物や物体が存在する場合、対応する静止画像の注視点のサブセットを形成することが多いです。これは、静的サリエンスと動的サリエンスの間には密接な関係があることを示唆しており、静的サリエンスを動的サリエンスの推定のための事前情報として利用できる可能性を示しています。
*   **カメラの動きによる影響**：
    *   **パン**：注視点は、興味のある物体（歩いている人の顔など）または動きの予想される方向のいずれかに向かう可能性があります。
    *   **ペデスタル**：被験者は、多くの場合、動きの予想される方向に注視する傾向があります。
    *   **チルト**：チルトショットの場合、被験者は動きの予想される方向に注視する傾向があります。
    *   **トラッキング**：動画内の注視点は、静止画像の注視点のサブセットであるか、動きの予想される方向にあるかのいずれかです。
    *   **ドリー**：カメラが「より近くに移動」するため、動きの予想される方向は中心または焦点の物体とみなすことができます。被験者は興味のある物体に注視しますが、ドリーショットは被験者が興味のある物体をより多く/少なく注視させるため、パン、ペデスタル、チルトのように動きの予想される方向に注視させるわけではありません。
    *   **ズーム**：注視点は、興味のある物体またはカメラの周辺の動きのいずれかに向かうことが観察されています。
*   **中心バイアス**：静止画像では中心バイアスが強く見られますが、動画ではカメラの動きの影響により、中心バイアスはそれほど強くは見られません。特に、CAMOデータセットの動画部分の平均注視マップでは、カメラの動きが強く影響しているため、中心バイアスはみられません。

これらの観察結果から、**カメラの動きは、動的サリエンスの分布に大きな影響を与え、静的サリエンスとは異なる注視パターンを引き起こす**ことがわかります。したがって、動的サリエンスを正確に予測するためには、カメラの動きを考慮に入れることが重要です。この論文では、カメラの動きと静的サリエンスの情報を統合することで、動的サリエンス予測の精度を向上させるためのCMASSフレームワークが提案されています。

さらに、この研究では、映画撮影における基本的なカメラの動き（ドリー、ズーム、トラッキング、チルト、パン、ペデスタル）を網羅したCAMOデータセットを作成しました。また、ハリウッド映画からランダムに選択された動画を含むハリウッドデータセットも収集されました。これらのデータセットを用いて、静的サリエンスと動的サリエンスの比較研究が行われ、人間の注視データに基づいてサリエンスマップが作成されました。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981660/e2e744c3-348e-b863-b594-ccb7e0d88305.png)


#### Q: 本研究で提案された動的サリエンス予測モデルの応用例を１つ答えなさい。
#### A:
本研究で提案された動的サリエンス予測モデルの応用例として、**聴覚障害を持つ人々がナレーションのみの動画（ドキュメンタリーやニュース、スポーツ動画など）をより良く楽しめるように、動画に字幕を自動的に挿入する**というものが紹介されています。

この応用例では、以下の2つの基準に基づいて字幕の挿入位置が決定されます:

1.  **字幕を挿入するフレームの位置は、サリエンシーのスコアが低い場所であるべき**です。これにより、字幕が目立つオブジェクトと重なり、視聴者の視聴体験を損なうことを防ぎます。
2.  **選択された位置は、サリエンシーの高い位置に近い場所であるべき**です。これにより、挿入された字幕が視聴者の注意を散漫にさせないようにします。

具体的な字幕挿入位置の決定方法は以下の通りです:
*   予測されたサリエンシーマップを10x10ピクセルの複数のブロックに分割し、各ブロックの平均サリエンシー値siを計算します。
*   以下の式を用いて、各ブロックの応答値rkを計算します。
    *   rk = α1 ∑j∈N(i) |si − sj| − α2si
        *   N(i)はブロックiの隣接ブロックを表します。
        *   siとsjはそれぞれブロックiとブロックjのサリエンシー値を表します。
        *   α1とα2は重みであり、実験的に0.5に設定されています。
    *   この式において、第一項はサリエンシーのコントラストを特徴づけ、第二項はサリエンシーの低い位置を見つけることを促進します。
*   挿入するテキストのサイズをその長さに基づいて計算し、応答マップ上で最も大きな応答値を持つ最適な位置を探索します。

実験結果では、この動的サリエンシーに基づいた字幕挿入方法が、固定位置に字幕を挿入する方法や、低サリエンシー領域に字幕を挿入する方法よりも、**コンテンツの理解度が高く、ユーザーの満足度も高い**ことが示されています。これは、動的サリエンシーを用いた字幕挿入が、視聴者の注意を引きつけ、効果的な情報伝達を可能にすることを示唆しています。

#### Q: 本研究で用いられた動的サリエンスデータセットの名前を２つ答えよ。
#### A:
本研究で使用された動的サリエンスデータセットの名前は、**CAMO (Camera Motion)** と **Hollywood** の2つです。

*   **CAMOデータセット**は、映画撮影における6つの基本的なカメラモーション（ドリー、ズーム、トラッキング、チルト、パン、ペデスタル）を含む120個の動画で構成されています。各動画には、単一のカメラモーションが含まれています。
*   **Hollywoodデータセット**は、ハリウッド2データセットからランダムに選択された500個の動画で構成されています。このデータセットは、多様で現実的な動画設定での自然な人間の動きを捉えています。

これらのデータセットは、静的サリエンスと動的サリエンスの両方を同時に研究するために作成されました。各動画からランダムに1フレームが選択され、静的サリエンスマップの収集にも使用されました。また、これらの動画と静止画像に対して、視線追跡実験が行われ、人間の注視データが収集されました。これらのデータに基づいて、サリエンスマップが作成され、モデルのトレーニングと評価に使用されました。

#### Q: 本研究で提案されたCMASSモデルの強みと限界はどこにあるか？
#### A:
本研究で提案されたCMASSモデルの強みと限界について、以下に説明します。

**CMASSモデルの強み**

*   **静的サリエンスと動的サリエンスの統合**: CMASSモデルは、静的サリエンスマップと動的サリエンスマップを効果的に融合させることで、**単独のサリエンスマップよりも高い精度の動的サリエンス予測**を実現します。これは、静的サリエンスがシーンの重要な領域を示し、動的サリエンスが時間的な変化や動きの情報を加えることで、より包括的な注意マップを作成できるためです。
*   **カメラモーションの考慮**: CMASSモデルは、動的サリエンスの予測において、**カメラモーション（パン、チルト、ズームなど）の影響を明示的に考慮**しています。従来の動的サリエンスモデルでは無視されがちだったカメラモーションが、人の注視に大きな影響を与えることを実験的に示し、それをモデルに組み込むことで、より正確な予測を可能にしています。具体的には、カメラモーションのパラメータとパッチの位置をニューラルネットワークに入力することで、静的サリエンスマップと動的サリエンスマップの最適な重みを学習します。
*   **ニューラルネットワークによる適応的な重み付け**: CMASSモデルは、**ニューラルネットワークを用いて静的サリエンスマップと動的サリエンスマップの重みを適応的に調整**します。これにより、動画の各領域で最適な重み付けが可能となり、固定の重み付けよりも高い予測精度を達成します。また、カメラモーションと位置情報に基づいて重みを調整することで、より状況に応じたサリエンス予測が可能になります。
*   **既存手法を上回る性能**: 実験結果では、CMASSモデルは、**既存の動的サリエンス予測手法（固定の重み付けや他の適応的な重み付け手法など）よりも優れた性能**を示すことが確認されています。特に、AUCとCCの値において、他のベースライン手法よりも大幅に高いスコアを達成しています。
*   **実用的な応用への展開**: CMASSモデルで得られた動的サリエンスマップは、**聴覚障害者向けの動画字幕挿入**に応用されています。字幕を挿入する際に、サリエンスマップに基づいて最適な位置を選択することで、字幕が重要なオブジェクトを邪魔せず、視聴者の注意を引くような字幕挿入を実現します。

**CMASSモデルの限界**

*   **計算コスト**: CMASSモデルは、ニューラルネットワークを使用しており、**学習と推論に比較的多くの計算コスト**がかかります。特に、大規模なデータセットでの学習やリアルタイムでの処理には、高性能な計算機が必要となる可能性があります。
*   **パラメータ調整**: CMASSモデルは、**ニューラルネットワークの構造や学習パラメータ（学習率、λなど）の調整**が必要です。これらのパラメータは、データセットやタスクによって最適な値が異なるため、適切なパラメータを見つけるためには試行錯誤が必要となる可能性があります。
*   **複雑なカメラモーションへの対応**: 本研究では、6つの基本的なカメラモーションを扱っていますが、現実の動画では、**より複雑なカメラモーション（複数のカメラモーションの組み合わせなど）**が存在します。CMASSモデルが、このような複雑なカメラモーションに対してどの程度有効かは、今後の研究で検証する必要があるでしょう。
*   **汎化性能**: CMASSモデルは、**特定のデータセットで学習されたモデル**であり、異なる種類の動画やデータセットに対してどの程度汎化できるかは不明です。異なる環境やデータセットでモデルを適用する際には、モデルの再学習や調整が必要になる可能性があります。
*   **局所的な最適解**: CMASSモデルの学習は、ニューラルネットワークの最適化に依存しており、**局所的な最適解に陥る可能性**があります。このため、学習結果が初期値に依存したり、常に最適な性能が得られるとは限りません。

これらの強みと限界を踏まえ、CMASSモデルは、動的サリエンス予測の分野において、非常に有望な手法であると言えます。しかし、さらなる性能向上や実用的な応用のためには、計算コストの削減、パラメータ調整の自動化、複雑なカメラモーションへの対応、汎化性能の向上など、今後の課題も多く残されています。


![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981660/5a117769-4cfe-d577-f699-b1e7eb1c2a60.png)

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981660/0b941a9f-e6a5-b09b-3da6-b65dd352b57f.png)