HUMAN VISUAL FIELD BASED SALIENCY PREDICTION METHOD USING EYE  TRACKER DATA FOR VIDEO SUMMARIZATION (2016) 

### HUMAN VISUAL FIELD BASED SALIENCY PREDICTION METHOD USING EYE  TRACKER DATA FOR VIDEO SUMMARIZATION (Salehin, 2016) 

#### Q:この論文の概要を教えてください
#### A:
この論文は、人間の視覚特性を利用した新しいビデオ要約手法を提案しています。 眼球追跡装置を用いて取得した人間の注視データから、中心窩、傍中心窩、周辺視野の３つの領域を考慮し、各領域に異なる重要度を割り当て、顕著性マップを作成します。このマップに基づいて重要なフレームを選択し、動画を要約します。既存手法と比較し、特にカメラの動きや照明変化がある動画において、精度と再現率が向上することを実験結果で示しています。

#### Q:この論文で提案された手法を詳しく説明してください
#### A:
この論文で提案された手法は、**人間の視覚野の特性**を利用して、カメラの動きや照明変化がある動画でも効果的に動画を要約することを目的としています。以下に、提案手法の詳細を説明します。

**1. 概要**
*   提案手法は、人間の視覚認知システムに着目し、特に人間の視覚野が持つ **注視点（fixation point）** を中心とした注意メカニズムを応用しています。
*   アイトラッカー（Tobii X120 Eye Tracker）で取得した人間の視線データをもとに、動画の各フレームにおける **顕著性マップ** を生成します。
*   生成された顕著性マップと、動画の **前景領域と動き情報** を組み合わせることで、動画内の重要なイベントを捉え、動画を要約します。
*   提案手法は、従来のGMM（Gaussian Mixture Model）ベースの手法と比較して、特に照明の変化やカメラの動きがある動画において、より高い精度で動画要約を生成できることが示されています。

**2. 提案手法のステップ**
提案手法は、大きく分けて以下の3つのステップで構成されます。

*   **ステップ1：候補キーフレームの選択**
    *   動画フレームから、**前景領域の面積（Γt）** と **動き情報（Υt）** の2つの特徴量を抽出します。
    *   **前景領域** は、動画内でより詳細な情報を含み、重要なイベントを担うため、キーフレーム選択の重要な要素となります。
    *   **動き情報** は、人間が動くオブジェクトに注目しやすいという特性を反映し、イベントを理解する上で重要な情報となります。
    *   各フレームにおいて、前景領域の面積（Γt）または動き情報（Υt）がそれぞれ設定された閾値（Θ、Φ）を上回る場合、そのフレームを候補キーフレームとして選択します。
*   **ステップ2：顕著性マップの生成**
    *   人間の視覚野を模倣し、注視点（fixation point）を中心に **中心窩（foveal）、傍中心窩（parafoveal）、周辺（peripheral）** の3つの領域に分割します。
        *   **中心窩** は、最も高い視覚集中度を持つ領域で、注視点に最も近い部分です。
        *   **傍中心窩** は、中心窩の周囲に位置し、中程度の視覚集中度を持つ領域です。
        *   **周辺領域** は、最も外側に位置し、最も低い視覚集中度を持つ領域です。
    *   アイトラッカーから得られた注視点データをもとに、注視点を中心に3つの異なる半径を持つ円を描画します。
    *   中心窩に対応する内側の円には最も高い顕著性値（α）を、傍中心窩に対応する中間の円には中程度の顕著性値（β）を、周辺領域に対応する外側の円には最も低い顕著性値（γ）を割り当てます。
    *   複数の観察者から得られた顕著性マップを掛け合わせ、動画フレーム内で重複する領域を強調します。
    *   各フレームの顕著性マップを正規化し、フレーム内のすべての顕著性値を合計して、**顕著性スコア（Κt）** を算出します。
    *   顕著性スコアは、Savitzky-Golayフィルタリングによって平滑化され、局所的な極大値が強調されます。
*  **ステップ3：動画要約の生成**
    *  各フレームの顕著性スコア（Κt）を降順にソートします。
    *  ユーザーが指定したキーフレーム数（N）に基づいて、顕著性スコアの高い上位N個のフレームをキーフレームとして選択します。
    *  選択されたキーフレームを元の動画の順序で並べ、動画要約を生成します。

**3. 提案手法の優位性**
提案手法は、以下の点で既存手法よりも優れています。

*   **人間の視覚認知システムに基づく顕著性マップの生成**:
    *   人間の視覚野の特性を模倣することで、照明の変化やカメラの動きがある場合でも、人間が注目する重要なコンテンツを正確に抽出できます。
    *   従来のIntensityや色に基づいた手法では捉えきれなかった、人間の視覚的な注意メカニズムを反映できます。
*   **前景領域と動き情報の活用によるキーフレームの選択**:
    *   動画内の重要な情報を捉えるために、前景領域の面積と動き情報を考慮することで、より適切なキーフレームを選択できます。
    *   従来のフレーム差分のみに基づく手法では捉えきれない、照明変化やカメラの動きによるノイズの影響を軽減します.
*   **既存手法との比較による優位性の実証**:
    *   GMMに基づく既存手法と比較して、平均F1値が25.3%向上しており、より高い精度で動画要約を生成できます。
    *   提案手法は、異なる動画においても、既存手法と比較して性能のばらつきが少ないため、より安定した動画要約が可能であることを示しています。

この提案手法は、人間の視覚認知システムの特性を応用することで、照明変化やカメラの動きがある動画においても、従来の技術よりもロバストで効果的な動画要約を生成できることが示されています。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981660/001690e9-d813-2bb6-2823-f3a76534f99e.png)


#### Q:人間の視覚野に基づいた動画要約手法の有効性を、既存手法と比較してどのように評価できるか？
#### A:
人間の視覚野に基づいた動画要約手法の有効性は、既存のGMM（Gaussian Mixture Model）に基づく手法と比較して、精度、再現率、およびF1値という評価指標を用いて評価できます。

*   **精度（Precision）**：提案手法が選択したフレームのうち、実際に正解（ground truth）であるフレームの割合を示します。
    *   式：精度 = TP / (TP + FP)  （TPは真陽性、FPは偽陽性）
*   **再現率（Recall）**：正解フレームのうち、提案手法がどれだけ正しく選択できたかを示します。
    *   式：再現率 = TP / (TP + FN) （FNは偽陰性）
*  **F1値（F1-measure）**：精度と再現率の調和平均であり、両方の指標をバランス良く評価するために用いられます。
    *   式：F1値 = 2 * (精度 * 再現率) / (精度 + 再現率)

この研究では、提案手法とGMMに基づく手法を、オフィスデータセットの動画を用いて比較しました。オフィスデータセットの動画には、カメラの振動や照明の変化などの課題が含まれています。実験結果は、提案手法がGMMに基づく手法よりも高い平均F1値を示し、より優れた動画要約性能を持つことを示しています。

具体的には、以下の点が評価されています。

*   **平均F1値**: 提案手法は、GMMに基づく手法よりも平均で25.3%高いF1値を示しました。
*   **一貫性**: 提案手法は、異なる動画においても、GMMに基づく手法よりも性能のばらつきが少ないことを示しました。
*   **視覚的特徴**: 提案手法は、前景領域と動き情報を考慮して候補となるキーフレームを選択します。また、人間の視覚認知システムを適用して、照明の変化やカメラの動きがある場合でも重要なコンテンツを選択します。これにより、人間の視覚に合わせた効果的な要約が実現されます。

これらの評価結果から、提案手法は人間の視覚野の構造を模倣することで、従来のGMMに基づく手法よりも、より効果的でロバストな動画要約が可能であると言えます。


#### Q:この論文で提案された手法の主な目的は何ですか？
#### A:
この論文で提案された手法の主な目的は、**カメラの動きや照明の変化がある動画でも、人間の視覚野の特性を模倣することで、効果的かつロバストな動画要約を生成すること**です。具体的には、以下の点が主な目的として挙げられます。

*   **人間の視覚野に基づいた新しい顕著性予測手法の提案**：
    *   人間の視覚が、注視点（fixation point）を中心に、網膜の構造に基づいて異なる領域（中心窩、傍中心窩、周辺領域）に異なる注意を向けるという特性を利用しています。
    *   この特性を模倣して、注視点周辺に異なる半径の円を描き、内側の円（中心窩に相当）には最も高い顕著性値を、外側の円（周辺領域に相当）には最も低い顕著性値を割り当てています。
*   **動画内の重要なイベントを抽出するための顕著性マップの生成**：
    *   人間の注視データ（アイトラッカーで取得）を用いて、各フレームにおける顕著性マップを生成します。
    *   この顕著性マップを用いて、各フレームの顕著性スコアを計算し、動画内の重要なフレームを特定します。
*   **照明変化やカメラの動きがある動画に対するロバスト性の向上**：
    *   従来の動画要約手法は、照明の変化やカメラの動きがある場合に、重要なコンテンツを正しく抽出できないという課題がありました。
    *   本手法は、人間の視覚認知システムを応用することで、これらの課題を克服し、よりロバストな動画要約を実現します。
*   **ユーザーの好みに応じた動画要約の生成**：
    *   ユーザーが指定したキーフレーム数に基づいて、顕著性スコアの高いフレームを選択し、動画要約を生成します。
    *   これにより、ユーザーのニーズに合わせた動画要約を提供できます.

この論文では、これらの目的を達成するために、以下のステップを含む新しい手法を提案しています。

1.  **候補キーフレームの選択**：前景領域の面積と動き情報を基に、候補となるキーフレームを選択します。
2.  **顕著性マップの生成**：アイトラッカーで取得した注視点データを用いて、人間の視覚野の特性を模倣した顕著性マップを生成します。
3.  **動画要約の生成**：顕著性スコアに基づいて、キーフレームを選択し、動画要約を生成します。

この手法は、既存のGMM（Gaussian Mixture Model）に基づく手法と比較して、より高い精度、再現率、およびF1値を達成しており、特に照明変化やカメラの動きがある動画において、より効果的な動画要約を提供できることを示しています。


#### Q:この研究で提案された視覚的顕著性マップ生成方法は、人間の視覚認知システムをどのように活用しているか？
#### A:
この研究で提案された視覚的顕著性マップ生成方法は、人間の視覚認知システム、特に**視覚野の構造と注視点**の概念を活用しています。具体的には以下の点が挙げられます。

*   **人間の視覚野のモデル化**：人間の網膜の構造に基づいて、視覚野を**中心窩（foveal）、傍中心窩（parafoveal）、周辺（peripheral）**の3つの領域に分割しています。
    *   中心窩は、最も高い視覚集中度を持つ領域であり、注視点に最も近い部分です。
    *   傍中心窩は、中心窩の周囲に位置し、中程度の視覚集中度を持つ領域です。
    *   周辺領域は、最も外側に位置し、最も低い視覚集中度を持つ領域です。
*   **注視点データの利用**：Tobii X120アイトラッカーを使用して、人間の注視点（fixation point）データを取得します。注視点は、人が見ている視覚野内の特定の場所を指します。
*   **顕著性マップの生成**：取得した注視点を中心に、3つの異なる半径を持つ円（中心窩、傍中心窩、周辺領域に対応）を描画します。
    *   中心窩に対応する内側の円には最も高い顕著性値を、傍中心窩に対応する中間の円には中程度の顕著性値を、周辺領域に対応する外側の円には最も低い顕著性値を割り当てます。
    *   複数の観察者から得られた顕著性マップを掛け合わせることで、動画フレーム内で重複する領域を強調します。
*   **視覚集中度の反映**：人間の視覚は、中心窩に最も注意を払い、周辺領域には注意を払わないという特性を考慮して、顕著性マップを生成します。このモデルにより、人間が注目する可能性の高い領域を効果的に特定できます。
*  **照明変化とカメラの動きへの対応**: 人間の目が照明の変化やカメラの動きがあっても物体を容易に認識できるという知見 を基に、アイトラッカーで得られた注視点データを用いて、照明変化やカメラの動きがある動画から重要なコンテンツを抽出します。

この方法では、人間の視覚認知システムが持つ**注意のメカニズム**を模倣することで、動画内の重要な領域を効率的に特定し、より効果的な動画要約を実現することを目指しています。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981660/93b4e42c-6afc-821e-e18c-474bc039b4b8.png)

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981660/6620f70e-0b16-ac77-4522-923a562b9b5e.png)

#### Q:本研究で使用された眼球追跡装置とデータセットの名前を答えよ。
#### A:
この研究で使用された眼球追跡装置とデータセットは以下の通りです。

*   **眼球追跡装置**: **Tobii X120 Eye Tracker**
    *   この装置は、人間の注視点（fixation point）のデータを取得するために使用されます.
    *   このデータは、提案手法における顕著性マップの生成に不可欠です.

*   **データセット**: **Office dataset**
    *   このデータセットは、カメラの振動や照明条件の変化がある動画を含んでいます.
    *   Office dataset には4つの動画が含まれており、それぞれ非固定カメラで安定して撮影されたものです.
    *   このデータセットには、動画のグランドトゥルース（正解）となるキーフレームも含まれています.
    *   このデータセットは、提案手法の評価に用いられ、既存手法と比較してその優位性を示すために使用されています.

この研究では、Tobii X120 Eye Trackerを用いて人間の視線データを取得し、そのデータを基にOffice dataset内の動画を要約しています。提案手法は、このデータセットで既存のGMMベースの手法よりも優れた結果を示しています.


#### Q:提案手法とGMMベース手法の性能比較結果を簡潔に述べよ。
#### A:
提案手法とGMMベース手法の性能比較結果を簡潔に述べると、以下のようになります。

*   **平均F1値**: 提案手法は、Officeデータセットにおいて、平均F1値で**78.3%**を達成しました。一方、GMMベースの手法は**53.0%**でした。この結果から、提案手法はGMMベースの手法と比較して、**25.3%**も高い精度で動画要約を生成できることがわかります。
*   **精度（Precision）**: 提案手法の平均精度は**76.7%**であり、GMMベース手法の**38.8%**を大きく上回っています。
*   **再現率（Recall）**: 提案手法の平均再現率は**80.3%**であり、GMMベース手法の**86.9%**と比べるとやや低いものの、F1値を考慮すると全体的な性能は提案手法が優れています。
*   **性能の安定性**: 提案手法は、異なる動画間での性能のばらつきが少なく、より安定した動画要約が可能であることが示されています。GMMベースの手法と比較して、精度、再現率、F1値の標準偏差が小さく、より**一貫した性能**を示しています。
*   **具体的な例**:
    *   Office-2の動画を例にとると、GMMベースの手法は、照明の変化やカメラの動きがあるフレームを誤ってキーフレームとして選択してしまうのに対し、提案手法は人間の視覚野の特性を利用することで、これらの影響を軽減し、重要なイベントを正確に抽出しています。
    *   提案手法では、人間の視覚認知に基づいて生成された顕著性マップが、不必要なフレームの選択を防ぎ、より適切なキーフレームを選択するのに役立っています。

**まとめ**
提案手法は、GMMベース手法と比較して、平均F1値、精度で大幅に上回り、より安定した動画要約を提供できます。人間の視覚野の特性を活用することで、照明変化やカメラの動きがある動画においても、よりロバストで効果的な動画要約が可能になることが実証されました。

#### Q:GMMベース手法とは何ですか？
#### A:
GMMベース手法とは、この研究で比較対象とされている、**既存の動画要約手法**の一つです。この手法は、**ガウス混合モデル（Gaussian Mixture Model, GMM）** を用いて動画のキーフレームを抽出します。

GMMベース手法の具体的な内容については、この資料では詳細には説明されていません。しかし、資料中で言及されている内容から、以下の点が明らかになっています。
*   **GMMベース手法は、人間の視覚認知システムを利用していない**点が、この研究で提案された手法との大きな違いです。このため、**照明の変化やカメラの動きがある動画に対して、ロバストな動画要約が難しい**という問題点があります。
*  この手法は、**動画内の動きや色などの特徴量**を基にキーフレームを選択します。しかし、これらの特徴量は、照明変化やカメラの動きに影響を受けやすく、不適切なフレームをキーフレームとして選択してしまうことがあります。
*   この研究では、GMMベース手法が、**Office dataset**のような、カメラの振動や照明条件の変化がある動画に対して、十分な性能を発揮できないことを示しています。
*  **GMMベース手法の平均F1値は53.0%**であるのに対し、提案手法は78.3%と大きく上回っています。
*   **GMMベース手法は、精度も38.8%**と、提案手法の76.7%に比べて低い値となっています。
*  GMMベース手法は、提案手法に比べて**性能のばらつきが大きい**ことが示されています。

この研究では、GMMベース手法は、既存の動画要約手法の代表例として比較対象とされ、**提案手法が人間の視覚認知システムを活用することで、GMMベース手法よりも優れた動画要約性能を発揮できる**ことを示しています。特に、照明の変化やカメラの動きがある動画において、提案手法の優位性が際立っています。


#### Q:候補キーフレームの選定において、どのような画像特徴量が用いられたか説明せよ。
#### A:
候補キーフレームの選定において、この研究では**2つの重要な画像特徴量**が用いられました。それは、**前景領域の面積**と**動き情報**です。

*   **前景領域の面積（Γt）**:
    *   動画フレーム内で、前景オブジェクトは重要な情報を含んでいると仮定されています。
    *   前景領域は、動画内の重要なイベントを理解する上で主要な役割を果たすため、注目されます。
    *   この特徴量を抽出するために、各カラー動画フレームはグレースケール画像I(t)に変換されます。
    *   次に、ガウシアン混合モデル（DBM）を用いて、対応するグレースケール背景フレームB(t)を取得します。
    *   前景オブジェクトを検出するため、I(t)とB(t)の差分を計算し、背景-前景分離閾値（Θ）を適用します。
    *   これにより、前景ピクセルGi,j(t)が得られます。式(1)で示されるように、背景と前景のピクセルの差が20以上の場合は、前景ピクセルとみなされます。
    *   Gi,j(t)内の非ゼロピクセルの総数が、前景オブジェクトの特徴量Γtとして用いられます。これは式(2)で計算されます。
    *   この特徴量は、動画フレーム内で前景オブジェクトが占める面積の大きさを表します。

*   **動き情報（Υt）**:
    *   人間は、動画内の動いているオブジェクトに注意を払う傾向があるため、動き情報は重要なイベントを理解する上で役立ちます。
    *   連続するフレーム間の差分を計算することで、動き情報を取得します。具体的には、時間t-1とtにおける連続する2つのフレームI(t-1)とI(t)を比較します。
    *   空間的な動き情報を得るために、赤、緑、青の各チャンネルでの色の差分を計算します。
    *   あるピクセルにおいて、3つのチャンネル全てで差分が閾値（Δ）以上である場合、そのピクセルは動きピクセルとして値「1」が割り当てられます。それ以外の場合は、動きがないとみなされ値「0」が割り当てられます。これにより、動き情報Si,j(t)が取得できます。
    *  式(3)で示されるように、閾値Δは20に設定されています。
    *   動き情報Υtは、Si,j(t)内の全ての値を合計することで得られます。これは式(4)で計算されます。

これらの2つの特徴量（前景領域の面積Γtと動き情報Υt）に基づいて、フレームは候補キーフレームとして選定されます。フレームが候補キーフレームとして選定される条件は、Γtが閾値τ以上であるか、またはΥtが閾値υ以上である場合です（式5）。
この選定プロセスを図2に示すように、前景領域の面積と動き情報が閾値を超えているフレームが候補キーフレームとして選択されます。

要するに、この研究では、**前景領域の面積**と**動き情報**という2つの視覚的に重要な特徴量を用いて、動画から候補キーフレームを効率的に選択しています。これにより、後続の顕著性マップ生成と動画要約の精度が向上することが期待されます。