Classifying Eye-Tracking Data Using Saliency Maps(2020)

### Classifying Eye-Tracking Data Using Saliency Maps(Rahman, 2020) 

#### Q:この論文の概要を教えてください
#### A:
この論文は、視線追跡データの分類を目的とした、新規な特徴抽出法を提案しています。既存手法が固定データから直接特徴を抽出するのに対し、本研究では視覚的顕著性マップを用いて、固定マップとの比較から識別的な特徴を生成します。自閉スペクトラム症スクリーニング、幼児年齢予測、視覚的知覚タスク分類の3つの異なる課題において、最先端の結果を達成したことを示しています。特に、視覚的顕著性モデルが提供する追加情報が、分類精度向上に大きく貢献している点が強調されています。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981660/1573899d-7de8-aaa3-c2fd-1ee26bc72585.png)


#### Q:提案手法の処理の流れを説明してください
#### A:
提案手法の処理の流れは、大きく分けて**特徴抽出**と**分類器学習**の2つの段階から構成されます。

**1. 特徴抽出**
   *   **複数の視覚的顕著性モデルの利用:**
        *   まず、入力画像に対して、複数の既存の視覚的顕著性モデル（例えば、GBVS, CovSal, SimpSal など）を用いて、それぞれの顕著性マップを生成します。論文では、7つの顕著性モデル（CovSal, LDS, GBVS, UHF, CIWaM, CEoS, SimpSal）を使用しています。
        *   これらのモデルは、画像中のどこに注意が引きつけられやすいかを予測します。
    *   **注視マップとの比較:**
        *   次に、生成された各顕著性マップと、実際の眼球運動データから得られた注視マップを比較します。
        *   この比較には、sAUC, 情報ゲイン(Info gain), 相関係数(CC), NSS などの評価指標が用いられます。これらの指標は、顕著性マップが注視マップをどれだけ正確に予測しているかを数値化します。
    *   **特徴ベクトルの生成:**
        *   各顕著性モデルと注視マップの比較結果（評価指標の値）を要素とする特徴ベクトルを生成します。
        *   複数の顕著性モデルを使用している場合は、各モデルに対する評価結果を連結して、最終的な特徴ベクトルとします。この特徴ベクトルの次元数は、使用する顕著性モデルの数と評価指標の数の積になります。例えば、7つの顕著性モデルと7つの評価指標を用いる場合、特徴ベクトルの次元数は49になります。
        *   この特徴ベクトルは、**注視データと顕著性マップの間のずれ**を表現しており、異なるクラス（例えば、ASDとTD、異なる年齢層、異なる視覚タスク）の注視パターンの違いを捉えるのに役立ちます。

**2. 分類器学習**
*   **問題に応じた特徴ベクトルの処理:**
    *   抽出された特徴ベクトルは、問題の種類に応じて、さらに処理される場合があります。
        *   **被験者分類**の場合（例えば、ASDスクリーニングや幼児の年齢予測）:
            *   各被験者が複数の画像を見た場合の注視データから得られた特徴ベクトルを、被験者ごとに平均化します。これにより、被験者ごとの特徴を表す単一のベクトルが得られます。
        *   **視覚的知覚タスク分類**の場合（例えば、自由視や物体検索の分類）:
            *   同じ画像に対する複数の被験者の注視データを統合して、単一の注視マップを作成し、それから特徴ベクトルを抽出します。
    *   **分類器の学習:**
        *   処理された特徴ベクトルを用いて、機械学習モデル（例えば、SVMやXGBoost）を学習させます。
        *   学習されたモデルは、新しい眼球運動データが与えられた際に、そのデータがどのクラスに属するかを予測します。


**特徴抽出の核心的なアイデア:**
この手法の核心的なアイデアは、**視覚的顕著性マップを、眼球運動データ分類のための特徴抽出に利用する**という点です。具体的には、注視データと顕著性マップの間の「ずれ」に着目し、このずれを分類のための特徴として利用します。

**まとめると、提案手法は、以下のステップで処理を行います:**

1.  複数の顕著性モデルを用いて、入力画像に対する顕著性マップを生成する。
2.  生成された顕著性マップと実際の注視マップを比較し、評価指標を用いて差異を数値化する。
3.  数値化された差異を要素とする特徴ベクトルを生成する。
4.  問題に応じて、特徴ベクトルを処理し、機械学習モデルを学習させる。

この手法は、**顕著性マップが人間の視覚注意メカニズムをある程度シミュレートできる**という考えに基づいています。そして、顕著性マップを用いることで、**注視データ単独では得られない、画像に関する情報を間接的に学習モデルに提供できる**と主張しています。また、**タスクに依存しない汎用的な特徴抽出法**であることを目指している点も、この手法の重要な特徴です。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981660/ca2eac77-6d00-2e24-b6de-add025027342.png)


#### Q:本論文で提案された手法の、既存手法に対する優位性を説明せよ
#### A:
本論文で提案された手法は、眼球運動データ分類において、既存手法に対していくつかの点で優位性を示しています。

*   **より高い分類性能:**
    *   **自閉症スペクトラム障害(ASD)スクリーニング:** 提案手法は、特にXGBoost分類器を用いた場合、**99.8%という非常に高い精度**でASDと定型発達(TD)の子供たちを分類することに成功しました。これは、既存の最先端手法を大幅に上回る成果です。
    *   **幼児の年齢予測:** 18ヶ月と30ヶ月の幼児の年齢を分類するタスクにおいても、提案手法は**既存研究と同等の精度(約83%)**を達成し、高い性能を示しています。
    *   **視覚的知覚タスク分類:** 自由視、物体探索、顕著性視、明示的判断といった複数の視覚タスクを分類する実験において、提案手法は**既存手法を上回る精度**を達成しました。特に、異なる画像セットや被験者グループを使用した実験設定でも、安定した性能を示しています。

*   **特徴量抽出における優位性:**
    *   **視覚的顕著性マップの活用:** 提案手法は、眼球運動データから直接特徴を抽出するのではなく、**視覚的顕著性マップ**を利用します。これにより、人間の注意メカニズムを模倣し、視覚刺激の重要な特徴を捉えることが可能になります。
    *   **追加の監督信号:** 顕著性マップは、人が一般的にどこを見るかを予測するため、学習モデルに対して、視覚刺激や画像の特徴に関する**追加の監督信号**を提供します。これにより、より識別力のある特徴量を生成し、分類性能を向上させます。
    *   **異なるクラス間の変動の捉え方:** 顕著性モデルが異なるクラスの注視データを予測する程度が異なることを利用して、特徴量を生成します。例えば、ASDの子供と定型発達の子供では、注視パターンが異なるため、顕著性マップを用いた特徴量抽出は、これらの違いを捉えるのに有効です。
    *   **従来の特徴量との比較:** HoG、GIST、VGG-16などの従来の画像特徴量を用いたベースライン手法と比較して、**提案手法は一貫して高い性能**を示しています。これは、従来の画像特徴量が眼球運動データ分類に必ずしも適していないことを示唆しています。

*   **汎用性の高さ:**
    *   提案手法は、ASDスクリーニング、幼児の年齢予測、視覚的知覚タスク分類といった**異なる問題領域で有効**であることが示されています。これは、提案手法が特定のタスクに特化したものではなく、**汎用的な眼球運動データ分類手法**として利用できる可能性を示しています。

*   **アブレーション研究による裏付け:**
    *   **顕著性モデル数の影響:** 顕著性モデル数を変化させたアブレーション研究の結果、一定数までモデル数を増やすと性能が向上することが示されました。これは、複数の顕著性モデルからの情報を組み合わせることで、よりロバストな特徴量が得られることを示唆しています。

これらの点から、本論文で提案された手法は、視覚的顕著性マップを活用することで、**既存手法よりも高い精度、ロバスト性、汎用性**を備えた眼球運動データ分類手法であると言えます。特に、**追加の監督信号**を提供するという点が、提案手法の大きな優位性であると考えられます。

#### Q:視覚的顕著性マップを用いた眼球運動データ分類の有効性を、どのように評価できるか？
#### A:
視覚的顕著性マップを用いた眼球運動データ分類の有効性は、以下の複数の側面から評価できます。

*   **分類タスクにおける性能**:
    *   **自閉症スペクトラム障害 (ASD) スクリーニング**: 提案手法は、ASDと定型発達 (TD) の子供たちの眼球運動データを分類する際、既存の手法を大幅に上回る精度を達成しています。特に、**XGBoost分類器を用いた場合、99.8%という高い精度**を達成しており、これは顕著性マップがASD/TDの区別に非常に有効であることを示唆しています。
    *   **幼児の年齢予測**: 18ヶ月と30ヶ月の幼児の眼球運動データを用いた年齢分類タスクにおいて、提案手法は既存研究と同程度の精度 (約83%) を達成しています。この結果は、顕著性マップが幼児の年齢に関連する注視行動の特徴を捉えるのに役立つことを示しています。
    *   **視覚的知覚タスクの分類**: 自由視、物体探索、顕著性視、明示的判断という異なる視覚タスクを分類する実験において、提案手法は既存手法を上回る性能を示しました。これは、**顕著性マップが異なる視覚タスクに関連する注視行動の違いを捉えるのに有効**であることを示しています。

*   **特徴量抽出における顕著性マップの役割**:
    *   **追加の監督信号**: 顕著性マップは、人が一般的にどこを見るかを推定するため、学習モデルに対して、視覚刺激や画像の特徴に関する**追加の監督信号を提供**します。これにより、眼球運動データのみから特徴を抽出する従来の方法よりも、**より識別力のある特徴量を生成**できます。
    *   **異なるクラス間の変動の捉え方**: 顕著性モデルが異なるクラス（例えば、ASD/TD、異なる年齢の幼児、異なる視覚タスク）の注視データを予測する程度は異なります。例えば、定型発達の人は社会的合図に注目するのに対し、自閉症の人は顔に注目しない傾向があるという違いを、顕著性マップは捉えることができます。
    *   **従来の画像特徴量との比較**: 論文では、HoG、GIST、VGG-16などの従来の画像特徴量を眼球運動データに適用したベースライン手法と比較しています。実験の結果、**提案手法はこれらのベースライン手法を上回る性能**を示しており、顕著性マップを用いた特徴量抽出の有効性が裏付けられています。

*   **評価指標**:
    *   論文では、顕著性モデルの予測能力を評価するために、**sAUC, Info gain, CC, NSS**などの指標を使用しています。これらの指標は、顕著性マップと実際の注視マップの類似性や相違性を定量的に評価するのに役立ちます。

*   **アブレーション研究**:
    *   **使用する顕著性モデルの数**: 特徴量抽出に使用する顕著性モデルの数を変化させるアブレーション研究を行っています。実験の結果、使用するモデルの数を増やすことで性能が向上することが示されていますが、一定の数を超えると性能の向上が頭打ちになることも示されています。これは、**一定数の顕著性モデルを使用することで十分な識別情報が得られる**ことを示唆しています。

**総合的に見ると、この論文は、視覚的顕著性マップが眼球運動データの分類において、従来の方法よりも優れた特徴量抽出に貢献できる可能性を示唆しています**。 顕著性マップは、人間の注意メカニズムを模倣し、視覚刺激の重要な特徴を捉えることで、さまざまな分類タスクにおいて高い精度を達成するのに役立つと考えられます。さらに、**複数の顕著性モデルを組み合わせることで、よりロバストな特徴量が得られる**ことが示されています。

#### Q:眼球運動データ分類における、視覚的顕著性と従来手法の性能差はどこにあるか？
#### A:
眼球運動データ分類における視覚的顕著性に基づく手法と従来手法の性能差は、主に以下の点にあります。

**1. 特徴量抽出における情報量の違い:**

*   **従来手法**: HOG、GIST、空間密度、LMフィルター、CNN特徴（VGG、ResNet）など、眼球運動データ（注視マップ）から直接特徴を抽出する方法が用いられます。これらの特徴は、画像の形状、テクスチャ、空間配置などの情報を捉えますが、人間の視覚注意メカニズムを直接的に反映しているわけではありません。
*   **視覚的顕著性に基づく手法**: 確立された顕著性モデル（GBVS、CovSal、SimpSalなど）を用いて顕著性マップを生成し、そのマップと実際の注視マップを比較することで、特徴量を抽出します。この比較には、sAUC、CC、NSSなどの評価指標が用いられます。
    *   **追加の監督信号**: 顕著性マップは、人が一般的にどこを見るかを予測するため、学習モデルに対して視覚刺激や画像の特徴に関する**追加の監督信号を提供します**。これにより、眼球運動データのみから特徴を抽出する従来の方法よりも、**より識別力のある特徴量**を生成できます。
    *   **人間の注意メカニズムの模倣**: 顕著性マップは、人間の視覚注意メカニズムを模倣することを目的としており、**視覚的に重要な領域を捉える**のに役立ちます。このため、自閉症スペクトラム障害（ASD）のスクリーニングのように、特定の視覚注意パターンが特徴的なタスクにおいて、特に有効です。

**2. 課題への適応性:**

*   **従来手法の課題**: 従来の手法では、特定の課題に対して有効な特徴量が、別の課題では有効でない場合があります。つまり、抽出された特徴量が課題に特化しすぎている可能性があり、**汎用性に欠ける**ことがあります。
*   **視覚的顕著性に基づく手法の強み**: 提案手法は、顕著性マップを比較することで、**様々な課題に対して共通に有効な特徴量を抽出**できます。これは、顕著性マップが人間の視覚注意メカニズムを模倣することで、**課題に依存しない普遍的な情報**を捉えられるためです。
    *   論文では、ASDスクリーニング、幼児の年齢予測、視覚知覚タスクの分類という3つの異なる課題において、提案手法が既存の手法を上回る、あるいは同等の性能を達成していることが示されています。

**3. 学習モデルへの影響:**

*   **従来手法の学習**: 従来の手法では、特徴量が十分な識別情報を持たない場合、学習モデルは十分な監督を得られず、結果として性能が低下する可能性があります。特に、データ量が少ない場合には、この問題が顕著になります。
*   **視覚的顕著性に基づく手法の学習**: 顕著性マップは、**視覚刺激の特性に関する追加の情報を学習モデルに提供**するため、学習の効率を高め、より高い精度を達成するのに役立ちます。

**4. 実験結果による裏付け:**

*   論文の実験結果では、提案手法が、ASDスクリーニング、幼児の年齢予測、視覚知覚タスク分類の**3つの異なるタスク全てで、従来の手法を上回る性能を示しています**。特に、ASDスクリーニングにおいては、XGBoost分類器を使用した場合に99.8%という非常に高い精度を達成しています。
*   また、アブレーション研究により、特徴量抽出に使用する顕著性モデルの数を増やすことで性能が向上すること、および、**従来の手法よりも、顕著性マップを用いた特徴量抽出が有効である**ことが確認されています。

これらの点から、視覚的顕著性に基づく手法は、従来の眼球運動データ分類手法と比較して、**より情報量が多く、汎用性が高く、学習効率の高い特徴量を抽出できる**ため、様々な課題において優れた性能を発揮すると結論付けられます。


#### Q:この論文で提案された特徴抽出法の核心的なアイデアを説明せよ。
#### A:
この論文で提案された特徴抽出法の核心的なアイデアは、**視覚的顕著性マップを眼球運動データの分類のための特徴抽出に利用する**という点にあります。従来の眼球運動データの分類方法では、注視データから直接特徴量を抽出したり、画像特徴量（HOG, Gistなど）を適用したりしていましたが、この論文では、**視覚的顕著性モデルが人間の注意メカニズムをある程度シミュレートできる**という仮説に基づき、顕著性マップを特徴抽出の中間段階に導入しています。

具体的には、以下の手順で特徴量が抽出されます。

*   **複数の視覚的顕著性モデルの利用:** 複数の既存の視覚的顕著性モデル（GBVS、CovSal、SimpSalなど）を用いて、入力画像に対する顕著性マップを生成します。
*   **注視マップとの比較:** 生成された顕著性マップと、実際の眼球運動データから得られた注視マップを比較します。この比較には、sAUC、情報ゲイン（Info gain）、相関係数（CC）、NSSなどの評価指標が用いられます。
*   **特徴ベクトルの生成:** 上記の比較結果（各顕著性モデルと注視マップの類似度・差異）を要素とする特徴ベクトルを生成します。複数の顕著性モデルを使用する場合は、それぞれのモデルに対する評価結果を連結して、最終的な特徴ベクトルとします。

この手法の核心的なアイデアは、**注視データと顕著性マップの間の「ずれ」に着目する**という点です。例えば、自閉症スペクトラム障害（ASD）の被験者は、定型発達（TD）の被験者と比較して、社会的な合図（顔など）への注意が少ないことが知られています。このような場合、顕著性モデルはTDの注視データをより良く予測しますが、ASDの注視データは予測が難しくなります。このように、顕著性モデルの予測能力と実際の注視行動のギャップは、**分類タスクにおいて重要な情報**となりえます。

また、視覚的顕著性マップを利用することで、**画像そのものが持つ特徴に関する情報**を学習モデルに間接的に提供できます。従来の眼球運動データのみを用いた特徴抽出では、このような画像に関する情報を考慮することが困難でした。

この特徴抽出法は、**タスクに依存しない汎用的な手法**であることを目指しています。つまり、自閉症スクリーニング、幼児の年齢予測、視覚的知覚タスクの分類など、異なるタスクに対しても、共通の特徴抽出プロセスを用いることができます。これは、従来のタスク特化型の特徴抽出手法とは異なる点であり、この論文の提案手法の大きな特徴の一つです。

**まとめると、この論文の核心的なアイデアは、以下の点に集約されます。**

*   **視覚的顕著性マップを眼球運動データ分類のための特徴抽出に利用する**
*   **注視データと顕著性マップの間の「ずれ」を分類のための特徴とする**
*   **タスクに依存しない汎用的な特徴抽出法を目指す**


#### Q:本研究の限界点として挙げられる点を2点挙げ、その理由を説明せよ。
#### A:
本研究で挙げられている限界点は、主に以下の2点です。

*   **データセットの規模が小さいこと**。
    *   本研究で使用されたデータセット（Saliency4ASD, Age Prediction, Visual Perceptual Task）は、いずれも比較的小規模です。具体的には、画像数が最大で800枚、被験者数が最大で45名程度となっています。
    *   このような小規模なデータセットでは、**機械学習モデルの過学習**（学習データに特化しすぎて、未知のデータに対する予測性能が低下すること）のリスクが高まります。また、**深層学習モデルを十分に学習させるのに必要なデータ量が不足している**可能性もあります。
    *   さらに、自閉症スクリーニングや幼児の年齢予測などの問題に関する**大規模な公開データセットが入手困難である**ことも、研究の進展を妨げる要因となっています。

*   **視覚刺激（画像）の選択が結果に影響を与える可能性**。
    *   本研究では、様々な視覚刺激を用いて実験を行っていますが、使用する画像の選択は、眼球運動データの分類結果に大きな影響を与える可能性があります。
    *   例えば、自閉症スペクトラム障害（ASD）の被験者は、顔などの社会的な手がかりを無視する傾向があるため、社会的な手がかりを含む画像とそうでない画像では、注視パターンが大きく異なる可能性があります。同様に、幼児の年齢によって、注視する対象（顔や前景の物体）が異なるため、画像の種類によって分類結果が変わる可能性があります。
    *   また、自由視の際の注視は、画像の中心に偏る傾向があるため、画像の構成によって注視パターンが変化することも考えられます。
    *   したがって、**特定の課題に対して、適切な視覚刺激を選択する**ことは、眼球運動データの分類精度を高める上で非常に重要です。この論文では、Inter-observer congruency (IOC) スコア を用いて、画像の適切さを評価することを提案していますが、この点については、今後の更なる検討が必要です。

これらの限界点に対して、論文では以下のような今後の展望が述べられています。

*   **大規模なデータセットの収集と公開**： より大規模なデータセットを収集し、研究コミュニティに公開することで、眼球運動データを用いた研究を促進する必要性が指摘されています。
*   **画像選択の自動評価**： 特定の課題に対して、より適切な画像セットを自動的に評価する方法を開発する必要性が示唆されています。

これらの点を踏まえ、今後の研究では、より大規模で多様なデータセットを用いた検証や、視覚刺激の選択におけるより詳細な検討が求められるでしょう。



#### Q:本研究で提案された手法の汎用性と限界を、具体的にどのように議論できるか？
#### A:
本研究で提案された手法の汎用性と限界については、以下の点で具体的に議論できます。

**1. 汎用性**
*   **複数の眼球運動データ分類タスクへの適用:** 本研究で提案された手法は、自閉症スペクトラム障害 (ASD) スクリーニング、幼児の年齢予測、視覚的知覚タスクの分類という、**3つの異なる眼球運動データ分類問題に対して有効であることを実証しています**。これは、特定の問題に特化した従来のソリューションとは異なり、本手法が様々な実世界の課題に適用できる汎用性を持っていることを示唆しています。
*   **特徴抽出のタスク非依存性:** 提案手法は、眼球運動データの分類において、対象となる問題の種類（被験者の分類、視覚タスクの分類など）に依存しない、タスク非依存的な特徴抽出方法を採用しています。従来の画像特徴量（HOG、GISTなど）を直接眼球運動データに適用する方法と比較して、**視覚的顕著性マップを用いることで、より普遍的に有効な特徴量を抽出できる可能性を示唆しています**。
*   **視覚的顕著性マップの汎用性:** 本研究では、複数の既存の視覚的顕著性モデル（GBVS、CovSal、SimpSalなど）を利用しており、これらのモデルが様々な視覚刺激に対して、人間の注意をある程度予測できるという前提に基づいています。このため、**本手法は、特定の視覚刺激に限定されず、様々な画像や動画に対応できる可能性があります**。

**2. 限界**
*   **データセットの規模:** 本研究で使用されたデータセット（Saliency4ASD、年齢予測データセット、視覚的知覚タスクデータセット）は、規模が小さいという限界があります。特に、ASDスクリーニングや幼児の年齢予測に関する公開データセットは不足しており、**より大規模なデータセットを用いた検証が必要**です。
*   **視覚刺激の選択:** 本研究では、分類の対象となるグループ（ASD/TD、幼児の年齢、視覚タスクなど）を特定する際に、使用する視覚刺激の選択が重要な要素であることを指摘しています。例えば、ASDの被験者は社会的な合図に注目しない傾向があるため、**適切な視覚刺激を選択しないと、グループ間の差異を捉えられない可能性があります**。
*   **顕著性モデルの限界:** 提案手法は、視覚的顕著性モデルの予測能力に依存しています。**現在の顕著性モデルは、人間の注意メカニズムを完全に模倣できるわけではないため、予測精度には限界があります**。また、本研究で使用した顕著性モデルは、ボトムアップ型のモデルであり、トップダウン型のモデル（GazeGan、EML-Netなど）は用いていません。より複雑な注意メカニズムを考慮するためには、トップダウン型のモデルを用いた研究も必要です。
*   **特徴量の解釈:** 本研究で抽出された特徴量（顕著性モデルの予測結果と実際の注視データの比較）は、高い分類性能を達成しているものの、その解釈は必ずしも容易ではありません。**特徴量が具体的にどのような注視行動の特徴を表しているかを明確にするためには、さらなる分析が必要**です。

**まとめ**
本研究で提案された手法は、眼球運動データを用いた分類問題において、**汎用性の高い特徴抽出手法として有望**です。視覚的顕著性マップを導入することで、様々な実世界の課題に対して、よりロバストな分類器を構築できる可能性を示唆しています。しかし、データセットの規模や視覚刺激の選択、顕著性モデルの予測精度などの限界も存在します。**今後の研究では、これらの課題を克服し、本手法の適用範囲を拡大していくことが求められます。**