6日目：Predicting Visual Saliency: Where Do People Look?(2018)

### Predicting Visual Saliency: Where Do People Look?(Le, 2018)

https://www.cs.princeton.edu/courses/archive/spring18/cos598B/public/projects/LiteratureReview/COS598B_spr2018_Saliency.pdf

顕著性マップ関してのまとめショート論文（もしかしたら授業での課題レポート？）


#### 概要
本書は、コンピュータビジョンにおける視覚的顕著性の予測に関する文献調査である。人間が画像の中で自然に目を凝らす場所を予測することの課題、方法、応用について論じている。このサーベイでは、低レベルの手作業による特徴から、ニューラルネットワークによるデータ駆動型アプローチへの問題の進化をカバーしている。また、顕著性研究の動機と潜在的な応用、初期の教師なし手法と畳み込みニューラルネットワークの使用を含む現在の教師あり手法についても探求している。最後に、顕著性研究の課題と将来の方向性について論じている。

調査は以下のセクションに分かれている：
　はじめに
　動機と応用
　初期の方法と教師なしモデル
　現在の方法と最先端技術
　今後の方向性と結論


#### この論文の貢献は？

顕著性マップに関しての包括的な概要の提供。


#### はじめに

研究論文 "Predicting Visual Saliency： は、コンピュータビジョンにおける視覚的顕著性を予測することの課題と重要性を包括的に概観している。人間の視覚理解レベルを模倣することの難しさと、コンピュータビジョン界における顕著性予測というハイレベルな視覚課題への関心の高まりを強調している。このセクションでは、視覚的顕著性という概念について掘り下げている。視覚的顕著性とは、人間の目が画像内のどこに最も集中しやすいかを理解することであり、高度な理解の必要性と、低レベルの特徴を中心とした初期の単純なモデルの限界から、顕著性の予測に関わる複雑さについて述べている。また、注意に基づく認識、検出、セグメンテーションタスクとの関連性や、パノラマ画像、360度動画、バーチャルリアリティ環境などの新しい視覚媒体への最近の応用など、顕著性研究の動機と潜在的な応用についても議論する。このセクションではさらに、初期の教師なしモデルの課題と進歩、そして現在のデータ駆動型の教師ありモデルへの移行、特に視覚データのより高度な理解を達成し、従来のモデルの限界を克服するための畳み込みニューラルネットワークの活用について概説する。序章」では、顕著性研究の原動力となる動機、応用、初期の手法、現在の最先端技術、そして将来の方向性について論じる。


#### 動機と応用

研究論文 "Predicting Visual Saliency： Predicting Visual Saliency: Where Do People Look?" の "Motivation and Applications "のセクションでは、コンピュータビジョンタスクにおける顕著性マップの多様な応用について述べられている。人間の視覚的注意を表す顕著性マップは、注意に基づく認識、検出、およびセグメンテーションタスクに適用され、オブジェクトのインテリジェントな分類を支援し、暗黙のうちにカテゴリの基本的なランキングを提供している。さらに、顕著性情報は、文脈を考慮した画像やビデオの圧縮、リサイズ、自動トリミングなどの画像処理タスクにも利用されている。また、このセクションでは、パノラマ画像や360度画像、ビデオ、バーチャルリアリティ環境など、新たな視覚メディアへの顕著性予測の最近の応用に焦点を当てている。これらの文脈では、顕著性マップは、シーンの最も興味深い部分を決定し、仮想カメラの経路を計画し、ユーザーインターフェイスデザインを改善するために使用されている。さらに、このセクションでは、ユーザーが頭や目を自由に動かすことができ、より正確な予測値を学習するために使用できる新たな情報を提供する、バーチャルリアリティ環境における顕著性予測値の使用を探求する。顕著性予測はまた、曖昧なキャプションを改善し、効果的なユーザーインターフェースデザインの開発を支援するために適用されている。このセクションでは、正確で効率的な顕著性予測器を他のコンピュータビジョンシステムに統合することで、より複雑で強力なパイプラインを作成し、それぞれの領域で既存のシステムを凌駕する可能性のある、「フルサークル」使用の可能性について議論することで締めくくる。全体として、"動機と応用 "のセクションでは、様々なコンピュータビジョンタスクと新たな視覚媒体にわたる顕著性マップの広範な応用の包括的な概要を提供し、視覚的理解とユーザー体験を強化する可能性を強調する。


#### 初期の手法と教師なしモデル

「初期の手法と教師なしモデル」のセクションでは、顕著性予測に使用される初期のアプローチとモデルについて詳しく解説しています。このセクションでは、人間の脳がどのように視覚情報を処理するかという基本的な概念に基づき、人間の視覚システムの2段階のプロセス、すなわち、事前注意プロセスに続く複雑な注意プロセスに焦点を当てている。初期の顕著性予測モデルは、基本的に特徴検出と物体検出に関連しており、教師なしかつデータ駆動型であった。これらのモデルは、元画像のみから予測された顕著性マップを生成するために、画像から直接特徴や情報を、時には階層的なアプローチで抽出しようとした。このセクションでは、低レベルの手作業による特徴抽出を行い、複数の特徴マップと単一のユニークな顕著性マップを作成した、IttiとKochの視覚的注意のための計算モデリングなど、顕著性研究における影響力のある初期の研究について説明します。また、Murrayらのスペシオクロマティック・ウェーブレット・モデルは、低レベルのスペシオクロマティック情報に基づく顕著性モデルを提案し、各色チャンネルをウェーブレット平面に分解してコントラスト平面を計算し、画像の顕著性マップを作成した。しかし、これらの低レベルのモデルは、人間の視覚システムの高レベルのニュアンスを捉えることができないため、人間の視覚的注意を正確に模倣するには至らなかった。このセクションでは、人間の視覚的注意を正確に予測する上でのこれらの初期のモデルの限界と、複数の視覚的課題での成功により急速に普及した、顕著性予測に畳み込みニューラルネットワークを活用する最近の進歩についても説明します。人間の注意のような高レベルの情報を抽出し、より複雑な機能を学習するニューラルネットワークの能力が、顕著性予測への応用の成功に寄与している。このセクションでは、初期の教師なし・低レベル特徴ベースのアプローチから、現在のデータ駆動型・教師ありモデルに至るまで、顕著性予測モデルの進化を包括的に概観し、特に畳み込みニューラルネットワークを活用することで、視覚データのより高度な理解を達成し、従来のモデルの限界を克服する。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981660/ea084cf2-7b21-1a41-5240-3f9764828b72.png)


#### 現在の方法と最先端技術

「現在の方法と最先端技術」の章では視覚データをより高度に理解し、従来のモデルの限界を克服するために、ニューラルネットワークの能力を活用した、データ駆動型・教師ありモデルへの移行について掘り下げています。このセクションでは、初期の教師なし・低レベル特徴ベースのアプローチから、現在のデータ駆動型・教師ありモデルへの移行、特に視覚データのより高度な理解を達成するための畳み込みニューラルネットワークの活用に焦点を当てる。本セクションでは、学習データ、大規模データセットの利用可能性、および深層教師付き学習モデルの最近の成功における課題と進歩について議論する。また、このセクションでは、MIT300顕著性ベンチマーク、CAT2000データセット、および正規化スキャンパス顕著性（NSS）メトリックのような顕著性評価のためのより良いメトリックの使用へのシフトに関する洞察を提供します。さらに、MIT300の顕著性ベンチマークで最先端の結果を達成したeDN（ensembles of deep networks）モデルを紹介し、より複雑で強力なパイプラインを作成するために、正確で効率的な顕著性予測器を他のコンピュータビジョンシステムに再び統合する可能性について議論する。全体として、「現在の手法と最先端」セクションは、顕著性予測における最近の進歩、データ駆動型と教師ありモデルへのシフト、および顕著性予測器をより複雑なコンピュータビジョンシステムに統合する可能性について、包括的な概要を提供する。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981660/1d00cb57-76ab-5728-d73d-174dd3e1ce27.png)

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981660/b6bcbab7-7f9c-c969-891d-521e6a632fe2.png)



#### ベンチマークと評価

 "Benmarks and Evaluation "のセクションでは、顕著性モデルの評価に使用されるデータセットとベンチマークの詳細な概要を提供しています。ここでは、顕著性モデルの訓練と評価によく使われるMIT300とMIT1003データセットについて説明します。これらのデータセットは、人間のアイトラッカーを用いて撮影された屋内外の自然なシーンから構成されている。このセクションでは、これらのデータセットのサイズが比較的小さいことを強調し、モデルの訓練とテストの際に潜在的なオーバーフィッティングのリスクをもたらす。にもかかわらず、MIT300ベンチマークは、比較のための複数のメトリクスをサポートし、顕著性モデルの評価と比較のためのゴールドスタンダードと考えられている。このセクションでは、CAT2000データセットも紹介します。CAT2000データセットは、20の異なるカテゴリにまたがる2000枚のトレーニング画像と2000枚のテスト画像から構成される大規模なデータセットです。訓練セットには各カテゴリーから100枚の画像が含まれ、それぞれ18人の異なる観察者による固視アノテーションが付されている。さらに、このセクションでは、現在のAUC-Juddメトリックと比較して、より意味のある評価と顕著性モデルのランキングを提供する正規化スキャンパス顕著性（NSS）メトリックのような、顕著性評価のためのより良いメトリックを使用するシフトについて議論する。また、このセクションでは、MIT300顕著性ベンチマークの上位ランキングを示し、AUC-Juddメトリックを使用してランク付けされた場合のモデル間の拮抗と、NSSメトリックを使用した場合のランキングの明確な違いを強調しています。全体として、「データセット、ベンチマーク、評価」セクションは、顕著性研究で使用されるデータセット、ベンチマーク、評価指標の包括的な概要を提供し、この分野を発展させるためには、大規模で高品質なデータセットと意味のある評価指標が重要であることを強調している。



#### 今後の方向性と結論

研究論文「Predicting Visual Saliency： 人はどこを見るのか？」では、今後の方向性の可能性を概説し、視覚的顕著性予測に関する文献調査を締めくくっている。この分野での課題と進歩について議論し、現在のモデルやデータセットの限界に対処するための更なる研究の必要性を強調している。このセクションでは、より複雑なコンピュータビジョンシステムに正確で効率的な顕著性予測器を統合し、既存のシステムを凌駕する強力なパイプラインを作成する可能性を強調する。また、訓練データの課題と、顕著性モデルのより効果的な評価指標の開発に取り組むことの重要性を強調する。このセクションでは、低レベルと高レベルの特徴の統合、よりロバストで効率的なトレーニング手法の開発、新たな視覚メディアにおける新しいアプリケーションの探求など、顕著性予測における将来の進歩の可能性について議論している。全体として、「今後の方向性と結論」セクションは、視覚的顕著性予測の現状と、この分野における将来の進歩の可能性について包括的な概観を提供する。


### 所感
内容は深くはないが変遷も含めて簡潔にまとまっている。