DeeperCut: A Deeper, Stronger, and Faster Multi-Person Pose Estimation Model を読んだ

Eldar Insafutdinov, Leonid Pishchulin, Bjoern Andres, Mykhaylo Andriluka, and Bernt Schiele, "DeeperCut: A Deeper, Stronger, and Faster Multi-Person Pose Estimation Model", in 
ECCV'16
[arXiv](https://arxiv.org/abs/1605.03170), [pdf](https://arxiv.org/pdf/1605.03170.pdf)

#1. どんなものか
　複数の人が密に写っている画像に対して有効な姿勢推定の手法を提案．
　下の画像は提案手法による姿勢推定の結果であり，人物が重なり合うような時でもうまく推定ができている．
<img width="1176" alt="スクリーンショット 2018-09-13 4.49.27.png" src="https://qiita-image-store.s3.amazonaws.com/0/262587/d9fd4d93-0ebd-37c3-4162-0520e7262876.png">


#2. 先行研究との違い
　人物が重なっている場合でもうまく姿勢推定ができる．
　この目標は以前提案した手法([DeepCut](https://arxiv.org/abs/1511.06645))でも同様だが今回の手法はDeepCutと比べ，より深い構造を持ち，より強く，より速く結果を得ることができる．
　・Deeper
　・Stronger
　・Faster

#3. 技術や手法のキモは何か
次の3項目からモデルを作成している．

###強力な部分検出器
**・構造**
ResNetを部位検出に利用．[この論文](https://www.cv-foundation.org/openaccess/content_cvpr_2016/papers/He_Deep_Residual_Learning_CVPR_2016_paper.pdf)を参考に152層のもの．

**・ストライド**
32pxから16pxに
spatial resolutionを解決するため2倍アップサンプリングするdeconvolutional層を追加し、最終出力をconv3バンクの出力に接続．


**・受容野の大きさ**
ResNetは深いので複雑な階層構造を組み込まなくても大きな受容野を実現する．
(VGGが400px 程度なのに対して1000px程度)
大きい受容野は部位を予測する際にcontextを組み込むことを可能にする．

**・Intermediate supervision.**
勾配消失に対処する．
ResNetのconv4バンクの中にloss layersを追加．

**・損失関数**
シグモイド関数と，クロスエントロピー損失関数．

### Image-Conditioned Pairwise Terms
予測された部位の集合がどの人物に属するかを判断する．

より良い判断をするために以下の点を改善
**・Location refinement NMS**
NMSを適用する前に、検出されたオフセットでロケーションの細分化と正しいグリッドロケーションを使用.
特定の部位に属する検出が実際の位置に引っ張られるため位置周辺の検出密度が高まる．

**・Splitting of part detections**
同じ空間内に複数の部位が検出された場合，各部品クラスの検出を$n$回の検出で置き換える．


### Incremental Optimization
部分クラスのセットをサブセットに分割することで，推定を段階的に行う．
<img width="641" alt="スクリーンショット 2018-09-13 11.37.52.png" src="https://qiita-image-store.s3.amazonaws.com/0/262587/d6394dc2-0f6f-f156-628b-5cddefa8f325.png">




#4. 有効性の検証
3.の各々のモデルについて評価を行っている．

###強力な部分検出器
**データセット**
*・“Leeds Sports Poses” (LSP)*
*・“LSP Extended” (LSPET)*
*・“MPII Human Pose” (“Single Person”)* 
　　LSPでの評価の際にはモデルはMPII, LSPETとLSPを用いて学習．
　　MPIIの評価の際にはMPIIのみで学習．

**評価基準**
*“Percentage of Correct Keypoints(PCK)”*
*“Area under Curve(AUC)"*

**結果**

<img width="557" alt="スクリーンショット 2018-09-13 9.54.29.png" src="https://qiita-image-store.s3.amazonaws.com/0/262587/62ac8fa3-486f-22c6-1af5-1963d1b9aa24.png">




### Image-Conditioned Pairwise Terms
MPII Multi-Person Val(“MPII Human Pose” (“Multi-Person”)から無作為に選んだ200個の画像)にて検証．


**評価基準**
*AP*
 (evaluating consistent body part detections)

**結果**
<img width="620" alt="スクリーンショット 2018-09-13 10.49.31.png" src="https://qiita-image-store.s3.amazonaws.com/0/262587/912ef4cb-1a96-8c2d-f185-3c1771d8b76d.png">




### Incremental Optimization
MPII Multi-Person Val にて検証．


**評価基準**
*AP*

<img width="617" alt="スクリーンショット 2018-09-13 11.41.17.png" src="https://qiita-image-store.s3.amazonaws.com/0/262587/f704a240-d8a3-ddfd-65c0-fbc586fe9fbf.png">
<img width="589" alt="スクリーンショット 2018-09-13 11.45.31.png" src="https://qiita-image-store.s3.amazonaws.com/0/262587/8df5d4de-f1a6-9fcd-8125-a5e936c02274.png">

**データセット**
*WAF*

**評価基準**
*mPCP, AP*
PCP = Percentage of Correctly estimated body Parts ?

<img width="567" alt="スクリーンショット 2018-09-13 11.48.21.png" src="https://qiita-image-store.s3.amazonaws.com/0/262587/f598bd81-39a9-897a-b4bf-a24e00e9d739.png">



#5. 議論はあるか
姿勢推定の成功例と失敗例

<img width="621" alt="スクリーンショット 2018-09-13 11.56.09.png" src="https://qiita-image-store.s3.amazonaws.com/0/262587/cd3246e2-2770-d63e-6581-d50bbebe18ef.png">

<img width="617" alt="スクリーンショット 2018-09-13 11.56.20.png" src="https://qiita-image-store.s3.amazonaws.com/0/262587/72b19b9c-6854-adda-1d7f-6d46133f30e3.png">