Bounding BoxごとのAugmentationに回転を使うとBoxが大きくなったので、差があるのか比較してみた

## 概要
先日Augmentationのライブラリであるimgaugを用いてBounding BoxごとのAugmentationを行なっていた際、rotate(回転)を使うとBounding Boxが大きくなることを知ったため、しっかりアノテーションしたものと差があるのか比較してみました。

## 行なったこと
- [LabelImg](https://github.com/tzutalin/labelImg)を用いてアノテーション。
- [imgaug](https://github.com/aleju/imgaug)を用いて、Bounding Boxごと画像をAugmentation。
- Augmentationした画像に対して、再度アノテーションを実施してアノテーション情報を変更した学習用データと、変更していない学習用データの2つを用意。
- それぞれ[KerasのYOLO-v3](https://github.com/qqwweee/keras-yolo3)を用いて学習、予測。

## データについて
学習にはKaggleのDatasetsにある[Blood Cell Images](https://www.kaggle.com/paultimothymooney/blood-cells)のJPEGImagesに格納されている白血球の画像を使用しました。

白血球は基本的には以下の5種類に分類されます。今回はこの5種類の分類、検出を行なっています。

|白血球名|画像|拡張前の枚数|
|:------------------:|:------------------:|:------------------:|
| 好中球(NEUT)|<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/405020/69d922ba-60c8-1f16-d44b-63c6b4b6a28a.jpeg" width="300">|205枚|
| リンパ球(LYM)|<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/405020/2d70a120-9e60-7c8b-9806-04f0fb7b164a.jpeg" width="300">|32枚|
|単球(MON)|<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/405020/83bd855a-1880-2105-ddc7-3a4827c56851.jpeg" width="300">|16枚|
|好酸球(EOS)|<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/405020/f0f8b07c-f461-fcf1-2b37-f350aa5169e1.jpeg" width="300">|50枚|
| 好塩基球(BAS)|<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/405020/7bbf03ca-e5dd-2bf8-0a07-8143ca8009d7.jpeg" width="300">|7枚|

(本当にこの分類で正しいか怪しい画像は削ったり、枚数の少なかった好塩基球は拾ってきた画像を何枚か追加したりしています)

## Augmentation
今回は画像が各500枚ずつになるように、以下の種類のAugmentationを行いました。

```python
seq = iaa.SomeOf(4, [iaa.Affine(rotate=(-45, 45)),
                     iaa.Fliplr(0.5), 
                     iaa.Flipud(0.5),
                     iaa.GaussianBlur(sigma=(0.0, 1.0)),
                     iaa.ContrastNormalization((1, 1.5), per_channel=0.7),
                     iaa.Dropout(p=(0, 0.03))
                 ])
```

こんな感じになりました。

|拡張前|再アノテーションした画像|再アノテーションしていない画像|
|:------------------:|:------------------:|:------------------:|
|![0.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/405020/5e84e5f6-6a51-bb1a-a900-550e1c4b0443.jpeg)|![1.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/405020/7dfdba9e-3049-733d-bac9-a431255a0da9.jpeg)|![2.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/405020/c3be7594-e101-71a6-8ec9-00c9aefb4c7f.jpeg)|![NEUT42.jpeg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/405020/e194c6b0-7c54-6539-bcbe-9fd65e99b4fb.jpeg)|


一番右がBounding BoxごとAugmentationした画像ですが、回転させた場合、Bounding Boxが大きくなっていることが分かります。

## 結果
テスト画像には、上記と同じく、KaggleのDatasetsにあるBlood Cell ImagesのTEST_SIMPLEに格納されている画像を使用しました。

- 再アノテーションした学習用データの場合
<img width="981" alt="result2.jpg" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/405020/0b1134ce-a61b-608d-d905-47afc1229375.jpeg">

- 再アノテーションしていない学習用データの場合
<img width="981" alt="result1.jpg" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/405020/46d13e9a-7392-9fda-017d-f66ac395241d.jpeg">

分類の結果は同じでしたが、いくつかの画像ではBounding Boxに若干ですが違いが見られました。

![NEUT44.jpeg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/405020/d17e2410-0139-788b-97f7-f4c1a7d0a9a8.jpeg)![NEUT44.jpeg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/405020/9c67a2dd-ec15-b6fa-4c22-60d96f687cd2.jpeg)

![NEUT15.jpeg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/405020/691ab3d3-b768-64e2-2aa4-3ddf16f9212a.jpeg)![NEUT15.jpeg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/405020/1866b585-bf6c-6533-791b-d61a07b2d283.jpeg)


左が再アノテーションした学習用データを用いた場合で、右が再アノテーションしていない学習用データを用いた場合です。
上の画像は、左のBounding Boxに比べると右のBounding Boxは少し小さくなり(Bounding Boxから白血球がはみ出している)、下の画像は逆にBounding Boxが大きくなっていました。

## まとめ
今回の結果ではBounding Boxに若干の違いはありましたが、分類やBounding Boxの位置には問題はなかったため、個人的にはあまり気にしなくても良いのかなと感じました。