de:code 2019 [AI51] Custom Vision で出来ること & 出来ないからって諦めてませんか?

# [AI51] Custom Vision で出来ること & 出来ないからって諦めてませんか? / 2019年5月30日

# TL;DR（要約）

- Custom Visionで構築したモデルをエクスポートし、ローカルで使用することができる。
- Custom Visionで精度を上げるには、前処理が一番大事（ノイズ取り、不用箇所除去、データの水増し）である。
- [実装方式早見表](#%E5%AE%9F%E8%A3%85%E6%96%B9%E5%BC%8F%E6%97%A9%E8%A6%8B%E8%A1%A8
)にしたがって、環境、推定方法を考えるとよい。

# リソース

[セッション詳細](https://www.microsoft.com/ja-jp/events/decode/2019session/detail.aspx?sid=AI51&kw=AI51)

[Micfrosoft Custom Vision Serviceを利用して、画像を分類する](https://docs.microsoft.com/ja-jp/learn/modules/classify-images-with-custom-vision-service/)

# 感想

Custom Visionで推論したモデルをローカルで使用できるので、推論することが目的にならないように、簡単に業務化したい場合に、コストパフォーマンスがよく、使いやすいと感じた。

とりあえずは、[ハンズオン](https://docs.microsoft.com/ja-jp/learn/modules/classify-images-with-custom-vision-service/)を利用して学習してみよう思います。

# 講師

# Custom Visionの効果的な使い方を知りたい

実際に使ったことがある。

## 来場者の事例

- PoCで、飲食店のポップやメニューの料理の色味のデザインとしてどのようなものが良いのか
    - イメージをつかみたいという場合に、Custom Visionを使うのがわかりやすく示すことができて、社内説明と顧客説明を効果的にすることができた。
    - プロトタイプで商品の写真からJANコードを抜き出す際に使った
    - 100%でなくてもビジネスになるという事例


# Custom Visionのコンテナ

最近はコンテナでやることができるので、推論はローカルですることができる。

Custom Visionのコンテナは、今はお金がかからない。他のコンテナは、Azureと通信するのでお金がかかる

https://docs.microsoft.com/ja-jp/azure/cognitive-services/computer-vision/computer-vision-how-to-install-containers
https://qiita.com/annie/items/21bb726e9bbc8db56e54

# Custom Visionの概要

![](https://u5cbmw.bl.files.1drv.com/y4mlo4TelZ_HylljGZnVe-C27IY2xD7W8lPeEMoiE43O8W75JZxAJkthTrnp6PF5SRNxCFKSyjTCnLlbVQYChcj0-44Z5ba78uw4a-uc9aZ4xKApZ_5Rl9WlI2n5y5sbhIzWkJppUBrX59mbCG9zkgJZLpe1VVFWT9qJj0vQdaiF0UBn0FqDV69kHRMH29DWg8JWexzh2teTdR6rlG2Cir9rA?width=1280&height=687&cropmode=none)

![](https://wpdspq.bl.files.1drv.com/y4m6BWol5w1_IvQfZAc0CI_DXG4o8h8O0PI8Tmz24E_UKVbxkM6v4-0FQlhZJGgLbowUYcyHmmZHCis46AplTLz7kC-jf_dYIlCjP10xhlnujMQ07HR8HuT0rjqSRg_0zR-0HyhWRb80sVQd6UiI5N3ZjLJM8-2Mfw85HuyUFhyoVyeSjagbtoT-v8H_tW7ITdh_PqRZK4Lj6thvLMZRwB44A?width=1280&height=676&cropmode=none)

# そもそもComputer Visionで何がしたい？

現愛よく使われているのは、製造業で多い

![](https://u5cfmw.bl.files.1drv.com/y4mxPigTz9f-kJYa3axBn46h6okDvi_tJxG4cDLyYAHDCN9uIkxCqekEdvghatpkienSuID5FbZ84vZ7BorhW4Af_QPVtrphCNQECP8i4xcuga2r-t48tz5WCbRXloaJuWPqswsUhECwJwWrsEjfE4r56q-yAFLuUe_prPimkN4f9ztEnXtib3QozQ1e7JDQvow3J1eSguB1HO5lUimcJPvYQ?width=1280&height=669&cropmode=none)

よく使われている検知のシナリオ。
証拠の動画や、立ち入り禁止の場所。不正アクセス。安全性チェックに使用する。


## 【事例】ビジネス的な話として工場の計器類を判定できないか？

- 今のメーターを読めないか？ちゃんとしたところに言うと、3パターンぐらいならできる。定点カメラのほうが向いている。カメラの向きがずれると違うものになるので、そこは別（運用の問題）
- 今ある機器を変更するのはお金がかかるし安定稼働の分に問題、1秒おきに送ってみていくという話もあるかもしれない。

# Custom Visionで精度上げる方法

- データ以外で精度を上げる方法があるのか
  - 前処理
    - ノイズをとること（OpenCV）
      - とりすぎるとよくない
    - カラーの写真を白黒にする
      - モノクロにすることで余計な情報をなくす
        - ビジネスの場合に、白黒化することで精度が高くなる。下手にアルファチャンネル（透明）が問題になってくることが多い
    - 不要な部分を切断する
  - データの水増し（Data Argumentation）をすることが大事になってくる。

- 定点カメラ
    - ビジネスの場面では、定点カメラを使うことが多い

## 小技

- トレーニングを2種類の方法でできるようになっている

### Advanced Option
- 学習の時間を何時間までやっていいという指定が出てくる
  - 色々よしなにやってくれる
    - 時間を延ばすことでもうちょっと学習制度を上げてくれる。（細かいところは触れないが、色々な学習をしてくれる）
      - 終わってからメール
      - ふつう何十秒だけなら長すぎ

### モデルをエクスポートするために

#### モデルをコンパクトにする

- モデルをコンパクトとした場合にだけ、Exportすることができる（ローカルで再利用できる）

#### ドメイン（どのようなものを判定するか）を絞り込む

- ドメインとして、どういう写真を学習するかということを選ぶが、すごく大事。何向けが強いか、ということはドキュメントに書いている。何も考えなくてもGeneralにすると、コンパクトにできなくなって、エクスポートできなくなる


# Computer Vision と Custom Visionについて

- Custom Vision APIはカスタムできる。Computer Visionはあらかじめ決まっている。リトレーニングできない。無理。もしやりたければ自分でネットワークを書く

# Custom Visionでできないこと

## 大きい写真

- 大きい写真はダメだが、あまりそういうことはないだろう


## セグメンテーション

- セグメンテーションは、2017年。結構最近にできたものであり、ムズカシイ。実装されていない。

## 大量な枚数と回線

![](https://wpdrpq.bl.files.1drv.com/y4m5jM4YcjxsVTjmNCroTCM-4uBJwVnqIea_U4F_dqP0u4Qrf43p3sHDmzWv0qGFIAYTE3AREh6IMkb94j0eCnY3AmvSyZpGgdcSRM5xFBPl1TAfseKFv6jLe6eBN8UbXlLES6oW9x6PQAW9wnJgNtUm1v29JF7YEs7p57SMfTz3A1RW7xeWaR7Rfbt_DtMs_J-13OLZJUTq70mY4tTQjilOQ?width=1280&height=664&cropmode=none)

- Custom Vision Service内での限界
- 限界は100,000枚（画像が間違い）
- ちょっとしたPoCに使えるものである、と考えると良いのかもしれない

# 実装方式早見表

![](https://wpdopq.bl.files.1drv.com/y4miZS8yfWuhhJnPI8LRKCKgRkejQDfbJ5HybP5H_hraFhuklr4evAoFyZ8Y2wMkeCTMnwF7cu8I9GHVclX9eJnC43qvrCazZklSAmCPkSQZzdcq8sFLC8PFphWerplExaVL3YU89D1CtTtH0ihyqZKgexPjFJR1396TbSWgOuTjnfbzvzr296a7oOcuNAKF9QiJkV8O1UDKDYDWMtBHGtN1Q?width=1280&height=697&cropmode=none)

## Edgeでの推定をどのように考えるのか？

![](https://wpdppq.bl.files.1drv.com/y4mmEm_ucIzvtfEsWP37Mb0LzgjeeFVS5Dy5Sm9gtrRkYBZF6n3Q888X68Ibsqr4T5cZpISaVcvQcenvx3OwC38Ndxlj6um6Ugq_-i7IfRpaGsroq3F8qtPw3UUyFkDLn8JXAVV2CJPcNsPv7Nco5bXKorijtaCvCmwX39ahIWHTmBmhcAotNsi1P6PZvVDqhwx9kP5KshxNRNYEpvUv6xZvA?width=1280&height=678&cropmode=none)

業務で必要なレイテンシ次第で推定方法をどのようにするかは考える。mmsecが必要だ、と言われたときにも、その業務で本当に必要かどうかがで考える

例えば、手術で必要な判断であれば、0.5sでは足りない

ちなみに、この図でのオンプレというと、tensorflowを指している

# エクスポートについて

エクスポートは、ONNX（オニキス）というフォーマットでエクスポートする。

Windows MLというAPIで直接読みだしてロードする、tensorflowも不要。.NET Coreでオニキス対応しているので、tensorflowはいらない。

機械学習したら、ONNXでエクスポートしておけば、tensorflowでもML.NETでも読みだせる。

## 参考資料

https://qiita.com/ymym3412/items/05a7cecf81309a3f131e
https://docs.microsoft.com/ja-jp/azure/cognitive-services/custom-vision-service/custom-vision-onnx-windows-ml


## コンパイラ

チップセットについてコンパイラが用意されているのでさらに早くなる

# Micfrosoft Learnを使って、学習してみよう

![](https://wpdlpq.bl.files.1drv.com/y4mWNVp4XZl0EE3979UhUfgBZKv7qH-azDzfWDSRQwBsRPrZ6rH2Tj4hQcfbfkNnMnsjK_OGm6YRThrdTnfbMP3mWmTuBVQUAX2JT3OKBfTbzaZDSMdDnLkghKzt-hIAyiJAZw8D8O0kJowEeMDsypmZClI3L5pAKjB33kRPt3kML6krQYt4804olGwIFewkIfmpST7yTXQdE4V3U7rfN4s5g?width=1280&height=700&cropmode=none)

Micfrosoft Custom Vision Serviceを利用して、画像を分類する
https://docs.microsoft.com/ja-jp/learn/modules/classify-images-with-custom-vision-service/

ハンズオン、ワークショップで使えるようなものが記載されているので、一通りやってみるとよい。