ノーコードのAIツール＜Custom Vision＞を使って、印象派の画家の識別モデルを作ってみた[Azure Cognitive Services]

# はじめに
東京・西新宿にある[SOMPO美術館](https://www.sompo-museum.org/)で2022.03.26（土）- 06.26（日）まで開催されている、[「シダネルとマルタン展　ー最後の印象派、二大巨匠ー」](https://www.sompo-museum.org/exhibitions/2021/sidaner-martin/)を見に行ってインスピレーションを受けたので、Azure Cognitive ServicesのCustom Visionを使って、シダネルとマルタンの作品を識別するモデルを作りました。
![img_ex_detail_sidaner-martin_mainvisual_pc.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2669905/44d1bce1-0af6-d978-1888-a4566e86a37e.jpeg)
[-上記画像は展覧会HPより転載-](https://www.sompo-museum.org/exhibitions/2021/sidaner-martin/)

https://www.sompo-museum.org/exhibitions/2021/sidaner-martin/

本プロジェクトは、東京大学大学院情報理工学系研究科 GCL情報理工学特別講義Ⅳ（ユーザのためのAI入門）という2022年Sセメスター授業科目の最終課題の一環です。

# なぜ識別したいと思ったのか

まず、シダネルとマルタンは、同時期にフランスで活躍したポスト印象派の画家です。
主に**北フランスで暮らしたシダネル**は、どちらかというと**曇り空のような暗い絵**を、地中海の近くの**南仏で暮らしたマルタン**は、**太陽光が降り注ぐ明るい絵**を描く傾向があります。

>19世紀末から20世紀初頭のフランスで活躍した画家、アンリ・ル・シダネル（1862-1939）とアンリ・マルタン（1860-1943）に焦点をあてた、国内初の展覧会です。印象派を継承しながら、新印象主義、象徴主義など同時代の表現技法を吸収して独自の画風を確立した二人は、幻想的な主題、牧歌的な風景、身近な人々やその生活の情景を、親密な情感を込めて描きました。

>二人は深い友情で結ばれ同じ芸術観を共有しながらも、それぞれの活動拠点に由来して、異なる光の表現を追求します。シダネルは北フランスに特有の霞がかった柔らかな光を、マルタンは南仏の眩い光を描き出しました。

[-上記文章は展覧会HPの説明文より引用-](https://www.sompo-museum.org/exhibitions/2021/sidaner-martin/)

展覧会では、**シダネルとマルタンの絵を交互に比較して楽しめる鑑賞体験**ができました。

そこで鑑賞中の私は心の中で、
（**次の絵は、まずは絵それ自体だけを見て、横の説明文は目に入れないようにするぞ！**）
（**この絵は色鮮やかだからマルタンが描いたのかな？**）
（**解説パネルを読んだら、やっぱりマルタンだった～！**）
というように、**作者当て二択ゲーム**を始めました。
![20220605_132150.JPG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2669905/53781b5e-5d45-b1f9-679c-62387c30dfba.jpeg)
-上記画像（アンリ・マルタン≪二番草≫1910年 個人蔵）は、展覧会にて筆者撮影-

**鑑賞を進めるにつれて、私が作者を当てられる確率も上げられた**ように感じました。
それもそのはず、約30問弱クイズをこなしたからです(※ちなみに展示されていたのは油彩以外も含めて約70点)。

そして閲覧室を出て、一緒に訪れていた友人に話しかけたのです！

**「このゲーム、AIの機械学習でやったら面白い結果が得られるかも！」**

# 利用したサービスについて
今回は、Microsoftのクラウド型のAIサービス[Azure Cognitive Services](https://azure.microsoft.com/ja-jp/services/cognitive-services/#customer-stories)の中で、画像認識のソリューションの[Custom Vision](https://azure.microsoft.com/ja-jp/services/cognitive-services/custom-vision-service/#security)を使用しました。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2669905/bd4b965e-e243-a078-70db-c0855b8edde4.png)
-上記画像は、[Microsoft Docs](https://docs.microsoft.com/ja-jp/azure/cognitive-services/what-are-cognitive-services)のスクリーンショット-

また、下記のブログの前半部分の手順を参考にさせていただき、Azureの無料サブスクリプションの範囲で制作を進めました。操作画面のスクリーンショット付きで、初めてのCustom Visionの操作でも躓きませんでした。ありがとうございました。

https://zenn.dev/mochan_tk/articles/9a25dd3e0863d2

# 用意したデータセット
訓練画像として、Wikipedia掲載のパブリックドメインの作品を、シダネルとマルタンそれぞれ16枚ずつ学習させました。日本語版と英語版で掲載されている絵が一部異なり、日本語ページの画像だけでは16枚に達しなかったので、英語のWebページも確認しました。
[※Custom Visionで推奨されている学習枚数は50枚ですが、今回50枚集めることは断念しました。ちなみに5枚から分析は可能です](https://docs.microsoft.com/ja-jp/azure/cognitive-services/custom-vision-service/limits-and-quotas) 。

https://en.wikipedia.org/wiki/Henri_Le_Sidaner

https://ja.wikipedia.org/wiki/%E3%82%A2%E3%83%B3%E3%83%AA%E3%83%BB%E3%83%AB%E3%83%BB%E3%82%B7%E3%83%80%E3%83%8D%E3%83%AB

https://en.wikipedia.org/wiki/Henri-Jean_Guillaume_Martin

https://ja.wikipedia.org/wiki/%E3%82%A2%E3%83%B3%E3%83%AA%E3%83%BB%E3%83%9E%E3%83%AB%E3%82%BF%E3%83%B3_(%E7%94%BB%E5%AE%B6)

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2669905/5541691c-d784-d004-e972-9a787f898536.png)
-画像を学習させる際のCustom Visionの操作画面のスクリーンショット。作品画像は再配布になってしまうので、本記事のためにぼかし加工をしています。-

次にテスト画像として、
・訓練画像としては使わなかった上記Wikipediaの作品画像
・筆者が展覧会で撮影した作品画像
・SOMPO美術館の[公式Instagram](https://www.instagram.com/accounts/login/?next=/sompo_museum/)（@sompo_museum）に掲載されていて展覧会では撮影が禁止だった作品画像
も合わせて、シダネルとマルタンそれぞれ5枚ずつを試し、識別モデルの精度を確認しました。
※今回は学術目的で非営利目的の利用ということで、SNS宣伝画像をお借りしました。

Training Typeは、お手軽なQuickを選びました。Advancedにすると、より深く学習する分、コスト（時間、無償範囲を超える場合は費用も）がかかります。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2669905/94398368-b471-de29-f921-e5a69ebc8d1f.png)


# 得られた結果
PrecisionとRecallは83.3%で、APは93.1%という、たった16枚ずつの計32枚の訓練データセットについて学習が進んでいる結果が得られました。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2669905/06a61456-b5ab-b6f8-7d92-d678b2b14119.png)
-画像を訓練すると、自動で表示されるダッシュボードのスクリーンショットです。-

識別モデルのテスト画像の命中率は、
なんと**10枚中8枚正解**の **80%** でした！
（シダネル、マルタンそれぞれ5枚中4枚正解です。）
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2669905/786c93fa-a3f2-d351-05e2-6307320bb2d4.png)
-テスト画像のスクリーンショットをぼかしたものです。-

たとえば、マルタン≪クレマンス・イゾール≫1895年 個人蔵ですが、
**マルタンのタグに該当するとする判定が99.7%**、シダネルのタグとする判定が0.2%となり、とても正確な結果が得られました。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2669905/b0ae7787-4ffd-233f-1e91-51e1ce906be8.png)


あいにく不正解になった絵の作者推測データは下記の通りです。

まず一枚目、Wikipediaからダウンロードした、シダネルのLe Départ De Tobie (1894)ですが、
**マルタン76％**、シダネル23.9％の判定が出ていて、マルタン優位の結果になりました。
人間の目で見ても、北フランスのシダネルにしては明るい色彩のように感じます。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2669905/42e28df4-a640-40a0-2ba9-e37436b5d09b.png)

次に二枚目、SOMPO美術館のInstagramからスクリーンショットした、マルタン≪コリウール≫1923年 個人蔵ですが、
**シダネル54.9％**、マルタン45％の判定が出て、ややシダネル優位の結果になりました。
人間の目で見て、南仏の暖かな色が表現されていると感じますが、AIは筆のタッチなど別の要因に惑わされたのか…？と考察したくなります。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2669905/7344bed6-4025-f1dc-ff57-968416d42454.png)
ぼかし加工でせっかくの筆のタッチがわかりづらくなっていますので、印象派特有のタッチにご興味ある方は以下のリンクから元画像をご覧ください（Instagramログインが求められます）。

https://www.instagram.com/p/CcwQwBBPLrX/?igshid=YmMyMTA2M2Y=

# 想定される意図的なAIへの攻撃
なかなか優秀な今回のモデルですが、
・もし学習させる**作品画像の色合いを加工してから投入**すると、**加工前と比べてどのような精度のモデル**になるだろうか
・**シダネルの画像の一部分をマルタンの画像に差し替え**たら、**推測割合にも反映**されるのか
今後、探求していきたいと考えています（Update will be coming soon）。

また、今回利用したサービスCustom Visionの訓練画像推奨枚数50枚を確保するのはなかなか難しく今回は諦めましたが、
・自分で**Data augmentation（データ拡張）をしたら性能はどうなるのか**
　例：作品画像を上下左右反転、回転、クロップなどして、一枚の画像を複数枚の扱いで学習できるようにする→学習時にTraining TypeをAdvancedに設定することである程度やってくれる
についても今後検討する予定です。

# おわりに
これまでAI画像認識の入門として扱われていたテーマは、モフモフな白い犬と羊の判別だったり、野菜や果物の判別だったり、画像における**物体そのものを分類するのが主流**でしたが、今回の取り組みは、**絵画の作者判定まで簡単に実現できる**可能性を示しました。

人間の目で鑑賞することを想定して描かれている作品を**あえて機械学習**することで、これまでの作品分析では見えてこなかった両作品の**新しい相違点**が浮かび上がることも期待しています。**美術研究の手法としてどこまでAIが役に立つのか**、展覧会のキュレーションにおいて結果を応用したら**サイエンスの観点も含む美術の展覧会ができるのか**、実際に手を動かしてみたことでとてもアイディアが広がりました。


「シダネルとマルタン展」は、**新宿のSOMPO美術館で2022.06.26（日）まで開催**されています。二人の作品の競演にご関心のある方は、ぜひ足をお運びください。SOMPO美術館には、アジアで唯一の常設展示がされているゴッホのひまわりも所蔵されていて、「シダネルとマルタン展」にてご鑑賞いただけます。（※会期は終了しました。）
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2669905/c9567bb6-aee8-009e-68fe-8fff0e854686.png)
-上記画像（フィンセント・ファン・ゴッホ≪ひまわり≫1888年）は、展覧会にて筆者撮影-