右眼と左眼を⾒分けるAIが実臨床で運⽤されるまで―眼科医・升本浩紀が語る「医療AI応⽤までの道のり」（3） | m3.com AIラボ

2019/10/13



AIラボ プロジェクト 医療×AIの発展にご協⼒いただける⽅を募集しています

プロジェクト⼀覧・11「

右眼と左眼を⾒分けるAIが実臨床で運⽤されるまで―眼科医 升本浩紀が語る 医療AI応⽤までの道のり 3」（ ）（ ）2019年10⽉9⽇ ⽔、

ツカザキ病院眼科で眼科医兼⼈⼯知能エンジニアのチーフとして働く升本浩紀⽒が ⾃ら、。のAI開発の経験をベースに 医療AIの現状について紹介する連載コラムです» 連載1回⽬から読む、。

、

前回までは AIによってできる事についての説明を⾏ってきました 今回は 実際にAIを構築して。

いくためにはどのような道のりをたどる必要があるのかについて考えてみたいと思います

AI構築のための5つのプロセス、AIを構築していく道のりは（1）起案（2）ProofofConcept（概念実証）（3）TrialandError（試⾏錯誤）（4）UI開発（5）運⽤の5つのフェーズに分かれると考えています。⾮常に重要なプロセスであるこれらについて、実際の例に基づいて説明していきます。

AI構築の道のり

医療過誤を防ぐAIの開発、。

⽇本は国⺠皆保険制度を維持することを⽬的として 多種多様な政策を進めてきました そのうち、。

、の⼀つとして 医療の集約化による効率化が挙げられます 医療の集約化は 運営効率や教育⽬

https://medicalai.m3.com/news/191009-series-masumoto3

1/6

2019/10/13

右眼と左眼を⾒分けるAIが実臨床で運⽤されるまで―眼科医・升本浩紀が語る「医療AI応⽤までの道のり」（3） | m3.com AIラボ、、的の観点としては⾮常に有効ですが 1施設あたりの⼿術数は増えるため 医療過誤の確率も当。

然増えるという⽋点があります

、

「」

。

そこで我々は 医療過誤を防ぐためのデバイスとして Deep Safety を開発しました「

⼿術室安全設計システム Deep Safety「」」、その中の 左右眼チェッカー という機能を例にとって AI開発の道のりについて説明していきま。

、、

す このシステムは顕微鏡の映像をもとに 映っている眼が左右のどちらの眼かを判定し 予定⼿、。

術眼と異なる場合は アラートを出すというアプリケーションです左右眼チェッカーの解析画像の⼀例（1）起案、、。 、

まず そもそもアイデアを思いつかなければ 開発は始まり得ません 皆 何かしらの業務を⾏って、。

、いる以上 それに対する不満や危機感が必ずあるでしょう その不満や危機感が 起案の元となるのではないでしょうか？

（2）ProofofConcept（概念実証：PoC）
https://medicalai.m3.com/news/191009-series-masumoto3

2/6

2019/10/13

右眼と左眼を⾒分けるAIが実臨床で運⽤されるまで―眼科医・升本浩紀が語る「医療AI応⽤までの道のり」（3） | m3.com AIラボ、。

、起案をしたとしても 起案内容が荒唐無稽の可能性もあります そこで 実際に簡単なアルゴリズ、、ムを⽤い ある程度限局されたデータに対してAIを構築することによって 問題設定が無謀でない。

かを検証する必要があります

、

「

（16）」で左右眼を識別できるかの検証を⾏ってみました。なぜVGG-16にしたかというと、過去に眼今回の例だと 私は画像識別⽤のNeural Networkである Visual Geometry Group-16 VGG-

底疾患診断を⾏うAIに関する論⽂を作成する際にアプリケーションを組んだことがあるためで。

、。

、

す このように 極⼒⼿間をかけずに実証可能性を検証することが⼤事です その結果 ある程度、  

左眼と右眼が識別できることが分かったため Trial and Errorのフェーズに移ろうという判断がで。

きました「」 、ここでいう 問題設定が無謀 は②⽬標性能が⾼すぎるの⼆つに分けられます。このPoCを⾏うことで、「①そもそも不可能」は考え直すことができます。
僕は、⼈間が⾒ても「全く」わからないものをAIに⾏わせることはできない、そもそも不可能な課題だという考えを持っています。しかし、全てはやってみなければわからないので、簡単なPoCを⾏うことが多いです。
① そもそも不可能（3）TrialandError、。

、

PoCを⾏った結果 何となくAIがそのタスクを実⾏できるかが分かりました しかし 実際には様々。

な問題が存在します、、「」

例えば 今回の左右眼チェッカーにおいては リアルタイム に左右の眼の識別を⾏うことが必要。

、

、
左右眼を識別することは到底できません。様々な種類のNetworkを試した結果、実⾏速度と性能の⼆つの側⾯を勘案して、InceptionV3というNetworkを選択しました。になります しかし VGG-16は処理に時間のかかるNeural Networkであるため リアルタイムで、  、。
判定の際、眼領域が四⾓く括られます。この物体検知⽤NeuralNetworkの作成に必要な数百枚の教師データを準備するため、視能訓練⼠さんに眼の領域を四⾓く囲ってもらいました。しかし、⿊⽬だけを囲ってしまう例が多発し、全くうまくいきませんでした。そのため、Segmentation⽤のNeuralNetworkに切り替えました。その際に再度、数百枚のSegmentation⽤NeuralNetworkの教師データとして、眼の領域を塗ってもらいました。

また Trial and Errorの⼤変さは エンジニアリングサイドにだけあるわけではありません 左右眼、、  

このように 本当に製品化を⽬指した場合には Trial and Errorがほぼ必ずといってよいほど発⽣、、し そのたびごとにAIエンジニアだけでなく アノテーターなどチーム全体に追加の作業が⼤量に。 、 、発⽣することになります また このTrial and Errorを⾏っていくうちに ⽬標性能が無茶であった。

、、

場合も分かってきます その場合には 適宜⽬標性能を下げたり 問題が簡単になるように限局し。

たりと調整していく必要があります（4）UI
https://medicalai.m3.com/news/191009-series-masumoto3

3/6

右眼と左眼を⾒分けるAIが実臨床で運⽤されるまで―眼科医・升本浩紀が語る「医療AI応⽤までの道のり」（3） | m3.com AIラボ

2019/10/13「左右眼チェッカー」は、現時点では次のようにPCの画⾯上に表⽰されます。

左右眼チェッカーのUI画⾯の⼀例、、左右眼チェッカーを実際に使えるものにするためには ⼿術⽤データベースとの連携調整や 表⽰、するための画⾯ さらには判定結果を分かりやすく表⽰するための⽅法など様々な要素が必要に。

、

なります 多種多様な意⾒の⼈と議論しながら 最終的な商品の⽅針を決定していく必要がありま。

す（5）運⽤、。 、利⽤しているのですが、そのうちの⼀つは、全く部屋の明るさやニュアンスが異なるため、そこだけ判定がうまくいかないという問題が⽣じました。
運⽤を⾏っていくうちに 各種の問題が出てきます 例えば 我々ツカザキ病院は三つの⼿術室を⼿術室による映像の違い、、そのため 若⼲ではありますが 我々はその⼿術室専⽤となるようにモデルや各種パラメータの調。
、（）（）
必要になります。もっと⾔ってしまえば、アイデア⾃体を⾒直す〔つまり、（1）に戻ってしまう〕ことも⼗分に考えられます。

整を⾏いました そういう意味では 問題点によっては 5 に進んでもすぐに 3 に⽴ち返ることが、「こういう条件では判定がうまくいかない」といったアルゴリズムにAIシステムの運⽤を⾏う中で、ついての問題だけでなく ⼿術室のスタッフの使⽤⽅法に対する指導など様々なエンジニアリン

https://medicalai.m3.com/news/191009-series-masumoto3

4/6

2019/10/13

右眼と左眼を⾒分けるAIが実臨床で運⽤されるまで―眼科医・升本浩紀が語る「医療AI応⽤までの道のり」（3） | m3.com AIラボ。

、グや運営管理上の問題が⼀気に噴出してきます それを⼀個⼀個 現場との信頼感を損なわない、。

ように克服していくことで 開発がさらによいものへと進んでいくのです「 

AI開発は 泥臭いTrial and Error」、連載3回⽬の今回は 実際にAIを開発する際にどのようなことを⾏っているのかについて説明して。

、

きました 研究のみならず開発のフェーズにまで進んだAIに どのような苦労が伴っているのか少しは追体験できたのではないでしょうか。

、、、、
Errorです。無数の試⾏錯誤のうえに、AIが完成していくという現実を知ってもらえたらと思います。
AIといえば 今をときめくバズワードの⼀つですが 実際に⾏うことの⼤半は 泥臭いTrial and升本浩紀

 

ツカザキ病院 眼科 医師／株式会社シンクアウト 最⾼技術責任者

。

。

2016年 東京⼤学医学部卒業 在学中に中⼩企業診断⼠や公認会計⼠試験に合格 2018年からツ。

、・。

カザキ病院 眼科医として臨床を⾏う傍ら 医療AIの研究 開発に取り組んでいる ⽇本眼科AIのトッ、 、。

プランナーとして国内外の学会や 医師 医学⽣向けの講演をを多く⾏っている 関⼼領域はオペレ、。

ーションマネージメントや スマートフォンを⽤いたビジネス 好きな⼈⼯知能フレームワークはPyTorch。

このシリーズの記事

・「

右眼と左眼を⾒分けるAIが実臨床で運⽤されるまで―眼科医 升本浩紀が語る 医療...

（ ）2019年10⽉9⽇ ⽔

「」

・

「

・

「

訴求⼒の⾼い AIの構築に向けて―眼科医 升本浩紀が語る 医療AI応⽤までの...

（ ）2019年8⽉16⽇ ⾦

眼底画像からAIが診断を下すしくみ―眼科医 升本浩紀が語る 医療AI応⽤までの...

（ ）2019年7⽉11⽇ ⽊

シリーズ⼀覧 

関連カテゴリー画像診断⽀援 解説・コラム  眼科  眼科医・升本浩紀が語る「医療AI応⽤までの道のり」

参加募集中のAIラボプロジェクト

https://medicalai.m3.com/news/191009-series-masumoto3

関連する AIラボニュース

5/6

右眼と左眼を⾒分けるAIが実臨床で運⽤されるまで―眼科医・升本浩紀が語る「医療AI応⽤までの道のり」（3） | m3.com AIラボ

2019/10/13

医療×AIセミナーシリーズ第9回
AI時代の医療とトラスト ⽇仏哲学対話 2...

「」（「amazonが開発する スマート眼鏡 とは：」（ ）2019年10⽉10⽇ ⽊（ ）M3 Supported 2019年8⽉22⽇ ⽊⾳声アシスタントが変える視覚障害者の暮らし【締め切りました】医療×AIセミナーシリーズ第8回「医療者がゼロから学ぶ、AI...
（ ）2019年9⽉20⽇ ⾦（ ）M3 Supported 2019年7⽉25⽇ ⽊【移植⽤⾓膜細胞の品質を⾼感度に評価】「（ ）締め切りました 医療×AIセミナーシリーズ第7回 臨床現場を効率化するAI ...

・

2019年9⽉5⽇ ⽊・ 、医⽤画像を5千万枚収集 解析
課題も−第38回⽇本医⽤画像⼯学会⼤会レポート（ ）M3 Supported 2019年6⽉20⽇ ⽊【「】（ ）

締め切りました 医療×AIセミナーシリーズ第6回 シンポジウム
医療AIの臨...



2019年9⽉2⽇ ⽉（ ）AIラボニュース⼀覧 M3 Supported 2019年5⽉10⽇ ⾦AIラボ プロジェクト⼀覧 

開業を検討中の先⽣開業意向に関するアンケートに回答して、最⼤10

https://medicalai.m3.com/news/191009-series-masumoto3

進呈

回答する >>

6/6