2020/4/17

AIのミス指摘が同調圧⼒を打ち破る―眼科医・升本浩紀が語る「医療AI応⽤までの道のり」（6） | m3.com AIラボ



AIラボ プロジェクト 医療×AIの発展にご協⼒いただける⽅を募集しています・

プロジェクト⼀覧「14」

AIのミス指摘が同調圧⼒を打ち破る―眼科医 升本浩紀が語る 医療AI応⽤までの道のり6

（）

（ ）

2020年4⽉17⽇ ⾦、

ツカザキ病院眼科で眼科医兼⼈⼯知能エンジニアのチーフとして働く升本浩紀⽒が ⾃ら、。のAI開発の経験をベースに 医療AIの現状について紹介する連載コラムです» 連載1回⽬から読む

・

⽇本の医療では効率化 最適化につながるAIが求められる。

⽇本は病院の数が⾮常に多いという報告があります、「」 、れません。しかし、病院が豊富にあって、かつ、最⾼でも3割の負担で診察・治療が受けられるこの⽇本において医師無しでAIに診断をしてほしい患者さんが果たしているのでしょうか？

ここで ⼀般的ないわゆる 医療AI とは 医師なしで病気を診断するようなイメージがあるかもし、、

将来 医療費がどんどん削減されていくのであれば ⽇本においてもそのようなAIが必要になるか。

、、もしれません しかし 少なくとも現在の⽇本においては スクリーニング⽤のAIが必要であると感。

じている患者も医師も少ないのではないかと思います
https://medicalai.m3.com/news/200417-series-masumoto6

1/6

2020/4/17

AIのミス指摘が同調圧⼒を打ち破る―眼科医・升本浩紀が語る「医療AI応⽤までの道のり」（6） | m3.com AIラボ、、 、ことから、そのような貧困層のためのAIによるスクリーニングシステムが求められています。⼀⽅
で、⽇本において求められているAIは効率化、最適化につながるようなAIではないかと考えています。

海外では ⽇本のような国⺠皆保険制度がない また ⽇本には存在しないレベルの貧困層がいる、

・では 効率化 最適化とは具体的には何を指すのでしょうか
2.安全管理系AI
3.計測系AI？ 私の考えとしては、

1. フォローアップ系AI。という3つに⼤きく分られるのではないかなと思います 

効率化AI (1) ―フォローアップ系AI。

、24時間365⽇安定して稼働できるのがAIの強みの⼀つだといえます たとえば 医師が患者さん、。の⾏動をずっと監視したり 病院が閉まっている時間に対応したりすることは不可能です これに、（）、対し 近年流⾏のDTx Digital Therapeutics はまさに AIの強みを医療に⽣かすすことができる。

システムといえます、

たとえば タバコを吸いたくて困っているという患者さんの訴えを医療機関で聞くことは可能で。

、、のは現実的には不可能です。そこで、ソフトウェア（AI）のチャットボットが悩みを聞いてくれるというのは⾮常に有⽤なアプローチではないでしょうか？
す しかし 家にまでついて⾏ったり 24時間患者さんに寄り添ってタバコの悩みを聞いたりする、。

我々は AIによって点眼状況を把握する点眼瓶センサーというデバイスの開発を⾏っています こ、、

れは 点眼瓶とそれにセットになっているモーションセンサーによって 患者さんが点眼動作を正し、。

、

く⾏ったかどうかを AIを⽤いて判定するデバイスです このデバイスを⽤いることで 99%以上。の正答率を持って正しく点眼動作が把握できていることが分かりました 

効率化AI (2) ―安全管理系AI

https://medicalai.m3.com/news/200417-series-masumoto6

2/6

2020/4/17

AIのミス指摘が同調圧⼒を打ち破る―眼科医・升本浩紀が語る「医療AI応⽤までの道のり」（6） | m3.com AIラボ。

⼈間というのは必ず気分によるムラがあるものです いかに普段から冷静な⼈でも疲れていたら、。 、
キー構造があるような縦社会の組織だと、例えば上司がミスを犯していた場合に、指摘しにくい現象が必ず発⽣します。また、周りの答えに流されてしまう同調圧⼒も必ず発⽣します。
集中⼒が低下するなど ⼀定のパフォーマンスを維持し続けることは不可能です また ヒエラル、、、られるでしょう。⼈間とは⼀切独⽴した視点でミスから患者を守ることにAIは使えるのではないでしょうか？
AIの強みとして 集中⼒に⼀切ムラがなく 上司部下も関係なく 同調圧⼒を受けないことが挙げ、、、

我々は AIによって眼科⼿術における最重要チェック項⽬である個⼈識別 左右眼認証 眼内レン「」。

ズ認証の3つのモジュールからなる Deep Safety というアプリケーションを構築しました これま、、、

で 患者の取り違えや左右の⽬の⼿術間違い 眼内レンズのミスなどが様々な施設で発⽣し ⼤き。 、 、、問題です。そのような悲惨、かつ⼈間だけでは防ぎ難いヒューマンエラーを、AIの⼒を借りて防ぐことができたらと思っています。

なニュースとなっています 個⼈ 患側 眼内レンズのミスは そもそも⼿術⼿技の上⼿下⼿以前の



効率化AI(3)― 計測系AI、病気のあるなしを識別するAIは説明不可能なAIとされ ⽇本の医療現場においては⾮常に受けい。

れられにくいAIであるといえます ⼀⽅でSegmentationやGradingだと診断がすでにある程度つ。

いている⽂脈であり⽀持されやすいAIだといえるでしょう、。

たとえば眼科においては 網膜の厚みが所⾒として重要なことがあります 毎回マニュアルで層、、の厚みを測ることは 研究では可能ではあるかもしれませんが 忙しい実際の臨床現場において。

、、は時間がなく難しいと考えられます その意味で ⼈間が確認すると⾯倒な ⼀⽅で従来の画像処、、理などでは不正確な指標を AIを⽤いて測定することで 正確に測定し臨床に⽣かすことができる。

でしょう

、、。

、

また Gradingについては ⼈間が診断すると毎回診断がぶれることがあります 例えば 我々は。

⽇本眼科アレルギー学会の重症度分類をAIで⾏うという論⽂を発表してきました
https://medicalai.m3.com/news/200417-series-masumoto6

3/6

2020/4/17

AIのミス指摘が同調圧⼒を打ち破る―眼科医・升本浩紀が語る「医療AI応⽤までの道のり」（6） | m3.com AIラボ、、、

この研究では 専⾨家がアノテーションを⾏なっても Gradingの結果にブレがある 同じ画像に対。

、して異なるGradeをつけてしまうということがわかりました このようなAIを構築することによって、医師がそれぞれ好き勝⼿につけていたGradeを画⼀化することができ ひいては治療を画⼀化で。

きるのではないかと考えています、

連載6回⽬の今回は どのようなAIが社会的に求められていると我々が考えているかを紹介しまし。

、、

た このように社会において 求められているタスクを⾒極めながらAIを開発していくことが AIの「実装」には必要ではないでしょうか？

升本浩紀

 

ツカザキ病院 眼科 医師／株式会社シンクアウト 最⾼技術責任者

。

。

2016年 東京⼤学医学部卒業 在学中に中⼩企業診断⼠や公認会計⼠試験に合格 2018年からツ。

、・。

カザキ病院 眼科医として臨床を⾏う傍ら 医療AIの研究 開発に取り組んでいる ⽇本眼科AIのトッ、 、。

プランナーとして国内外の学会や 医師 医学⽣向けの講演をを多く⾏っている 関⼼領域はオペレ、。

ーションマネージメントや スマートフォンを⽤いたビジネス 好きな⼈⼯知能フレームワークはPyTorch。

このシリーズの記事

・「

AIのミス指摘が同調圧⼒を打ち破る―眼科医 升本浩紀が語る 医療AI応⽤までの...

（ ）NEW 2020年4⽉17⽇ ⾦「フレーム問題」AIは未知の病気を識別できるか―眼科医・升本浩紀が語る「医療A...

https://medicalai.m3.com/news/200417-series-masumoto6

4/6

2020/4/17

AIのミス指摘が同調圧⼒を打ち破る―眼科医・升本浩紀が語る「医療AI応⽤までの道のり」（6） | m3.com AIラボ

（ ）2020年3⽉19⽇ ⽊・「

数少ない網膜剥離画像から⾼精度AIを作るまで―眼科医 升本浩紀が語る 医療AI...

（ ）2019年11⽉8⽇ ⾦・「右眼と左眼を⾒分けるAIが実臨床で運⽤されるまで―眼科医 升本浩紀が語る 医療...

（ ）2019年10⽉9⽇ ⽔

「」

・

「・「

訴求⼒の⾼い AIの構築に向けて―眼科医 升本浩紀が語る 医療AI応⽤までの...

（ ）2019年8⽉16⽇ ⾦

眼底画像からAIが診断を下すしくみ―眼科医 升本浩紀が語る 医療AI応⽤までの...

（ ）2019年7⽉11⽇ ⽊

シリーズ⼀覧 関連カテゴリー
画像診断⽀援 解説・コラム  眼科  眼科医・升本浩紀が語る「医療AI応⽤までの道のり」



参加募集中のAIラボプロジェクト

関連する AIラボニュース、

第26回社会情報システム学シン
ポジウム PHR／PLRの活⽤に向けた取り組みと...

VRで⾒えてきた 緑内障患者のQOL向上の具体策―松村雅代のVRは医療をどう...

M3 Supported 2020年1⽉8⽇ ⽔NEW 2020年4⽉15⽇ ⽔

「

「（ ）

【】

（ ）

、ライブ配信セミナーへ変更 医療×AIセミナーシリーズ第11回シン
ポジウム 医...

画像処理とAIで 正常眼とCSC眼の眼底写真から脈絡膜の厚さを推定可能に−兵庫医⼤M3 Supported 2019年12⽉17⽇ ⽕

2020年4⽉7⽇ ⽕

医療×AIセミナーシリーズ第10回
循環器とAI 2019年11⽉30⽇
開催

フレーム問題 AIは未知の病気を識別できるか―眼科医 升本浩紀が語る 医療A...

M3 Supported 2019年10⽉24⽇ ⽊

2020年3⽉19⽇ ⽊医療×AIセミナーシリーズ第9回
AI時代の医療とトラスト ⽇仏哲学対話 2...

網膜スクリーニングでアルツハイ
マー病のリスクを判定「「「（ ）（ ）「」（）」（「（ ）：」・（ ）（ ）2020年2⽉11⽇ ⽕（ ）M3 Supported 2019年8⽉22⽇ ⽊AIラボニュース⼀覧 AIラボ プロジェクト⼀覧 

開業を検討中の先⽣開業意向に関するアンケートに回答して、最⼤ 10p進呈
https://medicalai.m3.com/news/200417-series-masumoto6

回答する >>
5/6

2020/4/17

AIのミス指摘が同調圧⼒を打ち破る―眼科医・升本浩紀が語る「医療AI応⽤までの道のり」（6） | m3.com AIラボ

https://medicalai.m3.com/news/200417-series-masumoto6

6/6