医療AIの開発を阻む「フレーム問題」 ―眼科医・⽥淵仁志が語る「医療AIマネジメント論」（8） | m3.com AIラボ

2020/4/11



AIラボ プロジェクト 医療×AIの発展にご協⼒いただける⽅を募集しています「」

プロジェクト⼀覧

・「14」医療AIの開発を阻む フレーム問題 ―眼科医 ⽥淵仁志が語る 医療AIマネジメント論8（）（ ）2020年4⽉10⽇ ⾦、



ツカザキ病院眼科創業者主任部⻑であり 広島⼤学⼤学院医系科学研究科 医療のための、テクノロジーとデザインシンキング寄附講座で教授を務める⽥淵仁志⽒が AI開発に必要。

なマネジメントのエッセンスについて語る連載コラムです» 連載1回⽬から読む。

、、

今回で8回⽬になります 第1回はチーミング 第2回はフィードバックループ 第3回はサイコロジ（）、第4回はデザインシンキング、第5回はバイアスつまり⾏動経済学、第6回は「外部環境をMECEに考えるMBA的フレームワーク思考」、そして第7回はイノベーショ
ンのジレンマについて述べてきました。どの項⽬も経営学の基本をなす重要な叡智（ナレッジ）です。ぜひ何度も読み返して役⽴ててもらえればと思います。今回は「フレーム問題」を取り上げたいと思います。
カルセーフティー ⼼理的安全「」

ベイズ統計と 夜明けを当てる宇宙⼈、・（究所元所⻑）のインタビュー「深層学習だけで作られたAIが信⽤できない理由」は、⾮常に学ぶところの多い記事でした。

このコラムが載るAIラボに掲載された ニューヨーク⼤学のゲイリー マーカス教授 ウーバーAI研、「気が遠くなるほどサイコロを振り ⾼速で最も確からしいパラメーターへと微調節していく 深層学」。

、「」

習 はベイズ統計の理屈が⽤いられています つまり 初期値として与える確率はあてずっぽう。

、、というヤツです それでも 現実の社会で役に⽴つ統計学として世界中で⽤いられており 深層学。

習もご存じのとおりまさに世界を席巻しています

https://medicalai.m3.com/news/200410-series-tabuchi81/4医療AIの開発を阻む「フレーム問題」 ―眼科医・⽥淵仁志が語る「医療AIマネジメント論」（8） | m3.com AIラボ

2020/4/11、。

、、ベイズ統計とは 例えば次のようなものです 真夜中に地球に降り⽴った異星⼈が 明⽇の朝 太。

陽が地球の地平線から昇ってくるかどうかの確率を求めるとします 最初は50％と設定するでしょ。

、、。

う しかし 99⽇過ぎる頃には その確率は100％に限りなく近づいていきます これがベイズ統計。

、、です もちろん 隕⽯衝突による惑星消滅のような ほぼ起こりえないイベントには対応できない、、、のですが どんな⼤災害であれ 戦争であれ これまでの地球の歴史で明けない夜はなかったわ、。

、

けですから ベイズ統計を異星⼈が使うことは正解なのです しかも なぜ太陽が地平線から必ず、、昇ってくるかについて 天⽂学の理論や莫⼤な計算の意味は分からなくとも 割り算を習った⼩学。

⽣なら明⽇太陽が昇る確率計算の意味を理解できるでしょう「」

医療は ソフトサイエンス、。

さて 私達が対象にしている医学とはそもそも何でしょうか 理系の技術者を患者として担当する、。

、と 理詰めで話しかけられることをしばしば経験します しかし その観点から⾔うと私達はソフト、。

サイエンスといいますか 分かっていることの底が浅すぎると感じます それこそ相対性理論のよ、（順序だてて組み上げていく機械学習）はこれまた、無限の彼⽅の仕事なのです。

、うな包括的な理論を持たない私達医学者にとって 古典的AI 特徴抽出を理論に基づいて⾏い、私達のチームが開発している左右眼の識別AIアプリケーションは 2010年から古典的AIで開発に（ ：・取り組んできたものです 参照 右眼と左眼を⾒分けるAIが実臨床で運⽤されるまで―眼科医 升「」（ ））。右眼と左眼を顕微鏡下で識別するという、がんの診断に⽐べると恐ろしく単純な課題ですら、古典的AIの正答率は96％程度でした。しかし、深層学習に変更した途端、その精度はいきなり100％近くにまで上昇したのです。右と左の眼の⽪膚⾯の構造上の違いを、あらゆる⼈種、あらゆる個⼈で理論的に特徴抽出していくことは不可能です。
本浩紀が語る 医療AI応⽤までの道のり 3、例えば私達の取り組みの過程で抽出された特徴のひとつが 上眼瞼と下眼瞼の睫⽑の量の違い。

。

、、です 上眼瞼の⽅が睫⽑が多いのです ところが 顕微鏡映像においては 常にそれがあてはま。

、るとは限りません ⼿術時に⽤いる感染予防の透明シールの反射や折り曲がりによって 睫⽑の。

、本数が異なってカウントされることがあるのです そのため 反射の程度や折り曲がり⽅というパ、。

ラメーターについても 改めて対策しなければ古典的AIの正答率は上がりません ハッキリ⾔って。

。

終わりがありませんでした こんな⼩さな話であってもリアルワールド感いっぱいなのです。

。

そんな時に深層学習が登場したわけです あっという間に正答率が100％になりました もちろん、それは 私達の施設で使っているツアイス製の⽐較的⾼級なレベルの顕微鏡から得た映像限定で、。

あり 違う施設の異なる室内照明下や質の悪い顕微鏡だと⾒事に正答率は落ちてしまいます 私。

、達の深層学習は左右眼の違いの本質を⾒抜いているわけではないのです マーカス教授 おっし！ これがフレーム問題ですね。

ゃる通り「深層学習は 鍋料理」、。

、。

さて 私達は何のブームに巻き込まれたらダメなのか そして 何に活路を⾒出すべきなのか 古、「ANOVA（分散分析）！」とか⾔って喜んでいた時代からのデータベース屋でもある私にとって、マーカス教授の箴⾔は染み⼊ります。何しろ私は⾃分のチームと共に⽬の前に広典的AIの前の時代

https://medicalai.m3.com/news/200410-series-tabuchi8

2/4

2020/4/11

医療AIの開発を阻む「フレーム問題」 ―眼科医・⽥淵仁志が語る「医療AIマネジメント論」（8） | m3.com AIラボ、

、がる⼤問題を解決する⽅法は きっとデータの活⽤にある とその気持ちは研修医の時からいささ。

かも変わらないからです「」

具材を何でもかんでもとりあえず⼊れておけば成⽴する 鍋料理 とも⾔える深層学習に科学的。

、な叡智をどう抜け⽬なく取り⼊れればよいのか 深層学習は ダシや麺やチャーシューの無限の、ラーメンのようなものなのでしょうか。「半教師学習」という⾔葉の持つ別の側⾯に気付きをくれたマーカス教授の素晴らしいインタビュー記事でした。次回もお楽しみに。

組み合わせについて緻密に取り組み 再現性もその意図もキチンと説明できてしまうジャパニーズ

⽥淵仁志
ツカザキ病院眼科主任部⻑兼広島⼤学寄附講座教授、、。

⼤阪市⽴⼤医学部卒後 研修しながら⼤学院で⼤脳視覚⽣理領域に取り組み 眼科学助⼿就任 そ、。

、の後 波乱の⼈⽣に⾜を踏み⼊れる 姫路市の⺠間病院の眼科に着任し ⾃作の医療⽤DWHを基盤、（。とした医療の集約化を図り 15年かけて⽇本最⼤級の眼科ユニットに育て上げる その傍ら名古屋商）。

科⼤経営学⼤学院で修⼠ 経営学 とEMBAを取得 並⾏して進めていたDWH機械学習研究が。

、Deep Learningにより⼀挙に実⽤⽔準に到達したことを契機にAIチームを創設 2019年4⽉ 広島⼤「」。

学に寄附講座 医療のためのテクノロジーとデザインシンキング を開設 ツカザキ病院眼科主任部、、、

⻑兼広島⼤学寄附講座教授として 眼科臨床 AI社会実装 医学⽣研修医教育の三⾜のわらじを履。

いているこのシリーズの記事

「」

・

「

医療AIの開発を阻む フレーム問題 ―眼科医 ⽥淵仁志が語る 医療AIマネジ...

（ ）NEW 2020年4⽉10⽇ ⾦「」・「・「医療⼈が打破すべき イノベーションのジレンマ ―眼科医 ⽥淵仁志が語る 医療...

（ ）2020年3⽉31⽇ ⽕、

何のためにAIを開発するのか という視点が⼤切―眼科医 ⽥淵仁志が語る 医療A...

（ ）2020年1⽉30⽇ ⽊・「・「⾏動経済学に基づいたAI開発のサイクルとは―眼科医 ⽥淵仁志が語る 医療AI
マ...

（ ）

2020年1⽉16⽇ ⽊「」AI開発で デザインシンキング が必要な理由―眼科医 ⽥淵仁志が語る 医療AI...

（ ）2019年12⽉16⽇ ⽉「良い病院はミスが多い、悪い病院はミスが少ない」―眼科医・⽥淵仁志が語る「医療...

（ ）2019年10⽉23⽇ ⽔「」

・「

未来を 超予測 するために必要なこと ―眼科医 ⽥淵仁志が語る 医療AIマネ
https://medicalai.m3.com/news/200410-series-tabuchi8

3/4