学際大規模情報基盤共同利用・共同研究拠点 2020 年度共同研究 最終報告書

jh200042-DAH

Deep Learning を用いた医用画像診断支援に関する研究
佐藤 一誠（東京大学）

概要
本共同研究では，Deep Learning(DL)を用いた高性能なコンピュータ支援検出（CAD）の開発を行うことを目的とする．昨年度までに構築した DL 学習環境を用いて複数の CAD（EOB-MR 画像における肝結節病変検出/鑑別，胸部 X 線写真の病変検出，胸部 FDG-PET/CT画像における異常検知など）の開発を進めるとともに，CAD の臨床使用を想定した高性能かつ小規模な DL 構造探索方法について検討した．さらに，GPU メモリの制限が DL 学習のボトルネックとなる問題に対し，メニーコア型プロセッサを用いた大規模 DL 学習の検証を実施した．

ータ支援検出（computer-assisted detection, CAD）は

1. 共同研究に関する情報(1) 共同研究を実施した拠点名

画像診断における医師の見落とし低減を目的とし

東京大学て古くから研究されている．しかし，日常的に臨(2) 共同研究分野

床で使われている CAD は乳房 X 線写真に対する腫瘤検出，胸部 X 線写真もしくは胸部 CT におけ

超大規模データ処理系応用分野(3) 参加研究者の役割分担る肺結節検出などに限られているのが現状である．

佐藤 一誠 DL 構造探索，CAD 開発

その要因の１つとして，多くの CAD が病変検出性

GPU 間通信,ノード間通信,能を経験のある医師と同程度とした場合，医師にKNL 最適化

比べて拾いすぎ（偽陽性，false positive; FP）が多

野村 行弘 DL 構造探索，KNL 最適化

いことが挙げられる．このため，CAD のさらなる塙 敏博

CAD 開発林 直人

高性能化が必須である．
一方，CAD の主要技術である機械学習分野にお臨床面での評価

花岡 昇平 DL 構造探索，CAD 開発

いて，Deep Learning (DL)がこの数年注目を集めており，医用画像処理にも利用されている．DL の一臨床面での評価
竹永 智美 CAD 開発

手法である畳み込みニューラルネットワーク

中尾 貴祐 CAD 開発，臨床面での評価（convolutional neural network, CNN）は脳の視覚野

柴田 寿一 DL 構造探索，CAD 開発における情報処理を模したものであり，画像診断

佐藤 大介 CAD 開発，臨床面での評価は視覚処理である．このため，医師が画像診断に中村 優太 CAD 開発，臨床面での評価用いる有用な情報を適切に CNN に学習させるこ

星野 哲也 GPU 向け最適化とができれば，CAD のさらなる高性能化の実現が関谷 勇司 ネットワーク運用技術期待できる．

鈴木 陽大 DL 構造探索

本共同研究全体の目的は，DL を用いた高性能な CAD の開発，および開発した CAD の臨床現場

鈴木 雄介 CAD 開発，臨床面での評価での評価である．今年度は前年度までに構築した学習フレームワークを用いた CAD の開発を継続

2. 研究の目的と意義するとともに，以下の 2 項目について併せて検討

CT や MRI をはじめとする医用画像を解析し，自動検出された病変の位置を提示する，コンピュを行う．
1

学際大規模情報基盤共同利用・共同研究拠点 2020 年度共同研究 最終報告書(a) GPU のメモリの制約により学習が困難である，入力画像サイズが大きい場合やネットワーク規模が大きな DL の学習について，東大 OakforestPACS システム(OFP)および Oakbridge-CX システム(OBCX)搭載のメニーコア型プロセッサでの実現可能性を検証する．
(b) CAD の臨床使用を想定した高性能かつ小規模

図 1 実装した DL の学習方法の流れな DL 構造探索方法を構築する．
本共同研究で DL を用いた高性能な多種の CADらなる効率化が必要と考える．このフレームワーが開発されることにより，臨床医学における画像クを構築するためには，CAD 開発に係わる各分野診断の質的向上ならびに医師の負担軽減が期待さの専門家と計算機センターの緊密な協力が不可欠れる．CAD の開発には医師が診断した医用画像デであり，当拠点公募型共同研究として取り組む必ータを用いることから，データを作成した国の診要がある．さらに，本研究成果を広く公開するこ断基準が CAD に反映される．そのため，国内で使とによって，各基盤センターの GPU 搭載のスーパ用される CAD は国内で開発することが非常に重ーコンピュータにおいても同様のことが容易に実要であると考え，CAD の研究・開発ならびに臨床現できるようになると考える．

使用に関して多くの経験を持つ 5 名の放射線科医

本共同研究は東大単独で実施しているが，過去

師（林，花岡，中尾，佐藤大介，中村），1 名の乳の研究[A]より CAD 開発用の症例データを多施設腺外科医（鈴木雄介）および 2 名の診療放射線技連携で収集することの重要性を認識しており，将師（野村，竹永）が共同研究者として参画してい来的には複数の臨床施設の参画による拠点連携研る．共同研究者間で密に連携を取ることによって，究へ発展させることを視野に入れている．

CAD の開発から臨床での評価までを促進させる[A] 野 村 ， MEDICAL IMAGING TECHNOLOGY,体制を整えている．さらに，多くの臨床施設で高vol.32, no.2, pp.98-108, 2014．

性能な CAD が使われるようになれば，本共同研究に賛同する臨床施設の参画による拠点連携研究へ

4. 前年度までに得られた研究成果の概要進展することが期待される．

2018 年度までに非同期並列型ベイズ的最適化

本共同研究で構築する大規模データに対応した（Bayesian optimization, BO）[B]に基づくパラ

DL 学習自動化のフレームワークは本共同研究のメータ自動探索を用いた DL 学習フレームワーク

みでなく，DL を用いた様々な研究の促進に寄与すの構築した[C]．図 1 に構築した DL の学習フレーることが期待される．

3.

ムワークでの処理の流れを示す．GPU クラスタ
（Reedbush-H/L）のログインノード上でジョブ当拠点公募型研究として実施した意義

並列スクリプト言語（Xcrypt）[D]で記述したジョDL は医用画像処理を含む様々な領域で高い性

ブ投入モジュールを実行し，非同期並列型 BO に能を発揮しているものの，パラメータ調整が難しより生成されたパラメータを用いた学習ジョブをいことが問題である．本共同研究で DL を用いたReedbush-H/L の計算ノードに繰り返し投入する．

CAD 開発に向けて DL 学習の高速化およびパラメ構築した DL 学習フレームワークを用いて 6 種ータ自動探索を用いた DL 学習方法の確立を目指類の CAD の開発を進めている．これらのうち，している．前年度の成果により数百症例を用いた(b)～(g)については性能改善を継続している．

DL 学習方法は確立しつつあるものの，より大規模(a) 胸部 CT 画像の肺結節検出（千～万症例）の学習を短期間で行うためにはさ2

学際大規模情報基盤共同利用・共同研究拠点 2020 年度共同研究 最終報告書(b) 胸部 X 線写真の肺腫瘤検出の結果が得られている．今後は，段数だけでなく(c) 胸部 MR 画像の肺結節検出

特徴マップ数も学習後に可変にすることを行うの(d) 頭部造影 MR 画像の転移性脳腫瘍検出と，最も小さいサイズの性能が下がる現象が他の(e) EOB-MR 画像における肝結節病変検出実験でも見られたためこの原因解明と解決策を模(f)索する予定である．さらに最も大きいサイズの出頭部救急 CT 画像の異常検知(g) FDG-PET/CT 画像における異常検知力を模倣学習することで小さいサイズの性能を上げる方法も考慮する．また，構造的 Dropout によ[B] Snoek J, Advances in Neural Information

る学習は通常の学習に比べて収束が遅いため，並Processing Systems 2012;2951-2959.

列化による高速化も考える必要がある．今回の方[C] Nomura Y, J. Supercomputing 2020;76:7315-

法では，計算資源の豊富な施設で可能な限り大き7332

いサイズのモデルを１度学習すればその後は実行[D] Hiraishi T, WHIST 2012, 2012.

する施設の計算資源に合わせてサイズを変えられるため，大規模情報基盤の共同利用に適したアプ

5. 今年度の研究成果の詳細

ローチであると考えられる．

(1) DL 構造探索方法の構築
DL モ デ ル の 構 造 探 索 方 法 と し て Neural[E] Elsken T, J. Mach. Learn. Res. 2019;20:1-21

architecture search (NAS) [E]と呼ばれる方法が[F] Bernal J, Comput Med Imag Grap. 2015;43:

注目されているが，他施設での CAD の運用を考

99-111

えた場合，施設ごとに計算機環境が異なるため，(2) DL を用いた CAD の開発

施設ごとの計算機環境に合わせたサイズの構造を模索する必要があり，モデルや学習の維持コスト2018 年度までに構築した学習環境において DLがかかり過ぎるという結論に達した．そのため，を用いた CAD の開発を継続している．以下に昨計算機環境の十分な施設で１度大きなモデルを学年度までに開発を開始していたもののうち，大幅習し，その後モデルサイズを学習無しでモデル構な性能改善が図れたもしくは新たな成果が得られ造を可変にする手法の開発を行った．具体的には，た 4 種類の CAD の結果を示す．

DL モデルの汎化性能を上げるための Dropout と(2-a) FC-ResNet を用いた EOB-MR 画像におけ呼ばれる手法に着目し，ミニバッチごとに構造的る肝結節病変の検出・分類

な Dropout を用いて，大きいサイズのモデルを小2018 年度に実施した EOB-MR 画像における肝さいサイズのモデルにランダムに変換しながら学臓領域抽出で用いた FC-ResNet [G]を改変し，単習を行った．実験として 3 段,4 段,5 段の U-Net に変換するような構造的 Dropout を作り，CVCClinicDB [F]と呼ばれる大腸内視鏡検査ビデオで学習しポリープ検知のための U-Net を構築した．
結果としては，個別に学習した場合が 3 段の Dice
係数が 66.6%、4 段で 74.3%、5 段で 87.2%であったのに対して，５段の U-Net を１度学習させた
のち 3 段、４段と可変にした場合の精度が 3 段60.0%、4 段 77.9%、5 段 88.13%となった．したがって，１度の学習でその後学習無しに構造を変化させても個別にその構造で学習した場合と同等

図 2：肝結節病変検出・分類結果
3

学際大規模情報基盤共同利用・共同研究拠点 2020 年度共同研究 最終報告書(2-d) 胸部 FDG-PET/CT 画像における異常検知

一ネットワークで肝結節病変（肝細胞癌、転移、血管腫、嚢胞、手術痕）の検出および分類を同時（研究業績[4]）に行った．この結果，検出感度 60%における症例

正常症例のみを学習に用い，テスト症例中のあたりの FP 数はそれぞれ 25 個であり，病変の分FDG-PET の異常集積を検出する異常検知方法を類精度は 0.79 であった．図 2 に検出・分類結果例構築した．この方法では，CT 画像を入力すると正を示す．この成果は論文誌へ投稿中である．

常と仮定した場合の PET の画素値（SUV 値）の期待値と期待標準誤差を推定して出力する 2D U-Net(2-b) 胸部 X 線写真の異常検知・異常強調を正常症例 1,800 例で学習した．検出では CT 画像から予測した SUV 値の確率分布と PET の SUV 値（研究業績[1],[2],[5]）胸部 X 線写真で診断可能な疾患や異常は多岐により異常度（z-score）マップを計算し，3.0 を閾値わたることを鑑み，昨年度より主に正常症例のみとして二値化して得られた連結領域を最終的な出を学習した異常検知に基づく病変検出について検力とした．異常集積が認められた胸部病変を含む討を進めている．まず，α-GAN を用いた異常検知

34 例で評価した結果，症例あたりの FP 数が 3 個手法について各種病変の検知を試みた結果，ROCのときの検出感度が 77.8%であった．図 4 に検出曲線の下面積（ROC-AUC）が 0.752 であった[1]．

結果例を示す．現在，対象範囲を全身とした場合また，可逆変換が可能なフローベース深層生成モで検討を進めている．

デルである Glow [H]を用いた異常検知についても検討を行い，初期検討の結果では ROC-AUC が0.783 と性能が向上した[5]．さらに，Glow を用いた病変の異常強調手法を構築し（図 3）[3]，9 名の放射線科医師による観察実験を行った．その結果，強調画像を用いることで放射線科医の病変検出感図 4: 検出例（矢印：縦隔結節による異常集積）．

度が向上した．

[G] Takenaga T, IJCARS 2019;14(8):1259-1266[H] Kingma DP, NeurIPS 2018:10236-10245(3) メニーコア型プロセッサを用いた大規模 DL
学習の検証
OFP および OBCX に PyTorch 1.5.0 およびhorovod をインストールした上で Reedbush-H/Lで構築した DL 学習フレームワークを実装した．

図 3: Glow を用いた胸部 X 線写真の異常強調（左：元画像，右：強調結果，矢印：肺腫瘤）

その際，投入ジョブに使用するノード数を可変に設定できるように調整を行った．
構築した環境において U-Net を用いたマンモグ(2-c) 頭部救急 CT 画像の異常検知

ラフィ画像（2048×1280）の腫瘤検出の学習を試

胸部 X 線写真の異常検知で用いた Glow を 3 次

みた．Reedbush-L（1 ノード）では 16,338 秒

元データ用に拡張した上で，頭部救急 CT 画像の（1GPU），1,678 秒（4 GPUs）で完了した学習がOFP では 23,090 秒（ノード数：4，64 コア／ノ

異常検知に適用した．その結果，ROC-AUC が0.866 であった．この成果は論文誌へ投稿中であード），OBCX では 15,759 秒であった（ノード数：4，54 コア／ノード）．

る．
4学際大規模情報基盤共同利用・共同研究拠点 2020 年度共同研究 最終報告書detection in chest radiographs’, Journal of Digital

6. 今年度の進捗状況と今後の展望

Imaging 2020 Jan 20 (Epub ahead of print).

今年度は新型コロナウィルス感染拡大の影響により，研究の遂行が停滞していた期間があったものの，実施した 3 項目（DL 構造探索方法の構築，(2) 国際会議プロシーディングス （査読あり）

複数ノード・GPU を用いた大規模 DL 学習の検討，該当無し

メニーコア型プロセッサを用いた大規模 DL 学習の検証）についてそれぞれ一定の成果が得られた．
各 CAD 開発については，教師あり学習による(3) 国際会議発表 （査読なし）
該当無し

病変検出のほかに，異常検知に基づく手法について検討した．その中でも生成モデルの Glow を用(4) 国内会議発表 （査読なし）

いた異常検知は良好な結果が得られており，論文[2] 野村行弘，花岡昇平，竹永智美，中尾貴祐，柴を投稿中である．また，肝結節病変については，田寿一，三木聡一郎，吉川健啓，渡谷岳行，林病変の検出だけではなく分類も同時に実現できた．

直人，阿部修，ディープラーニングに基づく今年度実施内容のうち未発表分については，今後3 次元汎用半自動病変セグメンテーションのの成果発表に向けた準備を進めている．

初期検討，第 39 回日本医用画像工学会大会，2020 年 9 月.

メニーコア型プロセッサを用いた大規模 DL 学
習については，DL 学習フレームワークを導入で[3] 花岡昇平，野村行弘，柴田寿一，三木聡一郎，きたものの，OFP ならびに OBCX の混雑状況の中尾貴祐，林直人，吉川健啓，渡谷岳行，阿部影響により初期的な検討のみに留まり，計算資源

修，Glow による胸部単純写真における教師なを十分に利用できなかった．

し異常強調の試み，第 33 回電子情報研究会・
第 3 回日本医用画像人工知能研究会合同研究

フローベース深層生成モデルによる異常検知は会，2020 年 11 月.

良好な性能が得られているものの，学習画像のサイズが大きい場合（2 次元画像で 1024×1024 以[4] 中尾貴祐，花岡昇平，野村行弘，林直人，阿部上，3 次元画像で 64×64×64 以上を想定）に勾配

修 ， ベ イ ズ 深 層 学 習 を 用 い た 全 身 FDG-

情報の保持に伴う GPU メモリ量の制約から学習

PET/CT における胸部異常検知，第 80 回日本が困難となる。そのため，モデル並列化の導入や医学放射線学会，2021 年 4 月.

使用 GPU メモリ量を抑制可能なアルゴリズムの(5) 公開したライブラリなど導入により，利用メモリ量の問題を克服していく

該当無し

予定である．
2021 年 11 月末に Reedbush-H/L の運用終了と(6) その他（特許，プレスリリース，著書等）なることに伴い，東大 Wisteria/BDEC-01 に DL

[5] H. Shibata, S. Hanaoka, Y. Nomura, T. Nakao, I.

学習環境を構築した上で研究を継続していく予定

Sato, N. Hayashi, O. Abe, Anomaly detection inである．

chest radiographs with a weakly supervised flowbased deep learning method, arXiv:2001.07847v3,
Oct 2020

7. 研究業績一覧（発表予定も含む．投稿中・投稿予定は含まない）(1) 学術論文 （査読あり）[1] T. Nakao, S. Hanaoka, Y. Nomura, M. Murata,
T. Takenaga, S. Miki, T. Watadani, T. Yoshikawa,
N. Hayashi, O. Abe, ‘Unsupervised deep anomaly
5