厚生労働科学研究費補助金（政策科学総合研究事業）
分担研究報告書

医療機関における意思決定者に対する人工知能教育研究分担者

亀田（千葉大学医学部附属病院義人

病院長企画室特任助教）

研究要旨
本分担研究では医療機関における病院長、その候補や支援人材等、人工知能導入に際する意思決定者に向けた教育プログラムを開発する。今年度においては、種々の関係者からのヒアリングや教育講座の情報収集と再編成を行い、病院執行部向けの教育プログラムの作成を試みた。
その結果、病院管理者や執行部として AI を活用していく 上で重要なポイントとして、以下の項目を抽出した。すなわち、(1) 人工知能とは何か、(2) 人工知能を活用する意義、(3) 人工知能の歴史とトレンド、(4) ディープラーニングの理論的な背景、(5) 医療における人工知能の活用領域、(6) 人工知能の限界と適切な活用、(7) 人工知能を活用した製品の調達について、の 7 項目となる 。
来年度においては、必要な知識や能力を整理することでコンピテンシーの設定を図る。また、病院執行部が広く受講できる様な環境整備及び、試験的講座の実施と受講者からのフィードバックによる教材の質の向上に取り組みたい。

① AI 教育プログラムの現状・情報把握

Ａ．研究目的

まず、AI 教育の現状や AI に関する情報本研究班では 、医 療用人工知能(AI)分野の把握を目指した。そのために、各民間おにおいて、技術革新と国際競争力向上に資よび国公立やそれに準ずる機関が提供からする人材育成プログラムを開発することを提供されているオンサイト/オンライン AI

目的としているが、本分担研究では医療機教育講座について実際に参加し、必要なリ関における病院長、その候補や支援人材等、テラシーの取得と抽象化・概念化を行った。

人工知能導入に際する意思決定者に向けた教育プログラムを開発することを目的とし、もって、AI を搭載した技術への理解と医療機関への研究開発協力への理解と社会実装

また、参加を通じて、AI 系情報技術者との関係構築を図った。
② AI 研究者・企業の AI システム開発者へを推進することを目的とする。のヒアリング
AI のプログラミング教育提供者、AI 研

Ｂ．研究方法究者や企業の AI システム開発者へヒアリングを行い、必要なリテラシーや AI を活用今年度、プログラムの開発に際して、以するためのコンピテンシー、および、それ下の 3 点に取り組んだ。

らの評価方法の開発を試みた。

11

③ プログラム開発の管理体制の構築（1） 人工知能とは何か（2） 人工知能を活用する意義

プログラムの開発に際しては、千葉大学（3） 人工知能の歴史とトレンド

医学部附属病院が展開中の「病院経営スペ（4） ディープラーニングの理論的背景シャリスト養成プログラム」の協力を得た。

（5） 医療における人工知能の活用領域「病院経営スペシャリスト養成プログラ（6） 人工知能の限界と適切な活用

ム」は、持続的な病院経営システムを構築（7） 人工知能を活用した製品の調達できる実践的な医療人材を養成することを目的とした病院経営に関する研修である。

文末に、各トピックの要旨を整理する。

これは、平成 19 年の学校教育法の改正以降実現した大学としての正式な履修証明書をＤ．考察発行する研修となっている。そのために、人工知能の社会実装に向けて、病院経営プログラムの進捗管理及び報告・改善の場陣が備えるべき知識について整理したが、として、内外の委員からなるプログラム運そもそも各個人の基礎知識にばらつきがあ営委員会を有している。本研究分担における中で、どのような項目を学習するべきか、る教育プログラムの開発に際しては、収集コンテンツベースの教材作成には限界があした情報をもとに教育プログラムを作成し、その概要を公私立の病院長を外部委員としると考えられる。医学教育や他分野の教育と同様、コンピテンシーを設定して、そのて擁するプログラム運営委員会に諮り、意習得に向けて各個人が主体的な学び見を反映する形式にて進めた。

（Active learning）を行う Outcome basedEducation が必要であると考えられる。

Ｃ．研究結果Ｅ．結論

東京大学大学院情報工学系研究科が主催する「実データで学ぶ人工知能講座」、公今年度においては、種々の関係者からの益財団法人 医療・病院管理研究協会が主催ヒアリング、教育講座の情報収集と再編成する「病院管理研修 医療における人工知能を行い、病院執行部向けの教育内容の概要とビッグデータの活用と影響」、株式会社A案を作成した。来年度においては、これをRKが主催する「AIエバンジェリスト養成講

更に成熟させ、必要な能力を抽象化しコン座」、株式会社キカガクが主催する「人口ピテンシーの設定を図る。また、病院執行知能脱ブラックボックスセミナー」、「デ部が広く受講できる様な環境整備及び、試ィープラーニングハンズオンセミナー」及験的講座の実施と受講者からのフィードバび株式会社メドピア主催の「Health 2.0 A

ックによる教材の質の向上に取り組みたい。

sia-Japan 2017」にて、人工知能周辺の知見を収集した。また、人工知能学会理事のＦ．研究発表

千葉大学荒井幸代教授よりヒアリングを行い、病院管理者として人工知能とどのようなしに向き合うべきか等についてまとめた。
病院管理者や執行部としてAIを活用していく上で重要なポイントとして、以下の7点を作業仮説として提示した。

12

人工知能の分類の一つに、強い AI、弱い補遺－医療機関トップを対象とした
AI 教育教材要旨

AI という分類があり、前者は汎用型人工知能と呼ばれる。いわゆる人間のような振る（1）人口知能とは何か舞いをする知的コンピューターであり、設計した時の想定を超えた新たな問題にも対人工知能の定義の前に、知能に関する統処する。後者は特化型人工知能と呼ばれ、一的な定義を考える必要がある。知能とは、人間が設定した特定の問題（画像の識別等）一般的には知的な活動の能力であり、知的に対して、主に機械学習を用いて解決する。

な活動には問題解決・推論・学習などの情強い AI の実現は未だ課題が多く、通常活報処理能力や抽象化、一般化などが一面と用されるのは後者である。

して挙げられる。

人工知能の持つ機能は人体の構造・機能一方、人工知能は、一般に「何らかの知になぞらえて、目、耳、言語に例えられる。

的動作が可能な計算機システム」と言われすなわち、画像認識、音声認識、自然言語るが、この「知的動作」にも定義が無い。

処理である。これらの情報を数値化し、機また、人工知能では知能をシミュレートす械学習を通じて規則性を見つけ出し、推計ることになるが、知能のシミュレーションあるいは分類した結果として出力するといが知能といえるかという疑問もある。表 1

うのが基本的な挙動となっている。に示されるとおり、本邦の主要な人工知能

人工知能と機械学習及び、近年注目され研究者においても、人工知能の定義は様々るディープラーニングの関係性として、であり、統一的な定義はなされていない。

「人工知能∋機械学習∋ディープラーニン

中島秀之

公立はこだて未来大学 人工的につくられた、知能を持つ実態。あるいはそれをつくろうと

武田英明

国立情報学研究所

西田豊明

京都大学

することによって知能自体を研究する分野である「知能を持つメカ」ないしは「心を持つメカ」である
人工的につくった知的な振る舞いをするためのもの（システム）で

溝口理一郎

北陸先端科学技術大学院

長尾真

京都大学

人間の頭脳活動を極限までシミュレートするシステムである

堀浩一

東京大学

人工的に作る新しい知能の世界である

浅田稔

大阪大学

知能の定義が明確でないので、人工知能を明確に定義できない

松原仁

公立はこだて未来大学

究極には人間と区別が付かない人工的な知能のこと

池上高志

東京大学

た相互作用を、物理法則に関係なく、あるいは逆らっ て、人工的に山口高平

慶應義塾大学

栗原聡電気通信大学

山川宏

ドワンゴ人工知能研究所

ある自然にわれわれがペットや人に接触するような、情動と冗談に満ちつくり出せるシステム
人の知的な振る舞いを模倣・支援・超越するための構成的システム
人工的につくられる知能であるが、その知能のレベルは人を超えているものを想像している
計算機知能のうちで、人間が直接・間接に設計する場合を人工知能と呼んで良いのではないかと思う
人工的につくられた人間のような知能、ないしはそれをつくる技
松尾豊

東京大学

術。人間のように知的であるとは、「気づくことのできる」 コン
ピュータ、つまり、データの中から特徴量を生成し現象をモデル化することのできるコンピュータという意味である

表１ 国内の主な研究者による人工知能の定義(総務省 平成 28 年度情報通信 白書より)

13

グ」という関係がある。ディープラーニン

期に比べ働く人よりも支えられる人が多く

グは機械学習の一手法であり、機械学習はなる状況であり、ボーナス期のような人を人工知能を構成する一要素であると表現で大量に投入して行うような経済発展の仕方きる。弱い人工知能による問題解決の手法は通用しなくなる。人口オーナス期に生じは、現在、二つのアプローチが主流となっる典型的な問題は、労働人口が減少するこている。一つは、回帰問題の解決(結果の推と及び、働く世代が引退世代を支える社会計・推定)であり、もう一つは分類問題の解保障制度の維持が困難となることである。

決(分類)である。

高齢化は世界的な課題であるが、日本は特

このようなアプローチで人工知能に問題に主要国で最も早く少子高齢化が進行して解決をさせる上では、大量の利用可能なデいる。ことさら医療に関しては、限られたータ、高い計算機能力、機械学習アルゴリ

財源の中著しく増加する高齢者に対してサズム、3 つの要素が重要となる。近年の人ービスを提供していくことが求められてお工知能ブームには、これらの 3 要素がそろり、生産性の向上が不可欠である。人工知うようになったことで、研究がなされてき能による産業構造の変化は、ドイツが人工た技術が現実的な問題に適用できるように知能含めて IoT(Internet of Things)の社会なった背景がある。

実装を Industry 4.0 (第 4 次産業革命)と銘打っており、人工知能の活用による生産性（2）人工知能を活用する意義の向上が期待されている。米国では「米国人工知能研究開発戦略」を策定して、各分人工知能が注目を集めるようになった社

野の人工知能の実装に関するロードマップ

会的な背景には、技術的側面のみならず、を策定しており、中国では新一代人工智能

人口構造の変化及び産業構造の変化がある。

発展計画を立案し、自動運転、都市計画、日本においては、1960 年頃から 1990 年

医療映像、音声認識の 4 分野に特に力を入代半ばまで人口の生産年齢割合が高く、人れ、百度、アリババグループ、テンセント、口構造が経済にプラスになる時期があった。

科大訊飛（iFLYTEK）の 4 社を 指定してこれは人口ボーナスと呼ばれ、安い労働力

2030 年 ま で に 世 界 ト ッ プ 水 準 へ 向 上 さ せを背景に世界中の仕事を受注する一方で、中国を世界の主要な「AI イノベーションセ

高齢者割合が低く社会保障にかかる費用がンター」にする事を目指している。このよ比較的少ない時代であることを活かし、イうに各国が人工知能の活用を国家戦略に位ンフラ投資を進めることができた。経済発置づけており、日本でも日本世界最先端Ｉ展に関しては、高度成長期となる時代であＴ国家創造宣言・官民データ活用推進基本る。

計画(平成 29 年 5 月 30 日 閣議決定)が策定

高度成長期が訪れると富裕層が子供に教されるなど、国家として取り組んで行くべき事項である事がわかる。

育投資し、高学歴化による人件費の上昇と晩婚化・晩産化が進み少子化の傾向が生じ（3）人工知能の歴史とトレンドる。医療や年金制度が充実するため平均寿命も延び、やがて高齢化社会へと移行する。
人口ボーナス期が終えんを迎え、次に来人工知能研究は 1950 年代から続いているのが人口オーナス期である。オーナスとるが、現在までに 3 回のブームが生じてきは「重荷・負担」という意味で、人口構造たとされる。

が経済の重荷になる時期である。ボーナス14第 1 次ブームでは、コンピューターによる「推論」や「探索」が可能となり、特定（4）ディープラーニングの理論的背景の問題に対する解決ができる様になった。
しかし、複雑な問題の解決が困難な事が明人工知能を活用する上での得意不得意をらかとなり、ブームの終焉を迎えた。この知るに当たって、その前提となる理論的背頃の技術ですでにパーセプトロンや人工対景を知ることは重要である。特に実応用が話システム ELIZA などが作られている。

進んでいるディープラーニングの理論的背第 2 次人工知能ブームは、1980 年代に生景の概要を説明する。

じた。推論に必要となる知識を人手を用い機械学習を利活用する場合、大きく二つて表現し、コンピューターに与えることで、の手法が存在する。一つは線形代数を基礎実用的な「エキスパートシステム」(専門分としたもので、もう一つは確率統計学を基野の知識を取り込んだ上で推論することで、礎としたものである。前者には個々で扱うその分野の専門家のように振る舞うプログ

ディープラーニングやサポートベクターマ

ラム)が実現した。また、エキスパートシスシーン(SVM)と呼ばれるパターン認識手法

テムの他に、入力された知識から確定的ななどが含まれ、後者にはマルコフ連鎖モン手順の記述なしに結果を推定する「ファジテカルロ法(MCMC)や隠れマルコフモデル

ィ」や「ニューロ」コンピューティングが(HMM)などといったものが含まれる。

開発された。しかし、コンピューターが十機械学習を活用して問題解決を図る場合、分な情報処理能力を持たない時代であった

大まかな流れは以下の通りとなる。

ために、「ファジィ搭載」を謳った商品が市
1） 解 決 し た い 問 題 に 対 し て 計 算 モ デ ル を販される程度に留まり、ブームはやがて終焉を迎えた。

決める

第 3 次人工知能ブームは、2000 年代からディープラーニングは、計算モデルとし現在まで続いている。発達したコンピューてはディープニューラルネットワーク

ターの計算能力を活用し、また、大量に集積するようになったビッグデータを用いて、「ディープラーニング」(2006 年)などの機(DNN)と呼ばれ、入力層、中間層（隠れ層）、出力層からなる(図 1)。中間層を何層置くか、隠れ層のノードをいくつ置くかについても械学習アルゴリズムによって様々な実用的ヒトが設定する必要がある。パラメーター課題が解決できる様になったことが背景にW の値ははじめランダムに設定する。DNNある。

では、入力 x についてパラメーターが掛けられた結果の値 U に対して、そのまま結果こうした技術の多くやプラットフォームを用いるのでは無く、非線形データにも対は、無料で公開されることが多い一方で、応できる様に非線形変換が行われる。非線対象となるデータの量と質が課題解決に重形変換に用いられる関数を活性化関数と呼要視されている。また、実際の商品・サーび、従来はシグモイド関数というものが使ビスとして社会に浸透するためには、実用われていたが、現在、ReLU 関数というも化のための開発や社会環境の整備、課題をのが一番精度高く結果を出せるといわれて持つ業界と人工知能技術者間でのすりあわおり、これを用いる場合が多い。

せなどの取組を進めていく必要がある。

15

算を繰り返す(最 急 降 下法)これ を 誤差逆 伝播法という。
（5）医療における人工知能の活用領域医療においても様々な領域で人口知能の活用が期待されている。一つの分類方法として、総務省「ICT の進化が雇用と働き方に及ぼす影響に関する調査研究」では、識図１ ニューラルネットワークの例

別(音声認識、画像認識、動画認識、言語解析)、予測(数値予測 、マッチング、意図 予

2） 評価関数(損失関数)を決める

測、ニーズ予測)、 実 効(表現 生 成、デザ イン、行動最適化、作業の自動化)に分類してDNN において、評価関数では、回帰問題いる。これらを医療に照らし合わせること

では通常平均二乗誤差、分類問題ではソフにより、AI を活用してどのような事が実現

トマックス関数という関数を用い、クロス可能か考える手がかりになるかもしれない。

エントロピー誤差という値を求める。設定

医療における人工知能の活用も多岐荷渡したパラメーターを元に評価関数の値を求

また現在進行形で増え続けているため、枚める事を順伝播という(図 2)。

挙にいとまが無いが、個々では 3 つほど例を挙げる。
1) 医療画像処理
画像処理はディープラーニングが最も特異とする分野の一つである。現在の第 3 次AI ブームは、Stanford 大学の Fei-Fei Liが教師付画像データ：ImageNet を創設した事から注目を浴び、画像認識で始まった経緯がある。人工知能を画像解析に活用する場合、畳み込みニューラルネットワーク(CNN: Convolutional Neural Network)というモデルを用いることが多い。
画像認識タスクでは、画像データとそのラベルを大量に学習させることによって、

図２ 順伝播と誤差逆伝播

未知の画像に対してそれが何であるかのラ

3） 評価関数を最大化もしくは最小化するベルを出すという枠組みで動作する。この評価関数を最小化するために、評価関数脈瘤の高精度な検出に応用されており、そをパラメーターW からなる式に整理して、のほかの頭蓋内病変の診断への応用や、胸その式を W で偏微分し、その値を元のパラ部 X 線写真から骨の特徴量を削除すること技術を活用して、既に放射線領域では脳動メーターW から引く事により更新する計により鎖骨や肋骨が無い画像を提供し、肺16の病変を見やすくする、などの技術が開発

ベースの蓄積を活用して、診断支援に取りされている。東京大学初ベンチャーのピ組むことや、ツイッターのつぶやき内容をクセルは富士フイルムと共同し、人工知能自然言語処理で解析し、感染症発生を推定による診断支援を富士フイルムの医療用画するツールの開発、語彙から将来の認知症像情報システムに搭載していくことを目指の発生を予測する技術など、様々な分野でしている。東芝デジタルソリューションズ

実用化が図られている。

は千葉大学と共同し、胃がんのリンパ節生

上記以外にも、人工知能の推計・分類機検献体に対し、人工知能を用いた術中迅速能が活用できる領域は様々にあると考えら病理診断の研究を行っている。

れる。人工知能の特徴を理解し、医療現場十分な量の教師付データがあれば様々なのどのような課題解決に、どのように人工分野に応用が可能であり、病理診断の自動知能を活用するか考えていく事が社会実装化、内視鏡所見をリアルタイムに解析して、には重要である。

腫瘍らしき所見にアラートを発するシステムや、悪性黒色腫等の皮膚疾患の検出など（6）人工知能の限界と適切な活用

様々な画像診断技術に人工知能の活用が取チューリングテストり組まれている。

チューリングテストという、機械に応答
2) がんの Precision

させて人間が応答しているか機械が応答しMedicineているか、判断するテストがある。しかしゲノム医療において、患者個々人のゲノ未だ十分に人間らしい反応であるという成ム情報から、より効果的で安全な治療法を果を挙げてはいない。

選択する Precision Medicine が行われ始めている。既報の文献や既存の遺伝子・病態・不完全性定理

治療に関するデータベースの情報をキュレーションする事により、個々人に最適化さ「自己言及のパラドックス」いわゆる「クれた診療について提案する。国立がんセン

レタ人は嘘つきだとクレタ人は言った」を、ターは産総研や国内発人工知能ベンチャーゲーゲルが数学的に証明したもの。完全な企業である Preferred Networks と共同で人工知能はその完全性を証明できないといPrecision Medicine に取り組んでいる。

う矛盾が生じる。外部から条件・定義を設定する必要が生じる。

3) その他自然言語処理等の活用
中国語の部屋

患者の問診内容や身体所見をインプットとして、診断補助に活用する手法や、診療中国語を知っているヒトがコンピュータ文書の作成補助などの活用方法が考えられーに対して中国語を入力、別の部屋で中国る。文脈として理解する必要がある場合は、語を知らないヒトが中国語を記号として認前後関係を踏まえた分析が可能なモデルが識して、ある記号に対してはこの記号、と必 要 で あ り 、 主 に Recurrent Neural

いうように返答すると、見かけ上中国語をNetwork が用いられる。

理解しているヒトが対応している様に見え総務省次世代人工知能社会実装ワーキンる。単に記号を操作するだけで知能をシミ

ググループの自然言語処理の医療応用の報ュレートしており、知能はヒトにも機械に

告によれば、学会が行ってきた症例データもでっち上げられるというもの。

17

にあるか、製品使用者にあるか。人工知能
フレーム問題が出した解答に従って起きた問題の所在は、どのような場合にどこに置くべきか。

現在、人工知能は思考すべき範囲や詳細度の決定を人工知能自身でできない。ある

Asilomar AI Principles (2017)

目的を達成使用とする場合、関係ある事項のほか、関係無い事項は無限に存在するた2017 年 1 月、カリフォルニア州アシロマ

め、それを洗い出そうとすると無限に時間にて行われた、全世界の AI の研究者と経を要し停止してしまう。

済学、法律、倫理、哲学の専門家が集まり現在のところ、人工知能に対しヒトが「適議論された人類にとって有益な AI に関す切」な範囲を定める必要があり、「範囲を定る原則。研究に関する 5 項目、倫理と価値める問題」の一般的な解決は困難である。

観に関する 13 項目、長期的な問題に関する 5 項目計 23 項目が挙げられた。

記号接地問題
記号を実世界の意味と結びつけられるかAI ネットワーク社会推進会議報告書 2017という問題。コンピューターは記号の意味

総務省情報通信政策研究所が、平成 28 年を理解していないので、記号の操作だけで10 月から「AI ネットワーク社会推進会議」知能を実現できない。例えば、シマ＋ウマを開催し、AI ネットワーク化をめぐる社会＝シマウマという様な概念を一般化して獲的・経済的・倫理的・法的な課題について得する事はできない。

検討を進めている。平成 29 年 7 月に報 告書が発出され、その中で、国際的な議論のための AI 開発ガイドライン案が提案されトロッコ問題た(図 3)。

トロッコが線路の上を走行しており、岐路が設けられている。線路の先には修理作（7）人工知能を活用した製品の調達業中の 5 名の作業員がおり、そのまま走ると 5 名が轢かれる。別の岐路の先には 1 人人工知能の用いた製品を開発・実装するが作業している。A 氏はたまたまトロッコ

場合、図 4 のような手順が必要になると考の進行方向を変えるレバーの近くにいる。

えられる。前述の通り、現状人工知能を活A 氏がとるべき「正しい」行動とはどのよ用する場合、問題の設定を解決モデルの設うなものか。という問題。人工知能に「正定はヒトが行わなければならない。適切なしい」判断をさせる場合、何を持って「正システム開発のためには、現場の問題意識しい」とするか。人工知能にどのような価と、人工知能開発研究者と、ユーザーイン値判断を与えるべきか、どのようにコンセターフェース開発ベンダーとの間で、密なンサスを得るのか、コンセンサスは得られコミュニケーションが必要となる。それをるのか。

理解した上で、対応適任者を専任する必要が出てくる。また、精度向上のためには、瑕疵があった場合の責任の所在

利用環境で生まれるデータを学習させ続け人工知能を搭載した製品を使用して起きる仕組み作りも重要である。

た問題の中で、人工知能の判断が誤っていたために起きた問題の責任は、製品製造者

18

図３ 総務省による AI 開発ガイドライン案

19

ヒ アリ ン グ1

ど のよ う に応用し たいか、 ど のよ う な課題を 解決し たいか。

ヒ アリ ン グ2

それか可能か？すなわち 、データ 整理

データ の整理と ラ ベル付け

非構造化データ の構造化
モデルの構築1． 教師データ はある か
2． 分析可能なフ ォ ーマッ ト （ CSVな ど ） か
3． そも そも 人工知能が必要か

データ を 人工知能で 分析で き る 形に構造化解決し たい課題に合わせて 分析モ デルを 構築する

検証

目的を 達成で き る 出力結果がえら れて いる か検証する

仮運用

仮運用で 現実データ で問題無いか、 ま たさ ら なる データ の収集構造構築

再検証

運用上問題無いこ と を 確認

図４ 機械学習を含んだ人工知能製品の開発運用フロー例

以上、人工知能の社会実装に向けて得ておくべき基本的知識を記載した。経産省発行の H29 年通商白書によれば、日本のイノベーション能力は世界 21 位、研究開発における産学協業は 18 位と順位が低く、今後イノベーションの推進に向けて行動していくことが重要と考えられる。

20