厚生労働科学研究費補助金（政策科学総合研究事業）
分担研究報告書
医療用人工知能の普及啓発に向けた課題分析
研究分担者
木村眞司

（札幌医科大学医療人育成センター教養教育研究部門）

研究協力者
岩田啓芳

（独立行政法人 地域医療機能推進機構 城東病院）

研究要旨
医療用人工知能の研究開発に際しては、各医療機関の研究開発への参加や学会レベルでの大規模研究の実現等において、各組織の長や学会幹部の理解が不可欠である。しかしながら、これら意思決定に関与する人材を対象とした医療用人工知能の教材がなく、各プロジェクトの負担となってきた。一方、これらの人材には、一方的な情報提供は必ずしも有効ではなく、むしろ、対話を通じた信頼の醸成や疑問の解消が行動変容に繋がりうる。そこで、本研究分担は、医療用人工知能の普及に向けて、これら各分野の意思決定者を対象とした啓発活動のあり方を検討した。
今年度は、その準備段階として、総合診療の臨床現場における医療用人工知能のニーズや課題のヒアリング調査を試みた。そのために、研究代表が研究開発を行ってきた診断支援システム「PGY-01」を 対象と して、試 験運用経験のある医師と運用経験のない医師にインタビューを行い、診断支援システムの必要性や現場での課題を分析した。
ヒアリングの結果、診断支援システムは、臨床現場において利用されていなかったことが判明した。原因として、診断支援システムの利用導線と提供情報の有用性に課題が見出された。一方、現在の臨床スタイル自体が抱えている各種バイアスに対する懸念と、医療用人工知能に対する医師らの強い期待も明らかとなった。以上の結果から、診断支援システムには、臨床側に相応の需要と期待があることが示唆された。今後、臨床側における診断困難症例に対応するための技術の他に、医療の質を無意識のうちに低減せしめている一般症例に対する支援を通じて、組織幹部を啓発しうる可能性が見出された。

Ａ．研究目的

臨床診断には時には膨大な情報とその処理が求められ、多くの労力・時間を要する場

臨床診断は医療の現場において欠かせな合がある。そうした際、診断プロセスの複い重要な過程である。これは全国のあらゆ雑さや様々な外的要因から、致死的疾患やる医療機関において、質の程度の差はあれ緊急を要する疾患の診断ミス・見逃しなどども普遍的に行われている。しかしながら、が生じ得る。そこで、臨床診断を支援する

25

医療用人工知能分野の発展に向け、技術革

２．医療用人工知能の潜在的な利用者：

新と国際競争力向上に資する人材育成が必筑波大学 地域医療教育学 濱田修平氏要となった。
本分野の政策研究を経て、医療用人工知

質問内容

能研究は、研究人材の欠如に加えて研究プ

Q1-1:診断 AI(PGY-01)を日常的に用いておらロジェクトを支える人材により制約を受けれますか？その頻度を教えて下さい。

ることが明らかになった。たとえば、医療Q1-2:診断 AI(PGY-01)を日常的に使用してい用人工知能研究を進めるためには医療機関ない場合、その理由を教えて下さい。の意思決定者に技術が受容される必要があ

Q1-3：PGY-01 の改善点を教えて下さい。

る。しかし、医師決定者に医療用人工知能に関する十分な理解がなければ実現しない。
そこで、本研究分担では医療用人工知能な支援が得られるとより有益ですか？
Q2-2:病気をリストアップするだけではなく、の開発や普及に関わる意思決定者の啓発を何か AI の機能として追加できるか？

目標として掲げた。そのために、今年度でQ3:は、医療用人工知能の有望な応用である診医師による診断過程において、陥りがちな過ちは何でしょうか？

断支援システムの必要性や現場での課題を

Q4:最 近 の医 学 系 ニ ュ ー ス で 、 最 も 取 り 入

分析し、研究教育機関・研修病院の臨床現れてみたいと思った技術は何でしょ

場における受容と活用の促進に向けた知見うか？また、その理由を教えて下さい。の収集を図った。

Ｃ．研究結果Ｂ．研究方法１．川崎市立多摩病院 聖マリアンナ医科大学 総合診療内科 土田知也医師

医療用人工知能の研究開発や活用に際した意思決定に関わる人材を対象とした啓発

土田氏は PGY-01 の試験運用を行ってい活動を行うため、まず医療用人工知能の運る医師であり、医療用人工知能の運用に関用に関するフィードバックを対面による面するフィードバックを収集した。その結果、接によって収集する。対象として、診断支

PGY-01 は試験運用開始時に試験的に利用

援 シ ス テ ム の プ ロ ト タ イ プ で あ る PGY-

してみて以来殆ど利用されていない事実が01(図 1)を試験運用している教育研究病院判明した。その理由として土田氏があげたの担当者、及び PGY-01 の運用経験のないのが、川崎市立多摩病院では診断システム医療用人工知能の潜在的な利用者のない臨を利用する必要があるような難解な病気に床現場の医師を想定した。インタビュー対遭遇するケースが稀であるという点であっ象者、及び質問内容は以下の通り。

た。多くのケースで診断システムを利用すること無く診断がつくため、診断システムインタビュー対象を利用するルーティンが生まれず、結果として極稀に遭遇する診断困難な事例でもシ１．診断支援システムのプロトタイプ

ステムを利用することなく当該領域の専門

PGY-01 を試験運用している医療機関の担当者：川崎市立多摩病院
アンナ医科大学

Q2: 診断困難時に、診断 AI からどのよう総合診療内科家に相談して解決していた。

聖マリ

一方で、実務の中で診断システムを利用土田するケースは無かったものの、試験運用の知也氏

26図 1 診断困難症例の診断支援システム PGY-01
開始前に実施した特定の疾患を想定したテなければならないとは限らない」というごストでは、想定通りの鑑別を診断システム指摘があった。高齢者の多い病院では様々が出力しており、診断システム鑑別精度にな病態を持った患者が訪れる。その際、診ついては十分な水準にあると認識していた。

断をつけるための情報が少ないと経過観察

しかし、Google 検索のような既存の検索シによって様子を見るケースが多く、結果とステムでも同様の疾患が出力されていたとして治癒してしまうことも少なくない。そのことで、この時点で診断システムの必要うしたケースもある中で、診断システムを性に疑問を抱いていたというお話だった。

用いて診断を付け、疑いがあるから検査をこうした中で、診断システムの改善点と行なうことは患者の負担を増やしてしまう

し て 土 田 氏 が 挙 げ た の は 、「 ス マ ホ な ど でことに繋がるというご意見を頂いた。

簡単に利用できる形態での提供」や「電子診断困難な事例はどのようなケースで遭

カルテ等普段の業務で利用しているツール

遇するのか尋ねたところ、外来を中心に扱と の 連 携 」「 疾 患 に 関 す る 論 文 な ど の 文 献う総合診療で月に 2-3 例見る程度というこなどを表示する機能の追加」の３点。臨床とだった。後に疾患が判明することもあれの現場ですぐに使えるアプリケーションやば、自然に治癒してしまうケースもあった

普段の業務の中で特に意識せずに使えるシという。ただ、こう言ったケースで診断システムであれば利用頻度は増え、鑑別に合ステムを利用することは想起されなかった。

わせて疾患に関する論文なども提示してく

医師による診断過程による過ちとして、れれば、利便性は高まるというご助言を頂

土田氏は「診断時のバイアス」を挙げた。

いた。

その上で、こうしたバイアスを無くすためまた、臨床現場からの貴重な意見としてに診断システムを利用することは有用では「診断困難だからといってすぐに診断つけあるものの、バイアスを無くすために運用27するのであれば、カルテや問診データの読性が低く考える必要のないもの」を挙げてみ込みや読影システムへの組み込みによっくれると良いというご意見も得られた。こて、医師による診断結果をチェックできるれにより、考慮する必要のない疾患を想定

仕組みや得られたデータをそのまま使えるした検査を省くことができるため、患者の機能が必要だろうというご指摘を受けた。

負担を軽減することができる。

この他に、近年の医学系の技術で興味深医師による診断過程による過ちとしては、いものを伺ったところ、幾つか貴重なご意

土田氏と同様に思い込みバイアスによる見見を頂けた。例えば、医療用ロボットが看落としや先入観を挙げた。臨床現場では、護師や家族の代わりに介護やリハビリのサ医師が簡単な検査で見つけられたはずの疾ポートをロボットが行い、患者の歩き方の患を見落とすことがある。こうしたケース

変化などを医療用ロボットが認識して疑いで、鑑別と合わせて必要な検査などを人工のある疾患を提示してくれると医療の質は知能が提案してくれることで医師の見落と大きく向上する。また、患者の自宅などにしを防げるかもしれない。また、検査デー

各種センサを設置し、患者の体調等を日常タの分析を人工知能が細かく分析すること的に観察してくれるようなシステムがあれで、人間が見落としがちな微細な兆候を見ば、そのデータを用いて診断システムが病逃さなくなる可能性についても言及した。

気の兆候を発見することで「予防医療」に医療技術について気になるものとしては、繋げるようなアプローチも可能になるといマイクロ RNA 分析を挙げていた。マイクう意見であった。

ロ RNA 分析によって、通常なら発見でき今回の土田氏へのインタビューでは、試ないような小さながんを発見できるように

験運用では診断システムをあまり利用しななる。これにより、がんの早期発見・早期かったものの医療用人工知能に対する期待治療が可能になれば、がんの治療は大きく感は感じられた。その一方、臨床現場で利発展するというお話だった。

用するには様々な課題があるというお考え

濱田氏へのインタビューでは医療用人工であり、こうした課題の解決は急務である知能に対する強い期待が伺えた。診断シスと言える。

テムを積極的に利用することで患者の負担を軽減しようという発想も新しい。また、

２．筑波大学地域医療教育学 濱田修平医師

診断システムへの期待は PGY-01 利用目的

濱田氏は PGY-01 を利用していない臨床にマッチしており、潜在的なユーザーとして有意義なヒアリングとなった。

現場の医師であり、医療用人工知能の運用経験がないため、今回は質問内容の「Q2」

Ｄ．考察

以降、医療用人工知能に対する期待や医療現場の課題について尋ねた。
まず、診断システムに期待するものにつ

今回のインタビューにより、診断システ

いては、患者の症状などから可能性の高いムの運用に際し幾つか重要な知見を得られものを順に表示し、見逃しやすい疾患などた。まず、診断システムの精度に関してはを鑑別に加えてくれると良いということだ

十分と認識していながらも使用されることった。これについては PGY-01 で提供されがなかったこと。原因としては、診断シスているが、診断がつけられるようなケース

テムを使用する必要のある診断困難な事例

では「可能性の高いもの」と同時に「可能の少なさとシステムの使いにくさが挙げられている。しかしながら、診断 AI の活用

28

目的の中に医師の持つバイアスの除去があ担を増やす事に関する懸念があった。診断る以上、診断システムは医師が必要と感じシステムの現行の目的とは方向性が異なった時以外にも利用されることが望ましい。てくるものの、患者の負担を減らすための人間よるバイアスは診断困難な事例だけで診断システム利用についても検討の余地がはなく、診断がつくケースでも起こり得る。

ある。

バイアスの存在に医師が気づけるように、さらに、双方のインタビューで臨床現場常に利用されている状態が理想である。

における過ちとして診断時のバイアスが挙また、診断困難な事例が少数ながらあっげられた。これによって、バイアスを除去たにもかかわらず診断システムが利用されするための診断システム活用については一なかった。診断システムを含め、医療に用定の需要があることが示唆された。しかし、いられる機器が使いにくい場合、医師がそ試験運用の現場では、鑑別を挙げるだけでの必要性を強く感じた時にしか使われなくは不十分という意見もあった。疾患に関連なる。しかし、そのケースが極稀にしか発する論文の表示や使いやすい形態での提供生せず、代替手段が容易に利用可能な場合、など、診断システムの活用方法や追加機能利用するべきケースでも診断システムが利についてはさらなる検討を加える必要があ用されにくくなる。今回の試験運用では「診るだろう。

断困難な事例はその分野の専門家に意見を求める」「Google 検索でも同様のことがでこれらの結果を受けて、医療用人工知能きる」という意見があり、何らかの代替手の普及に向けての医療系学会の意思決定者段が用いられたと推測される。このことかへの啓発活動には、特に以下の点に留意し、ら、診断システムが利用しやすい形態で提理解を得ていく必要があると考えられた。

供される事は診断システムの普及促進にお（１）医師が「診断 AI を用いよう」といて非常に重要な要件となると思われる。

思わないときにこそ、アンカリングバイア利用しやすい形態の例として、今回のインスによって抜け落ちが発生することから、タビューではスマートフォンでの利用のほそうした事態を避けるうえでもプライマリか、電子カルテとの連携や問診時の音声デケアに人工知能が有益たりうること。

ータ活用などが例示された。小型の情報端（２）そのためには、たとえば、電子カ末ですぐに利用できる形態、もしくは医師ルテに組み込まれることにより医師の診察の日常業務の中で収集される情報をそのまや記載、検査オーダーや処方を自動的にモ

ま診断システムに活用できる形態で診断シニタリングし、必要に応じて警告を発するステムが提供されることが望ましい。

仕組みが有益であること。

現行の診断システムでは、診断時のバイ（３）カルテ記載から病名や症状を自動アスを除去するために鑑別をより多く挙げ的に抽出する技術、いわゆる医療用自然言る形式をとっていた。しかし、今回のイン語処理の性能向上により、医療用 AI 技術

タビューから臨床現場の医師が患者の負担にさらなる発展が実現しうること。

軽減を強く意識していることが分かった。

（４）上記のような仕組みの実現には、診断システムに期待するものの中に不要な技術の研究開発だけでなく、制度面での課検査を明確にするために無視出来るケース題が合わせて克服されなければならず、そを提示して欲しいというものもあれば、診のためにも学術団体として働きかけていく

断システムの利用を避ける理由に、鑑別を必要があること。

挙げることで検査が増え、患者に対する負29

繋げたい。

Ｅ．結論
Ｆ．研究発表医療用人工知能の研究開発に際しては、各医療機関の研究開発への参加や学会レベ

１．論文発表ルでの大規模研究の実現等において、各組なし

織の長や学会幹部の理解が不可欠である。
しかしながら、これら意思決定に関与する

２．学会発表人材を対象とした医療用人工知能の教材がなしなく、各プロジェクトの負担となってきた。
一方、これらの人材には、一方的な情報提供は必ずしも有効ではなく、むしろ、対話を通じた信頼の醸成や疑問の解消が行動変容に繋がりうる。そこで、本研究分担は、医療用人工知能の普及に向けて、これら各分野の指導者を対象とした啓発活動のあり方を検討した。
今年度は、その準備として、総合診療の臨床現場における医療用人工知能のニーズや課題のヒアリング調査を試みた。本来は、大勢の医師を対象としたグループインタビューが望まれたが、時間的な制約が厳しく、結果的に 2 名のインタビューに留まった。
それでも、現在の総合診療における課題と、医療用人工知能を通じた克服に向けた前向きなフィードバックを得ることが出来た。
また、インタビューを通じて、臨床現場で医療用人工知能の利用を促進していくう
えで、いくつかの課題も明らかとなった。
まず、診断支援システムが医師の日常業務において自然な流れで利用できない限り活用も進まないという点がある。また、診断支援システムが医師のバイアスを補う方向に働くためには、医師が診断困難を感じる場合だけでなく、医師がなんら困難を感じない症例においても医療用人工知能が診療をモニタし、必要に応じて医師に示唆を与える必要があるものと考えられた。
今後、今年度の検討によって得られた知見を活用することで、各分野の指導者に対する啓発活動の具体化と研究開発の促進に

30