2023 年 2 月
JDLA 事務局「AI ガバナンスとその評価」研究会（第Ⅲ期）第 4 回
開催報告
1. はじめに日本ディープラーニング協会では、人工知能（以下 AI）や Deep Learning（以下 DL）に関連する国内外の政策動向についての知見を深め、議論する場としてテーマごとに研究会を設置している。本研究会「AI ガバナンスとその評価」は多様なアクターによる管理・評価の体制の在り方を「ガバナンス」と定義し、信頼される AI 構築へ向けた AI ガバナンスの在り方をテーマとして、2020 年 7 月から活動を継続し、今年は三期目となる。
第Ⅲ期第 4 回（2022 年 12 月 7 日開催）では、AI ガバナンスの実現に向けた「市民参加」をテーマに、医療 AI にフォーカスして議論した。医療 AI の有効な普及へ向けた課題や導入における市民参加の事例等について、岡本将輝氏（米ハーバード大学医学部/マサチューセッツ総合病院）より話題提供いただいた。
2. 話題提供「医療 AI 研究への市民参加」岡本将輝氏（米ハーバード大学医学部/マサチューセッツ総合病院）
医療現場における AI の現状
近年、臨床現場で使用可能な AI 医療機器の認可数は各国ともに早いペースで伸びている。米国では、臨床ワークフローや医療事務の最適化や、保険請求用の病名のコード化作業を自動化するプロダクトやサービスは、直接的に投資収益率の向上が見込めるものとして現場での導入が進んでいる。一方で医療画像解析については、実際の採用はいまだ小規模である。医療情報の 9 割以上は画像と言われており、そこから新たなインサイトを得ることは臨床的インパクトが大きいが、経済的メリット等の導入効果の検証が不十分であるため、医療機関の意思決定者の導入モチベーションを高めるには至っていな
いのが現状である。ただし、米国放射線医学会（ACR）や北米放射線学会（RSNA）が、医師による診断のセーフティネットとして AI システムを積極的に導入する姿勢を示すな
ど、医療 AI の今後の利用拡大は既定路線にあるといえる。
医療 AI 研究への市民参加（PI、Public Involvement）の必要性と障壁
欧米においては、医療 AI 研究への市民参加（以下 PI）の必要性について、急速にコンセンサスが得られようとしている。適切な考慮と対処をしないと既存の健康格差を増幅させてしまうリスクがあるといった AI モデルが内包するバイアスへの懸念等、パブリックガバナンスの観点が、PI 導入の大きな動機づけのひとつとなっている。
一方で、対象とする医療自体に高度専門性が伴い、種々の複合的要因が関係してくる
1

ため、市民が短時間で十分な学習と理解を深めるのは困難である点、提供しやすい患者当事者の意見が必ずしも一般を代表することにはならないといった点等の難しさがある。
また、医療分野に限らず AI 自体が複雑かつ流動的であるため、生産的な議論のためには市民の理解を常に最新とする必要があり、その点も継続的な PI を行うことを困難にする要素となっている。
英国における PI 事例
医療 AI における PI の議論では、英国の例が参考になる。国営の医療システムでユニバーサルヘルスケアを達成している点が日本と類似しており、リソース最適化のために、早い段階から医療の DX 化が進められてきた。
その英国における医療 AI のパブリックガバナスの構成要素には、一般の医療 PI 戦略の延長線上にあるものとして、①市民フォーラム、②患者・市民参画（以下 PPI）、③データアクセス委員会（以下 DACs）の三つがあり、それぞれ下記の特徴がある。各々のメリット・デメリットを相互補完し 3 つのアプローチを連携させることによって、医療 AI のパブリックガバナンスの総合的アプローチが新しく構築できるのではないか、との見方がある。
①市民フォーラムは、社会的重要課題について市民が意見・懸念・関心を提供する機会として 1970 年代以降、主に研究者やシンクタンクによって実験的に設計されている場である。一定の多様性が確保された中で、要約されたコンセンサス意見を得られ、意見の相違が民主的に調停される機会であることが利点である。一方で、参加者の代表制が統計的手法に依存していることや、ランダムに選定される個人にコミットメントを持たせにくいといったデメリットもある。既存のガバナンス機構に組み込まれたものではなく、特に医療研究の場合はかなり専門的な知識と豊富なリソースが必要となるため、研究者がガバナンス戦略として日常的に市民フォーラムを採用することはほぼないのが現状である。一過性のものになりがちで、時間をかけて意見を成熟させる必要のある PI 戦略の観点では課題が多い。
②PPI（患者・市民参画）は、患者の経験や公共の価値観を提供するもので、参加者属性が一般を代表していない点で市民フォーラムとは異なる。医療ガバナンスへの PPIの統合は中心的な議論として進められてきており、2012 年以降、Healthcare & Social
Act により医療サービスの計画・提案・決定に市民を参加させることが法的義務となったこともあり、今後も医療ガバナンスの実践において強い影響力を持つと考えられている。PPI メンバーは長期にわたり関与するため、組織の意思決定者と安定した関係が築かれ、意思決定者が PPI グループに成果をフィードバックする意識が働く等の利点がある一方、メンバーの構成はあくまで部分集団の代表であるため、普遍的な視点や多様性の確保という面では不十分といえる。
2

③DACs（データアクセス委員会）は、データの研究利用について、申請段階の審査・評価の責任を負っており、近年の英国ではデータの研究利用については DACs を介することが一般化しており、この過程に市民を巻き込むことで意見を反映させることができると考えられている。DACs はその性質上、参加するのはある程度データに理解のある専門家であるケースが多いため、より深い議論に至ることがメリットである反面、代表性のある市民を取り込むことは構造的に難しい。医療 AI の根幹となる臨床データアクセス自体をコントロールできるため影響力は大きいと考えられ、現時点では DACsでの PI 効果検証は示されていないが、今後の医療 AI のパブリックガバナンスのための重要な手段となる可能性は高いといえる。
3. 研究会参加者からの主なコメント
主な質疑やディスカッションの内容を以下に示す。
 医療 AI のステークホルダーについて

英国の事例における PI の 3 構成要素において、それぞれが自然発生的に成り立っていることもあり、合わせたときに十分なステークホルダーが確保されているか、という評価は難しい。現在は 3 構成要素をうまく取りまとめて相互補完するためのアプローチを模索している状況にある。

AI の標準化の検討においても、ステークホルダーの範囲があまりに広く不明確であることが課題となる。これまでの通信業界の標準化の例だと、レギュレーター、サービスオペレーター、機器ベンダー、消費者団体（エンドユーザー）というように明らかなステークホルダーを特定して、各グループから代表を募るというアプローチがある。



英国の市民フォーラムの場合では、市民は無作為に選定されるのではなく、情報（出身・性別・国籍・人種・職種など）が開示された状態で各要素を拾い、可能な限り幅広い属性の構成となるようにしている。

⮚ 参加する市民のリテラシー確保について

英国における市民フォーラムの例では、ある程度の知識水準が必要となるため、単に事前資料配布というレベルではなく、講義やディスカッションの時間を設けることで一定の水準に高めていく、という措置が行われている。



一般市民が生活の中で医療 AI プロダクトの広がりを認識する場面が少ない中で、医療 AI に対する知識・関心を高めるというのは難しいのが現状である。日本では専門メディアによる啓蒙活動等もあるが、最新知見を簡単な言葉に落とし込むのが難しいという面もあり、リテラシー向上につなげるのは容易ではない。サイエンス・インタープリター等の人材の育成は有効であろう。

⮚ 学習データと個人情報保護について3

医療 AI の精度には学習データの量と質が不可欠である一方、画像やカルテのデータ流用については市民から懸念が挙がる。対応の方法は医療機関によっても差があるが、米国でみられる最近の事例では、例えば顔画像の匿名加工の方法として、顔の特徴を残したまま再構築した画像を AI 学習に使う、といったアプローチも進められている。また医療データのアノテーション作業には膨大なコストがかかるため、公開して一般参加型でアノテーションさせるというアプローチやアノテーション不要な AI 開発もみられるようになった。



個人データの利用についての包括的同意（受診もしくは入院段階での合意を採用）の観点では、そもそも個人情報を含む患者のデータを使って作成したアルゴリズムを無制限に利用していいのか、という議論は日本同様、英国や米国でもなされている。

⮚その他の医療 AI の議論・課題意識についてAI に内包するバイアス（偏見）問題については、欧米の医療 AI 研究コミュニティ
では事例もかなり多く特定されており（例：白人と非白人でがんの検出率に差が出てしまうなど） 1、共通認識として捉えられている。



英国では、医師による直接の診断に関わる部分以外の付随するサービスに関しても、市民を巻き込んだ議論が進んでいる。例えば、NHS（英国国民保健サービス）がスタートアップ（Babylon Health ）と協業で進めているアプリ（初期の診断と受診先の情報提供をする）等も、積極的な議論の対象となっている。



英国では、医療研究の助成金申請の際に、計画段階で市民参加の過程や市民の反応の 評 価 を 含 む こ と を 申 請 要 件 と す る 動 き も あ る （ National Institute for HealthResearch による助成金枠組）。



社会において、医療 AI を受け入れる意識は世界的に高まっている印象はある。今後見落としや誤診をどのように受け入れていくのかという点も今後必要な議論になっていくだろう。
以上＜(第Ⅲ期)第 4 回開催概要＞
日時：12 月 7 日(水)10:00-11:00 （Zoom 開催）
内容：
・「医療 AI 研究への市民参加」岡本 将輝氏（米ハーバード大学医学部/マサチュー
セッツ総合病院/The Medical AI Times2）
・質疑・ディスカッション

1

関連参考論文, https://www.nature.com/articles/s41591-021-01595-02https://aitimes.media/

4