令和３年度
ＡＩ モ･ バイル用アプリケーション等最先端医療機器調査等事業報告書

令和 3 年度
ＡＩ･モバイル用アプリケーション等
最先端医療機器調査等事業報告書

令和 4 年 3 月

国立医薬品食品衛生研究所
医療機器部長 蓜島由二
令和４年３月目

次

1.

背景及び目的．．．
．．
．
．
．．
．
．
．．
．
．
．．
．
．．
．．
．
．．
．．
．．
．
．．
．
．
．．
．
．
．．
．
．．
．．
．
．．
．．．
．
．
．．
．
．．
．．
．
．．1

2.

海外の開発及び薬事規制状況．．
．．
．．
．．
．．
．
．．
．
．
．．
．
．
．．
．
．
．．
．．
．．
．．
．．
．
．．
．
．
．．
．
．
．．
．
．
．．
．3

3.

国際標準化状況．．
．
．
．
．
．
．
．
．
．
．
．
．
．
．．
．
．
．
．．
．
．．
．．
．
．
．
．．．
．．
．
．
．
．．
．
．
．．
．
．
．．
．．
．．
．．
．．
．．
．
．38

4.

国内における開発及び薬事規制状況．．
．
．．
．
．
．．
．
．
．．
．
．
．．
．
．．
．．
．
．
．．
．．
．
．
．．
．
．
．．
．
．
．．
．
．41
1) 承認・認証による製品化状況 ．．
．
．．．
．．
．
．
．
．．
．
．
．．
．
．
．．
．
．
．．
．．
．．
．．
．．
．．
．．
．
．．．
．．
．
．41
2) 当該製品に対する性能評価 ．
．．
．．
．
．
．．
．
．
．．
．
．
．．
．
．
．．
．
．
．
．．
．．
．
．
．．
．
．
．．
．
．
．．
．
．
．．
．
．
．42
3) SaMD フォーラム 2022 を通じた薬事規制上の課題抽出と整理．．
．．
．．
．
．
．．
．．
．．
．．
．43

5.

まとめ．
．
．
．
．
．
．
．
．
．
．
．
．
．
．
．
．
．
．
．
．．
．
．
．．
．．
．
．
．．
．
．
．．
．
．
．．
．
．
．．
．
．
．．
．
．．．
．
．
．．
．．
．．
．．
．．
．．
．
．45

参考資料
① 海外の実態調査に関する報告書 ．
．．
．．
．
．
．．
．
．
．．
．
．
．．
．
．
．．
．
．
．．
．
．．
．
．
．．
．
．
．．
．
．
．．
．
．
．47
② 認証機関アンケート結果．．
．
．．．
．．
．
．
．
．．
．
．
．．
．
．
．．
．
．
．．
．．
．．
．．．
．
．
．．
．
．
．．
．
．
．．
．
．
．．
．135
③ 性能評価事例：EndoBRAIN シリーズ、EIRL シリーズ．．
．．
．．
．．
．．
．．
．．
．．
．．
．
．
．
．
．149
④ SaMD フォーラム 2022 関連資料．．．．
．
．
．
．．．
．．
．
．
．
．．
．
．
．．
．
．
．．
．．
．．
．．
．．
．．
．．
．．
．
．
．153
⑤ SaMD フォーラム 2022 参加者アンケート結果 ．
．
．．．
．
．
．．．
．．
．
．
．
．．
．
．
．
．．
．
．．
．
．
．
．211

１．背景及び目的
近年、機械学習（Machine Learning：ML）に基づいた AI を利用した様々な医療機器プロ
グラムの開発が活発となっている。特に、主に画像診断支援プログラムの研究開発は世界中で活発に行われ、米国においては 2018 年以降、複数の製品が FDA により承認されている。
これらの製品の中には、近年着目されている ML 技術の一つである深層学習を利用した製品の承認数も増加していることも窺える。しかしながら、当該製品のその大半が 510(k)で承認されており、FDA ホームページ（HP）で公開されている審査報告書では実際に主たる機能の原理に ML を使用しているか判別不明なケースが多い。すなわち、古典的 AI 技術と MLを利用した医療機器プログラムが混在した状態となっており、後者の承認数に関する実態は不明である。
当該プログラムの開発は米国以外の国でも活発である。北米放射線学会における展示ブースの出展数を確認する限りでは、欧州製品に加えて、中国、韓国等のにおける製品開発の活発化が窺える。
本邦においては、2018 年に大腸内視鏡診断支援プログラムである EndoBRAIN が ML（サポートベクターマシン）を用いた製品として初めて承認された。その後も深層学習を含む
ML を利用した複数の製品が承認されているが、現時点でその数は欧米に遅れをとっている可能性がある。AI を利用した医療機器プログラムに特化した薬事体制の構築の有無や適切な法規制下でその開発促進が進められているか等については、言語の問題等もあり現時点
で我々が独自で調査可能な国は本邦と米国のみである。そのため、当該プログラムの開発及び規制状況に関して国毎の正確な比較を行うことは困難な状況である。
米国は、当該プログラムの製品化を促進するために、Pre-cert プログラムの試行、並びにDiscussion paper の発行と業界からの意見集約、その結果に基づいたワークショップの開催
及び意見交換と矢継ぎ早に様々な施策を講じているが、その成果が ML を利用した医療機
器プログラムの薬事規制に反映されているか、現時点では不明である。また、現状では、市販後もその性能向上を目的とした「市販後学習」機能の実装は認められていないため、MLの最大の特徴である「継続的な学習に伴う性能変化」を社会実装するための新たな仕組みとして、製造販売業者に対する Good Machine Learning Practice（GMLP）を提案しているが、解決すべき諸問題があり、未だ導入はされていない。一方、本邦においては AI 利用医療機
器プログラムの市販後学習による性能向上を速やかに承認するための法体系（変更計画確認申請制度：IDATEN）が整備された。その円滑な運用についての課題も存在するが、この制度導入により、予め追加学習による性能向上を変更計画に記載しておくことで切れ目ない AI 利用医療機器プログラムの性能向上を実装することが可能となる。加えて、規制当局に専門部署を新たに設立する等、体制を整備し、当該プログラムの承認審査促進を図っているが、諸外国と比較して更なる改良が必要となるか等、調査が必要である。
そこで、本研究においては、諸外国における ML を基にした AI 利用医療機器プログラムの開発、並びに規制状況を調査するとともに、本邦の規制状況との比較検討を通じて、今後必要となる対策を講じるための情報を収集し考察した。また、本邦における開発状況の共有－ 1 －と産学官関係者の意見交換を実施するためにオンライン形式で SaMD フォーラム 2022 を開催し、産学官関係者による講演と総合討議を行った。さらに、参加者を対象に、開発における課題等に関するアンケートを実施し、製品開発における課題等の把握を試みた。

－ 2 －２．海外の開発及び薬事規制状況
2.1 初めに上述したとおり、諸外国における AI 利用医療機器プログラムの開発及び規制の実態については、米国以外の公開情報が少ないだけでなく、言語的な問題から調査が困難な国が多いことから当該調査をインターテックジャパンに委託した。参考資料①として添付している
報告書原本及び独自の調査結果を基に、米国、欧州、英国、韓国、中国及びロシアにおける現状を以下に整理した。
2.2 米国【背景】
FDA が医療機器プログラムの規制に取り掛かったのは 20 年以上前であり、1997 年に「ソフトウェアバリデーションの一般原則バージョン 1.1」原案が公表されている。その後、5 年を経て、2002 年にバージョン 2.0 が正式ガイダンスとして発行されている。その後、いくつか医療機器プログラム規制関連のガイダンスを発行しているものの、いずれも AI への言及は為されていなかった。
風向きが変わったのは、2017 年に FDA ガイダンス“Use of Real-World Evidence (RWE) to
Support Regulatory Decision- Making for Medical Devices”が発行されてからだと思われる。この段階で機械学習等を利用した医療機器プログラムは実用化されていなかったと思われる
ため、Real-World Data（RWD）は単に RWE の裏付けとしての適用しか想定されていなかった模様である。しかしながら、RWD とその信頼性に基づく RWE は AI 利用医療機器プログ
ラムの開発・改良において極めて重要であり当該プログラムの規制における留意点となりつつある。以下には、上記ガイダンスが発行されて以降の FDA による当該プログラムの薬事規制に関する動きを概説する。
【Pre-Certification プログラム】
2017 年、FDA は医療機器プログラム等のデジタルヘルスツールの審査促進を目的とした
Pre-Certification プログラム（Pre-cert）の試験的導入を発表した。Pre-cert は、個別の製品ではなく、機能の更新が継続的に実施され得る医療機器プログラムの安全性及び有効性を高いレベルでライフサイクル全体を通じて確保できる管理体制を有していることが確認された企業を予め認証し、認証企業が製造した対象製品に対しては FDA の審査が簡素化されるという枠組みである。2019 年 1 月に FDA は関連する以下の３つの文書を発表した。
１） Software Precertification Program: Regulatory Framework for Conducting the Pilot Program
within Current Authorities
２） Developing a Software Precertification Program: A Working Model
３） Software Precertification Program
Pre-cert では、医療機器プログラムを対象に De Novo 審査制度を利用して試験的に実施す－ 3 －ることとなった。AI を利用した医療機器プログラムも対象となっており、その場合には追加学習プロセスに伴い性能が変化した当該プログラムの安全性及び有効性を自社の品質マ
ネジメントシステム及び社内体制で保証可能と判断された企業のみが参加可能となる。認証を受けるための原則は以下のとおりである。
•

対象となる医療機器プログラムを最高レベルの品質で提供するために必要な開発、テスト、並びにメンテナンス環境を高いレベルで有していることを実証できること•

対象患者に安全な体験を提供可能で、意思決定プロセスにおいて患者安全性を重要な要素として組み込んでいることが実証できること•

適切な臨床評価を実施可能であり、表示や人的要因など患者中心の問題に適切に対処する上で卓越した能力を有することを実証できること•

適切なレベルのサイバーセキュリティを確保でき、利害関係者等との積極的な関係構
築を通じてサイバーセキュリティ問題に積極的に取り組むための優れた能力を有することを実証できること•

サーベイランス、ユーザーニーズの評価、継続的な学習に対する積極的なアプローチにおいて卓越性した能力を有することを示すこと
このプログラムでは、AI 利用医療機器プログラムの性能変化を許容するために、以下に示す Total Product Lifecycle（TPLC）を利用している。
１）高レベルの評価プロセスを通じて、当該企業が品質と組織的卓越性を確保するための文化を有することを実証
２）審査判定に応じて、対象となる医療機器プログラムに必要な審査の内容を決定
３）簡素化された審査の実施
４）医療機器プログラムの継続的な安全性、効果、性能、並びに品質確保文化に対する組織のコミットメントを市販後に確認された実際の性能（Real-World Performance）に より検証
この内容を考慮すると、TPLC を利用するためにはソフトウェア開発企業として品質を確保するためにフォローアップを含めて極めて高い管理体制を有し、規制当局が期待するだけの技術力を有することが必要であることが窺える。そのため、これまでに Pre-cert に参加認定された企業は大手 IT 企業、大手医療機器メーカのみであり、2020 年の中間報告においてその有効性と実装可能性が示唆された一方、更なる調査の必要性が示され現在も FDA が評価継続中であることから当該企業の能力を持ってしても更なる改良が必要であることが想像される。中間報告には今後の予定も含めたロードマップ（図）が公開されているものの、2021 年 5 月以降、Pre-cert に関する HP は更新されておらず、当該プログラムのみを利用して上市された製品は報告されていないが、2022 年には何らかの報告が FDA から為されるとの報告もあるため、その結果を参考に本邦でも類似の施策が実施可能か検討する必要があると思われる。

－ 4 －図：Pre-certification パイロットプログラム開発ロードマップ（報告書原本より引用）【性能の可塑性を有する AI 利用医療機器プログラムの取り扱いについて】
FDA は、市販後においても性能の可塑性を有する AI 利用医療機器プログラムの開発及び実用化促進を目的として、2019 年 4 月にディスカッションペーパー “Proposed Regulatory
Framework for Modifications to Artificial Intelligence/Machine Learning (AI/ML) - Based Software
as a Medical Device (SaMD)”を発表した。このペーパーの目的は、当該プログラムの薬事規制に関する新しい概念案を示し、関係するメーカー、臨床医、患者からフィードバックを引き出すことであった。機械学習技術の特性を活用する上では性能変更を管理するためにリ
スクベースでのアプローチを実施することを推奨しており、市販前申請が必要となりうる
以下の変更事例を強調している。

•

重大な被害をもたらす新たなリスクが生じうる、または既存のリスクを修正する変更•

重大な被害を防止するためのリスクコントロール変更•

機器の臨床機能または性能仕様に著しく影響を及ぼす変更
このペーパーは、これまで性能を「固定」した状態でのみ、ML 技術を用いた AI 利用医療機器プログラムを承認していた現状から、追加学習による性能の「可塑性」を有する当該プログラムも承認可能とするためには新しいパラダイムが必要となることを示している。
性能を「固定」した ML 利用医療機器プログラムに関しては、「新規性を有する医療機器」
として、De Novo 審査を経由して 510(k)、Pre-market approval（PMA）いずれの方法で審査するかを決定してきており、現在、数多くの医療機器プログラムが 510(k)で承認されてきていた。今後は安全性と有効性を維持するための品質管理システムと市販後調査に重点をおい
た TPLC アプローチの適用を提案しており、審査方法が大きく変化する可能性があることを、このペーパーは説明している。以下にこのペーパーにおいて説明されている重要な事項
を記す。

－ 5 －

＜TPLC アプローチにおける 4 つの一般原則＞•

品質システム及び GMLP に関する明確な期待値の設定•

医療機器プログラムの安全性及び有効性に関する審査において、ライフサイクルを通じて AI 利用医療機器プログラムにおける患者へのリスクを継続的に管理する仕組みが確立されていることの確認•

製造販売業者による監視の元、予め設定されていた変更計画に沿ったリスクマネジメ
ントを踏まえた AI 利用医療機器プログラムのアルゴリズムの変更、検証、実行及び申請•使用者及び FDA に対する透明性向上を目的とした、市販後のリアルワールドパフォー
マンス報告を使用した安全性及び有効性の継続的な保証＜GMLP で要求している AI の学習に使用する臨床データの適切性を示すための事項＞•

利用可能なデータと臨床上の問題点及び臨床現場との関連性の明確化•

使用目的及び変更計画に合致した一貫性を有し、臨床現場において適切な手続きを経て取得されたデータ•

学習、チューニング（バリデーション）及びテスト用データセットの適切な分離•

使用者のレベルに応じた適切な出力結果及びアルゴリズム透明性＜性能の可塑性を有する AI を利用した医療機器プログラムを管理するために必要な事項＞•

当該医療機器プログラムの事前仕様（SPS）
性能、入力、使用目的に対する製造販売業者の計画的な変更の規定•

アルゴリズム変更プロトコール（ACP）
SPS で規定された変更の実施、検証及び妥当性確認方法の規定•

SPS、ACP を含んだ変更管理計画を作成・使用することの推奨

注）本ペーパーでは変更計画における SPS、ACP の許容範囲も含めた使用方法が説明されている。例えば、変更に伴い低リスクの製品が高リスクの製品になることは認められていない。また、これらの 2 つの要素については、本邦においては AI（ML）利用医療機器における変更変化等を IDATEN により申請する際に要求される事項と同様と考えられ、本邦の規制枠組み構築も米国と同等のスピードで進行していることの裏付けとなる。
＜AI 利用医療機器プログラムにおける透明性＞•

ユーザー、並びに規制当局に対して、上述した事項が説明可能であること•

実際の性能データ公開
これらの事項から想像するに、TPLC を利用した性能の可塑性を有する AI 利用 SaMD の上市化には、品質管理において必要且つ妥当な設定値を示すこと、リスク軽減を目的とした－ 6 －フォローアップ体制及び各種変更に伴うリスクマネジメント体制を確保すること、市販後における安全性及び有効性を管理・担保するための手段を用意することを要求していると理解できる。さらに、利用しうるデータの妥当性や正当性、適切な管理、ユーザビリティを考慮したアルゴリズムや出力結果の透明化を要求しつつ、事前仕様や変更計画を作成し妥
当性を示すことを求めている。その粒度については今後明確にしなければならないと思われるが、極めて高い要求事項を満たしつつ当該 SaMD の上市化を目指す企業が Pre-Cert 参
加企業にもどの程度存在しているかは疑問であり、更なる追加調査が必要と考えられる。また、知財とも絡むため、FDA が要求している各種透明性のレベルについても追加調査が必要と考えられる。
本ペーパー発表後、FDA は様々なイベントにおいてその概要と進捗を報告している。例
えば、2020 年 2 月に FDA により開催された放射線画像処理における AI/ML 公開ワークシ
ョップでは、現在の規制枠組みが対象とする AI 利用医療機器プログラムには適していないために産官共同で GMLP を開発していくことが紹介されている。
2021 年 1 月 、 FDA は 本 ペ ー パ ー の フ ォ ー ロ ー ア ッ プ レ ポ ー ト と し て “Artificial
Intelligence/Machine Learning (AL/ML)-based Software as a Medical Device (SaMD) Action Plan”を発表した。このレポートには、今後 FDA が実施する予定の対応として、•所定の変更管理計画に関するガイダンス案の発行•

GMLP の適用推奨とその促進•

AI/ML 利用医療機器プログラムの透明性を確保するためのラベリングガイダンス案の作成•

バイアスを減少させ頑健性を向上させるための ML アルゴリズムの評価と改善に資する方法論の開発支援•

当該医療機器プログラムによって得られた RWD の使用支援が示された。その後、実際に実施された対応を以下に記す。

１）2021 年 9 月：FDA が把握している AI/ML 利用医療機器プログラムのリスト公表
https://www.fda.gov/medical-devices/software-medical-device-samd/artificial-intelligence-andmachine-learning-aiml-enabled- medical-devices
包括的な情報ではないが、FDA HP に検索可能な形で当該リストが公表された。2021 年 6
月 17 日段階で 343 件が登録されているものの、AI が主たる機能に使用されているか、使用
アルゴリズムが ML かを判別するための情報は十分ではない。事実、古典的アルゴリズムにより作成された製品もリストに含まれている。
２）2021 年 10 月：AI/ML 利用医療機器プログラムの透明性に関する公開ワークショップ開催（p10 下半分から）
患者、介護者、メーカーの懸念に対応する目的で、FDA は AI/ML 利用 SaMD の透明性に－ 7 －関する問題に焦点を当てた Web ワークショップを開催した。本ワークショップには FDA ス
タッフ、臨床医、患者、患者支援者、産業界関係者が参加し、透明性に関する発表を行った。
企業関係者に対するインタビューによると、ワークショップで発表された重要な留意点として以下の事項が挙げられた。
•

当該プログラムの限界に関する理解とデータの適切な解釈に基づいた医療への利用における懸念があるため、それを払拭するための患者及び医療従事者双方におけるユー
ザー意識醸成が規制当局及び産業界双方において注力すべき重要な事項であること•

全てのユーザに配慮した当該プログラムラベリングの透明性と効果的な出力設定が重要となること•対象となる患者集団を正確に反映し、且つ民族的多様性を考慮した学習・テストデータの使用（人工的に作成したデータセットの使用も高い関心となっている）•

不平等性の解消（患者集団間の違いによる患者アクセスや企業規模等で生じるデータ収集能力（アクセス）の違いの解消）•

不具合等の追跡、報告の透明性確保を目的としたメーカーとユーザー間のコミュニケーションの重要性と FDA が果たすべき役割

３）2021 年 10 月：GMLP 指導原則の発行
2021 年、FDA はカナダ保健省、英国 MHRA と共同で GMLP のガイドライン相当の文書を作成、公表した。挙げられた原則は以下のとおりである。しかしながら、各々の原則において求められる粒度は今後明らかになることが予想され、実際に規制として実装することが可能か、現在も検討が続いていることが予想される。
•

製品のライフサイクル全体を通じた様々な分野における専門知識の活用•

優れたソフトウェア工学とセキュリティ実践の適用•

適用対象となる患者集団を代表する臨床試験参加者とデータセットの適切な確保•

学習データとテストデータの独立性確保•

最も適切な方法で入手し、選別された参照データセットの確保•

利用可能なデータと合致し、且つ目的とする適用が反映されたモデルの設計•

人間と AI とが協働して発揮する性能の重視•

実臨床と同等の条件下での性能評価試験の実施•

使用者に対する明確で透明性のある基本的情報の提供•

臨床現場に導入されたモデルの性能監視と、追加学習によるリスク管理

４）2021 年 11 月：デバイスソフトウェアに対する改訂版ドラフトガイダンス発表
2021 年、FDA は現行ガイダンスに代わる SaMD 及び従来型のソフトウェア一体型医療機器である SiMD (Software in Medical Device)を対象とした市販前手続きに関するドラフトを発表した。現行版との差分は以下のとおりである。
•

ソフトウェアは個々の機能で評価されるが、規制は製品ベースで実施

－ 8 －

•

ガイダンスと最新関連国際標準とのより密接な統合•

文書化のカテゴリーが 3 つから、「Basic」、「Enhanced」の 2 つに変更（IEC 62304 との整合化）•

全てのシステムアーキテクチャーの提出が必要•

ISO 14971 に準拠したリスクマネジメントファイルの提出が必要•

ソフトウェア保守計画の提出が必要•

未解決の異常（バグ、不具合、エラー等）に関するリストの提出が必要
このドラフトは他の関連ガイダンスと整合しているものの AI/ML の特徴については触れておらず、2022 年度に追加発行予定のガイダンスに AI/ML 利用医療機器における申請要件が明示されることが予想されている。
【GMLP について】上述したとおり、GMLP の原則については米国、カナダ、英国が共同で発表したものの、その実運用における具体的な手順は示されていないのが現状である。Xavier Health における
GMLP チームが 2018 年に先行して概念を示しており、その内容が FDA の発行物にも反映されている。GMLP チェックリスト案には「計画とアーキテクチャー」
、
「規制」
、
「ライフサ
イクル」のセクションが設けられており、FDA ガイダンスや規制を参照した質問が含まれているため、開発者にとっては良い出発点として利用できると考えられる。2021 年 2 月には、質の高いデータの必要性に言及した白書も発表している。具体的な内容は以下のとおりである。
使用データ量：データ数が少ないと AI は頑健性に欠けた学習しかできない。
データ作成速度：十分な量のデータが作成できるまでの時間はどの程度か。適切なタイミ
ングで学習を実施できるような速度で作成できるか。時間がかかった場合、そのデータの使用は適切ではなくなることはないか。
多様性：データソースの数は十分か。意図された用途や対象者を代表したデータとなっているか。データソース毎の特徴があるか。
真実性：データを信頼できる根拠は明確か。
妥当性：データの値や取得時期は妥当か。それを判断するための情報は十分か。
実行可能性：データは実際の使用条件とどのように関連しているか。
先に TPLC に関して記載した課題等とも絡んでくる事項ではあるが、市販後の追加学習
による AI の性能変化方向が確率的であることを考慮すると、データの質によってその確率を期待される方向に収束させることが期待されるため、上記留意点を考慮したデータ収集
及び利用は必須と考えられる。一方で、関連する研究が不足していることから、今後、レギュラトリーサイエンスに立脚した研究の推進が求められるようになることが予想される。
2021 年 11 月に Xavier Health 主催で開催された AI 関連ワークショップにおいて FDA 関－ 9 －係者がこれまでに記載した枠組み対して寄せられた業界関係者からのフィードバック概要
を以下のとおり報告している。
１）機械学習技術を利用した性能の可塑性を有する医療機器プログラムに対する規制フレームワーク案の更なる開発の要請
２）GMLP の考え方とその取り組みに対する調和の必要性への支持
３）ユーザーへの透明性を含め、当該技術と人々との相互作用に関する FDA との更なる討議要請
４）アルゴリズムのバイアス低減と頑健性向上に資する方法改善の必要性
５）当該プログラムにおけるリアルワールド・パフォーマンス（RWP）モニタリングについての明確化
ここまでに寄せられたフィードバックに対して FDA がこれまでにとった行動は以下のとおりである。
2019 年 9 月：National Evaluation System for Health Technology Coordinating Center toOphthalmic Imaging Collaborative Community（医療機器の問題に取り組む民間及び公的セク
ターメンバーによるコミュニティ）への参加→当該コミュニティは電子カルテや医療費請
求等、複数のソースデータを統合して Real World Evidence の質を向上させることを目的としている。
2020 年 2 月：放射線画像処理における AI/ML に関する公開ワークショップの開催
FDA、臨床医、並びに業界代表者による発表が行われ、各々の立場から AI/ML 利用 SaMDの利点と課題が述べられた。このワークショップでは、現在の規制枠組みが性能の可塑性を有するアルゴリズムには適していないこと、産官学で GMLP 開発に取り組むことが言及された。
2020 年 1 月：CAD の審査方法に関する再分類の発表
連邦官報により CAD が 3 つの種類に再分類されることが発表された。具体的には、「ト
リアージ及び通知を目的とした放射線診断支援 CAD」、
「癌が疑われる病変の放射線検出を支援する CAD」、並びに「医療画像分析装置」となり、前者 2 つはそれぞれ 2018 年と 2017年に遡って適用されること、「医療画像分析装置」については 2020 年 2 月より以下の適用となることとなった。
「乳がん撮影、乳房病変の超音波診断、肺結節の X 線撮影、虫歯の X 線撮影、その他従来はクラスⅢ医療機器として規制してきた製品については、医療画像分析装置として、特別な管理の元、製品コード MYN としてクラスⅡ医療機器に分類して市販前届（510(k)）の対象とする」－ 10 －

2020 年 2 月：放射線画像処理における AI/ML に関する公開ワークショップ開催、CAD の一部に関する市販前届対象への変更及び「臨床性能アセスメント」ガイダンスの公表
FDA からは当該ワークショップで、2019 年に発表したディスカッションペーパー以降に実施した施策の説明が為されるとともに、現在の規制枠組みが性能の可塑性を有する AI ア
ルゴリズムに適していないこと、GMLP の開発を進めることを公表した。また、ワークショ
ップに先立ち、上述した再分類の説明に加え「臨床性能アセスメント」ガイダンスを公表した。当該ガイダンスは、製品コード NWE で規制される大腸診断支援 CAD システム、OEB
で規制される肺結節診断支援システム、MYN として規制される医療画像分析装置には適用される一方、手術中処置に使用する CADe、癌の疑いがある病変に対する CADx、トリアージを目的とした放射線 CAD には適用されないことになっている（ガイダンスの対象となる可能性のある CADe と一体化される場合でも適用されない）。
2020 年 10 月：患者参加型アドバイザリー委員会への参加
当該委員会において医療機器における AI/ML に関する Web 会議が開催され FDA 主要ス
タッフも出席した。ここでは、AI/ML 技術を利用した医療機器が治療効率をどのように高めて患者に対する診断、臨床判断、治療に影響を及ぼしうるか、事例を挙げて利点が説明されるとともに、アルゴリズムの偏り、一般化の困難さや学習データセットの範囲に応じた性能限界が示された上で、多種多様な利害関係者が開発に携わる重要性を提言することを目的とした討議が行われた。FDA はこの討議の総括を、公表済みのガイダンス等の資料と齟齬がない形に取りまとめ Q&A 形式で発表している。
2021 年 1 月：AI/ML 利用 SaMD に関する FDA アクションプラン（前述済み）
2021 年 9 月：FDA が把握している AI/ML 利用医療機器プログラムのリスト公表（前述済
み）2021 年 10 月：AI/ML 利用 SaMD の透明性に関する公開ワークショップ（前述済み）
2021 年 10 月：FDA、カナダ保健省、英国 MHRA の 3 者共同で GMLP 指導原則の発行（前述済み）
FDA は指導原則の発行に至ったものの、まだ解決すべき種々の課題があると思われ、現時点では GMLP の社会実装は実現していない。課題の一つとして想定される事項として使用するデータの問題が挙げられる。
＜GMLP に必要となる臨床データについて＞
2021 年に発表された GMLP 指導原則は、使用するデータの関連性と信頼性、並びに市販－ 11 －

後の有効性を検証するための RWE の使用に関する要件を統合している。
RWE は AI/ML 利用医療機器に限らず全ての医療機器に適用可能な概念であり、前述した
2017 年発行の FDA ガイダンス“Use of Real-World Evidence to Support Regulatory Decision –Making for Medical Devices”で RWD と共に以下のように定義されている。
RWD：電子化された医療記録、請求及び課金データ、医療機器及び疾患レジストリからのデータ、家庭での使用設定情報等を含めた患者生成データ、スマートフォン等医療機器以外の機器から得られる健康に関するデータ
RWE：RWD を分析することにより得られた医療機器等の使用法、並びに当該機器の潜在的な利点及びリスクに関する臨床的な証拠・証明
当該ガイダンスでは、RWD が規制上利用するに値するだけの十分な品質を有すると判断された場合には、当該 RWD から生成された RWE を規制上の判断に利用できることが示されている。また、品質が十分か否かの判断は、機器の用途と生じうるリスクに応じて異なることも示されている。これらの考え方は、指導原則の 3, 6, 8, 10 にも反映されている。
業界においても、データの重要性は論点となっており、前述した通り、Xavier Health GMLP
チームが 2021 年 2 月に発行した白書には、品質を確保するための 8 要因が挙げられていると同時に、それらの特性を活用するためのガイダンスを示しているが、その内容は FDA ガ
イダンスに記された RWD と RWE の取り扱いと同様の内容であった。すなわち、規制当局、並びに業界が AI/ML 利用医療機器に使用するデータの質の重要性を十分に理解し、同じ方向の考え方を有していることが伺える。事実、RWD 及び RWE は AI/ML 利用医療機器の開発に不可欠であり、今回の各種調査の結果からも我が国における同様の理解はかなり進んでいると考えられる。
【今後の展開】
2021 年 11 月の Xavier Health のワークショップにおいて、FDA CDRH の Dr. Matthew
Diamond がその時点における AI/ML 利用医療機器に対する FDA の見解とアクションプラ
ンについて報告を行っている。
「デジタルヘルス機器は、従来の医療機器と比較して急速に進化していることは十分に博士も認識していること、開発期間はより短くなっていること、利点とリスクの両方に対処するため従来からの規制体制と比較して RWD をより活用できる可能性があること、低コストでの開発が可能なため製品開発及び申請数が増加するであろうことが述べられたとのことである。FDA は IMDRF で示されたソフトウェア医療機器の継続的な学習の枠組み(図)に同意し、その学習の利用を提唱している一方、これまでに報告されている様々な課題が存在す
ることも理解している。TPLC アプローチが最善だと考えているが、それでもアクションプ
ランに記載したとおり、課題は山積しており、今後、規制状況は当初の計画に沿って改正されていくが、詳細な要件が設定されるまでには、予定されているとおり様々な作業が必要である。
」－ 12 －

図：IMDRF が提唱する継続的学習のモデル（参考資料①より引用）
政府全体でも取り組みが進んでおり、2019 年 2 月に発布されたトランプ大統領による大統領令「人工知能におけるアメリカのリーダーシップ維持」以降、2 つの大統領令が発布されると共に、2021 年 6 月にはバイデン政権が全米人工知能研究資源タスクフォースを発足させている。このタスクフォースは AI 分野のイノベーションを推進するためのリソースやツールへのアクセスを拡大するための枠組みを作成することが目的であり、2022 年 11 月に活動に係る最終報告書を提出する予定となっている。当該報告書の内容によっては、アメリ
カ政府の今後の戦略が明らかになることが予想される。
2.3 欧州【背景】
2018 年 4 月 25 日付けのコミュニケーションで、欧州委員会（EC）は AI を以下のように定義した。
「AI とは、特定の目標を達成するために周囲の環境を分析して行動し、ある程度の自律性を有して知的な振る舞いを示すシステムである。
」
EC は、既に日常的に使用される多くの機器に AI が搭載されて、経済的に肯定的な結果を示していることを認めており、以下の目標を達成するための取り組みを定めている。

•

官民における AI 活用を通じた技術力・産業力の向上－ 13 －

•

教育、労働、社会保護における社会経済的変化への備え•

ヨーロッパ連合の価値観に基づく倫理的・法的な枠組みの確保
世界の主要国・地域は AI に投資しており、その多くは経済目標を達成するための一貫性のある実行可能な戦略を策定しているが、欧州は民間投資に遅れをとっており、その投資を刺激しつつ資産と価値を維持する環境を整えることが喫緊の課題であると考えられている。
欧州は、上記目標を達成するために３本の柱からなる戦略を立案し進めている。

•

技術開発の先取りと、官民による技術導入促進•

AI がもたらす社会経済変化への備え•

適切な倫理・法的枠組みの確保【欧州における AI 規制】＜人工知能に関するハイレベル専門家グループによる取り組み＞
人工知能に関するハイレベル専門家グループ（AI HLEG）は、信頼できる AI のための倫理ガイドライン、並びに当該 AI に関する政策と投資推奨文書の起草を主たる任務として設立され、各々の文書を 2019 年 4 月と 6 月に発表した。なお、倫理ガイドラインによると「信頼できる AI」は合法的、倫理的且つ堅牢であると定義されている。倫理ガイドラインでは、
以下に示した重要な要件 7 つを挙げて、その内容を説明している。

•

人的機関及び監査•

技術的堅牢性・安全性を有すること•

プライバシーとデータガバナンスを確保すること•

透明性を有すること•

多様性、無差別性、公平性を有すること•

社会的・環境的な豊かさをもたらすこと•

アカウンタビリティ（説明責任）が果たせること
倫理ガイドラインが試験的に実施された後、AI HLEG は 2020 年 7 月に当該ガイドラインに基づいた「信頼できる AI のための評価リスト」初版を公表した。上記７要件に沿った内容となっており、AI の評価にあたっては、AI の設計者および開発者、データ科学者、調達専門家、代表ユーザー、法務・コンプライアンス担当者、経営者を含む学際的なチームを構築して実施することが推奨されている。
2019 年 6 月に は、加盟国や関連機関向けに AI に係る政策と投資に関する勧告を記載した
第二次報告書が発表された。この報告書は人間と社会の関係性、産業界、公共部門、研究・学術部門の４テーマに対して 33 の提言が記載されると共に、以下に記した最終的な 11 の要点が取りまとめられている。

•

人と社会を豊かにし、守る•AI を取り巻く環境に合わせたアプローチを取る•

信頼できる AI のための欧州単一市場の確保－ 14 －

•

マルチステークホルダーアライアンスを通じたセクター毎の AI エコシステムの実現•

欧州データ経済の育成•

パブリックセクターの多面的な役割の探究•

欧州における研究能力の強化・協調•

第四の力を育む教育•

リスクベースアプローチに伴う適切な AI 規制枠組みの確保•

オープンで利益を生み出す投資環境の活性化•

10 年ビジョンとローリングアクションプランを組み合わせた総合的な作業の進め方
AI を利用した医療機器に関連する事項は 9 番目の要点となるが、具体的な規制の方向性

がこれらの文書からは明確になっていない。しかしながら、倫理ガイドラインに、AI を利用したアプリケーション全般に関する信頼性レベルを評価するためのチェックリストや、
潜在的メリットと重大な懸念事項に関する簡単な解説が記載されていたことから、欧州においては医療機器への応用に限らず、AI 全般に対する懸念が大きいことが伺え、規制方向
は日本よりも厳しくなる可能性があると考える。2018 年 6 月に発足した欧州 AI アライアン
スの 2020 年 10 月に開催された第二回総会におけるパネルディスカッションのアウトプット（自律型 AI のリスク排除を目的とした制御層の要求や、AI システム全般に対する規制の必要性、適合性評価における安全基準、審査員レベル、第三者認証機関のレベルギャップの存在等）からもその傾向は伺うことができる。
2020 年 7 月、AI HLEG は第二次報告書に記載した提言を公共部門、ヘルスケア分野、製造業及び産業用 IoT に適用した際の影響を評価した成果物「信頼できる AI のための政策と投資の提言に関する分野別考察」を発行している。33 の提言はこれら３つの分野に概ね適用可能であったが、スキルのギャップを埋めるための訓練が必要となることが示されており、ヘルスケア分野においては「人間と社会の活性化と保護」、「民間部門の課題」
、
「研究」
、
「教育」
、
「データとインフラ」、「規制」に焦点を当てた考察の結果、以下の留意点が示されている。

•

ヘルスケアに応用される AI スキルの普及と認知•

ヘルスケアにおける「信頼できる AI」を活用するためのスキル向上及びスキル再習得への投資•

医師と患者双方の視点からの、ヘルスケア分野における AI 利用に対する規制の必要性に関する詳細な分析•

包括的な AI 開発及び政策の枠組み確立•

公衆衛生のアウトプットを改善し患者の効率的な管理に役立つ欧州の「信頼できる AI」
によるソリューション構築における高品質の健康データ入手の重要性•

質の高い治療へのアクセスとプライバシーとの間のトレードオフの可能性や、AI 利用による差別の可能性に対する懸念－ 15 －

•

医療データをデジタル化し欧州医療データスペースを構築することの多大な利点
この報告書の結論は、後述する AI 白書で述べられている欧州委員会の目的を確実に達成するために、政策立案者が分野毎の違いを考慮する必要があり、一般的すぎる政策や規制は、
特定の分野においては効果がなく有害でさえある可能性があるという点である。
今後の規制における考え方については、欧州議会が 2019 年 9 月に発表した報告書が参考になると考えられる。ISO と IEC の合同技術委員会による国際標準化活動や IEEE による AIの倫理的枠組みに関する作業、欧州委員会による ICT 標準化に関するローリングプランを取り上げて、倫理的な AI 標準化が自主基準や倫理基準をどのように運用するのかに関する疑義を示しており、今日の AI は自主規制よりも多くの監視を民衆が要求していると結論付けている。また、「信頼できる AI」にとって透明性と説明可能性が極めて重要であることから、欧州委員会はアルゴリズムの透明性に関する研究を実施しその継続を推奨している。これらの疑義が関連している可能性もあるが、医療機器指針（MDD）から医療機器規制（MDR）
への移行に伴い多くの医療機器がクラス１から 2a に変更される予定であった（この変更はAI/ML-SaMD にも影響すると思われる）。しかしながら、Covid-19 による世界的な緊急事態によりその移行が延期されたことに伴い、上記変更も延期されている。
＜欧州委員会（EC）による AI 白書の公表＞
2020 年 2 月、欧州委員会は「人工知能について-卓越性と信頼に対する欧州のアプローチ」と題する白書を公表した。この白書の要旨は，EU が欧州データ戦略に沿って活動すれば、
データ経済とその応用におけるイノベーションで世界におけるリーダーになることができるが，そのためには欧州の社会と経済のすべてに利益をもたらす AI エコシステムを構築する必要があるというものである。構築すべき AI エコシステムは、AI に対する共通のアプローチで統一性を確保し、米国や中国等の他国と競争するための規模であることが要求されることが記されている一方、欧州委員会の方針と乖離する可能性のある国家的取り組みを「卓越性
強く反対している。そこで、白書では、AI エコシステムにおける重要な２つの点、のエコシステム」と「信頼性のエコシステム」が提案されている。白書には、この 2 つのエコシステムをどのように実装するかが説明されると共に、"欧州を世界で最も魅力的で安全かつダイナミックなデータ・アジャイル経済にする – 欧州をデータで強化し、種々の決定を改善し、全ての市民の生活を向上させる "という目標が記載されている。欧州委員会は、2020 年 5 月 19 日から４週間の期限でパブリックコメント（フィードバック）を実施した。
白書に対して寄せられたコメントは総数 1215 であり、その 84%が欧州連合加盟国から、残りが英国や米国等、他の国からであったこと、回答者の 33%が欧州連合市民、29%が業界関係者、13%が NGO や労働組合などの市民関係、13%がアカデミア、6%が公的機関からであったことが 11 月に報告された。また、400 件以上が白書に対する賛否を表明したポジションペーパーであったとのことである。

－ 16 －

コメントを整理した結果、卓越性のエコシステムに関して重要と判断された事項は、解答率の高い順に、スキルの開発（90%）
、研究開発への集中・注力（88%）
、欧州連合加盟国との連携（87%）であった。民間企業との連携については、重要と回答したのは全回答者の 72%であった一方、業界関係者では 96%であった。信頼性のエコシステムでは、回答者の 90%が AI による基本的な信頼への侵害の可能性、87%が AI 利用による差別的行為の可能性、82%が AI により人間の安全が脅かされる可能性を問題視していることが明らかとなっている。これらの回答から、企業を含めた業界はより少ない規制を求め、社会全体としては多くの保護措置を求めているという全く異なる視点が存在することが明確となった。
同時期、欧州委員会は、2018 年 4 月に発行された「欧州のための AI に関するコミュニケーション」で提起された事項に対する回答として「AI、モノのインターネット（IoT）、ロボ
ティクスの安全性と責任に関する報告書」を発行した。AI 、IoT、ロボティクスに関する現行の法律への適用可能性を検討し、安全性と責任に関する枠組みを特定・議論する目的の報告書であり、実際に要求される事項と当該枠組みとのギャップ、そのギャップに伴う課題を示した報告書となっており、AI を利用することで生じ得る従来とは異なるリスクに対応するために現行の製造物責任指令を修正する必要性について言及している。
【欧州における AI 利用医療機器規制】
2021 年 4 月、欧州委員会は EU 市場における AI ベースの製品・サービスに対する規制枠組み案を発表した。正式名称は「人工知能に関する整合的規則（人工知能法）の制定及び関連法令の改正に関する欧州議会及び理事会による規則案」である。この規則案は MDR と体外診断薬規制（IVDR）により規制される医療機器等も対象となっている。規則案の目的は•欧州連合市場に上市される AI システムが安全であり、基本的権利に関する既存の法律及び欧州連合の価値観を尊重・保証すること•

AI への投資とイノベーションを促進するために法的確実性を確保すること•

AI システムに適用される基本的権利と安全要件に関する既存の法律による管理と効果的執行を強化すること•合法的で安全且つ信頼できる AI アプリケーションの単一市場発展を促進し、市場の断片化を防ぐこととされている。
規則案ではリスクベースアプローチが採用されており、AI 利用医療機器は高リスク AI シ
ステムとして規制されるようである。それと関連しているかは不明だが、COCIR（欧州放射線・電気医療・医療 IT 産業調整委員会）等の医療機器業界団体は枠組み案をそのまま適用した AI 利用医療機器に対する法制化に反対している。COCIR は 2021 年 5 月に関連した白書を発表しており、以下の点を主張している。
•

MDR、IVDR と欧州における一般データ保護規則 2016/679（GDPR）を組み合わせることで、医療における AI が安全且つ効果的であるための要件を示すことができる－ 17 －

•

AI/ML アルゴリズムの変更管理に関する FDA ガイダンスと整合した規制内容を設けることが妥当である•

AI/ML 利用医療機器に対応する上では、IEC 62304、並びに IEC 82304 の変更（改訂）が必要である（改訂内容も具体的に提言しているようである）•

AI/ML アルゴリズムの市販後学習による変更範囲には限界があり、ある段階で新たな適合性評価が必要になる（注：MDR で対応できることを主張していると思われる）•

GDPR の現行要件で AI の適切な透明性と説明可能性が提示可能となるため、AI 利用医療機器に対しては完全な透明性と説明可能性を要求する必要はない
欧州における医療機器及び IVD の認証機関から構成されるチーム NB は、2016 年 6 月に「欧州 AI 規制」と題するポジションペーパーを公表した。提案された枠組みあんには反対
しないが、その適切な適用と対象となる医療機器の安全性及び性能を維持するための提言を記した文書である。提言の内容は以下のとおりである。
•

既存の枠組みを修正して規制要求に対応可能な場合は、法的管理の重複を避けることが望ましい（注：MDR を優先することを主張していると思われる）•

既存の認証機関に AI 利用医療機器の認証機能を追加する方が、新たな専門認証機関を設立するよりも効果的である•

AI の説明可能性が十分でない場合には、枠組み案で要求される試験要件は効果的ではない可能性がある
欧州の業界団体である MedTech Europe は 2021 年 8 月に規則案に対する対応を記載した報告書を公表しており、以下の留意点を示している。
•

MDR、IVDR と整合しない要件が規則案に存在する（リスク分類、定義、警戒システム
等における不整合が特に懸念される）•

GDPR と整合しない事項が規則案に存在する
上記のとおり、欧州の医療機器業界は提示された規則案に対する反対、あるいは懸念を示していることから、当該案に基づく規制は受け入れ難いと考えていることが容易に窺える。
規則案には欧州データ保護委員会（EDPB）、欧州データ保護監督官（EDPS）も共同で問題点を指摘していることから、その実現には時間を要することが予想される。
事実、2021 年 10 月に公表された計画作業リストに項目として記載されているものの、
MDR/IVDR と当該規則案を組み合わせて運用するためのガイダンス等の作成完了予定日は
明確にはなっていない。そのため、認証機関が様々な手法で公表している見解が今後の欧州における AI 利用医療機器の認証・登録のあり方を考える上で参考となる。
テュフズードは、ドイツの医療機器認証機関協会（IG-NB）が開発したチェックリストを紹介・説明する「AI 利用医療機器の検証と妥当性確認」と題した白書を 2021 年に自社 HP－ 18 －

で公表した。白書の概要は以下のとおりである。
•

ISO 14971:2019 はアルゴリズムが静的（ロックされている）なソフトウェア一体型医療機器及び SaMD を想定しているため、追加学習に伴う当該医療機器及び SaMD の性能変化で生じるリスクへの影響を予測できず安全性と有効性を従来の方法で確保することが困難である•

上記を踏まえ、製品のライフサイクルに焦点を当てて IG-NB が開発したチェックリス
トにおいて、製品の目的、ソフトウェア要件、データ管理、モデル開発等、製品開発に必要となる項目で使用する基準の種類を説明している（チェックリストには、
MDD2017/745 各条項との相互参照も含まれている）•

チェックリストを認証時における基準として考慮することを推奨する。
また、ドイツ電気・電子・情報技術協会である VDE は、AI 利用ソフトウェアに対する認

証機関における新規要求事項を HP で公開した。これは、欧州連合における AI 利用 SaMDに対する既存の要求事項を見直した内容となっており、IG-NB が開発したチェックリスト
によって埋めるべきギャップの補足説明を提供する内容となっている。加えて、動的な性能
可塑性を有する AI 利用ソフトウェアは、必要となる用途に基づく機能の検証と妥当性確認が困難であるため、認証機関による「認証」は原則として不可能であるという明確な立場が説明されている。
さらに、欧州委員会が AI 利用製品に対する規則案を公表したことにより、現状はさらに混迷を極めていると結論づけている。
【今後の展開】
上記のとおり、利害関係者から意見が非常に多く示されていることから、欧州委員会が発表した規則案は法制化に至るまでに多くの修正が必要となることが予想される。規則案が法制化した場合でも、MDR と同様、一定の移行期間が定められることが予想される。法制化後、医療機器分野においては、IG-NB が開発したチェックリストが国際整合された評価ツールの基礎として欧州で使用され発展する可能性がある。
2.4 英国【背景と AI 規制】
2018 年第二四半期に英国政府によって発行された「人工知能分野における取引」と題した報告書は、AI による「第４」の産業革命がもたらす機会を英国の利益に最大限に活用することを目的に作成された。その戦略の基盤となるのは「アイデア」、「人」、「インフラ」、「ビジネス環境」、「場所」であり、AI 産業の最前線に立つためには•

AI とデータ革命の最前線に立つこと•

人、モノ及びサービスの流通手段において世界のリーダーとなること•クリーンな成長へのグローバルシフトを活用すること•

高齢化社会のニーズにイノベーションで対応すること－ 19 －

への挑戦が必要と示されている。これらの挑戦を支える政策として、研究開発への公共投資、
民間研究開発投資への税制優遇、AI の能力構築及び変革する雇用市場に対応する再教育を目的とした教育プログラム、交通・住宅・デジタルインフラ、革新的企業への投資、地域戦
略との融合が提案されている。また、政策を支える多くの活動や取り組みが紹介されており、同時期に欧州委員会が発表したコミュニケーションと類似の点も見られるが、本報告書は経済的機会への注目度に重きを置いている。
上記報告書の発表の数日前、貴族院は、AI の歴史的な概要及び使用状況、AI アプリケー
ションの開発とデータの重要性、AI を取り巻くビジネス環境とデータアクセス問題、AI による経済と労働への影響、AI とヘルスケア、社会的リスク、AI の管理等を網羅した報告書を公表した。当該報告書にはデータ保護、アクセス、透明性、管理等に関する多くの提言も記載されており、政府のみならず、立法機関においても AI 活用の重要性がこの時点から認識されていることが窺える。
2018 年 6 月、英国政府は貴族院が公表した上記報告書に対する対応を報告書の形で公表した。報告書には、2030 年までに慢性疾患予防、早期診断、治療変革に必要なデータ、AI
イノベーションの活用において英国が世界のリーダとなることを目指すことを使命とし、その結果、National Health Service の効率を高め、費用のかかる後期治療の必要性を減らすた
めの１ステップを実現することを目指すことが記されている。内容のほとんどが貴族院報告書の提言に呈する具体的な対応であり、その多くは支持が得られたが、一部回答は貴族院の提言よりもビジネスを意識したものであった。例えば、アルゴリズムの透明性要求に対しては、重要性は理解するがイノベーションを抑止しない程度の要件にすべきであるという回答が寄せられた。この回答からもわかるように、英国政府は欧州委員会と比較して AI の社会的責任を重視しない立場を取っている。
2018 年の報告書を受けて、2019 年 7 月にはデジタル・文化・メディア・スポーツ省とビ
ジネス・エネルギー産業戦略省との共同で国家 AI 戦略実施を担当する人工知能室が設立され、フォローアップ報告書が作成された。その中には、AI 評議会の設立、博士課程を有す
る新しい 16 のセンターの開設、AI Turing 奨学金の支給、3 つの「データトラスト」パイロ
ット試験の開始、デジタル病理学とイメージングに関する新しい５センターへの資金提供（五千万ポンド）、その他多数の「AI 分野における取引」による成果が強調されている。これらの進捗と欧州からの離脱完了を受け、英国政府の戦略はそのまま維持され、当初想定された目標に向かって進んでいると考えられる。
2020 年 1 月、
「公共分野における AI 使用ガイド」と題したガイダンスが公表され、AI シ
ステム導入を計画する際に使用できるチェックリストが示された。規制文書ではないものの、ガイダンスには、メーカはその内容を理解し、定義要件に合致するように製品とサポー
トサービスを調整するように要求されており、逸脱した場合には妥当性を示すことが求められている。

－ 20 －

情報コミッショナー庁も、別途、2020 年初めに「AI による意思決定の説明」、「AI とデー
タ保護に関するガイダンス」と題した文書を公表した。前者は医療機器アプリケーションに関するもので、説明可能性を実現するための明瞭なアプローチを実例とともに提供している。後者はデータ保護規制を遵守するために AI 観察するための枠組みに関するガイダンス
で、学習やテストに使用される画像やその他のデータと患者情報がリンクされる AI 利用医療機器アプリケーションにも適用される。他のガイダンス文書と同様、これらの内容はベス
トプラクティスと見做され、ガイダンスに準拠した AI アプリケーションのメーカはより迅速に認証されるという恩恵を受ける可能性がある。
政府諮問機関である公共生活基準委員会は、AI により公共サービス部門を変革する方法
に関して調査を実施し、透明性とデータの偏りに関する問題については、ガイダンスだけでなく強制力のある規制が速やかに必要であると結論づけた報告書を 2020 年に公表した。但し、現在の医療規制インフラにより医療従事者から寄せられるフィードバックが AI の倫理的な実装を保証可能であるため、他の公共部門とは異なり新たな規制機関は不要であり、AIにより生じる課題に規制当局が適応することが必要となることを、本報告書は併せて提言している。ある法律事務所も、欧州委員会が公表した白書に対して英国が追随する可能性は低く、AI 利用アプリケーションは英国の法律で規制される可能性を考察していることを公表しており、その後の英国の活動は上記報告書やこの考察に沿ったものとなっている。
2020 年 6 月、
英国は他の国々と共同で「AI に関するグローバル・パートナーシップ（GPAI）」
を結成した。GPAI は経済協力開発機構（OECD）が事務局を務め、現在はカナダ、フランス
といった設立メンバーに加え、豪州、欧州連合、ドイツ、インド、イタリア、日本、韓国メ
キシコ、ニュージーランド、シンガポール、スロベニア、米国等を含めた 25 メンバーから構成されている。
英国は米国との間に AI 研究開発に関する協力宣言を取り交わしているが、より厳格な規制を設けることが予想される。一方、これまでの報告書内容から、欧州連合が設けるレベルの規制よりは緩和になると考えられる。
2021 年 7 月、デジタル・文化・メディア・スポーツ省は「デジタル規制：成長の原動力とイノベーションの創出」と題する政策文書を公表し、3 つの主要目標を提示した。
•

成長促進を目的としたデジタル分野での競争とイノベーション促進•

デジタル分野成長と革新に伴う市民や企業への危害を防ぐことが保証できる安全で安心な国内オンライン環境の確保•

基本的権利と自由を保護することが可能な民主主義社会繁栄を促進するデジタル経済の形成
また、規制が必要となる場合に鍵となる３原則を定めた。

•

イノベーションの積極的な推進•

将来的な展望と一貫した成果の実現－ 21 －

•

国際的な機会や課題への対処
当該政策文書では、AI 戦略等、テクノロジーに関する具体的な戦略と同時に、欧州連合

よりも保守的ではない規制方針を示している。
2021 年 9 月、人工知能室は以下の AI 戦略目標を記した「AI 国家戦略」を公表した。
•

科学と AI の大国としてのリーダーシップを継続するため、AI エコシステムの長期的ニーズに対応した投資と計画立案を実施すること•

AI 対応経済への移行を支援し、英国におけるイノベーションの恩恵を取り込むことで、全ての部門と地域が AI による利益を享受できるようにすること•

AI 技術の国内外における管理を適切に行いイノベーションと投資を促進することで、英国国民及び政府の基本的な価値を保護すること
国家戦略には短期、中期、長期、各々に焦点を当て、目標達成に必要な計画的アクションを示す表が記載されるとともに、英国政府活動における今後 10 年間のビジョンが示されている。そのビジョン実現の前提条件としては、以下の事項を示している。
•

AI における進歩、発見、並びに戦略的優位性の主要な推進力が、人、データ、計算、資金へのアクセスであること（全て巨大なグロバール競争に直面していることに留意）•

AI は経済の大部分で主流となるため、英国における全ての分野と地域が AI 対応経済への移行に伴う恩恵を享受可能とするための活動を実施すること•

国家管理と規制体制が急速に変化する AI 需要に対応し、成長と競争を最大化してイノ
ベーションにおける英国の卓越性を推進するとともに、市民の安全、セキュリティ、選択肢、並びに権利を保護すること
また、戦略の柱を３つ詳しく解説しているが、「AI を効果的に統治する」という柱が AI

利用医療機器や SaMD の製造に最も大きな影響を与える可能性がある。加えて、分野間の不整合、規制の重複、多国籍企業への適用等、解決すべき問題点を明示し、解決策として国際標準の策定と調和推進、AI システムの安全性、公平性、信頼性を理解するための AI アシ
ュアランスの活用を提案している。
この戦略を支援するため、データと AI の信頼できる利用を目指して活動する政府専門機関であるデータ倫理・イノベーションセンターは、デジタル規制計画と AI 国家戦略に沿った「効果的な AI アシュアランスエコシステムのためのロードマップ」を 2021 年 12 月に公表し、当該エコシステム開発のためにセンターが支援すべき活動を特定している。
このように、英国は AI 規制に関して欧州連合とは異なる路線を描きつつ、大きく前進しているが、特定の分野における AI 利活用においては戦略及び規制が追いついていない。
【英国における AI 医療機器規制】＜国民保健サービス（National Health Service：NHS）の取り組み＞－ 22 －NHS は、英国においてヘルスケア関連の人工知能統合を推進する公共分野である。下部組織は、AI と NHS の専門知識を組み合わせて医療とケアの成果を向上させる目的で、既に臨床現場での AI 適用や AI ベースの医療機器開発にも対応したいくつかのガイダンスを公表している。また、興味深いことに、AI 利用促進を意図した「AI in Health and Care Award」
プログラムの後援も行っている。
＜英国医薬品・医療製品規制庁（MHRA）の取り組み＞
英国立法府は、MDD を改正し MDR と一致させるための法的規制枠組みを提供するために、2021 年 2 月に「医薬品・医療機器法（MMDA）」を可決した。このことは、英国においても、原則として MDR と整合した形で医療機器規制を行うことを示している。その後、MHRA は 7 月に 2021 年から 2023 年の取り組み計画を発表した。期待される成果物として記載されているものを以下に示す。
１）

患者を第一に考えることを保証するため、より良い患者・市民参加を実現する

２）

公衆衛生上インパクトがあり世界をリードする研究革新や独自提案を実現する

３）

イノベーションを支援し承認までの時間を短縮するための臨床試験制度の抜本的な見直しを行う４）

医薬品と医療機器へのアクセスに関する将来戦略と実現に向けたアプローチを開発
し実現する

５）

安全な技術革新と製品への継続的なアクセスを支援するための新医療機器に対する法的枠組みを確立する

６）

患者安全を確保するため、全ての医療製品に対するより迅速な安全性監視とリスク
マネジメントシステムを提供する

７）

英国が高品質な製品を提供する安全なサプライチェーンを確保するための革新的な介入を提供する

８）

真に世界をリードする革新的な規制当局となるための変革プログラムを実施する

９）

リーダーシップ能力を強化し、人材を惹きつけ維持し育成するプログラムを実施して、イノベーションを促進するとともに変革推進を可能とする

１０） 国際的協力体制を活用し、より優れた成果を上げる
１１） 英国の医療システムとの協力体制を活用、プロセスを統合し、より優れた結果を導き出す
１２） 積極的且つ革新的なコミュニケーションプログラムを通じて、社会及び利害関係者の信頼を獲得する
１３） 収入増加、コスト削減、並びに生産性向上を実現する将来に向けた新しいビジネスモデルを確立する
１４） 最適化された IT インフラを提供し、より少ないデジタル技術によるサービスの向上とコスト削減を実現する－ 23 －

MHRA は上記１）と５）を遵守することを前提に、英国における医療機器のあるべき規制に関するパブリックコンサルテーションを 2021 年 9 月 16 日から 11 月 25 日の間で実施した。コンサルテーションは MHRA が想定する立場や規制アプローチを提示した上で回答者から適切なフィードバックを引き出すための質問形式となっており、AI 利用医療機器に関する質問も多く含まれていた。
第 65 項は AI 利用医療機器に特化した設問となっており、
体外診断用医療機器に用いられる性能評価方法と同等のアプローチを取る性能評価方法を
当該医療機器に要求するための規制改正が提案されていた。この方法をとる場合には、化学的妥当性のみならず、分析及び臨床的性能の実証が不要となることになる。コンサルテーシ
ョン結果の発表時期は未定だが、MHRA は CE マーク付き医療機器を受け付けなくなる 2023
年 7 月までに新たな規制枠組みを準備することを予定している。
パブリックコンサルテーションと並行して、MHRA は「医療機器変更プログラムとしてのソフトウェアと AI」と題するガイダンスを発行した。ガイダンスに記されたワークスト
リームの一つには、SaMD のライフサイクル全体にわたって主要な改革を行うための作業パッケージ 8 つ（能力、クラス分類、市販前、市販後、サイバーセキュリティ、革新的アクセス、SaMD Airlock（クラス分類ルール）、モバイルデバイスによる健康関連機能及びアプリ）
が、もう一つのワークストリームには AI の厳密性、解釈可能性及び適応性（性能の可塑性）
がワークパッケージとして含まれている。各々のワークパッケージについてのガイダンス
は 2023 年夏までに MHRA により提供される予定となっている。
【今後の展開】
欧州連合を離脱したこともあり英国は独自路線を進んでおり、AI 利用医療機器の規制に関しては、
米国 FDA、
カナダ保健省との協力関係を構築して GMLP 基本原則を発行する等、各種施策を進めている。各種施策は詳細なガイダンスで補足される形の一般的規制アプローチを利用しており、技術の劇的な進歩を考慮すると、適切な管理を迅速に適応させる手段を提供する上で有用だと思われる。英国政府の国家 AI 戦略においては NHS と MHRA とが緊密に連携して策定と実行を進めているが、今後も同様のアプローチをとり続けるか、国際的な動向と合わせて注視する必要がある。
2.5 中国【背景】
2017 年、中国政府は人工知能関連分野でのリーダーシップを確保するために、新世代人
工知能発展計画、新世代人工知能産業の発展を促進するための 3 年計画を立て続けに発表した。これらの計画は•技術におけるリーダーシップ•

社会主義の枠組みを活用したシステム開発•

政府と産業界とのバランスによる市場支配•

産学官の共同と共有を促進するためのオープンソース作成とその公開－ 24 －

という 4 つの原則に基づいている。
これらの計画では、2020 年までに競争力と革新性の面で世界に同等となること、2025 年
までに AI 理論の大きなブレークスルーを達成して世界におけるハイエンドバリューチェー
ン産業を確立し国民を保護するための法規制を開始すること、2030 年までに AI イノベーシ
ョンにおける世界的リーダーシップを確保することが目標として掲げられていた。それらの目標を達成するために、中国は以下の取り組みを進めることとなった。

•

オープンで協調的な AI 技術革新システムを構築する•

AI の特徴である技術的属性と社会的毒性の高度な統合を把握する•

AI 研究開発・製品応用・産業育成の三位一体となったブレークスルー達成を推進する•

科学技術・経済・社会発展・国家安全を全面的に支援する発展計画には「インテリジェント・メディカル・ケア」と「ヘルス＆エルダー・ケアシス

テム」について少し言及されているが、具体的なアクションプランの対象にはインテリジェ
ント・ネットワークを利用した乗り物、ロボット、無人航空機、医療画像診断システム、ビデオ画像識別システム、音声対話システム、翻訳システム、スマートホーム製品などが挙げられている。また、必要なシステムとして標準確立、トレーニングリソース、ネットワーク
インフラ、サイバーセキュリティが挙げられている。
標準化については、中国電子標準化研究院から 2018 年に「人工知能標準化白書」が公表され、人工知能の歴史を概説しつつ世界の現状と動向を説明しつつ、将来の応用、安全、倫理、プライバシーの問題、AI の普及における標準化の役割が概説されている。また、国内外における取り組みだけでなく、AI に関する標準開発が直面している現在の問題点、例えば、一般的な技術知識の不足、産業や製品による細分化、AI を想定していない既存の規制に対する対応等を明示し、その解決策に関する提言が記載されている。従来の国際標準化機関である ISO/IEC による標準作成が自発的な有志活動によるものであり標準の完成までに時間を有することを考慮すると、報告書の提言・勧告を採用し包括的で一貫性のある標準プ
ラットフォームを構築することができれば、中国がこの分野における標準化のリーダーシップを確保する可能性がある状況となっている。
【中国における AI 利用医療機器規制状況】
国家薬品監督管理局（National Medical Products Administration：NMPA）は、SaMD 及び SiMDを含めた医療機器を対象に含む中国規制当局である。NMPA は IMDRF にも参加しており、
SaMD の規制においては IMDRF ガイダンスの殆どを採用しているだけでなく、2019 年には
IMDRF における AI ワーキンググループの議長も務めている。ロシアでの年次総会時、中国医療機器評価センター副部長である Peng Liang 博士が、中国内で発表された「深層学習による意思決定支援 SaMD の審査ポイント」と題したガイダンス文書案を紹介する発表を行っており、AI 利用医療機器の意図した目的が意思決定に資するか否かを明確にし、健康貢－ 25 －

献を目的としたデジタルヘルスと AI 利用医療機器、技術的特徴と製品特性、並びに従来型
AI と深層学習 AI とを比較した考察を取りまとめたものであった。また、NMPA もトータル
ライフサイクルマネジメントに重点を置いた取り扱いを考慮していることが発表で強調された。
当該ガイダンス案では、AI 利用 SaMD の開発に必要なプロセスを定義しており学習やテストに使用するデータの品質、アルゴリズム設計、検証及び妥当性確認作業、変更管理及びソフトウェア更新、サイバーセキュリティとの統合、登録に必要情報等を取り上げ、非常に規範的な内容となっていることが紹介された。2022 年 3 月頃に本ガイダンス案は更新された上で公表される予定となっている。
2021 年の RAPS RF Quarterly では、中国における SaMD 及び AI 利用医療機器の承認に関する規制の最新状況が報告されている。報告では、AI 利用医療機器を中国で販売する場合の要件と予想が概説されると共に、NMPA が発行したガイダンス文書及び実際に販売を承認された関連機器のリスト（表）も紹介されている。また、製品上市における経験を基にしたメーカが直面する主要課題も紹介されている。ほとんどの AI 利用医療機器はクラスⅡかⅢと判断され、中国内での非臨床及び臨床試験が要求されている。但し、倫理的な問題を解決し適切な人口統計に基づいて実施された他施設臨床試験によるデータを示すことができる場合、あるいは NMPA により後発品として承認されている製品との同等性を示すことができる場合には中国内における臨床試験は免除される。
一方、当該医療機器の開発及び評価に利用できる臨床データの取り扱いについては、ヒト
遺伝資源規制により、生体由来試料や当該試料から得られた遺伝情報等をデータとして収集する臨床試験を海外企業は独立して（許可なく）実施・支援することが出来ず、当該試料や情報を収集、保存、使用及び転送することも禁じられており、開発における障壁となっていることも報告されている。
現在確認できる９つのガイダンスのうち、幾つかの内容を精査した。
「肺炎の CT 支援ト
リアージ・評価用ソフトにおける留意点」の内容を確認したところ、以下のガイダンスを参照する形で登録申請に必要と考えられる情報に関する具体的な要件が記載されている。
「医療機器ソフトウェア登録における技術的審査に関するガイドライン」「医療機器ネットワークセキュリティ登録における技術的審査に関するガイドライン」「モバイル医療機器申請の技術的審査に関するガイドライン」「深層学習を用いた意思決定支援を目的とした医療機器ソフトウェアの審査における留意点」
これらのガイダンスはまだ試行段階のため、今後、具体的な要件として、リスク管理、検証・妥当性確認、ネットワークセキュリティ、設計やリスク管理テストに関するトレーサビ
リティが含まれる見込みである。また、モバイル医療機器に関するガイダンスで示されているクラウドコンピューティングで生じうる問題への対処方法、意図するソフトウェア機能－ 26 －

を特定するための記述部分とアルゴリズム説明に関するガイダンスを用いた性能評価の考え方も記載されている。
記載された概要は FDA の製品別ガイダンスと類似しているものの、AI 利用医療機器への適用を考慮すると、本ガイダンスが米国よりも先行していると思われる。
「医療機器製造品質管理仕様における独立ソフトウェアの監査ガイドライン」を確認した
ところ、監査ガイドラインと製品申請ガイドラインの間に明確な相関があることが判明した。本ガイドラインは、製品のライフサイクルモデルに対して QMS を適用することを期待しており、変更管理の適切性保証にソフトウェア更新に関するプロセスをチェックする要求事項が設けられている。
「医療機器ソフトウェアの技術的審査のためのガイドライン案（第２版コメント募集中）」
は、SaMD、SiMD を含めた全ての医療機器ソフトウェアに適用され、ライフサイクルの説
明、アジャイル開発特有の論点、検証や妥当性確認を含むテスト、トレーサビリティ分析、
医療機器ソフトウェアに組み込まれた市販ソフトウェアの使用等に関する説明が為されている。さらに、ソフトウェアのアップデートについては、マイナー、メジャーの違いに重点を置いた解説が為されており、包括的なガイダンスとして作成されていることが窺える。最終ガイダンスは提示された案に対して様々な修正が施されることが予想されるが、メーカ及び規制当局が使用者になり得る文書として取り扱われると考えられる。
「医療機器サイバーセキュリティの技術的審査のためのガイドライン（第２版）」は上述
したソフトウェアの技術的審査のためのガイドラインと類似した内容が含まれているため、ソフトウェア開発における補足文書として公表されていると考えられる。本ガイドライン
では、有線及び無線ネットワーク、一方向及び二方向通信によるデータ交換、人間とコンピ
ュータとの相互作用が取り上げられるとともに、定義された 20 種類のネットワークセキュ
リティ機能の準拠方法を記述要求、機能を提供できない場合の正当化要件が示されている。
また、ネットワーク・セキュリティ・インシデントに対応するための要件が説明されており、危害をもたらす事象については NMPA、国内サイバーセキュリティ当局に報告する義務があること、サイバーセキュリティを向上させるためにソフトウェアを更新する必要がある
ことが取り上げられている。第５章では、規制のソフトウェアに関する問題、機器の個人データや重要な臨床データを中国に残すための要件、第６章では申請に添付すべきネットワーク・セキュリティ報告書についてのガイダンス等が記載されており、全体としては IMDRF
が発行した「医療機器サイバーセキュリティのための原則と実践」に沿った内容となっている。
「人工知能のための医療用ソフトウェア製品分類のためのガイドライン案（コメント募集用）」においては、対象となるソフトウェアが意思決定支援機能、または画像データ処理機－ 27 －

能を提供する場合には医療機器として管理されること、AI 機能が単なるデータマイニング
やビジネス関連事項に使用される場合には医療機器非該当となること、アルゴリズムの成熟度が低い AI を利用した医療機器はクラスⅢとして管理されること、アルゴリズムの成熟度が高く且つリスクプロファイルが明確で安全性と有効性レベルが確立できるものはクラスⅡ医療機器として管理できることが示されている。また、この内容に沿った場合、クラス
変更の対象となり得る既存の製品については、2023 年末まで猶予期間を設けることも示されている。これらの内容は、妥当な安全性及び有効性が示されない限り、中国では AI を利用した医療機器がクラスⅢとして扱われる可能性を示している。
【今後の展開】
紹介した通り、中国では既に多数のガイダンスが発行されていることから、この点においては他国に先行していると判断できる。製品別のガイダンスでは、具体的な要求事項とその記載方法を明示しており、場合によっては最低限の性能要件も示されている。しかしながら、アルゴリズムに依存し、リスクに応じて変化し得る AI（ML）利用医療機器の性能を評価す
る方法は明示されていない。上述したとおり、中国では急速な対応が実施されているものの、全体として AI を利用した医療機器の承認に関する要件は十分に定義されていないのが現状である。しかしながら、国家的戦略の下、活動を続けており、AI 利用医療機器の開発と社会実装を加速するためのプラットフォームを NMPA が設立し、国内の専門家を集約してガ
イダンス作成、改訂等の作業を進めており、専用の規制枠組み構築も世界に先立って完了する可能性がある。
AI 利用医療機器関連の国際標準作成作業においても戦略的に行動しており、作成が容易な国内規格を発行した後に、その内容を ISO/IEC に展開しようとしていることから、他の国よりも先行していると考えられ、国際競争においても有利な立場となる可能性がある。一方、イノベーション加速という意味では、ケースバイケースで規制を実施する米国モデルが有効な可能性があるため、いち早く規制体制を構築し、国際標準化でのリーダーシップを確保しても当該機器の開発におけるリーダーシップまでも確保できるかは不明である。
2.6 韓国【背景】
韓国においては、政府主導で 2015 年より AI に関連する施策が開始され、2016 年 1 月に
は「知能情報社会のための第 6 次国家情報化基本計画」が、同年 12 月には「中長期政府研
究開発投資戦略」が公表された。さらに、2017 年、科学技術省により、中小企業を対象にした AI 技術開発のインフラ、機器、ソフトウェア、データを提供することを目的とした AI オ
ープンイノベーションハブが創設されている。さらに、2018 年には「AI 研究開発戦略」、「知的情報社会のための倫理指針」等が、2019 年には「データ・AI 駆動型経済推進計画」、「人工知能国家戦略」が立て続けに公表されている。
「人工知能国家戦略」は、OECD が「IT 超大国を超えて AI 超大国へ」と表現しているの－ 28 －

と同様の方針で、AI 時代に向けた国家的ビジョンと政策を関係省庁が連携して作成した国策である。具体的な目標として•2030 年までに世界デジタル競争力３位を確保する•

AI により 455 兆韓国ウォンの経済利益を創出する•

生活の質を向上させ上位 10 ヶ国に入るを挙げている。
全体的な計画や戦略は欧州連合や英国と類似しているが、最大の違いはイノベーションを促進することを目的に従来よりも緩い規制システムの構築を計画している点である。そのため、新しい技術やサービスが人々の生命や安全に危害を与えない場合には既存の法規制を超えて実証や市場投入を支援する「レギュラトリー・サンドボックス」という制度を創設することを計画している。しかしながら、その創設は予想以上の負担となる可能性がある。
その理由は、個人情報保護法や情報通信ネットワーク利用促進及び情報保護に関する法律
等、AI と関連する各種法律が既に存在しており、整合性を取ることが極めて難しいことが予想されるためである。
【韓国における AI 利用医療機器規制状況】
2019 年 9 月にロシアで開催された IMDRF 年次総会で、韓国食品医薬品安全省（MFDS）
は AI 医療機器に対する展望と規制上の考察を発表した。MFDS は AI 製品の大幅な増加を見込み、迅速な市場参入のための規制緩和を実施していることを紹介した。内容は以下のとおりである。
＜規制緩和を目的としたガイドライン等の発行状況＞•

2017 年 11 月 22 日：ビッグデータ・AI 技術を応用した医療機器の承認審査ガイドライン•2017 年 12 月 20 日：AI 利用医療機器の臨床性能評価に関するガイドライン•

2019 年 4 月 30 日：医療機器産業育成・革新医療機器等支援法の制定（2020 年 5 月 1 日
施行）＜臨床試験及び製品承認状況＞
使用したアルゴリズム等は不明だが、2019 年 9 月段階における当該医療機器の臨床試験
プロトコール承認状況は、申請 20 件でうち承認が 7 件、残り 13 件が審査中であり、脳梗塞の原因分類、肺結節異常の検出、骨年齢解析、腰椎圧迫骨折検出等、8 製品が承認済みであった。
＜ガイドラインの概要＞「ビッグデータ・AI 技術を応用した医療機器の承認審査ガイドライン」
AI 技術により医療情報を解析して疾病を診断・予測するソフトウェアを「AI 利用型医療－ 29 －

機器」として定義し分類することを定めた。具体的には以下のソフトウェアが該当する。

•

医用画像解析装置ソフトウェア•

コンピュータ支援検出ソフトウェア•

コンピュータ診断支援ソフトウェア（予知型スクリーニング、がん予知ソフトウェアを含む）•

放射線治療計画用ソフトウェア
承認審査時における留意点は以下のとおりである。

•

データ記録方法•

性能と臨床効果の測定•

前向き及び後ろ向き検証•

アルゴリズムの透明性•

アルゴリズムの変更管理•バージョン管理•

学習データ（RWD）の管理•

クラウド環境の制御「AI 利用医療機器の臨床性能評価に関するガイドライン」
対象データの選定、臨床医の合意決定方法等を含めた試験デザイン、選定したエンドポイ
ント（感度、特異度、ROC カーブ等）に関する事項を網羅した。特に、先行機器との同等性比較を検討する際には、現行規制やガイドラインの見直しが必要であることを示しているが、対象機器における同等性判断対象がアルゴリズムであるのか、コードなのか、効能なのか等は示されていない。
「医療機器産業育成・革新医療機器等支援法」
FDA の Pre-cert と同じシステムを設けたことを意味する可能性はあるが、改正された本法では革新的医療機器の認証が可能となった。その他、改正承認制度の導入、臨床試験プロ
トコールの MFDS による承認免除等が設けられている。
近年になって、「ビッグデータ・AI 技術を応用した医療機器の承認審査ガイドライン」が業界向けガイドラインとなると共に「AI 利用医療機器の臨床性能評価に関するガイドライン」と統合された。SaMD、SiMD 双方を含んだ医療機器が事例とともに詳細に分類され、承認申請に明示すべき主要機能の説明、学習データの由来、性能等が明示されている。また、オンプレミス型なのかクラウド型なのか、どのようなセキュリティを設けているかを示すことも求められている。さらに、性能及び臨床的妥当性評価のガイダンスも記載されている。
承認申請に関する要件は「医療機器産業育成・革新医療機器等支援法」を参照する形となっており、同等性判断に関してはディシジョンツリーを含めて詳細な記載が設けられている。
追加学習により AI 利用医療機器の精度が向上したケースに関しては、再度の承認申請が－ 30 －

不要な場合、変更申請が必要となる場合、変更申請が必要となる可能性がある場合、それぞれを説明している。バージョン管理及びラベリングに関する推奨事項にも触れており、最後に学習データ管理ポリシー、クラウド技術の規制に関する要件についても簡単に説明している。
さらに、MFDS は業界向けに「医療機器のサイバーセキュリティに関する承認審査ガイド
ライン」、「デジタル治療薬の承認審査ガイドライン」を上述したガイドラインと同時期に公表した。後者は AI 利用の可能性も想定したデジタルセラピューティックス（DTx）を対象としており、該当性を示したディシジョンツリー、治療のみならず、予防や健康管理を目的とした製品事例も記載されている。
【今後の展開】
上述したとおり、対象となる製品の上市化を促進するために、規制緩和を意図した数多くのガイドラインが公表されている一方、サイバーセキュリティに関する要件や DTx の承認申請に関する情報が記載されたガイドラインも公表されていることから、考慮すべき要件は少なくはない。本当の意味での規制緩和がどの程度進むのか、製品がどれだけ社会実装されるのかは未知数であり、ガイドラインの運用も含めた今後の状況把握が必要と考えられる。
2.7 ロシア【背景】
2019 年 10 月 10 日、プーチン大統領により 2030 年までの AI 発展を目的とした国家戦略を盛り込んだ「ロシア連邦における人工知能の発展」に関する政令が公布された。他の法律や政令が法的枠組みの基礎を形成しているが、本政令は以下の構成で AI に関する国家戦略を記載している。

•

一般規定

•

ロシアと世界における人工知能の発展•

AI 技術の開発と利用の基本原則•

AI 技術の開発と利用の優先的方向性•

AI 開発の目標と主な目的•

本戦略を実施するためのメカニズム
本政令には、科学研究支援、AI 技術を用いたソフトウェア開発、学習データの品質及び入手性の向上、ハードウェアの入手性向上、AI を支える人材の増加、イノベーションを支援しつつ人権及びプライバシーを守る規制システムの構築等の主要な取り組みが記載されている。また•2024 年までに、本戦略で想定されている目標を達成すると共に各種問題を解決し、記載された施策を実行するための法的な条件を整える－ 31 －

•

2030 年までに、ロシア連邦における AI 分野での柔軟な法的規制システム、特に公共の安全を保証し、AI 技術開発を促進させるシステムを機能させることが目標として掲げられている。
ロシアの活動における需要なトピックスの一つは AI の標準化活動である。手始めに、ビデオ監視システム機器の特性、試験方法、品質評価方法、配置条件等を決定することを目的とした AI に関する標準化案の作成が進められた。2020 年には、防衛、医療、エネルギー、科学、ディープラーニング、ソーシャルメディア等、様々な領域におけるビッグデータ活用
事例を紹介する規格案も発行されている。さらに、2021 年初頭には、ロシア厚労省により2027 年までに医療分野での AI 活用を目的とした約 50 の標準を導入する計画についても記載された、今後 3 年間における AI 関連の標準化計画も公表された。2020 年 8 月には AI 開発を促進するための法制度改革を可決し、個人情報保護法の改正を進める模様である。一方
で、サイバー脅威、知的財産権問題、AI による労働者駆逐の可能性等の懸念についても留意している様子である。
ロシアにおける AI 開発は国有団体を介した政府資金により展開されているが、人材が不足していること、COVID-19 パンデミックの発生及び相応のリソースを有するものの現実におけるギャップにより、米国や中国に遅れを取り続ける可能性があることがエルゼビアから発行された論文において指摘されている。また、米国海軍分析センターが発行した総括報告書でも AI 関連予算が大幅に縮小されていることが記載されている。
上記のとおり、ロシアは、経済システム全体で AI 活用を推進するための集中的な取り組みを実施しているが、民間企業による投資が保証されない可能性があるため、必要な資金が不足する可能性がある。また、アカデミアで育成している人材と実際に必要とする人材との間にギャップが存在するため、ロシアの目標を達成する上では今後それらの問題を解決する必要がある。
【ロシアにおける AI 利用医療機器の規制状況】
2019 年にロシアで開催された IMDRF の年次総会ではロシア連邦医療監視サービスの
SaMD 部門長によるプレゼンテーションも行われ、ロシアにおける現在の医療機器規制やSaMD の承認申請に必要な要件が説明された。発表段階で示された当該要件は以下のとおりである。

•

ソフトウェアの説明•

開発環境の説明

•

要求仕様書

•

検証及び妥当性確認用文書•

アーキテクチャー設計－ 32 －

•

コンフィギュレーション（システム、周辺機器等の機能ユニットの性質、数、特性に応じた配置・設定等）管理

•

リスク分類

•

リスクマネジメントとリスク分析プロセス•

ライフサイクルプロセス•

サイバーセキュリティ

•

ラベリング

•

未解決の異常（バグ、又は不具合）•

医療用として承認された公的手法、標準、または参考ガイドに基づいたソフトウェアア
ルゴリズムに関する情報

•

テスト計画
また、医療意志決定支援システムが AI 利用 SaMD の最初の承認例になると予想される

こと、今後の承認に向けた課題として•

AI に関する特定の規制要件がないこと•

妥当性を検証した臨床情報を集積したデータベースが国内外に存在しないこと•

学習に不正確な医療データが利用され得ること•「ブラックボックス」状態のアルゴリズムに対するテスト方法を構築する必要があることが挙げられるとともに、これらの課題の一部は、メーカが規制当局に提供・共有する情報収集データベース（キュレーションデータベース）を利用したケーススタディにより解決できることが紹介された。
また、ロシアにおける医療 AI システムの標準化活動が、以下のテーマと共に紹介された。

•

分類、用語、定義•

使用地域・境界線•

一般規定 – 技術的試験方法

•

臨床試験

•

市販前学習に対するリスクマネジメントの適用 – アルゴリズム変更プロトコール•

継続的学習プログラムにおける作動パラメータのモニタリング及び評価のための方法•

AI システムの学習及びテストに使用するデータベース開発における要件•

情報セキュリティ及びサイバーセキュリティの確保手段•

データの収集、保存、処理、移動及び保護に関する要件•

ビッグデータの最適化と統合
上記項目に加えて、責任の所在に関する基準の策定、AI/ML 利用 SaMD により得られた－ 33 －

データに医師が依存できるケースについても説明があった。
この発表後、2020 年 4 月 3 日、ロシア規制当局により初めて非臨床及び臨床試験をクリアした AI 利用 SaMD として Webiomed 社の 「Clinical Decision Support System」が承認されたことが発表された。
2020 年 10 月、Webiomed 社は「ソフトウェアを医療機器として登録するためのロシアのルールについて」を HP で公表した。HP では、上述した SaMD を医療機器として登録するために実施された規制プロセスの概要が説明され、当該プロセスがほとんどの AI 利用医療機器に適用させることが推奨されている。また、登録プロセス（準備、試験・試行、登録）毎の留意点、関連する規制や国家標準等を参照・考慮した提出すべき情報に関するガイダンスを提供している。
ロシアにおいては、登録プロセスに必要な書類が揃った後、臨床試験に先立って適合性を証明するため、独立した組織による技術的な試験の実施が求められている。さらに、非常に革新的で安全性及び有効性に関する過去の参考情報が得られない場合、意図した目的を実現するための方法が複雑且つ独特だった場合、あるいは開発中に安全性や有効性を判断す
ることが不可能だった場合には、対象となる SaMD には臨床試験の実施が要求される。そのため、殆どの SaMD においては本当の意味での臨床試験は不要であり、その内容は独立した機関による臨床データの解析と評価に留まると HP で概説されている。また、ロシアにおける登録プロセス毎の必要期間をリスク別に示している（表）。

表：Webiomed 社が公表している登録プロセス毎の所要期間（参考資料①より引用）
規制当局であるロシア連邦医療監視サービスは、2020 年 10 月に「現行の規制枠組みにおける登録のための医療機器（ソフトウェア）の品質、有効性及び安全性の審査手続きに関す
る方法論的提言」を公表し、2021 年 2 月に内容を更新した。その結果、ソフトウェアバー
ジョンの識別、ソフトウェアの変更計画、開発及び実際の製品に使用されたデータセットとハードウェアに関する詳細の開示要件、AI/ML 特有のアルゴリズム及び手法、並びに学習
データセットの詳細な記述に関して追加変更が為されていることが報告されている。
最も新しい変更点は、ユーラシア経済連合（EAEU）との規制調和を図るための計画が追加されたことである。2022 年 1 月 1 日にはその調和に関する計画が施行される予定であっ－ 34 －

たが、1 年延期された。このため、2022 年 6 月までは、対象となる製品の登録はロシアの規制下で実施されることとなった。しかしながら、EAEU における規制は QMS 及び臨床試験要件の点で異なっており、ISO 13485 適合では製造施設として不適格となってしまう。そのため、特に多施設共同試験を実施する国際的な製造業者は EAEU における製品登録のために加盟国内に独自の QMS 適合を取得した製造施設を有することが求められる。この相違点を解決し EAEU との調和を図るため、ロシアは EAEU と同様の要件を適用するための新しい規制を 2022 年中に導入することとなっている。
【今後の展開】
公表した国家戦略どおりに進捗していないものの、 AI 技術を利用した医療機器、特にSaMD の登録に関するルールの導入と実装については大きな進展を見せている。AI 利用
SaMD に関する要件の明確化に関しては、中国や韓国と比較して遅れをとっているものの、
米国 FDA が発表してきたガイダンスと同等のルールを公表していると言っても良い。個別
製品特有の性能基準が開発されれば、ロシアにおける AI 利用 SaMD の規制要件や枠組みはより明確化されていくことが予想される。
2.8 各国における AI 利用 SaMD 等の開発状況
インターテックジャパンの報告書によれば、調査対象とした各国における新規 AI 利用
SaMD の承認状況は以下のとおりである。なお、技術的、言語的な問題等により情報の入手が困難だった国が存在していたことから、情報が入手できた国の開発状況のみを以下に記す。また、同様の理由で情報の粒度が異なっていることに留意されたい。
＜米国＞
放射線及び画像処理関連に着目したところ、2021 年中に承認された製品数は 78 件であり、いずれも 510(k)か De Novo による。78 件のうち、初めて市場参入した企業、あるいはAI 利用 SaMD が承認された数（A）が 33、当該 SaMD の承認経験を有する企業が他社製品を申請して承認された数（B）が 10、承認済み自社製品の改良等が承認された数（C）が 35となっている。なお、2008 年から 2020 年までの合算数は A が 67、B が 22、C が 71 となっており、承認数が右肩上がりとなっていることは明らかであるものの、実質的な新規承認数
は 150 を超えた程度と推察され、これが多いかどうかは判断が難しい。事実、2021 年段階で承認された SaMD 数は 160 から 238 に増加しているものの、その増加の殆どが改良や一部変更相当であることが確認されている。また、公表されている FDA のリストには AI を
主機能に利用していない製品、ML を利用していない製品も含まれており、AI、特に ML を主たる機能に適用した製品の正確な承認数を把握することが困難となっている。
放射線及び画像処理関連以外の分野における AI 利用 SaMD においては、2020 年における新規承認数は 18 件、2012 年以降の積算数は 56 件であり、半数以上が心疾患診断を目的とした製品であった。

－ 35 －

＜欧州＞欧州では、EUDAMED データベースの立ち上げが遅れているため、Web 検索と企業 HP の調査を実施した。総数等に関するデータは得られなかったものの、2020 年にクラス 2a として認証された製品としては以下が判明した。
Avcienna.ai（フランス製、CT ベースのトリアージツール）
ContextVision（スウェーデン、前立腺がんスクリーニング用病理ツール）
Vuno（韓国、画像ベースの製品で詳細は不明）＜中国＞2020 年 1 月、AI を利用した初のクラスⅢの製品として Keya Medical 社の DeepVessel FFRが承認された。DeepVesselFFR は深層学習技術を利用しており、冠動脈 CT 血管造影を用いた冠動脈の生理学的機能を非侵襲的に評価するソフトウェアである。
翌月、FDA が先行承認していた心電図から各種疾患を検出する Lepu Medical 社の AI-ECG
Platform が、8 月には糖尿病性網膜症診断を目的とした眼底画像診断支援 SaMD である
Airdoc と Silicon-based Intelligence が承認されている。その後、11 月に冠動脈 CT 撮影トリアージを目的とした製品、並びに画像処理を目的とした製品が、12 月には医療用画像処理製品が承認されていることが確認された。
＜韓国＞
比較的多数の製品が承認されていると思われるが、報告書には製品関連 HP へのリンクのみが記載されており、詳細については不明である。
＜ロシア＞
前述したとおり、Webiomed 社の「Clinical Decision Support System」が 2020 年 4 月に第 1号として承認されている。
2021 年 3 月に公表された論文では、その段階でロシアにおいて医学・医療用 AI 利用
SaMD30 種類が開発されていることが推定されている。その内訳はコンピュータ画像技術による医用画像解析 17 製品
鑑別診断を含むデジタル診断機能 4 製品
病態・疾患・合併症の予防 5 製品
治療法の選択と制御を含む治療支援 2 製品
その他 2 製品となっている。現在、論文に記載されていた情報を基に幾つかの製品が実際に登録されていることが確認されたが、研究用製品も含まれているため、現在の製品数は不明である。さらに、医者が自身の責任で使用する場合は製品としての登録なしで利用・公表できるため、該当するソフトウェアが広告されているケースがあることが、医療機器該当、非該当の区別を－ 36 －

困難にしている。

－ 37 －

3．国際標準化状況
欧州委員会は AI Standardization Landscape state of play and link to the EC proposal for an AI
regulatory framework を 2021 年 7 月に公表した。
全てが医療機器に適用されることはないが、当該報告書の附属書には現在関連する標準を作成している団体や当該標準に関する概要が記載されており、現状を包括的に示している。
一般的な AI に関する標準は様々な組織、特に国際標準化機構（ISO）と国際電気標準会
議（IEC）が共同で開発しており、以下の組織が存在する。

•

ISO/IEC JTC 1/SC 42/AG 2

AI システムエンジニアリング•

ISO/IEC JTC 1/SC 42/AHG 1

普及とアウトリーチ•

ISO/IEC JTC 1/SC 42/AHG 2

SC38 とのリエゾン•

ISO/IEC JTC 1/SC 42/AHG 3

インテリジェントシステムエンジニアリング•

ISO/IEC JTC 1/SC 42/JWG 1

AI のガバナンスへの影響•

ISO/IEC JTC 1/SC 42/WG 1

基礎規格

•

ISO/IEC JTC 1/SC 42/WG 2

データ•

ISO/IEC JTC 1/SC 42/WG 3

信頼性•

ISO/IEC JTC 1/SC 42/WG 4

ユースケースとアプリケーション•

ISO/IEC JTC 1/SC 42/WG 5

AI システムの計算アプローチと特性

これまでに、正式な国際標準として ISO/IEC JTC 1/SC 42 で作成された文書は以下のとお
りである。

•

ISO/IEC TR 24027:2021 情報技術 - 人工知能（AI） - AI システムにおける偏りと AI による意思決定•ISO/IEC TR 24029-1:2021 人工知能（AI）-ニューラルネットの堅牢性の評価ネットワー
ク - Part 1:概要•

ISO/IEC TR 24030:2021 情報技術-人工知能（AI）-ユースケース•

ISO/IEC TR 24372:2021 情報技術-人工知能（AI）-概説 AI システムのための計算論的ア
プローチ
現在、ML のデータ品質、AI システムのライフサイクルプロセス、機能安全及び AI シス

テム、AI システムの品質評価等を対象とした国際標準作成も進んでいる。
米国電気電子学会（IEEE）においても一般的な AI に関する標準が策定されているが、ISO/IEC とは異なり、2019 年には「AI 分野のエシカルデザイン」に関するガイドブックを公表する等、特に倫理的観点からの標準作成を集中的に行っている。医療機器への速やかな適用は困難であるものの、以下に IEEE が作成した代表的な AI 関連標準を示す。

•

IEEE P7004™ - 子供と生徒のデータガバナンス標準•IEEE P7005™ - 透明性を有する雇用者のデータガバナンス標準•IEEE P7007™ - 倫理的に駆動するロボティクスとオートメーションシステムのための－ 38 －

存在論的標準•IEEE P7008™ - 知能を有したロボットの自律的システムのための倫理的に駆動するナッジのための標準•

IEEE P7009™ - 自律的・半自律的システムのフェイルセーフ設計標準•

IEEE 7010-2020™ -自律的知能システムが人間の福利厚生に与える影響評価のためのIEEE 推奨プラクティス•

IEEE P7011™ - ニュースソースの信頼性を識別し評価するプロセス標準•

IEEE P7012™ - 機械が読み込み可能な個人情報保護用語の標準•

IEEE P7014™ - 自律的システムおよび知能的システムにおける模倣された共感における倫理的考察のための標準•

IEEE IC20-027 - AI とライフサイエンスにおける責任あるイノベーション
新興企業からフォーチュン 500 に名を連ねる大企業に至るまでの 1000 社以上を会員に持ち、技術開発の障壁となる法規制を取り除きイノベーション経済を保護するためのロビー活動を目的とした業界団体であるコンシューマーテクノロジー協会においても業界標準が作成されている。現在確認できる標準は、人工知能の定義と特性（ANSI CTA 2089）とそれをヘルスケアに拡張した標準（CTA 2089.1）がある。当該協会は、AI 白書に関する EU の協議の際、業界からのフィードバックも行っている。
ITU/WHO による Focus Group である AI for Health（AI4H）は AI ソリューションのベンチマークと評価を目的とした枠組みを開発するために 2018 年に結成された。現在、AI ソリューションに資する評価のためのオンラインツールを開発しており、その頑健性を保証する
ために、発行済みの標準と開発中の標準を評価している。将来は規制に関する課題も検討する予定となっている。
規制側の動きとしては、国際医療機器規制当局フォーラム（IMDRF）に AI に特化したワー キ ン グ グ ル ー プ （ WG ） が 設 立 さ れ て お り 、 関 連 し た 用 語 と 定 義 に 関 す る 文 書（IMDRF/AIMD WG (PD1)/N67:2021 Machine Learning-enabled Medical Devices-A subset of
Artificial Intelligence-enabled Medical Devices）の作成が進んでいる。
また、米国 FDA は Recognized Standard として新たに 4 つのソフトウェア関連標準を認定している。
規制の上で標準が必須となっている欧州においては、2022 年 2 月、標準化を加速し EU シ
ステムのガバナンスを向上させることを目的として、欧州委員会が標準化戦略及び関連報告書を公表した。現時点でこれらの文書が標準化の世界で及ぼす影響を測ることは困難だ
が、欧州が欧州標準のみを重視することになれば、他の標準と何らかの乖離が生じることが予想される。

－ 39 －

上述した各団体において発行されている標準、並びに関連する標準の詳細については、インターテックジャパンによる報告書原本の付録に記載されたリストを参照されたい。

－ 40 －

4．国内における開発及び薬事規制状況
1) 承認・認証による製品化状況
調査段階における AI（ML）を利用した SaMD として承認されている製品は以下のとおりである。
疾患鑑別用内視鏡画像診断支援プログラム（クラスⅢ）
販売名

承認年月

承認／認証番号

内視鏡画像診断支援ソフトウェア EndoBRAIN

平成 30 年 12 月

23000BZX00372000

内視鏡画像診断支援ソフトウェア EndoBRAIN-UC

令和 2 年 4 月

30200BZX00136000

内視鏡画像診断支援ソフトウェア EndoBRAIN-Plus

令和 2 年 7 月

30200BZX00235000

内視鏡検査支援プログラム EW10-EC02

令和 2 年 9 月

30200BZX00288000

病変検出用内視鏡画像診断支援プログラム（クラスⅡ）
販売名

承認年月

承認／認証番号

内視鏡画像診断支援ソフトウェア EndoBRAIN-EYE

令和 2 年 1 月

30200BZX00021000

内視鏡画像診断支援プログラム EndoBRAIN-EYE

令和 2 年 6 月

30200BZX00208000

WISE VISION 内視鏡画像解析 AI

令和 2 年 11 月

30200BZX00382000

汎用画像診断支援装置ワークステーション用プログラム（クラスⅡ）
販売名

承認年月

承認／認証番号

類似画像症例検索ソフトウェア FS-CM687 型

令和元年 12 月

30100BZX00263000

肺結節検出プログラム FS-AI688 型

令和 2 年 5 月

30200BZX00150000

AI-Rad コンパニオン

令和 2 年 6 月

30200BZX00202000

COVID-19 肺炎画像解析プログラム FS-AI693 型

令和 3 年 5 月

30300BZX00145000

胸部 X 線画像病変検出(CAD)プログラム LU-AI689 型

令和 3 年 7 月

30300BZX00188000

承認年月

承認／認証番号

令和元年 9 月

30100BZX00142000

令和 2 年 6 月

30200BZX00184000

令和 2 年 6 月

30200BZX00212000

令和 2 年 8 月

30200BZX00269000

令和 2 年 11 月

30200BZX00379000

その他（クラスⅡ）
販売名
MR 装置ワークステーション用プログラム
医用画像解析ソフトウェア EIRL aneurysm
X 線画像診断装置ワークステーション用プログラム
InferRead CT Pneumonia
X 線画像診断装置ワークステーション用プログラム
COVID-19 肺炎画像解析プログラム AIi-M3
X 線画像診断装置ワークステーション用プログラム
医用画像解析ソフトウェア EIRL X-Ray Lung nodule
超音波装置ワークステーション用プログラム
乳がん診断支援プログラム RN-デカルト

現時点では 17 製品が確認できるものの、いずれも改良医療機器（臨床なし）で承認され－ 41 －

ており、審査報告書は公表されていないため、性能評価の詳細は不明である。しかしながら、
サイバネット及びエルピクセルにはヒアリングに協力いただき、関連情報を入手できた。詳細は次項に示す。
また、AI 利用 SaMD が認証品として市販されている可能性があることから、認証機関を対象にしたアンケートを実施した（参考資料②）。その結果、回答が得られた認証機関において認証された当該 SaMD は確認されなかったが、今後、認証を可能とするための要望、
SaMD 全般における認証時の課題等が寄せられた。詳細は参考資料②を参照されたい。
2) 当該製品に対する性能評価
前項で記載したとおり、承認された AI 利用 SaMD における性能評価の詳細について、サ
イバネット及びエルピクセルの協力を得て、開発者を対象としたヒアリングを実施した。その結果を参考資料③に示す。なお、知的財産等の問題により、エルピクセルを対象にしたヒ
アリングの内容は公開できないため、参考資料③には添付資料情報を基に作成した。
サイバネットが開発した製品のうち、ヒアリング対象となったのは EndoBRAIN、
EndoBRAIN-Plus、EndoBRAIN-EYE の 3 つで、前者 2 つがサポートベクターマシン、最後が深層学習を用いて作製されている。
ML を利用した SaMD としては本邦承認第 1 号となった EndoBRAIN における性能評価
方法を確認したところ、その概要は以下のとおりであった。
•

後ろ向き試験で製品と非専門医との感度比較を実施•

エンドポイントとしては感度を設定•

有効性の基準として 20 名の非専門医より当該製品の方が高いことを設定•

テストデータ数は 100 で、その内訳は腫瘍像が 65、正常像が 35 で全て昭和大学横浜市
北部病院において収集
当初は Single arm で感度 90%を設定して評価する予定だったが、最終的に非専門医との比較試験となったとの紹介があった。その後承認された他の２製品における性能評価にはSingle arm の後ろ向き試験結果が用いられていることを考慮すると、非専門医との比較試験
が性能評価に用いられたのは、本製品が ML 利用 SaMD の承認第 1 号であったことが理由だと推察される。
上述したとおり、EndoBRAIN-Plus 及び EndoBRAIN-EYE の性能評価では Single arm の後ろ向き試験が実施されている。前者は誤診による患者へのリスクが高いと判断し、エンドポ
イントには特異度を、評価基準値としては 90%以上を設定して 50 病変から取得した画像からランダム抽出した 500 枚の画像を用いて評価を実施している（結果は 97.3%）。後者については大腸病変検出を臨床的位置づけとしていたことから見落とし防止を重視してエンド
ポイントは感度、評価基準値としては 90%以上を設定して 300 個の病変を含む動画を用いた有効性評価を実施している（標榜されている結果は感度 96%、特異度 93%）。興味深いことに、この評価においては非専門医が取得した画像が３割含まれているが、これは市販後における非専門医の使用を想定したためだと推測される。この製品のみが深層学習をベース－ 42 －

としていること、適用可能機器に幅を持たせていることと関連するかは定かでないが、他と比較して数多くの副次評価項目が設定されていることも興味深い。これらの情報は、今後、同様の目的を有する SaMD 開発の参考となる。
一方、エルピクセルの製品のうち、その評価内容を把握できたのは EIRL aneurysm のみである。深層学習をベースにした製品として承認第 1 号だったためか、この製品においても後ろ向き試験での評価であっても Single arm ではなく、本製品での使用前後の医師による診断結果を比較し性能指数、感度及び特異度、並びに好転率及び暗転率をエンドポイントとして用い、その向上程度を用いた評価を実施している。なお、テスト用データとしては脳動脈瘤の有症例 50、無症例 150 が使用されている。
非常に限定的な調査ではあるが、これらの結果から AI 利用 SaMD の性能評価においては以下の傾向が認められる。
•

適用前例がない場合、あるいは新規アルゴリズムを使用した場合は、医師との比較試験が求められる可能性がある•

適用やアルゴリズムに前例がある場合にのみ、Single arm の後ろ向き試験が認められる可能性がある•

臨床上位置づけ及び使用者を想定した臨床画像・動画を性能評価におけるテスト用データとして選定する必要がある•

設定されたテスト用データ数やその中の有症例割合における統一した傾向が認められないため、その設定根拠は不明
ヒアリング時に得られた情報ではあるが、米国では内視鏡を使用した場合に検出されたポリープを全て切除するのが基本的な施術であることから、内視鏡用 AI 利用 SaMD の承認
申請時に前向き臨床試験の結果が要求されるとのことである。しかしながら、Medtronic が製造販売している GI genius の場合、イタリアの著名な研究者と共同で臨床研究データを用いた性能評価を実施することで検出支援 CAD として承認を得ていることから、前向き臨床試験の要求はあくまでも原則であること、臨床的位置づけ等に応じて臨機応変に対応していることが推察される。よって、規制当局における AI 利用 SaMD の承認申請に必要な性能評価の考え方は臨床的位置づけに応じて変化することが予想され、今後適切な性能評価ガ
イダンスを作成することでその社会実装が促進することが期待される。
3) SaMD フォーラム 2022 を通じた薬事規制上の課題抽出と整理
厚生労働省の施策である DASH for SaMD の一環として、2022 年 2 月 4 日、Web 配信方式
で「SaMD フォーラム 2022 –プログラム医療機器における産学官連携 –」を開催し、約 840名の聴講があった。総合討論では、データの利活用や個人情報の取り扱い等の開発段階における課題、SaMD 等の市販後性能向上や持続的改良に関する薬事上の課題、SaMD に対するイノベーション評価をどのように診療報酬に反映させビジネスに繋げることができるかと－ 43 －

いう開発モチベーションにも関係する課題に対して活発な討議が為され、演者、聴講者及び主催者の間に今後に向けた共通認識が醸成された。
（発表内容等は参考資料④のフォーラム
要旨集及び演者発表スライド（公開用）を参照）。
フォーラム開催後にアンケートを実施したところ、359 名から回答が寄せられた（回答率43%）。自由記述とした設問に対しても詳細な回答が寄せられており、SaMD に対する期待が大きいことが窺える（詳細は参考資料⑤を参照のこと）。結果を見ると、総合討論でも取り上げた薬事上の要求事項と診療報酬上の評価が、聴講者の多くに興味のある課題であったことが窺える。いずれも関連省庁により各種施策が検討されている課題であり、その進捗や具体的な内容に関する情報公開や討論がその解決に繋がると思われるため、SaMD フォーラムがその場の一つとなることが期待される。

－ 44 －

5. まとめ
本事業は、厚生労働省の施策である DASH for SaMD の一環として、海外諸国における AI
利用 SaMD の規制実態や開発状況、関係する国際標準化状況、本邦で承認された AI 利用
SaMD で実施された性能評価等に関する調査を実施したものであり、その結果を本報告書に取りまとめた。また、施策の一環として開催した産官学連携フォーラム「SaMD フォーラム
2022」での発表内容及び事後アンケートで得られた結果も整理して取りまとめた。
海外における実態調査の対象国として、米国、欧州、英国、中国、韓国、ロシアを選択し、それらの国における AI 利用 SaMD に関連する規制状況を外部委託して調査したところ、•

AI 利用 SaMD に特化した規制の迅速な導入を各国が争っているが、未だに試行錯誤を続けている模様である•

ML の最大の特徴である「性能の可塑性」を積極的に利用可能な AI 利用 SaMD を社会実装することは検討されているものの、既存の医療機器規制ではその実現は困難なこともあり、その要件を明確に示している国は存在しない•

多少の相違はあるものの、現時点で各国のガイダンス等に記載されている要件や現在の規制実態は本邦と大きな差がない（大きく先行している国はない）

ことが明らかとなった。
その中で、唯一、他と異なるスタンスをとっているのが欧州である。プライバシーや AI
により生じうる社会的な懸念により、一般的な AI に対する規制まで設けられている国・地域は他にない。MDR とどのように組み合わせて AI 利用 SaMD に対する規制を設けるか、
まだ未知数の部分はあるが、世界的に見てもかなり厳しい内容となることが予想され、その社会実装は他国よりも遠い印象を受ける。
ML の特徴活用の一環として、AI 利用 SaMD のメーカによる段階的な性能変更を迅速に実施するための施策も各国で試行されているが、その実態は本邦における IDATEN と同等であり、その実装を完了して上市化した当該 SaMD の性能変更を承認・適用している国はないと考えられる。他の国と比較して米国における Pre-cert は独特の施策であるが、その成果は未だに示されていないこと、新たに ACP、SPS を GMLP の概念とともに導入しようとしていることから Pre-cert の実装には何らかの問題が存在していることも予想される。
今後、それらの状況及び成果が公開されることになっているため、その内容を基に Pre-cert の問題点を精査すれば、本邦における IDATEN を円滑に運用するためのヒントが掴めることも期待される。引き続き、今回調査対象となった各国、特に米国の規制導入状況をフォローすることが必要である。
各国の開発状況においては、言語的な問題が大きく、調査対象国の正確な製品数を把握することは困難であった。結果的に米国の開発状況がクローズアップされているが、本邦では一部変更申請として扱われるケースが「承認」として計上されていることが判明したことか
ら、表面的な数では本邦との開発状況の差を正確に見積もることはできないと思われる。今後、さらに詳細な調査を行い、規制枠組みも含めた米国との差異を検討する必要があると思われる。

－ 45 －

SaMD フォーラムの開催を通じて、その開発及び社会実装について産官学が期待を寄せていること、薬事上の要求事項や当該製品承認に伴う保険収載条件の明確化、それに伴うビジネスモデル構築等が課題となっていることが窺えた。SaMD は従来の医療機器規制要件で対応可能だと思われるが、従来は存在しなかったコンセプトが実現可能であること、性能の可塑性を活用する手段が必要となること等からその対応を示したガイダンスが求められていると思われる。特に、性能の可塑性を実現した深層学習を含む機械学習技術の研究は、当初の予想よりも長くブームが続いており、今後数年は衰える気配がない。機械学習技術を活用した SaMD の実用化促進には、まず、現状の規制で対応が可能か、あるいは新たな枠組みを必要とするかを見極める必要がある。現状の規制枠組みを維持する場合、新たな薬事制度として導入された IDATEN を柔軟且つ迅速に適用することで当該 SaMD の承認審査を促進す
ることも期待される。今回調査した内容、特に海外諸国の規制動向、承認された AI 利用
SaMD の性能評価方法を参照した基本的考え方の構築や IDATEN の適切な運用等を考慮したガイダンスを作成することで、当該 SaMD の迅速な社会実装に貢献することが可能と考える。

－ 46 －

参考資料①

海外の実態調査に関する報告書

Research Report
JY21100095-905 Rev2
Prepared for:Japan National Institute of Health Sciences
Issued by:Intertek Japan K.K

Pier City Shibaura Bldg. 4F
3-18-1 Kaigan, Minato-ku, Tokyo
108-0022 Japan－ 47 －

Table of Contents
Revision History ............................................................................................................................................ 5
Purpose ......................................................................................................................................................... 6
Executive Summary....................................................................................................................................... 6
Research Methodology ................................................................................................................................. 6
Important Definitions.................................................................................................................................... 6
United States Regulatory Pathway ............................................................................................................... 6
FDA’s Historical Governance of Medical Device Software ....................................................................... 6
Key Points from Proposed Regulatory Framework for Modifications to Artificial Intelligence/Machine
Learning (AI/ML)-Based Software as a Medical Device (SaMD) ............................................................... 7
FDA Milestones in Regulation of AI/ML-Enabled Devices ........................................................................ 9First Participation in Collaborative Communities ................................................................................. 9
Public Workshop on AI/ML in Radiological Imaging ............................................................................. 9
Patient Engagement Advisory Committee .......................................................................................... 10
FDA Action Plan for Artificial Intelligence Software ........................................................................... 11
List of Currently Marketed AI/ML Devices .......................................................................................... 11
Public Workshop on Transparency of AI/ML Devices ......................................................................... 11
Good Machine Learning Practice Guiding Principles .......................................................................... 12
FDA Draft Guidance - Content of Premarket Submissions for Device Software Functions .................... 13
Precertification Program ......................................................................................................................... 14
Good Machine Learning Practice ............................................................................................................ 16
Xavier Health ....................................................................................................................................... 16
Connected Health Initiative ................................................................................................................ 17
AAMI and BSI Work on Risk Management of AI ................................................................................. 18
Integration of Clinical Data in GMLP ....................................................................................................... 18
FDA Evaluation and Approval of AIMD in 2022 ...................................................................................... 20
United States Government Initiatives Regarding AI ............................................................................... 21
Executive Branch Initiatives ................................................................................................................ 21
Agency Initiatives ................................................................................................................................ 23
US Legislation Involving AI ...................................................................................................................... 25
European Regulatory Pathway ................................................................................................................... 25
Background - EU Regulatory Activity Through 2021 ............................................................................... 25
EC White Paper ................................................................................................................................... 27
AI High Level Expert Group ................................................................................................................. 28
European AI Alliance ........................................................................................................................... 29－ 48 －

February 28, 2022

EU Proposed Regulation April 2021 ........................................................................................................ 30
Industry Response............................................................................................................................... 31
Application of MDR to AIMD................................................................................................................... 32
Conclusions - EU Pathway in 2022 .......................................................................................................... 33
United Kingdom Regulatory Pathway ......................................................................................................... 33
UK Regulatory Background Pre-2021...................................................................................................... 33
UK Regulatory Activity in 2021 ............................................................................................................... 35
NHS Initiatives ......................................................................................................................................... 37
MHRA Initiatives ..................................................................................................................................... 37
Conclusion - UK Regulatory Pathway in 2022 ......................................................................................... 38
China Regulatory Pathway .......................................................................................................................... 39
Governmental Initiatives ........................................................................................................................ 39
National Medical Product Administration (NMPA) Governance ............................................................ 39
China Regulatory Summary..................................................................................................................... 43
Korea Regulatory Pathway .......................................................................................................................... 43
Governmental Policy and Regulation ..................................................................................................... 43
Ministry of Food and Drug Safety (MFDS) Governance .......................................................................... 45
Russia Regulatory Pathway ......................................................................................................................... 47
Governmental Policy and Regulation ..................................................................................................... 47
Russian Regulation of Artificial Intelligence Based Medical Devices ...................................................... 48
Conclusions Regarding Regulation of AI-Based Medical Devices in Russia ............................................ 51
Medical Device Relevant AI Standards ....................................................................................................... 51
Published Standards under ISO/IEC JTC 1/SC 42 Artificial Intelligence .................................................. 52
Institute of Electrical and Electronics Engineers (IEEE)........................................................................... 52
Other Standards Development Activity .................................................................................................. 52
Consumer Technology Association ..................................................................................................... 52
ITU / WHO Focus Group AI for Health (AI4H) ..................................................................................... 53
International Medica Device Regulators Forum (IMDRF) ................................................................... 53
FDA Consensus Standards....................................................................................................................... 53
European Commission Standardisation Strategy ................................................................................... 53
Medical Devices Incorporating AI Placed on US Market in 2020................................................................ 53
Radiology and Imaging Based Products .................................................................................................. 53
Other AI-based Medical Devices ............................................................................................................. 55
Medical Devices Placed on the Market in EU in 2021 ................................................................................ 56
Medical Devices Placed on the Market in UK in 2021 ................................................................................ 56

Report: JY21100095-905 Rev2

3

－ 49 －

February 28, 2022

Medical Devices Placed on the Market in China in 2021 ............................................................................ 56
Medical Devices Placed on the Market in Korea in 2021 ........................................................................... 57
Medical Devices Placed on the Market in Russia in 2021 ........................................................................... 57
Conclusions ................................................................................................................................................. 58
Bibliography ................................................................................................................................................ 60
Appendix in Document ............................................................................................................................... 75
Published Standards under ISO/IEC JTC 1/SC 42 Artificial Intelligence .................................................. 81
Standards under development by ISO/IEC JTC 1/SC 42 Artificial Intelligence ........................................ 81
Institute of Electrical and Electronics Engineers (IEEE)........................................................................... 82
AAMI/BSI Initiative on AI ........................................................................................................................ 83
China Research Listing ............................................................................................................................ 86
Korea Research Listing ............................................................................................................................ 87
Russia Research....................................................................................................................................... 87

Report: JY21100095-905 Rev2

4

－ 50 －

February 28, 2022

Revision History
Revision
01

Date
December 22, 2021
February 15, 2022

Description
First interim release
Second interim release with EU and UK added, listing ofChina research

2

February 28, 2022

Final report release China and Korea product review

Report: JY21100095-905 Rev2

5

－ 51 －

February 28, 2022

Artificial Intelligence in Medical Devices in 2021
PurposeThis report was requested by the National Institute of Health Sciences of Japan (NIHS). This reportpresents an overview of the state of Artificial Intelligence in Medical Devices (AIMD) including software
as a medical device (SaMD) and software in a medical device (SiMD). The objectives of the report are:••••Provide an overview of the regulatory requirements for placing medical devices incorporating
artificial intelligence on the market in the United States, European Union, United Kingdom,
China, Korea, and Russia.
Provide a review of products known to use artificial intelligence on the market in the above
listed markets.
Identify the characteristics of the AIMD products identified in the listed markets.
Provide an overview on the state of Good Machine Learning Practices (GMLP) and theintegration clinical data in the development of AIMD products. The focus will be on UnitedStates policy and practice but where other countries have published guidelines, these will bereferenced.

Executive Summary

Will be covered by a supplementary report to be issued later date

Research Methodology

The research for this report was started in June 2021 and concluded in February 2022. Current
regulations were identified by visiting websites for each country’s competent authority. Where English
translations were not available or could not be translated using commercially available translation tools,
other sources, including commercial service providers, were utilized.
Changes in regulations for AI in general and specifically AIMD are newsworthy and many publications
are available. Commercial service providers, including consultants and Notified Bodies, have publishedon the topic. Likewise, both competent authorities and commercial service providers have held seminars
and symposia on the topic of AIMD.
Potentially applicable standards were identified by visiting the websites of the standard issuingorganizations. These were identified by prior research and also from recent publications and symposia.
The state of standards being used in the evaluation and review of AIMD is covered for each market.
Identification of AI-based products started with a review of the recently published FDA database ofcleared or approved AI containing medical devices. There are also published lists of AI medical devices
from several sources including medical device trade associations, professional clinical organizations,commercial research organizations, and other sources listed in the bibliography of this report.

Important Definitions

Will be covered by a supplementary report to be issued later date

United States Regulatory Pathway
FDA’s Historical Governance of Medical Device Software

The FDA’s first published guidance related to software was the draft General Principles of Software
Validation Version 1.1 published in 1997. This coincided with the implementation of the Design Control
regulation, reference 21 CFR 820.30. The current final guidance on software validation was issued inReport: JY21100095-905 Rev2

6

－ 52 －

February 28, 2022

2002 as version 2.0 [1]. Through the first decade of this millennium the FDA issued only two more
software related guidance documents. Cybersecurity for Networked Medical Devices Containing Off-theShelf (OTS) Software [2] and Content of Premarket Submissions for Software Contained in Medical
Devices [3] were published in 2005. These documents were the extent of FDA guidance except where
Special Controls were developed and applied for specific devices. In the last six years the FDA has issued
draft and final guidance documents including Deciding When to Submit a 510(k) for a Software Change
to an Existing Device [4], Software as a Medical Device (SAMD): Clinical Evaluation [5], Content ofPremarket Submissions for Management of Cybersecurity in Medical Devices [6], Postmarket
Management of Cybersecurity in Medical Devices [7], Policy for Device Software Functions and Mobile
Medical Applications, Off-The-Shelf Software Use in Medical Devices [8], Clinical Decision Support
Software (Draft) [9], and Multiple Function Device Products: Policy and Considerations. Although theseguidance documents address software in medical devices and software as a medical device, they do notcontain guidance on the regulatory requirements for software that includes artificial intelligence.
In early 2018 the FDA introduced the concept of the Pre-Certification model for the review of digital
health tools as medical devices. Specifically highlighted as a target for this program were medical
devices containing artificial intelligence. The Pre-Cert program would focus on a company’s quality
system and internal controls to ensure that the resulting AI-based device remains safe and effective as
its learning system evolves. Subsequent to the announcement of the Pre-Cert program the FDA
published the Software Precertification Program: A Working Model v1.0 [10] in January 2019 and
Proposed Regulatory Framework for Modifications to Artificial Intelligence/Machine Learning (AI/ML)Based Software as a Medical Device (SaMD) [11] in April 2019.

Key Points from Proposed Regulatory Framework for Modifications to Artificial
Intelligence/Machine Learning (AI/ML)-Based Software as a Medical Device (SaMD)

The FDA published the paper as a means of presenting new concepts for the governance of AI-based
medical devices and eliciting feedback from manufactures, clinicians, and patients. The publication
recommends a risk-based approach for managing software change and highlights the following
conditions where a premarket submission may be required:•••A change that introduces a new risk or modifies an existing risk that could result in significant harm;
A change to risk controls to prevent significant harm; andA change that significantly affects clinical functionality or performance specifications of the device.

Some classes of device will require a 510(k) submission and for more critical devices that are PMAapproved, this will require a PMA supplement. This paper discusses “locked” algorithms in the context
of current FDA guidance, but the use of “adaptive” AI/ML algorithms will require a new paradigm, which
is a recommendation in the paper.
The FDA proposes a Total Product Lifecycle (TPLC) approach that is predicated on the Software Precertification (Pre-Cert) Program and applies current regulatory submission requirements from 510(k), De
Novo, and PMA pathways. The TPLC approach also emphasizes the roles of quality management systemand post market surveillance to ensure that safety and efficacy are maintained.
The FDA worked closely with the International Medical Device Regulators Forum (IMDRF) on thedevelopment of SaMD guidance documents including IMDRF Software as a Medical Device (SaMD): Key
Definitions, Software as a Medical Device: Possible Framework for Risk Categorization andCorresponding Considerations, and Software as a Medical Device (SaMD): Application of Quality
Management System. This discussion paper leverages much of the IMDRF work including the guidanceon risk categorization and clinical evaluation of SaMD.

Report: JY21100095-905 Rev2

7

－ 53 －

February 28, 2022

As mentioned above, AI/ML-based SaMD or SiMD include an additional factor to consider, the level ofautonomy of the software. This can range from “locked” algorithms to continuously adaptive software.
Adaptive software requires appropriate controls to ensure that safety and efficacy are maintained or
improved. The goal of the framework paper is to describe the current concepts around control ofsoftware modifications in AI/ML-based SaMD or SiMD.
The FDA starts by defining the types of AI/ML-based SaMD modifications that are expected. These are•••

Performance – clinical and analytical performance;
Inputs used by the algorithm and their clinical association to the SaMD output; and/or
Intended use – The intended use of the SaMD, as outlined above and in the IMDRF risk
categorization framework, described through the significance of information provided by the
SaMD for the state of the healthcare situation or condition.

The FDA provides additional explanation of each type of modification and requests feedback on thevalue of the categorization and the impact on AI software development.
The paper describes the TPLC approach including the role of the Software Pre-Cert Program to establish
the “trustworthiness” of the manufacturer and verify that the quality system is constructed to ensure
safety and efficacy of the product for the full lifecycle. The FDA puts forth four general principles andthen expands upon them in the subsequent section. These four principles are
1. Establish clear expectations on quality systems and good machine learning practices (GMLP);
2. Conduct premarket review for those SaMD that require premarket submission to demonstratereasonable assurance of safety and effectiveness and establish clear expectations for
manufacturers of AI/ML-based SaMD to continually manage patient risks throughout the
lifecycle;
3. Expect manufacturers to monitor the AI/ML device and incorporate a risk management
approach and other approaches outlined in “Deciding When to Submit a 510(k) for a Software
Change to an Existing Device” Guidance in development, validation, and execution of thealgorithm changes (SaMD Pre-Specifications and Algorithm Change Protocol); and4. Enable increased transparency to users and FDA using postmarket real-world performance
reporting for maintaining continued assurance of safety and effectiveness.
The FDA emphasizes the importance of a quality system and the application of GMLP to ensure that the
AI/ML-based SaMD or SiMD uses clinically relevant data for learning/training and testing. The FDA
further specifies that GMLP should comprise••••

Relevance of available data to the clinical problem and current clinical practice;
Data acquired in a consistent, clinically relevant and generalizable manner that aligns with thedevices intended use and modification plans;
Appropriate separation between training, tuning, and test datasets; andAppropriate level of transparency (clarity) of the output and the algorithm aimed at users.

The FDA also addresses the mechanism through which adaptive algorithms can be managed. They
recommend the use of a “predetermined change control plan” comprised of device Pre-Specifications(SPS) and an Algorithm Change Protocol (ACP). The SPS covers the manufacturers planned changes toperformance, input, or intended use. The ACP addresses how the changes will be implemented andverified/validated. The FDA discusses the limitations for use of the SPS and ACP and theirrecommendations endeavor to ensure that products don’t migrate from low risk to high risk intended
uses.

Report: JY21100095-905 Rev2

8

－ 54 －

February 28, 2022

The final point of the paper deals with the issue of transparency. AI-based medical devices should be“explainable” to the FDA, clinicians, patients, and other users. Manufacturers should establish clear
requirements to communicate any changes of an AI-based device. Transparency should also include
publication of real-world performance data. The FDA references their current programs including
annual reports, Case for Quality, and the Pre-Cert Program for guidance on content and how to perform
post-market surveillance.
In conclusion, the FDA’s proposed framework answers the question of how adaptable algorithms might
be handled from a regulatory perspective. This is a framework and is lacking many critical details. The
definition of GMLP was absent and is critical to ensuring that safety and efficacy are the highest
priorities.

FDA Milestones in Regulation of AI/ML-Enabled Devices

In November 2021 at the Xavier Health sponsored workshop Matt Diamond of the FDA reported asummary of the feedback received on this framework.
1. Regulatory Framework: Requested further development of proposed regulatory framework for
AI/ML-based SaMD
2. Good Machine Learning Practices (GMLP): Supported the idea of GMLP and the need forharmonization of its efforts
3. Transparency: Asked for further discussion with FDA on how these technologies interact withpeople, including transparency to users
4. Regulatory Science: Described need for improved methods related to algorithmic bias androbustness.
5. Real-World Performance (RWP): Sought clarity on RWP monitoring for AI/ML software.
Based on this feedback the following actions were taken by the FDA.

First Participation in Collaborative Communities

Subsequent to the publication of the discussion paper there were a number of related initiatives andevents promoted by the FDA. In September 2019 the FDA announced their participation in National
Evaluation System for health Technology Coordinating Center (NESTcc) and the Ophthalmic Imaging
Collaborative Community. These are collaborative communities of private and public sector members
working on medical device issues, AI being a current area of concern. The goal of these organizations is
to link and synthesize data from multiple sources, including clinical registries, electronic health records
and medical billing claims, to improve the quality of real-world evidence.

Public Workshop on AI/ML in Radiological Imaging

In February 2020 the FDA hosted a public workshop on AI/ML in Radiologic Imaging [12]. During thisworkshop the FDA, clinicians, and industry representatives made presentations on relevant topics. The
FDA presentations reinforced the position presented in the April 2019 discussion paper and illustrated
some of the historical paradigms that led to the current initiative. The clinical presentations emphasized
the benefits and challenges associated with the application of AI/ML-based imaging analysis software.
The industry presentations emphasized the benefits for AI-based products and promoted the conceptthat the current regulatory paradigm was adequate to assure safety and effectiveness with recent“locked algorithm” products. They did acknowledge that the current framework is not appropriate for“adaptive algorithms” and will participate with the FDA on development of Good Machine Learning
Practices (GMLP). Preceding the public workshop was an announcement that the FDA was reclassifying
some types of Computer Aided Detection from PMA to 510(k).

Report: JY21100095-905 Rev2

9－ 55 －

February 28, 2022

The reclassification was accompanied by an updated guidance published in February 2020 titled Clinical
Performance Assessment: Considerations for Computer-Assisted Detection Devices Applied to Radiology
Images and Radiology Device Data in - Premarket Notification (510(k)) Submissions [13].
This guidance was preceded by three reclassification announcements in the Federal Register on January
22, 2020. The announcements cover Radiological Computer Aided Triage and Notification Software,Radiological Computer-Assisted Diagnostic Software for Lesions Suspicious for Cancer, and Medical
Image Analyzers. The first two reclassifications were retroactive to 2018 and 2017 respectively. The third
reclassification was effective February 22, 2020 and had the following coverage.
The Food and Drug Administration (FDA or the Agency) is issuing a final order to reclassify
medical image analyzers applied to mammography breast cancer, ultrasound breast lesions,radiograph lung nodules, and radiograph dental caries detection, postamendments class III
devices (regulated under product code MYN), into class II (special controls), subject to premarket
notification.
The guidance applies to devices classified under product codes NWE (Colon computed tomographysystem, computer-aided detection), OEB (Lung computed tomography system, computer-aided
detection), and MYN (Medical image analyzer). It does not apply to“(1) clinical performance assessment studies for CADe devices that are intended for use during
intra-operative procedures, (2) to radiological computer-assisted diagnostic (CADx) software forlesions of suspicious cancer devices (CADx) (classified under 21 CFR 892.2060) or to (3)radiological computer aided triage and notification software devices (classified under 21 CFR
892.2080), whether marketed as unique devices or bundled with a CADe device that, by itself,
may be subject to this guidance.”

Patient Engagement Advisory Committee

On October 22, 2020 the Patient Engagement Advisory Committee (PEAC) convened a virtual meeting tocover Artificial Intelligence (AI) and Machine Learning (ML) in Medical Devices [14]. Participation
included key FDA staff, members of industry, and the sitting members of PEAC. The purpose and agendaof the meeting was stated as:“… we will discuss the composition of the datasets on which the software “learns”, components of thedevice information shared with patients, and factors that impact patient trust in the technology. Largeclinical datasets are used to train and improve AI/ML algorithms, allowing transformational
improvements in the diagnosis, clinical decision making, and treatment of patients. Devices using AI/ML
technology will transform healthcare delivery by increasing efficiency of key processes in the treatmentof patients. Health products powered by AI/ML are streaming into our lives, from virtual doctor apps towearable sensors and drugstore chatbots to algorithms for detecting cancer in mammography andinterpretations of chest X rays. Despite the rapid advancement and integration, AI/ML systems may
have algorithmic biases, limited generalizability, and lack transparency in their assumptions based on
potential limitations of training datasets. The recommendations provided by the committee will address
the importance of including various demographic groups in AI/ML algorithm development. The
recommendations will also address the impact of the user interface and transparency including what
information and how the information about the devices could be communicated to foster patient trustin the AI/ML devices.”
The FDA published an Executive Summary of the meeting which covered the topics listed above in aquestion-and-answer format. The FDA’s perspectives were clearly enumerated and reflected alreadypublished guidance or position papers.

Report: JY21100095-905 Rev2

10

－ 56 －

February 28, 2022

FDA Action Plan for Artificial Intelligence Software

In January 2021 the FDA issued a follow up communication to the April 2019 position paper. This
communication is titled Artificial Intelligence and Machine Learning (AI/ML) Software as a Medical
Device Action Plan [15]. This report describes the intended actions that will be implemented by the FDA.
These include issuing a draft guidance on the Predetermined Change Control Plan, encourage andfacilitate harmonization of Good Machine Learning Practice (GMLP) through active participation withstandardization efforts, develop labeling guidance related to the transparency of AI/ML devices, support
the development of methodologies for the evaluation and improvement of ML algorithms with a goal toreduce bias and improve robustness, and support the use of real world performance data for thesedevices. This communication from the FDA has been executed as shown below.

List of Currently Marketed AI/ML Devices

On September 22, 2021 the FDA published a list of AI/ML enabled devices based on publicly held
information compiled by the FDA and other sources. The FDA provides a disclaimer that the list is not
exhaustive or comprehensive. The FDA list is searchable and can be sorted using the available fields. The
FDA plans to update the list on a regular basis. The most recent product clearance is dated 17 June 2021
and the list contains 343 entries at this time. The list can be found at https://www.fda.gov/medicaldevices/software-medical-device-samd/artificial-intelligence-and-machine-learning-aiml-enabledmedical-devices . There are links to the other sources used to compile the list.

Public Workshop on Transparency of AI/ML Devices

On October 14, 2021 the FDA hosted a virtual workshop focused on the issue of transparency ofArtificial Intelligence/Machine Learning (AI/ML)-enabled medical devices with respect to the concerns ofpatients, caregivers, and providers [16]. The workshop included presentations and participation by the
FDA staff, clinicians, patients and patient advocates, and a few members of industry. The morning
session was focused on the Meaning and Role of Transparency with presentations from patients,
physicians, and industry. The afternoon session was titled Open Public Comment and included
presentations industry, academics, and patient advocates. The second afternoon session was titled
Promoting Transparency and it included presentations by the FDA, clinicians, and industry (Roche
Diagnostics, Google).
Per Rachel Park and Stacy Cline Amin of Morrison-Foerster [17] there were five key takeaways:
1. Cultivating user awareness for both patients and healthcare providers will be a key area of focus
for AI/ML-enabled device manufacturers and regulators going forward. In presentations andpanel discussions, many panelists expressed concern as to whether healthcare providers would
understand the limitations of AI/ML devices and be able to properly interpret and use the datain administering care.
2. Transparency and effective communication of AI/ML medical device labeling will be important
to consider for all user types. Panelists discussed the idea of a nutrition facts label approach to
AI/ML device labeling, using the analogy of food labeling to describe the balance of informationand detail needed to enable users to make informed decisions.
3. Bias and systemic discrimination remain persistent issues in the AI/ML space. FDA and various
industry stakeholders expressed commitment to ensuring that the data used to train AI/ML
models are diverse and accurately reflect the patient population in which the technology will be
used. Use of synthetic or artificial datasets to close the data gap and ensure devices are trainedusing ethnically diverse datasets has been a particularly relevant discussion.

Report: JY21100095-905 Rev2

11

－ 57 －

February 28, 2022

4. Inequality, from both a patient and a manufacturer perspective, was a key topic of conversation
during the workshop. Panelists discussed the potential for inequitable access to AI/ML devices
across different patient populations, as well as the potential for unequal access to data amongst
manufacturers in the industry.
5. Transparency surrounding tracking and reporting of device error or malfunctions will be an
important topic of discussion as AI/ML-enabled devices are made available. Panelists discussed
the potential for two-way communication between manufacturers and users, and FDA’s role inpromoting such transparency.

Good Machine Learning Practice Guiding Principles

On October 27, 2021 the FDA published their guiding principles for Good Machine Learning Practice(GMLP) [18]. This marked another milestone in the FDA plan that was published earlier in 2021. The
development of these guiding principles was done in collaboration with Health Canada and the UK’s
MHRA. These principles are:1.

Multi-Disciplinary Expertise Is Leveraged Throughout the Total Product Life Cycle: In-depth
understanding of a model’s intended integration into clinical workflow, and the desired benefits
and associated patient risks, can help ensure that ML-enabled medical devices are safe andeffective and address clinically meaningful needs over the lifecycle of the device.

2. Good Software Engineering and Security Practices Are Implemented: Model design isimplemented with attention to the “fundamentals”: good software engineering practices, data
quality assurance, data management, and robust cybersecurity practices. These practices
include methodical risk management and design process that can appropriately capture andcommunicate design, implementation, and risk management decisions and rationale, as well as
ensure data authenticity and integrity.
3. Clinical Study Participants and Data Sets Are Representative of the Intended Patient
Population: Data collection protocols should ensure that the relevant characteristics of theintended patient population (for example, in terms of age, gender, sex, race, and ethnicity), use,
and measurement inputs are sufficiently represented in a sample of adequate size in the clinicalstudy and training and test datasets, so that results can be reasonably generalized to the
population of interest. This is important to manage any bias, promote appropriate andgeneralizable performance across the intended patient population, assess usability, and identify
circumstances where the model may underperform.
4. Training Data Sets Are Independent of Test Sets: Training and test datasets are selected andmaintained to be appropriately independent of one another. All potential sources ofdependence, including patient, data acquisition, and site factors, are considered and addressedto assure independence.
5. Selected Reference Datasets Are Based Upon Best Available Methods: Accepted, best available
methods for developing a reference dataset (that is, a reference standard) ensure that clinically
relevant and well characterized data are collected and the limitations of the reference areunderstood. If available, accepted reference datasets in model development and testing that
promote and demonstrate model robustness and generalizability across the intended patient
population are used.
6. Model Design Is Tailored to the Available Data and Reflects the Intended Use of theDevice: Model design is suited to the available data and supports the active mitigation of known
risks, like overfitting, performance degradation, and security risks. The clinical benefits and risks

Report: JY21100095-905 Rev2

12

－ 58 －

February 28, 2022

related to the product are well understood, used to derive clinically meaningful performancegoals for testing, and support that the product can safely and effectively achieve its intended
use. Considerations include the impact of both global and local performance anduncertainty/variability in the device inputs, outputs, intended patient populations, and clinicaluse conditions.
7. Focus Is Placed on the Performance of the Human-AI Team: Where the model has a “human in
the loop,” human factors considerations and the human interpretability of the model outputs
are addressed with emphasis on the performance of the Human-AI team, rather than just theperformance of the model in isolation.
8. Testing Demonstrates Device Performance during Clinically Relevant Conditions: Statisticallysound test plans are developed and executed to generate clinically relevant device performance
information independently of the training data set. Considerations include the intended patient
population, important subgroups, clinical environment and use by the Human-AI team,measurement inputs, and potential confounding factors.
9. Users Are Provided Clear, Essential Information: Users are provided ready access to clear,contextually relevant information that is appropriate for the intended audience (such as healthcare providers or patients) including: the product’s intended use and indications for use,
performance of the model for appropriate subgroups, characteristics of the data used to train
and test the model, acceptable inputs, known limitations, user interface interpretation, andclinical workflow integration of the model. Users are also made aware of device modifications
and updates from real-world performance monitoring, the basis for decision-making whenavailable, and a means to communicate product concerns to the developer.
10. Deployed Models Are Monitored for Performance and Re-training Risks are
Managed: Deployed models have the capability to be monitored in “real world” use with a focus
on maintained or improved safety and performance. Additionally, when models are periodicallyor continually trained after deployment, there are appropriate controls in place to manage risksof overfitting, unintended bias, or degradation of the model (for example, dataset drift) that
may impact the safety and performance of the model as it is used by the Human-AI team.

FDA Draft Guidance - Content of Premarket Submissions for Device Software Functions

On November 4, 2021, the FDA published a new draft guidance intended to replace the current final
guidance on device software [19]. The new guidance addresses SaMD and SiMD but does not apply toautomated manufacturing or Quality System software. On November 16th King & Spalding [20] published
a comparison of the previous (2005) guidance and the new draft guidance. Their findings are
summarized as follows:
1. Software, in or as a medical device, will be assessed by individual functions rather than but
regulations will continue to be product based.
2. The latest related standards including ANSI/AAMI/ISO 14971, ANSI/AAMI/IEC 62304, and
ANSI/AAMI SW91 are more tightly integrated with the guidance.
3. Documentation categories and requirements were changed from three Levels of Concern to
Basic and Enhanced. This better aligns with ANSI/AAMI/IEC 62304.
4. System and Software Architecture is now required for all submission.
5. A full risk management file per ANSI/AAMI/ISO 14971 is now required.
6. Software maintenance plan is required (now aligned with 62304)
7. A listing of Unresolved Anomalies (e.g., Bugs, Defects, or Errors) is now required for all
submissions.

Report: JY21100095-905 Rev2

13

－ 59 －

February 28, 2022

This draft guidance is aligned with other recent guidance documents the FDA has issued on Medical
Device Data Systems, Medical Image Storage Devices, and Medical Image Communications Devices [21]and the policy and considerations for Multiple Function Device Products [22]. Although the draft
indicates a refined approach to assessment of SaMD and SiMD, it does not address the unique aspectsof AI/ML devices. However, the FDA published their plan for additional guidance documents to be issued
in fiscal year 2022 [23]. Two draft documents on the B-List are Marketing Submission Recommendations
for A Change Control Plan for Artificial Intelligence/Machine Learning (AI/ML)-Enabled Device Software
Functions and Risk Categorization for Software as a Medical Device: FDA Interpretation, Policy, andConsiderations. If the FDA can issue these documents, there will be increased clarity on therequirements for AI/ML device submissions.

Precertification Program

In July 2017 the FDA announced the Software Pre-Cert Pilot Program [24] to develop a new regulatory
paradigm that would focus first on the assessment of organizations that perform high-quality software
design, testing, and monitoring.
“The goal of the program is to have tailored, pragmatic, and least burdensome regulatory
oversight that assesses organizations (large and small) to establish trust that they have a cultureof quality and organizational excellence such that they can develop high quality SaMD products,
leverages transparency of organizational excellence and product performance across the entire
lifecycle of SaMD, uses a tailored streamlined premarket review, and leverages uniquepostmarket opportunities available in software to verify the continued safety, effectiveness, andperformance of SaMD in the real world.”
In 2018 the FDA published the Digital Health Innovation Action Plan. This plan covered initiatives related
to the 21st Century Cures Act implementation, Clinical Decision Support Software, Multifunctionality,
Guidance on 510(k) Submissions for Software Changes, and Clinical Evaluation of SaMD. The FDA also
explained their vision for a new paradigm in digital health oversight including the Software PreCertification Program.
In January 2019 the FDA issued three documents related to the Pre-Cert program. They were 1)
Software Precertification Program: Regulatory Framework for Conducting the Pilot Program within
Current Authorities [25], 2) Developing a Software Precertification Program: A Working Model [26], and
3) Software Precertification Program: 2019 Test Plan [27]. The FDA planned to use the De Novo pathway
for the pilot and only SaMD would be part of the pilot. The FDA explicitly stated that software functions
that use artificial intelligence and machine learning would be considered for the pilot.
The FDA would base the precertification of an SaMD manufacturer on five culture of quality andorganizational excellence (CQOE) principles (hereafter referred to as “Excellence Principles”):••••

Product Quality – Demonstration of excellence in the development, testing, and maintenancenecessary to deliver SaMD products at the highest level of quality.
Patient Safety – Demonstration of excellence in providing a safe patient experience andemphasizing patient safety as a critical factor in all decision-making processes.
Clinical Responsibility – Demonstration of excellence in responsibly conducting clinicalevaluation and ensuring that patient-centric issues, including labeling and human factors, areappropriately addressed.
Cybersecurity Responsibility – Demonstration of excellence in protecting cybersecurity andproactively addressing cybersecurity issues through active engagement with stakeholders andpeers.

Report: JY21100095-905 Rev2

14

－ 60 －

February 28, 2022•

Proactive Culture – Demonstration of excellence in a proactive approach to surveillance,
assessment of user needs, and continuous learning.

The Pre-Cert program leverages a Total Product Lifecycle Model (TPLC) as shown below. Each aspect of
the TPLC is interdependent and the precertification status is assumed to be an ongoing evaluation which
is somewhat different from the typical premarket clearance or approval.

Figure 1 Software Pre-Cert program Components [26]The scope of activity for 2019 as stated in Software Precertification Program: 2019 Test Plan In 2019 was“limited to (1) selected SaMD with De Novo Requests, which would be used to test the concept of
special controls that may include certain Excellence Appraisal elements or postmarket data collection
requirements, as deemed necessary for the device type, and (2) selected SaMD 510(k) submissions,which would be tested as if they were follow-on 510(k)s for the devices classified through a “Pre-Cert De
Novo Request” (see Pre-Cert Regulatory Framework document)”. In June 2019 the FDA issued a report
titled Software Precertification Program 2019 Mid-Year Update [28] which covered progress throughMay 2019. They had completed the planned retrospective testing and started the prospective testing.
Results from the retrospective testing informed the development of review processes and work
instructions for reviewers and FDA staff to support the Streamlined Review during the prospective
testing. Through the limited prospective testing the FDA learned that some of the elements of the
Excellence Appraisals may need to be separated or removed to improve clarity.
In September 2020 the FDA published Developing the Software Precertification Program: Summary of
Learnings and Ongoing Activities [29]. This report presented the pilot program roadmap (see below) andthe learnings to that point in time. Learnings included:•••

A mock Excellence Appraisal reliant on remote pre-work and objective evidence appears to be a
viable alternative to a multi-day on-site visit;
Additional exploration and testing is needed to inform Streamlined Review; andCollection of Real-World Performance data allowed for the observation of several importantmeasures, including Human Factors Usability and Engineering and metrics that provide

Report: JY21100095-905 Rev2

15

－ 61 －

February 28, 2022

assurance that safety risks are managed and mitigated in a timely way. More testing is needed
to understand how health benefits may be observed in Real-World Performance data.
The report provides detailed summaries of the activities completed and the learnings gained. This pilot
was and will continue to be an iterative process with many opportunities for refinement. The balance ofthe report explained the plans for completing the pilot phase. This report was the last published status
update. The FDA website was updated in May 2021 (see https://www.fda.gov/medical-devices/digitalhealth-center-excellence/digital-health-software-precertification-pre-cert-program) but no new
information was made available. It does not appear that any products have been placed on the market
through the exclusive use of the Pre-Cert program. Some of the participants in the pilot have place
products on the market but the approach appears to have been through a standard evaluation in
combination with their Pre-Cert assessments.

Figure 2 Software Pre-Cert Pilot Program Development Roadmap [29]Good Machine Learning Practice
Xavier Health

The Good Machine Learning Practice team from Xavier Health includes FDA staff members, industry
participants, and academics. Their first publication in August 2018 was Perspectives and Good Practices
for AI and Continuously Learning Systems in Healthcare [30] [31]. This white paper predated the FDA’s
draft framework which was published in April 2019. Most of the concepts included in the Xavier white
paper were included in the initial FDA framework and are also reflected in the recently published GMLP
Guiding Principles. Along with the 2018 white paper the team published an Excel GMLP checklist. This
checklist includes three sections: Planning and Architecture, Regulatory, and Lifecycle. Each section
included questions with references to FDA guidance or regulations. Although not prescriptive, thechecklist may be a good starting point for developers.
In February 2021 the Xavier team published a white paper titled Data Quality for AI in Healthcare [32].
This paper highlights the need for quality data and focuses on the big three V’s of data; Volume, Variety,and Velocity, but also expands to include eight critical characteristics:
1. Volume: How much data is there? If you have too little data, the application will not be able torobustly learn.

Report: JY21100095-905 Rev2

16

－ 62 －

February 28, 2022

2. Velocity: How quickly is the data being created? If you have too little data, how long will it bebefore you have an adequate amount of data? Is the data no longer relevant?
3. Velocity Δ: Is the velocity of data creation accelerating or decelerating? Are the changes
foreseeable?
4. Variety: How many data sources are there? Does this application rely on only one source of
information? Is the data adequately representative of the intended use or user group? If there
are different data sources, what are the unique characteristics of those sources. For example,
although patient data may be pulled from multiple hospital locations, are those hospitals part ofthe same network?
5. Veracity: Why do you think you can trust the data? It is not uncommon to spend a significant
amount of time cleaning up data before it is used.
6. Validity: Are the data values correct? Are they timely? Describe the protocol used to collect thisdata, explaining ‘When’, ‘How’ and ‘by Whom’ data was gathered.
7. Viability: How is the data relevant to the use case?
8. Volatility: How often does the data change? Describe how long is it relevant, how long to store
the data before archiving or deleting.
The paper discusses these topics in sections: 3) data bias and selection, 4) data cleaning andmanipulation, 5) data storage, access and sharing, 6) data streaming, 7) data risk management, and 8)
unique requirements. These discussions and the issues raised are aligned with the FDA GMLP guiding
principles and the included guidelines partially prescribe a formal solution or explicit framework forsome aspects of GMLP. The paper concludes that the adage “Garbage In, Garbage Out” is as true for ML
devices as it is for discretely coded devices.
In November 2021 Xavier Health hosted their annual AI Summit [33]. This was comprised of a virtual
workshop over two days and then the following week the main summit took place over three days. Bothsessions led off with presentations by the FDA touting their recently formed Digital Health Center of
Excellence. They expounded on the objectives and anticipated outcomes for the center. They alsopresented their performance regarding guidance and regulation of AI/ML medical devices over the past
three years. The author attended the workshop and found the presentation Regulatory Framework:
Mapping AI to Global Regulations, Standards and White Papers - Building on What You Already Know! by
Eric Henry of King & Spalding to be very informative. He created tools to assist in the identification ofexisting regulations and requirements for different types of healthcare related AI. A Visio file provides
decision trees and guidance on development and validation of AI/ML software. He also created an Excel
file where he has mapped all existing regulations, standards, and guidance into a matrix for fivecategories of healthcare products which could be based on AI/ML. Although this is not a prescriptive setof GMLP requirements, it does address the spectrum of existing requirements. The developers of GMLP
frameworks need to consider these tools to ensure that they don’t create unintentional conflicts or
redundancy. The agendas for the workshop and full summit are included in the appendix of this report.

Connected Health Initiative

The Connected Health Initiative (CHI) is a coalition of industry stakeholders and partners leading efforts
to harness the power of technology to improve patient engagement and health outcomes. In October
2020 they published a paper Machine Learning and Medical Devices: Connecting practice to policy (andback again) [34] that dealt with GMLP. They cited the differences between code driven softwaredevelopment and data driven development of ML. Their summary of the state of GMLP in 2020highlighted issues for further investigation:
1. Heavy reliance on standards that have historically been defined by methodical and deliberaterevision policies may not be able to keep pace with rapidly changing development practices andReport: JY21100095-905 Rev2

17

－ 63 －

February 28, 2022

exacerbate rather than mitigate quality risk stemming from ML’s data-driven versus code-driven
properties.
2. Without a sufficient body of verified ML development patterns have been documented, it may
be difficult to establish a durable definition of “reasonable” and “effective.”
3. The long-standing requirement that all copies of a given device or software instance can only by
updated but cannot independently evolve prohibits a subset of dynamic and continuously
learning applications.
4. Incident management and platform monitoring systems will likely need to expand incident
categories and severity ratings to account for unique classes of exceptions unique to ML
services.
As referenced in issue 1 above, software lifecycle standards, such as IEC 62304, are code centric and will
likely need to be extended or adapted to the unique lifecycle requirements associated with training ML
algorithmic models. Some of the issues associated with ML development with respect to the IEC 62304
software development lifecycle processes include:
1. Software Risk Management: How will risks associated with training data sets be mitigated?
2. Software development planning: How will Software Of Unknown Providence (SOUP) be
extended to accommodate 3rd party algorithms and external training data?
3. Software requirements analysis: How will issues relating to bias and transparency be
incorporated?
4. Software release: Given the requirements above, how can FDA Premarket Safety Assurance
requirements be effectively met?
5. Maintenance plan: Defining, measuring, and documenting the degree of change within an SaMD
will require significant coordination and consensus.
6. Problem and modification analysis: Documenting root causes and effectivity of modifications
stemming from data set deficiencies will require new (or enhanced) concepts, tooling andterminology.
The CHI paper highlighted the gaps between current practices and standards and the requirements to beaddressed by GMLP. The FDA’s recently published GMLP Guiding Principles address many of the issues
raised in the paper but only at the highest, topical level. The development of a GMLP standard or bestpractice based on the principles will be needed.

AAMI and BSI Work on Risk Management of AI

The American Association of Medical Instrumentation (AAMI) and the British Standard Institution (BSI)
formed a working group in 2020 to develop a guidance on the application of ISO 14971 to AI/ML
devices. The draft guidance was issued as technical report BS AAMI 34971 for public consultation
through August 2021. The feedback is to be addressed by June 2022 and should be issued thereafter.
This will support the new FDA draft guidance on software which requires a full risk management filewith guidance for the application of risk management specifically for AI/ML devices.

Integration of Clinical Data in GMLPIn July 2016 the FDA issued a draft guidance Use of Real-World Evidence to Support Regulatory DecisionMaking for Medical Devices. In August 2017 this was issued as a final guidance [35]. Real-World Data
(RWD) was defined as information available from “electronic health records, claims and billing data,
data from product and disease registries, patient-generated data including in home-use settings, anddata gathered from other sources that can inform on health status, such as mobile devices.” Real-World
Evidence (RWE) was defined as “the clinical evidence regarding the usage, and potential benefits orrisks, of a medical product derived from analysis of RWD.” The guidance states “FDA will consider theReport: JY21100095-905 Rev2

18

－ 64 －

February 28, 2022

use of RWE to support regulatory decision-making for medical devices when it concludes that the RWD
used to generate the RWE are of sufficient quality to inform or support a particular regulatory decision.”
The determination of sufficient quality will depend on the intended use of the device and the associatedrisk. The guidance provides examples where RWD may be used as some or all the clinical evidence. It
further discusses the implication of the Investigational Device exemption (IDE) regulations with respect
to collection of RWD. The guidance discusses the characteristics of RWD including relevance andreliability. The guidance concludes with examples where RWE has been used for regulatory decision
making. Although the topics covered in the guidance are not specific to AI/ML devices, they are allapplicable.
The topics of relevance and reliability of RWD are repeated throughout the FDA publications on AI/ML
devices [36] [15] [18] as well as most published papers on the clinical application of AI/ML devices [30][37] [38] [39]. The FDA’s Proposed Regulatory Framework for Modifications to Artificial
Intelligence/Machine Learning (AI/ML)-Based Software as a Medical Device (SaMD) - Discussion Paper
and Request for Feedback [11] states “Real-world performance monitoring may also be achieved in avariety of suggested mechanisms that are currently employed or under pilot at FDA, such as adding tofile or an annual report, Case for Quality activities, or real-world performance analytics via the Pre-Cert
Program.” The report also asks for feedback on the role of RWE to support the transparency of AI/ML
SaMD. In the follow up action plan document published in January 2021 the last goal on the FDA’s list
was “Advance real-world performance pilots in coordination with stakeholders and other FDA programs,
to provide additional clarity on what a real-world evidence generation program could look like for
AI/ML-based SaMD.” The recently published guiding principles of GMLP integrate the requirements
regarding relevance and reliability of data and the use of RWE in the post market setting to verify
efficacy. Specifically, principles 3, 6, 8 and 10 include the concepts described under relevance andreliability in the FDA guidance.
The February 2021 white paper Data Quality for AI in Healthcare [32], from the Xavier Health GMLP
working group, highlights the criticality of data to the performance of AI/ML medical devices. This paper
focuses on the eight V’s of data that ensure quality. Related to the FDA definition of relevance are thecharacteristics of Variety: “is the data adequately representative of the intended use or user group?”
and Viability: “how is the data relevant to the use case?” Related to reliability are the characteristics of
Veracity: “can you trust the data?” and Validity: “are the data values correct?”. The paper provides
guidance on how to leverage these characteristics and this is aligned with the FDA guidance on RWD and
RWE. Subsequent sections discuss the need to clean and manipulate the data used to teach AI/ML toavoid bias and ensure accuracy. In the case where real-world data is used, patient variability infers data
set variability. To ensure the relevance and reliability of the RWD, a Data Quality plan should be
developed and implemented. This report goes on to describe Data Streaming where sensors and devices
can stream real-time data. This real-time patient data is real-world data as defined by the FDA. When
this real-time / real-world data is to be used as the basis for teaching or verifying an AI/ML device,
relevance and reliability need to be assessed in real time. In this case assessment may be cleaning or
curation of data as it is received or processed. The paper describes several critical considerations for
streaming data.
Real-world data and real-world evidence are an integral part of AI/ML device development. Whether it isan X-ray linked to a patient record that verifies a diagnosis or data derived in real-time from a monitor
and then correlated with a clinical indication, this is real-world data which can be used to teach or verify
an AI/ML device.

Report: JY21100095-905 Rev2

19

－ 65 －

February 28, 2022

FDA Evaluation and Approval of AIMD in 2022

Mathew Diamond, MD, PhD is the Chief Medical Officer for Digital Health at the Center for Devices &Radiologic Health (CDRH). In November 2021 at the Xavier conference, he presented the FDA’s current
perspective on AI/ML-enabled medical devices and their current action plan. Dr. Diamond
acknowledged that the Digital Health Device World is rapidly evolving from the “traditional” device
world. Development timelines are being drastically reduced and Agile development tactics are
generating frequent modifications. The potential for high availability and access to real world data toaddress both benefits and risks is significantly greater than the MDR paradigm of the past. The low
capital cost for developing software-based products will also increase the number of new products andsubmissions. The FDA advocates for Continuous Learning for Software as a Medical Device. They
proscribe to the IMDRF model:

Figure 3

The challenges confronting product developers and the FDA include:
•
•
•
•
•

Fit-for-purpose data sets for development and testing, including diversity
Identification and minimization of bias
Opacity of some algorithms
Providing oversight for an adaptive system
Ensuring transparency to users

The FDA believes that the Total Product Life Cycle (TPLC) as proposed in their 2019 regulatory
framework is the best approach but there is much work yet to be done. Their AI/ML action plan includes
updating the proposed framework through the publication of Guidance, increase their efforts toharmonize GMLP, focus on transparency to users, support development of regulatory science to address

Report: JY21100095-905 Rev2

20

－ 66 －

February 28, 2022

algorithm bias and robustness, and advance real-word performance pilots. A draft Guidance on Change
Control Plans to include Software Pre-Specifications (SPS) and Algorithm Change Protocol (ACP) will be
issued. Participation on standards development related to GMLP will be a priority. Continued
engagement with patients and caregivers to ensure safe and effective use of AI/ML-enabled devices.
Collaborate with Centers for Excellence in Regulatory Science and Innovation (CERSIs) at Johns Hopkins
and Stanford Universities to develop assessment methods for bias and robustness. Lastly, the FDA plans
to support manufacturers in the collection and analysis of real-world data.
In summary, the regulatory landscape in 2022 will be changing as the FDA progresses with their plan but
rigorous and detailed regulatory requirements are not anticipated in the immediate future.

Figure 4

United States Government Initiatives Regarding AI
Executive Branch Initiatives

In February 2019 the United State President issued Executive Order 13589 on Maintaining American
Leadership in Artificial Intelligence. This order had several objectives including (d) Ensure that technicalstandards minimize vulnerability to attacks from malicious actors and reflect Federal priorities forinnovation, public trust, and public confidence in systems that use AI technologies; and developinternational standards to promote and protect those priorities. As a result of the executive order the
National Institute of Standards and Technology (NIST) issued in Jul 2019 a document for public comment
titled U.S. LEADERSHIP IN AI: A PLAN FOR FEDERAL ENGAGEMENT IN DEVELOPING TECHNICALSTANDARDS AND RELATED TOOLS. This document was formally issued August 9, 2019. This plan

Report: JY21100095-905 Rev2

21

－ 67 －

February 28, 2022

explained the government’s position regarding AI technical standards including what standards areneeded and in what priority. This document also stated the goal of maximizing the use of voluntary
consensus standards wherever possible. Appendix II of the document includes a list of standards
released or in development at the time the report was issued. A copy of the report can be downloaded
at https://www.nist.gov/document/report-plan-federal-engagement-developing-technical-standardsand-related-tools.
Another directive under Executive Order 13589 was for the Office of Management and Budget (OMB) to
issue a policy guidance. A draft was issued in January 2020 and comment from the public was requested.
The outcome was the November 17, 2020 memorandum for the Heads of Executive Departments andAgencies on the subject of Guidance for Regulation of Artificial Intelligence Applications [40]. The memo
advocates the use of voluntary frameworks (e.g. NIST cybersecurity and privacy frameworks) but does
not rule out the possibility of future AI regulation to ensure public trust. The memo further requires thecurrent and future Administrations to finalize plans for the various agencies and this was due by May 17,
2021.
On December 3, 2020, President Trump signed a new executive order titled Executive Order on
Promoting the Use of Trustworthy Artificial Intelligence in the Federal Government [40]. This orderapplied to most government agencies with the exception of the DOD and the Intelligence agencies. The
order’s stated purpose is to drive growth of AI in the government to the benefit of all served by theagencies. The policy is intended to promote the use of AI to improve government operations andservices while fostering public trust and remaining consistent with US values and laws. The next steps
require 1) OMB to post a plan for policy guidance by June 1, 2021, 2) the Chief Information Officers
Council to inventory the potential use cases, and 3) subsequent to use case identification the individual
agencies are to develop plans to achieve consistency with the order. Again, these are not regulations,but these activities can foretell the potential directions for future regulation.
A related but less impactful government action was the US government signing the Declaration of theUnited States of America and the United Kingdom of Great Britain and Northern Ireland on Cooperationin Artificial Intelligence Research and Development: A Shared Vision for Driving Technological
Breakthroughs in Artificial Intelligence [41] on September 25, 2020. This initiates bilateral governmentto-government dialog on specific topics relating to AI. No specific actions or outcomes are promised.
Prior to departing office President Trump signed the National Defense Authorization Act (NDAA) for
Fiscal Year 2021 into law. This included the National AI Initiative Act of 2020 which established a
program across the federal government to advance AI leadership in the U.S. This act established the
National AI Research Resource Task Force [42] to assess and provide recommendations on the feasibility
and advisability of establishing a National AI Research Resource (NAIRR).
On January 27, 2021, President Biden signed a memorandum titled “Restoring trust in government
through science and integrity and evidence-based policy making”, which could impact regulations
related to AI transparency and accountability. President Biden also signed an Executive Order which
restored the President’s Council of Advisors on Science and Technology (PCSAT) [43].
In May 2021 the Biden administration launched AI.gov, a website dedicated to connecting American
people with information on federal government activities regarding design, development, and use of
artificial intelligence (AI) [44] [45] [45].
In June 2021 the Biden administration launched the National Artificial Intelligence Research Resource
Task Force that was authorized in legislation signed into law by President Trump. This task force will
write a framework for expanding access to resources and tools that should spur innovation in the fieldof AI. The task force is chartered to deliver two reports to Congress that will cover strategy and theReport: JY21100095-905 Rev2

22

－ 68 －

February 28, 2022

tactical implementation. A preliminary report is due May 2022, and the final report is due November
2022 [46]. The task force met four times and in December the Whitehouse issued a press release
covering their progress. Another meeting is scheduled for February 2022.

Agency Initiatives
NIST
On January 16, 2020 NIST issued the NIST Privacy Framework: A Tool for Improving Privacy ThroughEnterprise Risk Management [47] . The draft was issued in September 2019 for public review andcomment and the final version was slightly revised. Two articles [48] [49] on Wiley Connect discuss theframework in its draft and final form.
The stated goal of the Privacy Framework is to support organizations in:•••

Building customers’ trust by supporting ethical decision-making in product and service design or
deployment that optimizes beneficial uses of data while minimizing adverse consequences forindividuals’ privacy and society as a whole;1
Fulfilling current compliance obligations, as well as future-proofing products and services tomeet these obligations in a changing technological and policy environment; andFacilitating communication about privacy practices with individuals, business partners,
assessors, and regulators.

This framework is similar to the NIST Cybersecurity Framework [50] published in 2018. These twoframeworks should be considered in tandem. These are voluntary guidance documents, but they could
become the basis for regulations in the future.
In August 2020 NIST issued a draft paper on “explainability” in AI decision making. This paper is titled
Four Principles of Explainable Artificial Intelligence [51] and presents five categories of explanation andsummarizes the theories of explainable AI. NIST was seeking public feedback to be received by October
2020. There is an expectation that another framework guidance will be issued in 2021.
In 2021 the National Institute of Standards and Technology [52] continued to lead the government insetting policy and guidance related to artificial intelligence. In June 2021 they presented the NIST
Workshop on AI Measurement and Evaluation [53]. The stated goals were:Identify:
1. the needs for and intended uses of AI measurement and evaluation
2. the gaps in knowledge/practice preventing current AI measurement and evaluation
activities from effectively meeting these needs/uses• Solicit guidance on which specific areas that NIST should focus its efforts• Identify specific users and applications in need of measurement and evaluation• Collate best practices for AI measurement and evaluation• Build community around AI measurement and evaluation: provide tools, resources, pointers toother sources, and continued engagement through periodic talks and seminars
The panel discussions from the workshop are available on the referenced web site.
•

Following a workshop held in August 2020, NIST issued a draft Special Publication titled “A Proposal for
Identifying and Managing Bias within Artificial Intelligence” [54] in June 2021. NIST requested feedback
be supplied by September 10, 2021. A follow up will be posted on the referenced web site [55].
On September 29, 2021, NIST published the updated paper Four Principles of Explainable Artificial
Intelligence [56]. This was previously published as a draft in 2020 and NIST requested feedback from

Report: JY21100095-905 Rev2

23

－ 69 －

February 28, 2022

stakeholders. In January 2021 NIST held a workshop on the topic and a summary is available athttps://www.nist.gov/document/explainable-ai-workshop-summary-held-january-2021. The details of
this paper are outside the scope of this review, but these principles are likely to inform FDA policy
moving forward.
On July 29, 2021, NIST issued a Request for Information (RFI) seeking input from stakeholders on thedevelopment of an AI risk management framework (RMF). On October 15th NIST published the
responses as a summary report [57] and shortly thereafter hosted a virtual workshop titled AI Risk
Management Framework on October 19 – 21, 2021 [58]. This was followed by the publication of “AI Risk
Management Framework Concept Paper” on December 13, 2021 [59]. NIST intends to solicit feedback
and use the input to guide the development of the AI RMF 1.0 which is scheduled for publication in early
2023.
NIST is chartered through Executive Order 13859 to ensure that “technical standards minimize
vulnerability to attacks from malicious actors and reflect federal priorities for innovation, public trust,and public confidence in systems that use AI technologies” and to “develop international standards topromote and protect those priorities.” Technical Standards development is supported by NIST [60] andthe following initiatives have been undertaken.
••

The National Defense Authorization Action of 2021 (NDAA) explicitly authorized NIST to carryout a wide range of AI standards-related functions. Over the past two years, NIST has expanded
and made noteworthy progress in carrying out research that specifically addresses standardsoriented research recommendations in the AI Standards Plan.
Strategic engagement in international AI standards was the focus of the U.S. Department ofState’s submission to Congress of “A Plan to Establish Exchanges and Partnerships between the
United States and Its Allies to Create Standards for Artificial Intelligence Technologies.” The US
championed development of the first international principles for the responsible use of AI at theOrganisation for Economic Co-operation and Development (OECD). Also, the US became afounding member of the Global Partnership on AI (GPAI). Through engagement in GPAI, theUnited States seeks to complement the more policy-oriented work of the OECD by increasing
coordination on research and development and scaling up practical projects for implementing
trustworthy AI.

National Security Commission on Artificial Intelligence
On August 13, 2018, Section 1051 of the John S. McCain National Defense Authorization Act for Fiscal
Year 2019 (P.L. 115-232) established the National Security Commission on Artificial Intelligence as anindependent Commission “to consider the methods and means necessary to advance the developmentof artificial intelligence, machine learning, and associated technologies to comprehensively address thenational security and defense needs of the United States.” In March 2021 this commission issued theirreport culminating over two years of effort. Although not focused on healthcare, some of therecommendations can be expected to influence Executive branch direction and legislation. [61].
Department of Commerce
On September 8, 2021, the Department of Commerce announced that it was establishing the National
Artificial Intelligence Advisory Committee. Per the September 8, 2021 press release [62]:“The committee is to provide recommendations on topics including the current state of U.S. AI
competitiveness; progress in implementing the Initiative; the state of science around AI; issues related
to AI workforce, including barriers to employment supporting opportunities for historicallyunderrepresented populations; how to leverage initiative resources; the need to update the initiative;

Report: JY21100095-905 Rev2

24

－ 70 －

February 28, 2022

the balance of activities and funding across the initiative; the adequacy of the National AI R&D StrategicPlan; management, coordination, and activities of the initiative; adequacy of addressing societal issues;
opportunities for international cooperation; issues related to accountability and legal rights; and how AI
can enhance opportunities for diverse geographic regions.”
The committee will consist of expert leaders from a broad and interdisciplinary range of AI-relevant
disciplines from across academia, industry, non-profits and civil society, and federal laboratories.

US Legislation Involving AI

Gibson Dunn is a US law firm and on January 20, 2022 they published a white paper titled 2021
ARTIFICIAL INTELLIGENCE AND AUTOMATED SYSTEMS ANNUAL LEGAL REVIEW [63], which summarized
the U.S. legislative activity from 2021 as well as that of the EU and UK. Regarding the U.S., their paper
summarized the two most significant pieces of federal legislation. First, they covered the National AI
Initiative Act of 2020 (part of the National Defense Authorization Act of 2021 (“NDAA”)) and National AI
Initiative Office. The second important piece of legislation was the Innovation and Competition Act (S.
1260). Review and assessment of other related policies and legislation are presented in the thirty (30)page document. The report concludes that the US is not as focused as the EU on a comprehensive
approach to AI but there appears to be a convergence on policy.
National Conference of State Legislatures (NCSL) is an independent organization which represents thelegislatures of the states, territories and commonwealths of the U.S. In January 2022 they published on
their web site a summary of 2021 legislation related to artificial intelligence [64]. This report lists theenacted or pending legislation by state. They reported that bills or legislation relating to artificial
intelligence were introduced in 17 states and enacted in Alabama, Colorado, Illinois, and Mississippi. The
report also included 2019 and 2020 legislative activities by state.
In November 2021, Orrick, a U.S. law firm, published an article on their website titled U.S. Artificial
Intelligence Regulation Takes Shape [65]. This touched upon the same topics as the Gibson Dunn article
but also covered activity at the Federal Trade Commission, the EU-US Trade and Technology Council(TTC), and the General Accounting Office (GAO). They conclude that U.S. regulation of AI is forthcoming,and companies should anticipate and plan accordingly.

European Regulatory Pathway
Background - EU Regulatory Activity Through 2021

What is Artificial Intelligence? The European Commission (EC) defined AI in their communication [66]dated April 25, 2018:“Artificial intelligence (AI) refers to systems that display intelligent behaviour by analysing theirenvironment and taking actions – with some degree of autonomy – to achieve specific goals.
AI-based systems can be purely software-based, acting in the virtual world (e.g. voice assistants, image
analysis software, search engines, speech and face recognition systems) or AI can be embedded in
hardware devices (e.g. advanced robots, autonomous cars, drones or Internet of Things applications).”
The EC acknowledge that AI is already present in many everyday devices we use and is present indifferent sectors of the economy with positive results. The Communication from which the definition
was taken outlines a strategy for the European Union to lead the way in developing and using AI for
good and for all. It sets out a European initiative on AI to achieve these goals:••

Increase the technical and industrial capacity through the use of AI in both public and private
sectors
Prepare for socio-economic changes in education, labour, and social protection

Report: JY21100095-905 Rev2

25

－ 71 －

February 28, 2022•

Ensure an ethical and legal framework based on the Union’s values

All of the major economies of the world are investing in AI and many have developed coherent andactionable strategies to achieve their economic goals. The EU was behind in private investments andbelieves it is crucial that they create an environment that stimulates investment but preserves the EU
assets and values. The goals set forth in the Communication have been advanced with a strategy basedon three pillars:
1.
2.
3.

Being ahead of technological developments and encouraging uptake by the public andprivate sectors
Prepare for socio-economic changes brought about by AI
Ensure an appropriate ethical and legal framework

Each pillar has a set of supporting initiatives, many of which have been started. Of importance to thecontext of this report is the initiative of forming a High-Level Expert Group on Artificial Intelligence (AIHLEG) [67]. This group was tasked with drafting Ethics Guidelines for Trustworthy Artificial Intelligence[68] and Policy and Investment Recommendations for Trustworthy AI [69] which were published in April
and June 2019. The Ethics Guidelines define Trustworthy AI as being Lawful, Ethical, and Robust. The
guideline highlights and explains seven key requirements:
1.
2.
3.
4.
5.
6.
7.

Human agency and oversightTechnical robustness and safety
Privacy and data governanceTransparency
Diversity, non-discrimination, and fairness
Societal and environmental well being
Accountability

This guideline also includes a draft checklist in Chapter III for assessing the level Trustworthiness of an AI
application. It defined roles and responsibilities within organizations creating or using AI and related thechecklist to existing regulations. The last section of the report includes brief explanations of thepotential benefits of AI as well as the critical concerns.
The second report issued by AI HLEG identified the policy and investment recommendations and wasaddressed to the member states and EU institutions. The report contains 33 recommendations that arefocused into four major themes: (A) Humans and Society, (B) the Private Sector, (C) the Public Sector,and (D) Research and Academia. The report is divided into two chapters. The first is titled Using
Trustworthy AI to Build a Positive Impact in Europe and the second is Leveraging Europe’s Enablers for
Trustworthy AI. This report sets the framework to “guide Trustworthy AI towards sustainability, growthand competitiveness, as well as inclusion – while empowering, benefiting and protecting human beings.”
The report concludes with eleven main points:
1.
2.
3.
4.
5.
6.
7.
8.
9.

Empower and protect humans and society
Take up a tailored approach to the AI landscape
Secure a Single European Market for Trustworthy AI
Enable AI ecosystems through Sectoral Multi-Stakeholder Alliances
Foster the European data economy
Explore the multi-faceted role of the public sector
Strengthen and unite Europe’s research capabilities
Nurture education to the Fourth Power
Adopt a risk-based governance approach to AI and ensure an appropriate regulatory
framework

Report: JY21100095-905 Rev2

26

－ 72 －

February 28, 2022

10.
11.

Stimulate an open and lucrative investment environment
Embrace a holistic way of working, combining a 10-year vision with a rolling action plan

Of significant interest to manufacturers of AI-based medical devices is point 9. What comprises a riskbased governance and regulatory framework for medical device AI?
An indication of the direction for regulation is given in a report issued by the European Parliament in
September 2019. EU guidelines on ethics in artificial intelligence: Context and implementation [70]includes a section on Standardization and covers the joint technical committee formed by ISO and IEC,
the work by IEEE on an ethical framework for AI [71], and the EC’s 2019 Rolling plan for ICT
standardization [72]. The conclusion is that starting standardization of ethical AI introduces manyquestions including how to enforce voluntary standards, how to certify ethical standards, and who cancertify ethical standards. The report proceeds to discuss legislation that has been proposed.
Transparency and explainability are critically important for Trustworthy AI. The Commission was
performing a study on algorithmic transparency and Parliament recommended additional studies andwork in this area. The report also covers AI regulatory activities outside the EU and concludes that today
AI is essentially self-regulating by the manufacturer or user but there is public demand for more
oversight.
In April 2020, the EC announced the postponement of the date of application of the Medical Devices
Regulation due to the COVID-19 public health emergency. The MDR was previously identified as the
single most impactful regulation that would affect medical AI applications since many products would
transition from class 1 to class 2a and require Notified Body participation in conformity assessment. Thisdelay required that the Medical Device Directive and the Active Implantable Medical Device Directive
remain in place and their repeal was also delayed.

EC White Paper

In February 2020 the European Commission published a white paper titled On Artificial Intelligence - A
European approach to excellence and trust [73]. The thesis of the paper is that the EU can become a
global leader in innovation in the data economy and its applications in keeping with the European data
strategy [74] but will require an AI ecosystem that benefits all of EU society and economy. Such an AI
ecosystem will include a common approach to AI to ensure uniformity and achieve scale to competewith other nations (US and China). The paper strongly discourages national initiatives that may diverge
from EC policy. The paper proposes two key aspects of the AI ecosystem, “An ecosystem of excellence”
and “an ecosystem of trust”. Implementation of these separate but intertwined ecosystems is explainedin the paper and the goal of making “Europe to become the most attractive, secure and dynamic dataagile economy in the world – empowering Europe with data to improve decisions and better the lives of
all its citizens.” The EC requested public feedback and set 19 May 2020 as the deadline. This was later
extended to 14 June.
Public feedback on the white paper was received and compiled in a report issued in November 2020[75]. Feedback was received from 1215 contributions and 84% came from EU member states and thebalance from other countries including the UK, the US, Switzerland, Norway, Japan, India, Turkey andChina. 33% of the respondents were EU citizens, 29% were business and industry players, 13% civilsociety (NGOs & trade unions), 13% academia, 6% public authorities, and 6% classified as other. Of the1215 contributions over 400 were position papers. Other than the position papers, the feedback wascollected using an online questionnaire divided into three sections:••

Section 1 referred to the specific actions for the building of an ecosystem of excellence tosupport the development and uptake of AI across the EU economy and public administration;
Section 2 outlined a series of options for a regulatory framework for AI;

Report: JY21100095-905 Rev2

27

－ 73 －

February 28, 2022•

Section 3 referred to safety and liability aspects of AI.

The top action regarding the ecosystem of excellence was development of skills (90% rating as very
important) with focused R&D efforts (88%) and collaboration with member states (87%) close inimportance. Although partnerships with the private sector were only considered very important to 72%
of all respondents, for business and industry respondents 96% considered this very important. For the
ecosystem of trust, 90% considered the issue of AI breaching fundamental trust as very important. 87%
considered the use of AI could lead to discriminatory practice as very important and 82% consideredthat AI could endanger human safety. The report provided many additional pieces of information about
the public response and the reader is recommended to access the report in its entirety. In summary,
there are different points of view between industry, academics, and society with business seeking lessregulation and society seeking more safeguards.
Concurrent with the issue of the AI white paper and the European data strategy, the EC issued Report on
the Safety and Liability Implications of Artificial Intelligence, The Internet of Things and Robotics [76].
This report was a promised deliverable from the April 2018 Communication on Artificial Intelligence forEurope. The report’s goal was the identification and discussion of frameworks for safety and liability
currently in place for AI, IoT, and robotics. The report reviewed the applicability of current legislation,
specifically the General Product Safety Directive, Machinery Directive, the Radio-Equipment Directive,
and the New Legislative Framework to address safety. However, there are a number of gaps in thecurrent framework when considering AI and software-based products. These gaps, which challenge
product safety, also challenge assumptions about product liability. The current Product Liability Directive
may require modification taking into account that different AI applications may pose different risks.

AI High Level Expert GroupIn July 2020 the AI High Level Expert Group (HLEG) issued the first formal release of the Assessment List
for Trustworthy AI (ALTAI) [77]. This list was initially put forth in the Ethics Guidelines issued in 2019 andwas piloted through June 2020 before being published. This Assessment List reflects the EU definition ofpeople’s fundamental rights as defined in EU Treaties, the Charter of Fundamental Rights, andinternational human rights law. The Assessment List is intended for use by organization in whole or inpart and with additions by those organizations. It can aid an organization in understanding whatcomprises Trustworthy AI. The Assessment list is available as an interactive online tool or as an offline
document. It is recommended that a multidisciplinary team be used and should include AI designers anddevelopers, data scientists, procurement specialists, representative users, legal and compliance officers,
and management. Prior to the self-assessment of the AI system, a fundamental rights impact
assessment (FRIA) should be performed. Guidance is provided in the document on how to perform the
FRIA. The Assessment List is aligned with the seven requirements for Trustworthy AI as defined in the
Ethic Guidelines. These are:
1.
2.
3.
4.
5.
6.
7.

Human Agency and Oversight;
Technical Robustness and Safety;
Privacy and Data Governance;
Transparency;
Diversity, Non-discrimination and Fairness;Societal and Environmental Well-being;
Accountability.

Report: JY21100095-905 Rev2

28

－ 74 －

February 28, 2022

Each requirement section includes multiple questions to be answered by the assessment team. The endof the document includes a Glossary with detailed descriptions and definitions of the terms used in thelist.
At the same time the Assessment List was issued, AI HLEG also issued the fourth deliverable, Sectorial
Consideration on the Policy and Investment Recommendations for Trustworthy Artificial Intelligence [78].
This report assessed the application of the 33 recommendations from Policy and Investment
Recommendations for Trustworthy AI to three specific market sectors: (i) the Public Sector; (ii)
Healthcare; and (iii) Manufacturing and Industrial Internet of Things (IoT). The assessment involved AI
HLEG conducting virtual workshops with stakeholders from each sector. Overall, the thirty-threerecommendations were found to be generally applicable to each sector but there is value in tailoring therecommendations by sector. All sectors consider a gap in skills to be critical and acknowledge that the
EU needs to train its workforce and population to understand and optimize the use of AI in daily life andtheir work environments. There was also consensus that Europe should be a leader in responsible
research and innovation, that Europe should ensure regulations are flexible but also clearlycommunicated, and that data should be managed to ensure quality, access, and interoperability. The
specific guidance for the Public Sector and Manufacturing and Industrial IoT will not be enumerated
here but the output from the three Healthcare workshops follows.
The Healthcare sector discussions focused on six categories: empowering and protecting humans andsociety, private sector issues, research, education, data and infrastructure and regulation. The topics
that emerged as most important and requiring further attention are:
•
•
•
•
•
•
•

Promote and recognize AI skills applied to Healthcare
Invest in upskilling and reskilling to harness the potential of Trustworthy AI in healthcare
Perform an in-depth analysis of the regulatory needs for the use of AI in healthcare, both fromthe point of view of doctors and patients.
Establish an inclusive AI development and policy framework.
Availability of high quality health data is key for building Trustworthy AI solutions in Europe that
can improve public health outputs and help manage patients efficiently
There are concerns on a possible trade-off between access to quality treatment and privacy, as
well as possible discrimination as a result of AI use
There is a great benefit in digitizing the healthcare data and building a European Health DataSpace

The conclusions of the report are that policy makers need to consider sectorial differences to ensurethat the objectives of the EC as stated in the AI White Paper are achieved. Policies or regulations thatare too general may be ineffective or even detrimental within specific sectors.

European AI Alliance

The European AI Alliance was launched in June 2018 as part of the European Strategy on Artificial
Intelligence. The forum’s initial charter was to provide feedback to the AI HLEG but now is a communityof stakeholders discussing AI policy needs and wants. There are over 4000 members providing input tothe EC policy making function. There is an EC sponsored website with many policy related publications
and discussions available for review: https://digital-strategy.ec.europa.eu/en/policies/european-aialliance. In June 2019 the AI Alliance held the first Assembly. The second Assembly took place in
October 2020. A report of the second Assembly was published December 21st [79]. The focus of thesecond Assembly was on policy as reflected in the AI White Paper, the output of AI HLEG, and theupcoming legislative proposal on AI. The meeting was divided into two plenaries with the Ecosystem of
Excellence in AI covered in the first and an Ecosystem of Trust covered in the second. The first plenary

Report: JY21100095-905 Rev229

－ 75 －

February 28, 2022

was comprised of three main topics covered in panel discussions: (i) the fight against the COVID-19
pandemic; (ii) the uptake of AI in public sectors; and (iii) advanced automation. The second plenary
included presentations and workshops addressing (i) the requirements that make AI Trustworthy; (ii)biometric identification; and (iii) standards and conformity assessment. In the context of this report thefollowing output is most relevant:
•
•
•
•
•

AI developed to address needs related to the COVID-19 pandemic still required at least 50% of
the effort to address regulatory constraints and approvals.
Autonomous systems should include a “watch dog” control layer to ensure that risks are
mitigated. (Author’s note – this is aligned with IEC 62304 guideline for redundancy to ensure
safety of software)
Most attendees believed that regulation should not be limited to only high-risk AI systems.
There is not uniform belief that AI needs to be explainable, as long as the system provides avalidated degree of certainty.
Conformity assessment of high-risk AI systems is necessary but there are gaps including policy
and regulation defining when needed, available safety standards for AI, knowledgeable
reviewers, and knowledgeable accrediting organizations.

EU Proposed Regulation April 2021

In April 2021 the European Commission issued a draft regulatory framework for AI based products andservices that are to be placed on the EU market [80]. This includes medical devices currently regulated
under the Medical Device Regulation (MDR) and the In Vitro Diagnostic Regulation (IVDR). The draftcomprised 108 pages plus Annexes and was titled REGULATION OF THE EUROPEAN PARLIAMENT AND
OF THE COUNCIL, LAYING DOWN HARMONISED RULES ON ARTIFICIAL INTELLIGENCE (ARTIFICIALINTELLIGENCE ACT) AND AMENDING CERTAIN UNION LEGISLATIVE ACTS. There are five informational
sections at the start of the draft regulation. Section 1 provides the context for the legislation andexplains how this set of regulations will interface with existing and future legislation. Section 2 informs
the legal basis for the regulation. Section 3 summarizes the feedback from stakeholders and the work
done in preparation for the legislation. Section 4 briefly touches on budgetary considerations andsection 5 explains the plans for implementation a well as providing an overview of the key provisions of
the legislation. The draft regulation is comprised of the following sections
Title I - General Provisions including scope and definitions
Title II – Prohibited Artificial Intelligence Practices
Title III – High-Risk AI Systems including classification, requirements, and obligations of providers
and users
Title IV – Transparency obligations for certain AI systems
Title V – Measures in support of innovation
Title VI – Governance systems at Union and national level
Title VII – EU Database for stand-alone high-risk AI systems
Title VIII – Post-market monitoring, information sharing, market surveillance
Title IX – Codes of conduct
Title X – Confidentiality and Penalties
Title XI – Delegation of power and committee procedure

Report: JY21100095-905 Rev230

－ 76 －

February 28, 2022

Title XII – Final Provisions
Mauritz Kop published a white paper in September 2021 that summarized the key points of the draft
legislation. This paper EU Artificial Intelligence Act: The European Approach to AI [81] explains theobjectives for the act as
1. ensure that AI systems placed on the Union market and used are safe and respect existing law
on fundamental rights and Union values;
2. ensure legal certainty to facilitate investment and innovation in AI;
3. enhance governance and effective enforcement of existing law on fundamental rights and safety
requirements applicable to AI systems;
4. facilitate the development of a single market for lawful, safe and trustworthy AI applications andprevent market fragmentation.
The paper explains the risk levels for AI systems, what constitutes an Unacceptable Risk AI System, theconformity assessment process and registration requirements for High-Risk AI systems, and several of
the key articles. Of note is the explanation of the regulatory sandboxes intended to stimulate andsupport EU innovation in AI (reference Article 53). Editorial comment is also rendered comparing the EU
act to the laissez faire approach of AI governance in the U.S. The author was involved in the policy
development that preceded the draft legislation and his viewpoint is fully supportive of the act.

Industry Response

In contrast to Mauritz Kop, several medical device industry groups oppose the legislation specific to
medical devices. One group, the European Coordination Committee of the Radiological, Electromedicaland Healthcare IT Industry (COCIR), published a white paper in May 2021 [82]. This author assumes thatthe white paper was drafted prior to the publication of the draft legislation but was a response to the2020 white paper published by the European Commission (EC) On Artificial Intelligence – A European
approach to excellence and trust [73]. The premise of the paper is that the existing EU regulations, MDR
and IVDR, in combination with the General Data Protection Regulation (EU) 2016/679 (GDPR) containrequirements for artificial intelligence in healthcare to be safe and effective. The paper makes
recommendations aligned with FDA guidance on AI/ML algorithm change control and includes specificrecommendations for changes to IEC 62304 and IEC 82304 to better address AI/ML devices. The paper
makes the case that MDR / IVDR requirements for conformity assessment will ensure that dynamic
learning algorithms are placed on the market must have predefined limits of change and when the
product exceeds those limits a new conformity assessment is required. The paper states that the current
requirements of the GDPR can ensure that “adequate” transparency and explainability of AI is presented
by the manufacturer. They contend that full transparency and fully explained AI is not required for a safeand effective medical device.
Team NB is the EU association for Notified Bodies for medical devices and IVDs. In June 2021 they
published a position paper titled European Artificial Intelligence Regulation [83]. In general Team NB is
not opposed to the proposed regulation but does make several recommendations to ensure that theregulation is appropriately applied and that the safety and performance of medical devices aremaintained. Specifically, Team NB recommends that duplication of governance be avoided where
existing frameworks can be modified to accommodate the requirements of the proposed regulation.
Rather than create new AI Notified Bodies that will review medical device AI, it would be more effective
to add AI capability to existing medical device Notified Bodies. The designation of NBs for AI assessment
would be similar to how certain NBs are designated for active implant conformity assessment and others
are not. Team NB also cautions that the requirements for testing per Annex VII of the proposed
regulation could be ineffective unless there is sufficient explainability for the AI system.

Report: JY21100095-905 Rev2

31

－ 77 －

February 28, 2022

MedTech Europe, the European trade association representing the medical technology industry
including diagnostics, medical devices and digital health, provided its response to the European
Commission’s proposed Artificial Intelligence Act (AIA) in a report published August 6, 2021 [84].
MedTech Europe identified a misalignment between the proposed requirements AIA and current
requirements of MDR, IVDR, and GDPR. Their findings paralleled those of Team NB regarding duplicationof regulatory approval pathways. In addition, the MedTech Europe report identified additional areas ofconcern with respect to MDR/IVDR. These include risk classification, definitions that do not align withthe current regulations, and redundant vigilance systems. Additional areas of misalignment with GDPR
were identified and explained.
In addition to the medical device industry, the European Data Protection Board (EDPB) and theEuropean Data Protection Supervisor (EDPS) issued a joint opinion on the AIA in June 2021 [85]. They
identified many opportunities for improvement including considerations for international law
enforcement, clear references to current GDPR and EUDPR requirements, prohibition of AI-based social
scoring, and several others. This report as well as a published update from the office of the EC President[86] indicates that more assessment of the feedback will be required before the AIA is implemented.
Therefore MDR, IVDR, and GDPR will continue to provide governance of AI-based medical devices in the
short term.

Application of MDR to AIMD

There is no official guidance from the Medical Device Coordination Group (MDCG) on artificial
intelligence under MDR/IVDR but this is an item on their planned work list issued October 2021 [87].
Unfortunately, a planned completion date was not published. In the absence of EC endorsed AI-specificguidance, publications by Notified Bodies are the best sources of guidance.
TÜV SÜD issued a white paper titled Artificial Intelligence in Medical Devices Verifying and validating AIbased medical devices [88]. This document references a checklist developed by the Association of
Notified Bodies for Medical Devices in Germany (IG-NB). TÜV SÜD helped develop the checklist andexplains its basis. The checklist in German is available from IG-NB and an English version can be accessed
through the Johner Institute [89]. The TÜV SÜD guidance highlights the challenges for risk assessment of
AI. The latest version of ISO 14971:2019 anticipates device software and SaMD when algorithms are
static (locked). When AI algorithms change based on additional learning the impact to risk is hard to
predict. Therefore, the assessment that safety and effectiveness will remain as intended throughout analgorithm’s evolution cannot be readily performed using current approaches. This was one of thereasons for developing a checklist that focuses on the product lifecycle and not a single point in timeassessment. The TÜV SÜD guidance provides an overview of the checklist and describes the type of
criteria used for assessment of the product Purpose, Software Requirements, Data Management, Model
Development, Product Development, and Product Release. The IG-NB version of the checklist includes
cross references to clauses of the Medical Device Regulation 2017/745. The English version downloaded
from the Johner link includes a set of requirements with corresponding comments that aid theunderstanding of the requirements. The TÜV SÜD guidance recommends that manufacturers consider
the checklist as the best criteria for compliance. They indicate that the German and some EU notified
bodies will use the checklist during their assessment of AI containing medical devices and AI containing
SaMD.
In December 2021 VDE, a German association for Electrical, Electronic, and Information Technologies
published NB’s New Requirements for AI-based Software [90] on their web site. This was a review ofexisting requirements for AI-based medical devices in the EU. They referenced the IG-NB “question
catalog”, which TÜV SÜD calls a checklist, and offered additional explanation of the gaps being filled by
the checklist. They comment that the (German) Notified Bodies take a clear position on the certifiability

Report: JY21100095-905 Rev2

32

－ 78 －

February 28, 2022

of AI-based software in the questionnaire by stating “In principle [dynamic AI] is not certifiable, as thesystem must be verified and validated (among other things, the functionality must be validated on thebasis of the intended use)”. They conclude that the Notified Bodies will assess on a case by case basis, as
stated in the questionnaire, but the publication by the EC of the Artificial Intelligence Act further
confounds the situation.

Conclusions - EU Pathway in 2022

The Artificial Intelligence Act (AIA) as issued for comment by the EC will require revision before it
becomes law. The feedback from the Notified Bodies, industry groups, and others will require the EC toalter the planned implementation. Manufacturers should consider that much of the AIA will become EU
regulation, but mandatory compliance may not be immediate. Likely it will be required after a period oftime post-enactment. This may be similar to the 3-year period that was intended for the Medical Device
Regulation. Of more immediate concern is the position of the Notified Bodies and their checklist /questionnaire. As stated by TÜV SÜD, they and their German and EU peers will use this checklist as an
assessment tool. This tool is aligned with current guidance from the FDA and Chinese NMPA. It could
become the basis for a harmonized approach for the assessment of AI-based medical devices andsoftware as a medical device.

United Kingdom Regulatory Pathway
UK Regulatory Background Pre-2021

The Artificial Intelligence Sector Deal [91] report was issued in Q2 2018 and was much more focused on
ensuring that the opportunity presented by the AI-driven “fourth” industrial revolution was maximized
to the benefit of the UK. The report described the 5 foundations of productivity that is the basis of the
UK industrial strategy. These are Ideas, People, Infrastructure, Business environment, and Places. They
set forth Grand Challenges that if achieved would place the UK at the forefront of industry in theimmediate future. These challenges are 1) place UK at forefront of the AI and data revolution, 2) the UK
will become a world leader in the way people, goods, and services move, 3) the UK will take advantage
of a global shift to clean growth, and 4) the UK will use innovation to meet the needs of an aging society.
The policies proposed to support these challenges were aligned with the five foundations and include
public investments in R&D, tax incentives for private R&D investment, educational programs to build
competence in AI and retrain for an evolving job market, investment in transportation, housing, anddigital infrastructure, investment in innovative businesses through funds by sector, and integrating withlocal strategies. The report describes many activities and initiatives in support of the policies. The overall
goals are similar to the EC Communication of the same period but there is more attention to theeconomic opportunity than to the social responsibility.
Just a few days prior to the publication of the UK government report, the House of Lords issued a report
titled AI in the UK: ready, willing and able? [92]. This is a comprehensive 183-page report that provides agood historical overview of AI including recent public reports, covers the state of AI in use today,
discusses development of AI applications and the importance of data, the business environment
surrounding AI startups and the problems of data access, the impact of AI on the economy and labor, achapter dedicated to AI in healthcare, the societal risks of AI, and the governance of AI. There weremany recommendations throughout the report including the themes of data protection, access to data,transparency (intelligibility), and governance.
In June 2018 the UK government issued a report to Parliament titled Government response to the Houseof Lords Artificial Intelligence Select Committee’s Report on AI in the UK: Ready, Willing, and Able? [93].
This response highlighted one of the key missions of the Sector Deal. In the report this was stated as:Report: JY21100095-905 Rev2

33

－ 79 －

February 28, 2022

“The first mission, announced by the Prime Minister on 21 May 2018, seeks to make the UK aworld leader in the use of data, AI and innovation to transform the prevention, early diagnosis
and treatment of chronic diseases by 2030. Succeeding in this mission will deliver on one of anumber of steps necessary towards saving lives and increasing NHS efficiency, reducing the needfor costly late-stage treatment.”
This mission statement bodes well for the medical device industry in general and radiology in particular.
The balance of the report covered specific responses to the recommendations of the House of Lords
report. In most cases there was support and agreement for recommendations but in some situations thegovernment response indicated a position more aligned with business than the recommendations fromthe House of Lords. Specifically, regarding the call for algorithm transparency, the government response
was that they agreed it was important, but it should not become a requirement that could deter
innovation. This position by the UK government, with less emphasis on social responsibility around AI, isin contrast to the position of the European Commission.
In July 2019 the UK Office for Artificial Intelligence, formed as part of the 2018 Sector Deal, issued afollow up report titled AI Sector Deal – One Year On [94]. This report highlighted the AI Sector Dealachievements including establishing the AI Council, implementing 16 new centers for Doctoral Training(PhDs), issuing AI Turing Fellowships, starting three ‘Data Trust’ pilots, funding £50 million for five newcenters of excellence for digital pathology and imaging, and too many more to list. Based on the
progress made and the Brexit completion, the UK government’s strategy is assumed to remain intact
and is progressing toward the stated goals.
In January 2020 a guidance was published titled A guide to using AI in the public sector [95]. This
document provides a checklist that can be used for planning the implementation of AI systems.
Manufacturers of AI systems should understand the guidance and tailor their product(s) and support
services to match up with the requirements as defined in guidance. Although not regulations, these will
be best practices and deviation will require justification.
Another advisory group, The Information Commissioner’s Office (ICO), also issued guidance documents
in late 2019 and early 2020. These are Explaining Decisions Made with AI [96] and Guidance on AI and
Data Protection [97]. The guidance on Explainability is relevant to medical device applications andprovides a clear approach to achieving explainability, including actual examples. The guidance on AI and
Data Protection provides a framework for auditing AI for compliance with data protection regulations.
This is also applicable to medical device applications where patient information may be linked to images
or other data used for training or testing AI applications. Like the guidance documents referenced
above, these will be considered best practices and manufacturers of AI applications that are compliant
with the guidance may benefit from more immediate acceptance.
In early 2019, a government advisory agency, the Committee on Standards in Public Life, initiated areview [98] as to the way that Artificial Intelligence will transform the public service sector. In February2020 the report [99] was issued and concluded that on the issues of transparency and data bias there isan urgent need for guidance and enforceable regulation. If further recommends that no new AI
regulatory body is needed but rather regulators need to adapt to the challenges posed by AI. Important
feedback from healthcare practitioners is that the current regulatory infrastructure of medicine ensuresan ethical implementation of AI. However, this same regulatory infrastructure does not exist for otherareas of the Public Sector.
In March 2020 a white paper was published by Louis Wihl of the legal firm Bryan, Cave, Leighton, &Paisner [100] that reviewed the UK position with respect to the recently issued EC AI White Paper. This
paper highlighted current legislation under which AI would be regulated in the UK. It compared the EC

Report: JY21100095-905 Rev2

34

－ 80 －

February 28, 2022

proposition of the AI White Paper with the current state of regulation in the UK and concluded that it isunlikely that the UK will follow the lead of the EU.
In June 2020 the UK joined with other nations to form the Global Partnership on AI (GPAI). This group isaligned with the Organization for Economic Co-operation and Development (OECD) including OECD
acting as secretariat. The Partnership was initiated by Canada and France and the members now include
members include Australia, the European Union, Germany, India, Italy, Japan, Korea, Mexico, New
Zealand, Singapore, Slovenia, the United Kingdom, and the United States. There are two centers of
excellence, Paris and Montreal. The Paris team will focus on Innovation & Commercialization as well as“The Future of Work” and the Montreal center will focus on Responsible AI and Data Governance. From
the Partnership website the goals can be accessed. https://oecd.ai/p/gpai
As mentioned above under US regulatory activities, the UK and Northern Ireland have signed anagreement with the US on Declaration of the United States of America and the United Kingdom of GreatBritain and Northern Ireland on Cooperation in Artificial Intelligence Research and Development: A
Shared Vision for Driving Technological Breakthroughs.
As previously stated, the UK regulations will be more prescriptive than those of the United States but
will not reach the level that is clearly anticipated for the EU.

UK Regulatory Activity in 2021

The UK Government activity around Artificial Intelligence has proliferated since the publication of the AI
Sector Deal in 2018. Based on this policy the UK formed the Office for Artificial Intelligence (OAI) which
resides jointly under the Department for Digital, Culture, Media and Sport (DCMS) and the Department
for Business, Energy & Industrial Strategy (BEIS). This office has been chartered with implementing the
National AI Strategy which is discussed below.
A supporting organization which was also formed due to the AI Sector Deal is the AI Council. The AI
Council is a committee of independent members that provides advice to the government. This council iscomprised of industry, academia, and government subject matter experts. In January 2021 the council
published the AI Roadmap [101]. This was a compilation of sixteen recommendations in four areas that
informed the subsequent National AI Strategy. The AI Council also collaborated with the Ada Lovelace
Institute on a March 2021 publication titled Exploring Legal Mechanisms for Data Stewardship [102]. In
July 2021 they also collaboratively published AI Ecosystem Survey – Summary Report with The Alan
Turing Institute [103].
The UK Government through DCMS, the Government Digital Service (GDS), and Office for Artificial
Intelligence extended their Data Ethics Framework [104], originally published in 2018 and updated in
2020, to create the Ethics, Transparency and Accountability Framework for Automated Decision-Making[105] which was published in May 2021. This framework is intended to be used by the government
sector when developing AI-based tools. The guidance includes a Risk Potential Assessment form (Note:
this is not a safety risk assessment per ISO 14971:2019). The guidance includes references to otherrecent guidance documents from the UK Government, the Council of Europe, and the OECD.
In July 2021 the DCMS issued a policy paper titled Digital Regulation: Driving Growth and Unlocking
Innovation [106]. This is also known as the Plan for Digital Regulation. It sets out a new paradigm forgoverning technology that is pro-innovation. It presents three key objectives:••

To drive growth, we will promote competition and innovation across the digital sector.
To ensure this growth and innovation does not harm citizens or businesses, we will keep the UK
safe and secure online.

Report: JY21100095-905 Rev2

35

－ 81 －

February 28, 2022•

To protect our fundamental rights and freedoms, we will shape a digital economy that promotes
a flourishing, democratic society.

The paper also establishes three key principles for regulation when needed:•••

actively promote innovation;achieve forward-looking and coherent outcomes;
and address international opportunities and challenges.

This policy paper indicates that there will be specific strategies for various aspects of technology
including the Innovation Strategy, AI Strategy, Digital Strategy and National Cyber Strategy. Although not
specific regarding how or when regulation will be enacted, it does set a policy that is less conservative
than the EU approach.
The Centre for Data Ethics and Innovation (CDEI) is a government expert body tasked with enabling
trustworthy use of data and AI. They issued reports titled AI Barometer in June 2020 and December
2021 [107]. These reports focus on the most pressing opportunities, risks and governance challenges
associated with AI and data use in the UK. Key findings in these reports are the risks associated with AI
and data use which include bias in algorithmic decision-making; low accuracy of data-driven tools; thefailure of consent mechanisms to give people meaningful control over their data; as well as a lack oftransparency around how AI and data is used. The 2020 report and the AI Council’s AI Roadmap appear
to have informed the team that published the National AI Strategy.
The Office for Artificial Intelligence published the National AI Strategy on September 22, 2021 [108]. The
report states that the UK’s goals for the National AI Strategy are:•••Invest and plan for the long-term needs of the AI ecosystem to continue our leadership as ascience and AI superpower;
Support the transition to an AI-enabled economy, capturing the benefits of innovation in the UK,
and ensuring AI benefits all sectors and regions;
Ensure the UK gets the national and international governance of AI technologies right toencourage innovation, investment, and protect the public and our fundamental values.

The report includes a table that presents the planned actions required to achieve the goals with a focus
on short term (3 months), medium term (6 months), and long term (12 months and beyond). The reportpresents a 10-year vision that integrates other UK government activities including the previously
referenced Plan for Digital Regulation. The assumptions that form the basis for realization of the vision
are:
•
•
•

The key drivers of progress, discovery and strategic advantage in AI are access to people, data,
compute and finance – all of which face huge global competition;
AI will become mainstream in much of the economy and action will be required to ensure every
sector and region of the UK benefit from this transition;
Our governance and regulatory regimes will need to keep pace with the fast-changing demandsof AI, maximizing growth and competition, driving UK excellence in innovation, and protecting
the safety, security, choices and rights of our citizens.

The report covers in detail the pillars of the strategy:•••

Pillar 1: Investing in the long-term needs of the AI ecosystem
Pillar 2: Ensuring AI benefits all sectors and regions
Pillar 3: Governing AI effectively

Report: JY21100095-905 Rev2

36

－ 82 －

February 28, 2022

Pillar 3 has the potential for greatest impact on manufactures of medical devices containing AI or AIbased SaMD. The current reliance on sector specific regulation may address short term needs but
problems that will need to be addressed include inconsistency between sectors, overlap in regulations,and the application to multinational companies. The report highlights these problems and offers
potential solutions. One of the primary initiatives for cross sector and multinational harmonization is thepromulgation of technical standards. The UK plans to drive the development and harmonization ofinternational standards. The report also advocates the use of AI Assurance to provide an understandingof the safety, fairness, and trustworthiness of AI systems.
In support of the National AI Strategy, CDEI published The Roadmap to an Effective AI Assurance
Ecosystem in December 2021 [109]. This publication is aligned with the Plan for Digital Regulation and
the National AI Strategy. It references initiatives currently underway at the Information Commissioners
Office (AI Auditing Framework), the Alan Turing Institute, and the Medicines & Healthcare Regulatory
Agency. The report identifies activities CDEI will support to help develop an AI assurance ecosystem.
Overall, the UK has progressed significantly regarding AI regulation, and they are plotting a different
course from the EU. The specific sectors are still ahead of the government in terms of tactical activities
and regulation.

NHS Initiatives

The United Kingdom’s National Health Service (NHS) has been a public sector driver for the integrationof Artificial Intelligence in healthcare. Their collaboration team, NHSX, issued several guidance
documents including 2019’s paper Artificial Intelligence: How to get I right [110] and 2020’s A Buyer’s
Guide to AI in Health and Care [111]. These guidance documents were intended to assist NHS teams andpractitioners with understanding and applying AI in their services. NHSX also sponsored the AI in Healthand Care Award program. The goal of the award is to support programs which benefit patients bycombining AI with NHS expertise to improve health and care outcomes. To date the award has supplied£90 million in funding with a total planned outlay of £140 million. Projects receiving awards include AIbased imaging tools for evaluating skin disease, diagnosing retinal disease, and recognizing key
cardiovascular conditions. The list of recipients can be found at the NHSX website [112]. NHSX alsoestablished the NHS AI Lab [113] which is run by the NHS Accelerated Access Collaborative (ACC) in
partnership with the National Institute of Health Research (NIHR). The NHS AI Lab facilitates programs
and provides guidance including the development of the National COVID-19 Chest Imaging Database(NCCID) [114] and the National Medical Imaging Platform (NMIP) [115]. Guidance documents address
the application of AI in the clinical setting as well as the development of AI-based tools. In January 2021
NHS updated their guidance A guide to good practice for digital and data-driven health technologies[116]. Late in 2021 NHS announced that NHSX would be merged with NHS Digital and NHS England andImprovement to form the NHS Transformation Directorate. NHS Digital will become the CIO directorate
and NHSX will evolve into the strategy function in the Transformation directorate. How these changes in
the NHS bureaucracy affects AI integration can only be speculated upon but they are aligned with the
NHS Long Term Plan [117].

MHRA Initiatives

In February 2021 the UK legislative bodies passed the Medicines and Medical Devices Act 2021 (MMDA).
This legislation provides a legal regulatory framework to amend 2002 Medical Device Regulations andbring them in alignment with European Union regulations (MDR 2017/45 and IVDR 2017/746). In July
MHRA published their plan for 2021 – 2023 [118]. The major deliverables of the plan include
1. Deliver better patient and public involvement to ensure we put patients first
2. Deliver public health impact, world-leading research innovation and a unique proposition

Report: JY21100095-905 Rev2

37

－ 83 －

February 28, 2022

3. Overhaul the clinical trials system to support innovation and reduce time to approval
4. Develop and deliver our future strategy and approach for access to medicines and devices
5. Establish a new medical devices legislative framework to support safe innovation and ongoing
access to products
6. Deliver a more responsive safety surveillance and risk management system, for all medical
products, to keep patients safe
7. Deliver innovative interventions to ensure the UK has a secure supply chain providing highquality products
8. Deliver our Transformation Programme to make us a truly world-leading, innovative regulator
9. Deliver a programme to enhance our leadership capability and to attract, retain and develop
talent so that we can fuel innovation and drive change
10. Leverage international partnerships to drive better outcomes
11. Leverage UK healthcare system partnerships to integrate processes and drive better outcomes.
12. Build public and stakeholder trust in our organisation through a programme of proactive andinnovative communications
13. Establish a new business model for the future that increases income, reduces costs andimproves productivity
14. Deliver an optimised IT infrastructure to improve our service and reduce our costs with fewer
digital technologies
MHRA held true to goals 1 and 5 when they initiated a public consultation on the future regulation of
medical devices in the United Kingdom. This consultation was open from 16 September 2021 to 25
November 2021. The Consultation website [119] provides links to documents and webinars. Chapter 10of the survey is focused on Software as a Medical Device and includes many questions about AI as a
medical device (AIaMD). The format has MHRA presenting a potential position or regulatory approachand asks questions that are intended to elicit feedback from the respondents. Section 65 is specific to
AIaMD. In 65.1 MHRA proposes amending the Regulation to require performance evaluation methods
for diagnostic AI which would take a comparable approach to performance evaluation methods used forin vitro diagnostic medical devices. This would require demonstration of scientific validity as well as
analytical and clinical performance. No date has been specified for presentation of the results of theconsultation, but the MHRA goal is to have the new Regulatory framework ready by July 2023 when theyno longer accept CE marked devices.
In parallel with the public consultation, MHRA issued a new guidance titled Software and AI as a Medical
Device Change Programme [120]. This program includes eleven work packages across two workstreams.
The first stream contains eight work packages to make key reforms across the software as a medical
device (SaMD) lifecycle. They include Qualification, Classification, Premarket, Post Market, Cyber
Security, Innovative Access, SaMD Airlock (classification rule), and Mobile Health and Apps. The second
workstream includes AI Rigour, AI Interpretability, and AI Adaptivity. Each work package has three key
objectives. MHRA intends to deliver guidance related to each work package by Summer 2023 or sooner.

Conclusion - UK Regulatory Pathway in 2022

The United Kingdom, previously aligned with EU policy, is embarking on a different path. The close
collaboration between the UK National Health Service (NHS) and the Medicines and Healthcare
Regulatory Agency (MHRA) has provided leadership in development and execution of the government’s
National AI Strategy. There appears to be closer cooperation with the US FDA and Health Canada
regarding the regulation of AI-based medical devices and this indicates an approach of generalregulation supplemented with detailed guidance. Given the dynamic progression of technology, thisapproach offers a means to quickly adapt appropriate governance.

Report: JY21100095-905 Rev2

38

－ 84 －

February 28, 2022

China Regulatory Pathway
Governmental Initiatives

In 2017 the Chinese government issued New Generation Artificial Intelligence Development Plan [121]and late in the year the Three Year Action Plan to Promote the Development of the New Generation
Artificial Intelligence Industry [122] followed. China’s plan to establish themselves as a leader in Artificial
Intelligence and it many applications was based on the principles of 1) technology leadership, 2) systemdevelopment leveraging the socialist framework, 3) market dominant through a balance between
government and industry, and 4) open-source and open to promote collaboration and sharing amongindustry, academia, and government. The plan put forth three major objectives. First, by 2020 to reachparity with the rest of the world in terms of competitiveness and innovation. Second, by 2025 to achieve
major breakthroughs in AI theory, establish the industry in the global “high-end” value chain, andinitiate laws and regulations to protect citizens. The third objective is to be the world leader in AI
innovation by 2030. The deployment plan involves four initiatives. These are 1) Construct an open andcooperative AI technology innovation system, 2) Grasp AI’s characteristic high degree of integration oftechnological attributes and social attributes, 3) Adhere to the promotion of the trinity of breakthroughsin AI research and development, product applications, and fostering industry development, and 4) Fully
support science and technology, the economy, social development, and national security. These
initiatives were further developed in the Development Plan as well as the Three-year Action Plan.
Included in the Development Plan were brief discussions of Intelligent Medical Care and Health andElder Care Systems. The Action Plan reiterates much of the development plan but is more specificregarding immediate deliverables. “Smart” products that are identified in the Action Plan include
Intelligent Networked Vehicles, Intelligent Service Robots, Intelligent Unmanned Aerial Vehicles,
Medical Imaging Diagnosis Systems, Video Image Identification Systems, Intelligent Voice Interactive
Systems, Intelligent Translation Systems, and Smart Home Products. There are several other initiatives
related to supporting technology including sensors, chips, and development platforms. Lastly, systems
to enhance innovation include establishment of standards, training resources, network infrastructure,and cybersecurity systems.
Regarding standardization, a white paper was published in 2018 by the China Electronics
Standardization Institute (CESI). The paper is titled Artificial Intelligence Standardization White Paper(2018) [123]. This paper provides an overview of the history of Artificial Intelligence, describes thecurrent situation and trends in the world, addresses future applications including Smart Healthcare,safety, ethical, and privacy issues, and then discusses the role of standardization in the promulgation of
AI. The current state of AI standard development (as of January 2018) is covered for both internationaland Chinese national efforts. Current problems and challenges facing AI standards development arehighlighted including general lack of technical knowledge, segmentation by industry or product, andcompliance with existing regulations that do not anticipate AI. The report makes several
recommendations to improve the standardization of AI including the presentation of a standards
framework. If China adopts the recommendations of the report and creates a comprehensive andcoherent standardization platform, it is likely that they will lead the world in standardization. The
voluntary nature of the international standard work (ISO, IEC, etc.) may be slower than the Chinese
national effort.

National Medical Product Administration (NMPA) Governance

The NMPA regulates medical devices in China including software as a medical device (SaMD) andsoftware in a medical device (SiMD). The NMPA participates in the International Medical Device
Regulators Forum (IMDRF) [124] and has adopted most of the guidance developed by IMDRF on
Software as a Medical Device. The NMPA was chair of the Artificial Intelligence working group in 2019

Report: JY21100095-905 Rev2

39

－ 85 －

February 28, 2022

when the annual meeting of the IMDRF was held in Russia and the focus was Artificial Intelligence. At
that meeting Peng Liang PhD, Deputy Division Director at the Center for Medical Device Evaluation(CMDE) gave a presentation that covered the recently published draft guidance document Review pointsof deep learning aided decision-making medical device software. The presentation identified thedifferent intended purposes of AI-MD; Decision-making and Non decision-making. The presentation
summarized considerations of AI-MD compared to Digital Health (wellness), technical characteristics
versus product features, and traditional AI compared with Deep-Learning AI. The emphasis by NMPA ison total lifecycle management as depicted on the slide from the presentation.

Figure 5

The guidance document is very prescriptive with clear definitions of what processes should be includedin the development of AI-based medical device software. Topics covered include quality of data used fortraining and testing, algorithm design, verification and validation (confirmation) activities, change
control and software updates, integration with cybersecurity, and the information required forregistration. This guidance was recently updated and issued on March 9, 2022, as the Guideline for
Artificial Intelligence in Medical Device Registration [125] [126]. The English translation of the guideline
was not available at the time of this report.
In early 2021 Hamish King published Regulatory update for SaMD and AI products approvals in China[127] in the RAPS RF Quarterly. This article provided a summary review of the current requirements andexpectations for AI-based medical devices intended for sale in China. The article highlighted recent

Report: JY21100095-905 Rev240

－ 86 －

February 28, 2022

guidance documents issued by NMPA (Table 3) and also provided a listing of devices approved for sale
by NMPA (Table 4). King describes his experience with placing products on the market and the major
challenges faced by manufacturers. Most of the requirements are derived from the current set of
guidance documents, draft and final, that were listed in table 3 of the paper, and these guidance
documents in turn point to other regulations and guidance. Most AI-based medical devices will be class
II or class III and will require both local testing and local clinical trials. There are some exemptions fromthe need requirement for local clinical trials. These include clinical data from a multicenter clinical trial
with full ethics approval and appropriate demographics or an NMPA-registered predicate device withevidence of equivalence. King explains recent changes in use of Real World Evidence (RWD and RWE)
that can expedite the generation of clinical data. However, a transcript of testimony before the U.S.China Economic and Security Review Commission [128] dated May 7, 2020 by John Balzano highlights
the issues created by China’s Human Genetic Resource (HGR) Regulation. A foreign-sponsored clinical
trial that generates biological samples and now the genetic information associated with those samples,cannot independently collect, store, use, or transfer the specimens or data. This creates a significant
burden for foreign developers of AI-based IVDs and other devices that use biological specimens or
genetic information.
King’s table 3 is reproduced below. Most of the documents are only available from the NMPA in Chinese
but the author used Google Translate to generate English translations of several which were reviewed.
Guidance
Key points of medical device software evaluation based on deep learning aided
decision making
https://www.cmde.org.cn/CL0030/19342.html
Key points of software for CT-aided triage and evaluation of pneumonia (Trial)
https://ww.cmde.org.cn/CL0004/20526.html
Guidelines for onsite inspection of independent software in medical device
production quality management specification

Date ofissuance
28 June 201905 March 2020
04 June 2020

https://www.nmpa.gov.cn/directory/web/nmpa/xxgk/fgwj/gzwj/gzwjylqx/20200604162801601.html

Guiding principles for technical review of medical device software (draft for
consultation of 2nd edition)
https://www.cmde.org.cn/CL0064/21039.html
Draft guidelines for technical review of medical device network security (2nd ed.)https://www.cmde.org.cn/CL0064/21612.html
Guidelines for technical review of registration of CT-aided decision making
software for pulmonary nodules
https://www.cmde.org.cn/CL0004/22242.html
Guidelines for technical review of registration of diagnostic software for diabetic
retinopathy
https://www.cmde.org.cn/CL0004/22242.html
Key points of function evaluation of artificial intelligence software for image
ultrasonic diagnostic equipment
https://www.cmde.org.cn/CL0004/22243.html
Guidelines for the classification of medical software products for artificial
intelligence (draft for comments)
https://www.nifdc.org.cn/nifdc/bshff/ylqxbzhgl/qxzqyj/202104161101033302.html

Report: JY21100095-905 Rev2

05 June 2020
08 Sept 2020
30 Dec 2020
31 Dec 2020
31 Dec 2020
16 April 2021

41

－ 87 －

February 28, 2022

The guidance Key points of software for CT-aided triage and evaluation of pneumonia (Trial) was
reviewed. The product guidance references current general guidance documents including Guidelines
for Technical Review of Medical Device Software Registration, Guidelines for Technical Review of Medical
Device Network Security Registration, Guidelines for Technical Review of Mobile Medical Device
Registration, and Key Points of Medical Device Software Review for Deep Learning Aided DecisionMaking. It includes specific instructions for the information that is expected as part of the registration
submission. The information is expected to include risk management, verification and validation(confirmation), network security, and traceability of testing to design and risk management. The
guidance also addresses issues anticipated with cloud computing per the guidance on Mobile medical
devices. Performance is addressed with several paragraphs identifying expected software functions andguidance on algorithm explanation. Clinical evaluation is defined and expectations for clinicalperformance are included. Overall, the guidance is similar to FDA product specific guidance but in thecontext of an AI-based device, this guidance is ahead of the FDA.
The Guidelines for onsite inspection of independent software in medical device production quality
management specification was translated and reviewed. It was found to be instructive regarding what
would be reviewed during an onsite audit. There is clear correlation between the audit guidance and theguidance for product registration. This guidance makes clear the expectations of the QMS with respect
to a product lifecycle model. There are requirements to check software-update related processes toensure that change control is appropriate.
Guidelines for Technical Review of Medical Device Software (Second edition draft for comments) isapplicable to any medical device software, SaMD or SiMD. This guidance defines independent software(SaMD) and software components (SiMD). The software life cycle is described and there is a section that
addresses the unique aspects of Agile development. Software testing, including both verification andconfirmation (validation) is covered as is software traceability analysis. Software change (update) is also
covered with an emphasis on the differences between a major update and a minor update. The
guidance recommends the development of a naming convention that correlates with the type ofchange. The guidance also addresses use of off the shelf software products that are incorporated into
medical device software. Overall, this is a comprehensive general guidance on medical device softwarethat can be used by the manufacturer or the regulator. As a draft guidance, we can expect somechanges when issued as a final guidance.
Guidelines for Technical Review of Medical Device Cybersecurity (Second Edition) is similar in detail to theguideline for technical review of software. This guidance is considered as a supplement to that guidance
and is intended to be used in parallel to ensure that the software is developed considering both sets of
guidance. The guideline addresses both wired and wireless networks, data exchange in one and two
direction transmissions, and the human-computer interaction. Twenty (20) different network security
capabilities are defined and the requirement to describe the method of compliance or justify therequirement as nonapplicable is put forth. The third section of the guidance covers requirements forresponding to a network security incident. Events that cause harm must be reported to NMPA and/or
national cybersecurity authorities. The update of software to improve cybersecurity is covered in the
fourth section. Similar to software revision for clinical performance, cybersecurity updates are classified
as Major or Minor and have corresponding requirements. Section five of the document addresses issues
with off-the-shelf software and the requirements for personal and important clinical data from thedevice to remain in China. Section six provides guidance on the network security reports that should
accompany the registration. Section seven covers the content of the registration application. Overall,this guidance document is aligned with the IMDRF document issued in 2020 titled Principles andPractices for Medical Device Cybersecurity [129].

Report: JY21100095-905 Rev2

42

－ 88 －

February 28, 2022

Guidelines for the classification of medical software products for artificial intelligence (draft forcomments) was reviewed based on a translation by Xin Yang that was found on LinkedIn [130]. The
translation was structured as 1. Objective, 2. Scope, 3. Management Attribute Definition, 4. Definition ofManagement Category, and 5. Requirements. The author used Google Translate and the English output
was similar though not identical to the translation by Yang. To summarize, if the software can be
categorized as a medical device and provides either decision support functions or image and dataprocessing function then it shall also be managed as a medical device. Where AI is used to mine data or
handle business related matters, then the software will not be managed as a medical device. AI-based
medical device products with low maturity of algorithm development shall be managed as Class III
devices. Those with high algorithm maturity, clearly understood risk profiles, and established levels ofsafety and effectiveness can be managed as class II devices. For devices already registered but which
may see a change in classification, the original registration will remain valid until December 31, 2023. In
summary, China is classifying new AI products as Class III unless there is adequate evidence of safety andeffectiveness to allow classification to Class II.

China Regulatory Summary

China is ahead of the US and EU in terms of specific guidance for AI-based medical devices. The productspecific guidance documents instruct registration applicants on what content is required and how it
should be presented. In some cases, minimum performance requirements are stated. The guidance
documents do not specify the preferred methods to demonstrate performance. This will be algorithm
dependent and may vary based upon risk. Although there is international standards development
activity in performance measurement and verification of AI-based medical devices, there is limited
consensus on best practices. The Chinese strategy and tactical work on standards for AI-based products
predates the EU initiatives but is aligned with the standard activities in the ISO and IEC organizations. It
is expected that Chinese national standards will be issued before US, EU, and UK harmonization of
ISO/IEC standards. The implementation of a standards framework in advance of other governments will
potentially provide China and Chinese manufacturers with a competitive advantage in the developmentof AI-based medical devices. However, the US model of limited or case by case regulation may allow
innovation to accelerate.
Overall, the current requirements for registration in China of AI-based SaMD and SiMD are well defined
but are also rapidly evolving. NMPA established a platform to help accelerate the development andimplementation of AI-based medical devices. The Artificial Intelligent Medical Device Innovation andCooperation Platform [131] is chaired by a leader from the NMPA Center for Medical Device Evaluation(CMDE) and includes personnel from Shanghai Shenkang Hospital Development Center, National
Computer Network Emergency Technology Handling Coordination Center, National Health Commission
International Exchange and Cooperation Center, China Biotechnology Development Center , China
Academy of Information and Communications Technology, Chinese Society of Biomedical Engineering,
Chinese People's Liberation Army, and other organizations. It is expected that this team will generate
new and revised guidance as well as medical device specific standards in an effort to make China theworld leader in AI-based medical devices.

Korea Regulatory Pathway
Governmental Policy and Regulation

The Korean government-initiated work on Intelligent Information in 2015. The 6th National
Informatization Master Plan for an Intelligent Information Society [132] was published in January 2016
and subsequently followed by the Mid- to Long-Term Government R&D Investment Strategy [138] inDecember 2016. In 2017 the Korean Ministry of Science and ICT created the AI Open Innovation Hub

Report: JY21100095-905 Rev243

－ 89 －

February 28, 2022

[132]. This initiative was designed to provide AI technology development infrastructure, equipment,
software, and data for SMEs. The objectives are to provide AI learning data, to build an open API for AI,
and to provide high-performance computing power. In 2018 there were several related initiatives
including the AI R&D Strategy [133] and the Ethics Guidelines for Intelligent Information Society [134].
These were followed by the Data and AI-Driven Economy Promotion Plan [135] and the National
Strategy for Artificial Intelligence [136] published in 2019.
The National Strategy for Artificial Intelligence is described by OECD as the vision of “Going beyond an IT
superpower to an AI superpower,” Korean ministries joined hands to establish the National Strategy for
Artificial Intelligence, which includes Korea’s vision and strategy for the era of AI. The goals of thestrategy are 1) to rank third in terms of global digital competitiveness by 2030, 2) to create 455 trillion
Korean won of economic surplus through AI, and 3) to enter the top ten countries in terms of quality oflife. The 58-page document opens with a statement from President Moon Jae-in, a forward from
Minister of Science and ICT Choi Kiyoung, and sections addressing the prospects for AI, the Korean visionand goals, the core strategies and tasks, and the governance and associated action plans. The overallplan and strategies are similar to those stated strategies of the European Union and the United
Kingdom. The biggest difference is Korea’s plan to reduce regulation by creating a negative regulatory
system that will foster innovation.

Figure 6 - From Korean National Strategy for Artificial Intelligence

Korea intends to create a Regulatory Sandbox. This will be a system which supports the demonstrationor market launch despite the existing laws and regulations in cases where new technologies and services
do not harm the lives and safety of people.
Although this approach is theoretically viable, actual implementation may be more burdensome than
anticipated. The situation effective May 2021 is described on the Global Legal Insights website [137].
The authors provide a brief overview of current regulations and government policy including 2020changes to existing legislation which promote or govern the use of data. These are the Personal
Information Protection Act (PIPA), the Act on Promotion of Information and Communications Network

Report: JY21100095-905 Rev2

44

－ 90 －

February 28, 2022

Utilization and Information Protection (“Network Act”), and the Credit Information Use and Protection
Act (“Credit Act”).

Figure 7 From Korean National Strategy for Artificial Intelligence

Ministry of Food and Drug Safety (MFDS) Governance

In September 2019 at the International Medical Device Regulators Forum (IMDRF) annual meeting heldin Yekaterinburg, Russia the Korean Ministry of Food and Drug Safety presented Perspective andRegulatory Considerations for AI Medical Devices [138]. The Ministry anticipates a significant increase in
AI products entering the Korean and world markets. They have adjusted their policy for rapid market
entry.
“Deregulation” of AI-based medical device:•••

Approval/review guidelines with the application of big data and AI technology – 22 Nov 2017
Guidelines for evaluation of clinical efficacy of AI-based medical device – 20 Dec 2017
Enactment of “Medical device industry development and innovation medical device support
act” – enacted 30 April 2019, effective 1 May 2020.

In September 2019 the clinical study protocol approval status was 20 applications received with 7
approvals and 13 in progress. At that time, they had issued manufacturer approvals for 8 products
including classification of causes of cerebral infarction, detection of pulmonary nodule abnormality,
analysis of bone age, and detection of lumbar compression fracture.
The Guideline on Approval Review of AI and Big Data based Medical Devices (Nov 2017) included thedefinition of an “AI-based medical device” as a medical device in the form of software that diagnosis or
predicts disease by analyzing medical information through AI technology. The classifications were
defined as••••

Medical image analysis device software
Computer aided detection software
Computer aided diagnosis (including predictive screening and cancer prognosis software)
Radiation treatment planning

Approvals consider 1) how data is recorded, 2) performance and clinical efficacy measures, 3)
prospective and retrospective validation, 4) algorithmic transparency, 5) algorithm change control, 6)
version management, 7) management of learning data (real world data), and 8) control of cloudenvironments.

Report: JY21100095-905 Rev245

－ 91 －

February 28, 2022

The Guideline on Clinical Validation of AI based Medical Devices issued in December 2017 covered theselection of subject data, the study method including design and clinician consensus determination, andthe selection of endpoints: sensitivity, specificity, ROC curve, etc.
The presentation highlighted the necessity for revision of current regulations and guidelines specificallywhen considering the equivalence comparison with a predicate device. With AI software, what is to beequivalent? Is it the algorithm, the code, or the efficacy?
Korea’s new Innovative Medical Device Act allows certification of “innovative medical devicecompanies”. This may be like the FDA pilot for Software Precertification. Other progressive changes in
the Act include the introduction of the amendment approval system and the waiver of MFDS approval of
the clinical trial protocol (IRB approval still required).
In November 2020, the MFDS published English translations of the guidelines. These can be downloaded
from the MFDS website [139]. A comparison with the original 2017 guidance documents in Koreancannot be performed but many of the issues raised in the 2019 presentation appear to have beenaddressed in the 2020 publications.
The latest Guideline on Review and Approval of Artificial Intelligence (AI) and Big data based Medical
Device (For Industry) now combines the Guideline on Clinical Validation of AI based Medical Devices from2017. The scope of the guidance includes both SaMD and SiMD. The classification of devices is covered
in detail and multiple examples are presented. The guidance provides explicit instructions forcompleting an application including description of major functions, the source of training date, and theperformance of the system. The environment (device or cloud hosted) and security are to be addressed.
Guidance on performance validation and clinical validation is provided. The submission requirements
are cross referenced to the “Act” effective May 2020 and equivalence is discussed in detail including adecision tree. Change approval is discussed and where a device’s accuracy improves as a result ofadditional learning, a resubmission is not required. Cases where change approval is or may be required
are discussed. Version control and labeling recommendations are also provided. The last sections briefly
cover requirements for a Management Policy on Learning Data and Regulation of Cloud Computing
Technology.
Concurrent with the publication of the Guideline on Review and Approval of Artificial Intelligence (AI)and Big data based Medical Device (For Industry) MFDS published Guideline on Review and Approval for
Cybersecurity of Medical Devices (For Industry) and Guideline on Review and Approval of Digital
Therapeutics (For Industry). The guidance on cybersecurity provides an overview of cybersecurity,
defines the classifications based on device risk and provides examples, identifies the requirements byclass, and guides the submission content through a checklist of essential requirements. The third
guidance addresses SaMD created to prevent, control and treat disabilities and diseases. MFDS has
named these devices as Digital Therapeutics (DTx) and they may include artificial intelligence. The
guidance includes a decision tree for manufacturers to determine if their product will be considered a
Digital Therapeutic device. Several examples of products are given including those for Prevention andManagement as well as Treatment. The guidance describes the content for technical documents andadditional supporting information that should be included. Significant attentions is paid to
documentation of clinical trials. The manufacturer of any AI-based medical device product being
submitted to MFDS shall consider the requirements of the cybersecurity guideline and if applicable, theDigital Therapeutics guideline too.

Report: JY21100095-905 Rev246

－ 92 －

February 28, 2022

Russia Regulatory Pathway
Governmental Policy and Regulation

On October 10, 2019, the President of the Russian Federation, Vladimir Putin, issued a decree “On theDevelopment of Artificial Intelligence in the Russian Federation” and this decree included the “National
Strategy for the Development of Artificial Intelligence Over the Period Extending up to Year 2030”. An
English translation of this decree was published October 28, 2019, by the Center for Security andEmerging Technology (CSET) [140]. Although this was the first national strategy focused exclusively on
Artificial Intelligence, other laws and decrees form the basis of the legal framework. These include but
are not limited to Federal Law No. 172-FZ dated June 28, 2014, and entitled “On Strategic Planning in
the Russian Federation,” decrees of the President of the Russian Federation No. 204 dated May 7, 2018,
and entitled “On National Goals and Strategic Objectives for the Development of the Russian Federation
Over the Period Extending Up to the Year 2024,” No. 203 dated May 9, 2017, and entitled “On theStrategy for the Development of an Information-Oriented Society in the Russian Federation During theYears 2017-2030,” and No. 642 dated December 1, 2016, and entitled “On the Strategy for Scientific andTechnological Development of the Russian Federation,”. This National Strategy document comprises 59
paragraphs contained in six sections. The sections are:I. General Provisions
II. Development of Artificial Intelligence in Russia and Around the World
III. Basic Principles of the Development and Use of Artificial Intelligence Technologies
IV. Priority Directions of the Development and Use of Artificial Intelligence Technologies
V. Goals and Primary Objectives of the Development of Artificial Intelligence
VI. Mechanisms for the Implementation of This Strategy
The Goals and Objectives section includes 29 paragraphs which describe the major initiatives of support
for scientific research, development of software using AI technologies, improving training data quality
and availability, increase computing hardware availability, increase the talent pool supporting AI, andcreate a regulatory system that supports innovation but continues to protect human rights and privacy.
The stated goals include:••

By the year 2024, the legal conditions must be created that are needed in order to achieve thegoals, solve problems, and implement the measures envisioned by this Strategy.
By the year 2030, a flexible legal regulatory system must be functioning in the RussianFederation in the field of artificial intelligence, in particular, one that guarantees public safety
and that is aimed at stimulating the development of artificial intelligence technologies.

The US Center for Naval Analysis (CNA) published biweekly reports titled Artificial Intelligence in Russia
starting in 2019 and continuing today [141]. Issue 7 published July 31, 2020 included discussion of theRussian laws and challenges around AI development. In April 2020, law number 123-FZ was passed aspart of the “Digital Economy of the Russian Federation”. This law opened the door for new legal regimes
intended to accelerate the development and implementation of AI. The goal is to create legal or
regulatory “sandboxes”. This was shortly thereafter codified as law by the Russian President. One of thelegal regimes that were created included AI in medicine and telemedicine. This use of the regulatory /legal “sandbox” is similar to the approach employed by Korea.
The other key topic covered in Issue 7 was the start of AI standardization through the presentation by
Technical Committee TK 164 for the Standardization of Artificial Intelligence of a draft national standard
related to the use of AI for situational video analytics. It is intended to determine the characteristics, themethods of testing and assessing the quality of intelligent video surveillance system equipment, and therequirements for their placement. Throughout 2020 there were announcements of new draft standards

Report: JY21100095-905 Rev247

－ 93 －

February 28, 2022

including “Information Technologies. Reference Architecture for Big Data. Part 2: Use Cases and Derived
Requirements” issued November 20, 2020. The draft standard contained examples of the use of big data
in various realms, including defense, healthcare, energy, science, deep learning, and social media. Earlyin 2021 a standardization plan for 2021 through 2024 was published. This included plans by the Ministryof Health to introduce approximately 50 standards for AI use in healthcare by 2027.
A paper written in November 2020 by Petrella, Miller, and Cooper and published by Elsevier Ltd. for theForeign Policy Research Institute [142] provides an assessment of the policies and implementation of
the National Strategy. Funding that was originally planned in 2019 was reduced by 25% in February 2020and by the end of 2020 was only one third of the original amount due to Covid-19. Where the US andChina rely on private sector funding for AI development, Russia is focused on government funding usingstate-owned entities to facilitate the initiatives. The paper emphasizes that the biggest challenge facedby Russia is a dearth of skilled resources for development and deployment of AI. The paper explains theroles played by Sberbank (Finance Sector and AI Lead), Rostec (Defense Sector), Gazprom Neft (Energy
Sector) and the only private entity, Yandex (Technology Sector), in the AI National Strategy. The paper
concludes that although Russia has substantial resources, the COVID-19 pandemic and the gap inresources will result in Russia continuing to lag the US and China in AI.
The US Center for Naval Analysis issued a summary report in May 2021 [143]. This report provided an
overview of the Russian national programs and legislation including the 2019 National Strategy on AI
Development and the August 2020 AI Federal Project. Initially, in 2018, the Digital Economy program did
not include the AI initiative but by August 2020, the AI Federal Project became the seventh leg of theDigital Economy. The funding difference between the initial 2019 projection and budget for AI Federal
Project has been reduced from 392 billion rubles to 86.5 billion rubles with only 24.6 billion from thefederal budget and the balance from Sberbank. The report also addresses the regulatory sandboxes andthe new laws that enabled their implementation. In August 2020 Russia took an additional step towardreforming its legal system to foster AI development with the passage of the “Concept for thedevelopment of regulation of relations in the field of AI and robotic technologies through 2024.” Thepaper further explains issues with acceptance of AI by the populace and the amendment to the 2006
personal data law by the law that created the regulatory sandboxes. The report also addresses otherconcerns including cyber threats, intellectual property rights, and fears that AI will displace workers.
Overall, Russia is implementing a focused effort to drive the creation and adoption of AI throughout theeconomic system. However, as pointed out by Petrella and the CNA report, the centralized government
sponsored initiatives may be underfunded and will not ensure investment or adoption by private
businesses. The gap between the resources needed and those being produced by the academic system
is another condition that will inhibit Russia’s achievement of their stated goals.

Russian Regulation of Artificial Intelligence Based Medical Devices

In September 2019 Yekaterinburg, Russia hosted the annual meeting of the International Medical Device
Regulators Forum (IMDRF) [144]. The meeting opened with a workshop “AI in Healthcare”. The fourthpresentation was given by Vladimir Kutichev, Head of Medical Device Software Department at
Roszdravnadzor (Russian Federal Service for Surveillance in Healthcare). The presentation covered
existing medical device regulations including medical software. The definition of a medical device wasestablished in Article 38 of Federal Law number 323-FZ issued November 21, 2011 and it included
software intended for medical purposes. This was further clarified by an Information Letter byRoszdravnadzor dated December 30, 2015 and a recommendation from the Board of Eurasian Economic
Commission dated November 12, 2018. The presentation provided an overview of the mandatory
requirements for SaMD documentation required for registration. This includes the following:

Report: JY21100095-905 Rev248

－ 94 －

February 28, 2022•

Software Description•

Software Development Environment Description•

Software Requirements Specification•

Verification and Validation Documentation•

Software Architecture Design•

Configuration Management•

Risk Classification•

Life Cycle Processes•

Risk Management and Risk Analysis
Process
Labeling•

Cybersecurity•

Unresolved Anomalies (Bugs or Defects)

Information about software algorithms
based on published methodologies,
standards, or reference guides that havebeen approved for medical use•

Test Plan••

The presentation explained the plans for revision of current regulatory practices including
harmonization of risk classifications with IMDRF, update criteria for classification of software as a
medical device, update the requirements for technical documentation, and update the Guideline for
SaMD. Kutichev presented a case study for a medical decision support system that would become thefirst registered AI-based product. The challenges for registration of AI-based SaMD include 1) no specificregulatory requirements for AI, 2) no national or international databases of validated clinicalinformation, 3) inaccurate medical data used for training, and 4) “Black Box” testing. Some of thesechallenges were addressed in the case study, specifically the use of a curated database provided by the
manufacturer and shared with Roszdravnadzor.
The presentation previewed the AI systems in medicine standardization activity referenced above. The
2020 program was divided into ten parts:
1.
2.
3.
4.
5.
6.

Classification, terms and definitions
Areas and boundaries of use
General Provisions – Methods of technical testing
Clinical Trials
Application of risk management to the pre-training programs – Algorithm Change Protocol
Methods of monitoring and evaluating the operational parameters of continuing education
programs
7. Requirements for the development of a database structure for testing and training artificial
intelligence systems
8. Terms of ensuring the information and cyber security
9. Requirements for the collection, storage, processing, transfer and protection of data
10. Optimization and integration of big data
The presentation closed with a summary Roszdravnadzor’s goals which in addition of the items
discussed above includes development of the criteria for responsibility; when can a physician rely on thedata obtained from the software based on artificial intelligence/machine learning.
The case study that was presented by Kutichev was later approved and registered by Roszdravnadzor on
April 3, 2020 [145]. The product was the Webiomed Clinical Decision Support System (CDSS) software asa medical device. This was the first AI-SaMD product that passed the technical and clinical testing andhas been certified for use in the Russian Federation.

Report: JY21100095-905 Rev2

49

－ 95 －

February 28, 2022

In October 2020 Alexander Gusev of Webiomed published “On the rules for registering software as a
medical device in Russia” [146]. This website provides an overview of the regulatory process undertaken
for registration of the Webiomed Clinical Decision Support System (CDSS) and recommends that theprocess will be applicable to most AI-based systems for healthcare. The website also gives a summary of
the applicable regulations, describes the three stages of the registration process (Preparation, Tests andTrials, and Registration), and discusses the important points of each stage. It provides step by step
guidance for what is to be submitted with a reference to the applicable regulation or order. The
guidance identifies the current national standards to which the submitted documentation shall conform.
In several cases these are Russian national versions of IEC or ISO standards. Once the documentation isassembled for the product, technical tests must be performed to demonstrate compliance prior toentering clinical trials. These tests are to be conducted by an independent organization.
Clinical trials with humans are necessary only if the software is very innovative and there is no history ofsafety or efficacy, or if the product provides complex or unique methods of delivering its intended
purpose, or if during development it was not possible to determine safety and effectiveness. The author
believes that human testing is redundant for most software medical devices. It will often the case thatthe clinical trials will comprise analysis and evaluation of clinical data. Like testing, the clinical evaluation
is to be performed by a medical organization that has been approved by the government.
The website explains the expected durations of activities at each stage. Based on the risk classification,
the process can complete in a few months, or it can take much longer when human clinical trials are
required. The responses from Roszdravnadzor are typically received in less than 30 days. Tables areprovided with the registration steps and the expected time for completion by the state. A summary
table from the website is provided below.

Figure 8 - Courtesy Webiomed
The information contained on the Webiomed website is the most comprehensive and easily followed
guidance that was found on the subject. A printed version will be included as an appendix to this report.
In November 2020 Alexander Gusev of Webiomed published on their website an overview of theregulation of artificial intelligence in healthcare in Russia. [147]. The website provides summaries offederal acts, presidential decrees, and associated projects. The recent orders issued by the Ministry of
Health related to AI in Healthcare are also summarized in tabular form. These include a July 2020 orderrelated to classification of SaMD based on risk, an August 2020 related to the use of reference data, anda July 2020 order specifically related to the use of AI in X-ray services.
Roszdravnadzor published a draft set of rules in October 2020 named “The methodologicalrecommendations on the procedure for the examination of the quality, effectiveness, and safety ofReport: JY21100095-905 Rev250

－ 96 －

February 28, 2022

medical devices (in terms of software) for state registration within the framework of the national
system”. [148] This was updated in February 2021 and included additional changes regarding software
version identification, software change plans, requirements for disclosure of details regarding data sets
and hardware used in development and for the application, and specific to AI/ML detailed descriptionsof the algorithms, ML methods, and the training data set. Additional detail of the update is available on
the RegDesk website [149] and copies of the documents in Russian are available from the
Roszdravnadzor webite [150] [151].
The most recent changes in Russian medical device regulations include the plan to harmonize
regulations with the Eurasian Economic Union (EAEU). This harmonization was originally planned to go
into effect on January 1, 2022 but was postponed until January 2023 [152]. This allows productregistration to occur under Russian regulations until June 2022. The EAEU regulations differ in terms of
QMS and clinical trial requirements. Specifically on-site QMS inspections will be required, and ISO 13485
certification is no longer adequate. International manufacturers conducting multi-center trials musthave one of their sites in an EAEU member country in order to be registered. Based on the delay with
EAEU harmonization, the Russian government issued new regulations implementing these samerequirements [153].

Conclusions Regarding Regulation of AI-Based Medical Devices in Russia

Although the general state of progress on the National Strategy on AI is not as planned, within
Healthcare, there has been significant progress related to implementation of rules for registration ofsoftware as a medical device, including those based on AI technologies. Russia lags China and Korea interms of hard and clearly defined requirements but the rules published by Roszdravnadzor arecomparable to the guidance issued by the U.S. FDA over the past two years. The regulatory pathway for
AI-SaMD in Russia is better defined today than in 2019 and as application specific performancestandards are developed, the pathway and requirements will become further transparent.

Medical Device Relevant AI Standards

In July 2021 the European Commission published AI Watch: AI Standardization Landscape state of playand link to the EC proposal for an AI regulatory framework [154]. This extensive report provides a crossreference of currently published standards and the EU’s proposed AIA legislation. The Annexes containoverviews of the standards organizations affiliated with the EU including ETSI, ISO and ISO/IEC, ITU-T,
and IEEE. Not all standards are applicable to medical devices, but the 137-page report does provide acomprehensive overview of the current standardization landscape.
There are several organizations developing standards in the general field of artificial intelligence and asmall subset focused on AI in healthcare and medical devices. There is a joint effort between ISO and IEC
for the development of technical standards in the general field of AI. A revised list of working groups ispresented below, and the associated standards that are output are listed in the appendix.
•
•
•
•
•
•
•
•
•
•

ISO/IEC JTC 1/SC 42/AG 2
ISO/IEC JTC 1/SC 42/AHG 1
ISO/IEC JTC 1/SC 42/AHG 2
ISO/IEC JTC 1/SC 42/AHG 3
ISO/IEC JTC 1/SC 42/JWG 1
ISO/IEC JTC 1/SC 42/WG 1
ISO/IEC JTC 1/SC 42/WG 2
ISO/IEC JTC 1/SC 42/WG 3
ISO/IEC JTC 1/SC 42/WG 4
ISO/IEC JTC 1/SC 42/WG 5

AI Systems Engineering
Dissemination and outreach
Liaison with SC 38
Intelligent systems engineering
Governance implications of AI
Foundational standards
Data
Trustworthiness
Use cases and applications
Computational approaches and characteristics of AI systems

Report: JY21100095-905 Rev2

51

－ 97 －

February 28, 2022

The following is a list of medical device applicable standards published since January 2021. A complete
list of AI related standards is included in the appendix.

Published Standards under ISO/IEC JTC 1/SC 42 Artificial Intelligence
ISO/IEC TR 24027:2021

Information technology — Artificial intelligence (AI) — Bias in AI systems
and AI aided decision making

ISO/IEC TR 24029-1:2021

Artificial Intelligence (AI) — Assessment of the robustness of neuralnetworks — Part 1: Overview

ISO/IEC TR 24030:2021

Information technology — Artificial intelligence (AI) — Use cases

ISO/IEC TR 24372:2021

Information technology — Artificial intelligence (AI) — Overview ofcomputational approaches for AI systems

Under development are a number of standards being generated through a collaboration with IEC. These
are in the areas of Data quality for analytics and machine learning (ML), AI system life cycle processes,
functional safety and AI systems, quality evaluation for AI systems, and several more topics.

Institute of Electrical and Electronics Engineers (IEEE)

IEEE has developed several standards around general AI and has a concentrated effort in the area of
ethical design. Several standards are being developed and in 2019 IEEE published a guidebook on Ethical
Design of AI products. IEEE has expanded the number of published standards in the P7000 series. They
have also published several AI related standards that are not immediately applicable to medical devices.
A complete listing of applicable AI standards from IEEE is available in the appendix.
IEEE P7004™ – Standard for Child and Student Data GovernanceIEEE P7005™ – Standard for Transparent Employer Data GovernanceIEEE P7007™ – Ontological Standard for Ethically Driven Robotics and Automation Systems
IEEE P7008™ – Standard for Ethically Driven Nudging for Robotic, Intelligent and Autonomous Systems
IEEE P7009™ – Standard for Fail-Safe Design of Autonomous and Semi-Autonomous Systems
IEEE 7010-2020™ – IEEE Recommended Practice for Assessing the Impact of Autonomous and Intelligent
Systems on Human Well-being
IEEE P7011™ – Standard for the Process of Identifying and Rating the Trustworthiness of News Sources
IEEE P7012™ – Standard for Machine Readable Personal Privacy Terms
IEEE P7014™ – Standard for Ethical considerations in Emulated Empathy in Autonomous and Intelligent
Systems
IEEE IC20-027 – Responsible Innovation of AI and the Life Sciences

Other Standards Development Activity
Consumer Technology Association

The Consumer Technology Association is a trade group with over 1000 members spanning startups toFortune 500 companies. The goal of the organization is to represent their members to governments toprotect the innovation economy from laws or regulations that may delay or restrict the development oftechnology. CTA initially developed a standard for Definitions and Characteristics of Artificial Intelligence(ANSI CTA 2089) and then extended it to Healthcare (CTA 2089.1). This organization provided feedback
during the EU consultation on the AI White Paper.

Report: JY21100095-905 Rev2

52

－ 98 －

February 28, 2022

ITU / WHO Focus Group AI for Health (AI4H)

This group was formed in 2018 and has a goal to develop a framework for benchmarking and evaluationof AI solutions. They are developing online tools and expect to consider regulatory questions in the
future. This team is assessing current and developing standards to ensure that the evaluation tool isrobust. https://www.itu.int/en/ITU-T/focusgroups/ai4h/Pages/default.aspx

International Medica Device Regulators Forum (IMDRF)

The IMDRF has a working group focused on Artificial Intelligence Medical Devices. They are currently
working on a document for terminology: IMDRF/AIMD WG (PD1)/N67:2021 Machine Learning-enabled
Medical Devices—A subset of Artificial Intelligence-enabled Medical Devices: Key Terms and Definitions.
This document is currently in a public consultation.

FDA Consensus Standards

In 2021 the FDA recognized four new software related standards. These are listed in the appendix alongwith all other software related consensus standards.

European Commission Standardization Strategy

In February 2022 the European Commission issued their Standardization Strategy [155] and supporting
reports. The goal is to accelerate standardization and improve the governance of the EU system. How
this will affect current work is unknown but we can anticipate some divergence between the EN
standards and those generated by UK/BSI and the international community of ISO and IEC.

Medical Devices Incorporating AI Placed on US Market in 2020
Radiology and Imaging Based Products

Prior research and the FDA’s listing of AI-based medical devices [156] was the initial source for updating
the author’s database of AI-based medical devices. The FDA listing ends in June 2021, but the American
College of Radiology (ACR) maintains a database of products [157] and this was current through March
2022. The information from the FDA and ACR were added to the Excel file and the ACR data waschecked using the FDA 510(k) database.
During 2021 a total of seventy eight (78) imaging related AI-based products were 510(k) or De Novo
cleared. The clearances were categorized as follows:
Type A:First market entry for company and product.

Type B:

Current manufacturer with AI products cleared and new AI product cleared (predicate is
not manufacturer’s own product).

Type C:

Current manufacturer with AI product clearance and new clearance for same product(predicate is manufacturer’s cleared device)

In 2021 there were thirty-three (33) type A, ten (10) type B, and thirty-five (35) type C clearances. This
compares with totals of sixty-seven (67) type A, twenty-two (22) type B, and seventy-one (71) type C
clearances in the table covering the period of 2008 through 2020. A chart showing the clearance type by
year is shown below.
Most clearances through Q1 2022 are primary product code LLZ with sixty-eight (68) total and sixteen(16) 2021 clearances. Product code QIH surpassed JAK and QAS in 2021 with totals with twenty-seven(27), twenty-five (25), and twenty-four (24) total clearances respectively. A chart with clearances by year
and by product code is shown below. Reference the Appendix for descriptions of each product code.
In 2021 the total number of AI containing product clearances for the imaging related product codes
increased from 160 to 238. This was a 49% increase in clearances compared to the total database

Report: JY21100095-905 Rev2

53

－ 99 －

February 28, 2022

through 2020. However, many of the clearances were updates of existing products. An updated Excel
database of cleared products is included in the appendix.

Imaging Products with AI by TypeFDA Clearances
90
80
70
60
50

C

40

B
A

30
20
10
0

2008

2011

2012

2014

2015

2016

2017

2018

2019

2020

2021

2022

Imaging Products with AI
FDA Clearances

80
70

2022

60

2021

50

2020

40

2019

30

2018

20

2017
2016

10
0

2015
LLZ JAK QFM LNH MUJ IYN PJA QBS PCS KPS QOK KGI MXD QPN JAA NQQ MYN

2014
2012
2011

Report: JY21100095-905 Rev254

－ 100 －

February 28, 2022

Other AI-based Medical Devices

The search strategy used for ultrasound imaging devices was extended to cardiac disease diagnostic
tools, pathology tools, and other AI-based medical devices. The results of the search cannot be
considered exhaustive or 100% comprehensive but do represent the applications of AI outside theimaging field. Fifty-six (56) clearances were identified with eighteen (18) new clearances in 2020. Thirtytwo (32) clearances were type A, two (2) clearances were type B, and twenty-two (22) clearances weretype C. Clearances for diagnostic cardiology devices predominated with product codes DQK, DQD, DXH,
and QDA comprising thirty-two (32) of the identified clearances. Most of these are ECG based recorders
and assessment tools. Electronic stethoscopes with AI for identification of abnormal heart sounds werealso found. A few unique applications included BrainScope’s device for “Brain Injury Adjunctive
Interpretive Electroencephalograph Assessment” and DreaMed’s insulin pump therapy adjustment
calculator. Both were initially approved through the De Novo method. Also identified was Medtronic’s
Guardian Connect continuous glucose monitoring device. This is a PMA product and there may be other
AI-based products in this category. Because the PMA database is more difficult to review and based on
the available time, a comprehensive search of the PMA databased was not performed.

Other than Imaging AI FDA Clearances
16
14
12

2020
2019

10

2018
8

2017
2016

6

2015
2014

4

2012
2

MLO

QDB

MDS

JIR

QCC

GWN

POS

PLB

PWE

PKQ

DRG

OLZ

MSX

DQA

DSI

PIW

DSH

DPS

QDA

MWI

DXH

DQK

DQD

0

The descriptions of the product codes listed on this graph are in the appendix.
Some manufacturers with a spectrum of products have dedicated web sites that list cover their AI-based
products. Philips [161], Johnson & Johnson, and General Electric Healthcare are a few of the companies
that provide insight into their AI development and resulting products.

Report: JY21100095-905 Rev2

55

－ 101 －

February 28, 2022

Medical Devices Placed on the Market in EU in 2021

In the EU, the EUDAMED database launch was delayed so evaluation of new products in these markets
again relied upon Google searches and review of US cleared device companies’ websites to determine if
their products were CE marked. Several EU databases [162] [163] were reviewed and the database from
Radboud University Medical Center [163] was found to be very comprehensive and valuable since it
listed both FDA and CE status. Forty (40) manufacturers were added to the EU list with some having
multiple products CE marked. This updated list is located in the appendix but cannot be considered
comprehensive. Some of the noteworthy companies with class 2a certificates issued in 2020 include
Avicenna.ai (France) for CT based triage tools, ContextVision (Sweden) for their INIFY® pathology tool for
prostate cancer screening, and Vuno (Korea) for five (5) image-based products. A table of EU Only
products was revised to include only those products marketed in the EU without FDA clearance. The FDA
cleared tables include columns related to CE marking.

Medical Devices Placed on the Market in UK in 2021
Research results are shown in the EU section of AI software list

Medical Devices Placed on the Market in China in 2021

The first class III AI-based medical device was approved by NMPA in January 2020. This was DeepVessel
FFR by Keya Medical [164]. The submission was initiated in April 2018. Per the manufacturer’s website“DeepVessel FFR uses deep learning technology to perform a non-invasive physiological functional
assessment of the coronary arteries using coronary CT angiogram scans. The software reduces
unnecessary invasive testing to lower costs and complications.”
In February 2020 NMPA issued a registration certificate for Lepu Medical’s AI-ECG Platform which had
been previously cleared by the FDA in 2018 (K180432) [165]. In June NMPA approved MR imagingassisted diagnosis software for intracranial tumors. In August two firms were approved for Diabetic
Retinopathy Fundus Image Aided Diagnosis Software. They were Airdoc and Silicone-based Intelligence.
In November three products were issued registration certificates. Shukun Technology [166] wasapproved to market their coronary CT angiography triage software. Guxiang Technology and United
Image Intelligence [167] received registration certificates for AI-based imaging tools. This was followedin December 2020 with a registration certificate being awarded to Shenrui Medical for another Ai-based
medical imaging tool.
https://iclg.com/practice-areas/digital-health-laws-and-regulations/china
http://de.bradynuoen.com/news/current-situation-of-approval-of-artificial-intelligence-medical-deviceregistration-certificate-in-china/ (covers 2022 guidance and compares to 2019 guidance)
https://www.ncbi.nlm.nih.gov/pmc/articles/PMC6556644/
https://www.ww01.net/en/archives/112596 (Overview of 2020 NMPA Approvals)
https://equalocean.com/news/2020081314517 (Keya Medical approval)
https://www.keyamedical.com/about-us/
https://insights.omnia-health.com/artificial-intelligence/chinas-medical-artificial-intelligence-marketcontinues-grow (Oct 2021 article references current state)

Report: JY21100095-905 Rev2

56

－ 102 －

February 28, 2022

https://asia.nikkei.com/Business/Startups/China-takes-lead-in-AI-based-diagnostic-imaging-equipment(references Imsight Technology)
https://www.qualtechs.com/de-de/article/424 (lists major players as of June 2020)
https://www.pvmedtech.com/en/news/13.html
https://www.shukun.net/
https://www.hcitinfo.com/pyoul6wezj7b.html (references Shukun 2022 approvals)
https://www.areyouok.com/another-ai-type-iii-certificate-lepus-medical-ai-ecg-analysis-software-hasbeen-approved/
http://www.deepwise.com/ (Shenrui Medical – Dr. Wise®)https://www.imsightmed.com/eproduct/index/cate_id/6.html
https://www.uii-ai.com/en/about
http://www.landing-med.com/en/
https://huiyihuiying.com/en/index.html
https://dianei-ai.com/
http://www.dexhin.com/
http://www.jianpeicn.com/
https://builders.intel.com/docs/aibuilders/jianpei-tech-accelerates-ai-medical-image-diagnosis-withintel-optimizations-for-tensorflow.pdf
https://global.infervision.com/product/19/

Medical Devices Placed on the Market in Korea in 2021
https://www.ncbi.nlm.nih.gov/pmc/articles/PMC8871428/
https://www.mdpi.com/2075-4418/12/2/355/pdf
https://www.researchgate.net/figure/List-of-Approved-Artificial-Intelligence-Based-Software-asMedical-Devices-for-Chest_tbl1_354786649
http://www.koreaherald.com/view.php?ud=20180516000823
https://seoulz.com/top-korean-medical-startups-incorporating-ai-technologies/
http://www.koreabiomed.com/news/articleView.html?idxno=12873
http://www.koreabiomed.com/news/articleView.html?idxno=11559
http://www.koreabiomed.com/news/articleView.html?idxno=13602&utm_source=dable

Medical Devices Placed on the Market in Russia in 2021

In 2019 Alexander Gusev of Webiomed published a listing and description of 22 AI in healthcare projects
that were underway in Russia [164]. This was prior to the registration of the Webiomed.DHRA Clinical
Diagnostic Support System (CDSS) which was the first AI-based device approved by Roszdravnadzor in

Report: JY21100095-905 Rev2

57

－ 103 －

February 28, 2022

2020. Gusev identified several companies that were working with medical centers developing AI-based
capabilities. These included Celsus, MeDiCase, Botkin, Care Mentor, and others. In March 2021 Gusev
published a list of Russian AI products in healthcare [165]. Gusev estimated that 30 different AI systems
for medicine and healthcare were developed in Russia. The products were categorized as
1.
2.
3.
4.
5.

Medical image analysis using computer vision technologies
Digital diagnostics, including differential diagnostics
Prevention of conditions, diseases and complications
Assistance in treatment, including selection and control of therapy
Other

Tables are included for each category of product and include a description of the product and a link tothe company’s website or related information. Seventeen products are listed for Medical Image
Analysis, four for Digital Diagnostics, five for Prevention, two for Treatment, and two for Other. The links
were checked April 17, 2022 and not all were active. Each website from the list was checked forevidence of registration. Only Botkin, Celsus, Pirogov.AI, ThirdOpinion, and Webiomed were verified tohave certificates of registration. Several of the websites list their product as being for Research Only. It
appears that some companies provide their capabilities to medical centers for deployment by theclinicians. Like the U.S., the regulators control the commercialization of SaMD but do not control thepractice of medicine. Hence the published use of AI-SaMD without registration of the “product”. Insome cases, Botkin.AI for example, the company has a CE mark on the product and offers it for saleoutside of Russia.
In late 2020 Sber Bank, the entity tasked by the government with implementing AI in various sectors,
joined with Skoltech (Skolkovo Institute of Science and Technology) to create an ecosystem called Sber
Med AI. Under this well-funded umbrella several companies have joined the digital ecosystem. In
January 2021 Care Mentor AI announced their collaboration [166]. Also listed as a collaborator is
Webiomed and several other organizations, including Roszdravnadzor, appear as members on the
SberMedAI website. SberMedAI claims to have delivered 50+ AI products and services to over 42
Russian regions [167].
The Roszdravnadzor database of medical device registration certificates could not be accessed in a form
that could be translated. Certificates are usually available as image files and cannot be translated byavailable tools. A listing of AI-based medical devices produced and offered in Russia is included in the
Excel file included as an appendix to this report.

Conclusions

Regulation of AI-based medical devices is forthcoming with the European Union set to introduce
legislation for overall governance of AI in early 2021. This pending regulation and the implementation of
the Medical Device Regulation will drive manufacturers to ensure that their AI-based products are notbiased and are transparent to the user. Regulators are becoming educated and requirements for clinicalvalidation of AI-based products will be issued in the EU as well as many other countries. The UK,
although not fully aligned with the EU on general regulation of AI products will be closer on AI-based
medical devices. The UK MHRA and BSI have been thought leaders in this area and will continue to set
expectations for AI-based medical products. The US is behind in terms of general AI product regulation,
but the FDA is one of the thought leaders in the field of medical device AI.
2021 will be an interesting year for regulation of AI-based medical devices with many countries
implementing additional requirements but also due to the growing competition among manufacturers.
Will competition drive manufacturers to greater transparency, verification of minimal bias, anddemonstration of algorithm generalization to broader populations? Hopefully the ethical side ofReport: JY21100095-905 Rev258

－ 104 －

February 28, 2022

medicine will ensure that this is the case. Otherwise increased competition among manufacturers could
lead to more hype and less substance in terms of performance. If this is the case and there areunacceptable outcomes, the regulators will more quickly intervene with regulation that may stifle
innovation in the field.
2020 appeared to be an incredible year for AI-based medical devices. The number of new devices andthe number of device improvements requiring regulatory review increased almost 100% year on year. It
is to be seen if the exponential growth of AI-based medical products will continue. As is typical of a newtechnology that can be implemented without significant capital investment, the number of participantsin the market will grow until competition, consolidation, or regulation reduces the viability of thestartup.
One factor that can limit the viabilityof a new company is access to quality
data. This is an area where many
countries are ahead of the United
80
States. In the EU a standardized
60
electronic health record (HER) is
40
closer to being a reality than in the
US. The public availability of well20
curated data may provide the EU and0
UK with a competitive advantage
2011 2012 2013 2014 2015 2016 2017 2018 2019 2020
regarding reduced algorithm bias andgreater ability to generalize. The lack of a standard EHR in the US and the diversity of healthcare systems
will make data access a challenge for US companies developing products here and foreign companies
validating that their products are unbiased and accurate for the US population.

FDA Clearances for AI-Based Imaging
Products

The opportunities for AI-based medical devices to help the world’s population live longer and healthier
are unlimited but so are the challenges to making this happen. Adherence to ethical principles by
manufacturers and careful governance will improve the chance that the potential for improvement isachieved.

Report: JY21100095-905 Rev259

－ 105 －

February 28, 2022

Bibliography[1]

FDA, "General Principles of Software Validation; Final Guidance for Industry and FDA Staff," 11 January 2002.
[Online]. Available: https://www.fda.gov/media/73141/download.

[2]

FDA, "Cybersecurity for Networked Medical Devices Containing Off-The-Shelf (OTS) Software: Guidance forIndustry," 2005. [Online]. Available: https://www.fda.gov/regulatory-information/search-fda-guidancedocuments/cybersecurity-networked-medical-devices-containing-shelf-ots-software.

[3]

FDA, "Guidance for the Content of Premarket Submissions for Software Contained in Medical Devices: Guidancefor Industry and FDA Staff," 2005. [Online]. Available: https://www.fda.gov/regulatory-information/search-fdaguidance-documents/guidance-content-premarket-submissions-software-contained-medical-devices.

[4]

FDA, "Deciding When to Submit a 510(k) for a Software Change to an Existing Device; Guidance for Industry andFood and Drug Administration Staff," October 2017. [Online]. Available: https://www.fda.gov/regulatoryinformation/search-fda-guidance-documents/deciding-when-submit-510k-software-change-existing-device.

[5]

FDA, "Software as a Medical Device (SAMD): Clinical Evaluation - Guidance for Industry and Food and Drug
Administration Staff," December 2017. [Online]. Available: https://www.fda.gov/media/100714/download.

[6]

FDA, "Content of Premarket Submissions for Management of Cybersecurity in Medical Devices," 18 October
2018. [Online]. Available: https://www.fda.gov/regulatory-information/search-fda-guidance-documents/contentpremarket-submissions-management-cybersecurity-medical-devices.

[7]

FDA, "Postmarket Management of Cybersecurity in Medical Devices," 27 December 2016. [Online]. Available:
https://www.fda.gov/regulatory-information/search-fda-guidance-documents/postmarket-managementcybersecurity-medical-devices.

[8]

FDA, "Off-The-Shelf Software Use in Medical Devices; Guidance for Industry and Food and Drug Administration
Staff," September 2019. [Online]. Available: https://www.fda.gov/regulatory-information/search-fda-guidancedocuments/shelf-software-use-medical-devices.

[9]

FDA, "Clinical Decision Support Software: Draft Guidance for Industry and Food and Drug Administration Staff,"
September 2019. [Online]. Available: https://www.fda.gov/regulatory-information/search-fda-guidancedocuments/clinical-decision-support-software.

[10] FDA, "Digital Health Software Precertification (Pre-Cert) Program," FDA, 18 July 2019. [Online]. Available:
https://www.fda.gov/medical-devices/digital-health/digital-health-software-precertification-pre-cert-program.
[11] FDA, "Proposed Regulatory Framework for Modifications to Artificial Intelligence/Machine Learning (AI/ML)Based Software as a Medical Device (SaMD)," November 2019. [Online]. Available:
https://www.fda.gov/media/122535/download.
[12] FDA, "Public Workshop - Evolving Role of Artificial Intelligence in Radiological Health," 16 January 2020. [Online].
Available: https://www.fda.gov/medical-devices/workshops-conferences-medical-devices/public-workshopevolving-role-artificial-intelligence-radiological-imaging-02252020-02262020.
[13] FDA, "Clinical Performance Assessment: Considerations for Computer-Assisted Detection Devices Applied toRadiology Images and Radiology Device Data in Premarket Notification (510(k)) Submissions," US Government FDA, 21 January 2020. [Online]. Available: https://www.fda.gov/regulatory-information/search-fda-guidance-

Report: JY21100095-905 Rev260

－ 106 －

February 28, 2022

documents/clinical-performance-assessment-considerations-computer-assisted-detection-devices-appliedradiology.
[14] FDA, "October 22, 2020: Patient Engagement Advisory Committee Meeting Announcement," FDA, 21 December
2021. [Online]. Available: https://www.fda.gov/advisory-committees/advisory-committee-calendar/october-222020-patient-engagement-advisory-committee-meeting-announcement-10222020-10222020#event-materials.
[15] FDA, "Artificial Intelligence and Machine Learning (AI/ML) Software as a Medical Device Action Plan," US
Government - FDA, 12 January 2021. [Online]. Available: https://www.fda.gov/media/145022/download.
[16] FDA, "Virtual Public Workshop - Transparency of Artificial Intelligence/Machine Learning-enabled Medical
Devices," FDA, 26 November 2021. [Online]. Available: https://www.fda.gov/medical-devices/workshopsconferences-medical-devices/virtual-public-workshop-transparency-artificial-intelligencemachine-learningenabled-medical-devices.
[17] Morrison Foerster, "FIVE KEY TAKEAWAYS FROM FDA’S TRANSPARENCY OF AI/ML-ENABLED MEDICAL DEVICES
VIRTUAL WORKSHOP," 26 October 2021. [Online]. Available: https://lifesciences.mofo.com/topics/five-keytakeaways-from-FDAs-transparency-of-AIML-enabled-medical-devices-virtual-workshop.html.
[18] FDA, "Good Machine Learning Practice for Medical Device Development: Guiding Principles," 27 October 2021.
[Online]. Available: https://www.fda.gov/medical-devices/software-medical-device-samd/good-machinelearning-practice-medical-device-development-guiding-principles.
[19] FDA, "Content of Premarket Submissions for Device Software Functions - Draft Guidance," 4 November 2021.
[Online]. Available: https://www.fda.gov/regulatory-information/search-fda-guidance-documents/contentpremarket-submissions-device-software-functions.
[20] King & Spalding, "FDA Makes First Significant Changes to Premarket Medical Device Software Guidance in 16
Years," King & Spalding, 16 November 2021. [Online]. Available: https://www.jdsupra.com/legalnews/fda-makesfirst-significant-changes-to-9201754/.
[21] FDA, "Medical Device Data Systems, Medical Image Storage Devices, and Medical Image Communications
Devices," Center for Devices and Radiological Health, September 2019. [Online]. Available:
https://www.fda.gov/regulatory-information/search-fda-guidance-documents/medical-device-data-systemsmedical-image-storage-devices-and-medical-image-communications-devices.
[22] FDA, "Guidances with Digital Health Content," FDA, 22 December 2021. [Online]. Available:
https://www.fda.gov/medical-devices/digital-health-center-excellence/guidances-digital-health-content.
[23] FDA, "CDRH Proposed Guidances for Fiscal Year 2022," FDA, 26 October 2021. [Online]. Available:
https://www.fda.gov/medical-devices/guidance-documents-medical-devices-and-radiation-emittingproducts/cdrh-proposed-guidances-fiscal-year-2022-fy2022.
[24] FDA, "Webinar - Digital Health Software Precertification (Pre-Cert) Pilot Program - August 1, 2017," FDA, 12
September 2018. [Online]. Available: https://www.fda.gov/medical-devices/workshops-conferences-medicaldevices/webinar-digital-health-software-precertification-pre-cert-pilot-program-august-1-2017.
[25] FDA, "Software Precertification Program: Regulatory Framework for Conducting the Pilot Program within Current
Authorities," January 2019. [Online]. Available: https://www.fda.gov/media/119724/download.
[26] FDA, "Developing a Software Precertification Program: A Working Model," January 2019. [Online]. Available:
https://www.fda.gov/media/119722/download.

Report: JY21100095-905 Rev2

61

－ 107 －

February 28, 2022

[27] FDA, "Software Precertification Program: 2019 Test Plan," January 2019. [Online]. Available:
https://www.fda.gov/media/119723/download.
[28] FDA, "Software Precertification Program - 2019 Mid-Year Update," May 2019. [Online]. Available:
https://www.fda.gov/media/129047/download.
[29] FDA, "Developing the Software Precertification Program: Summary of Learnings and Ongoing Activities,"
September 2020. [Online]. Available: https://www.fda.gov/media/142107/download.
[30] Xavier Health Program, "Xavier Health - AI Learning and Resources," December 2021. [Online]. Available:
https://www.xavierhealth.org/ai-learning-resources.
[31] Xavier Health, "Perspectives and Good Practices for AI and Continuously Learning Systems in Healthcare," August
2018. [Online]. Available:
https://static1.squarespace.com/static/58d0113a3e00bef537b02b70/t/5cf13dec8f88ee0001f7c5c7/1559313901
740/AI_WhitePaper_GoodPractices.pdf.
[32] Xavier Health, "Data Quality for AI in Healthcare Whitepaper," February 2021. [Online]. Available:
https://www.xavierhealth.org/gmlp-whitepaper-data-quality.
[33] Xavier Health, "Xavier AI Summit," Virtual, 2021.
[34] H. S., R. M. and S. B., "Machine Learning and Medical Devices - Connecting practice to policy (and back again),"Connected Health Initiative, Washington, D.C., 2021.
[35] FDA, "Use of Real-World Evidence to Support Regulatory Decision-Making for Medical Devices," FDA, August
2017. [Online]. Available: https://www.fda.gov/regulatory-information/search-fda-guidance-documents/usereal-world-evidence-support-regulatory-decision-making-medical-devices.
[36] FDA, "Artificial Intelligence and Machine Learning in Software as a Medical Device," US Government - FDA, 12
January 2021. [Online]. Available: https://www.fda.gov/medical-devices/software-medical-device-samd/artificialintelligence-and-machine-learning-software-medical-device.
[37] M. U, D. P and V. K, "Approval of artificial intelligence and machine learning-based medical devices in the USA
and Europe 2015-2020: a comparative analysis," Lancet Digital Health, vol. 3, pp. 195-203, 18 January 2021.
[38] World Health Organization, "Ethics and Governance of Artificial Intelligence for Health - WHO Guidance," World
Health Organization, Geneva, 2021.
[39] M. J, M. A and V. S, "An Overview of Clinical Applications of Artificial Intelligence," CADTH, Ottawa, 2018.
[40] Executive Office of the President, "Guidance for Regulation of Artificial Intelligence Applications," US
Government, Washington, D.C., 2020.
[41] U.S. Departmet of State, "Declaration of the United States of America and the United Kingdom of Great Britain
and Northern Ireland on Cooperation in Artificial Intelligence Research and Development: A Shared Vision for
Driving Technological Breakthroughs in Artificial Intelligence," US Government, 25 September 2020. [Online].
Available: https://www.state.gov/declaration-of-the-united-states-of-america-and-the-united-kingdom-of-greatbritain-and-northern-ireland-on-cooperation-in-artificial-intelligence-research-and-development-a-shared-visionfor-driving/.

Report: JY21100095-905 Rev262

－ 108 －

February 28, 2022

[42] National Science Foundation, "The National Artificial Intelligence Research Task Force (NAIRRTF)," National
Science Foundation, 10 June 2021. [Online]. Available: https://www.nsf.gov/cise/national-ai.jsp.
[43] The White House, "Executive Order on the President’s Council of Advisors on Science and Technology," The
White House, 27 January 2021. [Online]. Available: https://www.whitehouse.gov/briefing-room/presidentialactions/2021/01/27/executive-order-on-presidents-council-of-advisors-on-science-and-technology/.
[44] The White House, "The Biden Administration Launches AI.gov Aimed at Broadening Access to Federal Artificial
Intelligence Innovation Efforts, Encouraging Innovators of Tomorrow," The White House, 5 May 2021. [Online].
Available: https://www.whitehouse.gov/ostp/news-updates/2021/05/05/the-biden-administration-launches-aigov-aimed-at-broadening-access-to-federal-artificial-intelligence-innovation-efforts-encouraging-innovators-oftomorrow/.
[45] The White House, "NATIONAL ARTIFICIAL INTELLIGENCE INITIATIVE," White House Office of Science andTechnology Policy (OSTP), 5 May 2021. [Online]. Available: https://www.ai.gov/.
[46] The White House, "The Biden Administration Launches the National Artificial Intelligence Research Resource Task
Force," The White House, 10 June 2021. [Online]. Available: https://www.whitehouse.gov/ostp/newsupdates/2021/06/10/the-biden-administration-launches-the-national-artificial-intelligence-research-resourcetask-force/.
[47] National Institute of Science and Technology U.S. Department of Commerce, "NIST PRIVACY FRAMEWORK: A
TOOL FOR IMPROVING PRIVACY THROUGH ENTERPRISE RISK MANAGEMENT," 16 January 2020. [Online].
Available: https://www.nist.gov/system/files/documents/2020/01/16/NIST%20Privacy%20Framework_V1.0.pdf .
[48] K. B. a. B. G. Megan Brown, "NIST Releases Final Privacy Framework," Wiley Connect, 31 January 2020. [Online].
Available: https://www.wileyconnect.com/home/2020/1/31/nist-releases-final-privacy-framework.
[49] K. Scott and M. Brown, "NIST Releases a Preliminary Draft of its Privacy Framework," Wiley Connect, 11
September 2019. [Online]. Available: https://www.wileyconnect.com/home/2019/9/11/nist-releases-apreliminary-draft-of-its-privacy-framework?rq=privacy%20framework.
[50] National Institute of Science and Technology U.S. Department of Commerce, "Framework for Improving Critical
Infrastructure Cybersecurity version 1.1," 16 April 2018. [Online]. Available:
https://doi.org/10.6028/NIST.CSWP.04162018.
[51] H. A. F. P. B. D. P. M. Phillips P., "Four Principles of Explainable Artificial Intelligence (Draft)," National Institute of
Science and Technology, U.S. Department of Commerce, 18 August 2020. [Online]. Available:
https://www.nist.gov/publications/four-principles-explainable-artificial-intelligence-draft.
[52] Department of Commerce US Government, "Information Technology - Artificial Intelligence," National Institute ofStandards and Technology, 21 November 2021. [Online]. Available: https://www.nist.gov/artificial-intelligence.
[53] Department of Commerce US Government, "AI Measurement and Evaluation Workshop," National Institute ofStandards and Technology, 14 July 2021. [Online]. Available: https://www.nist.gov/newsevents/events/2021/06/ai-measurement-and-evaluation-workshop.
[54] Department of Commerce US Governmet, "A Proposal for Identifying and Managing Bias in Artificial Intelligence,"
National Institute of Standards and Technology, Washington, DC, 2021.
[55] Department of Commerce US Government, "NIST Proposes Approach for Reducing Risk of Bias in Artificial
Intelligence," National Institute of Standards and Technology, 22 June 2021. [Online]. Available:

Report: JY21100095-905 Rev2

63

－ 109 －

February 28, 2022

https://www.nist.gov/news-events/news/2021/06/nist-proposes-approach-reducing-risk-bias-artificialintelligence.
[56] Department of Commerce US Government, "Four Principles of Explainable Artificial Intelligence," September
2021. [Online]. Available: https://nvlpubs.nist.gov/nistpubs/ir/2021/NIST.IR.8312.pdf.
[57] Department of Commerce US Government, "Summary Analysis of Responses to the NIST Artificial Intelligence
Risk Management Framework (AI RMF) - Request for Information (RFI) National Institute of Standards andTechnology (NIST)," 15 October 2021. [Online]. Available:
https://www.nist.gov/system/files/documents/2021/10/15/AI%20RMF_RFI%20Summary%20Report.pdf.
[58] Department of Commerce, "Kicking Off NIST AI Risk Management Framework," National Institute of Standards
and Technology, 25 Oct 2021. [Online]. Available: https://www.nist.gov/news-events/events/2021/10/kickingnist-ai-risk-management-framework.
[59] Department of Commerce US Government, "AI Risk Management Framework Concept Paper," 13 December
2021. [Online]. Available:
https://www.nist.gov/system/files/documents/2021/12/14/AI%20RMF%20Concept%20Paper_13Dec2021_posted.pdf.
[60] Department of Commerce US Government, "Information Technology - Artificial Intelligence - AI Standards:
Federal Engagement," National Institute of Standards and Technology, 10 August 2021. [Online]. Available:
https://www.nist.gov/artificial-intelligence/ai-standards-federal-engagement.
[61] National Security Commission on Artificial Intelligence, "Final Report," March 2021. [Online]. Available:
https://www.nscai.gov/wp-content/uploads/2021/03/Final_Report_Executive_Summary.pdf.
[62] Department of Commerce US Government, "Department of Commerce Establishes National Artificial Intelligence
Advisory Committee," National Institute of Standards and Technology, 8 September 2021. [Online]. Available:
https://www.commerce.gov/news/press-releases/2021/09/department-commerce-establishes-nationalartificial-intelligence .
[63] Gibson Dunn, "2021 Artificial Intelligence and Automated Systems Annual Legal Review," Gibson, Dunn &Crutcher LLP, 20 January 2022. [Online]. Available: https://www.gibsondunn.com/2021-artificial-intelligence-andautomated-systems-annual-legal-review/.
[64] National Conference of State Legislatures, "Legislation Related to Artificial Intelligence," National Conference ofState Legislatures, 5 January 2022. [Online]. Available: https://www.ncsl.org/research/telecommunications-andinformation-technology/2020-legislation-related-to-artificial-intelligence.aspx.
[65] Orrick Herrington & Sutcliffe LLP, "U.S. Artificial Intelligence Regulation Takes Shape," Orrick Herrington &Sutcliffe LLP, 18 November 2021. [Online]. Available: https://www.orrick.com/en/Insights/2021/11/US-ArtificialIntelligence-Regulation-Takes-Shape .
[66] European Commission, "https://digital-strategy.ec.europa.eu/en/library/communication-artificial-intelligenceeurope," European Union, 25 April 2018. [Online]. Available: https://digitalstrategy.ec.europa.eu/en/library/communication-artificial-intelligence-europe.
[67] European Commission, "Commission appoints expert group on AI and launches the European AI Alliance,"
European Union, 14 June 2018. [Online]. Available: https://digital-strategy.ec.europa.eu/en/news/commissionappoints-expert-group-ai-and-launches-european-ai-alliance.

Report: JY21100095-905 Rev2

64

－ 110 －

February 28, 2022

[68] European Commission, "Ethics guidelines for trustworthy AI," European Union, 8 April 2019. [Online]. Available:
https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai.
[69] European Commission, "Policy and investment recommendations for trustworthy Artificial Intelligence,"
European union, 26 June 2019. [Online]. Available: https://digital-strategy.ec.europa.eu/en/library/policy-andinvestment-recommendations-trustworthy-artificial-intelligence.
[70] European Parliament, "EU guidelines on ethics in artificial intelligence: Context and implementation," September
2019. [Online]. Available:
http://www.europarl.europa.eu/RegData/etudes/BRIE/2019/640163/EPRS_BRI(2019)640163_EN.pdf.
[71] IEEE, "Ethically Aligned Design: A Vision for Prioritizing Human Well-being with Autonomous and Intelligent
Systems," April 2019. [Online]. Available: https://www.ieee-ras.org/about-ras/latest-news/1446-now-availableethically-aligned-design-first-edition.
[72] Eurpean Commission, "Rolling plan for ICT standardisation," European Union, March 2019. [Online]. Available:
https://joinup.ec.europa.eu/collection/rolling-plan-ict-standardisation/rolling-plan-2019.
[73] European Commission, "White Paper on Artificial Intelligence: a European approach to excellence and trust," 19
February 2020. [Online]. Available: https://ec.europa.eu/info/files/white-paper-artificial-intelligence-europeanapproach-excellence-and-trust_en.
[74] European Commission, "COMMUNICATION FROM THE COMMISSION TO THE EUROPEAN - A European strategy
for data," 19 February 2020. [Online]. Available: https://ec.europa.eu/info/sites/info/files/communicationeuropean-strategy-data-19feb2020_en.pdf.
[75] European Commission, "Public Consultation on the AI White Paper Final Report," November 2020. [Online].
Available: https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=68462.
[76] European Commission, "Report on the safety and liability implications of Artificial Intelligence, the Internet ofThings and Robotics," 19 February 2020. [Online]. Available: https://eur-lex.europa.eu/legalcontent/EN/TXT/PDF/?uri=CELEX:52020DC0064&from=en.
[77] European AI Alliance, "ALTAI - The Assessment List on Trustworthy Artificial Intelligence," 2020. [Online].
Available: https://futurium.ec.europa.eu/en/european-ai-alliance/pages/altai-assessment-list-trustworthyartificial-intelligence.
[78] European Commission, "SECTORAL CONSIDERATIONS ON THE POLICY AND INVESTMENT RECOMMENDATIONSFOR TRUSTWORTHY ARTIFICIAL INTELLIGENCE," 26 June 2020. [Online]. Available:
https://futurium.ec.europa.eu/sites/default/files/202007/Sectoral%20Considerations%20On%20The%20Policy%20And%20Investment%20Recommendations%20For%2
0Trustworthy%20Artificial%20Intelligence_0.pdf.
[79] European Commission, "Second European AI Alliance Assembly Event Report," 9 October 2020. [Online].
Available: https://futurium.ec.europa.eu/sites/default/files/202012/Second%20European%20AI%20Alliance%20Assembly%20_%20Event%20Report.pdf .
[80] European Commission, "A European approach to artificial intelligence," 27 September 2021. [Online]. Available:
https://digital-strategy.ec.europa.eu/en/policies/european-approach-artificial-intelligence.

Report: JY21100095-905 Rev2

65

－ 111 －

February 28, 2022

[81] M. Kop, "EU Artificial Intelligence Act: The European Approach to AI," Stanford - Vienna Transatlantic Technology
Law Forum, Transatlantic Antitrust and IPR, 2021.
[82] European Coordination Committee of the Radiological, Electromedical and Healthcare IT Industry, "ARTIFICIALINTELLIGENCE IN EU MEDICAL DEVICE LEGISLATION," COCIR, Brussels, 2021.
[83] Team NB, "European Artificial Intelligence Regulation," The European Association of, Sprimont (Belgium), 2021.
[84] MedTech Europe, "MedTech Europe response to the open public consultation on the Proposal for an Artificial
Intelligence Act (COM/2021/206)," 6 August 2021. [Online]. Available: https://www.medtecheurope.org/newsand-events/news/medtech-europe-response-to-the-open-public-consultation-on-the-proposal-for-an-artificialintelligence-act-com-2021-206/.
[85] European Data Protection Board, "EDPB-EDPS Joint Opinion 5/2021 on the proposal for a Regulation of theEuropean Parliament and of the Council laying down harmonised rules on artificial intelligence (Artificial
Intelligence Act)," 18 June 2021. [Online]. Available: https://edpb.europa.eu/our-work-tools/ourdocuments/edpbedps-joint-opinion/edpb-edps-joint-opinion-52021-proposal_en.
[86] Council of the European Union, "Progress Report - Proposal for a Regulation of the European Parliament and of
the Council laying down harmonised rules on artificial intelligence (Artificial Intelligence)," 22 November 2021.
[Online]. Available: https://data.consilium.europa.eu/doc/document/ST-13802-2021-REV-1/en/pdf.
[87] European Commission, "Ongoing guidance development and deliverables of MDCG Subgroups – October 2021*,"
October 2021. [Online]. Available:
https://ec.europa.eu/health/sites/default/files/md_sector/docs/mdcg_ongoing_guidancedocs_en.pdf.
[88] TUV SUD, "ARTIFICIAL INTELLIGENCE IN MEDICAL DEVICES," 2021. [Online]. Available:
https://www.tuvsud.com/en-us/resource-centre/white-papers/artificial-intelligence-in-medical-devices.
[89] Johner Institute, "Guideline for AI for medical products," GitHub, 21 December 2021. [Online]. Available:
https://github.com/johner-institut/ai-guideline/blob/master/Guideline-AI-Medical-Devices_EN.md.
[90] VDE, "NB’s New Requirements for AI-based Software," VDE, 5 December 2021. [Online]. Available:
https://meso.vde.com/ai-based-software/.
[91] GOV.UK, "Artificial Intelligence Sector Deal," Government of United Kingdom, 26 April 2018. [Online]. Available:
https://www.gov.uk/government/publications/artificial-intelligence-sector-deal.
[92] UK Parliament, "AI in the UK: ready, willing, and able?," 16 April 2018. [Online]. Available:
https://publications.parliament.uk/pa/ld201719/ldselect/ldai/100/100.pdf.
[93] UK Secretary of State for Business, Energy and Industrial Strategy, "Government response to House of Lords
Artificial Intelligence Select Committee’s Report on AI in the UK: Ready, Willing and Able?," UK Government,
2018.
[94] UK Government Office for Artificial Intelligence, "AI Sector Deal - One Year On," www.gov.uk/officeforai, London,
2019.
[95] GOV.UK, "A guide to using artificial intelligence in the public sector," GOV.UK, 27 January 2020. [Online].
Available: https://www.gov.uk/government/publications/a-guide-to-using-artificial-intelligence-in-the-publicsector.

Report: JY21100095-905 Rev2

66

－ 112 －

February 28, 2022

[96] Information Commisioner's Office, "Explaining decisions made with AI ," nformation Commisioner's Office,December 2019. [Online]. Available: https://ico.org.uk/for-organisations/guide-to-data-protection/key-dataprotection-themes/explaining-decisions-made-with-ai/.
[97] Information Commissioner's Office, "Guidance on AI and data protection," Information Commissioner's Office, 30
July 2020. [Online]. Available: https://ico.org.uk/for-organisations/guide-to-data-protection/key-data-protectionthemes/guidance-on-ai-and-data-protection/about-this-guidance/.
[98] Committee on Standards in Public Life, "Artificial Intelligence and Public Standards," GOV.UK, 25 March 2019.
[Online]. Available: https://www.gov.uk/government/collections/ai-and-public-standards.
[99] Committee on Standards in Public Life, "Artificial Intelligence and Public Standards: report," 10 February 2020.
[Online]. Available:
https://assets.publishing.service.gov.uk/government/uploads/system/uploads/attachment_data/file/868284/W
eb_Version_AI_and_Public_Standards.PDF.
[100] L. Wihl, "The EC white paper shows that AI regulation is at a crossroads: where is the UK now and where is it
going?," 4 March 2020. [Online]. Available: https://www.jdsupra.com/legalnews/the-ec-white-paper-shows-thatai-97492/.
[101] UK Office for Artificial Intelligence, "Independent Report AI Roadmap,"
https://www.nationalarchives.gov.uk/doc/open-government-licence/version/3/, 6 January 2021. [Online].
Available: https://www.gov.uk/government/publications/ai-roadmap.
[102] Ada Lovelace Institute, "Exploring legal mechanisms for data stewardship," 4 March 2021. [Online]. Available:
https://www.adalovelaceinstitute.org/report/legal-mechanisms-data-stewardship.
[103] The Alan Turing Institute, "AI ecosystem survey – summary report," June 2021. [Online]. Available:
https://www.turing.ac.uk/ai-ecosystem-survey-summary-report.
[104] United Kingdom Government, "Data Ethics Framework," UK Government, 16 September 2020. [Online].
Available: https://www.gov.uk/government/publications/data-ethics-framework.
[105] United Kingdom Government, "Ethics, Transparency and Accountability Framework for Automated DecisionMaking," UK Government, 13 May 2021. [Online]. Available:
https://www.gov.uk/government/publications/ethics-transparency-and-accountability-framework-forautomated-decision-making.
[106] UK Department for Digital, Culture, Media & Sport, "Policy paper Digital Regulation: Driving growth and unlocking
innovation," 6 July 2021. [Online]. Available: https://www.gov.uk/government/publications/digital-regulationdriving-growth-and-unlocking-innovation/digital-regulation-driving-growth-and-unlocking-innovation.
[107] UK Centre for Data Ethics and Innovation, "Independent report AI Barometer 2021," 17 December 2021. [Online].
Available: https://www.gov.uk/government/publications/ai-barometer-2021.
[108] UK Office for Artificial Intelligence, "Guidance - National AI Strategy," 22 September 2021. [Online]. Available:
https://www.gov.uk/government/publications/national-ai-strategy.
[109] UK Centre for Data Ethics and Innovation, "Independent report - The roadmap to an effective AI assurance
ecosystem," 8 December 2021. [Online]. Available: https://www.gov.uk/government/publications/the-roadmapto-an-effective-ai-assurance-ecosystem.

Report: JY21100095-905 Rev2

67

－ 113 －

February 28, 2022

[110] UK National Health Service, "Artificial Intelligence: How to get it right," October 2019. [Online]. Available:
https://www.nhsx.nhs.uk/ai-lab/explore-all-resources/understand-ai/artificial-intelligence-how-get-it-right/.
[111] UK National Health Service, "A buyer's guide to AI in health and care," November 2020. [Online]. Available:
https://www.nhsx.nhs.uk/ai-lab/explore-all-resources/adopt-ai/a-buyers-guide-to-ai-in-health-and-care/.
[112] UK National Health Service, "AI in Health and Care Award winners," UK Crown, [Online]. Available:
https://www.nhsx.nhs.uk/ai-lab/ai-lab-programmes/ai-health-and-care-award/ai-health-and-care-awardwinners/.
[113] UK National Health Service, "The NHS AI Lab," UK Crown, September 2021. [Online]. Available:
https://www.nhsx.nhs.uk/ai-lab/.
[114] UK National Health Service, "National COVID-19 Chest Imaging Database (NCCID)," UK Crown, [Online]. Available:
https://www.nhsx.nhs.uk/covid-19-response/data-and-covid-19/national-covid-19-chest-imaging-databasenccid/.
[115] UK National Heath Service, "National Medical Imaging Platform (NMIP)," UK Crown, 2021. [Online]. Available:
https://www.nhsx.nhs.uk/ai-lab/ai-lab-programmes/ai-in-imaging/national-medical-imaging-platform-nmip/.
[116] UK National Health Service, "A guide to good practice for digital and data-driven health technologies," UK Crown,
19 January 2021. [Online]. Available: https://www.gov.uk/government/publications/code-of-conduct-for-datadriven-health-and-care-technology/initial-code-of-conduct-for-data-driven-health-and-care-technology.
[117] UK National Health Service, "NHS Long Term Plan," UK Crown, 21 August 2019. [Online]. Available:
https://www.longtermplan.nhs.uk/publication/nhs-long-term-plan/.
[118] UK Medicines and Healthcare Regulatory Agency, "The Medicines and Healthcare products Regulatory Agency
Delivery Plan 2021-2023," UK Crown, 4 July 2021. [Online]. Available:
https://www.gov.uk/government/publications/the-medicines-and-healthcare-products-regulatory-agencydelivery-plan-2021-2023.
[119] Medicines and Healthcare products Regulatory Agency, "Consultation on the future regulation of medical devices
in the United Kingdom," UK Crown, 26 October 2021. [Online]. Available:
https://www.gov.uk/government/consultations/consultation-on-the-future-regulation-of-medical-devices-inthe-united-kingdom.
[120] Medicines and Healthcre products Regulatoiry Agency, "Software and AI as a Medical Device Change
Programme," UK Crown, 16 September 2021. [Online]. Available:
https://www.gov.uk/government/publications/software-and-ai-as-a-medical-device-changeprogramme/software-and-ai-as-a-medical-device-change-programme.
[121] G. Webster, R. Creemers, E. Kania and P. Triolo, "Full Translation: China’s ‘New Generation Artificial Intelligence
Development Plan’ (2017)," Stanford University, 1 August 2017. [Online]. Available:
https://digichina.stanford.edu/work/full-translation-chinas-new-generation-artificial-intelligence-developmentplan-2017/.
[122] P. Triolo, E. Kania and G. Webster, "Translation: Chinese government outlines AI ambitions through 2020," New
America, 26 January 2018. [Online]. Available: https://www.newamerica.org/cybersecurityinitiative/digichina/blog/translation-chinese-government-outlines-ai-ambitions-through-2020/.

Report: JY21100095-905 Rev2

68

－ 114 －

February 28, 2022

[123] Center for Security and Emerging Technology, "Translation Artificial Intelligence Standardization White Paper," 12
May 2020. [Online]. Available: https://cset.georgetown.edu/publication/artificial-intelligence-standardizationwhite-paper/.
[124] International Medical Device Regulators Forum, "International Medical Device Regulators Forum," International
Medical Device Regulators Forum, 1 March 2022. [Online]. Available: https://www.imdrf.org/.
[125] ChinaMedDevice, "Three Guidelines Published Today, Propelling China to be World Leader in Digital Health,"
ChinaMedDevice, 9 March 2022. [Online]. Available: https://chinameddevice.com/digital-health-nmpa-ai/.
[126] ChinaMedDevice, "NMPA Chief Reviewers on Regulating AI Medical Devices," ChinaMedDevice, 25 March 2022.
[Online]. Available: https://chinameddevice.com/ai-nmpa-cmde/.
[127] H. King, "Regulatory update for SaMD and AI product approvals in China," RF Quarterly, vol. 1, no. 2, pp. 33-41,
2021.
[128] U.S.-China Economic and Security Review Commission, "China’s Evolving Healthcare Ecosystem: Challenges andOpportunities," 7 May 2020. [Online]. Available: https://www.uscc.gov/hearings/chinas-evolving-healthcareecosystem-challenges-and-opportunities.
[129] International Medical Device Regulators Forum, "Principles and Practices for Medical Device Cybersecurity," 20
April 2020. [Online]. Available: https://www.imdrf.org/documents/principles-and-practices-medical-devicecybersecurity.
[130] X. Yang, "China NMPA: Guildine for classification and definition of AI medical software products," LinkedIn, 14
July 2021. [Online]. Available: https://www.linkedin.com/pulse/china-nmpa-guideline-classification-definition-aimedical-xin-yang/.
[131] National Medical Products Administration, "Artificial Intelligent Medical Device Innovation and Cooperation
Platform," State Drug Administration / Medical Deveice Technology Review Center, March 2021. [Online].
Available: http://www.aimd.org.cn/..
[132] AI Hub, "AI Hub," Korean Intelligent Information Society Agency, 2021. [Online]. Available: https://aihub.or.kr/..
[133] OECD.AI, "AI R&D Strategy," OECD, 8 March 2022. [Online]. Available: https://oecd.ai/en/dashboards/policyinitiatives/http:%2F%2Faipo.oecd.org%2F2021-data-policyInitiatives-25016.
[134] OECD.AI, "ETHICS GUIDELINES FOR INTELLIGENT INFORMATION SOCIETY," OECD.org, 8 February 2022. [Online].
[135] OECD.AI, "DATA & AI-DRIVEN ECONOMY PROMOTION PLAN," OECD.org, 15 June 2021. [Online]. Available:
https://oecd.ai/en/dashboards/policy-initiatives/http:%2F%2Faipo.oecd.org%2F2021-data-policyInitiatives24310.
[136] OECD.AI, "National Strategy for Artificial Intelligence," December 2019. [Online]. Available:
https://wp.oecd.ai/app/uploads/2021/12/Korea_National_Strategy_for_Artificial_Intelligence_2019.pdf.
[137] W. H. Cho and H. I. Lee, "AI, Machine Learning & Big Data Laws and Regulations 2021 - Korea," Global Legal
Insights, May 2021. [Online]. Available: https://www.globallegalinsights.com/practice-areas/ai-machine-learningand-big-data-laws-andregulations/korea#:~:text=Currently%2C%20the%20Copyright%20Act%20in,protected%20under%20the%20Copy
right%20Act..

Report: JY21100095-905 Rev2

69

－ 115 －

February 28, 2022

[138] IMDRF, "Presentation - Perspectives and Regulatory Considerations for AI based Medical Devices," 19 September
2019. [Online]. Available: https://www.imdrf.org/sites/default/files/docs/imdrf/final/meetings/imdrf-meet190916-russia-yekaterinburg-02.pdf.
[139] Korean Ministry of Food and Drug Safety, "Regulations," Korean Ministry of Food and Drug Safety, 4 November
2020. [Online]. Available: Presentation - Perspectives and Regulatory Considerations for AI based Medical
Devices.
[140] Center for Security and Emerging Technology, "Translation Decree of the President of the Russian Federation on
the Development of Artificial Intelligence in the Russian Federation," 28 October 2019. [Online]. Available:
https://cset.georgetown.edu/publication/decree-of-the-president-of-the-russian-federation-on-thedevelopment-of-artificial-intelligence-in-the-russian-federation/.
[141] Center for Naval Analysis, "Artificial Intelligence and Autonomy in Russia," CNA, 21 March 2022. [Online].
Available: https://www.cna.org/centers/cna/sppp/rsp/russia-ai.
[142] S. Petrella, C. Miller and B. Cooper, "Russia’s Artificial Intelligence Strategy: The Role of State-Owns Firms," Orbis,
vol. 65, no. 1, pp. 75-100, 2021.
[143] Center for Naval Analysis, "Artificial Intelligence and Autonomy in Russia," May 2021. [Online]. Available:
https://www.cna.org/CNA_files/centers/CNA/sppp/rsp/russia-ai/Russia-Artificial-Intelligence-Autonomy-PutinMilitary.pdf.
[144] IMDRF, "Yekaterinburg, Russia Meeting," IMDRF, 19 September 2019. [Online]. Available:
https://www.imdrf.org/meetings/yekaterinburg-russia.
[145] Invest Foresight, "AI-based medical system registered in Russia," Invest Foresight, 5 May 2020. [Online].
Available: https://investforesight.com/ai-based-medical-system-registered-in-russia/.
[146] A. Gusev, "On the rules for registering software as a medical device in Russia," WebioMed, 2 October 2020.
[Online]. Available: https://webiomed.ru/en/blog/on-the-rules-for-registering-software-as-a-medical-device-inrussia/.
[147] A. Gusev, "Regulation of artificial intelligence in healthcare in Russia," WebioMed, 16 November 2020. [Online].
Available: https://webiomed.ru/en/blog/regulation-of-artificial-intelligence-in-healthcare-in-russia/.
[148] RegDesk, "Russian Methodical Recommendations for Medical Software Assessment," RegDesk, 4 November
2020. [Online]. Available: https://www.regdesk.co/russian-methodical-recommendations-for-medical-softwareassessment/.
[149] RegDesk, "Russia`s New Medical Software Assessment Rules," Regdesk, 19 May 2021. [Online]. Available:
https://www.regdesk.co/russia-new-medical-software-assessment-rules/.
[150] Roszdravnadzor, "Methodological recommendations on the procedure for conducting an examination of thequality, effectiveness and safety of medical devices for state registration (in terms of software) for stateregistration within the national system dated 10/27/2020," Federal Service for Surveillance in Healthcare, 27
October 2020. [Online]. Available: https://roszdravnadzor.gov.ru/medproducts/documents/69159.
[151] Roszdravnadzor, "Methodological recommendations on the procedure for conducting an examination of thequality, effectiveness and safety of medical devices (in terms of software) for state registration within theReport: JY21100095-905 Rev2

70

－ 116 －

February 28, 2022

national system dated 12.02.2021," Federal Service for Surveillance in Healthcare, 12 February 2021. [Online].
Available: https://roszdravnadzor.gov.ru/medproducts/documents/71502.
[152] Asia Actual, "RUSSIA AND EURO-ASIAN NEIGHBORS EXPECTED TO TRANSITION TO EAEU REGULATIONS IN 2022,"
2 February 2022. [Online]. Available: https://asiaactual.com/blog/russia-and-euro-asian-neighbors-expected-totransition-to-eaeu-regulations-in-2022/.
[153] A. Stepanov, "Medical Device Regulations in Russia and Eurasian Union," WordPress.com, 13 March 2022.
[Online]. Available: https://medicaldevicesinrussia.com/.
[154] S. Nativi and S. De Nigris, "AI Watch, AI standardisation landscape state of play and link to the EC proposal for an
AI regulatory framework," 14 July 2021. [Online]. Available: https://op.europa.eu/en/publication-detail//publication/36c46b8e-e518-11eb-a1a5-01aa75ed71a1/language-en..
[155] European Commission, "Standardization Strategy," February 2022. [Online]. Available:
https://ec.europa.eu/docsroom/documents/48598.
[156] FDA, "FDA De Novo Data Base," [Online]. Available:
https://www.accessdata.fda.gov/scripts/cdrh/cfdocs/cfPMN/denovo.cfm.
[157] FDA, "510(k) Data Base," [Online]. Available:
https://www.accessdata.fda.gov/scripts/cdrh/cfdocs/cfPMN/pmn.cfm.
[158] American College of Radiology, "FDA Cleared AI Algorithms," Data Science Institute, 3 January 2020. [Online].
Available: https://www.acrdsi.org/DSI-Services/FDA-Cleared-AI-Algorithms.
[159] D. P. M. B. Benjamens S, "FDA-approved A.I.-based algorithms," The Medical Futurist, 1 August 2020. [Online].
Available: https://medicalfuturist.com/fda-approved-ai-based-algorithms/.
[160] C. Dilmegani, "Medical Imaging Software," AI Multiple, 2019. [Online]. Available: https://aimultiple.com/medicalimaging-software/.
[161] Philips, "Artificial Intelligence," Philips, January 2021. [Online]. Available: https://www.philips.com/aw/about/artificial-intelligence.html.
[162] Initiative for Applied Artificial Intelligence, "AI Startup Landscape 2020," 4 March 2020. [Online]. Available:
https://www.appliedai.de/hub/2020-ai-german-startup-landscape .
[163] Radboud University Medical Center, Nijmegen, The Netherlands, "AI for Radiology," Radboud University Medical
Center, Nijmegen, The Netherlands, [Online]. Available: https://grand-challenge.org/aiforradiology/.
[164] A. Gusev, "The Map of Artificial Intelligence in Russian Healthcare," Webiomed, September 2019. [Online].
Available: https://webiomed.ai/en/blog/the-map-artificial-intelligence-in-russian-health-care/ .
[165] A. Gusev, "Overview of Russian AI products in healthcare," Webiomed, 15 March 2021. [Online]. Available:
https://webiomed.ru/en/blog/overview-of-russian-ai-products-in-healthcare/.
[166] SBER Bank, "The Care Mentor AI service has been added to the digital ecosystem of SberMedAI," SBER Bank, 29
January 2021. [Online]. Available: https://www.sberbank.com/news-and-media/pressreleases/article?newsID=feb036ae-1111-48f7-8c34c04e6b2d7611&blockID=7&regionID=77&lang=en&type=NEWS.

Report: JY21100095-905 Rev2

71

－ 117 －

February 28, 2022

[167] SBER Bank, "SBER MED AI," SberMedAI, 2021. [Online]. Available: https://sbermed.ai/en/.
[168] H. E. L. J. B. P. Turpin R., "MACHINE LEARNING AI IN MEDICAL DEVICES: ADAPTING REGULATORY FRAMEWORKS
AND STANDARDS TO ENSURE SAFETY AND PERFORMANCE," AAMI , 2020.
[169] US National Library of Medicine, "PubMed.gov," National Institutes of Health, [Online]. Available:
https://www.ncbi.nlm.nih.gov/pubmed.
[170] US Government, "NIST IT Artificial Intelligence AI Standards," [Online]. Available:
https://www.nist.gov/topics/artificial-intelligence.
[171] Blackford Analysis Ltd., "20+ Artificial Intelligence Start-ups in Medical Imaging," Blackford Analysis Ltd., 13
September 2016. [Online]. Available: https://www.blackfordanalysis.com/2016/09/13/20-artificial-intelligencestart-ups-medical-imaging/.
[172] FDA, "Division of Imaging, Diagnostics, and Software Reliability," US Government - FDA, 6 September 2019.
[Online]. Available: https://www.fda.gov/about-fda/cdrh-offices/division-imaging-diagnostics-and-softwarereliability.
[173] The White House, "Executive Order on Promoting the Use of Trustworthy Artificial Intelligence in the Federal
Government," 3 December 2020. [Online]. Available: https://www.whitehouse.gov/presidentialactions/executive-order-promoting-use-trustworthy-artificial-intelligence-federal-government/.
[174] U.S. Congress, "H.Res.153 - Supporting the development of guidelines for ethical development of artificial
intelligence.," Congress.GOV, 27 February 2019. [Online]. Available: https://www.congress.gov/bill/116thcongress/house-resolution/153.
[175] U.S. Congress, "H.R.2231 - Algorithmic Accountability Act of 2019," Congress.GOV, 11 April 2019. [Online].
Available: https://www.congress.gov/bill/116th-congress/housebill/2231?q=%7B%22search%22%3A%5B%22H.R.+2231%22%5D%7D&s=2&r=1.
[176] U.S. Congress, "S.1108 - Algorithmic Accountability Act of 2019," Congress.GOV, 10 April 2019. [Online].
Available: https://www.congress.gov/bill/116th-congress/senatebill/1108?q=%7B%22search%22%3A%5B%22H.R.+2231%22%5D%7D&s=2&r=2.
[177] Y. Chae, "U.S. AI Regulation Guide: Legislative Overview and Practical Considerations," The Journal of Robotics,
Artificial Intelliegence & Law, vol. 3, no. 1, pp. 17-40, January - February 2020.
[178] AI High Level Expert Group, "Ethics Guidelines for Trustworthy AI," April 2019. [Online]. Available:
https://ec.europa.eu/futurium/en/ai-alliance-consultation/guidelines#Top.
[179] European Commission, "High-Level Expert Group on Artificial Intelligence," European Commission, 4 October
2019. [Online]. Available: https://ec.europa.eu/digital-single-market/en/high-level-expert-group-artificialintelligence.
[180] AI High Level Expert Group, "Policy and investment recommendations for trustworthy Artificial Intelligence," June
2019. [Online]. Available: https://ec.europa.eu/digital-single-market/en/news/policy-and-investmentrecommendations-trustworthy-artificial-intelligence.
[181] European Commission, "Artificial Intelligence Policy," European Commission, 8 January 2021. [Online]. Available:
https://ec.europa.eu/digital-single-market/en/artificial-intelligence.

Report: JY21100095-905 Rev2

72

－ 118 －

February 28, 2022

[182] European Commission, "Inception Impact Assessment - Legislation for AI," 23 July 2020. [Online]. Available:
https://ec.europa.eu/info/law/better-regulation/have-your-say/initiatives/12527-Artificial-intelligence-ethicaland-legal-requirements.
[183] European Commission, "Germany AI Strategy Report," February 2020. [Online]. Available:
https://knowledge4policy.ec.europa.eu/ai-watch/germany-ai-strategy-report_en.
[184] Lernende Systeme, "Lernende Systeme - Germany's Platform for Artificial Intelligence," December 2020. [Online].
Available: https://www.plattform-lernende-systeme.de/home-en.html.
[185] European Commission, "Sweden AI Strategy Report," February 2020. [Online]. Available:
https://knowledge4policy.ec.europa.eu/ai-watch/sweden-ai-strategy-report_en.
[186] OECD.AI Policy Observatory, "AI in Sweden," 21 February 2020. [Online]. Available:
https://www.oecd.ai/dashboards/countries/Sweden .
[187] E. S. C. N. J. Vestin, "AI, Machine Learning & Big Data 2020 - Sweden," Global Legal Insights, 21 May 2020.
[Online]. Available: https://www.globallegalinsights.com/practice-areas/ai-machine-learning-and-big-data-lawsand-regulations/sweden.
[188] T. Kempas, "A note on artificial intelligence and intellectual property in Sweden and the EU," StockholmIntellectual Property Law Review, vol. 3, no. 1, pp. 54-65, 25 June 2020.
[189] Law Library of Congress Global Research Directorate, "Regulation of Artificial Intelligence in Selected
Jurisdictions," Law Library of Congress, Washington, 2019.
[190] FDA, "Transforming FDA's Approach to Digital Health," April 2018. [Online]. Available:
https://www.fda.gov/news-events/speeches-fda-officials/transforming-fdas-approach-digital-health-04262018.
[191] FDA, "Statement from FDA Commissioner Scott Gottlieb, M.D. on steps toward a new, tailored review framework
for artificial intelligence-based medical devices," 2 April 2019. [Online]. Available: https://www.fda.gov/newsevents/press-announcements/statement-fda-commissioner-scott-gottlieb-md-steps-toward-new-tailoredreview-framework-artificial.
[192] FDA, "FDA in Brief: FDA announces participation in first two ‘Collaborative Communities’ working to develop
solutions to medical device innovation challenges," FDA, 3 March 2021. [Online]. Available:
https://www.fda.gov/news-events/fda-brief/fda-brief-fda-announces-participation-first-two-collaborativecommunities-working-develop-solutions.
[193] FDA, "FDA In Brief: FDA Collaborates with Health Canada and UK’s MHRA to Foster Good Machine Learning
Practice," FDA, 27 October 2021. [Online]. Available: https://www.fda.gov/news-events/pressannouncements/fda-brief-fda-collaborates-health-canada-and-uks-mhra-foster-good-machine-learning-practice.
[194] FDA, "Digital Health Software Precertification (Pre-Cert) Program," FDA, 6 May 2021. [Online]. Available:
https://www.fda.gov/medical-devices/digital-health-center-excellence/digital-health-software-precertificationpre-cert-program.
[195] Covington & Burling LLP, "Inside Privacy - U.S. AI and IoT Legislative Update – Year-End 2021," Covington &Burling LLP, 14 December 2021. [Online]. Available: https://www.insideprivacy.com/artificial-intelligence/u-s-aiand-iot-legislative-update-year-end-2021/ .

Report: JY21100095-905 Rev273

－ 119 －

February 28, 2022

[196] OECD.AI Policy Observatory, "Policy Initiatives for Korea," OECD.org, 2022. [Online]. Available:
https://oecd.ai/en/dashboards/policyinitiatives?conceptUris=http:%2F%2Fkim.oecd.org%2FTaxonomy%2FGeographicalAreas%23SouthKorea.
[197] OECD.AI, "PLAN TO RESPOND TO THE FOURTH INDUSTRIAL REVOLUTION FOR INNOVATIVE GROWTH," OECD, 15
October 2020. [Online]. Available: https://oecd.ai/en/dashboards/policyinitiatives/http:%2F%2Faipo.oecd.org%2F2021-data-policyInitiatives-16841.
[198] OECD.AI, "MID- TO LONG-TERM GOVERNMENT R&D INVESTMENT STRATEGY," OECD.org, 1 March 2022. [Online].
Available: https://oecd.ai/en/dashboards/policy-initiatives/http:%2F%2Faipo.oecd.org%2F2021-datapolicyInitiatives-25256.

Report: JY21100095-905 Rev274

－ 120 －

February 28, 2022

Appendix in Document

1. FDA Consensus Standard List – Attached
2. AI Software List Dec 2020.xlsx – Separate Filea. FDA Cleared AI-Based Imaging Productsb. FDA Cleared AI-Based Other Productsc. Table of FDA Product Codes
d. EU Products Not FDA Cleared

Report: JY21100095-905 Rev2

75

－ 121 －

－ 122 －11073-40101-2020

11073-40102:2020

62443-4-1-2018

CVSS v3.0

TR 63183:2019

RT3:2020

11073-20601-2019

11073-10101-2019

29119-1:2013

TIR97:2019

IEEE

IEEE

ANSI ISA

FIRST

IEC

AAMI

IEEE

IEEE

IEC/IEEE/ISO

AAMI

Report: JY21100095-905 Rev2

2700-1:2019

Standard
Designation
Number/Date

ANSI AAMI

Standard
Developing
Organization

Health informatics - Personal health device
communication - Part 20601: Application profile Optimized exchange protocol.
Health informatics - Point-of-care medical device
communication. Part 10101: Nomenclature
Software and systems engineering - Software testing Part 1: Concepts and definitions
Principles for medical device security - Postmarket
risk management for device manufacturers

Radiation therapy machine characterization

07/06/2020 13-115
12/23/2019

Software/Informatics
Software/Informatics

13-11207/06/2020 13-114

07/06/2020 13-113

07/06/2020 12-334

07/06/2020 12-333

Software/Informatics

Software/Informatics

Radiology

Radiology

Guidance on error and warning messages forsoftware used in radiotherapy

6/7/2021 13-119

Software/Informatics

10/19/2020 13-116

6/7/2021 13-118

Software/Informatics

Software/Informatics

6/7/2021 13-117

Software/Informatics

Recognition
Number

12/20/2021 13-120

Date of
Recogntion

76

February 28, 2022

Software/Informatics

Specialty Task Group

Common Vulnerability Scoring System version 3.0

Title of Standard
Medical Devices and Medical Systems - Essential
safety requirements for equipment comprising thepatient-centric integrated clinical environment (ICE) Part 1: General requirements and conceptual model
Health informatics - Device interoperability Part
40101: Foundational - Cybersecurity - Processes forvulnerability assessment.
Health informatics - Device interoperability. Part
40102: Foundational - Cybersecurity - Capabilities for
mitigation.
Security for industrial automation and control
systems Part 4-1: Product security development lifecycle requirements.

FDA Cleared AI-Based Imaging Products

－ 123 －2800-1: 2019

AAMI ANSIULANSI AAMI

Software/Informatics

Software/Informatics

Application of risk management for it-networks
incorporating medical devices - Part 2-9: Application
guidance - Guidance for use of security assurance
cases to demonstrate confidence in IEC TR 80001-2-2
security capabilities
Application of risk management for IT-networks
incorporating medical devices - Part 2-8: Application
guidance - Guidance on standards for establishing thesecurity capabilities identified in IEC TR 80001-2-2

TR 80001-2-9 Edition
1.0 2017-01

TR 80001-2-8 Edition
1.0 2016-05

ANSI UL

IEC

IEC

Report: JY21100095-905 Rev2

Software/Informatics

Standard for Safety Software Cybersecurity for
Network-Connectable Products Part 2-1: ParticularRequirements for Network Connectable Components
of Healthcare and Wellness Systems

Software/Informatics

General I (QS/RM)

Software/Informatics

Software/Informatics

General Plastic
Surgery/General HospitalRadiology

Specialty Task Group

Medical device software - Software life cycle
processes(American National Standard) Standard for Safety for
Medical Device Interoperability
Classification of defects in health software
Analysis techniques for system reliability - Procedurefor failure mode and effects analysis (FMEA)

Medical device safety assurance case guidance

Title of Standard
Evaluation and routine testing in medical imaging
departments - Part 3-5: Acceptance tests - Imaging
performance of computed tomography X-ray
equipment [Including: Technical Corrigendum 1(2006)]

2900-2-1 First Edition
2017

IEC

IEC

TIR38:2019

AAMI

SW91:2018
60812 Edition 3.0
2018-0862304 Edition 1.1
2015-06
CONSOLIDATEDVERSION

61223-3-5 Edition 2.0
2019-09

Standard
Designation
Number/Date

IEC

Standard
Developing
Organization

FDA Cleared AI-Based Imaging Products

12/4/201712/4/2017

6/7/2018

1/14/2019

1/14/2019

1/14/2019

7/15/2019

7/15/201912/23/2019

Date of
Recogntion

13-10213-10313-104

13-79

5-120

13-10513-1096-422

12-328

Recognition
Number77

February 28, 2022

－ 124 －Software/Informatics

Information technology - Automatic identificationand data capture techniques - Unique identification Part 4: Individual products and product packages
Standard for Safety Standard for Software
Cybersecurity Network-Connectable Products Part 1:
General Requirements
Health software - Part 1: General requirements for
product safety
Systems and software engineering - Systems andsoftware assurance - Part 2: Assurance case
Systems and software engineering - Systems andsoftware assurance - Part 1: Concepts and vocabulary
Principles for medical device security - Risk
management.
Application of risk management for IT networks
incorporating medical devices - Part 2-6: Application
guidance - Guidance for responsibility agreements
Information technology - Security techniques Vulnerability disclosure
Information technology - Security techniques Vulnerability handling processes
IEEE Recommended Practice for Three-Dimensional(3D) Medical Modeling

15459-4 Third edition
2014 Corrected 2016

2900-1 First Edition
201782304-1 Edition 1.0
2016-1015026-2 First edition
2011-02-15
15026-1 First edition
2013-11-01

TIR57:2016/TIR 80001-2-6:2014

29147 First edition
2014-02-15
30111 First edition
2013-11-01

Std 3333.2.1-2015

IEC ISOANSI ULIEC

IEC ISO

AAMI

AAMI ISOIEC ISO

IEEE

Report: JY21100095-905 Rev2

IEC ISO

IEC ISO

Software/Informatics

Information technology - Automatic identificationand data capture techniques - Unique identification Part 6: Groupings

15459-6 Second
edition 2014
Corrected 2016

IEC ISO

8/14/2015
8/14/2015

Radiology

8/14/2015

6/27/2016

Software/Informatics

Software/Informatics

Software/Informatics

6/27/201612/23/2016

Software/Informatics
Software/Informatics

12/23/2016

8/21/20178/21/201712/4/201712/4/201712/4/2017

Date of
Recogntion

Software/Informatics

Software/Informatics

Software/Informatics

Software/Informatics

15459-2 Third edition
2015-03-01

Specialty Task GroupIEC ISO

Standard
Designation
Number/Date
Title of Standard
Information technology - Automatic identificationand data capture techniques - Unique identification Part 2: Registration proceduresStandard
Developing
Organization

FDA Cleared AI-Based Imaging Products

12-292

13-78

13-77

13-82

13-83

13-86

13-87

13-97

13-96

13-10013-101

13-99

Recognition
Number78

February 28, 2022

－ 125 －TR 80001-2-5 Edition
1.0 2014-12

Version 2.48

1998 Third Edition
2013

IEC

RII

ANSI UL

Software/Informatics

Software/Informatics

Software/Informatics

Software/Informatics

Application of risk management for IT-networks
incorporating medical devices -- Part 2-4: Application
guidance - General implementation guidance forhealthcare delivery organization
Application of risk management for IT-networks
incorporating medical devices - Part 1: Roles
responsibilities and activities
Application of risk management for IT Networks
incorporating medical devices - Part 2-2: Guidance forthe disclosure and communication of medical device
security needs risks and controls
Application of risk management for IT- networks
incorporating medical devices - Part 2-1: Step-by-steprisk management of medical IT-networks - Practicalapplications and examples/TR 80001-2-4
Edition 1.0 2012-11

80001-1 Edition 1.0
2010-10TR 80001-2-2 Edition
1.0 2012-07

TR 80001-2-1 Edition
1.0 2012-07

IEC

IEC

IEC

IEC

Report: JY21100095-905 Rev2

Software/Informatics

F2761-09 (2013)

Software/Informatics

Software/Informatics

Software/Informatics

Software/Informatics

Specialty Task Group

ASTM

Title of Standard
Health informatics - Standard communication
protocol - Computer-assisted electrocardiography
Application of risk management for IT-networks
incorporating medical devices - Part 2-5: Application
guidance - Guidance on distributed alarm systems
Logical Observation Identifiers Names and Codes(LOINC)Standards for Safety Software in ProgrammableComponents Second Edition. [This Standard contains
revisions through and including October 28 2008]
Medical Devices and Medical Systems - Essential
safety requirements for equipment comprising thepatient-centric integrated clinical environment (ICE) Part 1: General requirements and conceptual model

ISO

Standard
Designation
Number/Date11073-91064 First
edition 2009-05-01

Standard
Developing
Organization

FDA Cleared AI-Based Imaging Products

8/6/2013

8/6/2013

8/6/2013

1/30/2014

7/9/2014

7/9/2014

1/27/2015

1/27/2015

8/14/2015

Date of
Recogntion

13-40

13-42

13-38

13-63

13-46

13-65

13-71

13-70

13-76

Recognition
Number79

February 28, 2022

－ 126 －Title of Standard
Application of risk management for IT Networks
TR 80001-2-3 Edition
incorporating medical devices - Part 2-3: Guidance for
1.0 2012-07
wireless networks
Industrial communication networks - Network and/TS 62443-1-1 Edition
system security - Part 1-1: Terminology concepts and1.0 2009-07
modelsIndustrial communication networks - Network and/TR 62443-3-1
system security - Part 3-1: Security technologies for
Edition 1.0 2009-07
industrial automation and control systems
Systems and software engineering - Systems and15026-4 First edition
software assurance - Part 4: Assurance in the life
2012-10-01
cycle
TIR 36:2007
Validation of software for regulated processes
Guidance on the use of AGILE practices in the
TIR 45:2012
development of medical device software
Application of quality management system concepts
SW87:2012
to medical device data systems/TR 80002-1 Edition
Medical device software - Part 1: Guidance on the
1.0 2009-09
application of ISO 14971 to medical device software
Evaluation and routine testing in medical imaging
61223-2-6 Second
departments - Part 2-6: Constancy tests - Imaging
Edition 2006-11
performance of computed tomography X-ray
equipment

Standard
Designation
Number/Date

Report: JY21100095-905 Rev2

IEC

IEC

ANSI AAMI

AAMI

AAMI

IEC ISO

IEC

IEC

IEC

Standard
Developing
Organization
Specialty Task Group

3/14/2011

1/15/2013

Software/Informatics
Radiology

1/15/2013

1/15/2013

1/15/2013

8/6/2013

8/6/2013

8/6/2013

8/6/2013

Date of
Recogntion

Software/Informatics

Software/Informatics

Software/Informatics

Software/Informatics

Software/Informatics

Software/Informatics

Software/Informatics

FDA Cleared AI-Based Imaging Products12-226

13-34

13-35

13-36

13-33

13-59

13-62

13-60

13-44

Recognition
Number80

February 28, 2022

－ 127 －Dissemination and outreach

Liaison with SC 38

Intelligent systems engineering

Joint Working Group ISO/IEC JTC1/SC 42 - ISO/IEC JTC1/SC 40: Governance implications of AI

Foundational standards

Data

Trustworthiness

Use cases and applications

Computational approaches and computational characteristics of AI systems

ISO/IEC JTC 1/SC 42/AHG 1

ISO/IEC JTC 1/SC 42/AHG 2

ISO/IEC JTC 1/SC 42/AHG 3

ISO/IEC JTC 1/SC 42/JWG 1

ISO/IEC JTC 1/SC 42/WG 1

ISO/IEC JTC 1/SC 42/WG 2

ISO/IEC JTC 1/SC 42/WG 3

ISO/IEC JTC 1/SC 42/WG 4

ISO/IEC JTC 1/SC 42/WG 5Information technology — Big data reference architecture — Part 1: Framework and application process

Information technology — Big data reference architecture — Part 2: Use cases and derived requirements

Information technology — Big data reference architecture — Part 3: Reference architecture

Information technology — Big data reference architecture — Part 5: Standards roadmap

Information technology — Artificial intelligence — Overview of trustworthiness in artificial intelligence

Software and systems engineering – Software testing – Part 11: Guidelines in the testing of AI-based systems

ISO/IEC TR 20547-1:2020

ISO/IEC TR 20547-2:2018

ISO/IEC 20547-3:2020

ISO/IEC TR 20547-5:2018

ISO/IEC TR 24028:2020

ISO/IEC TR 29119-11:2020

Report: JY21100095-905 Rev2

ISO/IEC WD 5259-3: Data quality for analytics and ML — Part 3: Data quality management requirements and guidelines

ISO/IEC AWI 5259-2: Data quality for analytics and ML — Part 2: Part 2: Data quality measures

ISO/IEC WD 5259-1: Data quality for analytics and ML — Part 1: Overview, terminology, and examples

ISO/IEC WD TS 4213: Information technology — Artificial Intelligence — Assessment of machine learning classification performanceStandards under development by ISO/IEC JTC 1/SC 42 Artificial Intelligence

Information technology — Big data — Overview and vocabulary

ISO/IEC 20546:2019

Published Standards under ISO/IEC JTC 1/SC 42 Artificial Intelligence

AI Systems Engineering

ISO/IEC JTC 1/SC 42/AG 2

81

February 28, 2022

There are several organizations developing standards in the general field of artificial intelligence and a small subset focused on AI in healthcare and medical
devices. There is a joint effort between ISO and IEC for the development of technical standards in the general field of AI. A revised list of working groups ispresented below, and the associated standards that are output are listed in the subsequent sections.

FDA Cleared AI-Based Imaging Products

－ 128 －February 28, 2022

Report: JY21100095-905 Rev2

P7006 – Working Group - Standard on Personal Data AI Agent Working GroupP7003 – Standard - Algorithmic Bias Considerations

P7002 – Standard - Data Privacy Process

P7001 – Standard - Transparency of Autonomous Systems

P7000 – Standard - Model Process for Addressing Ethical Concerns During System Design

82

IEEE has developed several standards around general AI and has a concentrated effort in the area of ethical design. Several standards are being developed and in
2019 IEEE published a guide book on Ethical Design of AI products.

Institute of Electrical and Electronics Engineers (IEEE)

ISO/IEC WD 42001: Information Technology — Artificial intelligence — Management system

ISO/IEC CD 38507: Information technology — Governance of IT — Governance implications of the use of artificial intelligence by organizations

ISO/IEC AWI 25059: Software engineering — Systems and software Quality Requirements and Evaluation (SQuaRE) — Quality model for AI-based systems

ISO/IEC CD 24668: Information technology — Artificial intelligence —Process management framework for Big data analytics

ISO/IEC AWI TR 24372: Information technology — Artificial intelligence (AI) — Overview of computational approaches for AI systems

ISO/IEC AWI TR 24368: Information technology — Artificial intelligence — Overview of ethical and societal concerns

ISO/IEC CD TR 24030: Information technology — Artificial Intelligence (AI) — Use cases (on 2019 list)

ISO/IEC AWI 24029-2: Artificial Intelligence (AI) — Assessment of the robustness of neural networks — Part 2: Methodology for the use of formal methods

ISO/IEC DTR 24029-1: Artificial Intelligence (AI) — Assessment of the robustness of neural networks — Part 1: Overview (on 2019 list)

ISO/IEC DTR 24027: Information technology — Artificial Intelligence (AI) — Bias in AI systems and AI aided decision making (on 2019 list)

ISO/IEC CD 23894: Information Technology — Artificial Intelligence — Risk Management

ISO/IEC CD 23053.2: Framework for Artificial Intelligence (AI) Systems Using Machine Learning (ML) (on 2019 list)

ISO/IEC CD 22989.2: Artificial intelligence — Concepts and terminology (on 2019 list)

ISO/IEC AWI TR 5469: Artificial intelligence — Functional safety and AI systems

ISO/IEC WD 5392: Information technology — Artificial intelligence — Reference architecture of knowledge engineering

ISO/IEC WD 5339: Information Technology — Artificial Intelligence — Guidelines for AI applications

ISO/IEC WD 5338: Information technology — Artificial intelligence — AI system life cycle processes

ISO/IEC WD 5259-4: Data quality for analytics and ML — Part 4: Data quality process framework

FDA Cleared AI-Based Imaging Products

－ 129 －February 28, 2022

How AI is different from traditional medical software, and what aspects of AI are of concern
The implications of those differences
The controls and adaptations necessary to assure AI in healthcare is safe and effective

Report: JY21100095-905 Rev2

83

1. Develop, in collaboration with IMDRF and other regulatory bodies, standardized critical terminology and a taxonomy for medical AI that can informfuture national and regional regulatory approaches to the technology (Clause 6)
2. IMDRF establish an AI working group to address issues around AI in healthcare and to prepare needed guidance and good regulatory practices (Clause
11)
3. Map AI-applicable international regulatory standards to IMDRF Essential Principles and identify gaps where additional new standards or guidance areneeded (Clause 12)
4. Develop guidance on factors affecting data quality regarding AI as a medical technology (Clause 13)
5. Establish common criteria for the deployment of AI in healthcare systems that could be used as an evaluation protocol by multiple stakeholders, (Clause
14)
6. Develop risk management guidance to assist in applying ISO 14971 to AI as a medical technology (Clause 15)
7. Develop guidance on factors to consider in the validation of AI systems and on the use of non-traditional approaches to demonstrate assurance of
product quality (Clause 16)

The recommendations from the paper are:•••This white paper was published in May 2020 and was a follow up to the first paper published in February 2019. The second paper addressed key questions inmore depth:“The AAMI/BSI Initiative on Artificial Intelligence (AI) in medical technology is an effort by AAMI and BSI to explore the ways that AI and, in particular,
machine learning pose unique challenges to the current body of standards and regulations governing medical devices and related technologies. Also, todetermine what additional guidance or standards might be needed to promote the safety and effectiveness of medical AI technologies.”

The stated purpose of the AAMI and BSI collaboration is taken from the second AAMI/BSI white paper titled Machine Learning AI in Medical Devices: Adapting
Regulatory Frameworks and Standards to Ensure Safety and Performance [168].

AAMI/BSI Initiative on AI

P2802 – Standard - Standard for the Performance and Safety Evaluation of Artificial Intelligence Based Medical Device: Terminology

P2801 – Standard - Recommended Practice for the Quality Management of Datasets for Medical Artificial Intelligence

P7010 – Standard - IEEE Recommended Practice for Assessing the Impact of Autonomous and Intelligent Systems on Human Well-Being

P7009 – Working Group - Standard for Fail-Safe Design of Autonomous and Semi-Autonomous Systems

P7008 – Working Group - Standard for Ethically Driven Nudging for Robotic, Intelligent and Autonomous Systems

P7007 – Working Group - Ontological Standard for Ethically driven Robotics and Automation Systems

FDA Cleared AI-Based Imaging Products

－ 130 －February 28, 2022

Report: JY21100095-905 Rev2

84

The AAMI/BSI team has initiated a draft document: AI and Machine Learning in Medical Devices –Application of ISO 14971 to risk management with the intent torapidly develop this as a technical report or standard.

FDA Cleared AI-Based Imaging Products

FDA Cleared AI-Based Imaging Products

February 28, 2022

Summit Workshop Agenda:
•
•
•

•
•
•
•

FDA Thinking on AI Implementation - Trends and Insights - Matthew Diamond, M.D., Ph.D, Chief
Medical Officer, Digital Health Center of Excellence, FDA-CDRH
Regulatory Framework: Mapping AI to Global Regulations, Standards and White Papers - Building on
What You Already Know! - Eric Henry, Senior Quality & Regulatory Compliance Advisor, FDA & Life
Sciences Practice, King & Spalding
Development and Lifecycle Approach: Non-Product AI Systems
o Stephen Cook, VP, Quality and Computer Compliance, Compliance Groupo Andy Lee, Software Quality Manager, Edwards Lifescienceso Toni Manzano, Co-founder and CSO, Aizono Cisco Vicenty, Program Manager, Case for Quality, Office of Compliance, FDA-CDRH
Development and Lifecycle Approach - Product AI Systems (SiMD and SaMD), Part 1: The Design
Controls Model - Bob Banta, Associate Senior Consultant - QA, Eli Lilly and Scott Thiel, Head ofRegulatory Policy and Intelligence, Hologic, Inc.
Development and Lifecycle Approach - Product AI Systems (SiMD and SaMD), Part 2: Establishing andIncorporating Intended Use into AI Development – Bob Banta and Scott Thiel
Development and Lifecycle Approach - Product AI Systems (SiMD and SaMD), Part 3: Incorporating
Change and Risk Management in AI Product Development – Bob Banta and Scott Thiel
Fireside Chat: Establishing Trust for AI Use in Our Regulated Industryo Jana Delfino, Assistant Director for Medical Imaging and Digital Health Division of Imaging,
Diagnostics, and Software Reliability, Office of Science and Engineering Laboratories, FDACDRH (Invited)o Deep Pal, Head of Regulatory Affairs, Philips CTO, Innovation and Strategy, Philipso Szymon Perkowski, Digital Health Technologies – Quality and Systems Lead, Genentecho Phil Pontikos, National Device Expert, FDA-ORA (invited)o Stephen G. Odaibo, M.D., M.S. (Math), M.S. (Comp. Sci.), CEO & Founder, RETINA-AI Health,Inc.

Main Summit Agenda
•
•
•
•
•
•
•

•

Insight from the FDA Digital Health Center of Excellence - Bakul Patel, MSEE, MBA, Director, Divisionof Digital Health, Office of Science of Technology, FDA-CDRH
AI Product Approval Journey: Successful Practices and Learnings – Stephen G. Odaibo, M.D., M.S.
(Math), M.S. (Comp. Sci.), CEO & Founder, RETINA-AI Health, Inc.
Innovative Regulatory Pathways for Global AI Device Approvals - Nate Carrington, Ph.D., Head of
Digital Health and Innovation, Global Regulatory Policy and Intelligence, Roche Diagnostics
Identify and Avoid Bias When You Don’t Know You Have It - Betsy Macht, Johnson & Johnson(retired)
Merck: AI in Action - Data Integrity Assurance - Ajish Potty, Director, Digital & Data Quality Analytics,
Merck and Ravi Yalamanchili, Executive Director, Merck
OnSite LLC: AI in Action - Clean Room Predictive Modeling - Damon G. Greeley, PE, CEM, HFDP, CBCP,
EDAC, CHFM, A-IPC, Co-Founder, OnSite-LLC
Xavier AI Working Teams: Paving the Way for AI Implementationo AI in Operations: Toni Manzano, Co-founder and CSO, Aizono Good Machine Learning Practices: Pat Baird, Regulatory Head of Global Software Standards,
Philipso AI at the Point of Care: Steve Frigon, Sr. Clinical Systems Analyst, The Christ Hospital Health
Network
American Medical Association: Physician Perspectives on AI and Driving the Future of Medicine - Dr.
Jesse Ehrenfeld, Immediate Past Chair, American Medical Association

Report: JY21100095-905 Rev285

－ 131 －

FDA Cleared AI-Based Imaging Products
•
•

•
•

February 28, 2022

Navigating the Landscape of Global AI Regulations and Standards - Pat Baird, Regulatory Head of
Global Software Standards, Philips
Global Regulators: AI Perspectives, Initiatives and Expectations –o Janet Hendry, Senior Scientific Evaluator, Digital Health Division, Health Canadao Marc Lamoureux, Manager, Digital Health Division, Medical Devices Evaluation Bureau,
Health Canadao Rob Turpin, Head of Sector (Healthcare), Knowledge Solutions Division, BSI
Practical AI Considerations During Product Development - Robert Phillips, Head of Quality &Regulatory – North America, Siemens Healthineers
Fireside Chat with AI Experts: Developments, Issues, and Talento Anthony Orzechowski, Director, R&D Data Analytics, Abbott Diagnosticso Ajish Potty, Director, Digital & Data Quality Analytics, Mercko Seema Sodhi, Senior Principal Data Scientist, Medtronico Mitch Tirea, Sr. Manager, Quality, Edwards Lifescienceso Anurag Voleti, Chief of Data, Data Platforms and Data Solutions, Boston Scientific
Corporation

China Research Listing

https://www.mddionline.com/regulations/medtech-ai-software-regulation-china-5-things-know
https://www.cisema.com/en/ai-regulatory-developments-and-planning-issued-by-china-regulator/
https://chinameddevice.com/artificial-intelligence-software-classification/
https://globalregulatorypartners.com/case_studies/case-study-24-registration-of-a-software-as-medicaldevice-in-china-columbia-and-south-korea-for-european-ai-based-company/
https://www.corporatecomplianceinsights.com/regulating-artificial-intelligence-china-west/
https://medtech.pharmaintelligence.informa.com/MT143977/China-Releases-Its-2025-Vision-For-TheMedtech-Sector--May-2021-Update
https://chinameddevice.com/guideline-on-artificial-intelligence-medical-devices/
https://chinameddevice.com/artificial-intelligence-software-classification/
https://chinameddevice.com/new-trends-in-medical-artificial-intelligence-part-1/
https://chinameddevice.com/new-trends-in-medical-artificial-intelligence-part-2/
https://chinameddevice.com/digital-health-nmpa-ai/
https://chinameddevice.com/ai-aided-software/
https://namsa.com/china-state-council-releases-order-739/
https://chinameddevice.com/support-order-739/
https://www.emergobyul.com/blog/2021/06/chinese-regulatory-bodies-provide-updates-revisedmedical-device-regulations
https://www.cisema.com/en/new-top-level-china-medical-device-ivd-law-order-739-now-in-force/
https://www.ncbi.nlm.nih.gov/pmc/articles/PMC6556644/
https://www.ft.com/content/c1fe6fbf-8a87-4328-9e75-816009a07a59
Report: JY21100095-905 Rev286

－ 132 －

FDA Cleared AI-Based Imaging Products

February 28, 2022

https://atm.amegroups.com/article/view/32908/html

Korea Research Listing

https://asiaactual.com/blog/south-korea-software-guidance-big-data-ai-machine-learning/https://www.mfds.go.kr/eng/brd/m_40/list.do
Announcement of Korea chairing IMDRF AI work group:
http://www.koreabiomed.com/news/articleView.html?idxno=8657
Announcement of 2017 guidelines for AI medical devices:
http://www.koreaherald.com/view.php?ud=20171123000629
https://www.bioworld.com/articles/477279-south-korea-seeks-to-harmonize-international-ai-medicaldevice-guidelines-after-winning-aimds-chairmanshiphttps://jkms.org/DOIx.php?id=10.3346/jkms.2020.35.e379
https://www.trade.gov/country-commercial-guides/south-korea-medical-equipment-and-devices
https://www.mhlw.go.jp/stf/shingi/other-kousei_408914_00001.html
https://www.ncbi.nlm.nih.gov/pmc/articles/PMC7909857/
https://www.mfds.go.kr/eng/wpge/m_39/de011026l001.do

Russia Researchhttps://webiomed.ai/en/blog/on-the-rules-for-registering-software-as-a-medical-device-in-russia/
https://webiomed.ai/en/blog/regulation-of-artificial-intelligence-in-healthcare-in-russia/
https://webiomed.ai/en/blog/the-map-artificial-intelligence-in-russian-health-care/https://investforesight.com/ai-based-medical-system-registered-in-russia/
https://medicaldevicesinrussia.com/tag/software/
https://www.regdesk.co/russian-methodical-recommendations-for-medical-software-assessment/
https://asiaactual.com/blog/russia-and-euro-asian-neighbors-expected-to-transition-to-eaeu-regulations-in2022/
https://medicaldevicesinrussia.com/
http://www.eurasiancommission.org/en/nae/news/Pages/05-04-2021-6.aspx
https://www.emergobyul.com/blog/2021/10/eurasian-economic-union-revises-medical-device-registrationsystem

Report: JY21100095-905 Rev287

－ 133 －

参考資料②

認証機関アンケート結果

AI 利用 SaMD 及びモバイルアプリケーション SaMD に関するアンケート（回答の際には、□にチェックを入れる、あるいは■にしてください。
回答が困難な設問は、未記載のままで結構です）
回答機関（任意）：
回答者ご芳名（任意）：連絡先（任意）：＊ヒアリングの対象となっても差し支えない方は、ご芳名、ご所属及びメールアドレスをご記載ください。
1.

プログラムを有する有体物の製品を含めた AI を利用した SaMD（AI-SaMD）について
1） AI-SaMD の申請依頼を受けたことがありますか？
□ はい
■ いいえ
2） 1)で「はい」と答えた方に質問です。差し支えない範囲で結構ですので、申請依頼を受けた AI-SaMD の使用目的をお教え下さい。
□ 診断□ 行動変容□ 治療□ その他（具体的にご記載ください）3） 1)で「はい」と答えた方に質問です。申請依頼を受けた AI-SaMD の審査を御社で実施しましたか？ 審査された場合、使用した認証基準名をお教え下さい。
□ はい（認証基準名：）□ いいえ（理由及びその後の対応：）

4） 1)で「はい」と答えた方に質問です。性能及び評価方法は認証基準に適合していましたか？ 追加した確認事項があれば、可能な範囲でお教え下さい。
□ はい（認証基準の範囲内）□ いいえ（追加した確認事項がある：下欄に記入）<自由記載>

5） AI-SaMD の性能及び評価方法を認証基準に準じて審査する際の課題等がありまし－ 135 －

たら、お聞かせ下さい。
<自由記載>
・評価の基準（同等性、基本要件第 6 条、など）
・前例品との同等性の確認方法（添付文書、承認/認証申請書に該当の記載がない
場合）

2.

SaMD 全般について
AI 利用の有無を問わず、SaMD の審査における課題と改善策等についてご意見がありましたら、お聞かせ下さい。
<自由記載>
・プログラム医療機器全般に関する課題として回答します。性能評価の試験方法
等が、既存の JIS 規格等に基づくものではなく、製造元等の独自仕様に基づいて説明されることがあり、その試験方法の妥当性にまで踏み込んでの審査が比較的困難であること。
・ディープラーニングを用いた設計技術による機能を有する医療機器に関して、認証基準に該当する事例や、既存品と同等性に関して情報提供はされているが、事例を増やして、より高頻度に、情報共有ができると望ましい。
・ユーザビリティやサイバーセキュリティの確認方法の明確化（有体物の場合、試験機関によるテストレポートに評価結果が含まれることがあるが、プログラム
医療機器の場合、明確な評価記録が提出されるケースは非常に少ない）

3.

付帯的な機能について
付帯的な機能に関する課題全般と改善策等ついてご意見がありましたら、お聞かせ下さい。
<自由記載>
・付帯的な機能は有効性・安全性に影響のある機能と、影響が軽微な機能に定義を分けて分類し、有効性・安全性に影響のある付帯的な機能については、性能項目と同様に検証により保証されていることが審査において確認されることが望ましい。
・プログラム医療機器における付帯機能は、機能の高度化により、より複雑な機能を有することが多く、出展資料を認証書等、添付文書に限定した機能の同一性－ 136 －

の説明が困難なことがあるため、出展資料の範囲の拡大（例：製販業者が公式に作成する、製品カタログや仕様書等）を検討してほしい。

以上－ 137 －

AI 利用 SaMD 及びモバイルアプリケーション SaMD に関するアンケート（回答の際には、□にチェックを入れる、あるいは■にしてください。
回答が困難な設問は、未記載のままで結構です）
回答機関（任意）：
回答者ご芳名（任意）：連絡先（任意）：＊ヒアリングの対象となっても差し支えない方は、ご芳名、ご所属及びメールアドレスをご記載ください。
1.

プログラムを有する有体物の製品を含めた AI を利用した SaMD（AI­SaMD）について
1） AI­SaMD の申請依頼を受けたことがありますか？
□ はい
■いいえ
2） 1)で「はい」と答えた方に質問です。差し支えない範囲で結構ですので、申請依頼を受けた AI­SaMD の使用目的をお教え下さい。
□ 診断□ 行動変容□ 治療□ その他（具体的にご記載ください）3） 1)で「はい」と答えた方に質問です。申請依頼を受けた AI­SaMD の審査を御社で実施しましたか？ 審査された場合、使用した認証基準名をお教え下さい。
□ はい（認証基準名：）□ いいえ（理由及びその後の対応：）

4） 1)で「はい」と答えた方に質問です。性能及び評価方法は認証基準に適合していましたか？ 追加した確認事項があれば、可能な範囲でお教え下さい。
□ はい（認証基準の範囲内）□ いいえ（追加した確認事項がある：下欄に記入）<自由記載>－ 138 －

5） AI­SaMD の性能及び評価方法を認証基準に準じて審査する際の課題等がありましたら、お聞かせ下さい。
<自由記載>

2.

SaMD 全般について
AI 利用の有無を問わず、SaMD の審査における課題と改善策等についてご意見がありましたら、お聞かせ下さい。
<自由記載>

3.

付帯的な機能について
付帯的な機能に関する課題全般と改善策等ついてご意見がありましたら、お聞かせ下さい。
<自由記載>

以上－ 139 －

AI ฼⏝ SaMD ཬࡧࣔࣂ࢖ࣝ࢔ࣉࣜࢣ࣮ࢩࣙࣥ SaMD ࡟㛵ࡍࡿ࢔ࣥࢣ࣮ࢺ
㸦ᅇ⟅ࡢ㝿࡟ࡣࠊ‫ࢆࢡࢵ࢙ࢳ࡟ڧ‬ධࢀࡿࠊ࠶ࡿ࠸ࡣ‫ࠋ࠸ࡉࡔࡃ࡚ࡋ࡟ڦ‬ᅇ⟅ࡀᅔ㞴࡞タၥࡣࠊᮍグ㍕ࡢࡲࡲ࡛⤖ᵓ࡛ࡍ㸧ᅇ⟅ᶵ㛵㸦௵ព㸧㸸         ᅇ⟅⪅ࡈⰾྡ㸦௵ព㸧㸸                  㐃⤡ඛ㸦௵ព㸧㸸                   㸨ࣄ࢔ࣜࣥࢢࡢᑐ㇟࡜࡞ࡗ࡚ࡶᕪࡋᨭ࠼࡞࠸᪉ࡣࠊࡈⰾྡࠊࡈᡤᒓཬࡧ࣓࣮ࣝ࢔ࢻࣞࢫࢆࡈ
グ㍕ࡃࡔࡉ࠸ࠋ
1.

ࣉࣟࢢ࣒ࣛࢆ᭷ࡍࡿ᭷య≀ࡢ〇ရࢆྵࡵࡓ AI ࢆ฼⏝ࡋࡓ SaMD㸦AI­SaMD㸧࡟ࡘ࠸࡚1㸧 AI­SaMD ࡢ⏦ㄳ౫㢗ࢆཷࡅࡓࡇ࡜ࡀ࠶ࡾࡲࡍ࠿㸽‫࠸ࡣ ڦ‬‫࠼࠸࠸ ڧ‬2㸧 1)࡛ࠕࡣ࠸ࠖ࡜⟅࠼ࡓ᪉࡟㉁ၥ࡛ࡍࠋᕪࡋᨭ࠼࡞࠸⠊ᅖ࡛⤖ᵓ࡛ࡍࡢ࡛ࠊ⏦ㄳ౫㢗ࢆཷࡅࡓ AI­SaMD ࡢ౑⏝┠ⓗࢆ࠾ᩍ࠼ୗࡉ࠸ࠋ
‫ ڦ‬デ᩿‫ື⾜ ڧ‬ኚᐜ‫ ڧ‬἞⒪‫ࡢࡑ ڧ‬௚㸦ලయⓗ࡟ࡈグ㍕ࡃࡔࡉ࠸                    㸧3㸧 1)࡛ࠕࡣ࠸ࠖ࡜⟅࠼ࡓ᪉࡟㉁ၥ࡛ࡍࠋ⏦ㄳ౫㢗ࢆཷࡅࡓ AI­SaMD ࡢᑂᰝࢆᚚ♫࡛ᐇ᪋ࡋࡲࡋࡓ࠿㸽 ᑂᰝࡉࢀࡓሙྜࠊ౑⏝ࡋࡓㄆドᇶ‽ྡࢆ࠾ᩍ࠼ୗࡉ࠸ࠋ‫࠸ࡣ ڦ‬㸦ㄆドᇶ‽ྡ㸸ỗ⏝⏬ീデ᩿⿦⨨࣮࣡ࢡࢫࢸ࣮ࢩࣙࣥ⏝ࣉࣟࢢ࣒ࣛ㸧‫࠼࠸࠸ ڧ‬㸦⌮⏤ཬࡧࡑࡢᚋࡢᑐᛂ㸸᪤Ꮡရ࡜ࡢྠ➼ᛶࢆㄝ࡛᫂ࡁࡎࠊྲྀୗࡆ㢪࠸ࡀᥦฟࡉࢀࡓ㸧
4㸧 1)࡛ࠕࡣ࠸ࠖ࡜⟅࠼ࡓ᪉࡟㉁ၥ࡛ࡍࠋᛶ⬟ཬࡧホ౯᪉ἲࡣㄆドᇶ‽࡟㐺ྜࡋ࡚࠸ࡲࡋ
ࡓ࠿㸽 ㏣ຍࡋࡓ☜ㄆ஦㡯ࡀ࠶ࢀࡤࠊྍ⬟࡞⠊ᅖ࡛࠾ᩍ࠼ୗࡉ࠸ࠋ‫࠸ࡣ ڧ‬㸦ㄆドᇶ‽ࡢ⠊ᅖෆ㸧‫࠼࠸࠸ ڦ‬㸦㏣ຍࡋࡓ☜ㄆ஦㡯ࡀ࠶ࡿ㸸ୗḍ࡟グධ㸧⮬⏤グ㍕!࣭⤌⧊ศ๭࣭ゎ๗Ꮫⓗᶆ‽໬࣭ᑐ↷⏬ീࢆ⏝࠸ࡓ⤫ィゎᯒ

－ 140 －

࣭ᅜ㝿ⓗ࡟ᶆ‽໬ࡉࢀ࡚࠸ࡿ⮫ᗋホ౯ᡭἲ࡟㛵ࢃࡿฎ⌮ࡢᛶ⬟㸦ヲ⣽ࡣ┬ࡃ㸧࡞࡝
5㸧 AI­SaMD ࡢᛶ⬟ཬࡧホ౯᪉ἲࢆㄆドᇶ‽࡟‽ࡌ࡚ᑂᰝࡍࡿ㝿ࡢㄢ㢟➼ࡀ࠶ࡾࡲࡋ
ࡓࡽࠊ࠾⪺࠿ࡏୗࡉ࠸ࠋ
⮬⏤グ㍕!࣭ᛶ⬟ࡢ㡯┠࣭௙ᵝ࡟グ㍕ࡍ࡭ࡁ᭱ప㝈ࡢෆᐜࡀ㏻▱➼࡟࡚᫂☜࡟ࡉࢀ࡚࠸࡞࠸
࡜ឤࡌ࡚࠸ࡿࠋAI ࡟㝈ࡽࡎࠊࢯࣇࢺ࢙࢘࢔㸦࢔ࣉࣜࢣ࣮ࢩࣙࣥ㸧ࡢᶵ⬟࡟ಀࡿᚲせ࡞グ㍕஦㡯ࠊᛶ⬟㡯┠ࡢ᫂☜໬㸦ྍ⬟࡞⠊ᅖ࡛ᶆ‽໬㸧ࡀᚲせ࡛࠶ࡿࠋࡓ
ࡔࡋࠊ᪥ᮏࡣ௜ᖏⓗ࡞ᶵ⬟࡛ᢅࡗ࡚ࡁࡓ᪤Ꮡရࡀከ࠸ࡓࡵࠊ᪤Ꮡရ࡜ࡢྠ➼ᛶホ౯ࡢほⅬ࡛ࠊ㐺ษ࡞᪤Ꮡရࡀᑡ࡞࠸ྍ⬟ᛶࡀ࠶ࡾ࠺ࡿࠋ
࣭ྠ➼ᛶࢆẚ㍑ࡍࡿ㝿࡟࡝ࡇࡲ࡛ヲ⣽ࢆࠕྠ➼ࠖ࡜♧ࡍ࡭ࡁ࠿ࡀ㏻▱➼࡟࠾࠸࡚᫂☜࡟ࡉࢀ࡚࠸࡞࠸࡜ឤࡌ࡚࠸ࡿࠋ
࣭ࣉࣟࢢ࣒࡛ࣛࡣ࡞࠸་⒪ᶵჾ㸦ࣁ࣮ࢻ࢙࢘࢔㸧ࢆྵࡵࠊῧ௜ᩥ᭩࡟ᛶ⬟ࡢ㡯┠ࢆ♧ࡍᚲせࡀ↓ࡃ࡞ࡗࡓࡇ࡜࠿ࡽࠊῧ௜㈨ᩱ࡟࠾ࡅࡿ㢮ఝရ࡜ࡢྠ➼ᛶẚ㍑ࡀ
⏦ㄳ⪅ഃ࡛ᅔ㞴࡞≧ἣ࡜࡞ࡗ࡚࠸ࡿࠋ
࣭AI ࡢ࢔ࣝࢦࣜࢬ࣒㸦ฎ⌮ࣇ࣮ࣟ㸧ࠊᏛ⩦ࢹ࣮ࢱ➼ࡢ㐺ษᛶࠊ⤖ᯝࡢጇᙜᛶ➼ࡢホ౯ᇶ‽ࡢ☜❧ࢆせࡍࡿ࡜⪃࠼ࡽࢀࡿࠋ

2.

SaMD ඲⯡࡟ࡘ࠸࡚AI ฼⏝ࡢ᭷↓ࢆၥࢃࡎࠊSaMD ࡢᑂᰝ࡟࠾ࡅࡿㄢ㢟࡜ᨵၿ⟇➼࡟ࡘ࠸࡚ࡈពぢࡀ࠶ࡾࡲࡋࡓࡽࠊ࠾⪺࠿ࡏୗࡉ࠸ࠋ
⮬⏤グ㍕!
࣭ྠ➼ᛶホ౯ࡢ㈨ᩱ࡜ࡋ࡚ࠊῧ௜ᩥ᭩ࡔࡅ࡛ࡣ࡞ࡃྲྀᢅㄝ᫂᭩ࡸ࢝ࢱࣟࢢ࡞࡝ࡢ
᝟ሗࡶᘬ⏝ྍ⬟࡜ࡋ࡚ḧࡋ࠸࡜࠸࠺ពぢࡀ࠶ࡿ୍᪉ࠊ⮬⏤グ㍕࡟♧ࡉࢀࡓྲྀᢅ
ㄝ᫂᭩ࡸ࢝ࢱࣟࢢ࡟ࡣㄆド஦㡯࡟ྵࡲࢀ࡞࠸ෆᐜࡀグ㍕ࡉࢀ࡚࠸ࡿྍ⬟ᛶࡀ࠶ࡿࡓࡵࠊᚋࡢᅇ཰࣭ᨵಟࢆᮍ↛࡟㜵ࡄほⅬ࠿ࡽ㈶ᡂ࡛ࡁ࡞࠸ࠋ࠶ࡃࡲ࡛ྲྀᢅㄝ
᫂᭩ࡸ࢝ࢱࣟࢢࡣཧ⪃⛬ᗘ࡟␃ࡵ࡚ḧࡋ࠸࡜࠸࠺ពぢࡶ࠶ࡿࠋゎỴ⟇࡜ࡋ࡚ࠊἲᨵṇ๓ࡢῧ௜ᩥ᭩࡬ࡢᛶ⬟ࡢ㡯┠ࡢグ㍕ࢆ᚟άࡉࡏ࡚࠸ࡓࡔࡁࡓ࠸ࠋ
࣭≉࡟ࠊỗ⏝⏬ീデ᩿⿦⨨⏝࣮࣡ࢡࢫࢸ࣮ࢩࣙࣥ⏝ࣉࣟࢢ࣒ࣛࠊ⏬ീデ᩿⿦⨨ࡢ୍⯡ⓗྡ⛠ࡣ௜ᖏⓗ࡞ᶵ⬟ࣜࢫࢺࡀከࡃࠊᗈ⩏࡟ࡣ௜ᖏⓗ࡞ᶵ⬟࡟ྵࡲࢀࡿ࠿
ࡶࡋࢀ࡞࠸ࡀࠊ⊃⩏࡟ࡳࡿ࡜௜ᖏⓗ࡞ᶵ⬟ࡢ⠊ᅖእࡀ࠶ࡿࠋ➨  ᮲せ௳ࡢᛶ⬟㡯┠ࡶࢯࣇࢺ࢙࢘࢔㸦࢔ࣉࣜࢣ࣮ࢩࣙࣥ㸧࡟ಀࡿᛶ⬟㡯┠ࡀ୙᫂☜࡛࠶ࡿࠋ

－ 141 － эࢯࣇࢺ࢙࢘࢔㸦࢔ࣉࣜࢣ࣮ࢩࣙࣥ㸧࡟ಀࡿ௜ᖏⓗ࡞ᶵ⬟ࢆぢ┤ࡍࡇ࡜ࡀᚲせ࡜⪃࠼ࡽࢀࡿࠋ

3.

௜ᖏⓗ࡞ᶵ⬟࡟ࡘ࠸࡚௜ᖏⓗ࡞ᶵ⬟࡟㛵ࡍࡿㄢ㢟඲⯡࡜ᨵၿ⟇➼ࡘ࠸࡚ࡈពぢࡀ࠶ࡾࡲࡋࡓࡽࠊ࠾⪺࠿ࡏୗࡉ࠸ࠋ⮬⏤グ㍕!࣭୺ᶵ⬟࡜௜ᖏᶵ⬟ࡢ༊ูࡀ᫂☜࡛࡞࠸ࠋ
࣭௜ᖏᶵ⬟ࡢㄝ᫂ࡀ௜ᖏⓗ࡞ᶵ⬟ࣜࢫࢺࡢᶵ⬟ᐃ⩏ḍࡢグ㍕ࡑࡢࡲࡲࡢࡇ࡜ࡀ࠶
ࡾࠊᐇ㝿ࡢᶵ⬟ࡀࢃ࠿ࡽ࡞࠸ࠋ
࣭௜ᖏᶵ⬟ࡣᶵ⬟ㄝ᫂ෆᐜ࡟ࡢࡳ╔┠ࡋ࡚ྠ➼ᛶࢆホ౯ࡋࠊ࢔ࣝࢦࣜࢬ࣒ࡢᕪ࡞
࡝࡟ࡘ࠸࡚ࡣ⪃៖ࡋ࡞࠸࡛ࡼ࠸ࡢ࠿᫂☜࡟ࡋ࡚࠸ࡓࡔࡁࡓ࠸ࠋ౛࠼ࡤᶵ⬟ࡣྠ➼࡛ࡶࣉࣟࢢ࣒ࣛࡢ࢔ࣝࢦࣜࢬ࣒ࡢ㐪࠸࡟ࡼࡾࠕ௚ရ┠࡜ẚ࡭࡚㧗㏿ฎ⌮ࡀྍ⬟ࠖ࡜ᶆᴶࡉࢀࡓሙྜ࡛ࡶㄆドྍ⬟࡞⠊ᅖ࡜⪃࠼࡚ᕪᨭ࠼࡞࠸࠿➼ࠋ௨ୖ

－ 142 －

AI 利用 SaMD 及びモバイルアプリケーション SaMD に関するアンケート（回答の際には、□にチェックを入れる、あるいは■にしてください。
回答が困難な設問は、未記載のままで結構です）
回答機関（任意）：
回答者ご芳名（任意）：連絡先（任意）：＊ヒアリングの対象となっても差し支えない方は、ご芳名、ご所属及びメールアドレスをご記載ください。
1.

プログラムを有する有体物の製品を含めた AI を利用した SaMD（AI-SaMD）について
1） AI-SaMD の申請依頼を受けたことがありますか？
□ はい
■ いいえ
2） 1)で「はい」と答えた方に質問です。差し支えない範囲で結構ですので、申請依頼を受けた AI-SaMD の使用目的をお教え下さい。
□ 診断□ 行動変容□ 治療
その他（具体的にご記載ください）3） 1)で「はい」と答えた方に質問です。申請依頼を受けた AI-SaMD の審査を御社で実施しましたか？ 審査された場合、使用した認証基準名をお教え下さい。
□ はい（認証基準名：）□ いいえ（理由及びその後の対応：）

4） 1)で「はい」と答えた方に質問です。性能及び評価方法は認証基準に適合していましたか？ 追加した確認事項があれば、可能な範囲でお教え下さい。
□ はい（認証基準の範囲内）□ いいえ（追加した確認事項がある：下欄に記入）<自由記載>－ 143 －

5） AI-SaMD の性能及び評価方法を認証基準に準じて審査する際の課題等がありましたら、お聞かせ下さい。
<自由記載>

2.

SaMD 全般について
AI 利用の有無を問わず、SaMD の審査における課題と改善策等についてご意見がありましたら、お聞かせ下さい。
<自由記載>
一般的名称定義が「…から得られた情報をさらに処理して診断等のために使用…」となっているため、認証基準の使用目的又は効果をハード機器と同じ（検査や測定を行うといった内容）にするのは適切ではないと感じる。一般的名称定義 と 使用目的又は効果の見直しを図るべきと考えます。

3.

付帯的な機能について
付帯的な機能に関する課題全般と改善策等ついてご意見がありましたら、お聞かせ下さい。
<自由記載>
WS 用プログラムの申請において、WS の基本要件 6 条と同様の項目を性能及び安全性に関する規格欄に設定するのが一般的になっているが、これらの項目はビューワーなら持っていて当然の機能であり、性能とは言い難いと感じる。
（これにより、申請品固有の意図した特性がわかりづらい申請書になってしまう傾向がある。）
ハード機器の付帯機能をピックアップしたのが WS や WS 用プログラムであるため、ハード
機器の付帯機能に該当する項目を、性能として設定すべきと思われます。

以上－ 144 －

AI 利用 SaMD 及びモバイルアプリケーション SaMD に関するアンケート（回答の際には、□にチェックを入れる、あるいは■にしてください。
回答が困難な設問は、未記載のままで結構です）
回答機関（任意）：
回答者ご芳名（任意）：連絡先（任意）：＊ヒアリングの対象となっても差し支えない方は、ご芳名、ご所属及びメールアドレスをご記載ください。
1.

プログラムを有する有体物の製品を含めた AI を利用した SaMD（AI-SaMD）について
1） AI-SaMD の申請依頼を受けたことがありますか？
□ はい
■ いいえ
2） 1)で「はい」と答えた方に質問です。差し支えない範囲で結構ですので、申請依頼を受けた AI-SaMD の使用目的をお教え下さい。
□ 診断□ 行動変容□ 治療□ その他（具体的にご記載ください）3） 1)で「はい」と答えた方に質問です。申請依頼を受けた AI-SaMD の審査を御社で実施しましたか？ 審査された場合、使用した認証基準名をお教え下さい。
□ はい（認証基準名：）□ いいえ（理由及びその後の対応：）

4） 1)で「はい」と答えた方に質問です。性能及び評価方法は認証基準に適合していましたか？ 追加した確認事項があれば、可能な範囲でお教え下さい。
□ はい（認証基準の範囲内）□ いいえ（追加した確認事項がある：下欄に記入）<自由記載>－ 145 －

5） AI-SaMD の性能及び評価方法を認証基準に準じて審査する際の課題等がありましたら、お聞かせ下さい。
<自由記載>

2.

SaMD 全般について
AI 利用の有無を問わず、SaMD の審査における課題と改善策等についてご意見がありましたら、お聞かせ下さい。
<自由記載>

3.

付帯的な機能について
付帯的な機能に関する課題全般と改善策等ついてご意見がありましたら、お聞かせ下さい。
<自由記載>

以上－ 146 －

AI 利用 SaMD 及びモバイルアプリケーション SaMD に関するアンケート（回答の際には、□にチェックを入れる、あるいは■にしてください。
回答が困難な設問は、未記載のままで結構です）
回答機関（任意）：
回答者ご芳名（任意）：連絡先（任意）：＊ヒアリングの対象となっても差し支えない方は、ご芳名、ご所属及びメールアドレスをご記載ください。
1.

プログラムを有する有体物の製品を含めた AI を利用した SaMD（AI-SaMD）について
1） AI-SaMD の申請依頼を受けたことがありますか？
□ はい
☑ いいえ
2） 1)で「はい」と答えた方に質問です。差し支えない範囲で結構ですので、申請依頼を受けた AI-SaMD の使用目的をお教え下さい。
□ 診断□ 行動変容□ 治療□ その他（具体的にご記載ください）3） 1)で「はい」と答えた方に質問です。申請依頼を受けた AI-SaMD の審査を御社で実施しましたか？ 審査された場合、使用した認証基準名をお教え下さい。
□ はい（認証基準名：）□ いいえ（理由及びその後の対応：）

4） 1)で「はい」と答えた方に質問です。性能及び評価方法は認証基準に適合していましたか？ 追加した確認事項があれば、可能な範囲でお教え下さい。
□ はい（認証基準の範囲内）□ いいえ（追加した確認事項がある：下欄に記入）<自由記載>－ 147 －

5） AI-SaMD の性能及び評価方法を認証基準に準じて審査する際の課題等がありましたら、お聞かせ下さい。
特にありません。

2.

SaMD 全般について
AI 利用の有無を問わず、SaMD の審査における課題と改善策等についてご意見がありましたら、お聞かせ下さい。
特にありません。

3.

付帯的な機能について
付帯的な機能に関する課題全般と改善策等ついてご意見がありましたら、お聞かせ下さい。
特にありません。

以上－ 148 －

参考資料③

性能評価事例：EndoBRAIN シリーズ

EIRL シリーズ

－ 149 －EYE

Deep Learning

ターマシン

Plus

EndoBRAIN-

サポートベク

ターマシン

サポートベク

使⽤技術

EndoBRAIN-

EndoBRAIN

製品名

Olympus内視鏡のみ

最新型及び１世代前のOlympus超拡⼤内視鏡のみ

Olympus超拡⼤内視鏡のみ

適⽤可能機器

承認

承認

承認

承認・認証

⼤腸病変検出浸潤がん）

腫瘍鑑別（腫瘍vs⾮腫瘍＋腫瘍鑑別（腫瘍vs非腫瘍）

臨床的位置づけ

AI-SaMD性能評価に関するヒアリング結果（サイバネット）
施設数と施設名、対象装昭和⼤学横浜市北部病院、国⽴がん研

置、

学習データ

Single arm（後ろ向き）

Single arm（後ろ向き）との感度⽐較

研究会有明病院んセンター、東京医科⻭科⼤学、がん究センター中央病院、静岡県⽴静岡が昭和⼤学横浜市北部病院、国⽴がん研

有明病院

ター、東京医科⻭科⼤学、がん研究会

ンター東病院、静岡県⽴静岡がんセン（Olympus）を⽤いて取得

北部病院のみで対象機器

平坦・陥凹型病変91.94 (85.67~96.09) 93.70 (93.65~93.75)
隆起型病変99.43 (96.88~99.99) 93.70 (93.65~93.75)（※現在リリースしている最新版2021年3⽉⼀変版の情報）

り、結果は右のとおりであった。

5 mm以下の病変96.08 (92.32~98.35) 93.70 (93.65~93.75)

主要評価項⽬は「⼤腸病変に対するえるかどうかを検証する。」であ区間）た。
EndoBRAIN-00 の感度が90%を超対象病変 感度（%）（95%信頼区間）特異度（%）（95%信頼し、本プログラムの有効性を評価し96.33(93.48~98.19)
副次評価項⽬の結果（⼀部）

⽤いた後ろ向き性能評価試験を実施

⼤腸病変に対するEB-00 の感度（%）（95%信頼区間）

主要評価項⽬

主要評価項⽬の結果

含む動画を対象とした試験⽤動画をられた）

みのデータ収集と同等と認め（実際の標榜は感度96%、特異度93%）

特異度90%以上（実際は97.3%）の診断における本プログラムの特異度。

性を評価した。対象病変は50 病変とした。主要評価項⽬は浸潤癌

⼤腸内視鏡動画から300個の病変を

1. 後ろ向き臨床研究結果の相談の結果）上記と同じだが、⾮専⾨医が取得し （医師の能⼒に関するばらつた画像を３割⼊れて実施（PMDAと きが⼤きいことから他施設並

ランダム抽出題を⽤いた後ろ向き性能評価試験を実施し、本プログラムの有効

20名の⾮専⾨医（内視鏡専⾨医以外）よりも感度が⼤きいこと

評価項⽬ 実施医の属性と数

20 mm 以上の⼤腸病変を対象とした、超拡⼤内視鏡画像テスト問

テストデータは昭和⼤横浜市

試験データ取得施設及び装置

究センター中央病院、国⽴がん研究セ
50病変から取得した500枚の画像を瘍）（65病変：腫瘍、35正常例：⾮腫試験データ数と内訳

昭和⼤学横浜市北部病院、国⽴がん研

ター、東京医科⻭科⼤学

ンター東病院、静岡県⽴静岡がんセン

後ろ向き試験による⾮専⾨医 究センター中央病院、国⽴がん研究セ

性能評価⽅法－ 150 －少数の医師にて実施する（バラツ

キが少ない）

⾒落としを避けるため、感

度を重視

表済み

関する論⽂を発時の性能評価に採択（結果、Expertに近い

成績を確認）

キが少ない）が⾼いと判断して特異度を（※初回バージョンの申請）

・承認取得（2020年1⽉）

・申請提出（2019年8⽉）

・プロトコル相談（2018年11⽉）

・開発前相談（2017年12⽉）

・承認取得（2020年7⽉）

・申請提出（2019年11⽉）

・開発前相談（2017年12⽉）

・プロトコル相談（2018年12⽉）

少数の医師にて実施する（バラツ

誤診による患者へのリスク・承認取得（2018年12⽉）

的に変更

３本、承認申請

キが少ない）

度90%）で提案したが最終・申請提出（2018年6⽉）

・プロトコル相談（2016年12⽉）

少数の医師にて実施する（バラツ

PMDAとの⾯談について視し、当初Single arm（感担保実施の際の詳細状況何名でと質のアノテーションの実施者、⼈数、・開発前相談（2016年2⽉）

関連論⽂取り残しを避けることを重

備考※新規申請時に変更計画（IDATEN申請内容）を含んだ申請を可能にする等ます。

→IDATEN申請⾃体時間がかかるためより簡便な申請⽅法の改善を期待してい→今後はIDATEN申請を利⽤

認）

・その後学習モデル変更による⼀変の実施（2020年12⽉⼀変申請→2021年3⽉承申請→6⽉承認）よりコメントがあり、改めて新規申請を実施する事になった。（2020年3⽉新規・AIネットワーク変更よる性能向上は⼀変ですらなく、新規申請になるとPMDAようになったかが不明。

EndoBRAIN-Plusの時は、single armが認められたが、なぜ今回から認められる

single armは認められなかった

助⾔、審査時の論点、薬事の問題点

放射線関連は510(k)で承認されている。

（GI genius）

引き込み、その臨床研究データを使いCADeとして承認を得たが普通であるため）。メドトロはイタリアの著名な研究者を（ポリーブ検出がメインで、⽶国では全て切除してしまうの

FDAでは内視鏡⽤AIの承認時には前向き治験が要求される

FDAへの相談時の論点、pmdaとの違い

－ 151 －使⽤技術(1)胸腔内の空気含有⾯積

ス、PSPなど）

CRもしくはDX（富⼠フィル

ム、NOBORI、キヤノンメ

ディカルシステムズ、フィリップス、PSPなど）

043000）EIRL Chest

Metry（302AGBZX00

101000）

CRもしくは、DX（富⼠フィルム、NOBORI、キヤノンメ

ディカルシステムズ、フィリップス、PSPなど）

EIRL X-Ray

Lung nodule（30200BZX002

69000）

046000）

号:303AGBZX00

造販売認証番承認

認証

能にて抽出した当該領域の⾯積

ど）

EIRL Chest Metry等

・⽩質⾼信号領域の体積計測機

ズ、フィリップス、PSP な

107000）EIRL Viewer（製・頭部MRIの画像情報から⽩質

キヤノンメディカルシステム 認証（230AGBZX00

使⽤した読影における以下の成績を⽐較。
・AUC基本統計量
・感度、特異度・偽陽性率、偽陰性率
・正確度（放射線医9名と⾮専⾨医9名との差も評価）装置から提供された胸部の画像
情報をコンピュータ処理し、処理後の画像情報を診療するために提供する（肺結節領域検出）。X 線透視診断装置⼜はX
線診断装置の胸部単純撮影画像⽤のコンピュータ検出⽀援(Computer Aided
師の⾒落とし防⽌を⽀援する。

（前世代品）である。

ムは本品とは異なるモデル

Detection:CAD)機能を有し、医 なお、試験に⽤いたプログラ

⾏い、医師単独読影と製品を18名の医師による読影試験を最初の申請時253 症例の胸部単純X 線画像

症例(結節数76 箇所)及び正常画像

肺結節が認められる有所⾒画像67

⾼く、読影検出能が有意に向上していた。

医及び⾮専⾨医において、CAD ありの⽅がCAD なしよりもAUC 値の平均値がCAD ありはCAD なしに⽐較し、読影検出能が有意に⾼かった。放射線科専⾨

は、平均値0.7693 で読影検出能が有意に⾼かった。

意に⾼かった。⾮専⾨医ではCAD なしで平均値0.7002、またCAD ありの場合

しで平均値0.7173、またCAD ありの場合は、平均値0.7683 で読影検出能が有放射線科専⾨医、⾮専⾨医別に層別解析を⾏った。放射線科専⾨医ではCAD な

読影試験結果から得られた情報を基にROC 解析によってAUC 値を算出した。

(2) 読影医別の⽐較（例数：18）

CAD なしに⽐較し、読影検出能が有意に向上していた。

CAD なしの平均値は0.7088、CAD ありは0.7688 であった。CAD ありの⽅が読影試験結果から得られた情報を基にROC 解析によってAUC 値を算出した。

(1) AUC 基本統計量（例数：18）88.5%

・感度、特異度・好転率、暗転率

脳神経外科医6年未満：53.7% → 62.3%、脳神経外科医6年以上：77.0% →放射線科医5年以上：77.2% → 82.0%、

・性能指数（FOM）

項⽬を⽐較

X 線透視診断装置⼜は X 線診断

Lung nodule等の表⽰

Metry、EIRL basic、EIRL X-Ray

EIRL aneurysm、EIRL Chest（⾃動診断機能は有さない）

情報をスコア化するの⾼信号領域の体積を計測

⼤脳幅の⽐及び脳梁⾓を計測（富⼠フイルム、NOBORI、

EIRL basic

⼤側脳室前⾓幅とその位置での・頭部MRIの画像情報から、最（⾃動診断機能は有さない）(5)肋⾻横隔膜⾓(4)⼤動脈⼸の径(3)縦隔幅(2)⼼胸郭⽐を ⽤いて以下(1)〜(5)を計測・

画像に基づく画素値の閾値処理

胸部 X 線画像の画像情報から、域を抽出

MRI（1.5T及び 3T）

認証

算出。

ルシステムズ、フィリップ

内で周囲と⽐較して⾼吸収の領

NOBORI、キヤノンメディカ（303AGBZX00

頭部単純CT画像の情報から頭蓋瘤の疑いがある部分を検出

放射線科医5年未満：69.6% → 81.2%、

以下の属性の医師各５名にて実施

実施医の属性と数

製品利⽤前後の性能指数（FOM）、感度、特異度の変化及び好転率、暗転率

評価項⽬

EIRLの結果を参考にして再度有症例50例、無症例150例

試験データ数と内訳

脳外科医10名）での診断後、医師単独（放射線科医10名、性能評価⽅法頭部MRAの画像情報から脳動脈 診断した場合における以下の臨床的位置づけCT（富⼠フィルム、

認証

承認

承認・認証

Segmentation

MRI（1.5T及び 3T）

適⽤可能機器EIRL Brain

2000

30100BZX0014

ム）

イル アニュリズ Deep Learning

aneurysm （エフトウェア EIRL

医⽤画像解析ソ

製品名

AI-SaMD性能評価に関するヒアリング結果（エルピクセル）

ジー論⽂あり⼤阪市⼤ 植⽥先⽣ ラジオロ

関連論⽂

参考資料

④

SaMD フォーラム 2022 関連資料

SaMDフォーラム2022- プログラム医療機器における産学官連携 -

日時：2月4日（金） 13:30〜16:30

Web配信－ 153 －

SaMD フォーラム 2022-

プログラム医療機器における産学官連携 2022 年 2 月 4 日（金）13:30〜16:30

プログラム
13:30-13:45

開会の辞：厚生労働大臣 後藤 茂之、経済産業副大臣 石井 正弘
前衆議院議員 塩崎 恭久

13:45-14:00

アカデミアにおけるプログラム医療機器の研究開発と課題
内視鏡 AI の薬機法承認申請の経験から通して見えたもの
三澤 将史（昭和大学横浜市北部病院消化器センター）

14:00-14:15

アカデミアにおけるプログラム医療機器の研究開発と課題
エビデンスに基づく iCBT 開発
古川 壽亮（京都大学大学院）

14:15-14:30

産業界におけるプログラム医療機器の実用化と課題（診断分野）
島原 佑基（エルピクセル株式会社）

14:30-14:45

産業界におけるプログラム医療機器の実用化と課題（治療分野）「社会の変化に対応して最適な医療を届けるために」
緒方 剛（株式会社 CureApp）

14:45-15:00

産業界におけるプログラム医療機器の実用化と課題（治療分野）
デジタルセラピューティクス開発の現状と課題
小林 博幸（塩野義製薬株式会社）

15:00-15:15

プログラム医療機器の研究開発支援
廣瀬 大也（経済産業省）

15:15-15:30

プログラム医療機器の承認審査
岡﨑 譲（医薬品医療機器総合機構）

15:30-15:45

プログラム医療機器の医療保険上の評価
堀岡 伸彦（厚生労働省）**************************** （ステージ設営） ****************************
15:45-16:25

総合討論：座長/中野 壮陛（医療機器センター）

16:25-16:30

閉会の辞：田中 一成（経済産業省）
進行：厚生労働省医薬・生活衛生局医療機器審査管理課長 関野 秀人－ 154 －

アカデミアにおけるプログラム医療機器の研究開発と課題
内視鏡 AI の薬機法承認申請の経験から通して見えたもの
昭和大学横浜市北部病院消化器センター 三澤将史
近年の人工知能（AI）技術の進歩に伴い、AI を利活用した多くのプログラム医療機器が国内外を問わず研究開発されており、現時点でも多くの研究グループ・企業があらたに研究開発に参入を続けているという活況を呈している。しかしながら薬機法承認のハードルは、開発のそれよりは高いと考えられ上市に至るプログラム医療機器はまだ少なく、海外とのラグが指摘されている。
しかしながら、内視鏡領域に限ってみると、本邦ではすでに複数の企業が内視鏡のプログ
ラム医療機器の薬機法承認を取得し上市にこぎつけている。このスピードは AI 研究で先行している欧米中などの諸外国に決して引けを取っておらず、一概に本邦の薬機法承認プロ
セスに課題があるとは考えにくい。我々は大腸内視鏡の診断支援プログラムである
EndoBRAIN シリーズ・4 製品について薬機法承認を取得しており、この承認申請プロセス
において感じた課題をレビューしながら本邦のプログラム医療機器の承認審査プロセスについて考察する。
第一に AI を利活用したプログラム医療機器の多くは先発類似品がなく、承認審査におけるクリアすべき診断精度が明らかではないことである。これは対象とする疾患や病変によって大きく異なるためやむを得ないと思われる反面、承認された製品においては可能な範囲で精度基準を明らかにし、後発の医療機器メーカー（AI においては多くがベンチャー企業）に還元していくことも必要であると考える。第二は個人情報の取り扱いである。オプト
アウトが許容されるのか、オプトインが必要なのかは、数千―数万単位のデータが学習に必要な AI にとっては大きな問題である。第三に診療報酬加算についてである。現状、PMDA
では医療機器の安全性・精度の審査が主体であり、診療報酬加算については別途厚生労働省に諮る必要がある。AI の普及には診療報酬加算がカギであり、プログラム医療機器の審査と係る診療報酬加算は一元化して審査・承認していくことを期待したい。
一方で大きな改革もあった。一つ目は SaMD 室の創設である。プログラム医療機器について該当性・開発・保険に関して一元的に相談していくことが可能となった。これによって前述の課題の多くが解決されていくことが期待される。二つ目は IDATEN 制度の新設である。IDATEN は AI の追加学習によるアップデートに代表される、あらかじめ改良計画をプ
ロトコル化できる医療機器について、その改良計画自体を審査するものである。いったん改良計画が承認されれば、改良計画の範囲内であれば極めて迅速に審査がなされることになる、まさに AI によるプログラム医療機器が must have な制度である。このような改革を生
かすも殺すも、開発者次第ということもあり積極的に活用し今後のプログラム医療機器産業を盛り上げて行きたい。

－ 155 －

アカデミアにおけるプログラム医療機器の研究開発と課題
エビデンスに基づく iCBT 開発
京都大学大学院 医学研究科 健康増進･行動学分野 古川壽亮
うつ病を筆頭としたコモンメンタルディスオーダーによる健康損失は増え続けており、
2030 年には人類の健康損失の最大原因になるという予測すらある。さらに特記すべきこと
は、コモンメンタルディスオーダーによる負担は、10 歳代～40 歳代に集中しており、まさに社会を担う人々を冒しているという点である。
人類はこれに対し無策で来たわけではない。1990 年代以降 OECD 各国では精神医療受診率は高まり、抗うつ剤の処方量は 4 倍から 6 倍になり、今や人口の 10％以上が抗うつ剤を服用している国も多い。しかるに、コモンメンタルディスオーダーの一般人口中の年齢調整
有病率はこの 30 年間全く減っていない。年齢調整をしなければむしろ増加している。
うつ病に対する治療の主軸は抗うつ剤と精神療法とされる。抗うつ剤の有効性について
一時期議論がかまびすしかったが、われわれのネットワークメタアナリシスがこの議論に終止符を打った 1,2。種々の精神療法のあいだでの有効性の違いについても議論がないわけではないが、実は差が見られないという結論で収束してきていると思う 3。薬物療法と精神療法の間には、急性期に関して差はなく、両者の併用によって効果が増強されることも、認められるようになって来た 4。
ところが、長期的に見ると、うつ病は最初に抗うつ剤ではなく、精神療法で治療した方が、寛解を維持できる、抗うつ剤で継続治療をするよりも急性期を精神療法で治療してその後
as needed ベースで治療する方が寛解の維持率が 10-15％も高まることを、私たちは最近明らかにした 5。化合物を処方するだけではダメで、情報を処方して、うつ病の寛解率を高めなくてはならない。品質の保証された情報を処方しようとするなら、ICT の利用は不可欠である。事実、ICT を利用した精神療法は、臨床試験のために統制された対面式の精神療法と同等の効果がある 6。
そこで私たちは 2012 年から、スマートフォンで使える認知行動療法アプリを開発してきた。2014 年 9 月から、薬物治療抵抗性の大うつ病患者を対象に、待機群対照・評定者盲検化・平行群間・無作為割り付け比較試験を、国内 5 大学およびその関連クリニックにて実施
し、有効性と安全性を検証してきた。2016 年 7 月に全 164 人の追跡を終了し、2017 年 11 月に結果を発表した 7。薬物治療抵抗性の大うつ病患者に対する標準的治療である変薬群に比して、変薬に加えて「こころアプリ®」を実施した群では、改善率が 22％から 43％へ、寛解率も 16％から 30％へと倍増した。

－ 156 －

「こころアプリ」は 2020 年 9 月に、田辺三菱製薬株式会社にライセンスアウトされ、2021 年 9 月から第 2 相臨床試験が開始された。
エビデンスに基づく治療アプリを国民に届け、もって 21 世紀のうつ病治療に貢献
し、うつ病による疾病負担を軽減できることを期待している。
参考文献
1. Cipriani A, Furukawa TA, Salanti G, Geddes
JR, Higgins JP, Churchill R, Watanabe N,
Nakagawa A, Omori IM, McGuire H,
Tansella M, Barbui C. Comparative efficacy
and acceptability of 12 new-generation
antidepressants: a multiple-treatments metaanalysis. Lancet 2009; 373: 746-58.
2. Cipriani A, Furukawa TA, Salanti G,
Chaimani A, Atkinson LZ, Ogawa Y, Leucht
S, Ruhe HG, Turner EH, Higgins JPT, Egger
M, Takeshima N, Hayasaka Y, Imai H,
Shinohara K, Tajika A, Ioannidis JPA, Geddes
JR. Comparative efficacy and acceptability of
21 antidepressant drugs for the acute treatment of adults with major depressive disorder: asystematic review and network meta-analysis. Lancet 2018; 391(10128): 1357-66.
3. Cuijpers P, Quero S, Noma H, Ciharova M, Miguel C, Karyotaki E, Cipriani A, Cristea I, Furukawa
TA. Psychotherapies for depression: a network meta-analysis covering efficacy, acceptability andlong-term outcomes of all main treatment types. World Psychiatry 2021; 20(2): 283-93.
4. Cuijpers P, Noma H, Karyotaki E, Vinkers CH, Cipriani A, Furukawa TA. A network meta-analysisof the effects of psychotherapies, pharmacotherapies and their combination in the treatment of adultdepression. World Psychiatry 2020; 19: 92-107.
5. Furukawa TA, Shinohara K, Sahker E, et al. Initial treatment choices to achieve sustained response
in major depression: a systematic review and network meta-analysis. World Psychiatry 2021; 20(3):387-96.
6. Cuijpers P, Noma H, Karyotaki E, Cipriani A, Furukawa TA. Effectiveness and acceptability ofcognitive behavior therapy delivery formats in adults with depression: A network meta-analysis.

－ 157 －

JAMA Psychiatry 2019; 76(7): 700-7.
7. Mantani A, Kato T, Furukawa TA, Horikoshi M, Imai H, Hiroe T, Chino B, Funayama T, Yonemoto
N, Zhou Q, Kawanishi N. Smartphone Cognitive Behavioral Therapy as an Adjunct toPharmacotherapy for Refractory Depression: Randomized Controlled Trial. J Med Internet Res
2017; 19(11): e373.

－ 158 －

産業界におけるプログラム医療機器の実用化と課題（診断分野）
エルピクセル株式会社 島原佑基
はじめに2010 年代以降の AI 技術の急速な発展は従来の計算機科学の枠を超え広く人類の文化・福祉への貢献へと道を拓きつつある。当然ながら医療分野においても大きな関心を呼び、かつ影響を与え、この 10 年で医療分野向け AI についての研究開発は進んできた。特に、2020
年以降は多くの AI がプログラム医療機器として承認を取得し、AI が単なる一時的流行ではなく、実臨床で使われる状況となった。とはいえ、AI を実際に臨床で活用している例はかなり限られていることを考えると、まだブームの域を抜け切っておらず、開発者としてはキャズムを越えるための戦略・戦術に頭を悩ませている状況である。私たち含め医療 AI にか
かわるプレーヤーは、現在の AI 技術への注目が一時的なブームで終わるのではなく、臨床・研究の場におけるメインストリームとして位置づけられる未来のために日々努力を重ねている。その結果、医療 AI にかかわる研究、事業環境のみならず、行政・政府の動向にも大きな変化が起こりつつあるように思う。医療 AI が今後大きく展開していくために、将来的に業界の歴史を振り返った時にこの 1 〜2 年こそが大きな転換点ととらえられる躍動の年になるのではないかと期待している。本講演では、プログラム医療機器の実用化の例として当社が開発する画像診断 AI について紹介したのちに、今後の課題について述べたい。
医用画像診断支援 Al「EIRL (エイル)」

ここではエルピクセルにおける画像診断 AI の現状を述べる。EIRL(エイル)は、当社が開発する次世代医療診断支援技術の総称である。EIRL は、画像をはじめとする医療診断に必
要なあらゆる情報を解析し、より速く、効率的で正確な診断ができる環境の提供を目指すものであり、「医師に、寄り添う AI。
」というコンセプトのもと、医師の良きパートナーとして、これからの医療を支える存在になることを願っている。現在の EIRL の開発対象としては脳 MR I 画像および胸部 X 線、肺 CT、救急、大腸がん、内視鏡をターゲットとしたものなどがある。現在 5 つのプログラム医療機器の承認、あるいは認証を取得し、10 以上の疾患や特徴を対象とした計測、および検出機能を提供している。現在、全国で 200 施設以上の導入実績があり、利用施設は毎月増加している。本講演では主に、脳 MRA 画像を対象とした EIRL Brain Aneurysm（エイル・ブレイン・アニュリズム）、胸部 X 線画像を対象とした
EIRL Chest Nodule（エイル・チェスト・ノジュール）、救急における利用が期待される EIRL
Brain Segmentation（エイル・ブレイン・セグメンテーション）の 3 つの製品について紹介する。
課題プログラム医療機器の開発の課題は、主に 3 つある。1 つはデータ収集である。現在、商－ 159 －

用で活用できるナショナルデータベースの構築はほとんど整備されておらず、企業が独自でデータ集めに大きなコストを費やしている問題がある。我が国の医療 AI、プログラム医療機器の国際的競争力を高めていくためには、データ活用のガイドラインを整備し、個人情報保護の観点を大切にしつつデータ活用を促進してく必要がある。2 つ目が、バージョンア
ップをはじめとする法規制対応である。終わりがなく、かつ有体物とは比にならぬほど高頻度にバージョンアップが生じることから、現行の制度では審査が遅くならざるを得ない。国際競争力が高い製品を世の中で利用いただくためにも、他国に劣らないスピードで実行できる環境を整えていく必要がある。3 つ目が保険収載等のインセンティブ設計である。プロ
グラム医療機器は従来の医療機器と同様、安全性・有効性の評価が重要であるが、産業育成の観点も非常に重要である。今後高い成長が見込まれる医療 AI 産業をグローバルで見たときに、医療データが高品質かつ豊富にあり、課題先進国でもある日本は大きなチャンスを迎えているといえ、産業の芽を育てる視点を高く持つ必要がある。

－ 160 －

産業界におけるプログラム医療機器の実用化と課題（治療分野）「社会の変化に対応して最適な医療を届けるために」株式会社 CureApp 緒方 剛
プログラム医療機器は、変更容易性なプログラムの柔軟性を活かして、常に進化し、最適な医療を患者様に提供する事が可能となる。特に行動変容を促す治療用アプリでは最適な医療を提供するために、社会の変化に対応していく必要がある。
コロナ禍は様々な形で、ライフスタイルの変化を促した。例えば、生活習慣病に資する生
活習慣改善の根幹をなす運動習慣と食習慣では、コロナ禍でリモートワークが促進され通勤等で無意識に出来ていた運動が出来なくなり、より意識的に運動することが必要となり、その動機付けを行うコンテンツが治療用アプリには求められる。食習慣では、デリバリーサービスが発展し利用する機会が多くなり、従来の外食より容易に味付けの濃い既調理品を食する機会が増えた。このような社会の変化に対応して、治療用アプリはよりライフスタイ
ルに合った方法で行動変容を促すために進化し続ける必要があるが、従来の審査と評価の仕組みだと時間と費用がかかり、最適な医療をタイムリーに患者様に届けることが難しい。
安全性・有効性、特に有効性に影響がないことを担保するために、従来の審査や評価の手法に囚われない、患者様への情報インプットを評価するリリース前の製造販売企業でのユー
ザビリティテストによる内部評価や、リリース後の実臨床使用でのアウトカム評価に相当する指標をレトロスペクティブにモニターする等で有効性を担保して柔軟性を持たせて審査を簡略化し、患者様にタイムリーに届ける新しい枠組みが必要になると考える。
また、従来の医療機器のあまり更新されない専用機上で動作するプログラムとは異なり、プログラム医療機器は汎用 IT 機器にインストールして使用するが故に、そのテクノロジーの進化に対しても対応する必要がある。特に在宅における治療空白に対してアプリ自体が治療介入を行う治療用アプリは、スマートフォン等のモバイル端末上で動作する必要がある。モバイル端末は、日進月歩で進化・更新しており、端末のハードウェア、またその上で動作する OS、ライブラリ、ユーザーインターフェース等の進化に対応して治療用アプリも更新し続ける必要がある。上記のライフスタイルの変化に対応して治療効果を維持し続けるのと同様、製造販売企業が治療用アプリを安定供給し、治療効果を維持するためにはテクノロジーの進化に対応し、プログラムの開発をし続けなければならない。保険算定においてプログラムには原価がかからないという従来の考え方から、産業振興の為にもこれらの継続開発や維持に必要なクラウド等の外部サービス、サポートの費用等を考慮して頂きたい。

－ 161 －

産業界におけるプログラム医療機器の実用化と課題（治療分野）
デジタルセラピューティクス開発の現状と課題
塩野義製薬株式会社 DX 推進本部 デジタルインテリジェンス部 小林博幸
デジタルセラピューティクス（DTx）とは、疾患の治療目的としたプログラム医療機器であり、精神疾患、生活習慣病、癌、などの様々な疾患の課題解決に価値がある新たな治療モダリティである。国外では、2010 年に米国 FDA（Food and Drug Administration/アメリカ食品医薬品局）からの認証を受けた、糖尿病治療用アプリ以降、10 種類以上の製品が販売されている。欧米においても、治療効果を検証した DTx が複数登場している。
DTx は、これまで医薬品等による治療が難しかった疾患のソリューションとしての可能性があること、医薬品等による治療とのシナジー効果、疾患の予防、医師の診療効率化など、医療のア
ンメットニーズを解決できる可能性がある。さらに、DTx から得られるデータを活用することで、より良い製品に改良することができる。DTx は、新しい治療モダリティというだけでなく、デー
タを活用した改善サイクルを素早く回すことによって医療現場の課題解決につながる生きた製品群である。
一方で、日本国内で販売されている製品は、2020 年に薬事承認及び保険適用が認められた「CureApp SC ニコチン依存症治療アプリ及び CO チェッカー（CureApp 社）」の一例のみである。
これまで、国内企業が積極的に DTx 開発に乗り出していなかったことが最も大きな課題だったが、近年多くの製薬企業やベンチャー企業が、様々な疾患領域の DTx 開発を始めている。日本の医療における課題解決を進めていくためにも、デジタル技術の活用は必要不可欠であり、その代表格であるプログラム医療機器全体の産業活性化とともに、DTx 産業も同時に活性化していくことが必要である。
DTx は、従来の医療製品とは異なり、全く新しい特徴をもった製品群であるため、従来の規制の中では想定できない課題も多い。ドイツでは、DTx（ドイツでは DiGA）を対象に、DVG（DigitaleVersorgung-Gesetz）と呼ばれる新しい保険償還の枠組みを構築し、医療の発展と産業振興を目指している。日本国内においても、DaSH for SaMD（Software as a Medical Device/プログラム医療機器
実用化促進パッケージ戦略）や IDATEN（Improvement Design within Approval for Timely Evaluation
and Notice; 体外診断用医薬品）といった新しい制度を作り、プログラム医療機器全体の課題を目指している。一方で、対象としている製品の多くは診断を目的にした製品であるため、DTx に対しては、まだ課題が残されている。
今フォーラムでは、DTx の価値と同時に、DTx の抱える課題と解決の方向性について紹介する。
今後、産官学で連携し、日本の医療の課題解決と国民の健康に貢献のために新しい世界を作っていきたい。

－ 162 －

プログラム医療機器の研究開発支援
経済産業省 商務・サービスグループ 医療・福祉機器産業室 廣瀬大也
科学技術の発展により様々なプログラムが医療現場で利用されるようになったことから、
平成 25 年の医薬品、医療機器等の品質、有効性及び安全性の確保等に関する法律（以下「医薬品医療機器等法」）の改正により単体プログラムが医薬品医療機器報等の規制対象となり、医療現場で広く使用されるようになった。特に近年では人工知能技術を用いたプログラム
により医師の診断や治療を支援する機器の実現が進んでいる。また IoT 技術やセンサ、素材技術の進展にともない、スマートフォンやウェアラブル IoT 機器を用いた医療機器も開発されているが、我が国のプログラム医療機器の発展には制度上、保険評価上の課題も残されており、さらなる普及のための議論が必要である。
経済産業省の具体的政策としては、医療機器開発支援の観点から医療機器開発ガイドラ
イン事業を実施。今年度は行動変容をテーマとした医療機器のガイドライン（手引き）作成に取り組んでいる。また、医療機器産業への新規参入を活発にすべく、医療機器を取り巻く規制に関するガイドブック作成を実施。加えて、AMED を通した開発支援事業の充実も検討している。医療機器産業を取り巻く環境は、今後ますます変化していく。経済産業省では、
医療分野・介護福祉分野問わず、人の健康と生命を守るために、関係各省庁とも協力し、新しい医療とヘルスケア産業の開拓に継続して取り組んでいく所存である。

－ 163 －

プログラム医療機器の承認審査
独立行政法人医薬品医療機器総合機構 プログラム医療機器審査室 岡﨑 譲
「医薬品、医療機器等の品質、有効性及び安全性の確保等に関する法律」（以下「薬機法」という。
）における医療機器とは、「人若しくは動物の疾病の診断、治療若しくは予防に使用されること、又は人若しくは動物の身体の構造若しくは機能に影響を及ぼすことが目的とされている機械器具等（再生医療等製品を除く。
）であって、政令で定めるもの」（第 2 条第4 項）に該当するものであり、その製品が医療機器の定義に該当する場合、薬機法の規制を受けることになる。プログラムの医療機器への該当性に関する具体的な考え方については、「プログラムの医療機器該当性に関するガイドライン」（令和 3 年 3 月 31 日付け薬生機審
発 0331 第 1 号、薬生監麻発 0331 第 15 号厚生労働省医薬・生活衛生局医療機器審査管理課長、厚生労働省医薬・生活衛生局監視指導・麻薬対策課長連名通知）が参考になる。
医療機器を上市するためには、クラス I は厚生労働大臣への届出、クラス II 及びクラス
III は認証基準の有無に応じて第三者認証機関による認証又は厚生労働大臣による承認、クラス IV は厚生労働大臣による承認が必要となる。製造販売に際して厚生労働大臣の承認が必要な医療機器については、薬機法第 23 条の 2 の 5 第 2 項に掲げられているいずれかに該当する場合は承認を与えないものとされている。承認申請は、申請書及び添付資料等を独立
行政法人医薬品医療機器総合機構（以下「PMDA」という。）に提出することにより行われる。プログラム医療機器についても、ベネフィットがリスクを上回ることが確認され、承認拒否事由に該当しないことが確認された場合、厚生労働大臣が製造販売承認申請を承認する。
プログラム医療機器の承認申請に際して留意すべき点は「医療機器プログラムの承認申請に関するガイダンスの公表について」（平成 28 年 3 月 31 日付け厚生労働省医薬・生活衛生局医療機器・再生医療等製品担当参事官室事務連絡）を参照されたい。なお、人工知能技術を利用して開発された医療機器については、「次世代医療機器評価指標の公表について」（令和元年 5 月 23 日付け薬生機審発 0523 第 2 号厚生労働省医薬・生活衛生局医療機器審査管理課長通知）の別紙 4 として「人工知能技術を利用した医用画像診断支援システムに関する評価指標」が示されているため、参考にされたい。
医療機器は多種多様であり、個別の品目に応じた評価が求められる。PMDA では、開発の初期段階から、承認申請前、承認取得後のさまざまなフェーズに対応した相談制度（対面助言）を運用している。医療機器の開発、市販後対応については、相談制度の活用をあらかじめ計画に含めて進めていただきたい。

－ 164 －

プログラム医療機器の医療保険上の評価
厚生労働省 医政局 経済課 医療機器政策室 堀岡伸彦
令和 2 年 12 月 1 日、日本においてはじめて承認された治療用アプリである「CureApp SC
ニコチン依存症治療アプリ及び CO チェッカー」が保険適用となりましたが、現在も多くの治療用アプリの開発が行われております。
「CureApp SC ニコチン依存症治療アプリ及び CO チェッカー」の保険適用に伴い、保険適用について審議を行う中央社会保険医療協議会総会において、改めて診療報酬におけるプログラム医療機器の評価の考え方について、整理することが求められました。これを受け、令和 4 年度診療報酬改定に向けて、中央社会保険医療協議会保険医療材料専門部会において、プログラム医療機器における保険適用に関する考え方について、改めて整理がなされてきたところです。
令和 4 年 1 月 19 日の中央社会保険医療協議会総会において、令和 3 年 3 月より議論が開始されたプログラム医療機器の保険適用に関する考え方が報告され、了承されました。
本講演では、これまでに保険適用されたプログラム医療機器の保険適用事例を紹介しつ
つ、中央社会保険医療協議会総会に報告されたプログラム医療機器の保険適用に関する考え方について、説明したいと思います。また、プログラム医療機器の開発促進等のため、医政局経済課における取り組みについても、併せて紹介したいと思います。

－ 165 －

シリーズとして４製品が承認

2022年2月4日（金）13：30～16：30
SaMDフォーラム2022 ～プログラム医療機器における産学官連携～

腫瘍・非腫瘍鑑別（2分類）

内視鏡AIの薬機法承認申請の経験から通してみえたもの

医療機器承認番号23000BZX00372000

非腫瘍・腫瘍・浸潤癌の鑑別（3分類）
EndoBRAIN-Plus

病変検出支援

医療機器承認番号：30200BZX00021000

潰瘍性大腸炎の活動性評価
EndoBRAIN-UC

昭和大学横浜市北部病院消化器センター
三澤 将史
1Showa University Northern Yokohama Hospital4
医療機器承認番号30200BZX00136000

Showa University Northern Yokohama 医療機器承認番号30200BZX00235000
Hospital

様式１－A

ＣＯ Ｉ 開示
発表者名： ◎三澤将史

演題発表に関連し、開示すべきCO I 関係にある企業等として①報酬額：あり（サイバネットシステム）②株式の利益：なし③特許使用料：なし④講演料：あり（オリンパス）⑤原稿料：なし⑥研究費、助成金等の総額： なし⑦奨学（奨励）寄附など：なし⑧企業等が提供する寄附講座： なし⑨旅費、贈答品などの受領：なし

なぜ、内視鏡AIが必要か？
ヒトには限界がある
2

Commercially available AI endoscopy systems
Computer-aided detection

大腸内視鏡診療が包含する課題

Computer-aided diagnosis
2018

GI Genius

EndoBRAIN

 病変の拾い上げ

DISCOVERY
2019

EndoBRAIN-EYE

CAD-EYE 腫瘍性病変の26%が見落とし

WiseVision

GI Genius

WiseVision

Digestive Disease Center, Showa University Northern Yokohama Hospital 病変の鑑別診断

2020
CAD-EYE

Endo-AID

2021

5

Showa University Northern Yokohama Hospital

EndoBRAIN-Plus

van Rijin JC et al. AJG 2006

 治療が必要か、不要かの鑑別
感度87%、特異度65%
 外科的手術が必要か、内視鏡治療かの鑑別
感度74%、特異度68%
3

Showa University Northern Yokohama Hospital－ 166 －

Ladabaum U et al. Gastroenterology 20136
Shimura T, et al. Clin Gastroenterol Hepatol.
2014

EndoBRAINは2018年に承認
超拡大内視鏡で腫瘍と非腫瘍を鑑別するAI

第2世代アルゴリズム≒市販版の性能

エキスパート医師に匹敵
7

Showa University Northern Yokohama Hospital

11 2016Mori Y, et al. Endoscopy

Showa University Northern Yokohama Hospital

EndoBRAINは医師主導で開発開始

EndoBRAIN薬機法承認への道
2013~

EndoBRAIN開発開始

森悠一先生の科研費（若手研究B）から

薬機法承認

発売開始

誰でも内視鏡診断が出来るようにしたい！

PMDA対面助言
合計6回

研究開始時点ではOlympus社から販売される見込みや約束は一切なし！

8

薬機審査

AMED研究費(1.5億円)

Prof. Kudo

Showa University Northern Yokohama Hospital

多施設試験

2016

2017

Showa University Northern Yokohama Hospital

医工産連携により開発が加速

2018

2019

12

まずAMEDの研究費を2016年に獲得
AMEDのメリット
 研究費
 豊富な経験に基づくアドバイス 影響力

名大・森健策教授

Showa University Northern Yokohama Hospital

10

Showa University Northern Yokohama Hospital－ 167 －

13

PMDAとの対面助言を繰り返し実施
Feb, 2016

AI開発のフローと薬機法承認

初回相談
前向きの治験が必要です。

A
I
医
療
機
器
の
ア
イ
デ
ア

迅速な承認が最優先事項

非臨床性能評価試験でEndoBRAINの有効性が検証できることを説明

最終的には非臨床性能評価試験での評価を認めていただけた

Jan, 201714

Showa University Northern Yokohama Hospital

6ヶ月～

3-7年

開発前相談

プロトコル相談

薬機法への対応
QMS省令に則った開発

開発・
機械学習

POC
試験

機械学習

性
能
評
価
試
験

申請資料作成照会事項対応
信頼性調査

承
認

17

Showa University Northern Yokohama Hospital

Study Design

AI医療機器の開発初期段階の課題
AIを鍛えるため学習データが必須。
ディープラーニングでは数千から数万単位のデータが必要。
医療においてはデータ収集が肝。

15

Showa University Northern Yokohama Hospital

Showa University Northern Yokohama Hospital

EndoBRAINは多施設研究を実施し2018年12月薬事承認

18

しかし立ちはだかる、個人情報の問題
どのような同意が必要かはっきりしなかった。
Opt-out vs Opt-in
仮に開発の途中でOpt-inが必要と発覚した場合、昔のデータについて同意が取れない。

Kudo S, Misawa M, et al. CGH

Showa University Northern Yokohama Hospital16現状ではopt-inで同意取得しておけば問題ないが…

2020

Showa University Northern Yokohama Hospital－ 168 －

19

AI開発のフローと薬機法承認
A
I
医
療
機
器
の
ア
イ
デ
ア

開発前相談

プロトコル相談

薬機法への対応
QMS省令に則った開発

開発・
機械学習

POC
試験

では求められる精度基準は？？

6ヶ月～

3-7年

機械学習

性
能
評
価
試
験

感度 ＞90% or >80% ???

申請資料作成照会事項対応
信頼性調査

対象疾患や使用目的に応じ、個別に判断する必要がある。

承認Showa University Northern Yokohama Hospital

高ければ高いほど良いが、実現可能か？
開発を促進するためには承認事例については速やかに基準を公開すべき20

23

Showa University Northern Yokohama Hospital

AIに求められる水準は状況により異なる• 例①
腫瘍性ポリープ（切除すべき）と非腫瘍性ポリープ（切除しな
くてよい）を鑑別するAIの場合。

Mori Y, et al. GIE 2021

Misawa M, et al. GIE 2021

腫瘍性ポリープを切除せずに残してしまうと将来癌化するリスクがある。
薬機申請のプロトコルについて速やかにpublishし、共有。

腫瘍を非腫瘍と誤診する割合が低い方が良い＝高い感度
Showa University Northern Yokohama Hospital

21

Kudo S, et al. CGH 2020
Showa University Northern Yokohama Hospital

AIアップデートの一例(EndoBRAIN-EYE)

AIに求められる水準は状況により異なる• 例②
浸潤癌（外科治療）と良性腫瘍（内視鏡治療）を区別するAIの場合

2019年7月
8月

性能評価試験
初回承認申請2020年1月

承認
性能評価試験
アップデート①
変更申請

2月

良性腫瘍を浸潤癌と誤診し、外科的治療は過侵襲。
非浸潤癌を浸潤癌と誤診する割合が低い方が良い。
＝高い特異度Showa University Northern Yokohama Hospital

24

22

6月

承認

12月

性能評価試験
アップデート②
変更申請

Showa University Northern Yokohama Hospital 2021年3月－ 169 －

承認

AIのアップデート開発

AIのアップデート開発

25

EndoBRAINの海外展開について性能向上させたアップデート版AIを上市するまで

一部変更申請
初回同様の試験
審査期間（4か月～）

対面
助言

2022年EUMDR取得予定
2022年1月時点で販売中
日本・韓国・台湾・香港
タイ・インド・ベトナム

デバイスラグ
申請者の負担

アップデート版AI

26

Showa University Northern Yokohama Hospital

29

途上国でのAI普及事業を実施

持続性のあるAI開発のために・・・AIアップデートの迅速な承認・市場投入

IDATEN
Improvement Design within Approval for Timely Evaluation and NoticeShowa University Northern Yokohama Hospital

27

30

IDATENで何がかわる？
手続きの簡略化
申請者側の負担軽減

AIの普及における課題

期間短縮
アップデートラグの解消
定期的にアップデートが見込まれるAIには
Must-haveな制度！
Showa University Northern Yokohama Hospital28

31－ 170 －

News in Japan in “2016”2020年までに、AIを用いた医療に
診療報酬加算をつける。

*Official HP of Ministry of Health, Labour and Welfare in Japan

32

2022年度診療報酬改定：AI加算は収載されずAnnounced on Jan., 202233

結語
• 内視鏡AIは薬機法承認されたAIが徐々に臨床に普及しつつあり、診療の均てん化が期待される。
• 医療機器AIの達成すべき精度、個人情報の取り扱いな
どの上市に直結する情報は速やかに共有すべき。
• 医療機器AI市場を拡大するためには、なんらかのインセンティブが必要ではないか？
Showa University Northern Yokohama Hospital34－ 171 －

認知行動療法に基づくうつ病向けSaMDの開発
京都大学大学院医学研究科
健康増進・行動学分野
古川壽亮
Certified Cognitive Therapist (Academy of Cognitive Therapy)
Certified CBASP Therapist (CBASP National Training Program)

Patel et al (2017) Lancet

本日のお話し抗うつ剤の処方うつ病のインパクトの疫学
うつ病治療のエビデンス
精神療法を広く深く届けるために～電話CBT
スマートフォンCBT
うつ病だけじゃないよOECD (2019)

Global burden of ischemic heart disease
and depressive disorders over time

人類のストレス
うつ病を筆頭としたコモンメンタルディスオー
ダーによる健康損失は増え続けており1、2030年には人類の健康損失の最大原因になるという予測すらある2

Based on data from the Global Burden of Disease up to 2019. DALY:
Disability-adjusted life-years.

1. Furukawa, Kessler (2019) Aust N Z J Psychiatry
2. WHO (2008)

Lancet Commission on Depression (2022)－ 172 －

1990s
オーストラリア

治
療

有
病
率

イングランド米国

1997年：抑うつ・不安・物質
使用障害の有病率18％

治
療

2000s

2010s

2002年：1990年に比して抗うつ剤処方率は3.5倍に
2000年：DDD換算で抗うつ剤処方率4.5％

2011年：2000年に比して抗うつ剤処方率は2.0倍に
2017年：DDD換算で抗うつ剤
処方率10.9％

2007年：抑うつ・不安・物質
使用障害の有病率20％
2001年：K10の高得点者13％2007年：1993年に比して抗うつ剤処方は3倍に
2007年：1993年に比して精神的問題でプライマリケア受診率は不変
2000年：DDD換算で抗うつ剤処方率3.8％

有病率

1993年：CMD有病率15％

2007年：CMD有病率15％治療1987年：一般人口中の精神的問題による受診率6.9％
1991年：DSM障害のある人のうちの受診率20％

2001年：一般人口中の精神的問題による受診率8.5％
2002年：DSM障害のある人のうちの受診率33％

有病率

2002年：NCSでは1991年よりも大うつ病有病率が増加

2015年：K10の高得点者12％2017年：DDD換算で抗うつ剤
処方率10.8％

薬物療法か精神療法か2010年：NHANESでは2005年
よりも抑うつ症状が増加

Jorm et al (2017) World Psychiatry
Jorm et al (2018) ANZJP

1990s
オーストラリア

治
療

有
病
率

イングランド米国

1997年：抑うつ・不安・物質
使用障害の有病率18％

治
療

2000s

2010s

2002年：1990年に比して抗うつ剤処方率は3.5倍に
2000年：DDD換算で抗うつ剤処方率4.5％

2011年：2000年に比して抗うつ剤処方率は2.0倍に
2017年：DDD換算で抗うつ剤
処方率10.9％

2007年：抑うつ・不安・物質
使用障害の有病率20％
2001年：K10の高得点者13％2007年：1993年に比して抗うつ剤処方は3倍に
2007年：1993年に比して精神的問題でプライマリケア受診率は不変
2000年：DDD換算で抗うつ剤処方率3.8％

有病率

1993年：CMD有病率15％

2007年：CMD有病率15％治療1987年：一般人口中の精神的問題による受診率6.9％
1991年：DSM障害のある人のうちの受診率20％

2001年：一般人口中の精神的問題による受診率8.5％
2002年：DSM障害のある人のうちの受診率33％

有病率

2002年：NCSでは1991年よりも大うつ病有病率が増加

2015年：K10の高得点者12％2017年：DDD換算で抗うつ剤
処方率10.8％

2010年：NHANESでは2005年
よりも抑うつ症状が増加

Jorm et al (2017) World Psychiatry
Jorm et al (2018) ANZJP

Cuijpers, … Furukawa (2020) World Psychiatry (IF=49.6)

有効性と安全性のエビデンスがあり、均てん化可能な介入は何なのか
Cuijpers, … Furukawa (2020) World Psychiatry (IF=49.6)－ 173 －

精神療法の中ではどれ？

Cuijpers, … Furukawa (2021) World Psychiatry (IF=49.6)

Cuijpers, … Furukawa (2021) World Psychiatry (IF=49.6)

Cuijpers, … Furukawa (2021) World Psychiatry (IF=49.6)

Cuijpers, … Furukawa (2021) World Psychiatry (IF=49.6)

Cuijpers, … Furukawa (2021) World Psychiatry (IF=49.6)－ 174 －

じゃあ、どんな実施方法が良いの？

長期的に見て、どの治療法がベスト
かCuijpers, … Furukawa (2019) JAMA Psychiatry (IF=21.6)

Furukawa, … Cuijpers (2021) World Psychiatry (IF=49.6)

Cuijpers, … Furukawa (2019) JAMA Psychiatry (IF=21.6)

Furukawa, … Cuijpers (2021) World Psychiatry (IF=49.6)－ 175 －

エビデンスを積み重ね、発展させる

エビデンスを積み重ね、発展させる

薬だけじゃあ足りない！
急性期治療だけならまだ良い勝負だが、長期的に見ると薬物療法単独は精神療法に劣る！

薬だけじゃあ足りない！
急性期治療だけならまだ良い勝負だが、長期的に見ると薬物療法単独は精神療法に劣る！
でも、「精神療法」を人間がやるとquality controlができない！

Herrman, … Cuijpers, Furukawa et al (2022) Lancet (IF=79.3)

Herrman, … Cuijpers, Furukawa et al (2022) Lancet (IF=79.3)

元気プロジェクト：職域の閾値下抑うつ状態に対する電話CBTPatel (202) Lancet

2008年から、S社、
堀越先生、川上先生、古川で、『元気プロジェクト』
患者用マニュアル、
元気手帳、カウンセ
ラー用マニュアルを作成「化合物を処方」から、「情報を処方」して治療しよう！

－ 176 －

カウンセラーのトレーニング
各セッションは30-45
分、クライエントの都合に合わせて電話で行う
原則（とくに前半4回）
は週に1回の頻度
セッションとセッションの合間にはEメールでリマインダーと激励のメールを送るスーパーバイザー(古川、堀越)と9名のカウン
セラーはLudmanの2日間ワークショップに参加
カウンセラー(臨床心理学修士課程、博士課
程またはポスドクレベル)は、RCTに入る前にレクチャーとロールプレイを合計12時間行い、少なくとも2人のクライエントについてSVを受け
る

行動活性化

認知再構成

治療のクォリティコントロール
全てのセッションは録音され、録音とカウンセラー
によるセッションの評価
および患者のK6得点は、
インターネット上の専用サ
イトにアップされる
1クライエントにつき3セッ
ションはSVを受ける
2ヶ月に1回はカウンセ
ラーミーティングを行う
いつでもSVerに相談可

Enrollment
Assessed for eligibility (n=4916)

Excluded (n=4798)♦ Did not return screening questionnaire(n=1811)♦ Did not meet inclusion criteria (n=2177)♦ Failed to undergo additional screening(n=783)♦ Declined to participate (n=27)
Randomized (n=118)

Allocated to intervention (n=58)

Allocation
Allocated to TAU (n=60)♦ Received allocated intervention (n=57)♦ Did not receive any allocated intervention(n=1)

Follow-Up
Lost to follow-up (n=5)

Lost to follow-up (n=1)

Did not return the follow-up questionnaire (N=5)

Did not return the follow-up questionnaire (N=7)

Discontinued intervention (n=7) (Stopped treatment

Discontinued intervention (n=0)

before finishing half the program for being too busy or for having
gotten well)AnalysisAnalysed (n=58)♦ Excluded from analysis(n=0)

Analysed (n=60)♦ Excluded from analysis (n=0)

Furukawa, Horikoshi et al (2012) PLoS ONE－ 177 －

結果

スマートフォン認知行動療法へ

20

電話CBTに比して、コンピュータ/ウェブCBTは、治療を求めることのスティグマが減る
治療者の時間を大幅に減らし、治療的サポートに限定しても、ほぼ同じ効果が出るが通常、患者はコンピュータの前に座って取り組まな
くてはならない
患者の参加状況をモニターできるはずが、そうい
うプログラムは少ない

18
16
CBT+EAP
EAP

14
12
10
8

Baseline

4-month

8-monthFurukawa, Horikoshi et al (2012) PLoS ONE

結果

スマートフォン認知行動療法へ
コンピュータ/ウェブCBTに比して、スマートフォ
ンCBTは、

ANCOVAによってベースライン値で補正した治療終結時得点はEAP + T-CBT (n=53)

EAP (n=59)

BDI-II

10.8 (8.9 to 12.8)

15.9 (14.1 to 17.7)<0.001 0.71 (0.33 to 1.09)

p value

Effect size

K6

6.3 (5.2 to 7.4)

9.1 (8.1 to 10.2)<0.001 0.69 (0.31 to 1.07)

患者はいつでもどこでも実施できる患者の精神症状、生活状況、治療実施状況をリ
アルタイムにモニターできる
患者、治療者がそれを共有できるかたちにプログ
ラムできる

MMRMによっても群＊時間の相互作用はp<0.001であった

Furukawa, Horikoshi et al (2012) PLoS ONE

スマートフォン認知行動療法へ

スマートフォン認知行動療法へ

対面型CBTに比して、電話CBTは、

スマートフォンを利用したモバイルメンタルヘルスで、患者の移動時間や待ち時間を減らせる
治療者がない場所にも治療を届けられる
時間的な制限も少なくなった
しかし、治療者が必要とする時間はほとんど同じ
訓練はスピーディになり品質管理もできるようになったが、その人がやめてしまえば振り出しに戻る

データのフィードバックを進めよう！精神科臨床で使えるようにしたい！

最終的には、国民の herd resilienceを高めたい！

－ 178 －

こころアプリウェブ

FLATT臨床試験：治療抵抗性大うつ病に対するスマートフォンCBT

FLATT臨床試験
対象
薬物治療抵抗性の大うつ病患者164人

治療
変薬をするだけで良いのか、変薬に加えてスマートフォン認知行動療法をしていただくのが良いのか

北海道大学

久住一郎

賀古勇輝

東邦大学

水野雅文

辻野尚久

名古屋市立大学

明智龍男

小川成

広島大学

山脇成人

神人蘭

高知大学

森信

下寺信次、藤田博一

繁

アウトカム
ブラインド電話評価によるPHQ9

最終的に

Mantani, Kato, Furukawa et al (2017) J Med Internet Res－ 179 －

患者への打診、BDI2≧10点、心電図

0週

PHQ-9
14

薬の飲み心地と、ス
マートフォンの操作を確認します1週間レクサプロまたは�ェ��ロフトを服用
スマートフォンで『こころアプリ』の「はじめに」を実施

1週

電話アンケート、自己記入式アンケート、心電図

毎週「佐藤一（はじめ）」から、患者さんに
励ましメールが届きます�ン��にど�らかに�り�りします

レクサプロ/�ェ��ロフト（または服用困難な場合は他の抗うつ剤）＋
スマートフォン認知行動療法

第5週、第9週にはこころアプリウェブFAXがドク�ーに届きますレクサプロ/�ェ��ロフト（または服用困難な場合は他の抗う
つ剤）

5, 9週

8

個人差はありますが、治療は約8週間です。

12

CRCから臨床試験の説明と同意、電話アンケート10

参加基準に合うかど
うか確認します後半の治療も約8週間です。

服用薬について制限はなし＋
スマートフォン認知行動療法は継続しても中止してもかまいません

6

5週目と9週目に電話アンケートと自己記入式アンケート

服用薬について制限はなし＋
希望者はスマートフォン
認知行動療法

第17週にもこころアプリウェブFAXがドク�ーに届きます

17週目に電話アンケートと自己記入式アンケート

0

2

4

Weeks

6

8

10

17週

Mantani, Kato, Furukawa et al (2017) J Med Internet Res

Mantani, Kato, Furukawa et al (2017) J Med Internet Res

患者背景40.2 (8.8)
46 (57%)
14.6 (2.5)

41.6 (8.9)
41 (50%)14.9 (2.7)

34 (42%)21 (26%)29 (35%)30 (36%)31.8 (10.8)
3.4 (4.9)
24.2 (46.3)
13.5 (5.5)
28.2 (11.2)

34.6 (10.0)
3.0 (4.5)
23.0 (46.5)
12.9 (5.3)
26.2 (11.0)

26

Medication change
alone (n=83)

28

BDI-II
Smartphone CBT +medication change(n=81)

22

Age, years
Women
Education, years
Employment status
Employed full-time
On medical leave

24

Demographic characteristics

Age of onset at first episode, years
Number of previous depressive episodes
Length of current episode, months
PHQ-9 at week 0
BDI-II at week 0

18

20

Baseline clinical characteristics

02

Mantani, Kato, Furukawa et al (2017) J Med Internet Res

9.5 (3.0), n=48
79.0 (26.7), n=25

10.0 (3.2), n=49
83.6 (23.4), n=29

Sessions completed

none (n=1)
3 sessions (n=1)
4 sessions (n=4)
5 sessions (n=4)
6 sessions (n=11)
7 sessions (n=17)
8 sessions (n=43)-

Average time per session (days)
Number of mind maps for self-monitoring
Number of behavioral activation tasks
Number of alternative thoughts

10.8 (4.2)
11.2 (11.4)
14.4 (17.1)
6.1 (6.0)

-

6

8

10

FIBSER
6.5

Medication change
alone (n=83)

Weeks

Mantani, Kato, Furukawa et al (2017) J Med Internet Res

治療内容
Smartphone CBT +medication change(n=81)

4

6

Pharmacotherapy
Escitalopram dosage at week 9 (mg/day)
Sertraline dosage at week 9 (mg/day)

4

4.5

5

5.5

Smartphone CBT0Mantani, Kato, Furukawa et al (2017) J Med Internet Res

2

4

Weeks

6

8

10

Mantani, Kato, Furukawa et al (2017) J Med Internet Res－ 180 －

第9週での比較
こころアプリ＋変薬 (n=81)

変薬のみ (n=83)

差

PHQ-9

7.94

10.41

-2.48
(-3.72 to -1.23)
p=0.0001

BDI-II

19.3

23.3

-4.1
(-6.6 to -1.5)
p=0.002

FIBSER

4.38

5.14

-0.76
(-1.58 to 0.05)
p=0.07

Mantani, Kato, Furukawa et al (2017) J Med Internet Res

2020.9.1. 田辺三菱製薬ニュースリリース

もっと分かりやすい数字で言うとこころアプリ＋変薬 (n=81)

変薬のみ (n=83)

寛解率

30.4%

16.3%

反応率

42.8%

21.8%

うつ病以外にも有効なCBTパッケー
ジを持っています

寛解：ほぼ正常気分に戻ること
反応：治療開始時よりも重症度が半分以下になること

Mantani, Kato, Furukawa et al (2017) J Med Internet Res

過敏性腸症候群
IBS-SSS (症状）IBS-QOL（生活の質）

Kikuchi, … Furukawa (in press) Am J Gastroenterology (IF=10.9)

読売新聞2017年11月16日夕刊－ 181 －

こんな素晴らしい治療が今はほとんど実施されていない。iCBT化したら、すべての医師と患者さんに使ってもらえる！

－ 182 －

背景 1/3

産業界におけるプログラム医療機器��実用化と題

日本�CT, MRI����画像�像��が�界で最���されている。

エルピクセル株式会社
代表取締役
島原 佑基

日本�医実画像大国化い�る
Copyright © LPiXEL Inc. All Rights Reserved.

Copyright © LPiXEL Inc. All Rights Reserved.

4

背景 2/3

エルピクセル株式会社 会社概要

���たり�����医�数�日本がOECD加盟国中最下位
概要

事業内容

設立

2014年 3月 4日

本社

東京都千代田区大手町
1-6-1 大手町ビル 6F

医用画像AI���・��
創薬AI�����

受賞歴

社員数

約 60名

J-Startup 企業

資本金

1億円

ジャパン・ヘルスケアビジネスコンテスト
2017 優秀賞

資��

医療機器��業
���医療機器����業
EN ISO 13485:2016

株主

Microsoft Innovation Award 2016
Red Herring Global Top 100
IT Japan Award 2020 特別賞

日本�医実画像が最��い�に最�専門医が�ないと題��国
Copyright © LPiXEL Inc. All Rights Reserved.

2

Copyright © LPiXEL Inc. All Rights Reserved.

5

背景 3/3 診断支援AI�市場概�“ 医師に、診断支援AI����で�り、��2025年�国内事業�����100億円が見込まれている。
�国で��にト�ア�ジ�、�たなAI��実が�ま�ている。
国内における診断AIシステム市場規模予測

FDAで認証された主なAI医療機器プログラム
における専門分野�内内

寄り添うAI。

3

Copyright © LPiXEL Inc. All Rights Reserved.

6－ 183 －

Copyright © LPiXEL Inc. All Rights Reserved.

医療AIを診断に活用するメリット
医療AIに����3��メリットが�ると��て�る。
１．診断精度��向２．診断効率��向３. 予後予測画像から���可能性が�る箇所をハイライトし、見落としを��します。また、�����
なし�症例をAIによりスクリー
ニングし、AIが指摘した症例を見返すことでトリプルチェックが可能です。

手作業で計測せずにAIが自動計測する指標を参照すること
で、診断効率��向が見��ます。また、定性的な所見から客観的で定量的な診断も可能にします。

��で�処理で�な����量���を学習することで、予後予測�����ー�ョンから、治療方法が提案が可能になります。

医療AI�活用に��に臨床的な�効性が�認��て�り、�後�進化も����て�る。
Copyright © LPiXEL Inc. All Rights Reserved.

7

プログラム医療機器開発� 5 STEPS

製品紹介 : EIRL Aneurysm
PMDA相談臨床試験・申請

画像前処理
深層学習モデル研究1

Copyright © LPiXEL Inc. All Rights Reserved.

10

2

4

研究

法規制対応

3

MRA診断が進化する
脳動脈瘤検出サポートテクノロジー
脳MRA画像より2mm�向���動脈瘤に��した��
点を検出しマークを表示することで、医師による読影をサ
ポートします。医師��で読影した����度68.2%と比
�、�ソフトウェアを用�て読影した����度77.2%となり、診断精度��向が認�らて�ます。

5

データ

製品開発

販売・保守

研究計画作成IRB対応・データ収集

製品開発・テスト
ISO13485基準

販売・導入
保守（バージョンアップ含）

承認番号 : 30100BZX00142000
販売名: 医用画像解析ソフトウェアEIRL aneurysm

医療AI�ジ�ス�研究�製品開発�法規制対応�販売保守����8

Copyright © LPiXEL Inc. All Rights Reserved.

Copyright © LPiXEL Inc. All Rights Reserved.

11

検出事例

薬事�取り��
国内初、深層学習を活用したプログラム医療機器として薬事承認を取得し業界を牽引

解析結果��Axial表示、��I示に表示に9

Copyright © LPiXEL Inc. All Rights Reserved.
CONFIDENTIAL－ 184 －

Copyright © 2021 LPIXEL Inc.

12

Brain ��etry機能につい

検出事例

検出事例①
�CAに発生する未破裂脳動脈瘤。
医師が見落とし、AIが正しく検出した事例。

医療画像�ため
当日投影いたします

医療画像�ため
当日投影いたします

医療画像�ため
当日投影いたします

EVANS INDEX
自動計測

CALLOSAL ANGLE
自動計測

ソフトウェアが適切なスライスを選択します。側脳室及び大脳をセグメンテーションし、 EVANSINDEXを計算します。

ソフトウェアが適切なスライスを選択します。側脳室をセグメン
テーションし、脳梁角を認識して、CALLOSAL ANGLEを計算します。

白質高信号領域計測

検出事例②
ACAに発生する未破裂脳動脈瘤。
医師が見落とし、AIが正しく検出した事例。

白質�高信号領域を抽出し、�積を計算します。抽出した白質
高信号領域情報を PVH（脳室周囲白質高信号領域） DSWMH（深部皮質下白質高信号領域）においてスコア化します。

医療画像�ため
当日投影いたします

CONFIDENTIAL

Copyright © 2021 LPIXEL Inc.

13

CONFIDENTIAL

Copyright © 2021 LPIXEL Inc.

16

CONFIDENTIAL

Copyright © 2021 LPIXEL Inc.

17

脳ドック��ガイドライ

EIRL Brain Aneurysm 性能評価
�品と��用診断によ�、��（検出�）が�10%向上し、見落とし防止�有効性が認められている。
性能評価試験
•頭部MRA画像 200症例
・未破裂脳動脈瘤と診断された：50症例
・未破裂脳動脈瘤で�ないと診断された：150症例•読影を行う医師・放射線科医：10名*医師�経験年�5年未満(5名)、5年以上(5名)・脳神経外科医：10名*医師�経験年�6年未満(6名)、6年以上(4名)見落とし防止に寄与する有効性が認められているプログラム医療機器
Copyright © LPiXEL Inc. All Rights Reserved.

14

製品紹介 : EIRL Brain Metry

頭部C�画像�ら頭���
高吸収領域を自動抽出
医師による指標算出を革新する定量的自動計測AIアルゴリズム
・抽出領域がセグメンテーション表示されることで

���定性的白質���評価�医師によ�て�が生�る
手動計測に対して、白質好信号領域及びEvans index、Callosal Angleを�定�計算��で自動計測します。

視覚的な確認が可能です�頭部C�画像� 高吸収領域���的に脳出��診断に用いられます。

承認番号 : 230AGBZX00107000
販売名: 医用画像解析ソフトウェアEIRL basic

15

Copyright © LPiXEL Inc. All Rights Reserved.

－ 185 －

�画像�イメー�です
販売名：医用画像解析ソフトウェア �I�� Brain �����neaei�n認�番号：���A�B����������

�にて血出見落でし出て�

共同研究について

救急医療出現�で出�運「��ACE �2019」にて脳出血画像画像診断支援技術について発表いたし＜救急医療出�体制• 救急医療出現�で人専門外出医医がにA�出画画像診ェ�
さな�れ�な�ない�ロ�が数多く存在する【演題】
EIー�waeni�w�ーwnーitmー��i�rm��Ata��mnemーiiー�m�m�i�gmniーEIーwgaemー�waeni�w�ー����iriー���imgー��wneーariw�w�wa�ーwnim��wemn�m�• 救急医療出��ェ少人数出医医で行なっている施設も数多く存在する【筆頭発表者】
�����院ーEI・救�救急科ー医�ー��ー��ー医医＜救急医療出�難点✔ �存出�患態患者出��に��してしまク

19�20�2�� �日���「�tmー�itー�ir��ー��a�mgw�ーAinerm��ーi�ー
Egmremn��ーEm�w�wnmー�ー��AEE �20ー��B�I1にて、�����院ー✔ 症状が典型的でない

https://www.sankei.com/life/news/190422/lif1904220037-n1.html

EI・救�救急科ー医�ー��ー��ー医医が、当�で��て�たにて血✔ 症状が軽度である

出画画像診像診断支に�する共同研究について発いいたしました�

✔ 症状が一時的に軽快する

���研究��「救急外来に��る頭�内��出A�画画ににる画画
像診像診������ジ�出�発で検�1�

EII�で人で人と�線別目線でチェック
CONFIDENTIAL

https://www.medsafe.or.jp/uploads/uploads/files/teigen-08.pdf

救急医療で出画画像診断フロ

Copyright © 2021 LPIXEL Inc.

22

Brain �megmentation 抽出事例 1/

救急外来

待合室

院内トリアージ
救急室

異常なしと判断された画像
問診・検査オーダー(画像、血液など)・治療

帰宅

見落とし発
覚

医療画画出た�
当日投影いたします

入院

翌日☀ 放射線科医による診断

患者を
呼び戻して

医療画画出た�
当日投影いたします

放射線科医によるダブルチェックまでに
タイムラグが発生！

治療※患者出�容態や医療施設によって例外あCONFIDENTIAL

Copyright © 2021 LPIXEL Inc.

20

救急医療で出画画像診断フロー with EI�
救急外来※画画人イ�ロジです

CONFIDENTIAL

Copyright © 2021 LPIXEL Inc.

23

Brain �megmentation 抽出事例 2/

待合室

院内トリアージ
救急室

異常なしと判断された画像
問診・検査オーダー(画像、血液など)・治療

画像をEIRLでダブルチェック

翌日☀ 放射線科医による診断

医療画画出た�
当日投影いたします
帰宅

見落とし発
覚

医療画画出た�
当日投影いたします

入院

患者を
呼び戻して

救急医＋EII��放+放射線科医にトリプルチェック！

治療※現在出�運用��変え
CONFIDENTIAL

Copyright © 2021 LPIXEL Inc.

21

－ 186 －

CONFIDENTIAL※画画人イ�ロジです

Copyright © 2021 LPIXEL Inc.

24

Brain �megmentation 抽出事例 3/

具体症例（医師が見落としEI��が�が発見した症

医�画像�た�
当日投影いたします医�画像�た�
当日投影いたします医�画像�た�
当日投影いたします※画像�イ�ージです

CONFIDENTIAL

Copyright © 2021 LPIXEL Inc.

25

医�画像�た�
当日投影いたします

CONFIDENTIAL

配布不可

Copyright © 2021 LPIXEL Inc.

28

Copyright © 2021 LPIXEL Inc.

29

具体症例（医師が見落としEI��が�が発見した症

製品紹介 : EIRL Chest Nodule

効率的な診断を実現する
肺結節検出サポートテクノロジー
医�画像�た�
当日投影いたします

胸部X�画像����を�たす肺結節���に��した領域（5mm〜30mmまで） を検出し、医師による読影をサ
ポートします。医師単独で読影した場合と比べ、本ソフト
ウェアを用いて読影した場合に�、����専門医で9.95%、非専門医で13.1%���が�がる�とが認��
れています。

医�画像�た�
当日投影いたします

承認番号 : 30200BZX00269000
販売名: 医用画像解析ソフトウェア EIRL X-Ray Lung nodule

Copyright © LPiXEL Inc. All Rights Reserved.

26

CONFIDENTIAL

配布不可

経時的変化（増減）表示機能

具体症例（医師が見落としEI��が�が発見した症

過去に�影された同一����胸部��画像を比較し、��で 抽された肺結節��域�経時的変化（増減率）を表示します。
�ioint 新しい結節、サイズが増加した結節を瞬時に確認可能

�経時的変化�表示���

比較した検査日付

� 新たな結節�検抽
医�画像�た�
当日投影いたします医�画像�た�
当日投影いたします� 結節サイズ�増加③ 結節サイズが過去と同等 or 減少④ 結節が検出されなくなった※過去にEIRLで解析がされた�����表示されます。

CONFIDENTIAL

配布不可

Copyright © 2021 LPIXEL Inc.

27

－ 187 －

二重枠で表
示

増減率

一枠で表示

丸枠で表
示
CONFIDENTIAL

Copyright © 2021 LPIXEL Inc.

30

具体症例（過去と比較して新たに検出された症例）
過去検査

EIRL Chest Nodule��能評価

今回検査

日本放射線技術学会が公開しているデータセット*をもとに�能を検�。特に見落として�いけない症例に�いて、EIRLが読影��として��。特異度も専門医とほ�����、�����さが特�。

難易度

医療画像�ため
当日投影いたします

医療画像�ため
当日投影いたします

JSRT
読影医
（感度）

EIRL
旧モデル

EIRL
新モデル

データセット構築及び評価に参加した医師�指指・��落として�いけない�らかなも�
・医師でなくても見れ�わかるも�

1

99.58 %

100.0 %

100.0 %

2

92.6 %

94.6 %

97.4 %

・ObviousとSubtle��間�難易度

3

75.7%

81.6%

90.0%

・専門医�わかるレベル�が、一般医�見落とす可能�あり
・�が�検�で�見落として�しくない

4

54.7%

37.9%

62.1%

・一般医にも見つけてほしいが、見落としても仕方がない

5

29.6%

20.0%

16.0%

・CT画像と合わせて後から見るとわかるレベル
・専門医（放射線科医及び、呼吸器内科医）でも見落とす

特異度

80.9%

81.7%

87.0%

�����い������

*（社）日本放射線技術学会が公開・提供する【標準ディジタル画像データベース［胸部腫瘤陰影像］】

CONFIDENTIAL

配布不可

Copyright © 2021 LPIXEL Inc.

31

システム構成例

具体症例（過去と比較して検出サイズが増加した症例）
過去検査

Copyright © LPiXEL Inc. All Rights Reserved.

34

既存システムや読影フローを変更することなくご利用可能です

今回検査

・手動転送
・自動転送 ※2
・��A�� ��

��AC

※1

����

・Ci�����e� A����ei

医療画像�ため
当日投影いたします

医療画像�ため
当日投影いたします

院内配信

1検査あたり解析時間 ※3 ：A�i�� �����i�1�

※ 1�影から��まで�時間を�くするためにモ��ティーから����
に直接転送することも可能です。
※ 2自動転送�可����AC�能に�存します。

��AC � i�iewer
CONFIDENTIAL

配布不可

Copyright © 2021 LPIXEL Inc.

32

具体症例（過去と比較して検出サイズが減少した症例）
過去検査

CONFIDENTIAL※ 3送�信�����や解析��に�存します。
Copyright © 2021 LPIXEL Inc.

����

今回検査

▰
▰
▰
▰
医療画像�ため
当日投影いたします

医療画像�ため
当日投影いたします▰▰

CONFIDENTIAL

配布不可

Copyright © 2021 LPIXEL Inc.

33

36

－ 188 －

��に�く��胸部レ�ト�����読影を�時間でこなすことが�められる��で�、医師�読影������を��に�たし、見落とし��ス��減に��てることができる。
今まで一人で読影を行っていたため、 EIRLが指摘してくれることで安心感につながります。
悩ましい症例で AIも検出してくれると安心する
医療AI�ま�ま�����が少ない�で、 EIRLを��に��することで�院と����としても�用していきたい。
��に陰�あるい��過��とされた症例に�して� EIRLが検出していなかった�で、��に�ける医師���と�い検出能�があると��。
医師�読影�りも�い時�（ 1~2�����時）に指摘が可能になる��陰影も�とめられた。

Copyright © LPiXEL Inc. All Rights Reserved.

35�����AI�����������

▰▰▰�������。�����������。
������������。���������������������������。 IDATEN������������������������。
AI�����。 保険収載・IT導入補助金等。

37

Copyright © LPiXEL Inc. All Rights Reserved.

38

Copyright © LPiXEL Inc. All Rights Reserved.

39

Copyright © LPiXEL Inc. All Rights Reserved.

－ 189 －

既存治療の限界を超えた「新しい治療」は「アプリ」で生みだされる時代へ

CONFIDENTIALCONFIDENTIAL「行動変容」という治療アプローチで未だ治療成績不良な疾患に対し治療用アプリを用いて新たな治療効用を目指す。従来の治療への上乗せ効果も期待。

厚生労働省、経済産業省共催
国立研究開発法人日本医療研究開発機構協賛（一例）

SaMDフォーラム2022 〜プログラム医療機器における産学官連携〜
2022年2月4日

産業界におけるプログラム医療機器の実用化と課題（治療分野）「社会の変化に対応して最適な医療を届けるために」行動変容という治療アプローチでこれまでとは異なる治療が可能に

従来の治療法が有効でない

従来の治療法

新しい治療法株式会社CureApp メディカル本部 薬事部長

従来の治療法が有効緒方 剛

薬理学的な観点からの治療

行動変容の視点
治療用アプリ(デジタル療法)

医薬品(薬物療法)

解剖学的観点での治療（手術/処置）
医療機器(外科療法)

米国と日本におけるデジタル療法・治療アプリの現状と展望 佐竹晃太, 日本遠隔医療学会雑誌 第14巻 第1号 平成30年6月
Sverdlov O, van Dam J, Hannesdottir K, Thornton-Wells T. Digital Therapeutics: An Integral Component of Digital Innovation in Drug Development. Clin
Pharmacol Ther. 2018;104(1):72-80. doi:10.1002/cpt.1036

CureApp, Inc.

4

アジェンダ

CONFIDENTIAL

アプリによる『治療』：エビデンスに基づく個別化されたガイダンスを提供

CONFIDENTIAL

当社の治療用アプリはアプリ自身のアルゴリズムが、収集した医学データ等を解析処理し、医学的エビデンスに基づき、患者の状況に合わせ個別化された治療ガイダンスを適時に提供します。

• 治療用アプリとは標準的治療法と当社独自の医学知見を組み合わせた自動化システム• ライフスタイルの変化に対応するために医学データ入力/
モバイル治療指示• テクノロジーの進化に対応するために治療用アプリによる治療例⮚ 院外における生活習慣是正指導⮚ 医師の判断を代替し、個別化された治療提案

治療経過の入力⮚ バイタル情報の変化を踏まえ、医師・患者双方にアラート

治療用アプリアルゴリズム医師

いつでもどこでも医療介入が可能患者

専門家の判断レベルを備えた治療ガイダンス…

診療サポートリアルタイム治療ガイダンス

アルゴリズムで患者の個別化に対応

2

アジェンダ

5

院外・在宅という「治療空白」での治療介入を実現

CONFIDENTIALCONFIDENTIAL● 現状の診療では治療介入が不十分とされている、院外・在宅における「治療空白」に対し、個人個人に最適化されたガイダンスを提供、行動変容に関する治療介入をスマー
トフォンを通して行う● 生活習慣の改善や定着を促進させ、日々病気と戦う患者様を毎日24時間フォローする• 治療用アプリとは• ライフスタイルの変化に対応するために• テクノロジーの進化に対応するために

3－ 190 －

6

アジェンダCONFIDENTIAL

治療アプリは医療の課題を解決する

CONFIDENTIAL

治療アプリはこれまでの治療方法におけるそれぞれのステークホルダーの課題を解決する独自価値を有しており、新しい医療の中での重要な役割を担うものと考えています。

• 治療用アプリとは医療費の適正化
医療格差の改善

医療行為の効率化

新たな治療効果• ライフスタイルの変化に対応するために• テクノロジーの進化に対応するために

患者

医師

医療機関

社会・財政

✔生活習慣病等、院外での治療介入が難しかった疾患に関し、治療空白を埋めるアプロー
チで治療効果を享受✔生活習慣の改善指導
等、負担の大きかった
診療行為を、治療アプ
リが個別化を備えた形で効率的に補助・代替✔従来の診療行為が効率化されると共に、新
たな治療効果・モダリ
ティにより更なる診療機会を獲得✔初期段階への新たなアプローチにより重篤化の抑制に寄与し、中長期的な医療費の適正化に貢献✔治療用アプリによる「治療の標準化」が進み、全国平等に高い水準の医療を
7

日本初の治療用アプリを開発し、上市に成功

10COVID-19がもたらしたライフスタイルの変化

CONFIDENTIALCONFIDENTIAL「CureApp SC ニコチン依存症治療アプリ及びCOチェッカー」
ニコチンの心理的依存への介入を強化させ、臨床現場の悩みを解消させるべく本品を開発、日本初となる薬事承認を2020年8月に取得後、同年12月より保険適用開始

患者アプリ

・治療経過等を記録
・治療ガイダンス等の自動・リアルタイム配信
COチェッカー・呼気CO濃度を測定・記録
医師アプリ

COVID-19はリモートワークの促進やデリバリーサービスの発展など、
我々のライフスタイル（生活習慣）に大きな変化をもたらした。
患者様に行動変容を促し、生活習慣を改善するのためのガイダンスを提供する治療用アプリ
も、ライフスタイルの変化に合わせてガイダンスを適切に変更してく必要がある。
例）運動習慣、食習慣・患者アプリのデータ表示
・診療サポートの表示

初回時の保険算定
薬事承認されたアプリ及び呼気一酸化炭素測定器を用いて禁煙指導を行った場合
・導入期加算として １４０点 （1,400円）
・装置加算として ２４００点（24,000円）

8

CureAppにて開発する疾患領域

ライフスタイルに合わせたガイダンスのアップデート

CONFIDENTIAL

アカデミア等との強固なパートナーシップを元に、「医療向け（医療機器）事業」と、その研究・開発の知見を活かした「民間法人向け事業（非医療機器）」を展開
ニコチン依
存症

がん

慢性心不全

高血圧治療アプリ

自治医科大学

2021年治験終了／薬事申請中
NASH（非アルコール性脂肪肝炎）治療アプリ

通勤時に一駅歩け！

運動習慣が身につく

治療効果

アルコール
依存症

《民間法人向け事業》

2020年12月 日本初の治療用アプリとして上市
行動変容

NASH

慶應義塾大学CONFIDENTIAL

例）リモートワークが当たり前になると…

行動変容
を促す
ガイダンス

高血圧

CureApp SC

11

東京大学

現在、探索的臨床試験実施中
アルコール依存症治療アプリ

久里浜医療センター / 岡山市立市民病院

血圧降下

現在、探索的臨床試験実施中
がん患者支援治療アプリ

第一三共株式会社

近所のジムに通え！

製品開発に向けて、第一三共と共同開発開始
慢性心不全治療アプリ

医療法人社団ゆみの治療効果に結び付く行動変容を促すための最適なガイダンスは、
ライフスタイルによって異なる。

製品開発に向けて、在宅心リハ専門家と共同開発開始

9－ 191 －

12

ガイダンスをアップデートした時の治療効果への影響

行動変容
運動習慣が身につく

CONFIDENTIAL「これまではお金を出して終わりだったが、これ（アプリ）は常に関与し続けないといけない。永久に完成しないものに国は今まで付き合ったことがない。今までの国のシステムの発注とは違う種類だった」（平井デジタル改革担当大臣）

治療効果

行動変容
を促す
ガイダンス
通勤時に一駅歩け！

従来の医療機器と治療用アプリの相違点「継続した開発の必要性」

CONFIDENTIAL

2021年02月12日 IT Media Newshttps://www.itmedia.co.jp/news/articles/2102/12/news142.html

血圧降下

?

近所のジムに通え！

ガイダンスを変更することによる治療効果への影響は無視出来ると考えられるが、プログラム総体として治療効果を発揮する治療用アプリでは、本当に影響が無視できると明確に示すのは難しい。
最悪、都度治療効果の評価に臨床試験が必要となると、莫大な費用が必要となる。

モバイル端末上で動作するアプリには継続した開発が必要である。
モバイル端末上で動作し、最新のデジタル技術の上に成り立つ治療用アプリも、継続して治療効果を発揮
し安定供給していくためには、デジタル技術の進化に合わせて継続して開発していかなくてはならない。
13

ガイダンスをアップデートした時の治療効果への影響の評価

16

治療用アプリに必要な継続開発

CONFIDENTIAL

従来の医療機器内蔵プログラム

アプリケーション

ミドルウェアガイダンスの入力が治療効果にどのような影響を及ぼすか、
データを元に解明し、評価方法を確立。

プログラム医療機器（SaMD）

治療効果

行動変容

行動変容
を促す
ガイダンス

アプリケーション
上市前の評価CONFIDENTIAL

ミドルウェア

上市後の評価OS

ガイダンス変更後の実臨床での治療効果のデータを取得し、レトロスペ
クティブに治療効果への影響が無視出来ることをモニターする。

専用機器なので基本不変

ハードウェアハードウェア

汎用機器は随時
新製品発売
OS・数百のミド
ルウェアも随時
アップデートハードウェア/OS/ミドルウェアのアップデートに合
わせて、継続的に開発を行わないと動作しなくなる。
また、常時ネットワークに接続されているため、サイバーセキュリティ対策も必要になる。

アップデートせずに半永久的に動作可能。

ガンダンス変更に伴う治療効果の維持を確認するために、新たな評価の仕組みが必要となる。

OS

保守ではなく、継続開発が必要。
17

アジェンダ

治療用アプリの保険収載のイメージと期待

CONFIDENTIAL① 日常的に稼働させるために継続開発② サイバーセキュリティ対策③ ユーザーからの問い合わせに対するカスタマーサポート

メーカー• 治療用アプリとは

CONFIDENTIAL

患者• ライフスタイルの変化に対応するために• テクノロジーの進化に対応するために

医療機関

導入加算

診察
電子的診療
報酬評価料

診察
電子的診療
報酬評価料

診察
電子的診療
報酬評価料

治療器加算

治療器加算

治療器加算

治療器加算

初診

従来の、プログラムには製造原価がないという考えとは異なり、安定供給・治療効果維持のための継続開発に対し、何らかの診療報酬上の手当が必要。
15－ 192 －

結語

CONFIDENTIAL•

治療用アプリは、未だ治療成績不良な疾患に対し「行動変容」アプローチを提供するものであり、社会的意義が大きい。

•

治療用アプリは社会の変化に対応して、最適な医療を提供し続けるた
め、継続して開発し続ける必要がある。
•

ライフスタイルの変化に応じたコンテンツ変更時の評価方法・審査の課
題•

テクノロジーの進化に合わせて、安定供給・治療効果維持のために継続開発が必要であり、何らかの診療報酬上の手当が必要

Copyright CureApp, Inc. All Rights Reserved.

－ 193 －

デジタルセラピューティクス（DTx）の例「BlueStar」 WellDoc社（米国）••••

デジタルセラピューティクス開発の現状と課題

対象疾患：糖尿病治療
メカニズム：行動変容
効果：HbA1C約2％低下（医薬品よりも高い効果）
状況：2010年 FDA 510k認可

https://www.welldoc.com/「reSET」 Pear Therapeutics社（米国）小林 博幸
塩野義製薬株式会社
DX推進本部デジタルインテリジェンス部長

•
•
•
•

対象疾患：物質依存治療
メカニズム：認知行動療法
効果：通常治療より、禁欲率が約2倍高く、治療脱落率向上
状況：2017年 FDA 新規医療機器承認

https://peartherapeutics.com/
https://www.resetforrecovery.com/our-treatments/

4

アジェンダ

世界で販売承認を受けているDTx：米国と日本

1.
2.
3.
4.

• 治療用医療機器プログラム（DTx）として承認された製品• 米国では新しいタイプのDTxが登場している（AppleWatch、VRアプリなど）

デジタルセラピューティクス（DTx）とは
世界と日本のDTx開発状況
製薬デジタルヘルス研究会について
塩野義製薬の取り組み

日本

CureApp SC (ニコチン依存症)

米国

BlueStar（2型糖尿病）
Propeller（喘息、COPD）
Insulia（2型糖尿病）
reSET（物質依存症）
reSET-O（オピオイド依存症）
Freespira（PTSD等）
Somryst（不眠症）
Parallel（過敏性腸症候群）
EndeavorRx（ADHD不注意）
NightWare（PTSD）アップルウォッチ
Luminopia One（弱視）VR

製品名：NightWare
製品形態：AppleWatchアプリ
対象疾患：PTSD患者の悪夢による睡眠障害改善
状況： FDAから医療機器承認（2020年）
メカニズム：•
睡眠中の心拍等の情報から悪夢を見ていると判定した際に振動して夢を中断•
単独ではなく、医薬品など他の治療法と組み合わせて利用•
医師による処方が必要

NightWareウエブサイト：https://nightware.com/

2

デジタルセラピューティクス(DTx)とは

5

日本国内のDTx開発状況
DTxへの参入は増加しているが、それでも数社のみ

ソフトウェア（アプリ）を用いた治療用医療機器
デジタルヘルス

運動・食事・睡眠、服薬等の管理プログラム医療機器

対象疾患

非医療

精神疾患

基準は不明瞭

デジタル診断デジタル治療(DTx)
疾患の治療（エビデンスが必要）

治験
SDT-001

田辺三菱

慢性疾患

医療

申請中

承認済み

高血圧治療用アプリ

CureApp SC

塩野義

不眠症治療用アプリ
サスメド/塩野義糖尿病アプリ

NASH治療用アプリ

BlueStar

減酒支援アプリMICIN/テルモ(Software as Medical Device : SaMD)
診断、予防、疾患管理疾患の診断（補助）計画中
鬱病治療用アプリ

アステラス

CureApp

CureApp

CureApp

CureApp

心不全治療用アプリ
CureApp（薬事承認が必要）
癌
認知症

3－ 194 －

癌支援アプリCureApp/第一三共

BPSD緩和大日本住友

6

DTxの可能性

10

DTxの位置づけ✓ アンメットメディカルニーズに応えることができる可能性

Seiyaku Digitalhealth Kenkyukai

治療用アプリは介入による治療であり医師の処方の下，患者自身の関与が大きい．
医薬品や医療機器ではなく“第三の枠”？

– 薬物並みの治療効果を発揮する製品もある– いまだに明確な治療法がない疾患への適用> 認知症、自閉症など

治療用
SaMD

✓ 日常生活における最新デジタルテクノロジーの適用可能性– 治療法が常に手元にある– 生活の一部のデジタルデバイス（スマホ）による行動変容等

診断用
SaMD

✓ 継続的に取得されるデータの活用– 製品の改善サイクル– 関係者同士のコミュニケーション（医師、家族、学校等）

デジタル技術のイノベーションが、医療（治療）のイノベーションを生み出すことに期待
7

製品販売名

クラス
分類

認証/
承認

ニコチン依存症治療システム
CureAppSC

II

承認

放射線治療計画プログラム
MonacoIII

承認

汎用画像診断装置用プログラム
Join

II

認証

内視鏡画像診断支援ソフトウェア
EndoBrain

III

承認

内視鏡画像診断支援ソフトウェア
EIRL aneurysm

II

承認

非侵襲的冠動脈診断ソフトウェア
ハートフローFFRCT

II

承認

医師の処方の下場所を問わず
患者自身が操作

医師のサポートのため医療機関で医療従事者が使用

DTx（医療機器）における保険償還の課題

医薬品に近いしかし、医療機器として承認審査、保険償還

既存の医療機器に近い

Seiyaku Digitalhealth Kenkyukai• 保険償還の不確実性– DTxは薬材料ではなく、技術料による評価› 医師の技術としての診療報酬› どのような評価がされるかわからない– 特定保健医療材料には当てはまらない

製薬デジタルヘルス研究会【例】ニコチン依存症治療アプリ及びCOチェッカー「CureApp SC」が技術料として保険適用承認（2020年11月11日）• C110-2 在宅振戦等刺激装置治療指導管理料 注２• C167 疼痛等管理用送信器加算 600 点 ４回分

9

製薬デジタルヘルス研究会(SDK)の紹介

Seiyaku Digitalhealth Kenkyukai➢ 2019年10月より、アステラス、大日本住友、田辺三菱、塩野義の4社で検討開始➢ デジタルヘルス産業における課題解決の検討・提言により、当該技術の早期浸透を通じて国民の健康増進と産業育成へ貢献する➢ 先ずは介入型のモバイルアプリを中心に課題検討を着手

法規制・市場
の環境整備
SDK活動
を通じて

有効性と
品質評価

マネタイズモデルの確立

デジタルヘルスの価値最大化

国民の健康寿命の延伸と産業育成

SaMD

ドイツのDTx政策：Digital Healthcare Act• 仮保険償還を適用– 申請後3カ月以内に仮保険償還価格を決定• 対象機器：現在19種類（2021/10/14）●SDKのコンセプト●デジタルヘルス産業における諸課題– CEマーク取得製品対象（class1、2）– 疾患の治療に貢献するアプリ– スマホアプリ、ウエブアプリ– 登録にRCTは不要– 治療効果はレトロスペクティブで可能

DTxの早期浸透に向けた提言• DTxに適した評価・承認基準の新設• 価値に応じたインセンティブ(保険償還の仕組み)

NonSaMD

導入期加算 140 点

エビデンスレベルに応じた
非医療アプリの認証制度の新設• 管掌省庁によるデジタルヘルスの認証制度の実現（トクホ、機能性表示食品などのイメージ）• 使用者が自身に適した製品を選択しやすくなる－ 195 －

Seiyaku Digitalhealth Kenkyukai
DiGAディレックトリ収載アプリ

CankadoEsystaVelibraDeprexis
ElevidaInvirtoKalmedaM-senseMasendoMindable
NichtraucherHelden
Mika
Rehappy
SelfapysomnioVelibraVorvidaViviraZanadio

乳がん
糖尿病
パニック障害、社会不安障害
うつ病
多発性硬化症の倦怠感
恐怖症、パニック障害
耳鳴り
片頭痛
膝蓋大腿痛症候群
広場恐怖症、パニック障害等
ニコチン依存症
子宮頸部癌、卵巣癌のうつ症状
等
脳卒中
うつ病
不眠症
広場恐怖症、社会恐怖症等
アルコール依存症
変形性関節症による痛み

日本のDTx産業発展のためにはSeiyaku Digitalhealth Kenkyukai

DTxを含むデジタル医療技術に適した環境整備により日本国民の健康増進、健康寿命延伸とデジタル医療産業の成長を目指す
必要な要素

課題

解決に向けたアクション

開発数

医療機器該当性判断が困難
保険償還の不確実性により投資判断困難

プログラム医療機器に係る診療報酬上の対応の検討（中医協）

企業におけるDTx開発の加速

スピード

デジタル技術進歩に追い付く承認
プロセス

早い製品改善サイクル
市場ニーズに即した製品改良

臨床試験の長期化と投資額の増大
DTxアプリの修正に関する基準が不明確

DTx流通

無形かつ医療機器であるため医薬品とは異なる処方プロセス
DTx流通の統一ルールがない

データ活用

データ流通の共通ルールがないため
データ連携が困難

医師・患者さんの利用しやすい流通
プロセス

DTx、PHRを含むデータ連携

DTxの早期浸透のためには？

Akili社（米）の開発したゲームベースのDTx
Akili Interactive Labs社（米）が開発したアクションビデオゲームをベースとした DTx（商品名：EndeavorRx）がFDAの承認及び欧州でのCEマーク を取得(2020/6/23)
対象疾患：小児（8～12歳の）不注意または混合型ADHD患者

DaSH for SaMD

プログラム等の最先端医療機器の審査抜本改革

IDATEN改善・改良計画事前確認制度

EndeavorRxウエブサイト：https://www.endeavorrx.com/

Seiyaku Digitalhealth Kenkyukai

16

ADHDのトータル治療方法の提案【例】DTxに適した臨床評価基準・承認要件の新区分の新設
・医療機器プログラムを早期に承認する新しい仕組み

開発コード
SDT-001

現状【例】DTxに特化した診療報酬の枠組み新設
医療機器プログラムを、特材でも技術料でもない、新たなカテゴリーの新設
現状【例】DTxの実証価値に応じた保険点数見直し制度
治療効果などのアウトカムを基準に保険点数を再評価（継続的な製品改良等を促す）
塩野義製薬 R&D 説明会 （2019年3月資料より）

17

SDT-001：小児ADHD患者に対する第2相試験の結果

塩野義製薬の活動

塩野義製薬 R&D 説明会 （2021年9月資料より）－ 196 －

18

サスメド社と不眠症治療用アプリの販売提携• サスメド株式会社と、不眠症治療用アプリに関する販売提携契約を締結• 不眠症治療用アプリ– 対象患者：不眠症– 第3相臨床試験> 対照群と比較して、主要評価項目であるアテネ不眠尺度（不眠重症度の指標）の有意な改善– サスメド社が薬事承認申請予定19－ 197 －

スマートフォンアプリ（ニコチン依存症治療）が医療機器認証・保険適応• ニコチン依存症を対象とした治療用アプリであるCureApp SC ニコチン依存症治療アプリ及びCO
チェッカーが中央社会保険医療協議会より了承を得て、2020年12月1日より保険適用。

• 患者は毎日、アプリ内のデジタル禁煙日記を入力し、呼吸中COを測定を行う。アプリは日記・一酸
化炭素濃度の結果から教育動画、コンテンツを患者に配信し、禁煙継続を促す。
• アプリに入力された患者の禁煙状況は医師に共有され、診療に活用される。

プログラム医療機器の研究開発支援

医師の指導に比べて約10％ 禁煙率を向上
医師の指導＋アプリ

令和４年２月４日
経済産業省

医師の指導のみ

医療・福祉機器産業室

禁煙継続率
株式会社CureApp 禁煙治療領域で世界初、治療アプリ®︎の公的医療保険適用を中医協が了承 https://cureapp.blogspot.com/2020/11/blog-post.html

3プログラム医療機器の年度別承認件数推移（国内）

個人のスマホ・ウェアラブルで動作するプログラムが医療機器へ（令和2年10月末時点）• 従来、MRI、CT等の検査データを処理、保存表示する医療機器はハード部分と合わせて医療機器の対象とされていた。2014年の改正により、汎用コンピューター等にインストールし医療機器として性能を発揮する単体プログラムも薬機法の規制対象となった。
• 当初は医療機関内の汎用コンピューターで動作するプログラムが中心であったが、2020年に個人がスマートフォン等で使用する医療機器プログラムの開発が進んでいる。
薬機法改正前（～2014年）

薬機法改正後（2014年～）

画像診断措置ワークステーション

画像診断措置ワークステーション

CT、MRIなどで撮像された画像
データの処理・表示を行う

CT、MRIなどで撮像された画像
データの処理・表示を行う

2020年
ニコチン依存症治療アプリ

放射線治療シミュレーション
放射線治療の照射方法
シミュレーション等を行う。
ソフト部分（プログラム）

家庭用心電計プログラム（Apple watch）
ソフト部分（プログラム）ソフト部分（プログラム）

ハード部分

プログラムは薬事法の規制対象外で、
ハード部分に組み込んだ形で規制。

汎用コンピューターの上で動作する、プログラムのみで薬機法の規制対象。

プログラムを更新する場合、ハード部分と合わせて更新。

主に病院のコンピューターで動作する
医療機器プログラムが上市。

 プログラム医療機器は平成25 年11 月27 日公布（平成26 年11 月25 日施行）「医薬品、医療機器等の品質、有効性及び安全性の確保等に関する法律」により次の通り新たに定義された。
 プログラム医療機器（定義）：
汎用コンピュータや携帯情報端末等にインストールされた有体物の状態で人の疾病の診断、治療若しくは予防に使用されること又は人の身体の構造若しくは機能に影響を及ぼすことが目的とされているもの。ただし、プログラム医療機器については、機能の障害等が生じた場合でも人の生命及び健康に影響を与えるおそれがほとんどないものは、医療機器の範囲から除外されている。

個人が使用するスマートフォンや、
ウェアラブルデバイス上で動作する
医療機器プログラムが上市。

https://www.pmda.go.jp/files/000238726.pdf

1Apple Watchで動作するプログラムが医療機器承認プログラム医療機器市場の広がり• Apple Watch上で動作する家庭用心電計プログラム、家庭用心拍数モニタプログラムが2020年9月4日に医療機器として承認された。

⚫ プログラム医療機器の市場規模は年22％の規模で拡大と予測されており、スマートフォン/タブレットやウェアラ
ブルデバイスの発展が期待されている。医療機器市場におけるプログラム医療機器市場規模は2020年時点
で4.1％だが、2027年には23.9％まで成長する見込み。

• 家庭用心電計プログラムはApple Watchを介して取得したユーザーの心電図データを解析し、不整脈を示唆する波形を検知する。ユーザーはプログラムの結果をもって病院に受診し、不整脈の診断・治療を受ける。
一般的な心電計（肢誘導）右手首

4Appleの心電図アプリケーション

左手首

Ⅰ
Ⅱ

Ⅲ

左足首

両手、左足に電極を装着。
３方向の電気信号を記録することができる。

本体ケース裏側および本体左側のデジタルクラウンが電極になっている。右手をデジタルクラウンに触れ測定。
１方向の電気信号を記録することができる。

Appleの心電図アプリケーションの使用説明 https://www.apple.com/legal/ifu/ecg/Apple-Japan-Instructions-for-Use-IFU-ECG-App-1.0.pdf

2－ 198 －

5

厚生労働省におけるプログラムの医療機器該当性に関する取組みプログラム医療機器実用化促進パッケージ戦略
１.一元的な相談窓口

３.出口を見据えた開発支援（１）相談の一元的対応（１）開発推進事業費補助金

医 療 機 器 プ ロ グ ラ ム （ SaMD ） 、 非 医 療 機 器 ソ フ ト ウ ェ ア（Non-SaMD）いずれも相談可能な窓口の設置
guideline.med-device@meti.go.jp①開発相談、②事業化相談、③支援機関のご紹介 etc..

• 「プログラムの医療機器該当性に関するガイドライン」が2021年3月に公開され、該当性判断に関するフローチャートが公開された。また該当性を判断した事例について厚生労働省HPで公開。
該当性判断に関する
フローチャート作成

多様な疾患領域で開発が進むよう 、さらなる開発支援事業の充実を検討。

プログラムの医療機器該当性の判断事例（２）開発から上市までの継続的支援

医療機器開発支援ネットワークによる「伴走コンサル」
により事業戦略から上市までを継続的に支援。

２.厚生労働省・PMDAとの連携（１）開発ガイドライン作成

新規参入向けにガイドブックを作成し公開
セルフケアを支える機器・ソフトウェア開発の基礎知識
https://md-guidelines.pj.aist.go.jp/?p=125705

医療機器・非医療機器における出口戦略
医療機器（医療機器プログラム）

医学的表現可能
承認範囲内
誤認表示禁止等

公的医療保険民間保険・健康経営等

自由に設定可能※公的医療保険制度では公定価格

患者

糖尿病患者が入力又は複数デバイスから転送された 非該当：データの記録及び管血糖値や体重、血圧等をデータ管理し、個人の記録 理が目的であり、疾病の診断ま管理用として表示、保管、グラフ化するプログラム。
たは評価をしない。

承認・認証

（なし）

訴求力
広告規制

医学的表現厳禁

入手・使用方法• 医療機器に該当する場合に対応すべき規制（業許可・広告規制等）について紹介。
ガイドブックに掲載されている具体事例「とっさの育児」

個人による健康チェック計測

ユーザーが使用

ビジネスモデル

民間保険・健康経営等

価格設定

自由に設定可能一般アプリ・ソフトウェア（非医療機器）

医療機器プログラム

誤記表示禁止等構成
1. 医療機器プログラム該当性の基本的考え方2. 医療機器・非医療機器における出口戦略
3. 広告・表示に関する規制
4. クラスＩ相当のプログラムの扱い・標榜
5. 事例紹介公表：2021年3月（健康モニタリング/
兆候検出）

介入

（健康増進/
疾病治療）

子どもの症状を入力すると対処法を教えてくれるアプリ「Appleの心電図アプリケーション」「リリアムスポット」

不整脈の兆候を自宅で判断する、Apple Watchで動作するアプリ。

尿の貯まり具合を教えてくれ、
高齢者の排尿を支援する
家庭・介護現場向け機器「CureApp SC」「カロママプラス」

ニコチン依存症の
自宅での治療を補助する
CO測定機器＋アプリ

食事の写真をとると、食事の栄養分析を行い
健康アドバイスを行うアプリ

セルフケアを支える機器・ソフトウェア開発の基礎知識 R2年度版［ガイドブック］
https://md-guidelines.pj.aist.go.jp/wp-content/uploads/2021/03/book02_selfcare_software.pdf

710

医療機器の分類と薬機法規制プログラム医療機器実用化促進パッケージ戦略⚫ 薬機法上、疾病の診断・治療・予防での使用を目的とする物、および身体の構造または機能に影響を及ぼすことを目的とするものは医療機器に該当する。

⚫ ただしプログラムのうち機能障害が生じた場合でも人の生命、健康に影響を与えるおそれがほとんどないもの（クラスⅠ相応）は医療機器へ該当しない。
国際分類

薬機法の分類
医療機器および医療機器で動作するプログ
ラム

汎用（非医療用）コンピュー
ティングプラット
フォームで動作するプログラム

クラスⅠ

クラスⅡ

クラスⅢ

クラスⅣ

不具合が生じた場合でも、人体へのリスクが極めて低
いと考えられるもの

不具合が生じた場合でも、人体へのリスクが比較的低いと考えられるもの

不具合が生じた場合、人体へのリスクが比較的高いと考えられるもの患者への侵襲性が高く、不具合が生じた場合、生命の危険に直結する恐れがあるもの

一般医療機器管理医療機器

具体例

体外診断用機器
鋼製小物、X線フィルム、歯科技工用用品

MRI装置、電子内視鏡
体温計、歯科用合金規制

届出

第三者認証(注1）

具体例

健康管理機器等

家庭用心電計プログラム
禁煙治療補助システム

規制なし

第三者認証(注1）

9• スマートフォン、ウェアラブル機器で動作するソフトウェアの開発において、医療機器該当性について予見性をもった開発が実施できるよう、これまでに上市された事例を紹介するガイドブックを作成。

薬機法・景表法

医薬品等適正広告基準

グラムである。

プログラムの医療機器該当性に関するガイドラインについて（薬生機審発0331第1号，薬生監麻発0331第15号）https://www.pmda.go.jp/files/000240233.pdf
厚生労働省 医療機器プログラムについて https://www.mhlw.go.jp/stf/seisakunitsuite/bunya/0000179749_00004.html

医薬品等適正広告基準

医療者の指導に基づきユーザーが使用

判断ポイント
非該当：疾病の診断・予防を「セルフケアを支える機器・ソフトウェア開発の基礎知識」の作成
非医療機器（ヘルスソフトウェア）

必要

非接触型センサーを用いて、バイタルサインを確認し、 行うものではなく、生存確認・異サービス提供者に安否連絡を行う。
常確認のためだけに使用するプロ

ガイドブックの内容に関するセミナーを開催
6（一般医療機器を除く）

健常人

健康管理用
プログラム

（２）セミナー開催

厚生労働省医療機器審査管理課、監視指導・麻薬対策課、PMDAプログラム医療機器審査室との情報共有、相談

製品概要

安否確認
プログラム

・アプリ対応により心電図、血圧の測定を可能にする。
・心電図：電極センサーで心電図信号を測定し、心房細動の有無を判断する。心房細動以外の不整脈 該当：心電図や血圧を計測し、健常人は確認できない。
疾病の有無を判断する。
・血圧：光学センサーにより、血圧と脈拍を測定、管理する。
・パーキンソン病患者に対し、医療従事者が治療方針
パーキンソン病
非該当：クラスⅠ相当の医療を決定する際の参考情報を提供するプログラム。
症状管理 医療従事者
・質問に対する回答を点数化し、医師への助言を提示 機器プログラムである。
支援プログラムする。

（１）医療機器開発ガイドブック第2版（２）関係機関との連携

使用者

ウェアラブル
製品

４.SaMD促進のための情報発信

厚生労働省、国衛研による次世代医療機器評価指標に合わせた医療機器開発ガイドラインの作成。
①医用画像診断支援システム（人工知能技術を利用するものを含む）（2019年度）②個人が使用するプログラム医療機器に関して作成予定（2021年度）

名称等

３.出口を見据えた開発支援（１）相談の一元的対応（１）開発推進事業費補助金

医 療 機 器 プ ロ グ ラ ム （ SaMD ） 、 非 医 療 機 器 ソ フ ト ウ ェ ア（Non-SaMD）いずれも相談可能な窓口の設置
guideline.med-device@meti.go.jp①開発相談、②事業化相談、③支援機関のご紹介 etc..

２.厚生労働省・PMDAとの連携

高度管理医療機器
透析器、人工骨、人工呼吸器

１.一元的な相談窓口（１）開発ガイドライン作成

ペースメーカー、人工心臓弁、ステントグラフ
ト厚生労働省、国衛研による次世代医療機器評価指標に合わせた医療機器開発ガイドラインの作成。
①医用画像診断支援システム（人工知能技術を利用するものを含む）（2019年度）②個人が使用するプログラム医療機器に関して作成予定（2021年度）

大臣認証（PMDAで審査）
放射線治療における線量計算プログラム（２）関係機関との連携

大臣認証（PMDAで審査）

厚生労働省医療機器審査管理課、監視指導・麻薬対策課、PMDAプログラム医療機器審査室との情報共有、相談（注1）厚生労働省が基準を定めたものについて大臣の承認を不要とし、あらかじめ厚生労働大臣の登録を受けた民間の第三者認証機関が基準への適合性を認証する制度

8－ 199 －

多様な疾患領域で開発が進むよう 、さらなる開発支援事業の充実を検討。

（２）開発から上市までの継続的支援

医療機器開発支援ネットワークによる「伴走コンサル」
により事業戦略から上市までを継続的に支援。

４.SaMD促進のための情報発信（１）医療機器開発ガイドブック第2版

新規参入向けにガイドブックを作成し公開
セルフケアを支える機器・ソフトウェア開発の基礎知識
https://md-guidelines.pj.aist.go.jp/?p=125705（２）セミナー開催

ガイドブックの内容に関するセミナーを開催
11

医療機器開発ガイドラインと次世代医療機器評価指標
連携

経済産業省

厚生労働省

目的・スコープ➢ 革新的な医療機器等の研究開発の促進➢ 医療機器等の研究開発における工学的評価
基準等の策定➢ 革新的な医療機器・再生医療等製品の開発及び承認審査の迅速化➢ 品質、有効性、安全性の確保（１）医療機器開発・事業化の支援（令和２～６年度）⚫ 医療ニーズに応えるための医療機器の開発について、我が国の中小企業が有する高度なものづくり技術を活用した開発・事業化を支援します。

⚫ ものづくり企業、ベンチャー企業、医療機関、学会等の連携により行う、医療現場⚫ 特に、国際競争力のある日本発の高度管理医療機器の開発やベンチャー
企業の参入を促進し、医療機器産業のイノベーションを推進します。

⚫ ベンチャー企業の参入促進を図るため、ベンチャーキャピタルによる対応が困難な
アーリーステージの取り組み（コンセプトの実証等）を支援します。

規参入、国際展開に関する課題に対応するため、全国79カ所に展開する『医療機器開発支援ネットワーク』を通じ、専門コンサルタントによる対面助言（伴走コンサル）等を行い、切れ目ない支援を実施します。

➢ 承認申請にあたり確認しておくべき評価項目➢ （示すことが可能であれば）評価項目ごとの品質、有効性、安全性が確保されていることを示す試験方
法⚫ 地域が持つ特長を活かした医療機器開発が行われる環境をより一層整備

し、地域における医療機器開発拠点の自立化を推進し、医療機器産業
集積（エコシステム）の形成を図ります。

のニーズに応える医療機器の開発・事業化を支援します。

（２）医療機器開発支援ネットワークの充実（令和２～６年度）《医療機器開発支援ネットワーク体制》

市場探索・
コンセプト設計

開発・試験について上市（事業化）を目指します。

定額補助(研)日本医療研究開発機構(AMED)

販売・
マーケティング

上市

医療機関、金融機関・ファンド、学会、弁護士、弁理士、販売
業界、コンサル企業・機関等

販売後
改良

事務局
(AMED)

地域支援機関連携・支援

専門支援機関PMDA、産総研、JETRO、
国衛研、医療機器センター 等（３）地域連携拠点の整備（令和２～６年度）
補助（2/3）
委託

民間企業等⚫ 医療現場のニーズと地域の優れた技術シーズのマッチング体制の整備、コーディ

ネート機能の強化等を行い、地域発の医療機器の開発・事業化を支援することにより、地域における医療機器産業集積（エコシステム）の形成を図ります。

12

セルフケアを支える機器・ソフトウェア（プログラム） WG 令和3年度活動計画

浅原 弘明

※ 座長

株式会社 MICIN Public Affairs / Legal

上野 太郎

サスメド株式会社 代表取締役社長

鹿妻 洋之

一社 電子情報技術産業協会(JEITA)
ヘルスケア IT 研究会 主査

加藤 浩晃

デジタルハリウッド大学大学院 客員教授
アイリス株式会社 取締役副社長CSO

共同体構築による事業化を支援するため研究開発を支援⇒医療機関 + ものづくり中小企業 + 製販企業

京都大学 医学部附属病院
医療情報企画部 教授

黒田 知宏※ 鈴木 孝司

公益財団法人 医療機器センター 認証事業部 審査役

高熊 万之

田辺三菱製薬株式会社 創薬本部 創薬基盤研究所
主任研究員

谷川 朋幸

株式会社CureApp 最高医療責任者（CMO）

検討対象（案）• 本ガイドラインの対象は、プログラムによる介入（適切な情報提示とそれを活用した心理療法、運動療法、栄養指導）を行う機器・ソフトウェアである。
• また、個人単独での使用、又は、個人とサービス提者（医療従事者を含む）の間での使用を意図している。

15

出口を見据えた開発支援 開発推進事業費補助金
医工連携イノベーション推進事業

医療機器開発ガイドライン評価検討委員会

WGメンバー：８名（敬称略・50音順）

（ニーズ）

共同体
大学・
研究所

＜製品、サービス設計におけるポイント＞
・３つの段階に分類し、考慮すべき事項を記載
①目標設定
②情報入力
③プログラムによる介入＜実装方法についての技術的検討＞
・機能別のモジュールとして実装行う方法（１）開発推進事業費補助金

２.厚生労働省・PMDAとの連携（１）開発ガイドライン作成

厚生労働省、国衛研による次世代医療機器評価指標に合わせた医療機器開発ガイドラインの作成。
①医用画像診断支援システム（人工知能技術を利用するものを含む）（2019年度）②個人が使用するプログラム医療機器に関して作成予定（2021年度）（２）関係機関との連携

厚生労働省医療機器審査管理課、監視指導・麻薬対策課、PMDAプログラム医療機器審査室との情報共有、相談

必須
申請

製販企業
※事業期間中取得予定も可販売

承認、認証⚫ 医薬品医療機器総合機構（PMDA）⚫ 米国食品医薬品局（FDA）⚫ 第三者認証機関 等

卸企業
代理店

【医療機関】+【中小企業】に加え、事業化のためには【製販企業】が必要

16

医工連携イノベーション推進事業 二次公募 採択案件

プログラム医療機器実用化促進パッケージ戦略

医 療 機 器 プ ロ グ ラ ム （ SaMD ） 、 非 医 療 機 器 ソ フ ト ウ ェ ア（Non-SaMD）いずれも相談可能な窓口の設置
guideline.med-device@meti.go.jp①開発相談、②事業化相談、③支援機関のご紹介 etc..

（販売）

顧客（国内、海外）

13（１）相談の一元的対応

ものづくり
中小企業

医療機関 必須

医療機器等開発ガイドライン https://md-guidelines.pj.aist.go.jp/?page_id=2761

３.出口を見据えた開発支援

（技術）

必須

本年度の検討内容

１.一元的な相談窓口

相談者

医療機器開発支援ネットワーク（事務局：AMED）

自治体、商工会議所、公設試等条件（対象者、対象行為、補助率等）

国

製造・サービス
供給体制

ネットワークによる伴走コンサル(開発・事業化のノウハウ支援)⚫ 本事業による助成終了後、5年経過した時点で採択の30%以上の製品➢ 評価指標は、法的な基準という位置付けではなく、技術開発の著しい製品を対象として現時点で考えられる評価項目を示したものであり、製品の特性に応じて、評価指標に示すもの以外の評価が必要である場合や評価指標に示す評価項目のうち適用しなくてもよい項目があり得る

専門家

医療機器開発・事業化の知見・ノウハウを活用した
伴走コンサルにより切れ目ない支援を実施します

成果目標

位置づけ
➢ 開発ガイドラインは、法的な基準という位置付け
ではなく、製品の特性に応じて他の試験方法が利用可能な場合や、開発ガイドラインに示した試験方法が適切でない場合もあり得る

事業目的・概要⚫ また、医療機器の開発に際し、知財・法務等の課題や、異業種からの新

内容➢ 評価項目についての工学的試験方法等（標準化されていない試験方法については標準化を提案する）

事業イメージ

事業の内容

次世代医療機器・再生医療等製品
評価指標

開発ガイドライン

商務・サービスG 医療・福祉機器産業室

医工連携イノベーション推進事業
令和４年度概算要求額 19.2億円（20.8億円）

アルコール依存症治療用アプリに関する開発・事業化（株式会社CureApp）
アルコール依存症患者を対象に、アプリを通じて認知行動療法などの治療を行う治療用アプリ。
これまでにアプリを用いた臨床試験により有効性・安全性が検討されており、今回、アプリを医療機器として開発する案件が、事業に採択。

多様な疾患領域で開発が進むよう 、さらなる開発支援事業の充実を検討。

（２）開発から上市までの継続的支援

医療機器開発支援ネットワークによる「伴走コンサル」
により事業戦略から上市までを継続的に支援。

糖尿病の個別化栄養治療を支援する新医療機器プログラムの開発・事業化（株式会社asken）

４.SaMD促進のための情報発信

２型糖尿病患者において個別化された食事療法の設計を支援するプログラム。患者の年齢、体重や病態から食事療法を設計する
ことを支援する。また患者が撮像した食事内容や体重情報から、食事療法を更新し、糖尿病患者の個別化治療を実現する。

（１）医療機器開発ガイドブック第2版

新規参入向けにガイドブックを作成し公開
セルフケアを支える機器・ソフトウェア開発の基礎知識
https://md-guidelines.pj.aist.go.jp/?p=125705（２）セミナー開催

ガイドブックの内容に関するセミナーを開催
AMED事業にCureAppが代表機関のアルコール依存症治療アプリプロジェクトが採択 https://prtimes.jp/main/html/rd/p/000000074.000015777.html

14－ 200 －

17

令和4年度医工連携イノベーション推進事業
応募区分

開発･事業化事業想定される医療機器や技術の例※(A) ソフトウェアを用いた診断・治療の実現

・ ニコチン依存症治療アプリ
・ がんの再発検知アプリ
・ 救急医療効率化アプリ(B) 遠隔・在宅診断・治療への対応

・ 在宅透析機器
・ 遠隔モニタリング機器
・ 在宅用超音波画像診断装置(C) 老化により衰えた生体機能の補助強化

・ 生体電位信号を用いたリハビリ・治療機器
・ 人工骨/人工関節
・ 人工感覚器（コンタクト/補聴器）(D) 次世代の担い手を育む成育サイクルへの対応

・ 良好な精子選定に用いる画像診断器・ 胎児向け内視鏡外科手術システム
・ 体外/顕微授精支援システム(E) 循環器･糖尿病などの生活習慣病への対応

・非侵襲血糖値センサー
・心血管ステント・人工心臓/人工腎臓(F) 既存の治療手段の改良・廉価化

・ 既存の治療機器全般
・ クラスⅢ、Ⅳの輸入超過の国産化(G) 従来にはない革新的な治療や低侵襲治療の実現

・ 単孔式内視鏡システム
・ 小型可搬ECMO・ 脳動脈向けウェブ型コイル(H) 従来にはない革新的な診断や高度化された画像・光学診断の実現

・ 新バイオマーカーによる診断機器
・ 画像情報に基づくAI自動診断
・ 治療支援画像診断システム※想定される医療機器や技術の例はあくまでも例であり、記載された医療ニーズや目標を達成する医療機器開発課題応募を期待する。

０～３課題
程度

０～４課題
程度

18

－ 201 －

プログラム医療機器み承認審査
独立行政法人 医薬品医療機器総合機構
プログラム医療機器審査室
岡﨑 譲
��D��ーラム����41.

プログラム医療機器に関連する
最近み�取組み��
2

5

��D�������

プログラム医療機器実用化促進パッケージ戦略
DA �H for ��aD��D������ �o��� fo����f�� A���f� �o������� �� ��������o� fo ��D� f ���o� �� � ������� D������
１.萌芽的シーズの早期把握と審査の考え方の公表

２.相談窓口の一元化（１）萌芽的シーズの早期把握（１）相談の一元的対応

プログラム医療機器に関する国内外の状況調査を実施。PMDAとも連携。

（２）特性を踏まえた審査の考え方の整理・公表
国立衛研で具体的評価指標作成。PMDAとも連携。

３.プログラム医療機器の特性を踏まえた審査制度（１）特性を踏まえた効率的審査の実施
海外データ・先進医療データの活用、品質管理体制の事前確認制度創設 等（２）変更計画確認手続制度（IDATEN）の活用
承認後のバージョンアップ等に迅速に対応（３）革新的プログラム医療機器指定制度の検討
優先相談・審査、事前評価の充実、審査パートナー制度による審査期間短縮プログラム医療機器の実用化に関し、相談を一元的に受け付ける窓口を置き、下記の各種相談の連携強化を図る。
①該当性相談、②開発相談、③医療保険相談（２）相談事例を可能な限り整理・公表
４.早期実用化のための体制強化等（１）PMDAの専門的な審査部門の新設と厚労省内の体制強化（２）薬食審の専門調査会新設（３）産学官連携フォーラムの設置（４）承認事例公開DBの充実化 等

https://www.pmda.go.jp/review-services/f2f-pre/strategies/0011.html
36－ 202 －

重要な通知等※必ずご確認ください！

プログラム医療機器�年度別承認件数��
140

50
139

45

累計

43

•

医療機器プログラム�承認��に関する����ス���に�い�（厚生労働省医薬・生活衛生局 医療機器・再生医療等製品担当参事
官室 平成28年3月31日付け事務連絡）•

医療機器�変更計画�確認�����いに�い�（薬生機審発0831第14号、令和2年8月31日付け厚生労働省医薬・生
活衛生局医療機器審査管理課長通知）•

���医療機器評価指標���に�い�（薬生機審発0523第2号、令和元年5月23日付け厚生労働省医薬・生
活衛生局医療機器審査管理課長通知）
別紙4「人工知能技術を利用した医用画像診断支援システムに関する
評価指標」

120

40
36

35
年
度 30
別
承 25
認
件 20
数
15

100
80

累
19

60 計

19

13

40

9

10

20

5
0

0

�2�

�28

新医療機器*

�29

�30

改良（臨床あり）�1

改良（臨床なし）

�2
後発（基準なし）* 新医療機器�通�審査と��審査��計7

10

医療機器���に応�た承認�度■法第23��2�10�2第6項■

第1項で確認を受けた「変更計画」に��た変更を��日�省令で��る日数��でに届出たとき�、承認を要しない。
通常の手続
臨床データ
等の収集

申
請

審査

承
認

適応拡大等のための変更計画の策定

データ等の収集申請適応拡大等のた
めの変更
計画の策定

変更
申請

審査

承認事項の
変更

適応拡大
等

あらかじめ予定されていた結果が得られているか等をチェックする

変更計画を用いた手続
臨床データ
等の収集

必要なデータが全て集まってから
承認事項の一部変更申請を行う

審査

承
認

変更計画の
申出

確
認

計画に従った
データ等収集

変更
申請
変更
届出

チェック

プログラム医療機器�評価と審査�
承認事項の
変更

位置づけ��整適応拡大等

IDATEN ： Improvement Design within Approval for Timely Evaluation and Noticehttps://www.pmda.go.jp/review-services/drug-reviews/about-reviews/devices/0039.html

811

標榜と医療機器��当�
��な���
応力解析をする

応力解析をし、�����診断をする

人����診断・
�療���で�ない人����診断・
�療���である

非該当

該当

���ス��診断等に用いる
��な標榜�できない

��な�能が評価でき��、�����診断に�する標榜ができる2.

プログラム医療機器�
評価と審査
9

12

－ 203 －

な�位置づけ����重�か？

該当性に迷ったら・・・

臨床的位置づけ
・ 何を評価すべきかを考える起点となる・ ���を��するた����となる
etc …

https://www.mhlw.go.jp/stf/seisakunitsuite/bunya/0000179749_00004.html
13

16

な�位置づけ����重�か？

�品������ト

身長、体重、年齢

過食

運動量

適切

���食事��ロ��

ど��うな機能を持つ�品か

少食

ソフトウェアど��うな��に�づい�る�か・・・という機能を持つソフトウェア。どういう位置づけにする？

ど��うな��が�う�か（�が、�に）・非医療機器

糖尿病患者のHbA1cを改善������
予防

体重が気になる方に！

• 医療機器？
•（評価するな�で�れ�）本品を�え������が予防できるか。
（でも��評価を�なっ�でも医療機器にしたいか？？）ど��うな��をもたらすも�とし���するか• 医療機器• ����c���ができる�
とを評価（でも食事ログだけで本当にできる
�か？）
14

17

医療機器と判断されたら・・・

プログラムの医療機器該当性に関するガイドライン

認証基準がある
認証基準がない⇒⇒

認証（又は承認）申請が必要！
承認申請が必要！

業許可も必要、必要な製造所の登録も必要！

https://www.pmda.go.jp/review-services/drug-reviews/about-reviews/devices/0039.html
1518－ 204 －

どんな評価をしようか

プログラム医療機器�評価と���どんな評価をするか考える

臨床的������か？
ど�ような臨床ニーズに応えようとした�か？

臨床ニーズに応えるためにど�ような仕様�製品を実現したか�発�ン�プト�
達成できているか？

���ン�プト�
達成できているか？

ど�ような�医療機器”を評価しようとしているか
19

22

���考え� � �認�������断����トウ�ア�評価�例�発�ン�プト�
達成できているか？

医療機器���に応�た製�������を��ていないとき
当該医療機器を製�する製��が製�����を��ていないとき

� ��品�������、��い�れかに該当するとき� 効���性能を有すると認められないとき
� 効���性能に�して�し�有�な作用を有することにより、使用価値がないと認められるとき
� 医療機器として�適当と�生����が�めたも�に該当するとき。
�

医療機器�製��に��る製���・品������が、
���基�に適�していると認められないとき

���ン�プト�
達成できているか？

臨床的有用性

臨床性能

基本的な性能臨床的なアウトカムに貢献するか

臨床データに対して適切な性能を発揮できるか意図した仕様通りに製品実現できているか例：
CADをつかった読影とCADを使わない読影

例：
CADにデータを入力した
際���・���

例：
実�した機能�
基本的な動作検証
ベンチテスト
CAD

��断成績を��し成績が向上すること��機����������
2023

�認�����ント：
有効性と��性�リスクベ����トバランス

プログラム医療機器�リスクプログラム製品って��に対するリスク�ないですよ�？

リスク
臨床上でもたらされる
有効性

��的な��がないこと���しますが・・・・ 参考情報を提示する� �適切な参考情報��適切な判断を�発しないか。
Ex. 適切 → 栄養バランスも適切と判断してしまう。
カロリー���で���な�ても�����・・・

ベネフィット
臨床現場に導入された際に発生し得るリスク・ 行動変容を促す� �適切な���ー�等��入��療機��
逸失等につながらないか。
Ex. 適切 → 上����でも���え・・・
根拠資料とともに説明！

21

24－ 205 －

プログラム常療機医通評価療���• 評価通�考え方��通常療機医療機器• 開発コンセプト方�達成できているか• 設計コンセプト方�達成できているか• 評価方法：非臨床、臨床（要否通�検討• プログラム医療機器にもリスク方あある��検通��ント�
開発コンセプト、設計コンセプトは明確か

25

����常療機医通��に��い����
開発
探索

開
発
前
相
談
まずは
全般相談、
SaMD総合相談へ！
（無料！！）

臨床
試験

非臨床
試験

（プ
性ロ
能ト
、コ
安ル
全・
性評
、価
品相
質談
）

臨 （プ
床 探ロ
試 索ト
験 治コ
要 験ル
否 ）・
評
相
価
談
相
談

レギュラトリーサイエンス相談

プ
ロ
ト
コ
ル
・
評
価
相
談
（
治
験
）

承認
申請
資
料
充
足
性
・
申
請
区
分
相
談
26

ご清聴ありがとうございました

Pharmaceuticals and Medical Devices Agency
27－ 206 －

令和4年度保険医療材料制度改革の骨子（令和3年12月22日材料部会）

SaMDフォーラム2022～プログラム医療機器における産官学連携～
2022年2月4日（金）15:30～15:45 ＠オンライン

2021年4月1日

プログラム医療機器の医療保険上の評価

厚生労働省

医政局経済課

医療機器政策室
4

プログラム医療機器の保険適用って…？

プログラム医療機器の保険適用の流れ■医療機関のインフラ的ソフトウェア
ベッドサイドモニタの情報を集約・管理
CT等の画像データを遠隔地の医師と共有

プ
ロ
グ
ラ
ム
医
療
機
器
に
関
す
る
一
元
的
な
相
談
窓
口
（
Ｐ
Ｍ
Ｄ
Ａ
）

プ
ロ
グ
ラ
ム
の
開
発

等

■医療従事者の判断をサポートするソフトウェア
放射線治療計画の策定補助
CT等の画像データから病変部位を検出

等

新しい世界

■患者が直接操作し治療等をサポートするソフトウェア

①
医
療
機
器
該
当
性
に
関
す
る
こ
と
（
厚
労
省
医
薬
・
生
活
衛
生
局
）

②
薬
事
開
発
に
関
す
る
こ
と
（
Ｐ
Ｍ
Ｄ
Ａ
）

③
医
療
保
険
に
関
す
る
こ
と
（
厚
労
省
医
政
局
）

医療機器に該当するもの※ 保険外併用療養として、保険導入に向けてデータ収集を行う枠組み（先進
医療）あり

薬
事
承
認
・
認
証

有効性・安全性等を踏まえ、保材専・中医協において評価

保険適用希望書

保険
適用※ 製品の特性によって、・ 技術料に平均的に包括して評価されるもの
・ 特定の技術料に加算して評価されるもの
・ 特定の技術料に一体として包括して評価されるもの
・ 特定保険医療材料として評価されるものがある。
※ 企業の保険適用希望書等を踏まえ、既存技術よりも医療上の有用性が高い場合は、価格を加算するなどして評価

医療機器に該当しないもの※ 医療機器該当性の判断に係る明確化・精緻化のために、具体的な事例について、
厚労省のＨＰに随時公開している。

2020年に治療用アプリが初めて薬事承認され、保険適用

非 臨
臨 床
床 評
評 価
価 ・

今後、開発が活発化！？

医療機器に該当しないと判断された際の使用目的等で用いる場合、保険診療上の制限はない。

市
販

・データの加工・処理を行わない（表示、保管、転送のみを行う）もの・利用者への情報提供を目的としたプログラム
・機能の障害等が生じた場合でも人の生命及び健康に影響を与えるおそれがほとんどないもの 等※ 医師の働き方改革の視点を踏まえて、医師の診療をサポートすることにより、例えば、より少ない医療従事者で同等の質が確保できる場合には施設基準等に反映することもありうる。

令和3年11月12日

診療報酬の構成と診療報酬における医療機器の対価

中央社会保険医療協議会保険医療材料専門部会 材-1より5

プログラム医療機器の実用化の例（イメージ）①• 保険医療機関及び保険薬局が、保険医療サービスに対する対価として保険者から受け取る報酬。

○

Ｘ線画像の読影補助を行うプログラム

※
※

【目的】
医師によるＸ線画像の読影を補助するプログラム

本資料はあくまでイメージであり、個別の製品の評価を規定するものではない。
医療機器の該当性については、「プログラムの医療機器該当性に関するガイドライン」（令和３年３月31日）を参照されたい。

医師の読影を補助し、治療方針等の決定に寄与するものとして、医療機器に該当しうる。

【機序】・異常陰影の可能性のある病変を検出する。

https://www.mhlw.go.jp/bunya/iryouhoken/iryouhoken01/dl/01b.pdf

診療報酬保険導入を前提としておらず、患者の選択によるものについては、選定療養（保険外併用療養）の仕組みの活用がありうる。

※

2

画像診断という特定の診療行為に関連するものであり、「技術料」として評価しうる。

・異常陰影が分かりやすいように他の構造物（骨など）の陰影を減弱・消失させる。
【期待されるアウトカム】
・読影検出能（異常陰影の可能性のある病変を検出する能力）の向上・医師の技術の均てん化：非専門医により、放射線科専
門医に劣らないレベルの読影ができるようになる

特定保険医療材料以外の保険医療材料

技術・サービスへの対価

一 プ
元 ロ
的 グ
な ラ
相 ム
談 医
窓 療
口 機
器
に
関
す
る

プ
の ロ
開 グ
発 ラ
ム

医科・歯科・調剤
特定保険医療材料

既存技術よりも明らかに病変を検出する能力が高ければ、加算として評価しうる。

医療機器に該当するもの

非 臨
臨 床
床 評
評 価
価 ・

医療機器該当性の判断に係る明確化・精緻化のために、具体的な事例について、
厚労省のＨＰに随時公開している。

薬価（医薬品）・材料価格（医療機器）

薬
認 事
承
証 認
・

保険外併用療養として、保険導入に向けてデータ収集を行う枠組み（先進医療）あり

※

※

物への対価

医療機器に該当しないもの※※

有効性・安全性等を踏まえ、保材専・中医協において評価

保険適用希望書

保
険
適
用

市
販

医療機器に該当しないと判断された際の使用目的等で用いる場合、保険診療上の制限はない。

等

医師の働き方改革の視点を踏まえて、医師の診療をサポートすることにより、例えば、より少ない医療従事者で同等の質が確保できる場合には施設基準等に反映することもありうる。
保険導入を前提としておらず、患者の選択によるものについては、選定療養（保険外併用療養）の仕組みの活用がありうる。

－ 207 －

業界提供画像※ 製品の特性によって、・ 技術料に平均的に包括して評価されるもの
・ 特定の技術料に加算して評価されるもの
・ 特定の技術料に一体として包括して評価されるもの
・ 特定保険医療材料として評価されるものがある。
※ 企業の保険適用希望書等を踏まえ、既存技術よりも医療上の有用性が高い場
合は、価格を加算するなどして評価

・データの加工・処理を行わない（表示、保管、転送のみを行う）もの・利用者への情報提供を目的としたプログラム
・機能の障害等が生じた場合でも人の生命及び健康に影響を与えるおそれがほとんどないもの

3※

専門医と同等の読影ができるということであれば、専門医を要件とする施設基準を緩和しうる。

6

汎用モバイルIT機器に情報を提供するプログラム②

プログラム医療機器の実用化の例（イメージ）➁○治療計画の立案補助を行うプログラム

※
※

【目的】
医師による治療計画の立案を補助するプログラム

本資料はあくまでイメージであり、個別の製品の評価を規定するものではない。
医療機器の該当性については、「プログラムの医療機器該当性に関するガイドライン」（令和３年３月31日）を参照されたい。

手術という特定の診療行為に関連するものであり、「技術料」として評価しうる。

治療による切除範囲を最適化することにより、悪性腫瘍の根治率の改善や合併症の減少等がなされるのであれば、加算として評価しうる。

【期待されるアウトカム】
・治療計画の質の向上

単に計画作成に要する時間が短縮するということであれば、加算としての評価ではなく、包括して評価されうる。

・計画作成に要する時間の短縮

一 プ
元 ロ
的 グ
な ラ
相 ム
談 医
窓 療
口 機
器
に
関
す
る

プ
の ロ
開 グ
発 ラ
ム

医療機器に該当するもの

非 臨
臨 床
床 評
評 価
価 ・

薬
事
認 承
証 認
・

保険外併用療養として、保険導入に向けてデータ収集を行う枠組み（先進医療）あり※

医療機器該当性の判断に係る明確化・精緻化のために、具体的な事例について、
厚労省のＨＰに随時公開している。

※

医療機器に該当しないもの

有効性・安全性等を踏まえ、保材専・中医協において評価

保険適用希望書※

業界提供画像保険
適用※ 製品の特性によって、・ 技術料に平均的に包括して評価されるもの
・ 特定の技術料に加算して評価されるもの
・ 特定の技術料に一体として包括して評価されるもの
・ 特定保険医療材料として評価されるものがある。
※ 企業の保険適用希望書等を踏まえ、既存技術よりも医療上の有用性が高い場
合は、価格を加算するなどして評価

医療機器に該当しないと判断された際の使用目的等で用いる場合、保険診療上の制限はない。

市
販

・データの加工・処理を行わない（表示、保管、転送のみを行う）もの・利用者への情報提供を目的としたプログラム
・機能の障害等が生じた場合でも人の生命及び健康に影響を与えるおそれがほとんどないもの※※

平成28年度診療報酬改定説明会資料より抜粋

医師の治療計画立案を補助し、治療方針等の決定に寄与するものとして、医療機器に該当しうる。

【機序】・手術による切除範囲をシミュレーションする。

等

医師の働き方改革の視点を踏まえて、医師の診療をサポートすることにより、例えば、より少ない医療従事者で同等の質が確保できる場合には施設基準等に反映することもありうる。
保険導入を前提としておらず、患者の選択によるものについては、選定療養（保険外併用療養）の仕組みの活用がありうる。

https://www.mhlw.go.jp/file/06-Seisakujouhou-12400000-Hokenkyoku/0000115977.pdf

7プログラム医療機器の保険適用の流れ（事例①）
プ
ロ
グ
ラ
ム
医
療
機
器
に
関
す
る
一
元
的
な
相
談
窓
口
（
Ｐ
Ｍ
Ｄ
Ａ
）

プ
ロ
グ
ラ
ム
の
開
発

①
医
療
機
器
該
当
性
に
関
す
る
こ
と
（
厚
労
省
医
薬
・
生
活
衛
生
局
）

②
薬
事
開
発
に
関
す
る
こ
と
（
Ｐ
Ｍ
Ｄ
Ａ
）

③
医
療
保
険
に
関
す
る
こ
と
（
厚
労
省
医
政
局
）

※ 医療機器該当性の判断に係る明確化・精緻化のために、具体的な事例について、
厚労省のＨＰに随時公開している。

医療機器に該当するもの

※

非 臨
臨 床
床 評
評 価
価 ・

保険外併用療養として、保険導入に向けてデータ収集を行う枠組み（先進
医療）あり

薬
事
承
認
・
認
証

プログラム医療機器の保険適用の流れ（事例②）

有効性・安全性等を踏まえ、保材専・中医協において評価

保険適用希望書※ 製品の特性によって、・ 技術料に平均的に包括して評価されるもの
・ 特定の技術料に加算して評価されるもの
・ 特定の技術料に一体として包括して評価されるもの
・ 特定保険医療材料として評価されるものがある。

医療機器に該当しないと判断された際の使用目的等で用いる場合、保険診療上の制限はない。

市
販

保険導入を前提としておらず、患者の選択によるものについては、選定療養（保険外併用療養）の仕組みの活用がありうる。

令和3年11月12日

中央社会保険医療協議会保険医療材料専門部会 材-1より

①
医
療
機
器
該
当
性
に
関
す
る
こ
と
（
厚
労
省
医
薬
・
生
活
衛
生
局
）

②
薬
事
開
発
に
関
す
る
こ
と
（
Ｐ
Ｍ
Ｄ
Ａ
）

③
医
療
保
険
に
関
す
る
こ
と
（
厚
労
省
医
政
局
）

※ 医療機器該当性の判断に係る明確化・精緻化のために、具体的な事例について、
厚労省のＨＰに随時公開している。

・データの加工・処理を行わない（表示、保管、転送のみを行う）もの・利用者への情報提供を目的としたプログラム
・機能の障害等が生じた場合でも人の生命及び健康に影響を与えるおそれがほとんどないもの 等※ 医師の働き方改革の視点を踏まえて、医師の診療をサポートすることにより、例えば、より少ない医療従事者で同等の質が確保できる場合には施設基準等に反映することもありうる。
※

プ
ロ
グ
ラ
ム
医
療
機
器
に
関
す
る
一
元
的
な
相
談
窓
口
（
Ｐ
Ｍ
Ｄ
Ａ
）

プ
ロ
グ
ラ
ム
の
開
発

保
険
適
用

※ 企業の保険適用希望書等を踏まえ、既存技術よりも医療上の有用性が高い場合は、価格を加算するなどして評価

医療機器に該当しないもの

108

汎用モバイルIT機器に情報を提供するプログラム①

医療機器に該当するもの

非 臨
臨 床
床 評
評 価
価 ・

※ 保険外併用療養として、保険導入に向けてデータ収集を行う枠組み（先進
医療）あり

薬
事
承
認
・
認
証

有効性・安全性等を踏まえ、保材専・中医協において評価

保険適用希望書

保険
適用※ 製品の特性によって、・ 技術料に平均的に包括して評価されるもの
・ 特定の技術料に加算して評価されるもの
・ 特定の技術料に一体として包括して評価されるもの
・ 特定保険医療材料として評価されるものがある。
※ 企業の保険適用希望書等を踏まえ、既存技術よりも医療上の有用性が高い場合は、価格を加算するなどして評価

医療機器に該当しないもの

医療機器に該当しないと判断された際の使用目的等で用いる場合、保険診療上の制限はない。

市
販

・データの加工・処理を行わない（表示、保管、転送のみを行う）もの・利用者への情報提供を目的としたプログラム
・機能の障害等が生じた場合でも人の生命及び健康に影響を与えるおそれがほとんどないもの 等※ 医師の働き方改革の視点を踏まえて、医師の診療をサポートすることにより、例えば、より少ない医療従事者で同等の質が確保できる場合には施設基準等に反映することもありうる。
※

保険導入を前提としておらず、患者の選択によるものについては、選定療養（保険外併用療養）の仕組みの活用がありうる。

令和3年11月12日

中央社会保険医療協議会保険医療材料専門部会 材-1より

11

CureAppSCニコチン依存症治療アプリ及びCOチェッカー①

平成27年12月11日中医協総会資料より抜粋

製品特徴・ 本品は、バレニクリンを使用して禁煙治療を行うニコチン依存症患者に対し、標準禁煙治療プログラムを実施する際に使用することで禁煙治療の補助を行うシステムである。
・ 患者アプリ、 COチェッカー及び医師アプリより構成され、呼気ＣＯ濃度の測定結果、患者が入力した喫煙状況、患者用アプリからの質問への応答等に基づき、ニコチン依存症の理解及び禁煙に関する行動変容の定着を促すメッセー
ジや動画等を提供する。
患者アプリ
ニコチン依存症の理解及び禁煙に関する行動変容の定着を促すメッセージや動画等を提供
COチェッカー
呼気CO濃度を測定し、患者アプリに送信
医師アプリ
患者アプリの進捗の確認等
診療のサポート
https://www.mhlw.go.jp/file/05-Shingikai-12404000-Hokenkyoku-Iryouka/0000106752.pdf

9－ 208 －

令和2年11月11日

中央社会保険医療協議会資料 総-1-1より

12

CureAppSCニコチン依存症治療アプリ及びCOチェッカー②

まとめ

臨床上の有用性• 「プログラム医療機器」と一言で括っても、開発コンセプトは千差万別！

・ 国内で行われた第Ⅲ相臨床試験において、標準禁煙治療に本品を上乗せした群は、標準禁煙治療のみの群に比べ、高い継続禁煙率を示した。

• 医療機器毎にユニークな医療上の課題を解決するものとして開発された背景があることから、これまで個別的に保険上の評価がされている。

本品群• 令和4年度診療報酬改定に向けて、プログラム医療機器の保険適用における考え方は一度整理されたが、整理された考え方に当てはまらないようなプログラム医療機器も多いと考え※継続禁煙率：その間に禁煙できていた患者の割合

る。

準用点数

• 開発の初期段階から、経済課や学会、臨床現場等と情報共有をいただき、どういった保険「Ｂ００１－３－２ ニコチン依存症管理料」に加えて○適用があり得るのかに対して、十分に議論を重ねることが重要であると考える。

準用技術料

C110-2
注2

C167

アプリを導入することに関する医師の指導管理料

在宅振戦等刺激装置治療指導管理料
導入期加算

140点

疼痛等管理用送信器加算600点

令和2年11月11日

材料に関する加算

4回分

中央社会保険医療協議会資料 総-1-1より

13

プログラム医療機器の保険適用の流れ（事例③）
プ
ロ
グ
ラ
ム
医
療
機
器
に
関
す
る
一
元
的
な
相
談
窓
口
（
Ｐ
Ｍ
Ｄ
Ａ
）

プ
ロ
グ
ラ
ム
の
開
発

①
医
療
機
器
該
当
性
に
関
す
る
こ
と
（
厚
労
省
医
薬
・
生
活
衛
生
局
）

②
薬
事
開
発
に
関
す
る
こ
と
（
Ｐ
Ｍ
Ｄ
Ａ
）

③
医
療
保
険
に
関
す
る
こ
と
（
厚
労
省
医
政
局
）

医療機器に該当するもの

※

薬
事
承
認
・
認
証

非 臨
臨 床
床 評
評 価
価 ・

保険外併用療養として、保険導入に向けてデータ収集を行う枠組み（先進
医療）あり

16

プログラム医療機器に関する取り組み

有効性・安全性等を踏まえ、保材専・中医協において評価

保険適用希望書

保険
適用※ 製品の特性によって、・ 技術料に平均的に包括して評価されるもの
・ 特定の技術料に加算して評価されるもの
・ 特定の技術料に一体として包括して評価されるもの
・ 特定保険医療材料として評価されるものがある。
※ 企業の保険適用希望書等を踏まえ、既存技術よりも医療上の有用性が高い場合は、価格を加算するなどして評価

医療機器に該当しないもの※ 医療機器該当性の判断に係る明確化・精緻化のために、具体的な事例について、
厚労省のＨＰに随時公開している。

医療機器に該当しないと判断された際の使用目的等で用いる場合、保険診療上の制限はない。

市
販

・データの加工・処理を行わない（表示、保管、転送のみを行う）もの・利用者への情報提供を目的としたプログラム
・機能の障害等が生じた場合でも人の生命及び健康に影響を与えるおそれがほとんどないもの 等

一元的窓口の設置時から、開発相談と医療保険相談を同時に実施し、開発から保険適用までを見据えた相談を実施中！

※ 医師の働き方改革の視点を踏まえて、医師の診療をサポートすることにより、例えば、より少ない医療従事者で同等の質が確保できる場合には施設基準等に反映することもありうる。
※

保険導入を前提としておらず、患者の選択によるものについては、選定療養（保険外併用療養）の仕組みの活用がありうる。

令和3年11月12日

14

中央社会保険医療協議会保険医療材料専門部会 材-1より

17

Claria MRI CRT-D シリーズ、Viva CRT-D シリーズ
製品特徴•

本品は、頻拍変動感知型抗上室性頻拍ペーシング機能（Reactive ATP機能）を有する植込型除細動器である。

•

Reactive ATP機能は上室性頻拍の興奮の頻度、および規則性の変化を自動的に検出し、その状態に合わせた抗上室性頻拍ペーシング機能（A-ATP機能）を繰り返し送出し、心房細動の持続時間を減少させる機能である。

ご清聴ありがとうございました。

タイムインターバル
リズム変化
A-ATP機能によってエピソードが止まらなかった場合に、 同一エピソード内における心房リズムの規則性及びサイクル
一定の時間（エピソードの初期検出からの経過時間）を経 長の変化を検出し、その変化に応じて繰り返しA-ATP機能の過したのちに再度A-ATP機能が送出される機能。
送出が可能となる。

臨床成績•

大規模後ろ向き観察研究において、Reactive ATP群はコントロール群と比較して心房性頻拍イベントの持続化リスクを低減させた。
（７日以上持続する心房性頻拍イベントを27％低減）
類似機能区分
144両 室ペーシング機能付き植込型除細動器

144両 室ペーシング機能付き植込型除細動器

令和2年8月19日

外国平均価格

費用対効果評
価への
該 当性

1.03

なし

1.08

なし

第475回中央社会保険医療協議会総会

総-2より

医療機器・体外診断用医薬品の保険適用について、ご質問等がございましたら、気軽にお問い合わせください。
E-mail；kikihoken@mhlw.go.jp

15－ 209 －

18

参考資料

⑤

SaMD フォーラム 2022 参加者アンケート結果

SaMDフォーラム2022 アンケート結果
Q1. 所属先（属性）Q3. フォーラム感想Q2. フォーラム開催情報入手元

Q5. 次回フォーラム参加希望

具体的内容（Q4）については別紙参照－ 211 －

Q6. SaMD開発状況

Q7. 開発ステージ

Q8. 開発課題

具体的内容（Q9）に関しては別紙参照－ 212 －

Q4：フォーラムの内容に対する具体的な感想等
1)

米国などと比較して非常に遅れていることも含めて日本の現状を知ることができた。
また、承認における課題、知財、マネタイズなどで課題が多くあることを認識できた。

2)

新規の御話は少なかったように思います。一方で、定期的に確認できる機会は重要なので、Brush up に役に立ちました。行政については、時間のわりに Volume が多く、頭に入りにくかったです。

3)プログラム機器の開発の概要を知ることができたため

4)

SaMD への産学官の活動の現状やそれぞれの考え方が分かり、大変参考になりました。

5)

当社は医療物流システムの専門で 25 年間開発・営業を行ってきましたが医療機関よりの現場から諸々の要望が出てきますので新分野に参加して行く道筋が見えてきました。世界標準の GS1 標準等を使用して世界に通じる製品を開発して行きたい。

6)

弊社も今後プログラム医療機器製造販売に注力するため

7)

SaMD の代表的な製品、企業の方々の話を聞くことができたので。

8)

実際に SaMD を上市まで持っていった開発者の方の話や行政の方の考えを聞けたのでよかったかと思います。今後は SaMD を使用した医療機器はどんどん増えていくと思いますし、日本だけ取り残されてしまうことのないようにしていくことが必要かと思いました。

9)

行政の方向性が理解できたため。

10)

当社も参入を考えているため

11)

トップランナーの方々の話が聞けてよかったです。

12)

産学官連携の状況、各々の視点でディスカッション及び発表が行われ、大変勉強になった。プログラム医療機器は当社でも取り扱いがあるため、今後の対応について検討
したい。

13)

SaMD 開発における共通課題や保険収載についての現在の取り組みが聞けた点。

14)

各お立場からの関係各所への要望を知ることができ、国内の現状が理解できた

15)

それぞれの立場からの課題や今後の展望が伺えて勉強になった

16)

他製品開発での経験や製薬企業様での取り組み紹介は、開発方針を検討するうえで有
益でした。

17)

産学官の特徴的な悩みが共有される場がとても貴重であった。

18)

スライドがもらえるともっと良い。

19)

情報収集のひとつとして参加させていただいたが、ガイドラインの根拠も示していただけていたため

20)

産官学の立場からの現状認識と課題について、いわゆる当事者の生の声が聴けたため

21)

先行している方々の話を聞くことが出来た。

－ 213 －

22)

保険上の考え方や、今後の展開など考える機会となりました。

23)

SaMD に取り組む業界の空気感を良く理解することが出来ました。ありがとうござい
ます。

24)

産学官の最先端の情報を網羅的かつ統合的に拝聴できたため。

25)

各方面からの率直な意見を聞くことができた。

26)

プログラム医療機器の取り組みが国を挙げてのプロジェクトであることが良く理解
できた。

27)

最新のプログラム医療機器のお話が聞けたため、また関係各位の皆様の熱意あるリー
ダーシップに触れられたため

28)

開発課題、薬機法、保険制度など総合的な情報を得ることができた。

29)

SaMD の開発促進、実装化に向けた現状と課題が理解でき、産学官一丸となって取り組む姿勢に感銘を受けました。

30)

行政側の意見が聞けたこと。

31)

プログラム医療機器を開発中で、開発課題、非臨床試験の課題、診療報酬の課題と、課題だらけの為。

32)

比較的、一般論などが多く、突っ込んだ議論がなかった。 （逆に、こうあるべき、という政策提言的なものや、こんなことで困った、という話は非常によかった）

33)

SaMD については全くの素人であったが、現状の課題について理解することができた。

34)

様々な立場からの SaMD に関する見解、経験等が語られて、自分の知見を広げることが出来たと思いました。

35)

どのような課題があるのか把握ができた。 課題が明確に共有されたことと、これが本当に今後の産官学を通じて活発に議論され、日本の医療前進につながることを期待
している。

36)

目新しい内容が無かった。

37)

SaMD を開発、申請するにあたり、医薬品、医療機器と共通する点、SaMD 特有の問題点などが把握できました。

38)①通知に記載されている内容であっても、事例を交えて具体的な内容を紹介いただいた。 ②どんな苦労・課題があるか共有いただいた。

39)

医師法における医療行為と、今後、発達するさまざまなデジタル技術をバックグラウ
ンドとした医的サービスの、定義に関する問題が明らかになったから。

40)

開発が伸び悩んでいる理由の解消に役立つと思ったため。

41)

SaMD 開発から上市を経験されたそれぞれのアプリを代表する先駆者から、具体的な苦労話や現状の課題を聞くことができたため。

42)

多くの課題があること、産官学の皆さんがプログラム医療機器の推進に向け、引き続
きコミュニケーションが必要で、前向きに進めたいとの意向が見えて良かったです。

－ 214 －

43)

貴重な情報が入手できました。 ただ、プレゼン資料に貴重な情報がありましたが、十分にメモが取れないものが多くありました。 プレゼン資料の配布があると良かった
です。

44)

技術者としては、技術的に確立されているのに製品が中々出せないことに対して理解が浅かったのですが、診療報酬の評価であるとか、薬事であるとか、ビジネスとして製品を作っていく上では、考慮するべきことがあるということが分かりました。

45)

産官学からの SaMD の先駆者的な先生方の講演と座長の中野先生の鋭い切り口でのパネルディスカッションで、さまざまな課題が深堀されたと思います。

46)

行政側、企業側、アカデミック側等、様々な観点からの意見が聞けた事は意義が大きい(日本における現状や、今後導入していけそうなヘルスケア分野等)

47)

SaMD の有用性評価、診療報酬評価のあり方、等々について様々な事例に触れることができ勉強になった。

48)

産官学の第 1 線で活躍されている話が聞けたため。

49)

話題が、多岐隅々を網羅しつつも、各トピックの中身がたいへん深かった（生々しかった）ため。 進行も円滑で、脱帽しました。

50)

医療機器開発の今後への期待が伺われた。

51)

データ利活用の可能性、課題の認識を新たにした。

52)

開発支援や承認申請の支援をする中で、要求事項の複雑さや診療報酬上の後押しが十分ではないと感じることが多いと感じていたが、同じ思いがあることを知った点はよかった。ヘルスケアに使用されている non-SaMD も提供されているがビジネスとして成り立ちにくい側面を持っていることも存在することを理解して頂ければ幸いです。

53)

各企業および組織の製品や取り組みの説明が多かった。調べても出てこないような情
報こそがこういった会の魅力だと思うので、その点で役立つ情報とは言えないと感じた。

54)

産学官のそれぞれの立場の意見が聞けたこと。 SaMD に特化していたこと。 今後の方向性を知れたこと。

55)

治療アプリでの IDATEN を使用した届出・変更についての課題点。保険償還は業界団体等の要望から反映されるので要望を伝える必要があること

56)

具体的で、自社が直面している（するだろう）課題と対策の一部が整理できた。

57)

SaMD で新規参入を目指したい場合、開発はもちろんですが、ある意味それ以上に業許可に必要な ISO 認証、QMS 文書化、品責確保などのほうが壁になることも少なくないかと思います。 これから SaMD で医療機器製造販売業を取得したい場合に具体的に具体的にどうすれば良いのかの道筋があるととても良いと思いました。

58)

SaMD に対する行政側の見解をうかがうことができた。 また、実際の開発側の実情をうかがうことができた。

59)

既に見聞きした情報も多かったが、新しい情報もあった。まとまった内容が聞けた点も良かった。

60)

時間制約があり深さという点では少し物足りない印象を受けましたが、開発課題、薬－ 215 －

事課題、保険課題という 3 つに分けて行われた総合討論は分かりやすくて有意義でした。
61)

日本でトップを走られている方々が直面している課題等の一端を共有いただけたこと。弊社事業展開においても、プログラム医療機器及び SaMD については十分あり得るため、非常に参考になりました。

62)

各方面からの発表がとても有益だったが、議論は深まらなかった63)

プログラム医療機器はこれからもっともっと多様化する思われ、今後の展開がある程
度理解できました64)

企業やアカデミアの課題がよく理解できた

65)

プログラム医療機器の規制緩和の話だけで、話が一方的に思えました。

66)

企業の出口戦略としての、保険評価上の予見性の確保が重要と考えられるから。

67)

今後検討していくべき課題について認識できた。

68)

プログラム医療機器の承認の動向を理解出来た為

69)

開発企業サイドの人間として、現状の課題と今後に向けた議論の内容が理解できた。

70)

各領域の第一線の方から発表いただき、
SaMD 関連についてアップデートできたため。
特に、三澤先生、古川先生、経済課の堀岡様からのご発表が有益でした。

71)

きわめて真摯で堅実な議論で、将来に向けた可能性を感じさせるものであった。

72)

ご発表自体は他の SaMD 講演で聞いたものも多かったですが、最後のディスカッショ
ンが大変参考になりました。

73)

SaMD に厚労省が頑張っているのがよくわかった。取り組みに熱心ということは、今後その取組に乗っかる人たちの声も拾ってもらいやすそうとういポジティブな印象
を受けた。

74)

産官学で抱えている課題・期待を共有できた点．

75)

各演者の発表によって、最新の知見が得られたこともさることながら、このようなフォーラムで産官学のステークホルダーが一堂に会し開催されることで、SaMD の発展に関係者が皆協力していく姿勢と気運を感じ、とても嬉しかった。

76)

内容の内、70％程度は既知情報であり、新たな情報は少なかった。知識の再認識がで
きた。

77)

現在の産学官の課題など実際に開発経験を通してのお話が聞けたところは大変貴重な機会でした。

78)

プログラム医療機器の保険収載が難しいという事

79)

SaMD が従来の医療機器の概念と異なる行動変容という価値を提供しつつあることを認識できたことです。 しかし、それに伴う従来の薬事承認では難しい審査資料の在り方、及び保険料の請求の仕方ということもある程度認識できたことです。 また、行政も前向きに環境の整備に力を注いでくださるという支援の現状を知りえたことです。

－ 216 －

80)

現時点の課題を共有できた。

81)

産学官の立場からの現状の SaMD 開発に関する捉え方が良くわかったため。

82)

SaMD について先端で、開発、薬事承認、制度改革されている方達の生の声が聞けて楽しかったです。まだ課題が沢山ありますが、関係者が連携して医療を改善していく
熱意を感じました。

83)

SaMD の開発状況、国際情勢における我が国の位置づけ、開発、薬事、保険収載などの課題など、包括的な情報を得ることができた。

84)

これほど多様なステークホルダーが集まった中での講演、総合討論は見ごたえがあった。 立場は違えどある程度問題意識は共有していることも分かったので、産学官でどう足並みをそろえて問題に立ち向かうのかが次のステップに繋がるのだろうと感
じた。

85)

知らなかった制度やそれを使用する際の問題点などを理解できた。

86)

適切な事例紹介とわかりやすい解説で大変参考になりました。

87)

開発から保険収載の領域で、SaMD に関わる現状と課題を把握することができた。

88)

今後国内で SaMD を振興していく上での課題が可視化・共有されたから。

89)

医療機器開発における課題を改めて確認し、今後のプログラム医療機器の展開をイメージすることができました。

90)

SaMD について事例も交えながら初心者にもわかりやすかった。 また、厚生労働省さま・経済産業省さまの担当者様のご説明も 医療機器を製造するスタートアップなどを応援するという気持ちが感じられて希望が持てた。

91)

PMDA は、国民の医療に貢献することを意識して、イノベーションを開発、発展に産学官連携に一層努力してください。 病院に導入することは、ちゃんと診療報酬で加算されなければ、診断や治療に使うことができない。学会では多くの知識を得ることができるが、スピード感をもって実臨床に繋いでほしい。

92)

SaMD のおかれた状況について、最新情報が得られたからです。

93)

SaMD の薬事承認までのプロセスにおいて実際に経験した内容や承認審査のポイントなどを聞くことが出来て、今後の開発の参考になりました。

94)

これだけの情報を一気に聞ける場はこれまでになかったと思います。個別に聞いたことのある内容でも、同じフォーラム内でのご発表ということで、演者がそれぞれ相互作用したような発言が聞けたのも興味深かったです。そして、Discussion はそれぞれのお立場からの意見ということで大変参考になりました。

95)

臨床研究や治験にたいする取り組みをベンチマーク。経産省・厚労省・PMDA 各視点の確認など。

96)

プログラム医療機器の益々の発展が、国民、患者さんの為になる事が改めて認識できると共に、プログラム医療機器の有効な利活用では、企業だけが頑張ってもダメ、ア
カデミアの臨床研究だけでもダメ、承認する規制当局部局、保険適用に係る部局と、全てのステークホルダーの協力で初めて具現化でき、今回のようなコミュニケーションが重要です。

－ 217 －

97)

苦労話や今後の展望が聞けて良かった。

98)

1997 年 NewGCP になり、その時から世界的に通用する医療分野であるべきと日本の医療業界の事業開発に関与して来ましたが、各組織では優秀な人材がいる日本ですが、ことなる組織を繋げ、日本の医療が目指すべきゴールイメージが大分描ける様になったと思われました。

99)

産学官の協力した取り組みが国際競争力を醸成するためには不可欠と思っています。
その意味ではまずは開発品を市場に走らせながら改善していくフローが必要と考えています。規制が先にありきではなく、今回のテーマであるプログラム医療機器などは走らせてから規制を作ることでもリスクは少ないと思いますし、過渡的に考えるのであれば、納入先のトレーサビリティーを確立して、何か生じた時は、メーカの責任で回収をする。何しろ国際的な競争力の中で勝ち残っていく必要が日本の国には求められていると感じています。会の益々の発展を期待しています。 ありがとうございました。

100) 国家としての医療機器プログラムの支援体制の強化が認識でき、AI 関連の導入事例
や医療機器プログラム開発における課題を学べたことが有意義であった。
101) プログラム医療機器の産、官、学の現状を知ることができた。また、海外の発展のげんじょうについても理解することができた。 医療機器の審査に引っ張られることな
く、別領域としてプログラム医療機器の開発が促進されるよう、産官学の連携が強まることを願っています。
102) 弊社も今後プロクラム医療機器の製造販売に関与するため
103) 厚労省、経産省の立ち位置が分かった。
104) まさに最先端で SaMD 開発にかかわっておられるアカデミア、ベンチャー、当局の方々の意見が聞け、議論のレベルが高く参考になりました105) 自社でプログラム医療機器を取扱っておらず、当面の間、プログラム医療機器を取扱う予定が無いため。 ただし、情報収集としては役に立ったと考える。
106) 産官学それぞれの立場の方々からご講演をいただき、SaMD 開発におけるポイントや現状の課題について理解を深めることができたため。
107) 医療機器開発における各省庁のスタンスを認識できた。
108) プログラム医療機器の課題が把握出来ました。
109) 産官学それぞれの立場からの意見をきくことが出来た
110) 私は IT 企業に所属しているのですが、医療アプリの開発（支援は可能）というよりは、アプリを動かすための基盤（クラウド）構築を提供しております。今後海外並みに承認が進めば、日本の産業界も活性化されるので期待しています。
111) 様々な立場の演者から、お考えを聴くことが出来たので、大変、勉強になりました。
112) AI 機能を含むプログラム医療機器の最新の規制動向や課題等を知ることができた。
113) どの方の講演も当事者意識にあふれていて、教科書的な事実の羅列ではなく、まさに手探りで頑張っていますという感じがあったから。
114) プログラム医療機器開発における共通課題認識が持てた。

－ 218 －

115) SaMD 関連の内容で、正に実践で考えていくための基礎知識となりました。ありがとうございました。
116) 医療アプリの開発に着手しており、医療機器プログラムの審査に興味があった
117) 各省庁の前向きな取組みがモチベーションになりました118) 課題や規制について情報を整理することができた。
119) 現状と開発時における課題がよくわかった。 日本の SaMD 開発の推進する議論が必要だということが理解できた。
120) 具体的な実例に基づき説明いただいたため、とても勉強になりました。
121) 最後の総合討論の部分がまとめも含めとても良かった。
122) 申請に必要な評価から、保険戦略まで、具体的な事例をもって意見を伺うことができ、非常に参考になった。
123) プログラム医療機器の課題や取り組みについて、各立場からの現状について話を伺うことが出来、大変役に立った。
124) 殆どは他の医療機器セミナー等で聴講した内容とあまり差異はなかった。保険収載に関する厚労省の情報は聞けて良かった。
125) SaMD における国内外の市場動向理解が深まりました。
126) SaMD 承認に至る各プロセス上の留意点、保険評価の整理等、今後、開発を進めていくうえで参考になりました。
127) 様々な企業（特にベンチャー）が努力して SaMD の開発を行っているにも関わらず、製薬企業の努力がまだまだ足りていないことがよく分かりました。
128) 現在の日本における課題がサマライズされており、大変勉強になりました。最後のディスカッションまでは残れなかったのですが、それぞれの発表のエッセンスは理解できたかなと思います。私自身の職務上はまだダイレクトな関係はないのですが、情報は把握し、職務につなげられたらと考えております。
129) SaMD の薬事申請に関することを聞くことができた130) 弊社が SaMD の開発を目指しているため、あまり情報がない中でしたので、本日で様々な情報を知ることができました。
131) SaMD の最新の状況および課題がよく理解でした。 また、将来にむけた課題や方向性について、関係者の意見を聞くことができた。
132) SaMD の現況を理解できたから。
133) 急遽ご案内いただき参加したため別の MTG 等もありすべてを拝聴できませんでしたが、各所からの社会的要請の高さを垣間見ることができつつ、SaMD 開発に関わる立場として今後の企画開発にむけてますます意欲が高まりました134) SaMD における課題や、特性に合わせた規制緩和や今後の目指すべき仕組みの具体的な内容を把握することが出来た。
135) 医療機器プログラムが、海外で進んでいることが認識できました。

－ 219 －

136) 医療機関側の技術開発だけでなく、行政の方針を知る機会になり、今後の動き方の参考になった137) プログラム医療機器の現状を知ることができた。
138) 新たな治療法としての SaMD に話題が偏っていた。診察や医療行為を補助する SaMDについても AI の導入に壁があったり、診療報酬対象としての認識から漏れていたりする。SaMD 全般に対する課題としての議論も欲しかった。時間が限られているので仕方がないと思うので、別の機会を望む。
139) 最新の動向を、産官学の 3 つの視点から聞くことができ、理解が深まったため
140) SaMD に関するセミナーがいくつも開催されるようになりましたが、海外の最新技術について知るようなものが多く、本当に何をしなくてはいけないか、日本でどのような取り組みが行われているかについては、取り扱いがありません。また、Dash 等の政策があっても、そこに結びつくための準備段階についても課題が多い状況です。その中で、人材育成も必要だと感じています。一方、どこへ向かっているのか？についても、また、どうありたいか？についても話し合う場が必要です。このフォーラムは、その役目を果たしてくれそうだ、と思いました。多様な製品が登場することは想像に難くありません。その来歴も多様なものがあります。ですから、環境整備も大変だろうと推察しております。それぞれの思いがぶつかる可能性も、フォーラムの中にはあると思いました。唯一、心意気を揃えるとしたら、患者さんのために、ということなのだと思います。そうしたメッセージも発信し続けていただきたく思います。
141) SaMD についての行政の取り組み、企業の取り組み方について理解が深まりました。
開発、薬事での考え方、障壁について事例を挙げていただいたので問題点や課題がよ
くわかりました。
142) 開発、薬事、保険の課題が整理されて理解できた。
143) 間接的に聞いていた事柄が当事者の方々から事例を含めて解説等聞くことができて、誤解や知らない点を含めて、全く新しい分野ながら、何が重要かの再整理ができました。
144) 産官学それぞれの立場での最新の情報が得られた
145) 最新の企業のお取り組み状況や、国としての各種支援詳細が理解できたためたいへん学びの多い機会でした。ありがとうございました。
146) 産学官のそれぞれの考え方を知ることが出来た。
147) 行政、企業、関係機関の話を総合的に拝聴できた。
148) AI・SaMD の製品化動向、規制につきポイントとなること、及び課題を聞くことができた。
149) PMDA 申請の注意点、アカデミー側と企業側の知財問題、保険点数が取れない場合、企業と使用施設側の問題などいろいろな側面での見解と議論を聴講させていただき、とても役に立ちました。
150) 産学官それぞれの立場からの実績紹介と課題の共有を行う貴重な機会になったと思います。
151) 産官学の現状と課題を共有してもらえたのが大変有用であった。

－ 220 －

152) 医療機器内臓のプログラムではなく、通常のスマホアプリの範疇だと感じた。
153) 産学官それぞれの観点から SaMD に関する情報を得られたため。
154) 最新の動向や、規制当局の動きについて理解できました。
155) SaMD 開発や相談をする際のポイントなどを実例を挙げていただいたことでイメージしやすかった。
156) あまり新しい情報はなかった
157) 課題が何かがある程度理解できた。
158) 承認当局サイドの仕組み・取り組み・考え方を知ることができたため
159) プログラム医療機器に対する各ステークホルダーの考え方を理解することができた。
160) 発表は既に知っている内容が多く、議論の回答ははっきりしないものが多かった。
161) AI 開発での問題点の理解と対応を検討できる
162) 産官学それぞれの立場の最新情報があり、とてもよかった。
163) プログラム医療機器の開発の進め方や問題点について理解できた。
164) 現在、ソフトを開発しており、様々な事例が役立ちそうです。
165) 他社の状況、他例を知ることができたため、役に立った。
166) PMDA プログラム医療機器の審査承認に関するプレゼンや、endoBRAIN に関するプ
レゼンが分かりやすかった。
167) 各演者の立場で「SaMD」の課題について講演してくれたので、SaMD 開発から保険償還の各過程ででの課題が洗い出されたのは勉強になった168) 国としても SaMD を重要視している姿勢を感じることが出来た。この先さらに加速するソフトウエアの進化スピードに日本の医療業界として適切に追従することができれば、国としての競争力を高めることが可能になると切に感じます。
169) AI を含めた医療機器開発を進めるにあたって参考になったため
170) SaMD の現状について、それぞれ耳にしたことはあったが、整理してお聞きできたこと 産官学それぞれの視点での理解が深まったなど 大変有意義でした171) 医療機器の上市の経験をお持ちの先生方の課題認識を共有できた172) 講師陣もすばらしく充実した内容でした173) これまでの事例、保険適応の基本的な考え、現時点での問題点などがわかったため。
174) 現状の説明があったから
175) 最新の SaMD 関連の事情、課題が密度濃くまとまっていた176) 課題がおそらく各社一緒で、実際のシーンを共有頂いた。
177) 沢山勉強いたしました－ 221 －

178) 研究者、企業、審査機関、行政から、いろいろな事例を聞けたことが、非常に有意義であった。
179) 更新情報をフォローアップできた180) AI 開発の実情や問題点がわかった。
181) この分野で事業をしたいと考えていたため
182) 病院、企業、省庁それぞれの現状を聞くことができ、有意義でした。
183) 具体的な課題の共有があり、課題解決に向けたやり取りも行われたこと。
184) 具体的になってきていることが分かった。
185) SaMD あるいは non-SaMD の区分けを理解出来た。
186) 今のところ、プログラム医療機器に直接係わっておりません。が、世界と日本における SaMD の開発状況の比較など、興味深く拝聴しました。予想通り、少なくとも日本の行政は、他みて倣うスタンスですね。
187) プログラム医療機器を製品化する流れやガイドライン等の感じがつかめました。
188) 実用化されている AI 医療機器の開発経緯のご紹介や、保険適用へ向けた取り組みの話など、初めて知る話ばかりで、今後の自分の開発計画にとても参考になりました。
189) 研究結果を実際の現場へ生かすことが困難であることが分かったから。
190) アカデミア、産業界、行政の取り組み内容が分かった。
191) 審査の考え方、医療機器該当性など
192) 新しい内容がどちらかというと少なかった193) もう少し行政側の検討が進んでいることを期待したが、あまり新た情報はなかった。
194) プログラム医療機器に関わってなかったため、これまでの経緯から現状や問題点が、とてもわかりやすく良かったです。
195) 特に厚労省からの説明は今後に役に立ちます。 あと、もう少し PMDA からの説明は踏み込んでほしかった。
196) SaMD の官民の取組みが理解できた。
197) プレスリリースや資料だけでは読み取れない、期待の大きさや方向性などを感じることができた。 例えば審査制度にしても、「制度を作ったから厳密に審査する」というのと「制度は作ったが議論を重ねて改善を続ける」ではかなり温度差がある。こういった部分を感じることができた。
198) 産学官及び診断・治療に分類された情報を把握できたためです。
199) 色々と新しい知見も出てきて勉強になった200) 冒頭の塩崎氏の話が政治の内側に居た方の意見として非常に参考になりました。 他、
古川氏の認知症の事例は初めて聞く内容で勉強になりました。
201) SaMD の日本および海外のトレンドから、実際の開発者のご意見、当局である厚生労－ 222 －

働省の方のご意見など、多岐にわたる情報を聴講することができ、企業における今後の製品戦略における注意点など、参考になった。
202) クラスⅠ相当のプログラムで効果、効能を謳う必要が出てくることも考えられ、その時に、どのような仕組みで治験を行えば、効果、安全性を担保できるか、考えるきっか
けとなりました。
203) 承認申請での注意点が判った。 業界・官・学の方々の考え方が分かった204) 現在 SaMD 製品を開発中のため
205) AI の開発ではないが医療機器プログラムの開発を行っていて臨床性能試験が臨床研究にあたるのか治験にあたるのかの考え方をお聞きすることができたため
206) 業務に直結する内容だったから。
207) アカデミアや様々な企業の立場から、どのような点に課題を感じているのかがよく理解できた。
208) SaMD に対する診療報酬上のインセンティブを与える必要性の説明として、安定供給
や治療効果維持のための継続開発が挙げられていた点が参考になった。

－ 223 －

Q9：SaMD 開発における具体的な課題について
1)

事業性評価の確実性を高めるためには、保険償還の条件を明確にすることが重要と考えています。 その他の開発・薬事要件については、機構との相談等で情報提供をうけることができています。

2)

大企業ですので、PMDA よりは FDA を見ているためです。今後より、製薬と同等の要求事項が増えると考えています。一方で薬事エキスパートは相対的に Pharma より少ないという認識です。

3)

医療機器の該当性に関する相談がメールのみの受付であり、議論に深みをすることが出来ないため、開発そのものが宙に浮くことがある。

4)

臨床観点での評価指標の設定

5)

後ろ向き試験での性能評価が可能なのか、治験実施が必要なのか

6)

研究はできても、医療機器として実装するための開発経験および薬事としての承認申
請経験のある人材の確保が難しい。

7)

先ほど記載した通り、ISO13485 の取得、QMS の文書化、IEC62304 への準拠など、プ
ログラム開発の能力はあっても薬事法の要求事項を満たすために何をどこから手を付ければ良いのかわからずに路頭に迷っております。 特に国内品質業務運営責任者
は 3 年以上の経験が必要であり、探そうと思ってもどこにそのような方がいるのかわ
かりません。過去には特別講習によって 3 年以上の経験が免除されたこともあったようですが、このあたりもう少しどうにかならないものでしょうか。

8)

個人情報保護法を遵守した上での臨床データの入手が課題であると考えます。

9)

JIS 企画などの適応が複雑。 診療報酬が不明瞭。

10)

保険点数の設定方法に関するコミュニケーションを活発化させたい

11)

アルゴリズムを作製するための個人データの取扱い、性能評価試験のデザイン、市販後のアップデートに対する薬事戦略、開発投資や安定供給に必要な診療報酬設定が得られるかどうか など

12)

AI 診断のために必要な為

13)

本日の議論でもかなり明確になってきたが、現行の薬事・保険の制度は SaMD の開発に対応しきれていないと思われ、盛んに実用化されるには道は遠い。

14)

制度が理解できていない15)

サイバーセキュリティ対応，品質保証，IT，法務，知財等の連携．

16)

個人情報保護法の面ではエルピクセルの島原さんも話されていたように、具体的な事
例の紹介などを含むガイダンス文書の発出により、どこまでの同意を取得しないと商用利用のデータとして使えないのかがはっきりしないため、開発促進につながるための法律整備をさらにガイダンスなどで分かりやすく示してほしい。 PMDA との有料の相談において、治験が必要なのか、治験以外の性能評価の方法で良いのか、はっきりとしない助言を受けることがあり、何を懸念しているのか、何をクリア、説明できれば治験ではなくてもいいと思っているのか、説明してほしい。

－ 224 －

17)

データ収集にかかる費用 （非臨床試験における最低限必要なデータ数）
保険収載に向けての手続きや必要なデータなど

18)

ヘルスソフトウェアでも、十分良い製品があり、SaMD vs ヘルスソフトウェアとの有効性の大差は大きくない可能性も否定できないため（高血圧、睡眠など）。Welby、Au、
Vitality（住友生命）などが行っているサービスは使用継続のための仕掛けも良くできていて、疾患領域によっては SaMD に向いていないものもあるように思います。そのため、効果が大きく期待できそうな、精神神経系領域のものやデジタルバイオマーカ
ーで明確に有効性の差（臨床薬理）が示せるようなものが向いているのかもしれません。欧米でも、その傾向がみられているようにも思われます。国民医療保険で税金が投入されるため、やはり相応の臨床的な有用性を証明していかなければいけないこと
は、英国やドイツの例からも明らかではありますが、難しい問題です。特保的なもの
で、患者さんが効果を認識・期待して、私費で使用してみて使い続けられるような、ファンになれるような製品性が求められるような気もいたします。

19)

評価内容の充足性を判断できる事例集のようなものがあるとよいと思いました。非臨
床試験で受け入れられる事例、臨床研究データの活用事例（参考資料的に使えるのか？それとも治験データ並みに扱うものなのか）、治験ではないと評価できなかった
事例など。

20)

データの入手に関しては個情報の取り扱いなど整理されたガイドラインが出ればやりやすくなるだろうと感じる。
マネタイズの話になると保険収載の話となるが、保険加算とは違ったインセンティブを作る必要があるのではないか。インセンティブを保険で賄おうとするからひずみが生まれる気がする。

21)

ホウ素中性子捕捉療法(BNCT)用の放射線治療計画プログラムの開発を行っていて、開発費は莫大なのですが、それに対する保険点数は技術料等に含まれていると考えても十分ではなく、開発費の償還は難しい。BNCT において、BNCT 用中性子照射装置の開発費は、さらに莫大のためそちらが着目されて、保険点数が決まっているように思えますが、放射線治療では放射線治療計画プログラムも必要と考えられるため、しっかりと保険点数をつけてほしい。

22)

患者への情報共有（広告規制）。患者にとっての価値や医療従事者・介護事業者の負担軽減などの価値の評価方法が確立されていない。 普及に際しての鍵となる患者・国民への情報共有と価値の認知がなされるような仕組みの構築を望みます。 SaMD の開発、活用の推進の土台ともなるデータヘルス改革が工程表どおりに進捗し、実現することが持続的な環境の 基本になると考えています。

23)

蓄積された医療データの製品への利用、海外認証取得のコスト。「医療機関が持つ医療データの製品開発への活用と個情法や倫理指針による制約のトレードオフ」，「治験相当の臨床試験の高コスト」「FDA 承認を得るための高コスト」等

24)

材料価格が厳しい方向に改定されている中、現在の保険制度では SaMD の開発に対しポジティブなビジネスモデルが描けないため。令和 4 年度の改定でも SaMD を推進していくという姿勢は余り感じられなかった。次回以降の改定に議論の内容をしっかり反映していく、という話だが、諸外国と比較して周回遅れの現状で悠長なことを言っているなと思った。

25)

製品化後の販売体制が重要と考えています。大きな医療メーカーであればよいのですが、中小での開発は販売戦略の立案、サポート等困難な課題がたくさんあります。

－ 225 －

26)

スタートアップにとって資金問題は常に問題となってくる。 ありがたいことに
NEDO に採択された経験などもあるが、AMED の壁は厚いものがある。 今後さらなる開発を重ねて上市を目指すうえでも保険点数は重要である。日本だけでなく世界でも使用され、多くの命を救えるような医療機器の開発を今後も行っていく。

27)

どんな機能と性能があれば保険償還が見込めるのか、それはどの程度の額なのかといった売り上げ見込みが立てにくいので、開発コストとその後のバージョンアップコス
トにどの程度費やすべきなのかといった面の計画が立てにくい。 （App の場合、後々のバージョンアップが可能だが、バージョンアップによって保険償還額も update されるのか？最初に付与された保険償還額のままなのか？（日本の場合は後者の印象） 後者の場合は、開発スピードではなく、初回に薬事承認を取得する段階でいかに幅広い機能を持たせて薬事申請できるかが肝になってくる。
）

28)

今までの医薬品、医療機器とは違うので、承認審査のイノベーションも必要と考えます。また、開発に見合った保険給付がないと、継続的発展とはならないので。

29)

個人的に IRB の委員を 15 年程しており、NEDO のカタライザーもしております。また、イスラエル発技術を Life Science 事業に参入しようとしている日本企業に紹介し、事業開発コンサルティングをしています。ただ、今年 3 月に創立 60 周年を迎える弊社としては、日本のスタートアップを支援したく、特に医療分野に於ける、AI を活用した医師代行ロボット、関技師ロボット、介護ロボット等を安心して自宅で動かせる
スマートハウス関連に貢献したいと願っております。因みに昨年 7 月にマイクロソフト社が買収した CyberX 社を日本市場にも紹介しておりました。

30)

AI を用いたシステム開発をしたい場合の学習データの収集方法（個人情報の取り扱い）や検証方法などが分かり辛いこと ・AI の場合の引用規格（JIS T 2304， 13485，
14971 で良いのか。
）の適用範囲や、ＱＭＳで有体物が無い場合の出荷判定が分かり辛
いこと ・保険点数等でビジネスモデルが描けないと医療機器プログラムの分野を開拓し辛いこと（経営層はソフト分野の理解が難しい）

31)

IEC62304 がわかる人間が少ない。
度重なる仕様変更(←医師側のニーズが、何か 1 つできてしまうと、「それができるな
らじゃあこれも」とどんどんあがっていってしまう) 。
それを止められない経営陣
類似の機能を持ったものが「非医療機器」として売られている(←これは弊社がやりすぎなのではなく、非医療機器側の会社が脱法行為をしているものと個人的には認識しています) 。
技術料をとりにいこうとすると、SaMD の有無で 2 群での比較が必要となり、治験の実施がただでさえコストも手間もかかってたいへんなのに倍の被験者数が必要になる

32)

スタートアップで新たにプログラム医療機器開発に参入して、何もかもが初体験であり手探り状態である。 AMED スキームを活用したいが、狭き門である。 開発費の確保（高額）を何をするにも考えなければならない。

33)

AI による脳波解析

34)

SaMD 開発において医療機器に当たるかどうかの判断が難しい。企業がどのようなものに興味を持っているかがよくわからない。

35)

保険の予見性が立てにくいと感じております。また DTｘそのものにも有用性を示すことが難しく効果が低いように思っております。医療機器のハードウェアの付属品に－ 226 －

位置付けることが精一杯という印象です。
36)

性能（感度、特異度など）の criteria をどのように設定するか、妥当性を説明するかが難しいと感じた。出口戦略として、加算ととるにはどのようなエビデンスが必要か、
MHLW と早めに相談したい。

37)

WSI と AI による遺伝子異常予測、病理学的奏効評価

38)

分野によっては必要性は高くても市場が大きくないこともあり、製品化するまでにかかる開発費用等をペイできる見込みが立てづらい。やはり保険適用の道がより見えると取組みやすい。また、実際は疾患を鑑別できるほどの性能があっても企業の体力の問題などから、診断支援程度に抑えて出していく必要もある。

39)[開発にかかるデータの入手、確保] 。AI を活用した SaMD 開発にあたり、データの入手は大変医重要な要素ですが、個人情報保護法の問題等があり、質の良いデータを大量に入手するのはなかなか難しいと感じています。
[性能評価方法][薬事上の要求事項] ソフトウェアを生業としている会社であり、AIを活用した医療機器の領域に参入することを目指して医療機器製造販売業許可を取得し、AI 医療機器の開発を進めているところです。 ・それゆえ、従来の医療機器開発の経験がありませんため、薬事上の要求事項、求められる性能、どのような方法でエビデンスを示すか等について、具体的な達成レベルを明確にできていないところがあります。上記に加え、たとえば治験要否の判断等についても、従来の医療機器開発の経験がないからなのか、SaMD/AI 特有の課題により明確にできていないのか、判断に迷うところがあります。
[保険点数] 開発費も相応にかかるため、保険収載の予見性が高まらないとビジネス判断がしづらいと感じています。

40)

社内決裁取得の難しさ（製薬企業がデジタルで商売をすることに抵抗感を持つ経営層が多い）。前職での経験ですが、経営層の理解がなかなか得られず、予算の工面に四苦八苦しました。本日の講演でも、協業先だった先生に「遅れに遅れ、周回遅れですよ！」と言われた時は、その時の辛さを思い出しました。

41)

研究プロトコルを模索中ですので、元製薬企業の治験担当だった方などにご協力いた
だいておりますが、国内での事例が少ない為、現在は対象疾患の既存の薬の治験などを参考にしておりますが、アプリで行う際のアレンジなど未知の領域であり、何が正解かわからないので、場合によっては費用や大きな時間を要しそうだと感じております。

42)

個人情報保護法によるデータ入手の困難さは本日も議論されていた通り。そもそも、病院内の LAN を Web に接続することさえままならないという状況は、欧米と比較す
ると恐ろしく送れていると思う。議論にあった個人情報の商業利用の禁止という壁よ
りも、情報漏洩に対する過剰な防衛が課題と感じている。

43)

研究者の確保：エンベッド、ユーザビリティあたりが、弱いように思います。行動を変容するのに、使いづらすぎる、その研究は弱いです。 開発費の確保：小さなところは余裕がありません。資金が必ずしも公費でなくてもいいとも思います。いつどうい
う資金が必要で、その効果をしっかり考えられる人も必要です。投資側ももう少し勉
強して欲しいです。 データ入手：個人情報などを含めデリケートな問題は多く、提供する人、患者さんにも説明ができていないように感じます。セキュリティ、レジリエ
ンスも、問題があります。 性能評価方法：コンセプトがあやふやなプロジェクトが多いのも問題ですが、ある程度決まっていたとしても、行動変容系は、開発側も審査側もまだ手探りと思います。ミニマムコンセンサスの上で、トライが必要と感じます。

－ 227 －

薬事上の要求事項：end of service や end of product あたりが見えていません。アプリは触れるものではくイメージしにくく、継続と後継は課題です。レジリエンスも課題です。 保険点数：SaMD 特有の手当ては必須です。保険外診療も大切ですが。 （複数のプロジェクトの経験からコメントしています。
）
44)

演者の方も言われていましたが、データを持つ臨床機関が個人情報の扱いを含めた医療情報の提供についてのリテラシが統一されておらず、交渉に至らないケースもあります。お互いに理解・判断しやすいガイドラインの整備は非常に重要だと思います。
薬事面ですが、承認/認証、臨床試験あり/なしについて、ある程度自己判断したいです。相談すればよいのはわかるが、企業で開発を進めるにはある程度の確度のある自
己判断が必要ですが、現在のリテラシでは社内の見解統一も難しいです。 臨床試験となると費用の問題になり、それを回収するとなると保険収載の可能性まで調査が必要になり Go をかけることができない。 ですので、認証の範囲内での開発に留まって
おります。

45)

保険点数等、出口の予見性を改善する必要ある

46)

医療機器としてのソフトウェア自体が比較的新しいジャンルであるため、QMS 要件を満たしながら開発出来る人材が得難い 何社かの有名 IT 企業との共同開発の協議を行ったが、医療機器としての要件を提示すると尻込みされてしまう 費用で解決できるのかもしれないが、零細ベンチャーの場合資金集めも困難

47)

製造販売をしてくださる企業を探すこと。

48)

予見性の欠如49)

まだ上市前であるが、医療機器として承認は取得した。その承認申請時には、性能評
価について PMDA 相談を行ったりして申請までに時間がかかったため、PMDA からの審査基準を明確にしてほしい。
今後市販後のアップデートに係る薬事手続きの判断基準（軽変一変該当性）が SaMDに対しては明確にしめされていない。該当性ガイドラインは主に新規申請を想定しているものなので、そのガイドラインに紐づくものとして具体例とともに変更手続きに関する通知を示してほしい。
サイバーセキュリティについては、設計元でフレームワーク構築が必要となるため、製販である当社と設計元とのコミュニケーションが難しい。外部委託など海外とのやり取りで、要件に対する投資をどう負担するかなどは課題である。

50)

実例が少なく、何もかもが手探りである。

51)

PMDA 承認に必要なデータ（臨床試験、治験）が PMDA に相談するまでわからない。

52)

研究開発者の確保：本当の意味でこの分野に詳しい人は一握りであり、採用は常にリ
スクを伴う。
開発費の確保：社内でのビジネス成長性への理解が得にくい。
性能評価方法：EndoBrainm が治験なしにするのに 1 年かかったとのことで、PMDAの判断能力を信用できない。明らかに治験が必要な場合もあると思うが、その場合でも、シャムの要否などデザインの部分でまた大きく時間が変わってくるので、行政にもう少しきちんとしてほしい（開発だけでも一杯一杯です、役割分担を）。
保険点数：医薬品と抱き合わせにする以外のビジネスモデルで利益を生むことの予見性、それ自体の難しさ。

53)

保険点数の有無は販売にとっては影響がある－ 228 －

54)

企業が入っているが、事業化に関してハードルが高い。また、アカデミア発の研究な
ので、研究費が公募頼みになる。自分自身は開発者ではなく、支援担当の立場ですが、臨床研究の支援にあたり、費用の捻出が課題かと感じています。

55)

AI 開発に関わるデータを入手手段の確立や、開発費の確保などに関して課題を感じ
ている

56)

薬事承認までのプロセスはより迅速に、という流れがある一方で、保険償還は患者のメリットがあるか否かを大前提として検討されるため、保険申請の時点で患者のメリットを示せるデータは殆ど無い。 未承認品の臨床試験は患者へのリスクを考慮し準拠すべきルールが定まっていると認識しているが、SaMD のマネタイズの予見性が低い状況で臨床試験に多額を投資するハードルは高い。 薬事承認までに必要な性能と臨床アウトカム評価の方法と時期を再考しても良いかも。 また、 保険を獲得するという方法論でしかマネタイズを考えない、という発想自体の変革は必要

57)

共通の基準・尺度の制定

58)

審査費や試験等の費用やそれにかかる期間などが定まらず、開発投資金額ならびに上市時期が検討時（投資判断時）に明確にできないことで、社内経営判断を得るのに苦
労すること

59)

開発時だけでなく、市販後の対応を総合的に考慮したくてはならない点

60)

コストをかけて臨床的意義データを取得したとしても、保険的に回収できるかわからない。医療機器にすべきか、効能を謳わず保険もあきらめ値べきか、決め手がない。
市販後の改良をどうすべきか、その価格はあきらめるべきか等、予測性がたてられない。

61)

ベンチャー企業などは臨床（治験）を実施するだけの体力はないように思える。

62)

臨床性能試験の薬事上の取り扱いが、まだ不透明であることと、保険収載の課題（材料費なのか手技料なのか）が残っており、上市後の継続的なプログラム改良に負担を生じることが懸念される。

63)

代表取締役が医師なので自分が研究代表になるか、他の先生に依頼するか迷っています。

64)

SaMD の薬事審査や、保険点数上の位置づけは、検討しながら進んでいると認識しております。 「治療を目的とした医療機器」である SaMD の開発、上市を良い形で後押しするには、何が必要なのか、という視点で、行政と開発側のコミュニケーションを進めることができると有難いと感じております。

65)

顧客のソフトウェアへの価値観と保険収載の期待のトレードオフが難しい。

66)

保険ビジネスを想定しているが、投資回収が可能かどうか見えてこない。

67)

申し訳ございません。医療機器の開発に直接関わっていないため、わかりません。

68)

経験値もないこともあって判らない部分です69)

SaMD に対する保険制度は始まったばかりで、改善すべき点が多くあると感じられる。
また規制上の要求事項が多く、開発費用が膨大になる。

70)

IDATEN の要求事項等薬事の方針に関して、工事中なところが多すぎて方針・見通し－ 229 －

に迷う
71)

信頼性調査の範囲

72)

医療機器として保険収載されることを見込んだビジネスモデルを描く一方、保険申請時に必要となる臨床的有用性（治療効果 etc）や経済性に関して従来のような分かり
やすく直接的なロジック（手術回避による医療費削減 etc）が組みにくく、その点を課題に感じている。

－ 230 －

Q11：SaMD フォーラムに対する全般的な感想
1)

IT 関連企業である我々がお手伝いできるところが多くあることが認識できた。 業種、企業の枠を超えて協業、共創できる取り組みの拡大に期待したい。

2)

常に日本の話が多く、より Global な議論が増えることを切に望みます。

3)

大変参考になりました。医療物流システム専門のシステム開発・販売を推進して 25 年を経過しました。今後の新規開発の目標にして行きたいと思います。創業者です。

4)

オンライン開催は参加しやすいので次回以降も同様の形態を希望します。

5)

時々画像が固まることがありましたが、講演会場やオンラインでフォーラムができる
ことはよいかと思いました。また実施していただいたら参加したいと思います。

6)

非常に勉強になりました。ありがとうございました。

7)

大変勉強になりました。ありがとうございました。

8)

非常に濃厚なフォーラムであったと思います。

9)

ぜひ、次回以降も継続的に開催してください。

10)

是非継続的に続けていた抱きたい 各演者の資料を可能な範囲で結構なので、公開していただきたい11)

本日のフォーラムに参加させて頂き誠にありがとうございました。 次回のフォーラ
ム、その他の SaMD プログラムに期待しておりますので、何卒宜しくお願い致します。

12)

密度の濃い、充実したフォーラムでございました。次回も楽しみにしております。事
務局の皆様、本当にお疲れ様でした。衷心よりお礼申し上げます。

13)

とても勉強になりました。SaMD の開発ステップの考え方等今後活用できそうです。

14)

フォーラム大変参考になりました。 IDATEN は AI 医療開発推進において非常に有用な施策だと考えますので弊社システム検討の参考とさせていただきます。 本当にありがとうございました。

15)

とても現状が良く理解できた。

16)

医療従事者が用いないソフトウェアに対する規制（行動変容を促すものはなんでも
SaMD とする考え方）が過剰ではないかとどうしても思ってしまいます。

17)

先述のとおり、開会の辞、閉会の辞は不要では18)

内容が新鮮で大変興味深く、SaMD についてさらに勉強したいと思った。

19)

講演資料は配布されないのでしょうか？後でもう一度見たい箇所もあったので。

20)

課題が明確に共有されたことと、これが本当に今後の産官学を通じて活発に議論され、日本の医療前進につながることを期待している。

21)

内容はとても参考になり、これからいろいろな動きがあることも把握できました。誠にありがとうございました。 回線の問題かもしれませんが、文字がぼやけて表示され、見づらい状況でした。もし改善できるならよろしくお願いいたします。

－ 231 －

22)

諸先生方の講演を拝聴できる機会なので、行政側の形式的な挨拶は不要、パネルディ
スカッションの時間をもっと取って欲しい。

23)

実際に医療機器プログラムの取扱いは行っておりませんが、開発企業様の IDATEN に対する考え、保険収載に関する悩みなどとても興味深いお話ばかりで、大変勉強になりました。ありがとうございました。

24)

オンラインであるが、休みなしと言うのはハードです。途中休憩を入れていただければ有難かった。

25)

Web 受講の追加参加をご承認いただき、ありがとうございました。 大変有意義でした。

26)

スライド資料を公開していただきたい。

27)

お忙しい中、ありがとうございました。 中野先生がおっしゃられていた、病院がデータを提出するのに安心するためのガイドラインを期待しています。

28)

SaMD 開発に突入する前の、アカデミア側の悩み、躊躇、恐れについて、意見交換・
気持ちの共有ができるミニ・セクションの企画を、なにとぞご検討くださいませ。

29)

今後の医療の流れに期待が持てました。

30)

他だと有料のことが多い先生方のご講演を無料で拝聴できありがたかったです。 総
合討論の時間が短く、自由な議論がなかったのが残念です。

31)

前述のとおり32)

貴重な機会をありがとうございました。 SaMD はまだ事例が少ないため、認可の過程で大変なことが多いですが、本日のセミナーのおかげで進歩が期待できました。

33)

大変興味深く聴講する事ができました。 今回出た課題点等を取り上げたフォーラムを継続的に開催して欲しいです。

34)

ご案内と開催にご尽力いただいた方々に感謝申し上げます。 途中 net 回線が不安定になっていますので、オンライン接続を酢漬ける場合は検討課題になるかもしれません。

35)

大変有益なフォーラムだったと思います。 ありがとうございました。

36)

要旨だけでなく発表資料も可能な範囲内で提供してほしかった。 一人一人の発表時間が短かった。

37)

前述したとおりです。

38)

大変興味深い内容で、3 時間という時間があまりにも短く感じられました。非常に中身が凝縮されたとても良いフォーラムだったと感じます。本日の内容を開発部門、営業部門にも共有し弊社のビジネスにつなげられたらと思います。 参加させていただ
きどうもありがとうございました。

39)

次回以降は総括的な発表より、個別具体的な議論があると嬉しい

40)

発表された皆さんの資料がとても分かりやすく、理解できました。 出来れば、発表各者様の資料（特に厚労省／経産省）を入手できるとありがたいです。

－ 232 －

41)

海外は承認制度は臨機応変かもしれないがＱＭＳに関する部分は日本より規制が厳しい認識です。海外との比較では有利な面を話すだけでなく海外規制が不利な面もあるのを周知すべきかと思います。

42)

大変参考になりましたが、保険収載に関する評価の視点が、今一つ分かり難かった。

43)

ネットワーク障害なのか音声と画像が乱れた。 一部の演者について資料展開と話が早すぎた。 各演者の資料も提供あると良かった。
（要旨だけだと前述理由もあり消化不良のパートあった）

44)

政府系のプレゼン資料に URL が記載されてましたが、後程共有いただけるのでしょ
うか？

45)

非該当性判断や薬事申請、保険の枠組みについてはまだまだ課題があると思います。
一企業人として業界団体の場で小さいですが貢献していければと思います。引き続きフォーラムの開催を楽しみにしています。

46)

ご講演時間が非常に短く感じました。 アカデミア、産業界など、各分野における具体的な課題について、もう少しお時間かけて伺えたらと思いました。

47)

繰り返しとなるが、実に真摯な議論がなされ、次回開催の意義を強く感じた立派な催
しものであった。

48)

塩野義の方がご説明された SDK は製薬業界として認められた団体でもなければ、SDKのご主張は製薬業界の総意でもないので、特に製薬業界以外の方が聴講されている会議においては誤解されるような発言は避けて頂けますと幸いです。

49)

座長の進行が素晴らしかった。 ダウンロードできる資料をもうちょっと充実させてほしい。メモにも限界がある。

50)

産官学の個々の視点による部分最適ではなく，患者目線での全体最適が必要であることを痛感した．

51)

次回も期待しています。

52)

AI 機器で利用が必須となる臨床データの扱いや、医師個人で開発したものの臨床使用等に関する、個人情報保護法の扱いや臨床研究法又は倫理指針等の関係を解説していただきたい。
リアルワールドデータの活用等要望が検討されていることは認識しているが、法の所管である PPC の担当官からの説明が必要不可欠と考えている。
これまでの医療機器は基本、医療従事者が扱うものとして使用方法や注意事項情報などが検討されてきているが、医療機器プログラムにおいては、医療従事者が扱うものと、個人使用を意図したものの枠を類別レベルで分け、使用目的や性能、使用方法を検討していくことが必要になると思われるので、この検討についても踏み込んだ討論をお願いしたい。

53)

視聴環境が良くなく、フリーズが多かったので、次回改善いただけると有難いですし、
今回の講演で先生方の発表スライドも公開いただけると聞き逃した箇所の確認ができるので有難いです。

54)

とても、参考になりました。 ありがとうございました。

55)

司会のまとめも論点の理解を助けて頂いたと思っております。

－ 233 －

56)

いくつかの小委員会に分かれ、同様な課題を持った産官学で自由に意見交換できる場を設けると、解決へのアプローチなどを話し合えると思います。

57)

司会進行の中野先生の質疑応答での補足やまとめが素晴らしかったです。

58)

一時、視聴環境が中断したことがあった。演者との通信環境の事前チェックを望む。
講演要旨の公開が当日になった。できれば、前日までにお願いしたい。 内容的には、包括的であった面は高く評価するが、立ち入った議論はこれからではないかという印
象だった。

59)

次のフォーラムがあれば、総合討論の時間をもっと作ってほしい。 有意義なフォー
ラムだったので、次回も是非行ってほしい。

60)

プログラム医療機器のフォーラムというのはあまりなく、色々勉強になりました。ぜひ今後も開催をお願いいたします。

61)

塩崎やすひさ様のオープニングリマークから、経済産業省田中様のクロージングまで
とても充実した内容のフォーラムで大変参考になりました。第 2 回を期待しております。

62)

大変貴重な機会を与えていただきありがとうございました。

63)

ぜひ次回の開催も楽しみにしております。 今後ともよろしくお願いいたします。

64)

前述しました。

65)

個別の問題かもしれないのですが、ライブ配信の通信の状態が異常に不安定で、全く聴講できない演題も発生しました。もし他の方からもそのような声が多く出た場合は、通信方法の改善などを考慮頂けますとたいへん助かります。一部の聴講者だけの問題
でしたら大変失礼いたします。

66)

Live でのオンライン開催で、ネット環境にもよるのかもしれませんが、時々話が途切れることがあり、聞き取りにくかった点が少し残念でした。録画による配信もして頂けますと、内容を復習できるのでご検討頂けますと幸いです。全体としては、フォーラムの内容はとてもためになり、勉強にもなるので参加させて頂きまして、感謝申し上げます。次回開催があれば参加させて頂きたいと存じます。

67)

大変有意義な会をご企画いただきありがとうございました。ご発表頂きました内容・
Discussion ともに大満足な講演でした。1 つだけ我儘を言わせて頂けるようでしたら、3 時間ありましたので、間に 1・2 回程度休憩の時間があると内容を咀嚼したり、スラ
イドを振り返って質問を考えたり出来て良かったのではないかと思いました。

68)

産学官各事情が異なるり特にスタートアップにおいては現行の PMDA 視点での期間や費用の掛かる治験などに対応すると資金が尽きてしまう事が懸念される。製販業の取得もしかり、医療機器メーカーの様に人員を確保できない。医療機器として承認（認証）を受けても保険収載の無い機器を病院など施設は購入（導入）しないのが現況。
このような状況で海外と比較しても国内の規制や販売促進は遅れている。助成金や補助金を受けて開発出来るケースはほんのわずかであり、この現状を打破しなければイ
ノベーションの芽は育たない。本フォーラムで成功事例のみならず心半ばにして体力が無く終わったケースも多々ある事を議論して欲しい。

69)

今後とも、この SaMD フォーラムを継続して頂きたいと思います。

70)

公演自体は参考になったが全体的に時間を超えていたのが残念だった。

－ 234 －

71)

各分野の方のプレゼンテーションは大変素晴らしいかったです。 ただ、最後に、今後は官民学を超えた、一つのコラボレーション組織が何を目指し、それに向かってどの様に進めるべきかというまとめを示して欲しかったです。 英語的には、Why-because
は説明されましたが、Therefore が理解出来ませんでした。Therefore はあくまでも Plan
で Short/Mid/Long Term の Plan をどなたかがコラボレーションプロジェクトリーダー
として発表して下さい。 因みに日本の医療に関わる組織や人財は世界一番です。よって、非医療分野の方達が今後、どの様に関与し、達成感を得られるかが、重要なポイントだと思います。おせっかいオバサンより。

72)

医療機器とプログラム医療機器は益々、切り離せない社会環境になってくるので大変に興味をもって聴講させていただきました。

73)

SaMD の現状及び将来像を理解することができて本当に有意義でした。 また、産学官が一体となって開催された初のフォーラムに参加させて頂けた事に感謝いたします。

74)

非医療機器の位置づけやガイドラインについて知りたい。

75)

時間が短かったこともあるためか、演者の方々が早口で説明されたため、もう少しゆっくり聴講したかった。

76)

オンデマンドで見れないのが残念である。なぜ見れるようにして頂けないのでしょうか?

77)

座長の進行が素晴らしかった。

78)

産学官の連携が重要と思いましたが、もっともっと進めるべきと思います。かけ声は良いものの実際には進んでいないのが実情と思います。世界に遅れているのを取り戻すためには通常感覚では とても追いつけないと思います。

79)

今回のフォーラムで現状をよく理解することが出来ました。次回は第二部で中野先生が促してくださったように展望や要望を交えた”とがった”意見交換を伺うことが出来たらと思います。有難うございました。

80)

医療機器の開発がヘルスケアビジネスに結びやすい関係構築が必要だとかんじました81)

実際に SaMD を開発された企業様から、開発の流れや課題などをお聞きでき大変参考になりました。また行政から法整備、診療報酬の位置づけ今後の開発への期待などをお聞かせいただき現状把握をすることができました。

82)

非常に興味深い内容で、今後の発展を期待しております。

83)

大変勉強になりました。ありがとうございました。次回は、是非、途中で１０分でもトイレ休憩を頂けますと助かります。

84)

短時間に各方面からの有識者の講演を聞くことができ有意義であった。

85)

とても良かったです。 次も参加したいです。どうぞよろしくお願いいたします。

86)

医療機器プログラム、ヘルスケアアプリケーションが日本に広まるようにしていただ
きたい。

87)

ありがとうございました

88)

京都大学の古川先生の SaMD を用いたうつ病治療のエビデンス構築に関すお話が大－ 235 －

変興味深かったです。
89)

SaMD 開発した企業がほぼ参加していて今後の開発のために参考になった。アプリ開発者には臨床データの重要性及び価値を理解し適切な対応をしてほしい。個人情報保護法についての理解がない企業関係者が多いので製薬会社においても個人情報の教育をしてほしい。

90)

厚労省と経産省が連携して開催したフォーラムで、出席者の発表も充実しており、とても有意義だった。このようなフォーラムには、積極的に参加したい。

91)

AI でデータ追加による学習の評価の箇所についてはもう少し詳細な内容がよかった。
新たな制度についても検討して、利用しやすく倫理的に問題ないように運用できれば良いと感じた。講演要旨のダウンロードだけでなく、資料を公開していただけるとあ
りがたい。

92)

このテーマは非常に旬だと思うので、また継続的に同じテーマでフォーラムを開催いただきたいと思う。

93)

また参加させてください94)

各 15 分程度の講演であったので、厚労省や PMDA の講演はもう少し長めに詳細が聞けると良かったです。

95)

大変参考になるフォーラムでした。 ボリュームの濃い内容でしたので、咀嚼する時間が無かったのが残念です。 もし可能であればアーカイブデータへアクセス可能としていただければ幸甚です。 ご検討のほど、よろしくお願い申し上げます。

96)

大変盛りだくさんで、有意義な内容でした。 どれも興味深い内容でしたので、ほぼすべてのセッションを視聴させていただきましたため、3 時間休憩なしは少し疲れました。 どうもありがとうございました。

97)

とても勉強になりました。

98)

座長の中野先生の進行が素晴らしかったです。短時間の中、論点を絞って現状の課題と将来に向けた提言を浮き彫りにしていただいたと思います。 これをきっかけに、
SaMD 製品の開発・事業化・産業化が加速することを切望します。

99)

定期的に開催をお願いしたいです。

100) 1 演題 15 分は、演者にとって短いと思いますが、聴講者にとってはちょうどよい時間でした。
101) 期待以上の内容だった。SaMD が治療法に偏っていたとはいえ、弊社が扱う SaMD にも関わる課題が議論されたので、理解が深まった。SaMD がカバーする領域は広いので、SaMD の共通課題とそれぞれの領域における SaMD の課題を分けて議論することが必要と思う。
102) covid-19 の状況が非常に心配な中で、無事に開催されてほっとしています。遠くからの参加も可能となるオンラインであることに強く意味を感じました。まさに隔離されている知人、地方で AI を開発しているグループも参加していたようで、とても大きな意味を持ちました。 また、SaMD が活躍するフィールドは、人々の暮らしにもあり、遠隔医療にもあります。そうした意味でも、オンラインで何ができるのかを考えることは大切です。医療の空白を埋め、医療の効率化のための支援が行われていくベースを小さく体験するようなものです。 リアルであることの意味も、逆に強く感じ－ 236 －

ることがありますが、これからも感染症のリスクはいろんな形で残ります。医療の偏在を解決する必要もあります。 フォーラムに対するコミュニティがあっても良いのかもしれません。運営は大変かもしれませんが、質疑応答のような部分をコミュニケ
ーションペーパーとして出す、パブコメ等でも出しておられるような、あるいは、
SaMD 事例データベースで出しておられるようなスタイルでもいいので、何か小さいものでもご用意いただけると、皆の理解、論点の整理ができるのではないかと思っています。 これからのフォーラムのご活動に強く期待しています。ありがとうございました。 <所属のところエラーとなりました 入力できません。NPO 医工連携推進機構 医工連携コーディネータ協議会です＞
103) SaMD に関わるいろいろな立場の方の経験や意見が聞けて参考になりました。この分
野は進歩が速いと思いますので、大変だとは思いますが、定期的に開催していただけ
ればと思いました。 海外は柔軟に受け入れを始めているように感じました。 他国にできて我が国にできないのは残念です。 今後、急加速されるよう微力ながらも働
きかけたいと感じました。
104) 口演時間としては非常に適切な時間であり、タイトル通り産官学関係方面からの非常に具体的な内容までのディスカッションがされた点は、さすが、第 1 回目にふさわしい催しであったと思います。
105) 貴重な機会を頂きありがとうございました。このようなフォーラムは継続して開催されますことを希望いたします。今後ともよろしくお願いいたします。
106) もう少し資料があると上に報告し易い。 もしくは引用先など手掛かりがあると良いです。 受講者としては問題ないですが。
。
。ありがとうございました。
107) ある演者が言っていたように、ＩＴ環境とソフトウエア開発は日進月歩、一方
AI/SaMD の法規制の実情は、ＰＭＤＡに専任の課ができ前向きな改善が期待されているが、ＦＤＡに比べると遅れている感はぬぐえない。 産官学による規制緩和協議、その結果を今回のようなフォーラムで発表していただきたい。
108) 参加費無料でオンラインによる聴講の機会をいただいたことに感謝しております。
109) 現在の SaMD 承認品については保険収載について検討していないが、今後承認申請にむけて保険の現状が気になっていた。今回のアカデミア及び企業の保険収載に関する
現状と経済課からの説明は大変有用であった。
110) 皆様が限られた時間内で多くの情報を提供されるため、要旨だけでなく理解を深めるためにも提供可能な内容だけでも資料を頂けると大変ありがたく存じます。
111) 非常に勉強になりました。このような機会を続けて開催いただきたく思います。
112) 中医協での SaMD への診療報酬上の評価制度については、業界から具体的な提案を行っているので、厚労省には是非、前向きに検討して頂きたかったし、今後、検討頂きたい。
113) 非常に勉強になりました。今後の継続的なフォーラムの開催を期待しております。
114) 厚労省、経産省、AMED の本分野へのタイムリーなご支援、ご対応が今後の発展につながるかと思います。 よろしくお願いします。
115) 様々な事例、ガイドラインおよび支援策など、知己のものもありましたが、改めて認識を新たにすべきものも散見され、大変有益でした。

－ 237 －

116) 他の予定と重なったため、ところどころしか聴講できなかったが、オンラインのため、ところどころでも参加できて非常に有益だった。
117) 勉強になりました、ありがとうございました。
118) 冒頭の政治家のスピーチの必要性に疑問があったし、時間厳守であることを事務局は政治家にお願いしてほしい。平日の 6 時以降か土日に開催してほしい。
119) 本日は素晴らしい会をオーガナイズ頂き有難う御座いました。 日本の最先端で活躍する産学官の演者の先生のご講演、及び短時間ながらも密度の濃い総合討論により、
SaMD に係る日本の状況が良く理解できました。今後も継続的にフォーラムを開催頂
き、産学官の連携による SaMD 開発をご支援頂ければと存じます。本日は有難う御座いました。
120) アーカイブ配信などは予定されておりますでしょうか？ 前半部分の内容を改めて確認したく121) ありがとうございました。 オンデマンドでも視聴させていただきます。
122) 大変、貴重な意見や情報を入手することができ、素晴らしい内容でした。企画、運営の皆さまに感謝いたします。
123) 大変勉強になりました。ありがとうございました。今後も、「上手く行っています」ではなく、「ここがネックで上手く行かない」「こういった生々しい困難がある」という議題が討議される場であると、とても心強く感じます124) 本日はありがとうございました。 大変参考になりました。 一点、私側の環境の問題
かと思うのですが、途中何度もブラウザがフリーズしてしまい、音声とビデオが見れないシーンがありました。 当日のビデオはかなり有益であると考えられ、録画／投影資料などあればぜひ共有頂ければ幸いでございます。 よろしくお願いいたします。
125) 大変わかりやすく、知りたかったことを知れました。 貴重なご講演をありがとうご
ざいました。
126) SaMD の収益性（少なくとも投資）を保険償還だけで担保するのではなく他の方法もあるとおもいますので、ご検討をお願いします。
127) web で参加したが、長時間と感じた。 できれば key スライドを配布いただけるとあ
りがたく思います。
128) いろいろなお立場の方が、それぞれの方の悩みや苦労、知見を共有いただき、自身が事業を進めていく上で大変勉強になりました。
129) 限られた時間でのご登壇でしたが、どの方のお話も非常に興味深い内容でした。
130) 中身の濃いフォーラムであったと感じます。 共有した課題が今後、どう解決されていくのか、という視点で、継続的な開催をお願いできると有難く存じます。
131) 大変よくできていました。 勉強になりました。
132) 産官学、それぞれの取組み状況などをひとつのフォーラムで知ることができるのは、
とても良いと思います。しかし、時間的なこともあり、浅く広くになってしまうことは否めません。 どこかに焦点をあて、深堀りすることもあってもよいなと思いました。そういった取組みを私が知らないだけであれば、ご放念くださいませ。

－ 238 －

133) 検索してもまとまった情報が出てこないので、体系的な話を聞くことができて良かったです。
134) Q9 に記載しました。
135) 分かりやすいフォーラムでした。
136) AI 医療機器を取り扱ったことはありませんが、初心者にも分かりやすい内容でご講
演くださり、大変勉強になりました。 薬事・品質保証部門に所属しているため、申請戦略や保険戦略に対する考え方を学ぶことができ、非常に興味深く拝聴しました。
137) フォーラムを開催して頂き、本当にありがとうございました。
138) 貴重な講演をありがとうございました。 とても充実した内容でした。
139) 産官学が集まる議論の場はあまりないので、ディスカッションパートをメインにしても良いと思った。
140) 貴重な発表に、感謝致します。 皆さまの更なる、ご活躍をお祈り申し上げます。
141) 勉強になりました。有難うございます。
142) 業務とぶつかってしまい、番興味があった総合討論を視聴できなかったのが非常に残念でした。 １週間程度でもよいのでオンデマンドで時差視聴ができると大変うれしいです。
143) フォーラムの開催を通じて、産官学連携によるより良い制度改革につながることを期待します。
144) プログラム医療機器の位置付や承認審査の状況につきまして、わかりやすい解説で良く理解できました。
145) 後半の予定が押してしまい、十分説明できなかったところが残念でした。
146) 産官学それぞれの立場から、日本における SaMD をいかに発展させていくかという同じベクトルで議論される大変有意義な場と感じています。今回のように開発中のものから上市済みのものまで含め、様々な事例（先行例）が共有されると、今後の製品開発に向けて大変参考になります。

－ 239 －