JaDHA
The Japan Digital Health Allianceヘルスケア事業者のための生成AI活用ガイド（ヘルスケア領域において生成AIを活用したサービスを提供する事業者が参照するための自主ガイドライン）【概要版】
2024年1月18日
日本デジタルヘルス・アライアンス
JaDHA
The Japan Digital Health Alliance

Copyright (C) 2024 The Japan Research Institute, Limited. All Rights Reserved.

ヘルスケア生成AI活用ガイドの前提
本ガイドの目的● ヘルスケア領域は他の領域と比較して要配慮個人情報の取り扱いが多くなる点や、不確かな情報がもたらす個人への影響が極めて大きい点等が課題。
● そのため、生成AIを活用したヘルスケアサービスが利用者に不当な不利益を供することとならないよう、当該サービスを提供しようとする事業者がセルフチェックできる目安となるチェックポイントを提供することを目的として本ガイドを策定。

対象読者● 生成AIを活用したヘルスケアサービスを提供する事業者 をメインターゲットとする。
※具体的には、特定モデル開発者およびサービス・プロダクト提供者が対象（後述のバリューチェーン参照）● 生成AIを活用したサービス・プロダクト提供自体を初めて経験する事業者（生成AIの初学者）でも活用できるよう、チェックリストや用語集を別添で準備。

対象範囲● ヘルスケア領域で最も広く活用されている文章（テキスト）生成AIを対象 ※画像・音声・マルチモーダルは対象外● 医療機器または医療機器プログラムには該当しないヘルスケアサービスを想定※対象範囲等については、今後の技術やサービス進展を踏まえて随時アップデートを実施予定

JaDHA
The Japan Digital Health Alliance1

Copyright (C) 2024 The Japan Research Institute, Limited. All Rights Reserved.

生成AIの特徴
生成AIとは● 生成AI（Generative AI）とは、自律的に学習したデータから文章、画像、音声などの一見新しく現実的なコンテンツを生成することができる一連のアルゴリズムのこと● 生成AIの中で特に自然言語処理を行うのがLLM（LargeLanguage Models）＝テキスト生成AI

生成AIの特徴(出典：一般社団法人日本ディープラーニング協会「AI活用時の医療データの取扱いに関するJDLA報告書について（JaDHA会員向け生成AIオープンセミナー資料）」（2023年10月23日））

基盤モデル等の活用--

生成AIは巨大なデータセットを活用した「基盤モデル」や学習データを更にインプットした「特定モデル」の活用が必要
多種多様のモデルが市場に存在

JaDHAThe Japan Digital Health Alliance

データの取り扱い-

生成AIはネット上の広範なデータや各事業者所有の固有データを学習・活用することで結果を出力-

学習データやファイン
チューニングに活用するデータの取り扱いが発生

アウトプットの信頼性-

2

モデルの学習に用いられたデータのバイアスやアウトプットの処理過程が複雑等の理由により、事実と異なる内容が出力される場合がある（ハルシネーション）
学習データが古いと出力も古い内容になることも想定

利用者のリテラシー-

専門知識を持たない利用者でもデータを入力することで簡単にアウトプットを取得できる（低コスト・利便性）-

質問の内容等によって回答結果が異なる場合も想定

Copyright (C) 2024 The Japan Research Institute, Limited. All Rights Reserved.

生成AIのバリューチェーン
インプット①
基盤モデル開発者

巨大なデータセット
2.データの取り扱い

②
特定モデル
開発者

基盤モデル

モデル・サービス
アウトプット1.モデル選定

追加の学習データ（ファインチューニング）
2.データの取り扱い③
サービス・プロダクト提供者

事前訓練済みモデル

事前訓練済みモデル

本ガイドの対象論点

特定の用途向けに最適化されたモデル1.モデル選定

フューショット
ラーニング（プロンプトによる制御等）

2.データの取り扱い

特定の用途向けに最適化されたモデル1.モデル選定

AIサービス・プロダクト
3.アウトプット信頼性

2.データの取り扱い

3.アウトプット信頼性

利用者による入力データ④
利用者

AIサービス・プロダクト利用者へ提示される
出力結果(出典：株式会社MICIN提供資料）

JaDHA
The Japan Digital Health Alliance3

Copyright (C) 2024 The Japan Research Institute, Limited. All Rights Reserved.

（参考）生成AI活用に当たっての関係主体整理
主体

概要

例

①基盤モデル開発者

大規模言語モデル（LLM）等の大規模で汎用的なモデルを開発・提供する事業者

OpenAI、Google、Meta、Amazon、Cyber Agentなど②特定モデル開発者①が提供するモデルを活用して自社データや業界固有のデータ等を用いてモデルをファインチューニングし、特定用途に ①と③が混在している状態特化したモデルを開発する事業者③サービス・プロダクト提供者①または②で開発されたモデルを用いて、生成AIを活用した
Ubie、MICIN、HOKUTO
サービス・プロダクトを開発し、直接利用者に提供する事業など者④利用者

生成AIを用いたサービス・プロダクトを利用する個人や法人

JaDHA
The Japan Digital Health Alliance4ー

Copyright (C) 2024 The Japan Research Institute, Limited. All Rights Reserved.

チェックポイント全体像
基盤モデルの選定

1●①基盤モデルの選定●②基盤モデルの利用用途①学習データの取り扱い

2

データの取り扱い②サンプル・事例の取り扱い③質問データの取り扱い④データに関するその他考慮事項
アウトプットの信頼性

3①サービス開発段階での取り組み②サービス提供時の利用者に対する取り組み①医療機器プログラムの該当性確認

4

ヘルスケア領域の個別規制②標榜における広告規制の確認③基盤モデルの利用規約確認

JaDHA
The Japan Digital Health Alliance5

基盤モデルが標榜している性能や学習データの内容についての確認
基盤モデルが定めている利用用途や学習利用に関する規約の確認

●
●
●
●
●

モデルの利用規約の確認
個人情報が含まれる場合の本人同意取得
著作物が含まれる場合の利用制限確認
データ保護に関する社内体制の構築
関連ガイドライン等の参照

●
●
●
●

ハルシネーション制御（技術的工夫）
利用者に対する説明・表示
入力規制・制御
免責事項の表示●●●医療機器プログラムの該当性確認
医薬品等適正広告基準等の確認
ヘルスケア領域における利用制限の確認

Copyright (C) 2024 The Japan Research Institute, Limited. All Rights Reserved.

チェックポイント① 基盤モデルの選定
基盤モデルの学習データの内容
基盤モデル

性能評価レポート等のの標榜性能

性能表示
基盤モデルの類型

基盤モデルの選定
基盤モデルの利用用途の範囲
基盤モデルの利用用途

出入力データの学習利用に関する規約

JaDHA
The Japan Digital Health Alliance6

学習データとしてどのようなデータセットをインプットして開発されたのかを確認すること

性能評価報告レポート等による客観的な性能・機能判断を確認すること提供するプロダクト・サービスに応じた性能・特徴を持つ基盤モデルを選定すること（クラウドベース or オンプレ等）

医療情報の提供を制限していないか、商用利用が限定されていないか等の観点で基盤モデルの利用規約を確認すること

基盤モデルの仕様として、インプット・アウトプットデータが追加学習の対象になっているか等を規約内で確認すること

Copyright (C) 2024 The Japan Research Institute, Limited. All Rights Reserved.

チェックポイント② データの取り扱い

データ

データの取り扱い

学習データ（ファインチューニング時）

サンプル・事例（フューショットラーニング時）

質問データ（サービス利用時）

データに関するその他の考慮事項

JaDHA
The Japan Digital Health Alliance

モデルの利用規約

データが基盤モデル／特定モデルに反映されるか等、インプット目的以外でデータが利用されないか確認すること

設定オプション

データが基盤モデル/特定モデルに反映されないよう、設定オプションがある場合は調整すること

データにおける個人情報の取り扱い

データに個人情報が含まれる場合の本人の同意取得、要配慮
個人情報が含まれる場合の開発設計の工夫の実施

サンプル・事例の著作権情報等の取り扱い

データに著作物が含まれる場合、データ利用に当たっての制限等がないか確認すること

質問データの悪用・不正目的対策

悪用や不正目的の利用を禁じる旨を記載した免責事項の事前公開、サンプリングによる不正抽出等の実施

データ保護に関する社内体制の構築

最新の規制・制度の情報収集のための社内でのデータ保護に関する体制整備

関連ガイドライン等の参照

厚労省・経産省等のガイドライン・ガイドブック等を参照・確認
すること

サービスアップデートや機能評価

アップデート時に本チェックポイントを再参照することや、機能評価を実施すること

7

Copyright (C) 2024 The Japan Research Institute, Limited. All Rights Reserved.

（参考）バリューチェーンと取り扱いデータの関係性
インプット①
基盤モデル開発者

巨大なデータセット基盤モデル

事前訓練済みモデル

モデル・サービス
アウトプット

学習データ
②
特定モデル
開発者

追加の学習データ（ファインチューニング）

事前訓練済みモデル

特定の用途向けに最適化されたモデル

サンプル・事例

③
サービス・
プロダクト
提供者

フューショッ
トラーニング（プロンプトによる制御等）

特定の用途向けに最適化されたモデルAIサービス・
プロダクト

質問データ
利用者による入力データ

④
利用者

JaDHA
The Japan Digital Health Alliance

8

AIサービス・
プロダクト利用者へ提示される
出力結果

Copyright (C) 2024 The Japan Research Institute, Limited. All Rights Reserved.

チェックポイント③ アウトプットの信頼性

サービス開発段階
での取り組みアウトプットの信頼性

サービス提供時の利用者への取り組み

JaDHA
The Japan Digital Health Allianceハルシネーションを制御する工夫

ファインチューニング・プロンプトエンジニアリングの実施による回答精度向上、エンベディング等の技術による出力結果の整合性担保、引用元の表示

サービス品質評価の実施

サービスに対する技術性能や品質評価の実施、サービス利用者によるフィードバックに活用すること等

テキスト生成AIに関する説明

テキスト生成AIの特徴や性能についてのチュートリアルを実施する
等、利用者への説明・啓発を実施すること

利用用途に関する説明・表示

サービス提供者が意図しない用途で利用されないため、サービスのコンセプトや用途等を説明・表示すること

入力規制・制御の実施

サービス提供者が意図しない用途で利用されないため、入力規制や制御を実施すること

AIによる生成であることの表示

アウトプットがAIによって生成されたものであることを利用者が認識できるような出力結果の表示

免責事項の表示責任問題が生じた際の責任分界点を明確にするための免責条項の表示

9

Copyright (C) 2024 The Japan Research Institute, Limited. All Rights Reserved.

チェックポイント④ ヘルスケア領域の個別規制

医療機器プログラム該当性

ヘルスケア領域の個別規制

広告規制の確認

生成AIを活用して提供しようとしているサービスがプログラム医療機器に該当しているかどうかを関連ガイドライン等を参照して確認すること

医療機器プログラムに該当する場合、医薬品等適正広告基準や業界ガイドライン等に基づいて広告・表示を行う必要があるため、それらを確認すること。該当しない場合、薬機法や景品表示法等の規定を確認すること

基盤モデルによっては、ヘルスケア領域での利用制限をはじめとしたさまざまな制約が基盤モデルの利用規約の確認定められていることもあるため、利用規約を確認・規約のアップデートがあった場合の確認を行うこと

JaDHA
The Japan Digital Health Alliance10

Copyright (C) 2024 The Japan Research Institute, Limited. All Rights Reserved.

（参考）事業者向けチェックリスト
別添として担当者がそのまま利用できるチェックリストをExcel形式で作成「対応済み」or「対象外」をプルダウンで選択可能

チェック結果の「理由欄」を設置し、自由記述可能に

JaDHA
The Japan Digital Health Alliance11

Copyright (C) 2024 The Japan Research Institute, Limited. All Rights Reserved.