公表資料

News Release

生成 AI サービスの利用に関する注意喚起等について

令 和 ５ 年 ６ 月 ２ 日

我が国において、現在、生成 AI サービス（質問・作業指示（プロンプト入力）等に応えて文章・画像等を生成する AI を利用したサービス）が普及していることを踏まえ、当委員会として、別添１のとおり、生成 AI サービスの利用に関する注意喚起等を行うこととしました。
なお、生成 AI サービスである ChatGPT を開発・提供する OpenAI, L.L.C.及びOpenAI OpCo, LLC に対しては、別添２に記載の概要のとおり、注意喚起を行いました。
【別添１】生成 AI サービスの利用に関する注意喚起等【別添２】OpenAI に対する注意喚起の概要【連絡先】
個人情報保護委員会事務局
吉屋、松本、福本
電話：03-6457-9763

（別添１）

生成 AI サービスの利用に関する注意喚起等
令 和 ５ 年 ６ 月 ２ 日
個人情報保護委員会
生成 AI サービス（質問・作業指示（プロンプト入力）等に応えて文章・画像等を生成する AI を利用したサービス）については、「G7 広島首脳コミュニケ」（令和５年５月 20 日）において、「我々が共有する民主的価値観に沿った、信頼できる人工知能（AI）という共通のビジョンと目標を達成するために、包摂的な AI ガバナンス及び相互運用性に関する国際的な議論を進める。」、「国や分野を超えてますます顕著になっている生成 AI の機会及び課題について直ちに評価する必要性を認識し、（略）」とされているとおり、世界的な関心が高まるとともに、利活用の機会及び課題の両面からの評価が求められている。その一環として、例えば、個人情報の適正な取扱いやプライバシー保護の観点からの考慮の重要性も指摘されている。これらの経緯及び状況を踏まえ、各国において対応を検討する動きがある。
我が国においても、現在、生成 AI サービスが普及していることを踏まえ、当委員会として、個人情報の適正な取扱いによる個人の権利利益の確保の要請と、新たな技術に基づく公共的な利益（イノベーションの促進、生産性の向上、教育効果の向上、気候変動問題等の国際社会の課題の解決等を通じて、多様な社会的・経済的利益の増進に寄与する可能性）の要請とのバランスに留意しつつ、生成 AI サービスの利用に関する注意喚起等を行うこととした。
下記（１）及び（２）において、個人情報取扱事業者及び行政機関等 1における生成 AI サービスの利用に際しての個人情報の取扱いに関する注意点を取りまとめたので、個人情報取扱事業者及び行政機関等において、生成 AI サービスを利用する際には、これらも参考に、個人情報の保護に関する法律（平成 15 年法律第 57 号。以下「個人情報保護法」という。）の規律に従って、個人情報を適正に取り扱っていただ
きたい。
また、下記（３）において、一般の利用者における生成 AI サービスの利用に際しての個人情報の取扱いに関する留意点を取りまとめたので、参考としていただきた

1

行政機関、地方公共団体の機関（議会を除く。）、独立行政法人等（個人情報保護法別表第２に掲げる法人を除く。）及び地方独立行政法人（地方独立行政法人法第 21 条第１号に掲げる業務を主たる目的とするもの又は同条第２号若しくは第３号チに掲げる業務を目的とするものを除く。）をいう。
以下、本文において同じ。

い。
なお、生成 AI サービスの利用に関する注意喚起等と併せて、生成 AI サービスである ChatGPT を開発・提供する OpenAI, L.L.C.及び OpenAI OpCo, LLC（以下、併せて「OpenAI」という。）に対しては、別添２のとおり、要配慮個人情報の取得及び利用目的の通知等についての注意喚起を行ったことに加え、今後、新たな懸念事項を認識した場合には、必要に応じ追加的な対応を行うとしたところである。
当委員会は、個人情報の適正な取扱いが確保され、個人の権利利益が保護されるよう、生成 AI サービスの開発・利用状況を引き続き注視していく予定であり、今後、追加の注意喚起等を実施する可能性もある点に留意されたい。
（１） 個人情報取扱事業者における注意点① 個人情報取扱事業者が生成 AI サービスに個人情報を含むプロンプトを入力する場合には、特定された当該個人情報の利用目的を達成するために必要な範囲内であることを十分に確認すること。
② 個人情報取扱事業者が、あらかじめ本人の同意を得ることなく生成 AI サービ
スに個人データを含むプロンプトを入力し、当該個人データが当該プロンプトに対する応答結果の出力以外の目的で取り扱われる場合、当該個人情報取扱事業者は個人情報保護法の規定に違反することとなる可能性がある。そのため、このようなプロンプトの入力を行う場合には、当該生成 AI サービスを提供する事業者が、当該個人データを機械学習に利用しないこと等を十分に確認すること。
（２） 行政機関等における注意点① 行政機関等が生成 AI サービスに個人情報を含むプロンプトを入力する場合には、特定された当該個人情報の利用目的のための必要最小限の利用又は提供であることを十分に確認すること。
② 行政機関等が、生成 AI サービスに保有個人情報を含むプロンプトを入力し、当該保有個人情報が当該プロンプトに対する応答結果の出力以外の目的で取り扱われる場合、当該行政機関等は個人情報保護法の規定に違反することとなる可能性がある。そのため、このようなプロンプトの入力を行う場合には、当該生成 AI サービスを提供する事業者が、当該保有個人情報を機械学習に利用しないこと等を十分に確認すること。
（３） 一般の利用者における留意点① 生成 AI サービスでは、入力された個人情報が、生成 AI の機械学習に利用されることがあり、他の情報と統計的に結びついた上で、また、正確又は不正確な内容で、生成 AI サービスから出力されるリスクがある。そのため、生成 AIサービスに個人情報を入力等する際には、このようなリスクを踏まえた上で適切に判断すること。
② 生成 AI サービスでは、入力されたプロンプトに対する応答結果に不正確な内容が含まれることがある。例えば、生成 AI サービスの中には、応答結果として自然な文章を出力することができるものもあるが、当該文章は確率的な相関関係に基づいて生成されるため、その応答結果には不正確な内容の個人情報が含まれるリスクがある。そのため、生成 AI サービスを利用して個人情報を取り扱う際には、このようなリスクを踏まえた上で適切に判断すること。
③ 生成 AI サービスの利用者においては、生成 AI サービスを提供する事業者の利用規約やプライバシーポリシー等を十分に確認し、入力する情報の内容等を踏まえ、生成 AI サービスの利用について適切に判断すること。
以上

（別添２）

OpenAI に対する注意喚起の概要
令 和 ５ 年 ６ 月 ２ 日
個人情報保護委員会
当委員会は、令和５年６月１日付けで、OpenAI, L.L.C. 及び OpenAI OpCo, LLC
に対し、個人情報の保護に関する法律（平成 15 年法律第 57 号。以下「法」という。）第 147 条の規定に基づき、下記概要のとおり、注意喚起を行った。
なお、本注意喚起は、当委員会が現時点で明確に認識した懸念事項を踏まえたものであり、今後新たな懸念事項を認識した場合には、必要に応じて、追加的な対応を行う可能性がある。
記１

要配慮個人情報の取得
あらかじめ本人の同意を得ないで、ChatGPT の利用者（以下「利用者」という。）及び利用者以外の者を本人とする要配慮個人情報を取得しないこと（法第 20 条第２項各号に該当する場合を除く。）。
特に、以下の事項を遵守すること。

（１）機械学習のために情報を収集することに関して、以下の４点を実施すること。
① 収集する情報に要配慮個人情報が含まれないよう必要な取組を行うこと。
② 情報の収集後できる限り即時に、収集した情報に含まれ得る要配慮個人情報をできる限り減少させるための措置を講ずること。
③ 上記①及び②の措置を講じてもなお収集した情報に要配慮個人情報が含まれていることが発覚した場合には、できる限り即時に、かつ、学習用データセットに加工する前に、当該要配慮個人情報を削除する又は特定の個人を識別できないようにするための措置を講ずること。
④ 本人又は個人情報保護委員会等が、特定のサイト又は第三者から要配慮個人情報を収集しないよう要請又は指示した場合には、拒否する正当な理由がない限り、当該要請又は指示に従うこと。
（２）利用者が機械学習に利用されないことを選択してプロンプトに入力した要配慮個人情報について、正当な理由がない限り、取り扱わないこと。
２

利用目的の通知等
利用者及び利用者以外の者を本人とする個人情報の利用目的について、日本語を用いて、利用者及び利用者以外の個人の双方に対して通知し又は公表すること。
以上