生成系AIにおけるプライバシー
一般社団法人
日本クラウドセキュリティアライアンス
クラウドプライバシーWG リーダー山崎©2023 CSA-Japan

講師紹介• ユーザー系企業でオンラインシステムのSEとして業界入り。
• プリケーションPGM開発/設計⇒共通プログラム⇒システム周り(OS/DB/NW)⇒航空機搭載機器PGM⇒操縦マニュル管理⇒法務部にてIT法やセキュリティに関する社内規程作成⇒セキュリティグループ
創設⇒セキュアコーディングコース作成⇒コンプライアンス部創設⇒金商法対応(J-SOX対応)⇒BCP作成⇒東日本大震災では全社対応本部指揮⇒CSAにてプライバシー関連の行動規範(CoC)を翻訳・執筆(CoC)• ISO27000審査員
ISACA/CRISC©2023 CSA-Japan2

個人情報とプライバシー
個人情報
生存する個人に関する情報で、氏名、生年月日、住所、顔写真などにより特定の個人を識別できる情報。
他の情報と容易に照合することができ、それにより特定の個人を識別することができることとなるものも含む。
個人情報保護法の定義

プライバシー
個人や家庭内の私事・私生活。また、それを他の個人や社会に知られず、干渉を受けない権利。
個人情報保護の文脈では、他者が管理している自己の情報について訂正・削除を求めることができる権利（積極的プライバシー権）を指す。英語の privacy を片仮名表記したものであり、日本語では私事権と訳されることもある。
Wikiより個人情報保護法、第23条安全管理措置/第32条保有個人データに関する事項の公表等～第40条個人情報取扱事業者による苦情の処理がプライバシーに関連する法規©2023 CSA-Japan3

生成系AIとは• 簡単に言うと「何兆もの単語から構成される文章と、何千もの高性能なコンピュータチップを使って訓練された大規模言語モデル（LLM:Large Language Model） 」• 読み込ませた文章が知識ベースになる。
• 言語モデルとは入力文から予測して単語を出力するモデルです• 蕎麦屋-天ぷら蕎麦 レストラン-? ←ハンバーグ©2023 CSA-Japan4

最新の外国政府の動き

米国• 人工知能（AI）の安心、安全で信頼できる開発と利用に関する大統領令
Executive Order on the Safe, Secure, and Trustworthy Development and Use ofArtificial Intelligenceを2023/10/30に発令••••••••

議会に対し、全ての米国民、特に子供のプライ
1. 安全性とセキュリティーの新基準
バシー保護を強化するため、超党派のデータプライバシー法案を可決するよう求める。また、
2. 米国民のプライバシー保護全米科学財団の実施する助成金事業「リサー3. 公平性と公民権の推進
チ・コーディネーション・ネットワーク」への資金提供を通じ、暗号ツールのような個人のプ
4. 消費者、患者、学生の権利保護
ライバシーを保護する研究や技術を強化する。
5. 労働者の支援
6. イノベーションと競争の促進
7. 外国における米国のリーダーシップの促進
8. 政府によるAIの責任ある効果的な利用の保証

https://www.jetro.go.jp/biznews/2023/11/495833ae70119dbf.
html©2023 CSA-Japan5参考リンク• 個人情報保護委員会 生成AIサービスの利用に関する注意喚起等について• https://www.ppc.go.jp/news/careful_information/230602_AI_utilize_alert/• 東京都 文章生成AIの利活用に関するガイドライン• https://www.metro.tokyo.lg.jp/tosei/hodohappyo/press/2023/08/23/14.html• 一般社団法人日本ディープラーニング協会 生成AIの利用ガイドライン• https://www.jdla.org/document/#ai-guideline• PWC 生成AIを巡る米欧中の規制動向最前線• https://www.pwc.com/jp/ja/knowledge/column/awareness-cyber-security/generative-airegulation.html©2023 CSA-Japan6

個人情報を利用する時に必要な事• 利用目的の通知・公表
法17条～法21条• 出来るだけ具体的に判りやすく記載が必要• 事業活動に用いるため/マーケティング活動に用いるため• 一般的には、業種の明示だけでは何に使われるかわからないので、個人情報の利用目的の特定があるとは認められません• 利用目的の変更は変更前の利用目的と関連性を有すると合理的に認められる範囲を超えては行えない• 大きな利用目的の変更は本人からの同意取得が必要• 要配慮個人情報を取得する場合は本人からの同意取得が必要
公表する段階で第三者提供まで同意していると解釈している©2023 CSA-Japan7

海外移転法28条• 日本国外へ個人情報を移転させること• EUと英国はこの適用の対象外• 同意取得時に、移転先国の名称、移転先国における個人情報の保護に関する制度の有無等について本人に情報提供• 移転先事業者の取扱い状況等の定期的な確認＋本人の求めに応じて関連情報を提供 (除くEUと英国)
個人情報の処理が行われなければ対象外

各法令・ガイドラインまとめ• 教師データに個人情報が使われないようにする。
• データが越境移転する時の配慮/措置が必要• 生成した結果は人間の確認が必要 判断を委ねない• 個人情報に関してはデータ主体の同意が得られているか確認が必要。
• 著作権に配慮した生成を実施©2023 CSA-Japan9

プロンプト例• 東京-日本
パリ-フランスロンドン-? ←英国• 東京とパリ が前提ルールと解析し、ルールから英国という回答を導き出す。

GPT3.5

GPT4.0©2023 CSA-Japan

10

大規模言語モデル（LLM)• 大量のプロセッサーとメモリー空間に、数兆のデータを読み込ませ、言語モデルを予め構築する。
良いが気分
今日は様々な文章を読み込ませ左記の様な言語モデルを生成する

悪いは軽い

天気
天元突破

読み込ませた学習データがどの様な物なのかは明らかになっていない

個人情報は読み込んでいないのか???

©2023 CSA-Japan11

精度向上のために• GPTエンジンにパラメーターとして質問等を与えるために使われるインターフェース• 前述のとおり、大量に文書を蓄積させる事により、回答精度が上がっていく事が発見された• https://ai.googleblog.com/2022/11/characterizing-emergentphenomena-in.html?m=1• 但し 以下のような問題が指摘されている• GPTには問題が残存• – 情報のでっち上げ• – 不適切な文章生成• – 簡単な質問でも長文で返す©2023 CSA-Japan12

教師データ
• LLMでは文字通り大量の文章を読み込ませる必要があり、インターネット上で公開されている文章を教師データとして利用する事が推測される
公開情報を取得している何らかの加工をしている

何らかの保護対策をしている©2023 CSA-Japan13

Bardは?

©2023 CSA-Japan14

病歴は要配慮個人情報だが公人は公開される©2023 CSA-JapanGPT 4.015

https://www.asahi.com/articles/ASN6J5Q0RN5YPTIL02B.html?iref=pc_photo_gallery_breadcrumb

学習データ
• LLMの場合、ベースに大量の情報(何兆という単位の単語や文章)を読み込ませて言語生成モデルを構築する。
• Few-shot Promptという、質問の直前に後述のような情報を与えて、精度を向上させる事が出来る。

©2023 CSA-Japan16

設問ごとに追加学習させ回答精度を向上させる• 質問だけでなく、追加の情報を与えて学習させる事もできる。
• 「“Few-shot” は、機械学習、特に深層学習の文脈で使用される用語で、少量のデータ（例えば、数枚の画像）だけで新しいタスクを学習する能力を指します。
これは一般的に、大量のデータを必要とする伝統的な深層学習のアプローチとは対照的です。」 GPT4.0• 「一般にはインターネットから収集された広範なテキストデータが使用されることが多いです。これにはウェブサイト、書籍、記事、フォーラムの投稿などが含まれる可能性があります。」⇒公開状態に置かれている個人情報もインプットされている。(スライド13のGPTの回答より)• 精度が向上するが、容易照合性も向上し、個人情報となってしまうケースがある。

©2023 CSA-Japan17

©2023 CSA-Japan18

私人の検索• 以下のFew-shotを与える

8月

11月

©2023 CSA-Japan19

AIに判断させてみた

6月

11月

① 容易照合性を考えなければならない。
② 取得目的に適合しているか©2023 CSA-Japan20

容易照合性とは• 照合可能な項目によって個人情報でないものを個人情報に出来てしまう事
ID

氏名KBA0001

山田太郎

KBA0002

鈴木花子

KBA0003

ジョン スミス

KBA0004

三毛美樹

KBA0005

鈴木敬一郎

KBA0006

春日部京子

KBA0007

田中真由美

ID

購入商品

購入店

KBA0007

お茶新宿店

KBA0004

ちゅーる

渋谷店

KBA0006

ジュース

世田谷店

KBA0001

弁当

札幌店

KBA0003

カレー

北谷店

KBA0007

コーヒー

新宿店

KBA0004

チョコレート

渋谷店

KBA0005

ギフトカード世田谷店

KBA0007

おにぎり

新宿店

田中真由美さんは新宿に住んでいる

フューショットとして与えたデータと蓄積したデータを組み合わせ活用してしまう可能性
教師データとして読み込ませてある場合、利用目的以外のことに利活用される可能性©2023 CSA-Japan21

GPTの利用規約

2023/08/23

入力されたデータをモデルの為に使うと明記

ChatGPT
When you use our non-API consumer services ChatGPT or DALL-E, we may use the data youprovide us to improve our models. You can switch off training in ChatGPT settings (under DataControls) to turn off training for any conversations created while training is disabled or you
can submit this form. Once you opt out, new conversations will not be used to train our
入力されたデーmodels.
タをモデルの為に使えない設定も出来る(c) Use of Content to Improve Services. We do not use Content that you provide to or receivefrom our API (“API Content”) to develop or improve our Services. We may use Content from S
API利用の場合はervices other than our API (“Non-API Content”) to help develop and improve our Services. Yo
自社の為に使わな
u can read more here about how Non-API Content may be used to improve model performan
いと明記ce. If you do not want your Non-API Content used to improve Services, you can opt out by filli
ng out this form. Please note that in some cases this may limit the ability of our Services to b
etter address your specific use case.

©2023 CSA-Japan

利用規約の更新は物凄く頻繁に行われているので継続的なモニタリングが必要
22

Google Bard規約©2023 CSA-Japan23

Few-Shotが機械学習に使われるのか?

Few-shotの使い方に注意が必要©2023 CSA-Japan24

©2023 CSA-Japan25

生成系AIを使う場合• OpenAI社/Googleやマイクロソフト社の規約的に抵触しない状態にした後、自社の利用規約とプライバシーポリシーの利用目的との逸脱がない事を確認する。
• 回答が個人情報になっている事も想定する• 保護法第25条 委託先の監督• ISO27000 A5.23クラウドサービスの利用における情報セキュリティ
クラウドサービスプロバイダーが提供する情報セキュリティ機能が自らのセキュリティ要求事項を満たす事の確認
チェックシートを書いてくれることは期待薄©2023 CSA-JapanCAIQを利用26

ここからダウンロードできる©2023 CSA-Japan

https://app.safebase.io/accounts/e2f339ec-2716-4545-8882141258c92d42/share?product=default27生成系AIの利用まとめ• 生成系AIが教師データとして入力されたプロンプト等のデータを教師データとして学習に使わない事の確認・オプション等の設定• 個人情報や機密情報を扱わせる場合、セキュリティ管理策の自社基準との適合性確認• 個人情報を扱わせる場合、取得時にデータ主体に提示した利用規約・プライバシーポリシーに適合する利用• 域外転移には注意が必要• インターネット上データを教師データとした、予期せぬ結果、不正確な情報である事を加味した、回答/生成物に対する人間の確認©2023 CSA-Japan28

Q&A©2023 CSA-Japan29

ありがとうございました• banjoe1jp@gmail.com©2023 CSA-Japan30