ChatGPTの登場により，対話型生成AIシステムに対する期待が高まっている．一方で，LLMが組み込まれたAIシステムの利用にはプライバシーリスクが伴う．LLMのプライバシー保護研究は，学習データやモデルに含まれる個人のプライバシーリスクに関する対策が主流であり，AIシステム利用時のプライバシーリスクに関する検討は十分でない．本稿では，LLMの生成結果が利用者に出力される状況におけるプライバシーリスクとその低減の重要性を述べ，そのリスクに対するプライバシー保護の既存研究を示すとともに，今後研究すべき領域について提案する．

ChatGPTの登場により，対話型生成AIシステムへの期待が高まっている．このようなシステムを支える大規模言語モデル（LLM）の進展は目覚ましく，LLMがスマートフォンやスマートスピーカー，ロボットなどに組み込まれることで，パーソナライズされたAIシステム（以下，AI）が利用者を支援する世界が実現しつつある．一方で，LLMの利用にはリスクも伴い，LLMに関連する脅威の分類[1]やガイドライン[2,3]が作成されている．LLMは，学習データに個人のプライバシー情報が含まれる場合，その情報を生成する可能性があり，LLMの生成結果が利用者に出力される状況によっては，AI利用者のプライバシーを侵害する場合がある．LLMに関するプライバシー保護の研究は多数行われており，そのサーベイ論文も発表されている[4,5,6,7]．しかし，これらのサーベイ論文は主にLLMの作成時やサーバー通信時のプライバシー侵害のリスク（プライバシーリスク）に焦点を当てており，LLMの生成結果が出力される状況による，AIとプライバシー保護研究の関係利用者のプライバシーリスクに焦点を当てたプライバシー保護の研究については十分に調査されていない．そこで本稿では，LLMの生成結果が出力される状況を考慮したプライバシー保護の研究を調査し，AI利用者のプライバシーリスクに対応するための課題を考察する．以降，2節でLLMのプライバシーリスクの分類を行い，3節で本稿で想定する状況と対象とするプライバシーリスクおよびプライバシーに配慮する1）ために考慮すべき視点についてマルチモーダルLLMに着目し述べる．4節でそれら視点に関する既存研究を紹介し，5節で取り組むべき課題について述べる．6節ではまとめと展望について論じる．