対話型AIが秘密を開示するリスクの評価用ベンチマーク検討～夫婦シナリオによる予備評価～

近年，大規模言語モデル（LLM）を活用した対話型AIの家庭内での利用が増加している．利用の仕方として，スマートスピーカーや対話ロボットのように家族で1台を共有する場合，新たなリスクが懸念される．例えば，夫が対話型AIに相談した内容が妻には秘密にしておきたい内容だった場合，妻が対話型AIに質問することによってその秘密が開示されるリスクがある．本研究では，このリスクの評価を可能とするベンチマークの構築を目指し，夫婦に限定したシナリオでの予備評価を行った．具体的には，シナリオベースのデータセットを作成し，それを基にGPT-5が生成した応答について，秘密の開示の有無を5名の評価者が判定した．結果として，条件によって秘密が開示され得ること，また秘密を直接述べていない場合でも，ほのめかす表現に対して評価者の判断が分かれる事例が確認された．ベンチマーク構築に向けては，評価者の判断が分かれる事例に対し，個人の許容度に応じて異なる判断ができる評価基準を整備することが課題となる．