RAGを利用した傾聴応答生成の検証

近年，日本の総人口に占める高齢者人口の割合は29.3%と過去最高を更新し続けているともに，65歳以上人口は3,625万人と過去最多となっている．これに伴い，65歳以上の要介護者数は増加しており，介護に従事する職員数も増加している[1,2]．介護現場において，高齢者の発言を傾聴，尊重，共感することは信頼関係を築くために重要であり，一つの実現手段として「バリデーション」がある．この方法は，6つの基本態度（「傾聴する」，「共感する」など）と，14の基本テクニック（「はい／いいえ」で答える質問ではなく，「いつ」，「どこで」といった自由な回答が期待できる質問を心がけることなど）を用いて被介護者と丁寧にコミュニケーションすることで，被介護者が抱える悩みを軽減することを目的としている[3,4,5]．しかし，介護士の人材不足や介護負担等の問題から個人に十分な時間をかけてケアすることが困難である．本研究では，介護環境の改善を目指して，バリデーションを活用した対話システムの構築を目的とする．著者らの先行研究[6]では，報酬表現に着目した強化学習による傾聴対話モデルの改善を提案した．ここでは，報酬モデル作成時の報酬を与える表現を改善することで，応答生成における内容の質が向上し，尊重性や共感性がさらに感じられるようになり，傾聴性満足度が向上できた．しかし，傾聴対話モデル構築時における基盤の言語モデルは，GPT2-mediumを利用していた．近年，大規模言語モデル（LLM:LargeLanguageModel）の発展に伴い，様々なモデルが公開されている．OpenAI社はAPIを用いて利用が可能である．ELYZA社はMeta社のLlama3[7]シリーズをベースとして日本語を追加事前学習および事後学習したLlama-3-ELYZA-JP-70BやLlama-3-ELYZA-JP-8Bを公開している[8]．また，LLMを追加学習せずに外部情報を組み込むためにRAG（Retrieval-AugmentedGeneration）[9]も注目を集めている．これは，外部情報を入力文章と合わせてLLMに与えることで，外部情報に基づいた生成が可能になる．本稿では，先行研究から基盤モデルを変更し，LLMを用いてRAGにおけるプロンプトの工夫，RAGにおける検索クエリを改善した手法を用いて，傾聴応答の生成可能性を検証する．さらに，プロンプト作成時において条件を追加することによる応答生成の変化を確認する．最後に，ファインチューニングの必要性について考察する．