市況コメント生成のための少数事例選択

市況コメント生成は，日経平均の値動きを表現した数値時系列データを入力とし，値動きを説明するテキストを出力するData-to-textタスクの一つである．このタスクでは，従来，事前学習済みのニューラルネットワークを学習データを用いて，ファインチューニングする手法が主流であった[1]．近年はGPT等の大規模事前学習言語モデルにプロンプトを与え言語生成する少数ショット学習(few-shotlearning)が注目されている[2]．そこで，本研究では，市況コメント生成を少数ショット学習で解く問題設定に着目し，プロンプトに含めるべき少数ショット事例の選択することで性能を向上させる手法を提案する．少数ショット学習は，文書分類，質問応答，機械翻訳など幅広い言語処理タスクに適用され活発に研究されている．これらの研究では，「プロンプトの記述形式」，「プロンプトに含める少数ショット事例の選び方」，「プロンプト内での少数ショット事例の提示順」が性能に大きく影響することが指摘されている[3]．市況コメント生成についての既存研究では，プロンプトの記述形式に着目するものが存在する[2]が，少数ショット事例に着目した研究は存在しない．既存の少数ショット事例の選択手法では，極性分析や文書分類において文の埋め込み表現の類似度を用いる手法，機械翻訳において高速な類似文字列探索手法を用いることで学習データセットから類似事例を探索するアイデアが提案されている[3,4]．一方，市況コメント生成では入力が数値時系列データであるため，既存手法をそのまま適用することができない．そこで，本研究では，図1に示すように，市況コメント生成タスクにおける2つの特徴に着目した類似事例探索を行い，プロンプトに含める少数ショット事例の選択を行う手法を提案する．1つ目は，入力が数値時系列データである特徴に着目し，時系列同士の相関係数に基づき事例を選択する手法である．2つ目は，入力の数値時系列データが時刻と対応付いているという特徴に着目し，配信時刻の近さに基づいて事例を選択する手法である．既存データを用いた実験において，2つの手法は共に，従来のファインチューニングによる手法および，無作為に少数ショット事例を選択しプロンプトに含める手法よりも優れた性能を示した．