逆プロンプトを用いたコールドスタート推薦

推薦システムはECサイトや広告配信などで広く利用されており、そこで扱う問題はユーザがアイテムをどのくらい好むかを予測することである。古典的には行列分解に代表される協調フィルタリング[1,2,3]が、教師データに含まれるユーザ、アイテム、反応の3つ組からその対応関係を学習し、ユーザがまだ見ていないアイテムへの反応を予測させている。新商品などの教師データにないアイテムを推薦する際、古典的な行列分解では対応するアイテム表現を求められないため予測ができず、これはコールドスタート問題として知られている難問である。この問題を解決するため、アイテムに付随する商品名やカテゴリといった補助情報を利用した推薦システム[4,5,6,7,8]が提案されている。これらの手法は、教師データ内のユーザやアイテムの協調埋め込みに加え、補助情報から得られるテキスト表現も学習に活用することで、コールドスタート問題に取り組んでいる。しかし、高精度な推薦を行うためには十分な量と質のデータが必要という課題がある。近年、大規模言語モデル（LargeLanguageModel,LLM）の技術進歩が著しく、教師データがなくても高精度な推薦が可能であることが知られており、それゆえコールドスタート推薦にも応用されている[9,10,11,12,13,14,15,16]。しかし、これらの方法は推論時のコストが大きいという課題がある。例えば、1000人のユーザと100個のアイテムの反応を予測する場合、LLMによる推論処理が10万回必要となり、膨大な処理時間と利用料金がかかる。タート推薦手法はウォームスタートデータのみで訓練されるが、RevAugはこのウォームスタートデータからプロンプトを作成し、LLMを用いて擬似サンプルを生成し、それらを用いて推薦システムを強化する。本論文では、コールドスタート問題において、推薦精度と推論コストを両立する手法であるRevAugを提案する。RevAugのアーキテクチャは、補助情報を利用したコスト効率の高いコールドスタート.推薦手法であるHeater[5]とCLCRec[6]を一般化したものである。教師データが限られていることによる推薦性能の低下問題に対しては、LLMを用いたデータ拡張を活用することで対処する。従来のLLMベースの推薦システム[12,14,15,17]は、LLMに“{user}は{item}を好むか？”といった質問（プロンプト）を投げかけるアプローチをとっている。これらの研究は、LLMが推薦を高精度に解けるほどまで必要な十分な知識を持っていることを示唆している。本研究では、この知識を引き出すために従来のプロンプトを逆転させ、“{user}はどのようなアイテムを好むか？”という形式に変更した。この逆プロンプトにより、LLMはユーザが好む可能性のあるアイテムに関する補助情報を生成し、それを推薦モデルの訓練に使用する。この出力は擬似サンプルであるため、HeaterやCLCRecの基本アーキテクチャに特定の正則化項を加えることで、推薦性能の向上を図った。RevAugの有効性を評価するために、実データであるAmazonReviewDatasetを用いた数値実験を行った。その結果、教師データが少ない状況において、RevAugは他の比較手法よりも高い推薦精度を達成した。さらに、RevAugを用いた推論は、LLMベースの推薦システムと比較して最大で99.9％の処理時間を削減した。これらの結果は、提案手法の優位性を実証するものである。本研究の内容は、国際学会ACMRecommenderSystems(RecSys)2024に採択された[18]に基づく。