LLMに確率分布を学習させる際、適切な表現方法は明らかでない。人工データを用いて直接的・間接的な5つの表現手法を比較した結果、分布を明示的に表現する手法は、頻度ベースの暗黙的な学習より高い推定精度を達成した。学習データへの適度なノイズ付与は未知条件への汎化性能向上に寄与する。

広告代理店では、マーケティング戦略立案に調査データを活用している。なかでも、生活者を対象としたアンケート調査は、生活者の態度や意識を高い信頼性で把握できる手法として広く用いられているが、実施には多大なコストと時間を要する。近年、この課題に対するアプローチとして、大規模言語モデル（LLM）を用いて仮想的なアンケート回答を生成する研究が注目を集めている。もちろん、LLMによるシミュレーションが人間による実調査を完全に代替することはありえない。しかし、実調査に先立つ仮説構築の支援や、調査票設計の予備検証に活用することで、業務を効率化できる。LLMをアンケートシミュレーションに活用する研究は、大きくプロンプトベースとファインチューニングベースに分類できる。プロンプトベースでは、属性情報をプロンプトに含めることでLLMの回答を誘導するが、実際の回答分布との乖離やプロンプト設計への感度が課題として指摘されている[1,2,3]。一方、近年ではアンケートデータを用いたファインチューニングにより分布予測精度を向上させる手法が提案されており、プロンプトベースの手法を大幅に上回る性能が報告されている[4,5,6,7]。しかし、設問への回答のモデリングにおいて、回答データをどのように表現し、LLMに学習させるべきかという点は未解決の課題として残されている。先行研究の多くは、個々の回答者の具体的な回答内容を直接生成・再現するようにLLMをファインチューニングするアプローチを採用している。本研究では果たしてこの個別の回答生成というアプローチが、調査結果の全体像や傾向を捉える上で最適な手法であるかについて再考する。そこで本研究では、設問への回答を確率分布として捉え、その分布を直接推定するようLLMをファインチューニングする手法を検討する。また、分布をLLMに学習させる際の表現形式について、複数の手法を実装し比較する。本研究では、具体的に以下の点を明らかにする。•設問への回答の分布表現として、どのような形式が有効であるかを比較検討する。•データに含まれるノイズがモデルの学習挙動や汎化機能に与える影響を分析する。実験設定として、回答者のデモグラフィック情報を入力とし、設問への回答分布を出力するモデルを構築する。検証には、あらかじめ定義された確率分布に基づいて生成された人工データを用いる。これにより、LLMが背後にある分布構造をどの程度正確に捉えることができるかを定量的に評価し、理想的な条件下でのLLMの分布表現力の上限を確認する。