大規模言語モデルにおける性格概念の表現位置と操作可能性

大規模言語モデルは高い言語理解能力を示し独自の性格特性を持つことが知られる一方で、高次の概念である性格特性を内部でどのように表現しているかは十分に明らかでない。本研究では、心理学の質問紙で定義される性格に関する心理学的構成概念を対象に、モデル内部における表現位置とその因果的関与を調査した。具体的には、層ごとのプロービングによって構成概念ラベルの抽出精度を層方向に評価し、また入力に対して概念選択的に活性するニューロンを抽出してその分布と概念間の重なりを分析した。さらに、ニューロンへの介入によりプロービング精度と性格ドメインに関する生成応答を一定程度系統的に制御できることを示した。