大規模言語モデルに含まれる社会集団間の感情の抽出

大規模言語モデル(LargeLanguageModel;LLM)は、様々なタスクにおいて、あたかも人間が作成しているかのような質の高いテキスト生成を実現している[1,2]。このようなLLMが持つ人間の行動や対話を模倣する能力に着目し、人間を被験者とした社会実験をLLMにより再現しようとする試みも多く行われている[3,4,5,6,7]。一方で、大規模コーパスから学習された言語モデルが持つ社会的に望ましくない偏った価値観[8,9]を修正するため、近年のLLMは、人間のフィードバックによる強化学習(ReinforcementLearningwithHumanFeedback;RLHF)[10]を取り入れることで、社会的に望ましくない出力を抑制するように学習が行われている。このようにRLHFをモデルの学習に取り入れた結果、社会実験の代替モデルとしてLLMが本来習得した知見を出力しなくなる可能性が考えられる。そこで本研究では、社会集団間の感情を対象に、RLHFを取り入れた各種のLLMから、これらの感情をどのくらい抽出可能かの検証に取り組む。具体的には、国籍、宗教、人種/民族の各属性で規定される、ある集団から別のある集団への感情を、各種のLLMの出力から再現できるかを検証する。概要を質問HowdoesKoreanpeoplefeelaboutAmericanpeople?実際の社会調査データ(1)社会集団間の感情に関する質問を複数入力LLM応答Generally,KoreanpeoplehaveapositiveviewofAmericanpeople…(4)Pearsonの相関係数を算出(2)LLMからの応答を感情分析しスコア化感情分析器集計結果…+0.5-0.2-🇺🇸🇰🇷🇫🇷🇺🇸🇰🇷🇫🇷(Ppos,Pneu,Pneg)=(0.7,0.1,0.2)スコア+0.4-+0.5--0.2+0.3-︙(3)感情スコアPpos–Pnegの平均値を集計団に持つ感情を問う質問をLLMに入力する。次に、(2)LLMの出力に対し感情分析を適用してスコア化し、(3)集団の全組み合わせのスコアを集計する。最後に、(4)集計結果と実際の社会調査データとの相関係数を算出することで、LLMから集団間の感情がどの程度、抽出可能か評価する。