大規模言語モデルにおける社会的バイアスの抑制と文化的常識の理解のトレードオフの分析

社会的バイアスと文化的常識はどちらも社会に根付いた規範や価値観の理解に関するものであり，密接に関わる．これまで，大規模言語モデルの持つ社会的バイアスの抑制手法において，モデルの他の側面への影響は一般的な能力を測るタスクで評価されてきた．しかし，より関連が深い問題である文化的常識への影響については考慮されていない．本研究ではモデルが持つ社会的バイアスと文化的常識の両方を評価するデータセットを提案する．実験ではプロンプトによる社会的バイアス抑制手法が与える，文化的常識に基づく推論性能への影響を検証する．実験の結果，モデルの社会的バイアスの抑制と文化的常識理解タスクの性能低下には相関が見られた．注意:本論文には差別的な表現が一部含まれます．