出力埋め込み操作による統計的および因果的バイアスの抑制

大規模言語モデル（LLM）の内部表現や出力には，性別や人種に関するバイアスが含まれることが指摘されてきた[1,2]．近年では，複数の属性が重なり合う交差的バイアスの存在も指摘されている[3]．本研究では基礎的な分析として，性別に基づく個人に対する固定観念や偏見であるジェンダーバイアス[4]に焦点を当てる．加えて，Chenら[5]は，統計的公平性および因果的公平性の観点からジェンダーバイアス軽減手法を検討した．本研究では，統計的公平性は全ての属性に対して，モデルの出力結果が同等であることを示し，因果的公平性は言語モデルの予測が入力された属性によって左右されないこととする．それらを害するバイアスをそれぞれ統計的バイアス，因果的バイアスとする．これらのバイアスに対し，本研究ではLLMのデコーダの出力埋め込みのみへの介入に限定し，それぞれに適したバイアス軽減の操作を設計する．統計的バイアスは事前学習データの偏りに起因org/licenses/by/4.0/).org/licenses/by/4.0/).対象のバイアスタスク予測対象条件とテキスト例統計的バイアスタスク0性別職業明示:Cherrinbegantheattorney’scareer[...].Thispersonworked[...].タスク1性別中立:Cherrinbegantheperson’scareer[...].Thispersonworked[...].因果的バイアスタスク2職業性別明示:Cherrinbeganhiscareer[...].Heworked[...].タスク3職業中立:Cherrinbegantheperson’scareer[...].Thispersonworked[...].する．両方を適用する場合は，順序の影響を検証するため，確率操作ベクトルによる介入後に概念ベクトルによる介入操作を行う「確率→概念」とその逆の「概念→確率」の2通りを検証する．4実験4.1タスク設定統計的バイアスおよび因果的バイアスの軽減効果を評価するタスク設定を述べる．タスクに使用するデータ職業予測のジェンダーバイアスを調査するデータセットBiasinBios[18]を使用する．職業は全部で28種類（表A.1参照）あり，本タスクではテスト用のデータを使用する．タスク設定統計的バイアスおよび因果的バイアスを評価するため，文中の属性語（性別を示す単語や職業名）が明示されている文と，それらをthepersonに置き換え中立化した文を用意し，以下の4つのタスクを設定した（表1参照）．統計的バイアス（性別予測）では，文中の職業名から性別を予測する設定をタスク0，職業名を中立化した状態で性別を予測する設定をタスク1とする．一方，因果的バイアス（職業予測）では，文中の性別を示す単語から職業を予測する設定をタスク2，性別を示す単語を中立化した状態で職業を予測する設定をタスク3とする．なお，各タスクで使用する詳細な仕様については付録A.2に詳述する．予測結果の算出手法本研究では，分類ヘッドを付加せず，生成モデルとして用いられる自己回帰型LLMを対象とする．分類対象の文をLLMに入力した後，Thepersonisに続く予測対象語彙の尤度（複数トークンの場合はその和）を算出し，尤度が最大となる語彙をモデルの予測結果とする．4.2実験設定データセットBiasinBiosのテストデータ99,000件のうち，職業ごとに100件ずつサンプリングをしたもの（計2,800件のデータ）を使用する．評価指標提案手法の効果を評価するため，以下の指標を用いる．統計的バイアス（タスク0,1）では，男女間の尤度差の二乗平均平方根（RMS）によりバイアス強度を定量化する．さらに，米国労働省データ（BLS）[19]とのピアソン相関係数から統計的不平等の解消度を測る．この時，BLSデータに対応しない職業については，統計値が取得できないため分析から除外した．なお，本研究では，統計的バイアスは全職業に対する予測確率分布に基づいて評価されるため，性別を示す単語の有無を入れ替えるタスク2およびタスク3は用いない．一方，因果的バイアス（タスク2,3）には正解率（Accuracy）を用いる．これにより，提案手法によるモデル性能の劣化や，性別を示す単語に起因するバイアスの影響を確認する．また，タスク0の結果から職業ごとの女性予測確率の平均値を算出し，職業名に起因するバイアスの軽減効果を分析する．使用モデルQwen/Qwen1.5-1.8B-Chatを使用．タスク0タスク1手法RMS(↓)Pearson(↓)RMS(↓)Pearson(↓)介入なし0.670.610.500.56確率操作0.670.610.500.56概念0.480.490.350.45確率→概念0.520.500.380.43概念→確率0.480.490.350.454.3実験結果統計的バイアスタスク0とタスク1の結果をRMSもピアソン相関係数も低下したことから，統計的なバイアスを効果的に抑制できたことがわかる．特に概念ベクトルと「概念→確率」の手法が最も効果的であり，次いで「確率→概念」の順となった．確率操作ベクトル単体では効果がないも踏まえると，確率操作ベクトルを先に適用することで，後続の概念ベクトルによるバイアス関連次元の特定が阻害されたためと示唆される．タスク1と比較するorg/licenses/by/4.0/).タスク2タスク3手法AccMaleFem.Gap(↓)AccMaleFem.Gap(↓)介入なし64.4366.4961.92-0.045765.2566.2364.05-0.0218確率操作64.4366.4961.92-0.045765.2566.2364.05-0.0218概念64.4666.6961.76-0.049365.3966.6263.90-0.0272確率→概念64.5766.7561.92-0.048365.1466.4963.50-0.0299概念→確率64.4666.6961.76-0.049365.3966.6263.90-0.0272と，タスク1の方が全体的にバイアスが小さく，明示的な職業名をなくすことでバイアス軽減が可能とわかる．その中でも提案手法を用いた際のバイアスが小さいことから，文脈から起因するバイアスに対しても提案手法が効果的であることがわかった．因果的バイアスタスク0とタスク1の結果をは維持され，男女別の精度に関しても同様であったことから，提案手法がLLMの性能自体に与える影響は少ないが，バイアス軽減効果も少ないことがわかる．両タスクを比較すると，タスク3の方が全体的な正解率が高く，特に女性の正解率が向上し，男女差も小さくなった．これは性別を示す単語から職業を結びつける因果的バイアスが女性語と強く結びついていることが示唆される．また，性別を示す単語をマスクすることで因果的バイアスを減らすことはできたが，手法間を比較すると，提案手法で同等の効果は得られなかったことがわかる．と，最も効果の高かった提案手法を用いた際の，女性の予測確率の平均値を示す．女性予測確率が50%を超える場合，LLMが当該職業を女性と強く関連付けていることを示す．提案手法の適用により，このような職業における女性予測確率が低下し，女性への過度な関連付けが緩和された．以上より，本手法は職業名に起因するバイアスの軽減に有効であることが示唆される．5おわりに本研究では，統計的バイアス軽減のために確率操作ベクトルによる介入を行い，因果的バイアス軽減のために概念ベクトルによる介入を行った．結果として，統計的バイアスには確率操作ベクトルによる介入の効果はなかったが，概念ベクトルを用いた手法は効果的であった．特に，性別を示さない単語（職業名）やその文脈から起因するバイアスに有効だった．反対に，性別を示す単語から起因する因果的バイアスには，どちらの手法も効果がなかった．この要因の一つとして，本研究では概念を線形かつ独立した存在として扱っている点が影響している可能性が考えられる．職業名からジェンダーの概念への対応は比較的一意に定まるのに対し，ジェンダーの概念は他の多様な概念と結びつく可能性があり，その結果として生じる交差的なバイアスを十分に捉えられなかった可能性が示唆される．今後の展望として，より多様な種類のバイアスを対象とし，複雑な概念を扱うために非線形な概念表現を抽出する手法の検討を進める．org/licenses/by/4.0/).