出力埋め込み操作による統計的および因果的バイアスの抑制

大規模言語モデル(LLM)におけるバイアスは重要な課題であり，様々なバイアス軽減手法が考案されてきた．その中でも，本研究は統計的公平性を損なう統計的バイアスと，因果的公平性を損なう因果的バイアスという異なる性質をもつ二種類のバイアスに着目する．本研究では，これらのバイアスに対して異なる設計意図をもつ介入を出力埋め込みに限定して適用する枠組みを検討する．実験の結果，因果的バイアスを直接的に軽減することは確認されなかった一方で，因果的バイアスを対象とした介入が，統計的バイアスの軽減に寄与することが観測された．この結果は，統計的バイアスと因果的バイアスを独立に扱うことの難しさを示唆しており，LLMにおけるバイアス軽減手法の設計に新たな課題を提示する．