公平性 (機械学習)
別の対処法は学習時に偏見を直すことである。アルゴリズムの最適化をする目標に対して制約を課することによりこれはなされうる。保護された集団とその残りの個人らについての一定の測定の同じ比率を保つことによって、これらの制約はアルゴリズムに公平性を改善するようせしめる。たとえば、誤った陽割合が、保護された集団での個人と保護された集団の他のものとで同じになる、 目標の条件をアルゴリズムに追加することができる。
この取り組み方でのおもに用いられる測定は誤った陽割合、誤った陰割合、及び全部の誤分類割合である。アルゴリズムの目標にこれら制約のたった一つもしくは幾つかを追加することができる。 誤った陰割合の等しさは、これは機会の平等を意味するから、真の陽割合の等しさを意味することに注意せよ。問題についての制約を課したのち、解決しないかもしれない、そうなのでそれらにおける緩和が逆に必要かもしれない。
高精度に公平性を改善ことにおいてこのテクニックはよい結果を達成する、そして改善のための公平性の測定をプログラマーに選ばせる。しかしながら、各々の機械学習の作業は異なった適用可能な方法を必要とし、そして分類法での、常に可能とは限らないコードは修正が必要かもしれない。
確立変数 ( R , A , Y ) {\textstyle (R,A,Y)} が、もしその機微な特性変数 A {\textstyle A} が目的変数 Y {\textstyle Y} によって与えられる予測子 R {\textstyle R} と確率的に独立であるとき、分離性を満たすと呼び、
と記す。この記法は次の式でも表すことができる:
これは、機微な属性 A {\displaystyle A} に関する判別 R {\displaystyle R} のすべての独立性は真の目的変数 Y {\displaystyle Y} の実際の独立性と一致されなくてはならないことを意味する。
毎学習段階に勾配 ∇ U L A {\textstyle \nabla _{U}L_{A}} に応じて L A {\textstyle L_{A}} を最小化するよう U {\textstyle U} を更新し、次の式により W {\textstyle W} を修正する:
ここに、 α \alpha は毎段階で変化しうる、調整可能な超パラメーター(英語版)である。
直観的な考えは、'反対器'が Y ^ {\textstyle {\hat {Y}}} からの機微変数の予測に失敗するから、'予測器'が L P {\textstyle L_{P}} (すなわち ∇ W L P {\textstyle \nabla _{W}L_{P}} )を最小化をするときに、同時に、 L A {\textstyle L_{A}} (すなわち − α ∇ W L A {\textstyle -\alpha \nabla _{W}L_{A}} )をも最大化させたいことである。