公平性 (機械学習)
同じ最急降下による方法(最急降下法を見よ)を通じて同時に二つの分類を矯正する。一つに、'予測器'(英: predictor)は、それの重み W {\textstyle W} で修正された、何らかの損失関数 L P ( y ^ , y ) {\textstyle L_{P}({\hat {y}},y)} を最小化させる、 X {\textstyle X} で与えられる入力の、目的変数の、 Y {\textstyle Y} の予測の作業を達成しようとする。二つに、'反対器'(英: adversary)は、なんらかの損失関数 L A ( a ^ , a ) {\textstyle L_{A}({\hat {a}},a)} を最小化するような、その重み U {\textstyle U} で修正された Y ^ {\textstyle {\hat {Y}}} が与えられ、機微変数の A {\textstyle A} の予測を達成しようとする。
正確に進めるのに、ここで重要な点は、前述の Y ^ {\textstyle {\hat {Y}}} は、その離散的な予測ではなく、分類法の生の出力を意味しているに違いないことである;たとえば、人工ニューラルネットワークや分類問題をもって、ソフトマックス層の出力を Y ^ {\textstyle {\hat {Y}}} は意味する。
Mullainathan, Sendhil [in 英語] (2018年6月19日). Algorithmic Fairness and the Social Welfare Function. Keynote at the 19th ACM Conference on Economics and Computation (EC'18). YouTube. 48 該当時間:. In other words, if you have a social welfare function where what you care about is harm, and you care about harm to the African Americans, there you go: 12 percent less African Americans in jail overnight.... Before we get into the minutiae of relative harm, the welfare function is defined in absolute harm, so we should actually calculate the absolute harm first.
その数学的な定式化は次式を導く: P ( R A ← a = 1 | A = a , X = x ) = P ( R A ← b = 1 | A = a , X = x ) , ∀ a , b ; {\displaystyle P(R_{A\leftarrow a}=1\ |\ A=a,X=x)=P(R_{A\leftarrow b}=1\ |\ A=a,X=x),\quad \forall a,b;}
ここに:機微属性が A = a {\displaystyle A=a} でその他の特徴が X = x {\displaystyle X=x} であるランダムな個人 と、 A = b {\displaystyle A=b} を有する同じような個人について、彼らは承認になる機会が同じになるべきであるとする。