公平性 (機械学習)

機械学習における公平性（こうへいせい、）は、機械学習モデルを用いた自動意思決定の過程でのアルゴリズムバイアスを是正する取り組みのことを指す。機械学習のプロセスを経たコンピュータによる意思決定が機微なに基づいている場合、そのような意思決定は不公平とみなされる場合がある。機微な変数の具体例には、性別、民族、性的指向、障害の有無などが挙げられる。他の多くの倫理的な概念と同様に、公平性やバイアスの定義は常に論争の的となってきた。一般に、意思決定が人々の生活に影響を与える場合、公平性やバイアスの問題が重要になってくると考えられる。機械学習の分野では、アルゴリズムバイアスの問題はよく知られており、広く研究の対象となっている。結果は多様な要素によって歪められ、特定の集団や個人にとって不公平とみなされる場合がある。このような事例の例として、ソーシャルメディアサイトがパーソナライズされたニュースを消費者に配信する場合などが挙げられる。
背景.
機械学習における公平性の議論は比較的最近の論点である。2016年からその論点における研究で急な増加があった。この増加はある程度アメリカ合衆国の裁判所で累犯を予測するのに広く用いられる、COMPASソフトウェアが、人種上のバイアスであること主張するところの、プロパブリカによる影響力のある報告とみなされる。一つの研究の論点および議論は、機械学習のモデルを判断するには困難にさせるものである、普遍性をもった定義は無くそして異なった定義はたがいに矛盾しうるものとしての、公平性の定義である。他の研究の論点は、発生論（）、類型論（）、および低減方法論（）を含む。
近年高度な技術を持った企業は機械学習でのバイアスの探知と低減の方法に関する道具（ソフトウェアツール、略してツール）と取扱書をつくらせた。ソフトウェアバイアスを低減しその公平性を上昇させる特別なアルゴリズムをもったPythonとR言語のツールをIBMは持っている。Googleは機械学習でのバイアスを研究し撃退する指針とツールを発表した。フェイスブックは彼らのツールの利用、公平性の流れ（）、彼らの人工知能でのバイアスの探知を報告した。しかしながら、それら企業の努力は十分でなく、そのような従業員によるツールの少しの利用を報じることは、ツールの利用が選択的であっても、そしてそれが可能であっても、すべての彼らのプログラムにたいして使うことはできないことを、論評者たちは主張した。
論争.
法律上のシステムでのアルゴリズム的な意思決定の利用は、吟味のもとでの利用での注目に値する領域でありつづけてきた。2014年に、アメリカ合衆国司法長官エリック・ハンプトン・ホルダーは、「リスクアセスメント」の方法が、被告の教育水準や社会経済的背景のような、彼らの管理の下ではない要因に過度に焦点をあてさせるかもしれないという問題を提起した。COMPASに関するプロパブリカによる2016年の報告は、黒人の被告が白人の被告よりもたいてい二度高リスクとして誤って分類される可能性が高く、これに対して白人において逆の誤りがなされることを主張した。COMPASの製作者の、Northepointe Inc.は、彼らのツールが公正でプロパブリカが統計的誤りをしたことを主張して、その報告と争った。これは引き続きプロパブリカにより再度反論された。
集団公平性規準.
分類問題において、アルゴリズムは、既知の特性formula_1から、目的の変数である、離散的な特性formula_2を予測する関数を学習する。formula_3を、含まれた幾つかの特性を変換するかまたは、機微な特性（性別、民族、性的指向、その他）として考えるformula_1において'陰的に'（）変換するものである、離散的な確率変数とする。最後に、分類子（）の予測をformula_5で記す。
今、幾つかのこれら機微な変数によって影響されない予測であるかどうか、与えられた分類子が公平であるならば、三つの主な評価規準を定義する。
独立性.
確立変数formula_6が、もしその機微な特性変数formula_3が予測子formula_5 と確率的に独立であるとき、独立性を満たすと呼び、
formula_9
と記す。この記法は次の式でも表すことができる：
formula_10
これは、各々の目的クラスの分類比率は機微な特性変数formula_11を尊重する異なった集団に属する人々に等しいことを意味する。
分離性.
確立変数formula_12が、もしその機微な特性変数formula_3が目的変数formula_2によって与えられる予測子formula_5 と確率的に独立であるとき、分離性を満たすと呼び、
formula_16
と記す。この記法は次の式でも表すことができる：
formula_17
これは、機微な属性formula_11に関する判別 formula_19のすべての独立性は真の目的変数formula_20の実際の独立性と一致されなくてはならないことを意味する。
充分性.
確立変数formula_12が、もしその機微な特性変数formula_3が予測子formula_5によって与えられる　目的変数formula_2と確率的に独立であるとき、充分性を満たすと呼び、
formula_25
と記す。この記法は次の式でも表すことができる：
formula_26
定義の間の関係.
上記に与えた三つの定義に関する主要な結果を要約すると：
集団公平性の定義の数学的定式化.
基本定義.
公平性の統計的測定の多くは異なった計測にあるので、それらを定義することから始める。二値の分類による作業の場合、予測のものと実際の両方の分類は二つの値をとり得る：陽値と陰値。予測と実際の結果の間の、異なった可能な関係の説明から今始める：
次の規準はこの節の最初の、独立性、分離性、充分性の三つの主な定義の計測として理解できる。
右の表において、それらの間の関係をみることができる。
予測結果に基づく定義.
この節における定義は客体の多様な確率分布についての予測結果formula_5に焦点をあてる。これらは最も単純で最も直接的な公平性の記述である。
formula_36
予測と実際の結果に基づく定義.
これらの定義は予測結果formula_5だけでなく、それを実際の結果formula_2と比較することも考慮する。
formula_39
予測された確率と実際の結果に基づく定義.
これらの定義は実際の結果formula_2とその予測された確率得点formula_41に基づく。
formula_43
社会的厚生関数.
何人かの学者はアルゴリズム的公平の定義を社会的厚生関数の術語で提示した。社会的厚生関数の使用は、アルゴリズムによって影響を受ける人々についての効用の用語をもって、アルゴリズムの設計者に公平性を考慮にいれ正確さを予測するようにさせることを彼らは主張する。それは設計者に原則的な方法での効率性と公平性（）の一得一失をさせる。
アルゴリズム設計者は恵まれない集団の絶対的な利得を認識するために社会的厚生関数を使うべきであることをは述べた。例えば、犯罪の割合が一定である間も、純粋に人間による判定（）よりも、黒人、ヒスパニック、など人種的少数派全般に対する拘留率を引き下げる、未決拘禁での意思決定アルゴリズムを使う研究が見られる。
個別公平性規準.
公平性の定義における重要なひとつ大きな差異は集団と個別の概念の間のものである
。率直にいえば、集団公平性規準が、たいてい機微属性（たとえば、性別、民族、年齢、その他…）によって識別する、集団水準で数量比較するのに対し、個別規準は諸個人を比較する。言い換えれば、その規準は「似通った諸個人は似通った処理をすべきである」ことに従う。
因果関係にもとづく測定.
因果性公平性（）は、どちらのリソースの割り当てが公正な個人的な処理の受け入れに公平であるかの尊重をもった、特性の或る組み合わせにおいてだけ異なる者の、二つの似通った個々の利用者またはアプリケーションのものによる度数を測定する。
バイアス軽減戦略.
3つの異なった方法により機械学習アルゴリズムに公平性を施しうる：データ前処理、ソフトウェアの学習（）における数理最適化、もしくはアルゴリズムの後処理の結果。
前処理.
大抵、分類は単独では問題ではない；データセットもバイアス化されている。formula_44と尊重するデータセットformula_45の差別は次のように定義される：
formula_46
再計量.
再計量（）は前処理アルゴリズムの一例である。その考え方は、
指定された集団の尊重による計量された差別が0になるように、各々のデータセットにある計量を割り当てることである。
センシティブ変数formula_3をデータセットformula_45が差別せず、目的変数formula_2が独立で、同時分布の確率が次のような確率の積であるならば：
formula_50
処理中に行う方法.
別の対処法は学習時にバイアスを直すことである。アルゴリズムの最適化をする目標に対して制約を課することによりこれはなされうる。
突出したバイアスの除去.
同じ最急降下による方法（最急降下法を見よ）を通じて同時に二つの分類を矯正する。
後処理.
最後の方法は公平を達成する分類の結果を修正することを試みる。この方法では、各々の個人に対する得点を返すような分類を用い、そしてそれらについての2値の推測（）を必要とする。低い得点が否定的なものを得そうなのに対して、高い得点は肯定的な結果を得そうにみえる、しかし、望む場合に然りと答えるように、その決定をするようなを調整することができる。その閾値の値の変動は真の正のものと真の負のものにおける一得一失に影響を与えることに注意せよ。
選択的な分類を避けること.
formula_51を、事例formula_1が正あるいは積極的な分類に属するところの確率としての分類により計算される確率とするような、分類を考える。 formula_51が1もしくは0に近い場合、その事例 formula_1は高い頻度をもって一定のプラスかマイナスに属する。けれども、formula_51が0.5に近いならば分類が大きく不確かになる。