公平性 (機械学習)
上記に与えた三つの定義に関する主要な結果を要約すると:
Y {\textstyle Y} が二値判別的であることを考えると、もし A {\textstyle A} と Y {\textstyle Y} が独立でなく、かつ R {\textstyle R} と Y {\textstyle Y} が独立でもなければ、独立性と分離性はともに保たれない。
もし同時分布としての ( R , A , Y ) {\textstyle (R,A,Y)} がすべてのそのとりうる値についての'陽確率'(英: positive probabirity)をもち、かつ A {\textstyle A} と Y {\textstyle Y} が独立でないならば、分離性と充分性はともに保たれない。
公平性の定義における重要なひとつ大きな差異は集団と個別の概念の間のものである 。率直にいえば、集団公平性規準が、たいてい機微属性(たとえば、性別、民族、年齢、その他...)によって識別する、集団水準で数量比較するのに対し、個別規準は諸個人を比較する。言い換えれば、その規準は「似通った諸個人は似通った処理をすべきである」ことに従う。
不知を通した公平性(英: Fairness Through Unawareness、略してFTU)と通常称されるもの、あるいは(自動的な)決定を行う際に陽に機微特徴を用いないことを規定するものである、'無分別'(英: Blindness)によるものである、公平性に対するとても直観的な取り組み方がある。二人の個人が、その同じ結果を受け入れるような彼らの機微属性の値についてだけ異なっているため、これは個別公平性の概念に有効である。
機械学習における公平性の議論は比較的最近の論点である。2016年からその論点における研究で急な増加があった。この増加はある程度アメリカ合衆国の裁判所で累犯を予測するのに広く用いられる、 COMPASソフトウェアが、人種上のバイアスであること主張するところの、プロパブリカによる影響力のある報告とみなされる。一つの研究の論点および議論は、機械学習のモデルを判断するには困難にさせるものである、普遍性をもった定義は無くそして異なった定義はたがいに矛盾しうるものとしての、公平性の定義である。他の研究の論点は、発生論(英: origins of bias )、類型論(英: types of bias )、および低減方法論(英: methods to reduce bias)を含む。
近年高度な技術を持った企業は機械学習でのバイアスの探知と低減の方法に関する道具(ソフトウェアツール、略してツール)と取扱書をつくらせた。ソフトウェアバイアスを低減しその公平性を上昇させる特別なアルゴリズムをもったPythonとR言語のツールをIBMは持っている。Googleは機械学習でのバイアスを研究し撃退する指針とツールを発表した。フェイスブックは彼らのツールの利用、公平性の流れ(英: Fairness Flow)、彼らの人工知能でのバイアスの探知を報告した。しかしながら、それら企業の努力は十分でなく、そのような従業員によるツールの少しの利用を報じることは、ツールの利用が選択的であっても、そしてそれが可能であっても、すべての彼らのプログラムにたいして使うことはできないことを、論評者たちは主張した。
分類問題において、アルゴリズムは、既知の特性 X {\textstyle X} から、目的の変数である、離散的な特性 Y {\textstyle Y} を予測する関数を学習する。 A {\textstyle A} を、含まれた幾つかの特性を変換するかまたは、機微な特性(性別、民族、性的指向、その他)として考える X {\textstyle X} において'陰的に'(英: implicitly )変換するものである、離散的な確率変数とする。最後に、分類子(英: classifier)の予測を R {\textstyle R} で記す。 今、幾つかのこれら機微な変数によって影響されない予測であるかどうか、与えられた分類子が公平であるならば、三つの主な評価規準を定義する。